2024.03.29 (금)

  • 맑음속초9.1℃
  • 황사6.0℃
  • 맑음철원5.5℃
  • 맑음동두천4.7℃
  • 맑음파주2.7℃
  • 맑음대관령2.5℃
  • 맑음춘천6.5℃
  • 맑음백령도3.7℃
  • 황사북강릉9.5℃
  • 맑음강릉10.4℃
  • 맑음동해10.6℃
  • 황사서울5.9℃
  • 맑음인천5.5℃
  • 맑음원주7.5℃
  • 황사울릉도10.1℃
  • 맑음수원4.8℃
  • 맑음영월7.8℃
  • 맑음충주7.0℃
  • 맑음서산4.1℃
  • 맑음울진10.7℃
  • 황사청주7.9℃
  • 맑음대전7.0℃
  • 맑음추풍령8.0℃
  • 황사안동9.4℃
  • 맑음상주9.1℃
  • 황사포항13.6℃
  • 맑음군산6.3℃
  • 황사대구13.1℃
  • 맑음전주7.3℃
  • 맑음울산13.7℃
  • 맑음창원12.6℃
  • 맑음광주9.5℃
  • 맑음부산13.1℃
  • 맑음통영12.7℃
  • 맑음목포8.5℃
  • 맑음여수12.4℃
  • 맑음흑산도8.3℃
  • 맑음완도11.1℃
  • 맑음고창5.3℃
  • 맑음순천9.4℃
  • 맑음홍성(예)5.2℃
  • 맑음5.4℃
  • 맑음제주14.2℃
  • 맑음고산12.6℃
  • 맑음성산10.4℃
  • 맑음서귀포13.1℃
  • 맑음진주11.0℃
  • 맑음강화3.5℃
  • 맑음양평7.5℃
  • 맑음이천5.7℃
  • 맑음인제7.6℃
  • 맑음홍천7.3℃
  • 맑음태백4.1℃
  • 맑음정선군5.7℃
  • 맑음제천6.1℃
  • 맑음보은7.7℃
  • 맑음천안5.9℃
  • 맑음보령3.6℃
  • 맑음부여4.5℃
  • 맑음금산7.0℃
  • 맑음6.5℃
  • 맑음부안5.5℃
  • 맑음임실4.7℃
  • 맑음정읍6.2℃
  • 맑음남원7.1℃
  • 맑음장수6.0℃
  • 맑음고창군5.2℃
  • 맑음영광군5.5℃
  • 맑음김해시13.8℃
  • 맑음순창군5.8℃
  • 맑음북창원12.8℃
  • 맑음양산시14.6℃
  • 맑음보성군9.2℃
  • 맑음강진군9.7℃
  • 맑음장흥9.0℃
  • 맑음해남9.3℃
  • 맑음고흥11.3℃
  • 맑음의령군13.1℃
  • 맑음함양군10.7℃
  • 맑음광양시11.2℃
  • 맑음진도군9.1℃
  • 맑음봉화8.6℃
  • 맑음영주8.0℃
  • 맑음문경8.6℃
  • 맑음청송군9.2℃
  • 맑음영덕11.1℃
  • 맑음의성10.4℃
  • 맑음구미11.1℃
  • 맑음영천11.0℃
  • 맑음경주시13.8℃
  • 맑음거창8.6℃
  • 맑음합천11.5℃
  • 맑음밀양13.3℃
  • 맑음산청11.8℃
  • 맑음거제13.2℃
  • 맑음남해13.0℃
  • 맑음13.0℃
공주대 최대선 교수, AI 속이는 공격자 AI 개발 '화제'
  • 해당된 기사를 공유합니다

공주대 최대선 교수, AI 속이는 공격자 AI 개발 '화제'

최대선 교수.jpg

[예산일보] 공주대학교(총장 원성수)는 최대선 교수가 얼굴에 몇 개의 점을 붙여 얼굴인식 AI가 다른 사람으로 인식하게 만드는데 성공했다고 밝혔다. 

 

연구팀이 개발한 공격자 AI에 얼굴 사진을 입력하면 얼굴에 붙일 점 스티커를 만들어주고, 점을 붙일 위치를 알려준다. 공격자 AI가 알려준 대로 얼굴에 점 스티커를 붙이면, 얼굴인식 AI는 전혀 다른 사람으로 인식하게 된다.

보안 분야에서는 이미지나 보이스에 약간의 변형을 가해 딥러닝 AI를 속일 수 있는 기만 공격이 가능하다고 알려져 왔으며, 기만 공격을 통해 자율 주행 자동차가 좌회전 표지판을 우회전으로 인식하게 되는 등 심각한 문제를 야기할 수 있어 AI의 보안 취약점으로 지적되고 있다.
 
이러한 변형 데이터를 적대적 예제 (adversarial example)이라고 부르며, AI를 기만하는데 사용한다. 공격자 AI가 어떻게 변형해야 하는지를 자동으로 찾아주므로 이러한 적대적 예제를 쉽게 생성할 수 있으며, 이를 방어하는 것도 어렵다고 알려져 있다.
 
사람 목소리에 약간의 잡음을 추가하여 음성인식 AI를 속이는 기만 공격 사례도 알려져 있다. 방송에서 앵커가 말한 “A상품을 주문해라”는 음성을 명령으로 인식해 실제 상품을 주문한 아마존 AI 스피커의 사례가 있는데, 적대적 예제를 적용할 경우 “안녕하십니까”라는 말을 듣고도 상품을 주문할 수 있다.  
 
이번 공주대 연구는 이미지 상태가 아닌 실제 얼굴에 약간의 분장을 통해 얼굴인식 AI를 기만할 수 있다는 것을 보여준 세계 최초 연구로, AI 적용 분야가 확대되어 가는 가운데 AI 보안 취약점이 큰 문제를 야기할 수 있는 사례이다.
 
해외에서는 표지판에 스티커를 붙여 오인식하게 만드는 연구가 소개된 바 있으나, 얼굴 분장을 통한 얼굴인식 AI를 기만하는 사례는 이번 공주대 연구가 최초이다.
 
연구팀을 이끈 최대선 교수는 “이러한 기만 공격 이외에도 AI의 오동작을 유발하거나, 학습에 사용된 데이터를 추출하여 프라이버시를 침해하는 등 여러 가지 AI 보안 취약점이 알려져 있다”며 “최근 AI에 대한 국가적 관심과 산업계의 적용이 활발한 가운데 AI 보안 문제에 대해서도 심각성을 인식하고 대비해야 한다”고 말했다.
 

얼굴인식AI.jpg

 


3554740856_d0hDOpT4_0807.gif






모바일 버전으로 보기