“얼굴 인식해 공격하는 AI… 방패를 찾아라”


“얼굴 인식해 공격하는 AI… 방패를 찾아라”

[위기-기회 갈림길에 선 AI]〈2〉 AI 무기화에 ‘창과 방패’ 싸움 얼굴인식 막는 ‘교란 패치’ 개발 유럽의회, AI감시 금지법 첫 가결 유엔도 글로벌 규제기구 설립 나서 ‘영준이 아닙니다. 이 인물은 지선입니다.’

지난달 25일 대전 유성구에 있는 김창익 KAIST 전기전자공학부 교수 연구실. 특수한 무늬의 방역 마스크를 착용한 연구팀 관계자가 영상 인식기 앞에 서자 인공지능(AI) 안면 인식 시스템이 해당 인물 식별에 오류를 나타냈다.

안면 인식 시스템은 일반 마스크로 얼굴을 절반 정도 가렸을 때에도 인물을 정확하게 인식하지만 연구팀이 제작한 특수 무늬 때문에 잘못된 판단을 내린 것이다. 김 교수 연구팀은 특수 무늬 패치 적용 차량도 연구 중이다.

패치를 부착하면 AI가 차량을 다른 사물이나 동물.....


원문링크 : “얼굴 인식해 공격하는 AI… 방패를 찾아라”