목소리 복제하는 AI 음성 비서, 금융권 본인 인증도 뚫는다

최근 삼성이 발표한 갤럭시 S 스마트폰 시리즈에 공상과학 영화가 아니라 현실이다. S23, S23+. S23 울트라 스마트폰에 탑재된 음성 비서 빅스비를 훈련시키면 통화 중 사용자의 목소리를 그대로 모방한다. 전화 통화 중 사용자가 말을 할 수 없는 상황이 되면 텍스트를 입력해서 인공지능 비서가 사용자의 목소리로 텍스트를 읽어주는 방식으로 기능하다. 이 환상적인 기능에는 이면이 있다. 훈련으로 모방하는 AI 음성은 악용될 소지가 너무 많다. 삼성이 제품을 발표한 당일 바로 바이스 기 술 지면인 마더보드(Motherboard)는 AI로 기자의 음성을 훈련시키고, 은행 콜 뱅킹 서비스에서 기자 본인인 것처럼 AI 음성 파일을 재 생했고 본인 인증에 성공했다. 전문가들은 수 년간 음성 인증의 취약점을 경고했다. AI 기반 도구가 널리 쓰이기 전에는 녹음 파일로 우회하는 방법이 쓰였다. 광고나 영업 전화를 건 후 “네”라고 말할 수밖에 없는 기본적인 질문을 던져 사용자의 음성을 녹음하는 것...

원문링크 : 목소리 복제하는 AI 음성 비서, 금융권 본인 인증도 뚫는다