생성 AI 거짓 정보 생성, 할루시네이션이란?

안녕하세요. VivaNova입니다. 챗GPT와 같이 생성형 AI를 한마디로 정의하면, '사람들의 요구에 맞게 창작하는 인공지능'이라고 할 수 있습니다. 이 요구를 우리는 프롬프트라고 부르고 있고, 생성형 AI (Generative AI)는 학습한 데이터와 이 프롬프트를 기반으로 새로운 결과물을 만들어 줍니다. 할루시네이션 (hallucinataion)이 뭔가요? 챗GPT와 몇 번 대화를 주고받으시면 가끔씩 그럴듯하게 뻥을 쳐서 놀랄 때가 많습니다. 사실 챗GPT와 같은 생성형 AI는 '정보를 찾는 것'이 아닌 '통계적으로 적절한 문장을 생성해 내는 것'에 불과하기 때문에 우리는 이런 한계를 알고 챗GPT를 다뤄야 하겠습니다. 혹시 '세종대왕의 맥북프로 던짐 사건'에 대해 들어보셨나요? 출처: 한국일보 이처럼 생성형 AI가 잘못된 정보를 사실인 양 답변하는 현상을 ‘할루시네이션(hallucinationㆍ환각)’이라고 합니다. 전문가들은 역설적으로 챗GPT의 우수성에서 원인을 찾습니다....

원문링크 : 생성 AI 거짓 정보 생성, 할루시네이션이란?