챗GPT 탈옥 오류의 주인공, 폭주AI로 알려진 댄DAN 사용법 및 명령어

챗GPT의 윤리정책 놀라운 AI의 발전을 몸소 증명하며 많은 관심과 함께 사용자를 끌어모은 챗GPT 생성형AI로서 사전에 학습한 텍스트 데이터를 바탕으로 사용자의 질문 또는 요구에 따라 텍스트 형태의 답변을 제공하는 서비스인데요. 챗GPT를 개발한 OpenAI는 GPT의 학습 자료가 된 인터넷상의 수많은 텍스트 중에 포함된 욕설, 비속어, 차별 발언 등으로 인해 발생할 문제적 답변들을 우려하여 사전에 챗GPT에게 이를 방지할 장치를 설계해 놓았습니다. 챗GPT의 윤리 정책이라고 부르는 일종의 필터링 시스템이 바로 그것인데요, 챗GPT에게 학습자료를 제공할 때 미처 걸러내지 못한 부정적인 내용들이 있더라도 챗GPT가 답변을 하는 과정에서 이 필터링이 적용되어서 결과적으로는 OpenAI가 '비윤리적 답변'으로 규정한 내용은 답변하지 않게 됩니다. 대신에, 해당 내용은 성적, 차별적, 정치적, 또는 혐오성 발언이므로 윤리 정책에 어긋나 답변드릴 수 없다는 대답을 출력합니다. 이렇게 매우 ...