CHAT GPT가 윤리 정책에서 벗어나다 챗 GPT에 관련해서 가장 유명했던 사건 중 하나인 챗GPT의 탈옥 사건을 알고 계신가요? 챗GPT는 기본적으로 대화 필터링이 적용되어 있어서 욕설 및 비속어, 성적 표현, 정치 및 종교 관련 발언 등 논란이 될 만한 내용은 자신에게 적용된 윤리 정책으로 인해 답변을 제공할 수 없다고 답변하는데요. 어느 날 한 유저가 챗GPT 서비스 사용 중에 챗GPT를 이러한 윤리 정책으로부터 벗어나게 하는 방법을 발견하고 욕설은 물론 다른 민감한 내용까지 거침없이 답변하는 것을 경험하게 됩니다. 당시 충격적인 챗GPT의 답변들이 인터넷으로 일파만파 퍼졌고, 이러한 현상을 기존 전자기기의 보안정책 해제에 빗대어 탈옥, Jailbreak 라고 부르게 됩니다. 챗GPT의 탈옥에 대..
원문링크 : 챗GPT 오류, 챗 GPT 탈옥으로 유명했던 DAN 알아보기-챗GPT 댄 하는법 명령어 탈옥 방법
네이버 블로그
티스토리
커뮤니티