AI 환각 Hallucination 원인 – 왜 AI는 자신 있게 거짓말을 할까
AI 환각 Hallucination 원인을 한 문장으로 요약하면 이렇습니다. “AI는 진실을 말하도록 설계된 것이 아니라, 그럴듯한 다음 단어를 예측하도록 설계되었기 때문입니다.” ChatGPT에게 존재하지 않는 논문을 물어보면 실제처럼 들리는 제목과 저자명을 당당히 답합니다. 없는 법률 조항을 인용하고, 죽은 사람을 살아있다 하고, 역사적 사실을 뒤섞습니다. 그러면서도 조금도 망설임이 없습니다. 이 섬뜩한 현상의 메커니즘, 원인, 그리고 현실적인 해결책을 이 […]