Chat GPT가 거짓말을 한다? 다른 AI 모델들은?많은 사람들이 인공지능과 대화하다가 사실과 전혀 다른 답변을 들어본 경험이 있을 겁니다. 더 놀라운 건, 그 답변이 마치 진짜인 것처럼 자신감 넘치게 나온다는 것입니다.예를 들어, 존재하지 않는 논문을 만들어낸다든지, 실제로 없는 사건을 사실처럼 설명하는 경우가 있습니다. 이런 현상을 우리는 AI 환각(Hallucination)이라고 부릅니다. 단순한 버그일까요? 아니면 인공지능의 구조적 한계일까요? 이번 글에서는 최신 연구 논문(Why Language Models Hallucinate?)을 토대로, 왜 언어모델(LLM)이 환각을 일으키는지, 그 메커니즘과 근본 원인을 알기 쉽게 설명해 드리겠습니다. 그리고 AI는 왜 모른다고 말하지 않을까?라는 흥미..