AI 할루시네이션이란?
1. AI 할루시네이션이란? 정의 AI 할루시네이션이란, 인공지능이 그럴듯하지만 사실이 아닌 정보를 생성하는 현상 을 말합니다. 이는 사람이 착각이나 망상을 하는 것처럼, AI가 잘못된 ‘상상’을 기반으로 출력을 만들어내는 것 을 의미합니다. 예시: 존재하지 않는 인물의 인용문 생성 실제 존재하지 않는 논문이나 보고서 언급 잘못된 사실을 자신있게 단정함 2. 왜 AI는 할루시네이션을 하는가? 2-1. LLM의 작동 원리 대부분의 언어모델(GPT, Claude, Gemini 등)은 아래 원리로 작동합니다: 주어진 문맥(context)에서 가장 가능성 높은 다음 단어(token) 를 예측하여 문장을 생성한다. 이 과정은 확률적 통계 기반 이며, AI는 "이 말이 사실인가?"가 아닌, " 이 문맥에 가장 어울리는 단어는 뭘까? "에 집중합니다. 👉 따라서, 문법적·문맥적으로 자연스럽지만 사실과 무관하거나 허구인 내용 이 만들어질 수 있습니다. 2-2. 학습 데이터의 한계 LLM은 인터넷, 책, 위키, 뉴스 등으로부터 방대한 데이터를 학습합니다. 하지만 이 중에는 오류, 편향, 오래된 정보 도 포함되어 있으며, 어떤 정보는 출처가 불명확하거나 **단순 반복으로 인해 과대표현(overfitting)**될 수 있습니다. 2-3. 훈련되지 않은 영역에 대한 추론 모델이 알지 못하는 정보를 요구받을 경우, "없는 내용을 그럴듯하게 만들어내는" 방식으로 대응합니다. 예를 들어, “대한민국 대통령 이재명에 대해 알려줘” (2025년 현재 사실 아님) → 모델이 이재명을 대통령으로 간주하고 설명을 생성할 수 있음 3. AI 할루시네이션의 유형 유형 설명 예시 사실 오류 실제와 다른 정보 생성 “서울은 미국의 수도입니다.” 허구의 인용/논문 존재하지 않는 문서, 사람, 숫자 언급 “존 스미스의 2021년 논문에 따르면…” (존재하...