안녕하세요, GPT AI 언어 데이터 기업 플리토 Flitto입니다.​요즘 챗GPT를 비롯한 생성형 AI가 일상 곳곳에서 활발히 사용되고 있습니다. 텍스트 생성은 물론, 저번 포스팅에서 소개해 드린 지브리풍 AI 이미지 제작까지 인기를 끌며, 생성형 AI는 이제 우리 일상의 일부가 되었는데요.​생성형 AI는 매우 편리하고 다양한 측면에서 도움이 되지만, 결코 간과할 수 없는 치명적인 단점도 존재합니다. 바로, AI가 실제로는 존재하지 않는 정보나 엉뚱한 내용을 마치 진짜인 것처럼 말하는 'AI 할루시네이션(Hallucination)'또는 'AI 환각'현상입니다. 이 현상은 단순히 출력값 오류가 아닌, 사용자가 진실로 오해할 수 있다는 점에서 주의가 필요합니다. 실제로 오픈AI의 최신 추론형 AI 모델 'o3', 'o4-mini'는 수학·코딩 등 벤치마크 성능이 향상되었음에도 불구하고, 환각률이 각각 33%, 48%로 오히려 기존 대비 두 배 이상 증가했다고 GPT 합니다. ​이에 이번 포스팅에서는, AI 시대를 살아가는 우리가 챗GPT와 같은 생성형 AI를 더욱 현명하게 활용할 수 있도록 AI 할루시네이션이 무엇인지, 왜 발생하는지, 그리고 이를 줄일 수 있는 방법까지 함께 알아보겠습니다.