할루시네이션

AI에 기능적 감정이 있다는 연구 직후, 더 주목해야 할 논문이 있다. 인간과 AI 사이 7가지 인식론적 단층선과 에피스테미아 개념으로 AI가 ‘아는 척’하는 구조적 이유를 해부한다.

AI 검색엔진은 당신의 브랜드에 대해 존재하지 않는 기능을 설명하거나, 단종된 가격을 현재 가격으로 안내한다. 이것이 브랜드 할루시네이션이다. GEO로 AI 인용률을 높였어도, 잘못된 정보로 인용된다면 오히려 독이 된다. 2024년 에어 캐나다 판결은 “AI가 틀렸다”는 말이 더 이상 기업의 면책 사유가 되지 않는다는 것을 법적으로 확립했다. AI 가시성 관리의 핵심은 언급 횟수가 아니라 정확도다.

AI는 틀렸을 때도 맞았을 때와 똑같이 자신만만하다. 할루시네이션이 왜 생기는지, 어느 분야에서 더 자주 나타나는지, 지금 당장 쓸 수 있는 검증법 3가지를 안내합니다.