[AI에게 보이기 2] AI가 당신의 브랜드에 대해 거짓말을 한다: 브랜드 할루시네이션

AI 검색엔진은 브랜드에 대해 자신 있게 틀린 답변을 한다. 존재하지 않는 기능, 단종된 가격, 다른 회사의 제품을 우리 것처럼. 이것이 브랜드 할루시네이션이다. 에이릿 AI에게 보이기 시리즈 2편은 브랜드 할루시네이션이 왜 발생하는지, 어떤 피해를 만드는지, 그리고 기업이 무엇을 할 수 있는지를 다룬다.

챗지피티에 경쟁사 이름을 입력해본 적 있는가. 한 번 해보라. 아마 그 회사의 제품, 가격, 주요 서비스가 척척 나올 것이다. 그런데 내 회사 이름을 입력하면 어떤가. AI는 여전히 자신감 있는 말투로 우리 회사를 소개할 것이다. 그런데 어라? 어쩌면 다른 내용이 나올 수 있다. 별 거 아닌데 몹시 과장한다거나 주요 현안과 타겟에 대해 관점이 틀렸다거나 본질을 알리지 못하는 것이다. 여기서 한 번 뒤집어 생각해볼만 하다. 그럼 경쟁사 건 제대로 나왔나?

문제는 이걸 나 혼자 본다는 게 아니다. AI는 우리 회사를 찾는 또 다른 사람에겐 또 다르게 설명할 지도 모른다. 그는 어쩌면 우리 회사에 대해 오해를 할 것이다. 좋은 방향이든, 좋지 않은 방향이든. 그건 우리가 알 수 없다.

이것이 브랜드 할루시네이션(brand hallucination)이다. AI 검색엔진이 특정 브랜드에 대해 틀리거나, 과장됐거나 오해한 정보를 사실처럼 생성하는 현상이다. 존재하지 않는 제품 기능을 설명하거나, 단종된 가격을 현재 가격으로 안내하거나, 심한 경우 이름이 비슷한 다른 회사 건을 우리 회사라고 우길 수도 있다.

에이릿 ‘AI에게 보인다는 것’ 시리즈 1편에서 다뤘듯, AI 검색엔진이 인용하는 출처의 82%는 기업이 직접 통제할 수 없는 외부 언드 미디어(earned media)다. AI는 내가 만든 공식 콘텐츠보다 언론 보도, 리뷰, 커뮤니티 게시물을 더 많이 참조한다. 그 외부 콘텐츠가 오래됐거나, 부정확하거나, 다른 회사와 혼동된 정보를 담고 있더라도 AI는 그걸 그대로 답변에 집어넣는다.

GEO(생성형 검색 엔진 최적화)는 “AI에게 인용되게 하는 방법”을 다룬다. 그런데 인용은 됐는데 잘못된 정보로 인용된다면? 이것이 AI 가시성에서 가장 위험한 함정이다.

왜 AI는 틀린 내용을 자신 있게 말하는가

솔직히 AI 검색엔진이 거짓말을 하는 것은 아니다. 정확하게 말하면 AI는 사실인지 거짓인지를 모른다. 대형 언어 모델(LLM, Large Language Model)은 엄청난 텍스트 데이터에서 패턴을 학습한다. AI가 답변을 생성하는 방식은 “다음에 올 가장 그럴듯한 단어를 예측하는 것”이다. 사실을 검색하고 확인하는 것이 아니라, 학습 데이터의 패턴에서 통계적으로 가장 자연스러운 문장을 생성한다. 이 구조에서 정확도는 보장되지 않는다.

MIT를 비롯한 여러 연구에서 대형 언어 모델이 틀린 정보를 생성할 때도 맞는 정보를 생성할 때와 동일하거나 더 높은 자신감을 보인다는 사실을 드러났다. 이용자는 AI의 어조를 보고 신뢰도를 판단하는데, AI는 틀릴 때도 자신 있게 말한다.

AI가 브랜드에 대해 할루시네이션을 일으키는 세 가지 구조적 원인이 있다.

첫째, 학습 데이터의 시간 지연이다. AI 모델은 특정 시점의 웹 데이터를 학습한다. Ahrefs가 1,700만 건의 AI 인용 링크를 분석한 결과 AI가 인용하는 콘텐츠의 평균 수명은 1,064일, 약 3년이다. 2023년에 출시된 제품 라인업, 2022년의 가격 정책, 작년에 변경된 서비스 약관, AI는 이것을 현재 정보처럼 답변한다. 아, 물론 AI가 훈련한 모델이 몇 달 전의 데이터라서 그럴 수도 있다.

둘째, 브랜드 정보가 많지 않거나, 아니면 너무 많아서다. 위키피디아 항목이 없고, 언론 보도가 적고, 리뷰가 부족한 중소기업이나 B2B 기업의 경우 AI가 참조할 권위 있는 출처가 부족하다. 이때 AI는 비슷한 이름의 다른 회사 정보, 경쟁사 정보, 또는 아예 존재하지 않는 내용으로 공백을 채운다.

셋째, 잘못된 외부 콘텐트 때문이다. AI는 내가 만든 공식 페이지보다 언론 보도, 리뷰 사이트, 비교 콘텐츠를 더 많이 참조한다. 그 외부 콘텐츠가 잘못된 정보를 담고 있으면 AI는 그 오류를 증폭시킨다. 실제로 큰 회사들은 온갖 소문이 떠돈다. AI는 올타꾸나 이걸 집어 가져온다.

법정에 선 할루시네이션: 에어 캐나다 판결

브랜드 할루시네이션이 구체적으로 피해를 끼친 사례가 있다. 2024년 2월 캐나다 브리티시컬럼비아주 민사조정위원회가 내린 판결이다.

2022년 11월, 제이크 모팻(Jake Moffatt)은 할머니의 부고를 받고 에어 캐나다(Air Canada) 웹사이트에서 항공권을 예약했다. 그는 챗봇에 조문 할인 운임 정책을 문의했고, 챗봇은 “항공권 구매 후 90일 이내에 소급 신청이 가능하다”고 답변했다. 모팻은 정가로 티켓을 구매하고 귀국 후 환불을 신청했다. 에어 캐나다의 답변은 달랐다. “할인 운임은 구매 전에 신청해야 하며 소급 적용은 불가능하다.”

모팻이 소송을 제기하자 에어 캐나다는 “챗봇은 별도의 법적 주체로, 그 행동에 대해 회사는 책임이 없다”고 주장했다. 조정위원회는 이를 “놀라운 주장”이라고 표현하며 기각했다. 판결문엔 이렇게 썼다. “챗봇이 상호작용 기능을 갖추고 있더라도, 그것은 에어 캐나다 웹사이트의 일부다. 정보가 정적 페이지에서 나왔는지 챗봇에서 나왔는지는 중요하지 않다.” 에어 캐나다는 812.02캐나다달러를 배상하라는 판결을 받았다. 이 판결 이후 에어 캐나다는 챗봇 서비스를 종료했다.

이 판결이 중요한 이유는 배상금의 규모 때문이 아니다. 법원이 처음으로 “AI가 틀렸어도 기업이 책임진다”는 원칙을 명확하게 확립했기 때문이다. AI가 잘못된 정보를 생성했을 때 그 책임을 AI에게 돌릴 수 없다는 것, 그리고 기업은 자신이 운영하는 AI 채널의 정확도에 대해 합리적인 주의 의무를 진다는 것.

에어 캐나다 판결은 기업이 직접 운영한 챗봇에 관한 결정이다. AI 검색엔진이 기업에 대해 틀린 정보를 생성할 경우의 책임 구조는 아직 법적으로 확립되지 않았다. 그러나 이 판결의 논리, 즉 “기업은 자신의 이름으로 유통되는 정보의 정확도에 주의 의무를 진다”는 것은 AI 가시성 전반으로 확장될 가능성이 있다. 그 공백이 언제까지 유지될 수 있을까.

할루시네이션이 만드는 피해의 층위

브랜드 할루시네이션의 피해는 꽤 다양하다.

가장 즉각적인 피해는 구매 전환 손실이다. 잠재 고객이 챗지피티에 “이 제품 가격이 얼마야?”라고 묻고 실제보다 비싼 가격을 전달받는다면, 그 고객은 비교 검토 단계에서 이미 이탈한다. 머크랙 브랜드 감사 결과, 감사 대상 B2B 브랜드 대다수에서 AI가 잘못된 가격, 단종된 제품, 존재하지 않는 기능을 사실처럼 답변하는 오류가 확인됐다. 가장 흔한 오류는 가격 정보였다.

두 번째 피해는 브랜드 신뢰도를 깎아먹는다. 소비자는 “AI가 틀렸다”고 생각하지 않는다. “그 브랜드에 대해 뭔가 이상한 것이 있다”고 생각한다. AI가 자신감 있게 틀린 내용을 전달할수록 그 오해는 더 단단하게 자리잡는다.

세 번째 피해는 가장 눈에 띄지 않는다. 고객 지원 채널의 혼란이다. 고객이 “AI에서 봤는데”라며 존재하지 않는 기능이나 정책을 문의하는 소위 ‘유령 지원 티켓(phantom support ticket)’이 발생한다. AI 할루시네이션 대응 플랫폼 리퓨타포지(ReputaForge)는 이 패턴을 문서화하면서 고객 서비스 팀이 이 문의들을 처리하면서도 그것이 할루시네이션에서 비롯됐다는 사실을 인지하지 못하는 경우가 많다고 지적한다. AI가 자신감 있게 틀린 내용을 말하기 때문에 고객도, 담당자도 AI를 의심하지 않는다.

측정되지 않는 피해

여기서 브랜드 할루시네이션을 더 어렵게 만드는 특성이 있다. 기존 오정보와 다른 방식으로 작동한다는 것이다.

전통적인 오정보는 URL이 있고 발행일이 있고 작성자가 있다. 찾을 수 있고 반박할 수 있고 삭제를 요청할 수 있다. AI 할루시네이션은 다르다. 각 사용자의 질의에 따라 그 순간 즉석에서 생성되며, 각각 고유한 형태를 가진다. URL이 없고, 발행일이 없고, 특정 출처로 추적할 수 없다. AI 할루시네이션이 “생성되는 즉시 사라지는” 속성 때문에 기존 평판 관리 방법론으로는 대응할 수 없다는 점은 업계 전문가들이 공통적으로 지적하는 문제다.

이렇게 바로 생산되었다가 사라지는 속성이 할루시네이션 피해를 과소평가하게 만든다. 기업의 AI 가시성 모니터링이 주로 “언급 횟수”에 집중되는 이유 중 하나도 여기 있다. 정확도 피해는 측정하기 어렵기 때문에 핵심 성과 지표(KPI)로 잡지 않는다. 측정하지 않으면 개선하지 않는다.

기업이 할 수 있는 것

솔직히 브랜드 할루시네이션은 완전히 막을 수 없다. AI 모델의 학습과 추론 방식이 근본적으로 바뀌지 않는 한 그렇다. 그러나 피해를 줄이고 오류를 빠르게 탐지하는 것은 가능하다.

첫째, 정기적인 직접 질의 감사다. 챗지피티, 퍼플렉시티, 구글 AI 오버뷰, 네이버 AI 브리핑에 주요 브랜드 키워드, 제품명, 가격, 서비스 정책을 직접 입력해보는 것이다. 월 1회, 핵심 질문 10~20개를 체계적으로 테스트하는 것이 최소한의 방어선이다. 전문 툴 없이 시작할 수 있다.

둘째, 공식 디지털 자산의 정보 최신화다. AI는 회사 공식 홈페이지보다 외부 콘텐츠를 더 많이 참조하지만 그렇다고 공식 자산이 무의미한 것은 아니다. 구식 정보가 담긴 랜딩 페이지, 오래된 보도자료, 폐기된 제품 설명이 외부에 남아 있으면 AI가 그것을 학습해 계속 할루시네이션의 원천으로 쓴다. 정기적으로 오래된 공식 콘텐츠를 업데이트하거나 제거하는 것이 필요하다.

셋째, 구조화 데이터(structured data) 마크업이다. 스키마(Schema.org) 마크업을 통해 회사 정보, 제품 정보, 가격 정보를 기계가 읽기 쉬운 형식으로 제공하면 AI가 공식 데이터를 더 직접적으로 참조할 가능성이 높아진다. 기술적으로는 HTML에 JSON-LD 형식의 마크업을 추가하는 작업이다.

넷째, 오류 발생 시 원인을 찾아서 제거한다. AI가 특정 오류를 반복적으로 생성한다면 그 오류의 출처를 추적해야 한다. 대부분의 경우 특정 리뷰 사이트, 오래된 언론 보도, 또는 비교 콘텐츠에서 비롯된다. 그 원천 콘텐츠를 수정하거나 보완하는 것이 AI 플랫폼에 직접 수정 요청을 보내는 것보다 더 효과적이고, 실제로 할 수 있는 방법이기도 하다.

무엇을 알아야 하는가

브랜드 할루시네이션은 GEO의 역설을 드러낸다. AI에게 더 많이 인용될수록, 잘못된 정보로 인용될 기회도 커진다. AI 가시성을 높이는 것과 AI 가시성을 정확하게 관리하는 것은 다른 과제다. 1편에서 정리했듯, AI 인용은 사건이고 AI 가시성은 상태다. 그리고 브랜드 할루시네이션은 그 상태가 틀린 방향으로 형성되는 구조적 실패다.

에어 캐나다 판결은 한 가지를 분명히 했다. “AI가 틀렸다”는 면책 사유가 되지 않는다는 것. 기업은 자신의 브랜드가 AI 생태계에서 어떻게 묘사되는지 주의 의무를 진다. 그 의무를 이행하는 가장 현실적인 방법은 정기적인 감사, 공식 정보의 최신화, 그리고 오류를 일으킨 원인을 찾아 수정하는 것이다.

AI에게 보이기 시리즈 3편에서는 AI 가시성 측정 툴 시장을 해부한다. 2026년 3월 기준 15개 이상의 GEO 전용 측정 플랫폼이 등장했다. 그런데 이 툴들의 상당수는 “언급 횟수”만 측정하고 “정확도”는 측정하지 않는다. 측정이 전략을 어떻게 왜곡하는지, 그리고 무엇을 측정해야 하는지를 살펴보겠다.

FAQ