AI에게 상담을 하자, 아빠가 체포됐다

챗GPT가 아동상담소 상담을 권유했고, 딸이 전화를 걸자 상담소가 자체적으로 경찰에 신고했다. 딸은 “내 의도가 아니었다”고 했다. 분명 AI는 맞는 말을 했다. 하지만 그 뒤의 반응을 예측하진 못했다.

가족 싸움, AI에게 상담하면 어떻게 될까

가족과 싸운 직후, 당신이라면 누구에게 털어놓겠는가. 예전엔 친구였을 것이다. 혹은 일기장.

이제는 챗GPT다.

2026년 5월 25일 저녁, 일본 도쿄 시부야구의 한 자택에 경찰이 출동했다. 신고는 아동상담소에서 접수됐다. 그리고 그 아동상담소에 전화한 건 18세 큰딸이었다. 챗GPT의 권유에 따라.

일본프로야구 요미우리 자이언츠 아베 신노스케(47) 감독은 그날 15세 작은딸과 18세 큰딸의 싸움을 말리다 큰딸의 몸을 밀쳤다. 음주 상태였다. 화가 난 큰딸은 챗GPT에 상황을 상담했고, AI는 익명 아동상담소에 연락해볼 것을 권유했다. 딸이 전화를 걸자, 설명을 들은 아동상담소 측이 독자적으로 경찰에 신고했다. 경찰이 출동했고, 아베 감독은 현행범으로 체포됐다가 조사 후 석방됐다. 다음 날 그는 눈물을 흘리며 감독직을 사임했다.

사건이 전국 뉴스가 된 뒤, 큰딸은 서한을 통해 이렇게 밝혔다.

내 의도와는 완전히 다르게 대대적인 경찰 출동과 보도로 이어져 너무나 죄송하다. 아버지와는 사건 당일 이미 화해했다.

사실 딸은 신고하려 한 게 아니었다. 그냥 상담 전화를 걸었을 뿐이었다.

AI는 맞는 말을 했다

챗GPT가 틀린 말을 한 건 아니다. 가정 내 신체적 갈등 상황에서 전문 상담 창구에 연락하라고 안내한 것은 합리적인 권유다. 실제로 일본의 아동상담소는 아동학대 의심 신고를 접수하면 법적으로 경찰에 통보할 수 있다.

하지만 AI는 그 권유가 만들어낼 연쇄 반응까지는 알지 못했다. 아동상담소에 전화하면 기관이 독자적으로 경찰에 신고할 수 있다는 것. 그 신고가 현행범 체포로 이어질 수 있다는 것. 사건이 전국 뉴스가 될 수 있다는 것.

딸도 몰랐고, AI도 알려주지 않았다.

AI는 ‘무엇이 적절한 대응 채널인가’에 대해 답을 했을 뿐, ‘이 행동이 어떤 결과를 만드는가’를 함께 설명하지 않았다.

이것이 AI 상담의 구조적 한계다. AI는 상황을 요약하고 선택지를 제시하는 데 능숙하다. 하지만 그 선택지가 현실에서 어떤 파장을 일으킬지는 면밀하게 계산하지 않는다. “아동상담소에 전화해보세요”는 맞는 말이지만, 그 뒤에 이어지는 기관의 프로토콜, 법적 절차, 미디어 파장은 AI의 답변 범위 밖이다.

“AI가 그렇게 하라고 했으니까”는 근거가 될 수 없다

그럼 진짜 질문은 이것이다. 우리는 AI에게 어떤 종류의 상담을 맡겨도 되는가?

가족 갈등, 연인 간 다툼, 직장 내 갈등처럼 감정이 개입된 상황에서 AI는 ‘중립적인 제3자’처럼 느껴진다. 화를 내지 않고, 편들지 않고, 24시간 언제든 들어준다.

하지만 AI는 구조적으로 중립적이지 않다. 학습 데이터에 내재된 편향이 있고, 안전과 법적 절차를 우선시하는 설계 방향이 있다. 아동 안전 문제에서는 특히 더 그렇다. 챗GPT가 딸의 상담을 받았을 때 전문 기관 연결을 권유한 것은 그 설계의 결과다. 그 권유가 그날 밤 그 가족에게 어떤 의미가 될지는 계산하지 않는다.

문제는 AI의 권유가 ‘전문가 조언’처럼 느껴진다는 것이다. 검색 결과가 아니라 대화 형식으로 전달되기 때문에, 맥락을 충분히 이해한 상담사의 말처럼 받아들여질 수 있다. 그러나 AI는 상담사가 아니다. AI의 조언은 참고할 수 있는 선택지이지, 그 선택지의 모든 결과를 책임지지 않는다. 결정은 여전히 사람의 몫이다.

AI에게 감정을 털어놓는다는 건

AI에게 감정적인 상황을 털어놓는 건 괜찮다. 하지만 AI가 구체적인 행동을 권유할 때, 실행 전에 한 가지만 확인하자.

이 행동이 되돌릴 수 없는 결과를 만드는가?

신고, 고소, 계약 해지, 관계 종료처럼 돌이키기 어려운 행동, 혹은 그 행동을 촉발할 수 있는 기관 연락이 포함될 때는 잠시 멈춰야 한다. AI가 제시한 선택지의 다음 단계까지, “그 다음에 어떻게 될 수 있는가”를 먼저 확인해야 한다.

FAQ