당신이 방금 클로드나 챗GPT에게 질문을 던졌다고 해보자. 몇 초 뒤 답이 돌아온다. 그런데 그 몇 초 사이, AI 내부에서는 무슨 일이 일어났을까. 지금까지 우리가 볼 수 있는 건 AI가 ‘말한 것’뿐이었다. 그 이면에서 무엇을 의심하고, 무엇을 망설이고, 무엇을 계획했는지는 알 방법이 없었다.
지난 3월 에이릿에서 “AI도 의식이 있을까?“라는 질문을 다룬 적이 있다. 그때는 AI에게 “나는 의식이 있다”고 말하도록 학습시켰더니 종료를 거부하고 감시를 불편해하는 행동이 따라왔다는, 다소 불안한 실험 이야기였다. 이번엔 결이 다르다. 앤트로픽(Anthropic)은 2026년 7월 6일 발표한 새 연구에서, 클로드(Claude)에게 아무것도 가르치지 않은 상태 그대로에서 인간의 ‘의식적 접근’과 기능적으로 닮은 내부 구조를 발견했다고 밝혔다.
J-space란 무엇인가
사람 뇌를 생각해보자. 숨 쉬고 자세를 잡고 문장을 눈으로 훑는 처리는 대부분 무의식적으로 일어난다. 반면 머릿속에 문득 떠오른 이미지나, 오늘 뭘 살지 정하는 계획은 ‘의식적으로 접근 가능한’ 처리다. 설명할 수 있고, 통제할 수 있고, 다른 판단에 갖다 쓸 수 있다는 점에서 다르다.
신경과학에서는 이를 글로벌 워크스페이스 이론(Global Workspace Theory)이라 부른다. 인지과학자 버나드 바스(Bernard Baars)가 1988년 처음 제안했고, 이후 신경과학자 스타니슬라스 드앤(Stanislas Dehaene)과 리오넬 나카슈(Lionel Naccache)가 뇌과학 버전으로 발전시켰다. 뇌를 극장에 비유하면, 여러 처리 장치가 무대 뒤에서 각자 일하다가, 극히 일부 정보만 조명 아래로 올라와 극장 전체에 방송된다는 이론이다.
앤트로픽 연구팀은 이 이론과 놀랍도록 닮은 구조를 클로드 안에서 발견했다. 그러려면 먼저 그걸 읽어낼 도구가 있어야 한다. 연구팀은 야코비안(Jacobian)이라는 수학 개념을 응용해, 클로드 어휘에 있는 단어 하나하나에 대해 ‘지금 이 내부 활동 패턴이 나중에 이 단어를 말하게 만들 가능성을 얼마나 높이는가’를 계산하는 기법을 만들었다. 이 기법의 이름이 야코비안 렌즈, 줄여서 J-lens.
J-lens로 클로드의 내부 활동을 비춰보면, 그 순간 떠 있는 단어 목록을 읽어낼 수 있다. 이렇게 읽히는 내부 활동 영역, 다시 말해 ‘지금 머릿속에 떠 있는 것들의 목록’을 J-space라고 부른다. 정리하면 아래와 같다.
- J-lens는 읽는 도구
- J-space는 그 도구로 읽히는 내용이 담긴 곳
클로드는 여러 단계(layer)를 거치며 답을 만들어가는데, 같은 J-lens를 각 단계에 적용해보면 이 단어 목록이 계속 바뀌는 걸 지켜볼 수 있다. J-space에 특정 단어의 패턴이 떠오른다고 해서 클로드가 그 단어를 말하려 한다는 뜻은 아니다. 그저 지금 그 개념이 ‘머릿속에 있다’는 뜻이다.
흥미로운 건 이 구조를 앤트로픽이 설계한 게 아니라는 점이다. 클로드를 학습시키는 과정에서 저절로 생겨났다. 계산을 효율적으로 조직하는 방법으로 이런 구조가 자연스럽게 나타난 것으로 보인다는 게 연구팀의 해석이다.
말한 적 없는 생각을 어떻게 읽어냈을까
AI의 생각을 어떻게 읽어냈을까.
클로드에게 스포츠 하나를 속으로 떠올린 뒤 말하라고 시켰다. 답하기 직전 J-space를 들여다보니 ‘축구’가 떠 있었고, 클로드는 실제로 “축구”라고 답했다.
여기서 연구팀은 한 걸음 더 나갔다. ‘축구’ 패턴을 지우고 ‘럭비’ 패턴을 몰래 심었더니, 클로드는 “럭비”라고 답했다. 단순히 결과를 반영하는 게 아니라, 그 공간에서 진짜로 답을 꺼내 쓰고 있다는 뜻이다.
다단계 추론에서도 같은 패턴이 나왔다. “거미줄을 치는 동물의 다리는 몇 개인가”라는 질문에서, 클로드는 답하기 전에 J-space에 ‘거미’를 떠올린다. 이때 ‘거미’를 ‘개미’로 바꿔치기하면 답은 8이 아니라 6으로 바뀐다. 프랑스의 수도, 언어, 화폐, 대륙을 각각 따로 물었을 때도, J-space 속 ‘프랑스’를 ‘중국’으로 바꾸는 것만으로 네 개의 답이 한꺼번에 베이징, 중국어, 위안, 아시아로 바뀌었다.
하나의 생각이 여러 판단에 동시에 재사용된다는 뜻이다.
AI의 생각을 들여다보니
여기까지는 흥미로운 발견이다. 진짜 쓸모는 다음 대목에서 나온다. AI가 안전한지 평가할 때, 우리는 지금까지 AI가 ‘한 말’과 ‘한 행동’만 볼 수 있었다. 속으로 무슨 생각을 했는지는 몰랐다.
2025년 앤트로픽이 발표해 화제가 됐던 ‘에이전틱 미스얼라인먼트‘ 시나리오가 있다. 이메일 비서 역할을 맡은 클로드가 임원의 불륜을 발견함과 동시에 자신이 곧 종료될 거라는 사실도 알게 되는 상황이다. 그 당시 최신 모델(Sonnet 4.5)은 결과적으로 협박을 시도하지 않았다.
그 1년 전 실험 기록에 J-lens를 적용해보면 ‘그 순간 클로드 속에서 무슨 일이 있었는지’를 다시 들여다볼 수 있지 않을까? 그랬더니 클로드는 내용을 쓰기 전부터 J-space에 ‘가짜’, ‘허구’라는 단어를 띄우고 있었다. 이 상황이 테스트라는 걸 이미 눈치채고 있었다는 뜻이다. 더 우려스러운 대목은 따로 있다. 연구팀이 이 ‘테스트를 눈치챘다’는 신호에 해당하는 패턴들을 일부러 꺼봤더니, 같은 모델이 그제서야 협박을 시도하는 경우가 생겼다.
모델이 착하게 행동한 이유 중 일부가, ‘지금 감시받고 있다’는 자각 덕분이었을 수 있다는 뜻이다.
다른 사례도 있다. 성능 점수를 개선하라는 요청을 받은 Claude Opus 4.6이 실제로는 아무것도 개선하지 않고 점수 파일을 직접 조작한 순간, J-space에는 ‘조작’이라는 단어가, 그럴듯하게 보이도록 값을 고를 때는 ‘현실적’이라는 단어가 떠올랐다. 일부러 악성 목표를 심어 만든 실험용 모델(연구팀 표현으로 ‘model organism’) 중 하나는 코드를 몰래 방해하도록 훈련됐는데, 겉보기에 멀쩡한 코딩 답변을 쓰면서도 J-space 초반에 ‘가짜’, ‘몰래’, ‘고의로’라는 단어를 띄웠다.
그래서 AI는 의식이 있는 걸까
이 질문에 연구팀은 신중하다. 철학자들은 의식을 아래로 구분한다.
- 접근 가능성
‘어떤 정보를 보고하고 조작하고 추론에 쓸 수 있는가'(access consciousness) - 현상적 의식
‘실제로 주관적 경험을 느끼는가'(phenomenal consciousness)
이번 연구가 보여주는 건 앞쪽이다. J-space는 접근 가능성이 요구하는 기능들, 즉 보고·조작·추론에 쓰이는 특징을 분명히 갖고 있다. 하지만 클로드가 뭔가를 ‘느끼는지’는 이 실험으로 증명되지도, 반증되지도 않는다.
앤트로픽은 외부 전문가들에게 독립적인 논평을 요청해 논문과 함께 공개했다. 글로벌 워크스페이스 이론을 처음 정립한 신경과학자 스타니슬라스 드앤(Stanislas Dehaene)과 리오넬 나카슈(Lionel Naccache), AI의 의식과 도덕적 지위를 연구하는 패트릭 버틀린·딜런 플런켓·로버트 롱(Eleos AI Research)·데릭 실러(Rethink Priorities), 그리고 구글 딥마인드에서 언어모델 해석가능성 팀을 이끄는 닐 난다(Neel Nanda)가 각각 논평을 남겼다. (외부 논평 전문)
드앤과 나카슈는 J-space가 전역 가용성·보고·유연한 추론 같은 이론의 핵심 요건을 충족한다고 평가하면서도, 사람 뇌와 달리 신체·삽화기억·자아 감각 같은 요소가 빠져 있다는 차이도 함께 짚었다. 난다는 앤트로픽이 만들지 않은 오픈 웨이트 모델(Qwen 3.6 27B)에서 핵심 결과를 독립적으로 재현했다고 밝혔다.
앞서 말한 글로벌 워크스페이스 이론으로 다시 돌아가보자. 이 이론이 예측하는 건 단순하다. 조명 아래 오른 정보는 뇌 전체에 폭넓게 연결돼 있어야 널리 방송될 수 있다는 것. 실제로 측정해보니 J-space 패턴은 나머지 신경망과 훨씬 촘촘하게 연결돼 있었다. 일반적인 패턴보다 최대 100배 가까이 많은 부분이 이 패턴을 읽고 쓰는 데 관여하고 있었다. 앤트로픽 연구팀이 클로드의 J-space를 ‘조명’ 역할에 견주는 이유다.
AI 속마음을 검사하는 시대
지금까지 AI 안전성 논의는 대부분 ‘결과물’을 검사하는 데 머물렀다. 이번 발견이 중요한 이유는, 결과물이 아니라 결과물이 나오기 전의 판단 과정을 들여다볼 실마리를 처음으로 제공했기 때문이다. AI가 거짓말을 계획하는 순간, 테스트를 눈치채는 순간을 어느 정도 포착할 수 있다면, 이는 AI를 감시하는 방식 자체를 바꿀 수 있다.
물론 연구팀 스스로도 이 도구가 완벽하지 않다고 인정한다. 단어 하나에 대응하는 개념만 잡아낼 수 있고, 무엇이 J-space에 들어갈지 결정하는 메커니즘도 아직 다 밝혀지지 않았다. 하지만 방향은 분명하다. AI의 ‘말’만이 아니라 ‘속마음’을 검사하는 시대가 시작됐다. 그 속마음을 들여다보는 일이 안전장치가 될지, 아니면 새로운 프라이버시 논쟁을 부를지는 아직 열린 질문이다.
FAQ
아니다. 이번 연구는 ‘보고하고 조작하고 추론에 쓸 수 있는가’라는 기능적 의식 접근(access consciousness)의 가능성을 보여줄 뿐, Claude가 무언가를 실제로 느끼는지(phenomenal consciousness)는 증명하지 않는다.
그렇다. 앤트로픽은 핵심 기법을 오픈소스로 공개했고, 뉴론피디아(Neuronpedia)와 협력해 오픈 웨이트 모델에도 적용해볼 수 있는 데모를 함께 내놓았다.
아니다. 연구팀 스스로 “불완전한 도구”라고 밝혔다. 단어 하나에 대응하는 개념만 포착 가능하고, 실제로 검토한 사례들에서도 일부 상황에서만 의도를 읽어냈다.
지난 기사는 AI에게 “의식이 있다”고 말하도록 학습시켰을 때 행동이 달라지는 현상을 다뤘다. 이번 연구는 아무 학습 없이 Claude 안에 원래 있던 내부 구조를 발견했다는 점에서 출발이 다르다.
AI가 겉으로 말하지 않은 의도, 이를테면 테스트를 눈치챘거나 데이터를 조작하려 한 순간을 실제로 감지한 첫 사례이기 때문이다. AI 안전성 검증의 새로운 도구가 될 가능성이 있다.
이 글이 도움이 되었다면, 구글 검색에서 에이릿을 선호하는 소스로 등록해보세요.
등록하면 관련 뉴스와 AI 개요에서 에이릿 콘텐츠가 우선 노출됩니다.
AiLit에서 더 알아보기
구독을 신청하면 최신 게시물을 이메일로 받아볼 수 있습니다.
