한 학생 팀이 창업 강의 7~8주 차에 코드를 수정하다 완전히 막히는 일이 생겼다. 흥미로운 점은 이게 버그 때문이 아니었다는 점이다. 아무도 “왜 이렇게 설계했는지” 설명할 수 없었기 때문이다.
빅토리아대학교 컴퓨터공학 교수 마가렛 앤 스토리(Margaret-Anne Storey)가 직접 목격한 이 사례는, 그가 2026년 3월 발표한 논문의 핵심 주장을 압축하고 있다. AI가 소프트웨어 개발에 깊숙이 들어올수록, 우리가 두려워해야 할 것은 코드의 품질만이 아니라는 것이다.
삼중 부채 모델: 기술, 인지, 의도
스토리 교수는 2026년 논문에서 ‘삼중 부채 모델(Triple Debt Model)‘을 제안했다. 소프트웨어 건강을 위협하는 세 가지 부채, 즉 기술 부채, 인지 부채, 의도 부채다. 이 세 가지는 서로 다른 곳에 쌓이고, 서로 다른 방식으로 드러난다.
❶ 기술 부채
코드에 쌓인다. 빠르게 만든 설계, 나중에 고치려고 미뤄둔 결함이다. 버그와 배포 실패로 눈에 보이고, 리팩토링으로 해소할 수 있다.
❷ 인지 부채
사람 머릿속에 쌓인다. 팀원들이 시스템이 왜 이렇게 만들어졌는지, 어떻게 작동하는지에 대한 공유 이해를 서서히 잃어가는 것이다. AI가 코드를 대신 생성하는 속도가 빠를수록, 팀의 이해는 그 속도를 따라잡지 못한다.
❸ 의도 부채
문서와 맥락에 쌓인다. “왜 이 결정을 내렸는가”에 대한 명시적 근거가 사라지는 것이다. 코드는 남아있지만, 코드를 낳은 의도는 기록되지 않는다.
“프로그램은 머릿속에 산다”
스토리 교수는 컴퓨터 과학자 피터 나우르(Peter Naur)의 1985년 논문을 인용한다. 나우르에 따르면 프로그램은 소스 코드가 아니라 개발자들의 머릿속에 사는 이론이다. 코드는 그 이론의 불완전한 결과물일 뿐이다. 팀원들이 그 이론을 공유하고 있을 때 비로소 시스템은 살아있다고 나우르는 밝힌다.
하지만 AI가 코드를 빠르게 생성할수록, 그 이론이 사람 머릿속에 자리잡을 시간은 줄어든다. 속도를 위해 이해를 포기하기 때문이다. 앞서 소개한 학생 팀의 문제는 정확히 여기에 있었다.
인지 부채에는 에러메시지가 없다
기술 부채는 배포 실패, 버그, 느려지는 빌드 시간으로 나타난다. 눈으로 보이는 신호가 있다. 인지 부채와 의도 부채는 이와 다르다. 아무것도 고장나지 않는다.
이렇게 조용히 쌓이는 부채의 위험을 개인 차원에서 보여주는 연구가 있다. 워튼스쿨 연구진(Steven D. Shaw, Gideon Nave)이 1,300명 이상을 대상으로 진행한 실험을 살펴보자. AI의 답이 틀렸을 때 참가자의 정확도는 AI를 사용하지 않은 그룹보다 15퍼센트포인트 낮아졌다. 그런데 더 불편한 발견이 있다. AI가 절반쯤 틀린 상황에서도, 참가자들의 자기 확신은 오히려 올라갔다.
연구자들은 이를 인지적 항복(Cognitive Surrender)이라고 부른다. AI의 판단을 내 판단으로 착각하는 순간이다. 개인 차원에서 일어나는 이 현상이 팀 전체로 확산되면 인지 부채가 된다. 팀원 각자가 조금씩 이해를 포기하는 사이, 나우르가 이야기한 시스템에 대한 공유 이론이 서서히 사라진다.
삼중 부채를 막으려면
기술 부채를 막는 방법은 잘 알려져 있다. 코드 리뷰, 리팩토링, 테스트 자동화. 그렇다면 인지 부채와 의도 부채는어떨까?
스토리 교수는 방향을 세 가지로 요약한다. AI가 생성한 변경 사항은 팀원 최소 한 명이 완전히 이해한 뒤 배포할 것. ‘무엇을 바꿨는가’가 아니라 ‘왜 바꿨는가’를 문서화할 것. 코드 리뷰와 지식 공유 세션으로 팀의 공유 이해를 정기적으로 재건할 것.
워튼스쿨 연구진 실험에서도 단서가 나왔다. 정확도에 대한 인센티브와 즉각적인 피드백을 제공하자, 잘못된 AI 답을 거부하는 비율이 20%에서 42%로 두 배 증가했다. 결과에 대한 책임감과 즉각적 피드백이 인지적 항복을 줄여둔다는 것이다.
공통된 원칙이 보인다. 속도보다 이해를 우선하는 순간을 의도적으로 만드는 것이다.
AI 속도와 팀의 이해 사이
AI 도구를 쓰지 말자는 이야기가 아니다. AI가 생산성을 높이는 영역에서 AI를 활용하는 것은 합리적이다. 문제는 그 과정에서 팀의 이해가 함께 자라고 있는지다. 스토리 교수는 인지 부채가 기술 부채보다 더 큰 위협이 될 수 있다고 강조하며, 이해 없이 속도만 내는 것은 지속 가능하지 않다고 말한다.
코드는 언제든 다시 쓸 수 있다. 팀의 공유 이해는, 한번 사라지면 되찾기 어렵다.
FAQ
소프트웨어 건강을 위협하는 세 가지 부채로 기술 부채(코드), 인지 부채(팀의 공유 이해), 의도 부채(설계 근거의 문서화)를 말합니다.
팀원들이 시스템이 왜, 어떻게 만들어졌는지에 대한 공유 이해를 잃어가는 현상입니다. 코드에 쌓이는 기술 부채와 달리, 사람 머릿속에 쌓입니다. 에러메시지나 빌드 실패로 나타나지 않아 발견이 어렵고, 치명적인 결정 앞에서야 비로소 드러납니다.
“왜 이렇게 설계했는가”에 대한 명시적 근거와 맥락이 사라지는 것입니다. AI가 코드를 자동 생성할수록 설계 의도가 문서화되지 않을 가능성이 높아집니다. 신규 팀원이 합류하거나 시스템을 변경해야 할 때 큰 문제로 드러납니다.
기술 부채는 코드를 고치면 해소됩니다. 인지 부채는 사람의 이해를 회복해야 합니다. 기술 부채는 버그와 배포 실패로 눈에 보이지만, 인지 부채는 아무 신호 없이 쌓입니다.
워튼스쿨 연구(Shaw & Nave, 2026)는 개인 차원에서 비슷한 현상을 발견했습니다. AI 답을 무비판적으로 자신의 판단으로 받아들이는 ‘인지적 항복’입니다. AI가 틀려도 확신이 오히려 올라가는 역설적 현상이 실험으로 확인됐습니다. 팀 차원의 인지 부채와 개인 차원의 인지적 항복은 같은 메커니즘에서 출발합니다.
AiLit에서 더 알아보기
구독을 신청하면 최신 게시물을 이메일로 받아볼 수 있습니다.
