AI가 100명을 죽이거나 1조 원을 날려도, 오픈AI는 책임지지 않아도 될 수 있다. 적어도 일리노이주가 원하는 방향은 그렇다.
시작부터 문장이 아주 곱지 않다. 오픈AI가 일리노이주 상원 법안 SB 3444(Senate Bill 3444)를 공식 지지한다고 밝혔기 때문이다. 이 법안의 구조를 뜯어보면 고운 말이 나올 수가 없다. SB 3444는 AI 모델로 인한 ‘치명적 피해(critical harms)’, 예컨대 100명 이상 사망 또는 10억 달러(약 1조 4천억 원) 이상의 재산 피해가 발생하더라도, AI 개발사가 고의나 무모한 행위 없이 안전, 투명성 보고서를 웹사이트에 공개한 경우라면 법적 책임을 면제한다는 내용을 담고 있다(출처: Illinois General Assembly SB3444).
심지어 100명이 죽어야 비로소 “치명적”이다. 그 기준 이하의 피해에 대해서 법안은 그다지 관심이 없다.
오픈AI의 로비 전환: 방어에서 공세로
오픈AI의 이번 행보는 어떤 법안에 찬성했다는 정도가 아니라 AI 규제 역사에서 전략적 전환점으로 기록될 전망이다. 오픈AI 대변인 제이미 래디스(Jamie Radice)는 이 법안이 “가장 진보된 AI 시스템의 심각한 피해 위험을 줄이는 동시에 기술이 일리노이 주민과 기업의 손에 들어가도록 하는 데 중점을 둔다”고 밝혔다. 오픈AI 글로벌 업무팀의 케이틀린 니더마이어(Caitlin Niedermeyer)는 한 발 더 나아가 “일관성 없는 주별 규제의 누더기(patchwork)를 피하는 것이 중요하다”며 연방 차원에서 강화한 AI 규제 프레임워크를 옹호했다.
이 두 발언을 나란히 놓으면 전략이 보인다. 하나는 법안의 명분이고 다른 하나는 방향이다. 오픈AI는 일리노이에서 법안 하나를 통과시키는게 목적이 아니다. 주별 규제가 혼란스럽다고 명분을 삼아 연방라는 이름의 더 큰 프레임을 차지하려는 것이다.
2026년 현재 미국 45개 주에서 1,500건이 넘는 AI 관련 법안이 동시 심의 중이다. 교육 분야만 해도 25개 주에서 53개 법안이 충돌한다. 텍사스와 코네티컷은 AI의 수업 대체를 금지하고, 오하이오는 7월까지 AI 정책 수립을 의무화했으며, 일부 주는 규제 샌드박스를 허용한다. AI 책임, 면책 영역도 다르지 않다(출처: IAPP State AI Legislation Tracker, FutureEd Legislative Tracker 2026). 이 혼돈은 오픈AI에게 위기가 아니라 기회다. “우리가 없으면 이 혼돈이 계속된다”는 논리가 성립하기 때문이다.
프론티어 모델이라는 기준선의 설계
법안은 적용 대상을 명확히 한정한다. SB 3444에서 면책 대상이 되는 프론티어 모델(frontier model)은 1억 달러(약 1,400억 원) 이상의 컴퓨팅 비용으로 훈련시킨 AI 모델들이다. 오픈AI, 구글, xAI, 앤트로픽, 메타가 이 범주에 들어온다. 이 정의를 누가 설계했는지는 공개되지 않았다. 하지만 그 설계가 누구에게 유리한지는 명백하다.
1억 달러 이상의 컴퓨팅 비용은 사실상 빅테크 클럽이나 가능한 것이다. 스타트업은 이 기준에 해당하지 않는 경우가 많다. 그러니 이 법은 빅테크가 만든 AI에서 대규모 피해가 발생해도 면책을 할 수 있다는 뜻이다. 가장 비싼 모델이 가장 강력한 방어막을 얻는 역설이다.
‘치명적 피해’의 기준을 100명 사망 또는 10억 달러로 설정한 것도 계산된 수치로 보인다. 이 기준에 도달하지 못하는 대부분의 피해, 예컨대 차별적 채용 결정, 허위 의료 정보, 편향된 신용 평가 등은 피해자가 직접 면책 조항의 보호를 받는 회사를 상대로 소송을 제기해야 한다. 피해자는 더 무거운 증명 부담을 진다.
일리노이는 왜 이례적인가
이 법안이 일리노이에서 나왔다는 사실 자체가 하나의 논쟁이다.
일리노이주는 미국에서 가장 강력한 기술 규제 역사를 보유한 주 중 하나다. 2008년 제정된 생체 정보 보호법(BIPA, Biometric Information Privacy Act)은 생체 정보 수집, 사용, 보존에 대한 엄격한 기준과 동의 원칙을 확립했고 위반 시 상당한 법적 배상 책임을 부과해 전국적 모델이 됐다. AI 기반 정신 건강 서비스에 대한 제한 법안도 일리노이에서 나왔다. 소비자 보호 측면에서 일리노이는 진보적 규제의 선두에 있어 왔다.
그 일리노이에서 AI 기업 면책 법안이 제출됐다. 이 역설에 대해 시큐어(Secure) AI 프로젝트의 정책 책임자 스콧 위저(Scott Wisor)는 “일리노이 주민의 90%가 AI 기업 면책 조항에 반대한다”는 여론조사를 인용하며, 일리노이의 강력한 규제 전통상 이 법안이 통과될 가능성은 낮다고 밝혔다(출처: Wired).
위저의 예측은 타당하다. 그러나 그것은 현재 일리노이주 의회의 계산이고 오픈AI의 계산은 다를 수 있다. 이 법안이 일리노이에서 통과되지 않더라도 프론티어 모델 면책이라는 개념 자체가 연방 논의의 테이블 위에 올라갔다는 사실, 그것만으로도 성과를 이룬 것이다.
책임의 공백, 그리고 누가 메우는가
여기서 가장 날카로운 질문이 등장한다. AI가 대규모 피해를 입혔을 때 오픈AI가 책임지지 않는다면 누가 책임지는가?
법안은 이 질문에 답하지 않는다. 면책의 수혜자를 명시할 뿐, 피해자의 구제 경로에 대한 설계는 없다. 전통적인 제조물 책임법(product liability law)과 불법행위법(tort law)은 제품의 결함이나 과실로 발생한 다양한 규모의 피해에 책임을 물어왔다. SB 3444는 그 전통적 법 구조에 ‘치명적 피해’라는 예외를 두고 있다. 이것이 연방 차원으로 확장되면 AI 기업은 가장 강력한 모델을 만들면서도 가장 낮은 법적 위험을 부담하게 된다.
AI 거버넌스(AI governance) 논의에서 지금까지 반복돼 온 패턴이 있다. 기술은 기업이 개발하고 규칙은 기업이 초안을 잡으며 피해는 사회가 흡수한다. SB 3444는 그 패턴을 법으로 만들려는 가장 직접적인 시도다. 그리고 그것은 오픈AI의 문제가 아니라 AI 거버넌스 구조 자체의 문제다.
유럽과의 대비, 그리고 한국의 공백
이 법안을 유럽연합 AI법(EU AI Act)과 나란히 놓으면 철학적 간극이 선명해진다.
EU AI Act는 위험 기반 접근(risk-based approach)을 채택해 AI 시스템을 위험 수준별로 분류하고 각 단계에 상응하는 규제 요건과 책임을 부과한다. 투명성, 인간 감독, 강력한 문서화를 의무화하며, 대규모 재앙이 아닌 다양한 심각도의 피해에 대해서도 책임을 명시한다. SB 3444는 그 반대 방향을 향하고 있다.
미국에서 이 논쟁이 벌어지는 동안, 한국은 무엇을 하고 있는가. 한국 교육부는 2026년 업무보고에서 AI 디지털교과서를 사실상 후퇴시키고 AI를 보조적 활용 도구로 재정의했다. AI 책임 구조에 대한 논의는 아직 본격적으로 시작되지 않았다. 글로벌 AI 기업들이 규제 프레임워크를 설계하는 동안 한국은 그 프레임워크를 수용해야 하는 위치에 놓일 위험이 있다. AI를 개발하는 나라와 AI를 도입하는 나라 사이에는 규제 주도권의 차이가 존재하고 그 차이는 결국 책임을 누가 떠맡는가로 결정된다.
숫자가 말하지 않는 것
SB 3444의 숫자들을 다시 보자. 100명. 10억 달러. 1억 달러.
이 숫자들은 정밀해 보이지만, 정밀함의 기준이 무엇인지는 불투명하다. 왜 99명이 아니라 100명인가? 왜 9억 달러가 아니라 10억 달러인가? 이 질문에 대한 공식적 답변은 없다. 법안의 숫자 설계 과정에서 AI 기업의 내부 법무팀이 어떤 역할을 했는지는 현재 공개된 정보가 없다.
그러나 입법 과정에서 가장 큰 목소리를 내는 쪽이 누구인지는 알 수 있다. 오픈AI는 공식 지지 선언을 했다. 와이어드가 인용한 여론조사에 따르면 일리노이 주민의 90%는 AI 기업 면책 조항에 반대한다. 그러나 같은 주민 대부분은 이 법안의 존재 자체를 알지 못한다.
이것이 AI 리터러시가 단순히 교육의 문제만이 아닌 이유다. 알고리즘을 이해하는 것, AI 생성 콘텐츠를 식별하는 것만큼, 어쩌면 그보다 더, AI 기업이 어떤 법안을 밀어붙이고 있는지를 아는 것이 지금 시민에게 필요한 역량이다.
오픈AI는 재앙을 만들지 않겠다고 말한다. 그러면서 재앙이 오더라도 책임지지 않아도 될 법을 만들어달라고 요청하고 있다. 이 두 문장을 동시에 읽어내는 것, 그것이 2026년의 AI 리터러시 첫걸음이다.
FAQ
일리노이주 상원 법안 SB 3444는 AI 모델로 인한 ‘치명적 피해’—100명 이상 사망 또는 10억 달러(약 1조 4천억 원) 이상의 재산 피해—가 발생하더라도, AI 개발사가 고의나 무모한 행위 없이 안전·투명성 보고서를 웹사이트에 공개한 경우 법적 책임을 면제하는 내용을 담은 법안이다. 오픈AI는 2026년 이 법안에 대한 공식 지지를 선언했다.
SB 3444는 면책 대상이 되는 AI 모델을 훈련 컴퓨팅 비용 1억 달러(약 1,400억 원) 이상으로 정의한다. 이 기준에 따르면 오픈AI, 구글, xAI, 앤트로픽, 메타가 해당된다. 이 정의는 사실상 빅테크 클럽의 입장권에 해당하며, 스타트업 규모의 기업은 대부분 해당되지 않는다.
전통적인 제조물 책임법(product liability law)과 불법행위법(tort law)은 제품 결함이나 과실로 인한 다양한 규모의 피해에 책임을 부과한다. SB 3444는 ‘치명적 피해’라는 극단적 기준 이하의 피해—차별적 채용 결정, 허위 의료 정보, 편향된 신용 평가 등—를 면책 범위 밖에 방치한다. 피해자는 더 무거운 증명 부담을 지게 되며, 이는 피해자 구제 원칙과 정면 충돌한다.
EU AI Act는 위험 기반 접근(risk-based approach)을 채택해 AI 시스템을 위험 수준별로 분류하고 각 단계에 상응하는 책임과 투명성·인간 감독 의무를 부과한다. 대규모 재앙적 피해뿐 아니라 다양한 심각도의 피해에 대해서도 책임이 명시된다. SB 3444는 재앙적 기준에 도달하기 전까지 면책을 부여하는 반대 방향의 접근이다. 두 법안의 철학적 출발점은 ‘책임 vs. 혁신 우선’으로 나뉜다.
한국은 오픈AI, 구글, 메타 등 미국 AI 기업의 서비스를 광범위하게 사용하고 있다. 미국에서 AI 기업의 책임 범위가 축소되는 방향으로 법제화가 진행되면, 한국 사용자가 AI 서비스로 피해를 입었을 때 법적 구제를 받을 수 있는 여지도 좁아진다. AI 리터러시는 알고리즘을 이해하는 역량만이 아니다. 어떤 법이 AI 기업의 책임 구조를 결정하는지를 아는 것—그것이 2026년 시민에게 필요한 AI 리터러시다.
AiLit에서 더 알아보기
구독을 신청하면 최신 게시물을 이메일로 받아볼 수 있습니다.
