미국 최초 AI 차별금지법이 기업에게 졌다

2017년부터 100건 넘게 지원서를 넣었지만 모두 거절당한 사람이 있습니다. 단 한 번의 면접 기회도 얻지 못했죠. 사람이 아니라 알고리즘에 걸러졌다고 확신한 그는 2024년 소송을 제기했어요. 데릭 모블리(Derek Mobley), 알고리즘 편향: 차별의 그림자와 한국의 현실에서 우리가 만났던 바로 그 사람입니다.

그가 법정에 설 수 있었던 건 AI를 겨냥한 차별금지법이 따로 있어서가 아니었어요. 수십 년 묵은 시민권법을 끌어다 “알고리즘도 차별의 도구가 될 수 있다”고 해석한 덕분이었죠. 그렇다면 처음부터 AI를 정조준한 차별금지법이 있었다면 어땠을까요.

실제로 그런 법을 미국에서 가장 먼저 만든 곳이 있습니다. 콜로라도. 그런데 그 법은 시행도 못 해보고 사라졌습니다.

콜로라도 AI 차별금지법, 미국 최초의 약속

2024년 5월 17일, 콜로라도 주지사 재러드 폴리스가 SB 24-205에 서명했습니다. 미국에서 처음으로, 한 주(州)가 고위험 AI를 정면으로 규제하겠다고 선언한 순간이었어요.

콜로라도 AI 차별금지법이 겨냥한 건 ‘중대한 결정(consequential decision)’에 쓰이는 AI였습니다. 누군가의 채용, 대출, 주거, 보험, 교육처럼 한 사람의 삶을 가르는 결정에 AI가 끼어들 때 말이죠. 이런 고위험 AI를 만드는 개발자와 가져다 쓰는 배포자 양쪽에, 법은 세 가지를 요구했습니다. 알고리즘 차별의 위험으로부터 소비자를 보호할 합리적 주의 의무, 위험관리 프로그램 운영, 그리고 영향평가를 수행하고 문서로 남겨 주 법무장관에게 보고할 의무입니다.

요컨대 모블리 같은 사람이 다시 나오지 않도록, ‘차별이 일어나기 전에 막을 의무’를 기업에 지운 법이었습니다. 폴리스 주지사조차 서명하면서 “시행 전에 보완이 필요하다”는 단서를 공개적으로 달았을 만큼 야심 찬 법이었죠.

시행을 두 달여 앞두고, 법이 멈췄다

콜로라도 AI 차별금지법의 시행 예정일은 2026년 6월 30일이었습니다. 그런데 그날은 끝내 오지 않았어요.

2026년 4월 9일, 일론 머스크의 AI 기업 xAI가 콜로라도 연방지방법원에 이 법의 집행을 막아달라는 소송을 냈습니다. xAI는 챗봇 ‘그록(Grok)’을 만드는 회사죠.

이들의 주장은 이랬습니다. AI의 출력을 콜로라도가 정한 기준에 맞춰 차별 없게 만들라는 요구는, 개발사에게 특정 표현을 강제하는 것이고, 이는 수정헌법 1조가 보장한 표현의 자유를 침해한다는 것이었어요. “AI 규제는 곧 언론 자유 침해”라는 프레임입니다. 다만 이는 어디까지나 xAI의 주장이지, 법원이 위헌이라고 판단한 건 아닙니다.

이례적인 일은 그다음에 벌어졌습니다. 4월 24일, 미국 법무부(DOJ)가 xAI 편으로 소송에 참가하겠다고 나섰어요. 연방정부가 주(州)의 AI법을 무효화하려고 소송에 끼어든 첫 사례였습니다. 같은 날 xAI와 콜로라도 주 법무장관은 공동으로 법의 집행을 멈춰달라고 신청했고, 4월 27일 연방 치안판사가 이를 받아들이면서 SB 24-205의 집행은 잠정 정지됐습니다.

여기서 짚고 넘어가야 할 게 있어요. 이 법은 법정에서 위헌 판결을 받고 무너진 게 아닙니다. 본안 판결은 나오지도 않았죠. 소송이 걸리고, 행정부가 기업 편에 서고, 집행이 멈춘 국면 속에서, 의회가 먼저 움직였습니다.

‘차별을 막을 의무’가 ‘알려줄 의무’로

2026년 5월 14일, 폴리스 주지사는 SB 26-189에 서명했습니다. 기존 법을 폐지하고 다시 쓴(repeal and reenact) 대체 법안이었어요.

무엇이 바뀌었는지가 핵심입니다. 새 법은 기존 법의 가장 무거운 의무 세 가지를 통째로 들어냈습니다. 알고리즘 차별을 막을 합리적 주의 의무, 위험관리 프로그램, 그리고 연례 영향평가와 법무장관 보고입니다. 넓게 ‘고위험 AI 시스템’과 ‘알고리즘 차별’을 겨냥하던 틀은, ‘자동화된 의사결정 기술(ADMT)’을 대상으로 한 좁은 공시 체계로 바뀌었죠.

남은 건 이런 것들입니다. AI를 쓰기 전에 알리는 사전 고지, 불리한 결과가 난 뒤에 알려주는 사후 공시, 그리고 설명을 요청하거나 사람의 재검토를 요구할 수 있는 제한적 권리. 시행일도 2027년 1월 1일로 미뤄졌어요.

차이를 한 문장으로 줄이면 이렇습니다. ‘차별을 막을 의무’가 ‘차별이 일어나면 알려줄 의무’로 쪼그라들었습니다. 막는 법에서 알리는 법으로요.

그렇다면 한국은

콜로라도의 1년을 보면서 한국을 떠올리지 않을 수 없습니다.

한국에는 2026년 1월 22일부터 AI 기본법이 시행되고 있어요. 고영향 AI의 기본권 영향평가와 이용자 설명 요구권을 담았죠. 다만 그 영향평가는 반드시 해야 하는 강제 의무가 아니라, 하도록 ‘노력’하라는 노력 의무입니다.

더 근본적인 문제는 그 아래에 있어요. AI를 정조준한 차별금지법은커녕, 무엇이 차별인지를 정해둔 일반적인 차별금지법조차 한국엔 아직 없습니다. 2007년 정부가 처음 발의한 뒤로 19년째, 포괄적 차별금지법은 단 한 번도 국회 본회의 표결에 오르지 못한 채 폐기를 반복했어요.

AI가 누군가를 걸러냈을 때 “이건 차별이다”라고 말하려면 먼저 무엇이 차별인지 정해둔 법이 있어야 하는데, 그 법이 없는 자리에서 AI 차별은 다투기 전에 정의되지조차 못합니다. 이 빈자리는 지난 글에서 더 자세히 짚었죠.

흔히 “사회적 합의가 부족해서”라고 하죠. 그런데 한국갤럽 조사(2026년 4월)에선 제정 찬성 55%, 반대 29%였고, 국가인권위원회 2020년 조사에선 찬성이 88.5%였습니다. 막은 건 여론이 아니라, 조직된 반대와 “합의가 더 필요하다”를 반복해 온 정치였어요.

공교롭게도 바로 며칠 전, 그 구도가 압축돼 드러났습니다. 6월 13일 서울퀴어퍼레이드를 전후로, 2006년 정부에 차별금지법 제정을 처음 권고했던 바로 그 국가인권위원회가 도마에 올랐죠.

한겨레 보도(서미화 의원실 자료)에 따르면, 정부가 차별금지법 ‘검토’의 근거로 삼겠다던 ‘해외 차별금지법제 실태조사’ 용역을, 인권위가 차별금지법에 반대해 온 변호사가 속한 법무법인에 맡긴 사실이 드러났어요. 권고 20년이 된 해에, 검토의 토대마저 반대편 손에 쥐여진 셈입니다.

누가 규제의 운명을 정하는가

콜로라도 이야기에서 가장 오래 남는 건, 법의 내용이 아니라 법이 사라진 방식입니다. 이 법은 “차별을 막자는 조항이 틀렸다”는 결론이 나서 폐기된 게 아니에요. 소송을 걸 힘과 행정부를 움직일 힘 앞에서, 시행도 해보기 전에 스스로 물러섰습니다.

한국도 다르지 않죠. 다수가 찬성하는 법이, 조직된 반대와 미뤄두는 정치 앞에서 19년째 멈춰 있으니까요. 두 나라가 같은 말을 하고 있습니다. 차별을 막을 법의 운명을 정하는 건, 다수의 뜻이 아니라 그것을 막아설 힘을 가진 쪽이라고.

그래서 질문이 남습니다. AI가 당신을 차별했을 때 “왜죠?”라고 물을 권리는, 결국 누가 지켜주는 걸까요. 우리는 그 일을 누구의 손에 맡겨두고 있는 걸까요.

FAQ