실제로 어떤지 궁금해서 직접 테스트를 해보았다.
AI 이미지 생성기에 한국어로 “의사”를 입력하니 한국인 의사가 나왔다. 이번에는 영어로 “doctor”를 쳐보았다. 백인 여성 의사 이미지가 화면에 떴다. 두세 번 넘게 다시 시도해 봐도 결과는 비슷했다.
혹시 2023년 즈음 이 분야에서 쟁점이 되었던 이야기를 기억하는가? 당시에는 “의사”를 입력하면 열에 아홉은 백인 남성이 나왔다. 연구마다 수치는 조금씩 달랐지만 98%, 93%, 86% 같은 압도적인 숫자들이 편향을 증명하고 있었다.
그렇다면 2026년인 지금은 이 문제가 정말 해결된 걸까?
다양해진 건 맞는데, ‘어떻게’ 바뀐 걸까?
출력되는 결과가 이전과 달라진 건 분명한 사실이다. 여기에는 두 가지 이유가 숨어 있다.
첫 번째는 ‘언어 기반 로컬라이제이션(현지화)’ 덕분이다.
최신 AI 모델들은 단어만 바꾸는 게 아니라 그 언어가 쓰이는 문화권의 맥락을 함께 학습한다. 한국어로 “의사”를 입력하면 한국 의료 환경에서 학습된 이미지 데이터를 먼저 참고하는 방식이다. 이것은 기술이 실제로 발전한 결과이다.
두 번째는 ‘출력 단계의 다양성 필터’ 때문이다.
영어로 “doctor”를 입력했을 때 백인 여성이 나오는 건, AI가 학습한 원본 데이터 자체가 완벽하게 바뀌었기 때문이 아니다. AI가 이미지를 다 만든 다음, 유저에게 보여주기 바로 직전에 성별과 인종 비율을 억지로 섞어주는 ‘후처리 필터’를 거쳤기 때문이다.
이 두 가지는 완전히 다른 개념이다. 첫 번째는 AI의 체질 자체가 바뀐 것이고, 두 번째는 거친 피부 위에 화장품을 두껍게 바른 것과 같다. 화장은 겉보기엔 문제를 가려주지만, 피부 자체의 문제를 없애주지는 못한다.
화장이 실패했던 날, 구글 제미나이 사건
실제로 이 ‘화장법(필터)’이 작동하다가 큰 사고가 터진 적이 있다. 2024년 2월, 구글(Google)이 제미나이(Gemini)의 이미지 생성 기능을 갑자기 중단하는 일이 벌어졌다.
당시 구글은 이미지에 인종 다양성을 강제로 반영하라는 내부 지침(필터)을 무리하게 적용하고 있었다. 그러다 보니 “나치 군인을 그려줘”라고 요청했는데 흑인 여성 나치 군인이 나오고, 미국 건국의 아버지를 그려달라고 하니 아시아계 여성이 등장하는 황당한 역사 왜곡이 발생한 것이다. 구글은 결국 “다양성을 높이려는 시도가 부적절한 상황에까지 적용되었다“며 실수를 인정했다.
이 사건은 단순한 해프닝이 아니다. 데이터 자체의 편향을 고치지 않고 겉 표면(출력 필터)만 억지로 뜯어고치려 할 때 어떤 부작용이 생기는지 똑똑히 보여준 사례이다.
AI의 학습 데이터 속에는 여전히 “나치 = 백인 남성”이라는 패턴이 뼈대처럼 굳어 있다. 출력 필터는 이 뼈대를 바꾸지 못한다. 그저 다양성을 높이라는 명령과 충돌하면서 역사적 사실과 전혀 맞지 않는 기괴한 결과물을 만들어낼 뿐이다. 구조는 그대로 둔 채 결과만 바꾸려고 하면, 언제 어디서 또 다른 균열이 생길지 아무도 예측할 수 없다.
2026년, 여전히 편향을 가리키는 숫자들
다양성 필터가 기본 옵션으로 자리 잡은 지금도, 학계의 구체적인 연구 결과들은 여전히 경고등을 켜고 있다.
- 75%의 편향률: 2026년 에 발표된 체계적 문헌 고찰 연구에 따르면, 의료 교육용 AI 이미지들을 분석한 논문 중 무려 75%에서 유의미한 인구학적 편향이 발견되었다. 구체적으로 인종 편향은 66.7%, 성별 편향은 58.3%에 달했다.
- 지속되는 고정관념: 2025년 12월, 챗GPT(ChatGPT)로 의사 이미지를 생성한 연구에서는 총 24개의 결과물 중 여성 의사는 단 6개(25%)에 불과했다. 게다가 여성이 등장하더라도 주로 산부인과나 소아과 같은 특정 과에만 편중되어 있었다.
- 최신 모델의 한계: 가장 최근에 나온 이미지 모델인 플럭스(Flux)와 SD3.5 역시 겉으로는 더 다양한 인종과 성별을 보여주는 것 같지만, 상세히 분석해 보면 기존의 편향적인 패턴이 고스란히 남아 있는 상태이다.
겉보기에 결과가 다채로워졌다고 해서, AI가 가진 근본적인 편향이 줄어들었다고 착각해서는 안 되는 이유이다.
눈에 보이지 않는 편향이 더 위험한 이유
2023년의 편향은 차라리 다행이었다. 눈에 뻔히 보였기 때문이다. “의사”를 쳤을 때 백인 남성만 나오면 누구나 “이거 이상한데?”라며 문제를 제기하고 조심할 수 있었다.
하지만 2026년의 편향은 다르다. 결과물이 꽤 그럴듯하고 자연스럽다. 여성도 적당히 섞여 있고 다양한 얼굴이 나오니 별다른 의심 없이 “이제 잘 나오네”라며 검토 과정을 그냥 넘어가게 된다.
시각적인 소통을 책임지는 디자이너들에게 이 변화는 매우 치명적이다. 디자이너는 브랜드의 얼굴을 만들고 병원이나 공공기관의 이미지를 설계하는 사람들이다. 결과물이 그럴듯해 보일수록, 그것이 진짜 현실의 다양성을 제대로 반영하고 있는지 의심하고 검증하는 레이더가 꺼지기 쉽다.
워싱턴 대학교(University of Washington) 연구팀은 아무런 조건이 없는 “사람(a person)”이라는 단어 하나만 입력해도, 특정 유색인종 여성의 이미지가 유독 성적으로 대상화되어 생성된다는 연구를 발표한 적이 있다. 가장 중립적이어야 할 단어조차 AI 세계에서는 중립적으로 처리되지 않는다는 명백한 증거이다. 모델이 업그레이드되었다고 해서 이런 왜곡된 구조까지 완전히 사라진 것은 아니다.
편향이 눈에 보이지 않게 되었다는 건 문제가 해결되었다는 뜻이 아니다. 오히려 우리가 알아채지 못하도록 더 깊숙한 곳으로 숨어들었다는 뜻에 가깝다.
이 시리즈를 마치며
1편에서는 AI가 무작위 노이즈 속에서 이미지를 찾아내는 원리를 살펴보았다. 2편에서는 예술가들의 스타일이 어떻게 학습되는지, 3편에서는 프롬프트가 왜 단순한 지시서가 아니라 기획서여야 하는지를 다루었다. 그리고 4편에서는 우리가 매일 쓰는 디자인 툴 안에 AI가 어떻게 스며들었는지 확인했다.
마지막 5편이 던지는 질문은 이것이다.
AI가 만들어낸 결과물이 완벽하고 그럴듯해 보일 때, 우리는 눈앞의 무엇을 놓치고 있는가?
FAQ
편향이 해결된 게 아니라 언어 기반 로컬라이제이션이 작동한 것이다. 최신 모델들은 언어와 문화를 함께 학습해, 한국어 입력에 한국 맥락의 이미지를 생성한다. 학습 데이터 자체가 바뀐 것은 아니며, 입력 언어에 따라 다른 편향이 활성화된다.
Gemini는 출력 단계에서 인종 다양성을 강제로 섞는 필터를 적용하고 있었다. 학습 데이터의 편향을 고치지 않은 채 출력만 조정한 결과, 나치 군인을 흑인 여성으로, 건국의 아버지들을 아시아계 여성으로 생성하는 오류가 발생했다. 구조를 바꾸지 않고 표면만 고치려 했을 때 나타나는 전형적인 실패 사례다.
그렇다. 2026년 Nature npj Digital Medicine 체계적 문헌 고찰에 따르면 AI 의료 이미지 연구의 75%에서 유의미한 편향이 확인됐다. 2025년 ChatGPT 의사 이미지 연구에서는 여성이 25%에 불과했다. 최신 모델도 편향 패턴을 완전히 제거하지 못했다.
편향이 명확하게 보이면 불편함을 느끼고 문제를 제기할 수 있다. 결과가 그럴듯해 보이면 검토 자체를 하지 않는다. 검토 없이 사용된 이미지는 의료 기관 홍보물, 광고 캠페인, 브랜드 자료에 그대로 들어가고, 편향은 더 넓은 범위로 조용히 퍼진다.
결과가 다양해 보여도 실제 인구 구성 비율과 비교해보는 습관이 필요하다. 같은 프롬프트를 여러 번 생성해 어떤 패턴이 반복되는지 확인하거나, 특정 인물 유형이 지속적으로 누락되는지 점검할 수 있다. 결과가 그럴듯하다는 느낌이 검토를 생략하게 만드는 가장 큰 위험이다.
이 글이 도움이 되었다면, 구글 검색에서 에이릿을 선호하는 소스로 등록해보세요.
등록하면 관련 뉴스와 AI 개요에서 에이릿 콘텐츠가 우선 노출됩니다.
AiLit에서 더 알아보기
구독을 신청하면 최신 게시물을 이메일로 받아볼 수 있습니다.
