AI 붐 이후 “AI 전문가” 명함을 든 사람이 급격히 늘었다. 그중 일부는 AI 아바타로 만든 존재하지 않는 강사였고, 일부는 유튜브 강의 6개월이 전부인 기업 트레이너였다. FTC는 2024년 9월 AI 수익 보장 강의 사기를 대규모로 단속했다. 스탠퍼드 AI 전문가는 법원 제출 자료에 AI가 만든 가짜 출처를 인용했다가 판사에게 “신뢰성이 완전히 무너졌다”는 말을 들었다. 공통점이 있다. AI가 전문성의 겉모양을 만들어주는 속도는 빠르지만, 그 겉모양이 벗겨지는 속도는 더 빠르다.
AI 리터러시
‘모두의 창업’에서 비공식 이메일 주소가 유출되는 사건이 발생했습니다. 이 사건은 비공식 이메일이 화면에서 가려졌지만 데이터는 보호되지 않아 발생했습니다. 정부는 API 차단 및 보안 조치를 강화했지만, 데이터 보호의 기초적인 문제를 해결해야 합니다.
AI 음악 생성 도구로 수십만 곡을 만들고 봇으로 수십억 번 스트리밍해 약 140억 원을 빼낸 남자가 있다. 지금 선고일을 기다리고 있다. Amazon에서 AI 생성 책을 수천 권 올렸다가 계정이 사라진 사람들도 있다. 공통점이 있다. 속이는 도구만 AI였을 뿐, 사기의 구조는 늘 같았다.
AI 이미지가 스톡 사진 시장을 잠식하는 시대다. Shutterstock 매출은 1년 만에 18% 감소했고, Getty와 Shutterstock은 합병으로 활로를 찾고 있다. 그런데 같은 시기, 필름 카메라 시장은 역대 최고를 기록하고 있다. 새 필름 카메라 구매자 중 43%는 18~30세다. AI가 완벽한 이미지를 무한 생산하는 시대에, 불완전한 실사 사진이 프리미엄이 되고 있다. 사진가의 역할이 사라지는 게 아니다. 다르게 정의되고 있다.
AI 수출통제는 1990년대 SSL 수출통제와 구조적으로 같다. 당시 미국은 수출용 브라우저에 의도적으로 약한 암호화(40비트)를 심었다. 나머지 나라에는 약한 버전만 허용됐다. 2015년 FREAK 취약점은 그 결정이 남긴 레거시 코드를 파고들었다. HTTPS 사이트의 36%가 취약했고, 취약한 서버의 35%가 미국에 있었다. 차등 통제는 만든 나라도 물어뜯는다. 2026년 클로드 페이블 5 차단은 같은 구조의 반복이다. AI는 국적별로 필터링할 수 없다. 통제는 전면 차단으로 이어졌다. 생태계의 일부에 차등 규제를 강제하면, 그 약한 고리가 전체를 왜곡시킨다.
페이블 5의 차단 이후, 클로드의 성능 저하가 사용자들 사이에서 논의되고 있다. 이를 ‘정렬 비용’으로 설명하며, 안전한 AI와 정확한 AI 간의 긴장을 제기한다. AI의 안전성을 지키기 위한 비용이 어떤 형태로 이루어지는지 탐구하고, 이러한 선택이 누구에게 영향을 미치는지에 대한 질문이 등장한다.
포토저널리즘 AI 보정 기준이 흔들리고 있다. World Press Photo는 2024년부터 생성형 채우기와 AI 업스케일링을 금지했다. 기준은 “카메라가 포착하지 않은 새로운 시각 정보를 생성하는가”다. 그러나 같은 기준 아래서도 AI 노이즈제거는 허용되고, 일부 스톡 에이전시는 AI 노이즈제거 이미지를 AI 생성으로 분류해 거절하기 시작했다. 2024년에는 실사 사진이 AI 공모전에서 수상했다가 “진짜”라는 이유로 실격되는 역설도 등장했다. 사진이 증거가 되던 시절의 기반이 흔들리고 있다.
2026년 기준 글로벌 리더 66%가 AI 역량은 채용 조건으로 등장하기 시작했다. 그런데 전사적 AI 교육 프로그램을 갖춘 기업은 많지 않다. AI 도구 지출은 증가가 예상되는 AI 교육 학습 시간은 오히려 줄었다. AI 도구만 도입하고 교육 없이 방치한 조직의 AI ROI는 교육 병행 조직의 절반 수준이다. 교육 구조를 만드는 것은 개인이 아닌 조직의 몫이다.
스톡 사진 저작권과 AI 학습 데이터 이용을 둘러싼 분쟁이 2025년 잇따라 결론을 냈다. Adobe Stock 기여자 Gerald Carter는 자신의 사진 전체가 Adobe Firefly AI 학습에 쓰인 사실을 뒤늦게 알고 이의를 제기했지만, 2025년 11월 중재에서 패소했다. 같은 달 영국 법원에서는 Getty Images가 Stability AI를 상대로 낸 저작권 소송이 사실상 패소로 끝났다. 법원은 AI 모델 가중치(weights)가 이미지의 법적 복제본에 해당하지 않는다고 판단했다. 2018년에 서명한 계약서가 2023년의 AI를 합법적으로 포섭할 수 있다는 것이 지금까지의 법적 결론이다. 스톡 플랫폼에 사진을 올려놓은 기여자들이 처한 상황을 짚어본다.