2024년 2월, 딥페이크 화상회의 한 번으로 약 330억 원이 사기단의 계좌로 빠져나갔다. 범인은 아직 잡히지 않았다. 돈도 돌아오지 않았다. 하지만 그 사이 법은 빠르게 바뀌었다. 미국은 딥페이크 처벌을 위한 첫 번째 연방법을 만들었고, 한국에서는 실제 징역형이 선고됐다. 지금 안 잡혔다고 영원히 안 잡히는 게 아니다.
딥페이크
선거철마다 AI가 만든 가짜 영상, 편향된 챗봇 답변, 조작된 여론이 퍼진다. 투표장에 가기 전 챙겨야 할 AI 리터러시 세 가지를 정리했다.
단톡방에서 받은 영상이 ‘진짜처럼 보인다면’ 그게 바로 딥페이크가 노리는 순간이다. 딥페이크 식별 체크리스트와 단톡방 정보 처리 3원칙으로 부모님을 지키는 법을 알아보자.
‘딥페이크 삭제 의무화법'(TAKE IT DOWN Act)은 미국 연방법이다. 플랫폼에 딥페이크 삭제 의무를 부과한다. 비동의 친밀 영상을 신고받으면 48시간 안에 삭제해야 한다. 2026년 5월 19일 본격 시행됐고, AI로 만든 딥페이크도 적용 대상이다. 위반 시 건당 최대 53,088달러(약 7,200만 원)의 민사 제재금이 부과된다. FTC는 아마존·알파벳·애플·메타·스냅챗·틱톡·X 등 15개사에 준수 서한을 보냈다. 메타는 시행 11일 전 인스타그램 DM 암호화 옵트인 기능을 제거했다. 한국 성폭력처벌법(2024년 10월 개정)은 딥페이크 제작·소지·구입·저장·시청을 처벌한다. 그러나 플랫폼 직접 의무는 없다.
AI로 생성된 가짜 인물들이 정치적 메시지를 전파하는 현상이 부각되고 있습니다. 이들은 매력적인 이미지를 통해 사람들의 관심을 끌어 모으고, 실제 존재하지 않는 인물로 여론을 조작합니다. 알고리즘의 특성을 이용한 이 캠페인은 민주주의의 기반을 흔들 위험이 있습니다.