구글과 오픈AI 등 글로벌 빅테크 기업 20곳이 ‘딥페이크와의 전쟁’ 연합군을 결성한 것은 우리에게 주는 의미가 크다. 올해 세계 각국에서 진행되는 주요 선거를 앞두고 AI로 만든 딥페이크가 횡행하는 것을 차단하겠다는 게 연합군 형성의 취지다. 인공지능(AI)이 만드는 조작 동영상과 가짜 목소리가 나돌 조짐을 보이면서 선거판을 흔들고 민주주의 본질을 훼손할 수 있다는 경계심이 반영돼 있다. AI시대 본격화와 맞물려 사람 뺨칠 만큼의 현실감으로 실상을 왜곡할 수 있는 딥페이크는 민주주의의 주적(主敵)으로 부상한지 오래다. 4월 총선을 앞두고 딥페이크 경고등은 켜졌지만, 이슈 대응에 한발짝 물러서 있는 우리에 시사점을 던져준다.

빅테크 기업들은 최근 독일 뮌헨안보회의(MSC)에서 딥페이크 부작용 차단을 골자로 한 합의문을 내놨다. 주도한 곳은 아마존, 구글, 메타, 마이크로소프트(MS) 등 중량감이 남다른 기업들이다. 오픈AI, 스태빌리티AI, 일레븐랩스 등 생성형 AI 개발기업과 X(엑스), 스냅 등 소셜미디어 업체도 가세했다. AI시대에 방귀 좀 뀐다는 곳 대부분 연합군 대열에 합류한 것이다. 이들은 딥페이크 콘텐츠에는 AI가 만들었다는 라벨(꼬리표)을 붙임으로써 유권자 현혹을 방지키로 했다. 딥페이크 방지 사례를 공유하고, 위법 콘텐츠 확산땐 신속하게 대응키로 했다.

글로벌 빅테크 기업의 자율협약이라 법적 강제성이 약하다는 점을 한계로 지적하지만, 민주주의를 방해하는 딥페이크 퇴출 작업의 첫 단추라는 점에서 상징성은 결코 작지 않다. 글로벌 빅테크기업이 발령한 딥페이크 차단경보로 관련 법제화는 각국에서 급류를 탈 것으로 보인다. 딥페이크 위험신호는 이미 절정에 달했다. 지난달 미국 뉴햄프셔주에서 유권자들은 바이든 대통령 목소리로 “예비선거에서 투표하지 말라”는 전화를 받았는데, 이는 가짜 AI 목소리로 밝혀졌다. 앞서 글로벌 팝가수 테일러 스위프트의 얼굴과 음란물을 합성한 AI 가짜 이미지가 소셜미디어에 퍼지며 전세계에 파문을 일으키기도 했다.

세계는 이처럼 딥페이크와의 전쟁에 불을 붙였는데, 우리는 이를 방관하고 있어 아쉽다. 지난해말 선관위가 선거운동에 활용될 수 있는 딥페이크 콘텐츠의 제작·편집·유포·상영을 금지하긴 했지만 아직까진 선언적 구호에 머물러 있는 분위기다. 선거에 영향력이 큰 네이버·카카오 등 국내 포털은 사전 강력한 필터링은 포기한채, 선관위 판단을 통한 후속조치만을 염두에 두고 있다. 글로벌 빅테크 기업들의 자발적 딥페이크 퇴출 운동에 국내기업 역시 주도적으로 참여해야 할 것이다. 딥페이크가 소중한 민주주의를 야금야금 파먹게 방치해선 안된다.