구글이 자사 인공지능(AI)챗봇 ‘제미나이’에 선거 관련 질문을 하면 유형에 따라 그 답을 제한키로 했다. 선거에 대해 이상한 질문이 오면 AI 입을 꾹 닫게 하겠다는 것이다. AI 기술을 교묘히 활용한 가짜뉴스 확산에 대한 우려가 커지자 단행한 긴급 조치다. 올해 전세계 40여국에서 주요 선거가 릴레이로 펼쳐지면서 불필요한 논란을 차단하겠다는 의도다. 최근 생성 AI 오류로 뭇매를 맞았던 구글의 이미지 만회책 성격이 짙다. 그렇다고 해도 생성형 AI 진화와 더불어 딥페이크(조작 콘텐츠)가 횡행하면서 민주주의 근간인 선거판을 왜곡할 가능성을 원천 봉쇄하겠다는 것은 의미가 있다.

아무리 진화된 AI라고 하더라도 딥러닝에 활용된 데이터 속에 딥페이크가 섞여 있다면, 변질된 답을 할 수 있기에 그럴 확률을 아예 없애겠다는 것이다. 대선을 앞둔 미국에선 가짜뉴스 경고음이 켜진지 오래됐다. 기관총을 쏘고 있는 바이든 대통령, 수갑을 차고 있는 트럼프 전 대통령 모습 등 조작된 AI이미지가 온라인상에 걷잡을 수 없이 퍼지면서 유권자들에 큰 혼란을 줬다. 구글 뿐만 아니라 메타와 오픈AI 등이 AI생성 이미지 출처를 제공하겠다고 한 것은 그래서다.

총선을 코앞에 둔 우리 역시 선거 질서를 어지럽히는 딥페이크 우려가 작지 않다. ‘딥페이크와의 전쟁’ 초입엔 들어섰다. 최근 경찰이 윤석열 대통령의 사진과 음성, 영상 등을 조작해 만든 ‘가짜 영상물’에 대한 수사에 착수한 게 대표적이다. 하지만 차단을 하면 할수록 한발 앞서가는 딥페이크 기술력 앞에선 극약처방 외 별반 효과가 없을 것이라는 얘기도 나온다. 한 표라도 더 잡기위해 가짜뉴스에 몰입할 세력이 존재할 가능성은 여전하다.

가짜뉴스는 민주주의 근간을 부정하는 중대 범죄다. 최근 개최된 ‘4·10 총선과 딥페이크 가짜뉴스 근절 방안’ 전문가 토론회에선 특정 후보나 정당이 만들어낸 딥페이크 선거 정보에 대해선 예외없이 당선을 취소하는 강력한 법이 필요하다는 주장까지 나왔다고 한다. 엄벌을 통해서라도 가짜뉴스를 뿌리뽑을 대책이 시급하다는 여론은 강하다. 총선 페이지를 연 네이버·다음이 가짜뉴스 차단에 나름 고심하고 있다곤 하지만, 틱톡·페이스북 등 SNS를 통해 거침없이 퍼지는 가짜뉴스엔 속수무책이라는 게 큰 문제다. 현재 법대로라면 사후 수사에 맡길 뿐, 사전에 이를 막을 뾰족한 수가 없다. 이 허점을 파고든 극단층 유튜버 등이 가짜뉴스를 확대, 재생산하고 있지만 이를 제재할 강력한 수단이 없는 게 현실이다. 민주주의의 적(敵)인 의도성 딥페이크를 근절할 방법이 ‘강력한 법’ 뿐이라면 이를 위한 법제화가 뒤따라야 할 것이다.