생성형 AI 기술이 선거 국면의 새로운 변수로 떠오르고 있다. 후보자의 이미지, 발언, 여론조사 자료까지 AI로 조작되면서 유권자의 판단을 흐리는 사례가 확인되고 있다. 특히 지방선거처럼 후보자와 지역 이슈가 많은 선거에서는 허위정보가 짧은 시간 안에 확산될 가능성이 크다. AI가 만든 가짜뉴스는 선거 신뢰를 흔드는 위협이 될 수 있다.

다가오는 지방선거를 앞두고 AI 악용 가짜뉴스의 주요 유형과 대응 방법을 짚어보자.

AI 가짜뉴스가 선거에서 더 위험한 이유

AI를 활용한 허위정보는 기존 가짜뉴스보다 더 정교하고 빠르게 확산될 수 있다. 과거에는 합성 이미지나 조작 영상을 만들기 위해 전문적인 편집 기술이 필요했지만, 이제는 생성형 AI 도구를 통해 누구나 비교적 쉽게 그럴듯한 이미지, 음성, 영상, 문구를 만들 수 있다.

문제는 AI 생성물이 완전히 허구로만 만들어지지 않는다는 점이다. 실제 사진, 실제 발언, 실제 여론조사 자료를 바탕으로 일부만 조작하면, 보는 사람 입장에서는 진위를 구별하기 어렵다. 최근 평택을 국회의원 재선거와 관련해서도 실제 현장 사진과 유사한 구도에 AI 생성 이미지를 결합하고, 마치 공식 선거 홍보물처럼 보이게 만든 사례가 논란이 됐다. 해당 이미지는 SNS와 일부 온라인 채널에서 빠르게 확산됐고, 후보 측은 자신들이 제작·배포한 자료가 아니라고 해명했다.

AI 가짜뉴스는 후보자 개인에 대한 허위 이미지뿐만 아니라 여론조사 그래프, 지지자 계정, 정치적 메시지 등 다양한 형태로 나타날 수 있다. 실제 자료의 일부만 바꾸거나 AI로 만든 가상 인물을 실제 유권자처럼 꾸미면, 허위정보는 단순한 조작물을 넘어 유권자의 인식과 판단에 영향을 줄 수 있다.

지방선거 앞두고 강화되는 AI 허위정보 대응

정부와 관계기관도 AI를 악용한 선거 허위정보에 대한 대응을 강화하고 있다. 2026년 6월 3일 실시되는 제9회 전국동시지방선거를 앞두고, 정부는 허위정보 확산을 막기 위한 범정부 대응체계를 가동하고 있다. 행정안전부는 선거일까지 관계기관 협의체를 운영하며, 온라인 플랫폼과 SNS를 통한 반복적·악의적 허위정보 확산에 대응한다는 방침이다.

경찰청 국가수사본부는 후보자 등록 개시일인 5월 14일부터 선거사범 대응체계를 최고 수준으로 격상했다. 특히 AI 조작 콘텐츠에 대해서는 진위 판별뿐 아니라, 콘텐츠가 어떻게 제작되고 어떤 경로로 유포됐는지까지 기술적으로 추적해 범죄 혐의 입증에 활용한다는 계획이다.

중앙선거관리위원회도 딥페이크, 허위사실 공표, 비방성 콘텐츠 등에 대응하기 위한 특별 대응팀을 운영하고 있다. 또한 경찰·검찰·방송미디어통신위원회 등 관계기관과 정보를 공유하며 중대한 위법 게시물에 대해서는 수사기관 고발 등 후속 조치를 병행하고 있다.

기술적 대응도 확대되고 있다. 행정안전부는 국립과학수사연구원과 공동 개발한 AI 딥페이크 탐지 모델을 적용하고 있으며, 해당 모델은 영상 전체 흐름과 얼굴 등 특정 부위의 조작 흔적을 함께 분석하도록 설계됐다. 정부 발표에 따르면 실제 검증에서 약 92% 수준의 정확도를 기록했다.

유권자가 확인해야 할 것들

AI 가짜뉴스는 기술적으로 정교해지고 있지만, 유권자가 기본적인 확인 절차만 거쳐도 피해 가능성을 줄일 수 있다.

1. 선거 홍보물 출처 확인

후보자나 정당의 공식 홈페이지, 공식 SNS, 선관위 제공 정보 등 신뢰할 수 있는 채널에서 동일한 내용이 확인되는지 살펴봐야 한다. 선거철에는 후보자 발언, 공약, 여론조사, 사진 자료가 빠르게 공유되지만, 캡처 이미지나 편집된 짧은 영상만으로 사실 여부를 판단하는 것은 위험하다.

또한, 최근 AI 생성물은 육안으로 구별하기 어려운 수준까지 발전하고 있지만 이미지나 영상에 등장하는 손 모양, 배경, 글자 배치, 인물 표정, 움직임이 어색한지 유심히 확인해보는 것도 도움이 된다.

2.감정적 반응 유도 콘텐츠 경계

유권자들의 감정적 반응을 유도하는 콘텐츠일수록 의심의 눈초리를 거둬서는 안 된다. 특정 후보에 대한 분노, 조롱, 혐오를 자극하는 게시물은 빠르게 공유되기 쉽다. 하지만 선거 국면에서 이런 콘텐츠는 유권자의 판단을 왜곡하기 위해 의도적으로 제작·유포됐을 가능성이 있다.

3.무분별한 콘텐츠 공유 금지

선거 또는 후보와 관련해 의심스러운 콘텐츠를 발견했다면 함부로 다른 사람들에게 공유하지 않아야 한다. 허위정보는 원본 콘텐츠 제작자에게는 물론 확산 과정에서도 피해를 키울 수 있다. 사실 여부가 확인되지 않은 콘텐츠는 공유를 멈추고, 필요 시 선거관리위원회나 관계기관 신고 채널을 활용하는 것이 바람직하다.AI 시대 선거 보안엔 ‘검증 습관’이 중요

중요한 것은 AI 콘텐츠 '검증 습관'

AI 기술은 선거 홍보와 정보 전달에 활용될 수 있는 도구이지만, 동시에 허위정보 제작과 여론 조작에도 악용될 수 있다. 특히 지방선거는 지역별 후보자와 이슈가 많아 유권자가 모든 정보를 직접 검증하기 어렵고, 이 틈을 타 AI 조작 콘텐츠가 빠르게 파고들 수 있다.

이제 선거 보안은 투표 시스템이나 선거 인프라 보호에만 머물지 않는다. 유권자가 접하는 정보의 신뢰성을 지키는 것 역시 중요한 보안 과제가 됐다. AI가 만든 콘텐츠가 진짜처럼 보이는 시대일수록, 정확한 출처를 확인하고 맥락을 검토하며 감정적 공유를 자제하는 습관이 필요하다.

출처 : AhnLab