중앙선관위, ‘생성형AI, 딥페이크’ 유행 속 선거법 위반 주의 당부

사진/ 중앙선관위 2025.4.23.중앙선관위특별대응팀이 선거법 위반 혐의게시물에 대한 위법성 검토를 하고 있다.

중앙선거관리위원회가 21대 대통령 선거를 앞두고 생성형AI나 딥페이크를 활용한 선거법 위반에 주의해달라고 당부했다.

중앙선관위는 보도자료에서 최근 전세계적으로 지브리 스타일 프로필 사진이 유행하듯 생성형 AI를 통해 제작한 영상이나 이미지 등을 흔히 찾아볼수 있다. 따라서 21대 대통령 선거를 앞두고 유권자들이 이러한 영상이나 이미지를 활용할 때 선거법에 위반되지 않도록 각별히 주의해달라고 밝혔다.

특히 대선이 40여일 앞으로 다가오면서 생성형 AI로 제작한 영상이나 이미지 등을 SNS나 커뮤니티 사이트에서 선거운동에 사용할 경우 공직선거법 제 82조의 8에 위반될 수 있다고 경고했다.

공직선거법 제 82조의 8은 ‘누구든지 선거일 전 90일 부터 선거일까지 선거운동을 위하여 인공지능 기술 등을 이용하여 만든 실제와 구분하기 어려운 가상의 음향, 이미지 또는 영상 등(이하‘딥페이크영상 등’이라함.)을 제작ㆍ편집ㆍ유포ㆍ상영 또는 게시하는 행위를 하여서는 아니 된다’ 라고 규정하고 있다.

이를 위반할 시 「공직선거법」 제255조 제5항에 따라 7년 이하의 징역 또는 1천만원 이상 5천만원 이하의 벌금에 처해질 수 있다.

중앙선관위는 딥페이크 영상 위법 게시물 등 확산을 차단하기 위하여 지난 9일부터 중앙 및 시·도선관위에 특별대응팀을 운영하고, 지난 15일에는 검찰·경찰 및 네이버· 카카오등과 유관기관과 공동 대응방안을 논의하는 등 선거딥페이크 에 적극 대응중이라고 밝혔다.

중앙선관위는 특별 대응팀을 통해 사이버상 위법게시물을 상시 모니터링하고 위반 혐의가 있는 게시물 발견시 SNS·포털사등에 신속히 삭제요청을 하여 위법게시물의 확산을 방지하고 있다. 또한 딥페이크영상 등의 위법여부 판별을 위하여 『시청각적탐지→프로그램 감별→AI전문가감별』의 3단계 감별체계를 운영한다고 설명했다.

중앙선관위는 허위사실 공표 · 비방행위가 후보자에게 회복하기 어려운 피해를 입힐 수 있고 유권자의 올바른 선택을 방해하여 선거 결과를 왜곡시킬 수 있는 만큼 예방과 확산 방지에 최선의 노력을 다 할 예정이다. 특히 파급력이 큰 악의적인 딥페이크 영상 등 유포자는 고발 등 엄중하게 대응할 방침이다.