코리아 이코노미 뉴스 이준 기자 |

국민의힘 김승수 의원이 딥페이크 영상, 음향 등 인공지능 기술을 이용하여 만든 거짓 정보를 온라인 게재 시 식별 표시를 의무화하는 「정보통신망 이용촉진 및 정보보호 등에 관한 법률」(이하 정보통신망법) 일부 개정법률안을 지난 20일 대표 발의했다.

개정안 주요 내용은 ▲정보통신망을 통해 공개하는 딥페이크 영상의 워터마크 표시 의무화 ▲이를 지키지 않으면 1천만원 이하의 과태료 부과 ▲해당 영상을 삭제할 수 있도록 하는 조항을 담았다.

이번 개정안은 최근 인공지능 기술의 급격한 발전과 활발한 활용에 따라, 온라인에서 AI 기술을 이용한 거짓 음향, 영상 등이 빈번하게 유통되어 어떤 정보가 딥페이크로 만든 거짓 정보인지 혼란을 초래하는 상황에서, 당사자도 모른 채 자신의 얼굴과 음성으로 만든 성적 허위 영상물이 유통되고, 금융 사기와 같은 범죄에 악용되는 일을 막기 위해 마련했다.

최근 ‘서울대 N번방’으로 불리는 대학교 내 딥페이크 성적 허위 영상물이 심각한 사회 문제로 대두했다. 방송통신심의위원회의 딥페이크 성적 허위 영상물 시정 요구 건수는 2020년 473건에서 2021년 1,913건, 2022년 3,574건, 2023년 7,187건으로 매년 크게 증가하고 있다.

지난 22대 총선을 앞두고 선거 운동 관련 딥페이크 영상 게시 시 가상 정보라는 사실을 표시하도록 하는 「공직선거법」 개정안이 시행되었다. 유럽연합은 지난 해 12월, AI로 생성한 콘텐츠에 워터마크 부착을 의무화하는 법안을 마련했다. 미국은 지난해 7월 구글, 마이크로소프트, 오픈AI 등이 미국 정부와 공동으로 워터마크 사용을 공식화하고, 의회 차원에서 법안 제정을 추진하고 있다.

우리나라는 지난 5월에 국회 국민동의청원에 ‘AI생성 표기 의무화 법안 통과’에 관한 청원이 게재되어, 2024년 5월 27일 소관위원회에 회부되었으나 제21대 국회가 만료됨에 따라 폐기되었다.

김 의원은 “인공지능 기술의 발전과 함께 이를 악용하는 범죄와 피해 사례가 지속적으로 증가한다”며 “인공지능 기술을 활용한 거짓 영상에 식별 표시를 의무화하면, 건전한 인공지능 활용 문화 정착에 큰 도움될 것으로 기대한다”고 밝혔다.