[한국상인뉴스=조용식 기자] 국회 과학기술정보방송통신위원회 소속 김장겸 국민의힘 의원(비례)이 포털과 플랫폼의 AI생성물 표시를 의무화하는 내용의 정보통신망이용촉진및정보보호등에관한법률(정보통신망법) 개정안을 29일 대표발의했다. 

최근 AI 기술 대중화로 누구나 합성된 영상과 음성을 쉽게 만들 수 있게 되면서 이를 악용하는 사례가 발생하고 있다. 유명인의 얼굴과 목소리를 이용해 만든 딥페이크 생성물을 ‘리딩방 사기’에 활용하고, ‘허위의 성적 영상’이 무분별하게 유포되며 심각한 사회 문제로 대두되고 있다. 

특히 성적 내용의 딥페이크 영상의 경우, 그 피해가 대학생·여군·교사뿐 아니라 중·고교생 등 미성년자들에게 확대되고 있다. 국회 누리집에는 텔레그램을 통해 이뤄지는 이 같은 성범죄 가해를 강력히 처벌해달라는 국민동의청원까지 등장했다.

현행법상 방송통신심의위원회가 불법정보 및 불법촬영물 유통에 대해 삭제 및 차단 요구를 할 수 있고, 시정명령이 이행되지 않을 경우 형사고발이 가능하다. 하지만 방대하게 쏟아지는 불법 유통물에 대한 즉각적이고 실효적인 대응이 어렵다는 지적이 나오고 있다. 

이에 김장겸 의원은 ‘포털·플랫폼 딥페이크 표시의무제’를 골자로 하는 정보통신망법 개정안을 대표발의했다. 불법 AI생성물 유포를 선제적으로 차단하기 위한 포털·플랫폼의 역할과 책임을 규정한 것이 핵심이다. 

개정안에 따르면, 먼저 일정 규모 이상의 포털 및 플랫폼 사업자는 AI 기술을 이용하여 만든 가상의 정보인지 여부를 표시할 수 있는 기능을 제공해야 한다. 정보 이용자가 AI생성물 여부를 쉽게 식별할 수 있도록 하겠다는 취지다.

딥페이크 표시 방법을 제공하지 않은 포털·플랫폼 사업자에게는 1천만원 이하의 과태료를 부과해 실효성을 높였다. 

또한 포털·플랫폼 사업자는 표시의무를 위반한 AI생성물의 탐지와 삭제 등 유통방지 조치를 취해야 한다. 포털·플랫폼 사업자가 AI생성물을 탐지할 수 있도록, AI개발자에게 판독 방법을 제공할 의무를 부여했다. 

아울러 정보를 게재하려는 이용자에게는 AI생성물 표시의무를 부과하고, 표시를 임의로 제거하거나 훼손할 수 없도록 규정했다. 플랫폼 사업자가 표시의무를 이행하지 않거나 임의로 제거·훼손한 이용자에게 경고 또는 이용정지, 수익 제한 조치를 할 수 있는 규정도 담았다.

다만, 인공지능 기술의 사용 범위와 목적 등을 고려해 ‘대통령령으로 정하는 인공지능 생성물’에는 예외를 두기로 했다.

김장겸 의원은 “법안이 통과되면, 가상 정보와 실제 사실을 구분할 수 있게 돼 AI 기술을 악용한 범죄와 사회적 혼란을 방지하고 가짜뉴스 피해를 예방할 것으로 기대한다”며 “딥페이크 등 불법 AI 생성물로 국민이 고통받지 않도록 조속한 입법이 이뤄지도록 최선을 다하겠다”고 말했다. 

이번 개정안에는 엄태영, 강승규, 김예지, 김재섭, 김승수, 최수진, 고동진, 박대출, 박충권, 이상휘, 박정하, 진종오, 최은석, 권성동, 유상범, 박수영, 조정훈, 송언석, 김석기, 김종양, 권영진, 김도읍 의원 등 22인이 공동발의자로 참여했다.