“ 인공지능 콘텐츠 제작물에 표시 의무 부과하여 허위 정보로 인한 사회적 혼란 방지해야 ”

이상헌 의원 , ‘AI 제작 콘텐츠 표기 의무법 ’ 대표발의

국회 문화체육관광위원회 소속 이상헌 의원 ( 더불어민주당 , 울산 북구 ) 은 22 일 ( 월 ), 인공지능을 이용하여 제작된 콘텐츠라는 사실을 표시하도록 하는 「 콘텐츠산업 진흥법 일부개정법률안 」 을 대표발의했다 .

챗 GPT, 미드저니 등의 생성형 인공지능 (AI) 기술이 빠른 속도로 발전하면서 , 이에 대한 적절한 규제가 필요하다는 주장이 제기되고 있다 .

최근 SNS 에서는 프란치스코 교황이 명품 패딩을 입고 산책하는 모습의 사진이 화제가 되었다 . 이는 인공지능을 이용해 만든 허위 이미지로 밝혀졌다 . 지난 13 일 , 트럼프 전 미국 대통령은 자신의 SNS 계정에 CNN 앵커가 바이든 대통령을 비난하는 영상을 올렸다 . 이 또한 인공지능이 만든 가짜 영상이었다 .

생성형 인공지능이 만들어내는 이미지 , 영상 , 음성 등이 갈수록 정교해지고 있는 것이다 . 때문에 사용자들은 진위를 쉽게 파악할 수 없게 되었다 . 인공지능 발 ( 發 ) 허위 콘텐츠로 인한 혼란을 막기 위해서는 제도적 개선이 시급하다는 의견이 다수 제기되었다 .

이에 이상헌 의원이 발의한 「 콘텐츠산업 진흥법 일부개정법률안 」 은 텍스트 , 이미지 , 음악 등의 콘텐츠가 인공지능 기술을 이용하여 만들어졌을 경우 , 해당 콘텐 츠가 인공지능 기술을 이용하여 제작된 콘텐츠라는 사실을 표시하도록 하는 내용을 담았다 . 개정안이 통과되면 사용자들이 진위 여부를 알 수 있게 되어 허위 정보로 인한 사회적 혼란이 방지될 것으로 보인다 .

이상헌 의원은 “ 인공지능 기술 발전 속도가 지나치게 빨라지면서 오 · 남용으로 인한 부작용이 우려되고 있다 . 현재 EU 에서는 인공지능이 만든 콘텐츠에 표기를 의무화하는 규제안이 검토되고 있으며 , 미국에서도 AI 로 만든 정치 광고영상과 사진에 출처를 의무적으로 표기하도록 하는 법안이 발의되어 있는 상황 ” 이라며 , “ 우리나라도 AI 오 · 남용을 막기 위한 관리 방안을 마련하여 인공지능 시대의 규범적 틀을 확립해야 한다 .” 라고 입법 취지를 밝혔다 .