KISDI 보고서…"어린이, 허위정보 무분별 수용 가능성"

어린이를 불법 딥페이크(AI로부 만든 영상·이미지 합성 조작물)로부터 보호하기 위해 유튜브 애니메이션 콘텐츠에도 인공지능(AI) 제작 콘텐츠에 붙이는 'AI 라벨'을 붙여야 한다는 지적이다.

10일 국책연구기관인 정보통신정책연구원(KISDI)의 '딥페이크 관련 국내외 규제 현황 및 분석' 보고서에 따르면 유튜브는 올해 3월부터 크리에이터에게 영상 업로드 시 AI 사용 여부 표시를 의무화했다.

동영상 설명 부분에 콘텐츠 일부가 변형·합성됐다는 라벨을 추가하거나 민감한 주제를 다룬 특정 유형 콘텐츠의 경우 더 눈에 띄는 라벨을 표시하는 식이다.

이때 크리에이터가 해당 정보를 공개하지 않으면 문제 되는 콘텐츠를 삭제하거나 유튜브 파트너 프로그램 참여 정지 등의 불이익을 준다.

다만 명백히 비현실적인 콘텐츠나 애니메이션, 특수 효과가 포함된 콘텐츠, 제작 보조에 생성형 AI가 사용된 콘텐츠는 AI 라벨 대상에서 제외됐다. 사실적이지 않거나 사소하다는 이유에서다.

이로 인해 허위 정보를 무분별하게 수용할 우려가 커진다는 지적이다. 노은정 KISDI 전문연구원은 "어린이는 성인보다 인지능력이 떨어지기 때문에 딥페이크 콘텐츠가 조작되거나 합성된 것을 인식하지 못한다"고 했다.

딥페이크가 빠른 속도로 발전하면서 진위를 판별하기 어려워져 허위정보 유포, 명예훼손 등 악용 사례도 급증하고 있다.

노 연구원은 "유튜브의 AI 라벨 정책에 애니메이션도 포함해야 딥페이크 애니메이션을 필터링할 수 있어 어린이를 불법 딥페이크로부터 최소한 보호할 수 있을 것"이라고 말했다.

플랫폼 자체 노력뿐만 아니라 정부 규제도 필요하다는 지적이다. AI 라벨은 딥페이크의 피해를 줄이기 위한 최소한의 노력에 불과하다는 것이다.

노 연구원은 "제작자와 유포자를 강력히 처벌하고 피해자를 보호할 수 있는 보상 제도가 마련돼야 한다"고 강조했다.

국내에서는 과학기술정보통신부, 방송통신위원회, 문화체육관광부 등 유관 부처에서 딥페이크를 포함한 생성형 AI 관련 정책을 추진하고 있다.