해외 유명 배우들의 모습이 딥페이스 기술로 음란 광고에 자주 등장하고 있다. 플랫폼 규제의 사각지대를 비집고 딥페이크 콘텐츠가 활성화되면서 사회적 문제로 떠오르고 있다.
8일(현지시간) NBC 뉴스에 따르면 영화 ‘해리포터’ 여주인공 엠마 왓슨이 딥페이크 기술로 SNS(소셜네트워크서비스)의 음란 광고에 등장했다. 딥페이크는 동영상에서 다른 사람의 얼굴을 합성하는 기술이다. 최근 AI(인공지능) 기술이 접목되면서 더 정교해지고 있다.
특히 최근 페이스북에는 왓슨의 얼굴이 자주 등장하고 있다. 해당 광고물에서 왓슨은 수줍게 웃다가 카메라를 응시하며 몸을 굽히며 야릇한 행동을 한다. 이 광고는 실제 왓슨이 나오는 것이 아니라 딥페이크 기술을 이용해 합성한 것이다.
외신은 인터넷 플랫폼 SNS에 등장하는 앱 광고물 중 127개가 왓슨을 닮은 것이었고 다른 74개는 할리우드 액션 여배우 스칼릿 요한슨의 얼굴이 합성된 것으로 파악됐다고 전했다. 음란 광고는 딥페이크 기술을 이용하면 수 초 만에 뚝딱 만들어진다.
인터넷 플랫폼들은 조작된 딥페이크 콘텐츠를 금지하고 있지만 규제의 사각지대를 악용한 수많은 광고 영상이 퍼지는 것으로 전해졌다. 메타 등은 악의적으로 조작된 딥페이크 콘텐츠를 금지하고 있지만 규제의 사각지대를 비집고 버젓이 활성화돼 있다고 NBC는 지적했다.
NBC는 “NBC가 검토한 앱들은 선정적인 행동은 제한되지만 아슬아슬하게 규제를 넘지 않도록 딥페이크 동영상을 만드는 등 허점을 노리고 있다”며 “특히 ‘비동의’ 딥페이크 영상은 유명인사 뿐 아니라 미성년자까지 포함한 누구도 대상이 될 수 있어 문제가 심각하다”고 밝혔다.
댓글0