“밤거리 치마 올리는 여친” “단지 셔츠 한 장만”
마치 포르노그라피와도 같은 제목의 영상들이 유튜브에 범람하고 있다. 기존 영상들과 다른 점은 단 하나, 생성형 AI(인공지능)로 만든 가상 모델들이 주인공으로 등장한다. 이처럼 AI를 활용한 양산형 룩북들이 유튜브에 대량으로 등장하고 있다. 일부 영상은 아동청소년성보호법 위반 소지까지 있어 보이지만 유튜브 자체 필터링에 걸리지 않고 있는 실정이다.
19일 유튜브에서 ‘AI 룩북’ 또는 ‘AI 모델 룩북’ 등을 검색하면 생성형 AI가 만든 가상 인간의 의류 착용 장면을 여럿 이어 붙인 영상이 다수 나타난다. 다만 이 같은 영상들은 일반적인 룩북과는 거리가 멀다.
패션업계에서 원래 쓰이는 룩북(lookbook)의 뜻은 여러가지 옷을 보여주기 위해 모델의 다양한 착용샷을 모아놓은 사진집 또는 영상이다. 최근 일부 유튜버들이 옷을 갈아입는 영상을 올리면서 중간중간 속옷 상태를 적나라하게 노출하는 경우가 많아져 선정성 논란이 제기된다.
AI 모델 룩북은 이러한 선정성 논란을 가속화할 것으로 보인다. 실제 모델과 촬영장비 등이 필요한 룩북 제작과 달리, 생성형 AI 툴만을 이용해 사진과 영상을 대량생산하고 있다. 이 과정에서 선정적인 상황 설정이나 의상, 포즈 등을 적용한다. 일부 영상은 AI 모델에 교복을 입혀 마치 미성년자로 보이도록 설정하기도 한다.
이 같은 영상들은 애초에 패션 스타일을 공유하기 위해 만들어지던 ‘룩북’과는 거리가 멀다. 양산형 AI 룩북 또는 이에 준하는 선정적 영상들이 조만간 유튜브 영상의 상당 부분을 차지할 것이라는 관측도 나오고 있다.
AI 룩북을 만들어 올리는 행위 자체는 법적으로 문제가 될 여지가 적다. 신민영 법무법인 호암 대표변호사는 “인간 모델이 선정적인 의류를 입는 것이나, AI 모델이 보여주는 것이나 딱히 규제받을 사항은 없다”며 “저작권 문제 역시 AI 툴은 도구일 뿐, 해당 영상 제작자에게만 저작권이 있다고 볼 수 있다”고 전했다. 다만 “AI 모델이 아동처럼 보인다면 아동청소년이용음란물로 여겨질 수 있다”고 전했다.
아동청소년성보호법 2조 5항은 아동·청소년이용음란물을 ‘아동·청소년 또는 아동·청소년으로 인식될 수 있는 사람이나 표현물이 등장하는 것’으로 정의하고 있다. 단순히 미성년자 모델이 아닌, 미성년자로 ‘보이는’ 모델이 나와도 단속 대상이 되는 셈이다.
유튜브 역시 음란물 콘텐츠를 자동으로 걸러내는 시스템을 도입하고 있지만 영상 중간중간 삽입된 아동청소년음란물을 모두 걸러내기는 쉽지 않은 상황이다. 또 유튜브가 국내 사업자가 아니기에 국내법을 적용한 음란물 유통 책임을 지울 방법도 마땅치 않다.
한 IT업계 관계자는 “유튜브도 나름대로 커뮤니티 가이드를 세우고 기준에 따라 위반 영상들을 감지 및 삭제하고 있지만, 양산형 음란물을 전부 대응하는 데는 한계가 있어보인다”며 “유튜브가 음란물 유통을 근절할 의지를 지녔다면 관련 기술과 인력에 보다 많은 투자를 하는 게 맞는 방향”이라고 바라봤다.
댓글0