테일러 스위프트의 성적으로 음란한 AI 생성 이미지가 X에서 확산한 일이 벌어졌다. 이를 본 팬들은 불안에 떨었고, 이러한 이미지를 퍼뜨리는 플랫폼과 기술을 단속해야 한다는 의원들의 요구가 다시 불붙었다.
무슨 일인가
지난주, AI가 생성한 것으로 추정되는 테일러 스위프트의 성적으로 노골적인 가짜 이미지가 SNS에 급속도로 퍼졌다. X에 올라오고 약 17시간 동안 4,700만 번 조회, 2만 4,000건의 re포스트, 수십만 건의 좋아요와 북마크 수를 기록했다.
X는 스위프트의 가짜 이미지를 게시한 여러 계정을 정지시켰지만, 이미 다른 SNS에 공유되었고 여전히 확산 중이다.
누가 그런거야 대체?
404 미디어에 따르면, 이미지 출처는 텔레그램의 한 그룹으로, 여기 사용자들은 종종 마이크로소프트 디자이너로 만든 노골적인 여성 이미지를 공유한다고. 그리고 그들은 스위프트의 이미지가 X에서 어떻게 입소문이 났는지 농담을 주고받기까지 했다.
어떻게 해야하나!
X의 정책은 합성 및 조작 미디어 등에 대한 콘텐츠의 플랫폼 호스팅을 명시적으로 금지한다. 그러나 스위프트 팬들은 많은 게시물이 그렇게 오랜 시간동안 게시되도록 허용했다고 X를 비난하고 있다. 이 사건은 딥페이크 포르노와 AI가 생성한 실제 인물의 이미지를 막는 것이 얼마나 어려운 일인지 잘 보여준다.
일부 AI 이미지 생성기는 유명인의 누드, 음란물 및 사실적인 이미지 생성을 방지하는 제한을 두고 있지만 이외 많은 이미지 생성기는 이를 막지 않고 있다. 즉, 아직까지 AI 이미지 생성 업체에 대한 비난보다 가짜 이미지의 확산을 막는 책임은 주로 SNS 플랫폼을 향하고 있다는 것.
글로벌 테크 소식을 재미있게 받아보고 싶다면
일분톡 무료구독
댓글0