최근에 인공지능(AI) 기술이 발전하면서 가짜 영상이 온라인 플랫폼을 통해 빠르게 확산되고 있다.
이렇게 만들어진 영상들은 본래의 영상을 훌륭하게 모방해낼 만큼 기술이 교묘해져, 진짜인지 가짜인지를 구별하는 것이 힘들어졌다.
그러나 이러한 현상에 대한 규제나 대응 방안은 아직 명확하지 않다.
AI 기술을 활용한 음바페 가짜 기자회견 영상의 사례
지난달 15일, 유튜브에 ‘이강인 영입 마케팅이죠? 일본기자 질문에 음바페 반응 ㄷㄷ’ 이라는 제목의 영상이 업로드되어 화제를 모았다.
영상에서 음바페는 일본 기자의 “이강인의 영입이 마케팅을 위함이라고 생각하냐”는 질문에 불쾌한 표정을 지으며 답변하는 모습을 보였다.
하지만 이 영상은 사실 AI 기술을 활용해 조작된 것이었다.
이는 실제로 2021년 유로 2020에서 음바페가 기자회견을 가진 영상을 기반으로, TTS(Text To Speech) 기술을 이용해 일본 기자의 음성을 생성하고 그 위에 다른 자막을 붙여 만든 것이었다.
AI 조작 영상에 대한 대중의 인식 문제
이같은 AI를 이용한 조작 영상은 많은 시청자들에게 큰 영향을 미치고 있다.
이를 드러내는 사례로, 독도를 일본의 땅이라 주장하는 교수에게 반박하는 한국 유학생을 그린 또 다른 영상이 있다.
이 영상은 또한 AI를 이용해 조작된 것으로 의심받고 있지만, 시청자들은 대부분 그 내용을 믿어 의심치 않고 있다.
허위 정보 규제에 대한 법적 한계
하지만 이와 같은 AI가 생성한 허위 정보에 대한 유통의 위험성이 점점 커지고 있음에도, 허위 정보를 규제하거나 제어할 수 있는 법규나 제도는 아직 미비한 상태다.
방송통신심의위원회에서는 불확정한 정보가 사회에 혼란을 초래할 경우에는 정보통신에 대한 심의 규정을 적용하여 심의한다고 밝혔지만, ‘가짜뉴스’라는 분류로 별도의 심의를 진행하는 것은 아니라고 설명했다.
문화체육부에서도 신기술에 대해 자율 규제가 중요하다는 입장을 유지하면서도, 구체적인 대응 방안 마련에 대해서는 아직 초기 단계에 있다고 전했다.
인공지능을 활용한 가짜 영상에 대한 대응 필요성
이런 상황 속에서 인공지능이 만들어낸 가짜 영상의 문제는 점점 심각해지고 있다.
기술의 발전과 그에 따른 조작 영상의 확산은 시민들에게 혼란을 야기하고 있으며, 이에 대한 규제와 대응 방안 마련의 필요성이 점점 더 커지고 있다.
이를 위해 기술의 발전과 함께 그에 대한 윤리적, 법적 대응 방안도 함께 발전시켜야 할 것이다.
댓글0