[데일리임팩트 이진원 객원기자] 미국 소셜미디어 스냅챗이 최근 선보인 인공지능(AI) 챗봇인 ‘마이 AI(My AI)’가 ‘죽은 사람과 대화하는 수단’으로 활용되면서 논란이 커지고 있다.
고인이 된 사랑하는 사람의 모습을 본떠 AI로 제작된 아바타가 고인이 살아생전에 하지 않았던 말이나 행동까지 하는데, 이것이 과연 고인을 진정으로 애도하는 데 도움이 되는지 방해가 되는지를 둘러싼 우려와 의문이 제기되고 있다는 것이다.
지난 2월 말 스냅챗의 운영사 스냅이 대중적 인기를 끌고 있는 오픈AI의 챗툴인 챗GPT로 구동되는 ‘마이 AI’ 서비스를 내놓았을 때는 이것이 사용자에게 추천하거나, 사용자의 질문에 답하거나, 사용자가 매일 가족이나 친구와 얘기하듯 ’대화‘할 수 있는 챗봇이라고만 소개했었다.
스냅은 당시 ’친한 친구를 위한 생일선물 아이디어를 내달라‘거나 ’치즈를 좋아하는 친구를 위한 치즈 관련 하이쿠(일본의 짧은 시)를 지어달라‘는 부탁을 하면 AI가 부탁받은 일에 대해 답변을 내놓을 수 있다는 걸 ’마이 AI’ 기능의 대표적 사례로 들었다.
하지만 이제 ‘마이 AI’가 세상을 떠난 남편을 그리워하는 한 여성이 남편의 AI 아바타에게 냉장고에 들어있는 재료를 갖고 어떤 요리를 해서 먹으면 좋을지 조언을 구한다든가 하는 식의 죽은 사람과 대화하는 용도로도 쓰이고 있어 논란이 불거지고 있다고 최근 CNN이 보도했다.
커지는 논란
논란은 크게 두 가지다.
첫 번째는 많은 AI가 생성한 아바타 플랫폼에는 제3자에 데이터를 판매하지 않는다는 온라인 프라이버시 보호정책을 시행하고 있지만, 스냅챗 등이 사망한 사랑하는 사람처럼 보이도록 아바타를 훈련시키는 데 사용하는 데이터를 어디서 구해서 처리하고 있는지가 불분명해서 생기는 논란이다.
이에 대해 데이비슨 대학에서 ’디지털 시대의 죽음‘을 주제로 가르치고 있는 마크 샘플 교수는 CNN에 “사람들에게 전 세계에 공개하고 싶지 않은 개인 정보는 절대 업로드하지 말라고 경고하고 싶다”고 말했다.
두 번째는 고인이 이전에 한 번도 말한 적이 없는 말을 하는 게 문제가 없는지를 둘러싼 논란이다. 사랑하는 사람이 남긴 음성 메일을 재생하여 다시 듣는 것과 그가 한 번도 말한 적이 없는 말을 듣는 것은 전혀 성격이 다른 문제이기 때문이다.
이 문제는 현재 생성형 AI 산업에서 끊이지 않고 제기되는 잘못된 정보나 편견이 묻어있는 콘텐츠를 둘러싼 논란과도 관련된다. AI 업체들이 이러한 정보나 콘텐츠를 없애기 위한 노력을 기울이고 있으나 여전히 이로 인한 문제로부터 자유롭지 못하다.
세 번째는 이런 AI 아바타와의 대화가 고인을 애도하는 과정에서 방해와 도움 중 무엇이 될지를 둘러싼 논란이다.
애도를 연구하는 애리조나 대학교의 메리-프랜시스 오코너 교수는 “사랑하는 사람을 떠올리게 하는 아바타를 만들어 과거에 그가 중요한 사람이었다는 인식을 유지하면서 치유하는 효과를 누릴 수 있다”면서 “기억 속에 죽은 사랑하는 사람의 인간적인 상태와 의미가 남아있어 매우 중요하다”고 말했다.
하지만 그녀는 “가장 가까운 사랑하는 사람과의 관계는 진정성을 바탕으로 형성된다”면서 “고인이 된 사랑하는 사람의 AI 버전을 만드는 게 많은 사람들에게 이런 진정성을 배신하는 것처럼 느껴질 수 있다”고 지적했다.
‘디지털 부활’ 나선 기업들
이처럼 AI의 힘을 빌린 죽은 사람과의 대화를 둘러싼 논란에도 불구하고 주로 많은 기업들이 이와 관련된 기술을 개발 중이다. 당연히 수요가 있다고 판단하고 있기 때문이다.
2019년에 설립된 히어애프터 AI(HereAfter AI)는 사용자가 사망한 사랑하는 사람의 아바타를 만들 수 있게 해준다. 이 AI 기반 앱은 고인이 생전에 한 인터뷰를 바탕으로 질문에 대한 응답과 답변을 생성해준다. 스토리파일이라는 또 다른 서비스는 AI 기반 대화형 동영상을 제작해 사용자에게 말을 걸어준다.
개인화한 AI 아바타에게 문자를 보내거나 전화를 걸 수 있는 앱인 레플리카(Replika)도 있다. 2017년에 출시된 이 서비스는 사용자가 아바타와 우정을 쌓고, 관계를 맺게 해준다. 사용자가 아바타와 상호작용을 많이 할수록 아바타의 개성과 기억이 발전된다.
중국에서는 AI 기술로 고인과 화상통화도 할 수 있게 해주는 기업이 등장하고 있다. 사망했거나 연로한 가족의 사진이나 동영상을 이용해서 가족의 모습이나 음성이나 행동을 그대로 본뜬 디지털 도플갱어를 만들어 대화할 수 있게 해주는 기술이다. 이를 중국에서는 ‘디지털 부활(digital resurrection)’이라고 부른다.
미국의 빅테크들도 비슷한 기술을 실험해 왔다.
CNN에 따르면 세계 최대 전자상거래업체인 아마존은 2022년 6월 자사의 음성인식 AI 비서인 알렉사가 사망한 가족을 포함한 모든 사람의 목소리를 모방할 수 있는 업데이트를 개발 중이라고 밝혔다.
당시 열린 한 콘퍼런스에서 아마존은 알렉사가 자신의 목소리 대신 할머니의 목소리로 어린 소년에게 이야기를 읽어주는 방법을 시연해 보여줬다.
로히트 프라사드 수석 부사장은 콘퍼런스에서 “업데이트된 시스템이 과거처럼 녹음 스튜디오에서 몇 시간을 소비하지 않고도 1분 미만의 오디오로도 충분한 음성 데이터를 수집할 수 있어 이와 같은 개인화된 목소리를 만들 수 있다”면서 “AI가 (사랑하는 사람을 잃어 생기는) 상실의 고통을 없애줄 수는 없지만, 그들의 기억을 오래 간직할 수 있게 해줄 수는 있다”고 말했다.
댓글0