[서울=뉴스프리존]정병일 기자= 아이폰 등 애플의 기기에 적용되고 있는 인공지능(AI) 프로그램이 가짜뉴스를 만들어 이용자들에게 배포하는 실수를 저질렀다.
영국의 BBC 방송의 보도 형식을 빌린 이 가짜뉴스의 내용은 “(미국의 보험사 CEO를 총격 살해한 살인범) 루이지 만지오네가 자신을 쐈다(Luigi Mangione shoots himself)”라는 짧은 헤드라인 형식의 문장 하나다.
이는 애플이 자체 개발해 지난 6월 공개한 AI 플랫폼인 ‘애플 인텔리전스(Intelligence)’가 헤드라인 뉴스 몇 개를 뽑아 ‘푸시 알림’ 기능으로 이용자들에게 보낸 메시지에 포함됐다. 이 기능은 아이폰과 아이패드, 맥 등 애플의 일부 최신 제품들에 들어가 있다.
루이지 만지오네(26세)는 지난 4일 미국 뉴욕시 맨해튼 시내의 거리에서 보험사인 유나이티드 헬스케어의 최고경영자 브라이언 톰슨을 소음기를 부착한 사제 권총으로 쏘아 숨지게 했다. 이후 그는 체포됐고 지난 17일 1급 살인 혐의로 기소돼 재판을 기다리고 있다. 물론 버젓이 살아 있다.
그런데도 애플이 채택한 AI 프로그램이 사실이 아닌 내용을 ‘생성’해 이용자들에게 뿌린 것이다. ‘생성(Generative) AI’가 갖고 있는 ‘환각(hallucination)’의 부작용이 작동한 치명적 사례다. 생성 AI는 사전에 학습한 방대한 데이터를 토대로 새로운 콘텐츠를 만들어내지만 사실이 아닌 내용을 그럴 듯하게 내놓는 ‘환각’ 현상을 완전히 제거하지 못하는 기술적 한계를 현재 지니고 있다.
짧은 문장 하나에 지나지 않지만 이 가짜 뉴스는 언론계와 기술업계에 파문을 일으키고 있다. BBC는 당장 애플사에 항의했다. BBC 대변인이 문제 제기와 해결을 위해 애플에 연락했으나 애플 측은 이에 대해 언급하기를 거부했다고 CNN 등 외신들이 19일(현지시각) 보도했다.
BBC는 성명을 내고 “우리의 시청자가 우리 이름으로 발행된 모든 정보나 저널리즘을 신뢰할 수 있는 것이 우리에겐 필수적이며 여기에는 ‘알림’도 포함된다”고 했다.
국제언론인단체인 「국경없는 기자회(RSF)」는 이날 성명을 내고 애플에 해당 기능을 제거하라고 촉구했다. 이 단체의 기술 및 저널리즘 책임자인 빈센트 베르티에는 애플에 대해 책임감 있게 행동하라며 “미디어 매체를 빙자한 허위 정보의 자동 생산은 언론의 신뢰성에 타격을 주고 대중의 알 권리를 위험에 빠뜨리는 것”이라고 강조했다.
또 이 단체는 “새로운 AI 도구로 인해 언론매체에 초래되는 위험을 매우 우려하고 있다”면서 “이번 사건은 AI가 대중을 위한 신뢰할 수 있는 정보를 생산하기에는 너무 미숙하며 그런 용도로 시장에 허용돼선 안된다는 것을 보여준다”고 지적했다.
애플 인텔리전스의 이런 실수는 처음이 아니다. BBC는 지난달 21일에도 미국의 탐사보도전문매체 프로퍼블리카의 켄 슈웬케 기자가 사용중인 아이폰에서 뉴욕타임스의 기사 3개를 요약해 ‘알림’으로 배포된 문자에서 “이스라엘의 벤야민 네타냐후가 체포됐다”는 내용을 봤다며 이를 캡처해 소셜미디어에 올린 일이 있다고 보도했다.
그러나 이 요약 메시지의 근거가 된 실제 뉴욕타임스 기사는 네타냐후 총리에 대해 국제형사재판소가 체포영장을 발부했다는 내용이었다.
댓글0