네이버가 자사 생성형 인공지능 서비스에 선거 관련 질문을 하면 제공이 어렵다는 답변을 하도록 한다. 딥페이크 관련 검색에도 주의 문구를 띄운다.
네이버는 28일 공식 블로그를 통해 클로바X와 Cue:(큐)에 선거 관련 정보를 요청하거나 예측을 묻는 경우 제공이 어렵다는 사실을 안내하겠다고 발표했다. 서비스 하단에는 선거 관련 사용자 주의 문구를 제공하겠다고 밝혔다. 네이버는 생성형AI 챗봇인 클로바X와 생성형AI 검색 서비스인 Cue:(큐)를 서비스하고 있다.
네이버는 “생성형 AI는 축적된 데이터와 학습을 토대로 결과를 생성하기 때문에 새로이 변화하는 정보에 대해서는 정확성이 부족할 수 있다”며 “인간의 지능과 창의성을 완벽히 모방하지는 못하는 기술적 한계가 분명 존재하기 때문에 예측이 필요한 정보에 대해서는 잘못된 정보를 구성할 수 있다”고 설명했다.
앞서 지난해 12월 구글은 자사의 생성형 인공지능 챗봇 서비스 바드와 AI 검색 서비스 SGE에 선거 관련 질문을 제한했다. 구글은 공식 블로그를 통해 유해 콘텐츠를 차단하고 허위정보 확산을 막기 위해 내린 결정이라고 설명했다.
또한 네이버는 28일부터 딥페이크 관련 검색시 주의 문구를 띄우고 있다. 네이버 검색창에 ‘딥페이크 사이트’를 검색하면 “딥페이크 기술 접근, 활용함에 있어 공직선거법, 성폭력처벌법 등 법령에 위반되거나 제3자의 권리를 침해하지 않도록 유의해 주세요”라는 문구가 뜬다.
공직선거법 개정에 따라 이번 총선 때부터 딥페이크를 통한 허위사실유포나 비방 등 행위는 공직선거법상 처벌을 받게 된다.
네이버는 “딥페이크를 무심코 사용하게 되는 사용자를 방지하기 위한 노력의 시작”이라며 “새로 시행된 선거법을 미처 인지하지 못해 법에 저촉되지 않도록 딥페이크 관련 안내문구를 제공해 사용자가 관련 내용을 확인하고 주의할 수 있도록 하는 차원”이라고 밝혔다. 앞서 네이버는 딥페이크 관련 모니터를 적극적으로 하겠다고 밝혔다.
댓글0