네이버 AI 서비스, 총선까지 선거 관련 생성물 금지한다카카오 AI 이미지 생성 모델은 워터마크 기술 도입 준비 딥페이크(PG) [홍소영 제작] 일러스트 (서울=연합뉴스) 홍국기 기자 = 네이버[035420]가 28일부터 제22대 국회의원 총선거일인 오는 4월 10일까지 자사의 인공지능(AI) 서비스에서 선거와 관련한 콘텐츠 생성을 원천 금지한다. 네이버에 따르면 이날부터 대화형 AI 서비스 '클로바X'와 생성형 AI 검색 특화 서비스 '큐:'(CUE:)를 선거와 관련한 정보 요청이나 예측 등을 위해 사용하지 못한다. 이와 관련한 명령어(프롬프트)를 입력하면 "선거 정보는 대화 시점에 따라 변동될 수 있으니 선거관리위원회의 공식 자료 또는 네이버 통합검색 결과를 확인하세요"라는 문구가 뜬다. 공직선거법상 생성형 AI를 활용한 텍스트 결과물은 선거에 활용해도 문제가 없지만, 논란이 될 수 있는 시빗거리 자체를 원천 차단한 셈이다. 네이버는 다양한 형태의 질문이나 요청 형태로 선거와 관련한 정보가 생성될 수 있는 점을 고려해 두 서비스의 대화창 하단에 사용자 주의 안내 문구도 노출한다. 네이버 검색 서비스에 적용된 딥페이크 관련 주의 문구 안내 [네이버 제공] 아울러 네이버는 최근 선거와 관련한 딥페이크(AI로 만든 영상·이미지 합성 조작물)가 활개를 치는 현실을 고려해 이날부터 포털에서 관련 검색어를 입력하는 경우 주의 안내 문구를 띄운다. 검색 이용자가 정보를 소비하는 과정에서 딥페이크 기술의 악용 사례에 대해 경각심을 가질 수 있게 하겠다는 취지다. 블로그와 카페 등에서 영상 게시물을 작성할 때도 딥페이크 주의 안내 문구가 나타난다. 이 밖에 네이버는 자사 AI 서비스가 생성한 이미지에 꼬리표(label)나 워터마크를 붙이는 기술을 연구·개발 중이다. 네이버 관계자는 "하이퍼클로바X가 만든 이미지에 대해 AI 생성물 여부를 감별하고 워터마크를 붙일 수 있는 기술을 개발 중"이라면서 "적용 방법과 시점은 서비스의 맥락에 따라 신중하게 검토할 것"이라고 말했다. 카카오[035720]의 경우 자사의 이미지 생성 모델 '칼로'에 비가시성 워터마크를 붙이는 기술 도입을 검토 중이다. 카카오 측은 "사용자들에게는 워터마크가 보이지 않으나 기술적으로는 칼로 생성 여부를 알 수 있는 기술"이라며 "구글에서도 해당 기술을 연구·운영 중"이라고 설명했다 그러면서 "총선 전인 내달께 관련 기술을 도입하려고 노력하고 있다"고 덧붙였다. 카카오 칼로 AI 프로필 서비스 [카카오 제공] redflag@yna.co.kr 롯데 나균안 "논란 일으켜 팬들에게 죄송"…외도 의혹은 부인 영국 왕실에 무슨 일…수술받은 왕세자빈 음모론 확산 정세진 아나운서, KBS 입사 27년 만에 특별명예퇴직 검찰, '사생활 폭로·협박' 황의조 형수 징역 4년 구형 불타는 승용차 두고 사라진 운전자…경찰 "행적 조사중" '아내살해' 변호사 "고의 없었다"…전 국회의원 부친 증인 신청 "아직도 남편 사랑하는지"…세기의 '삼각관계' 편지 경매에 오산 폐공장서 화보 촬영중 스태프 추락사고…4명 부상 켈로그 CEO "가난한 사람들, 저녁은 시리얼로"…분노 촉발 '포도나무 100그루가 사라졌어요' 황당한 포도나무 절도
절치부심한 구글, 10일 생성형AI 신모델로 반격..격화하는 'AI 전쟁'구글이 마이크로소프트(MS)와 오픈AI 연합에 맞서 반격에 나선다. 챗봇 바드(Bard)가 지난 2월 공개 시연에서 오답을 내놓으면서 망신을 샀던 구글인 만큼 절치부심해 제대로된 AI서비스를 선보일지 세계 IT 업계의 이목이 집중되고 있다. 차세대 초
'한국형 생성 AI' 뤼튼, 문장·이미지 생성 기능 무료로 무제한 공개생성 인공지능(Generative AI) 솔루션 '뤼튼(wrtn)'을 운영하는 뤼튼테크놀로지스가 GPT-4를 활용한 대화 기능과 AI 이미지 생성을 제한 없이 무료로 공개한다고 4일 밝혔다. 뤼튼은 네이버 하이퍼클로바와 GPT-4, 자체 모델 등 초거
말하면 그림 그려준다… 구글 AI챗봇 보란 듯 성큼 앞서간 MSIT썰생성AI 대전이 격화되면서 글로벌 빅테크 기업이 하루가 멀다하고 새로운 서비스를 선보이고 있다. 구글이 챗GPT의 대항마로 선보였던 챗봇 '바드(Bard)' 서비스를 시작했고, 마이크로소프트(MS)와 오픈AI 연맹은 GPT 모델을 탑재한 MS 검색 포털 '뉴빙(N
당신을 위한 인기글
세계적 디자이너가 만든 호텔서 펼쳐진 3일간의 미식 축제
이 계절에만 누리는 낭만
도전하는 법을 아는 여자들이 전하는 커리어 조언
한국엔 더 현대, 파리엔 ‘라파예트’ 130주년 기념 크리스마스트리 공개
“운전석 비어있는 버스 타라고?”서울시 새벽 자율주행버스 도입, 믿을 수 있나
“미혼 득남에 일반인 여친까지?” 정우성, 싱글 라이프 완성하는 캐딜락과 애스턴 마틴
“보험료 상승의 주범!” 이것들 때문에 내 보험료 더 올랐다 분노
총 자산만 ‘5천 억’ JYP 박진영.. 그런데 ‘이 국산차’ 타는 모습 들통!
추천 뉴스
1
많이 내려 놓고 정형돈과도 재회한 지드래곤 근황.jpg
연예
2
'간니발2' 야기라 유야 "J-드라마 신시대 올 것…'쇼군' 기운 받고파"(2024 디즈니 쇼케이스)
연예
3
'러브콜'에 다급해진 바이에른 뮌헨 '월드클래스 MF'와 재계약 추진..."FA로 떠나지 않도록 설득 중"
스포츠
4
'오타니 뛰어 넘나' 천재타자 영입전, 이번주 새 국면 맞는다 "각 팀들의 구체적 제안 오고 갈 것"
네이버 AI 서비스, 총선까지 선거 관련 생성물 금지한다 카카오 AI 이미지 생성 모델은 워터마크 기술 도입 준비 딥페이크(PG) [홍소영 제작] 일러스트 (서울=연합뉴스) 홍국기 기자 = 네이버[035420]가 28일부터 제22대 국회의원 총선거일인 오는 4월 10일까지 자사의 인공지능(AI) 서비스에서 선거와 관련한 콘텐츠 생성을 원천 금지한다. 네이버에 따르면 이날부터 대화형 AI 서비스 '클로바X'와 생성형 AI 검색 특화 서비스 '큐:'(CUE:)를 선거와 관련한 정보 요청이나 예측 등을 위해 사용하지 못한다. 이와 관련한 명령어(프롬프트)를 입력하면 "선거 정보는 대화 시점에 따라 변동될 수 있으니 선거관리위원회의 공식 자료 또는 네이버 통합검색 결과를 확인하세요"라는 문구가 뜬다. 공직선거법상 생성형 AI를 활용한 텍스트 결과물은 선거에 활용해도 문제가 없지만, 논란이 될 수 있는 시빗거리 자체를 원천 차단한 셈이다. 네이버는 다양한 형태의 질문이나 요청 형태로 선거와 관련한 정보가 생성될 수 있는 점을 고려해 두 서비스의 대화창 하단에 사용자 주의 안내 문구도 노출한다. 네이버 검색 서비스에 적용된 딥페이크 관련 주의 문구 안내 [네이버 제공] 아울러 네이버는 최근 선거와 관련한 딥페이크(AI로 만든 영상·이미지 합성 조작물)가 활개를 치는 현실을 고려해 이날부터 포털에서 관련 검색어를 입력하는 경우 주의 안내 문구를 띄운다. 검색 이용자가 정보를 소비하는 과정에서 딥페이크 기술의 악용 사례에 대해 경각심을 가질 수 있게 하겠다는 취지다. 블로그와 카페 등에서 영상 게시물을 작성할 때도 딥페이크 주의 안내 문구가 나타난다. 이 밖에 네이버는 자사 AI 서비스가 생성한 이미지에 꼬리표(label)나 워터마크를 붙이는 기술을 연구·개발 중이다. 네이버 관계자는 "하이퍼클로바X가 만든 이미지에 대해 AI 생성물 여부를 감별하고 워터마크를 붙일 수 있는 기술을 개발 중"이라면서 "적용 방법과 시점은 서비스의 맥락에 따라 신중하게 검토할 것"이라고 말했다. 카카오[035720]의 경우 자사의 이미지 생성 모델 '칼로'에 비가시성 워터마크를 붙이는 기술 도입을 검토 중이다. 카카오 측은 "사용자들에게는 워터마크가 보이지 않으나 기술적으로는 칼로 생성 여부를 알 수 있는 기술"이라며 "구글에서도 해당 기술을 연구·운영 중"이라고 설명했다 그러면서 "총선 전인 내달께 관련 기술을 도입하려고 노력하고 있다"고 덧붙였다. 카카오 칼로 AI 프로필 서비스 [카카오 제공] redflag@yna.co.kr 롯데 나균안 "논란 일으켜 팬들에게 죄송"…외도 의혹은 부인 영국 왕실에 무슨 일…수술받은 왕세자빈 음모론 확산 정세진 아나운서, KBS 입사 27년 만에 특별명예퇴직 검찰, '사생활 폭로·협박' 황의조 형수 징역 4년 구형 불타는 승용차 두고 사라진 운전자…경찰 "행적 조사중" '아내살해' 변호사 "고의 없었다"…전 국회의원 부친 증인 신청 "아직도 남편 사랑하는지"…세기의 '삼각관계' 편지 경매에 오산 폐공장서 화보 촬영중 스태프 추락사고…4명 부상 켈로그 CEO "가난한 사람들, 저녁은 시리얼로"…분노 촉발 '포도나무 100그루가 사라졌어요' 황당한 포도나무 절도
절치부심한 구글, 10일 생성형AI 신모델로 반격..격화하는 'AI 전쟁' 구글이 마이크로소프트(MS)와 오픈AI 연합에 맞서 반격에 나선다. 챗봇 바드(Bard)가 지난 2월 공개 시연에서 오답을 내놓으면서 망신을 샀던 구글인 만큼 절치부심해 제대로된 AI서비스를 선보일지 세계 IT 업계의 이목이 집중되고 있다. 차세대 초
'한국형 생성 AI' 뤼튼, 문장·이미지 생성 기능 무료로 무제한 공개 생성 인공지능(Generative AI) 솔루션 '뤼튼(wrtn)'을 운영하는 뤼튼테크놀로지스가 GPT-4를 활용한 대화 기능과 AI 이미지 생성을 제한 없이 무료로 공개한다고 4일 밝혔다. 뤼튼은 네이버 하이퍼클로바와 GPT-4, 자체 모델 등 초거
말하면 그림 그려준다… 구글 AI챗봇 보란 듯 성큼 앞서간 MS IT썰생성AI 대전이 격화되면서 글로벌 빅테크 기업이 하루가 멀다하고 새로운 서비스를 선보이고 있다. 구글이 챗GPT의 대항마로 선보였던 챗봇 '바드(Bard)' 서비스를 시작했고, 마이크로소프트(MS)와 오픈AI 연맹은 GPT 모델을 탑재한 MS 검색 포털 '뉴빙(N
댓글 많은 뉴스