'딥페이크' 성범죄 근절에 대통령실·정부·여당 모두 나섰다윤석열 대통령이 딥페이크 성범죄 문제를 언급한 이후 정부·여당이 해결방안에 나섰다. 한동훈 국민의힘 대표가 정부부처 긴급 현안보고를 열고 난 이후, 정부는 곧바로 딥페이크 성범죄 대응 태스크포스(TF)를 출범하고 범정부적 역량을 결집한다.정부는 30일 정부서울청사에서 관계부처와 함께 김종문 국무조정실 국무1차장 주재로 '딥페이크 성범죄 대응 범정부 대책 회의'를 개최했다. 딥페이크를 악용한 범죄 대응을 위해 종합적이고 체계적인 논의를 위한 킥오프 회의로 마련됐다.딥페이크 범죄란 인공지능(AI) 기술을 활용해 사람의 얼굴을 나체 등에…
"숨이 조여오는 느낌" 딥페이크 성착취범 잡은 교사가 직접 말하는 추가 피해: 듣고 나니 억장 무너지고 분통 터진다“가해자를 붙잡으면 끝난 줄 알았는데 지옥이 다시 시작됐어요. ‘그 사진’이 언제까지 저를 따라다닐까요?”20대 중학교 교사 ㄱ씨는 30일 한겨레에 가해자를 붙잡고도 끝나지 않는 불법합성물 성범죄 피해의 고통을 토로했다. 수사 끝에 가해자 1명이 특정됐지만, 여전히 ㄱ씨 사진으로 만든 불법합성물을 찾는 글이 사회관계망서비스 등에 올라오는 상황을 ‘다시 시작된 지옥’으로 표현한 것이다.이날 ㄱ씨 설명을 들어보면, ㄱ씨는 지난해 10월 본인을 대상으로 한 불법합성물이 온라인상에서 떠돌아다닌다는 사실을 알게 됐다. 모르는 사람으로부터 ‘
'딥페이크'로 기자 옷 벗겨봤다…"성인 맞다" 누르니 초등생도 가입'AI'와 음란물 연상 키워드 검색결과는…딥페이크 서비스 노출'딥페이크 툴' 사업자 처벌 어려워…"미성년자 등 접근 막아야"AI(인공지능) 딥페이크 음란물을 만들 수 있는 온라인 사이트와 앱이 넘쳐나면서 청소년 범죄를 조장한다는 비판이 제기된다. 성인 인증을 받거나 이용료를 내지 않아도 딥페이크를 만들 수 있는 만큼, 비전문가와 미성년자 등이 손쉽게 범죄에 가담할 수 있기 때문이다.29일 구글을 비롯한 주요 검색엔진에서 'AI'와 음란물을 연상시키는 단어를 합성해 검색하면, 수십개 이상의 앱과 웹사이트가 노출된다. 대부분 해외에 서...
‘딥페이크 성범죄’ 확산에 불안↑…“합성물 단순 시청·소유도 처벌해야”【투데이신문 박효령 기자】 인공지능(AI)을 이용해 지인 등의 얼굴을 불법 합성하는 일명 ‘딥페이크’ 범죄가 대학가에 이어 10대 학생들, 군까지 확산하자 정치권은 물론 각계각층에서 엄중 처벌을 촉구했다. 이에 교육부가 실태 파악에 돌입했고 경찰이 특별단속을 진행하는 등 정부가 대응에 나섰다.28일 정부 발표를 종합하면 윤석열 대통령은 전날 서울 용산 대통령실에서 주재한 국무회의 모두발언에서 “최근 불특정 다수를 대상으로 하는 딥페이크 영상물이 SNS를 타고 빠르게 유포되고 있다”며 “관계 당국에서는 철저한 실태 파악과 수사를 통해
딥페이크 성착취물에 취약한 국가 1위 대한민국: 심지어 '이 리스트'에서도 상위권을 싹쓸이했고, 내가 뭘 본 건가 싶다딥페이크 성착취물에 취약한 국가도 한국, 성착취물에 등장한 인물 1위도 한국인이었다.보안 서비스 업체 '시큐리티 히어로'에 따르면, 한 장의 선명한 얼굴 이미지만을 사용해 누구든 60초 분량의 딥페이크 성착취물 영상을 25분 만에 제작할 수 있다.최근 공개한 '2023 딥페이크 현황' 보고서에서 한국이 딥페이크 성착취물에 가장 취약하다고 밝혔다.지난해 7월부터 8월까지 상위 10개 딥페이크 포르노 웹사이트와 유튜브, 데일리모션 등에 있는 85개 딥페이크 채널을 분석한 결과, 딥페이크 성착취물에 등장한 인물 중 53%는 한국 국적이었
텔레그램 타고 퍼지는 일반인 대상 딥페이크 성범죄: 범죄자 일당이 대화랍시고 주고 받은 말은 보기만 해도 토악질이 나온다전국의 불특정 여성을 대상으로 한 ‘딥페이크’ 사진 성범죄물이 확산 중이다. '혹시 내 사진도 범죄에 이용되지 않았을까?' 많은 이들이 불안감을 호소하고 있다. '딥페이크'란 기존에 있던 인물의 사진을 바탕으로 제작한 새로운 합성 사진 및 영상물을 뜻한다.26일 X(구 트위터), 각종 온라인 커뮤니티 등에는 ‘텔레그램 딥페이크 피해자 명단’을 담은 게시물이 올라왔다. 명단에는 구체적인 학교의 명단이 적혀 충격을 더한다. 다만 실제 피해 학교인지, 피해규모가 얼마나 큰 지는 확인되지 않은 상태.이러한 딥페이크 성범죄물 문제는 최근 대
마이크로소프트 "딥페이크 등 AI와 관련된 법률 만들어야"미국 씨넷은 30일(현지 시간) 마이크로소프트가 딥페이크 등 AI 악용과 관련된 법률이 필요하다고 설명했다며 이같이 보도했다. 씨넷에 따르면 마이크로소프트는 AI와 관련해 인공지
딥페이크 배우 자청한 젊은 임모탄 조…러치 험의 ‘퓨리오사’ 캐스팅 비화 공개[스포츠W 임가을 기자] 영화 ‘퓨리오사: 매드맥스 사가’에서 젊은 ‘임모탄 조’ 역을 맡은 러치 험이 딥페이크 배우를 자청한 사실이 알려져 화제를 모은다. 시타델의 지배자 ‘임모탄 조’는 인조 턱과 호흡 장치, 단단한 갑옷과 훈장 등 인위적 요소들로 이루어진 위압적인 비주얼과 함께 엄청난 권위를 지닌 독재자의 위세를 보여주는 상징적인 캐릭터다. ▲ 사진=워너브러더스 코리아 전작 ‘매드맥스: 분노의 도로’에서 ‘임모탄 조’ 역을 맡은 휴 키스-번은 강렬한 연기를 선보인 이후 지난 2020년 세상을 떠났다. 이에 조지 밀러 감독은 이번 작품에서 ‘임모탄 조’ 라는 캐릭터를 어떻게 살려낼 수 있을지 고심했다고 밝혔다. 조지 밀러 감독은 휴 키스-번의 모든 것을 ‘퓨리오사: 매드맥스 사가’로 옮겨오기 위해 딥페이크 기술을 이용하기로 결심했고, ‘3000년의 기다림’을 함께했던 러치 험이 기꺼이 딥페이크 배우가 되어주겠다 자청하고 나섰다고 회상했다. 많은 고민 끝에 조지 밀러 감독은 러치 험의 제안을 받아들였지만, ‘임모탄 조’ 역에 완전히 빠져들어 캐릭터를 표현해내는 그의 뛰어난 연기를 보고 단 며칠 만에 딥페이크 기술이 필요 없겠다고 판단했다고 전했다. 극적인 과정을 통해 자신의 모습으로 ‘임모탄 조’를 스크린에 선보이게 된 러치 험은 이번 작품에서 ‘디멘투스’의 오른팔 ‘리즈데일 펠’ 역까지 1인 2역을 소화해 냈다. 한편, ‘퓨리오사: 매드맥스 사가’는 문명 붕괴 45년 후, 황폐해진 세상에 무참히 던져진 ‘퓨리오사’가 고향으로 돌아가기 위해 자신의 인생 전부를 걸고 떠나는 거대한 여정을 그린 액션 블록버스터로 지금 전국 극장에서 상영중이다.
그것이 알고 싶다 무서운 딥페이크 범죄한국인이 좋아하는 프로그램 추천 그알 레전드 그것이 알고 싶다 1394회 무서운 딥페이크 범죄 <그알 요약 1394회 빼앗긴 얼굴과 가짜의 덫 영상> 요즘 보이스피싱 범죄가 갈수록 고도화되고 있다는 걸 다들 뼈저리게 느낄 거다. 과거에는 경계성 지능 장애나 조금 지능이 낮은 분들이 많이 당하던 범죄였는데 최근에는 사람을 가리지 않고 피해자들이 많이 발생하고 있다. 물론 최근 추적 60분에서 나온 것처럼 일론 머스크나 다른 유명인을 사칭해서 로맨스 스캠으로 피해를 본 사람들은 당한 피해자들의 지능이 심히 의심스러울 정도로 허술한데 그래도 이들 역시 동영상이라는 미끼를 거스르긴 힘들었을 거라고 본다. 특히나 영상 통화.......
'윤석열 대통령 양심 고백' 가짜 영상 최초 유포자 잡혔다… 바로 이 사람이었다윤석열 대통령 양심고백 연설 허위 영상을 만든 게시자가 붙잡혔다. 경찰은 특정 정당 소속인 50대 남성을 포함해 9명을 특정하고 조사 중이다. 허위 영상은 딥페이크로 만들어진 것으로 확인됐다. 방송통신심의위원회는 해당 영상을 현저한 사회 혼란을 일으킬
피해금액 1조… ‘번아웃’ 고백했던 송은이, 또 안타까운 소식 (+근황)방송인 유재석을 비롯해 배우 김고은까지, 유명인 사칭 온라인 피싱 범죄 해결을 위해 연예인들이 직접 나섰다.22일 오후 유명인 사칭 온라인 피싱 범죄 해결을 위한 모임(이하 '유사모') 기자회견이 진행됐다.
네이버 AI 서비스, 총선까지 선거 관련 생성물 금지한다카카오 AI 이미지 생성 모델은 워터마크 기술 도입 준비 딥페이크(PG) [홍소영 제작] 일러스트 (서울=연합뉴스) 홍국기 기자 = 네이버[035420]가 28일부터 제22대 국회의원 총선거일인 오는 4월 10일까지 자사의 인공지능(AI) 서비스에서 선거와 관련한 콘텐츠 생성을 원천 금지한다. 네이버에 따르면 이날부터 대화형 AI 서비스 '클로바X'와 생성형 AI 검색 특화 서비스 '큐:'(CUE:)를 선거와 관련한 정보 요청이나 예측 등을 위해 사용하지 못한다. 이와 관련한 명령어(프롬프트)를 입력하면 "선거 정보는 대화 시점에 따라 변동될 수 있으니 선거관리위원회의 공식 자료 또는 네이버 통합검색 결과를 확인하세요"라는 문구가 뜬다. 공직선거법상 생성형 AI를 활용한 텍스트 결과물은 선거에 활용해도 문제가 없지만, 논란이 될 수 있는 시빗거리 자체를 원천 차단한 셈이다. 네이버는 다양한 형태의 질문이나 요청 형태로 선거와 관련한 정보가 생성될 수 있는 점을 고려해 두 서비스의 대화창 하단에 사용자 주의 안내 문구도 노출한다. 네이버 검색 서비스에 적용된 딥페이크 관련 주의 문구 안내 [네이버 제공] 아울러 네이버는 최근 선거와 관련한 딥페이크(AI로 만든 영상·이미지 합성 조작물)가 활개를 치는 현실을 고려해 이날부터 포털에서 관련 검색어를 입력하는 경우 주의 안내 문구를 띄운다. 검색 이용자가 정보를 소비하는 과정에서 딥페이크 기술의 악용 사례에 대해 경각심을 가질 수 있게 하겠다는 취지다. 블로그와 카페 등에서 영상 게시물을 작성할 때도 딥페이크 주의 안내 문구가 나타난다. 이 밖에 네이버는 자사 AI 서비스가 생성한 이미지에 꼬리표(label)나 워터마크를 붙이는 기술을 연구·개발 중이다. 네이버 관계자는 "하이퍼클로바X가 만든 이미지에 대해 AI 생성물 여부를 감별하고 워터마크를 붙일 수 있는 기술을 개발 중"이라면서 "적용 방법과 시점은 서비스의 맥락에 따라 신중하게 검토할 것"이라고 말했다. 카카오[035720]의 경우 자사의 이미지 생성 모델 '칼로'에 비가시성 워터마크를 붙이는 기술 도입을 검토 중이다. 카카오 측은 "사용자들에게는 워터마크가 보이지 않으나 기술적으로는 칼로 생성 여부를 알 수 있는 기술"이라며 "구글에서도 해당 기술을 연구·운영 중"이라고 설명했다 그러면서 "총선 전인 내달께 관련 기술을 도입하려고 노력하고 있다"고 덧붙였다. 카카오 칼로 AI 프로필 서비스 [카카오 제공] redflag@yna.co.kr 롯데 나균안 "논란 일으켜 팬들에게 죄송"…외도 의혹은 부인 영국 왕실에 무슨 일…수술받은 왕세자빈 음모론 확산 정세진 아나운서, KBS 입사 27년 만에 특별명예퇴직 검찰, '사생활 폭로·협박' 황의조 형수 징역 4년 구형 불타는 승용차 두고 사라진 운전자…경찰 "행적 조사중" '아내살해' 변호사 "고의 없었다"…전 국회의원 부친 증인 신청 "아직도 남편 사랑하는지"…세기의 '삼각관계' 편지 경매에 오산 폐공장서 화보 촬영중 스태프 추락사고…4명 부상 켈로그 CEO "가난한 사람들, 저녁은 시리얼로"…분노 촉발 '포도나무 100그루가 사라졌어요' 황당한 포도나무 절도
충격 ) 윤카 딥페이크 영상이 확산 되는 중.news - 실시간 베스트 갤러리https://n.news.naver.com/article/023/0003818182?cds=news_media_pc “저 윤석열, 국민 괴롭혔다” 국내 첫 대통령 겨냥 딥페이크 확산‘윤석열 대통령 양
영화 ‘파묘’ 개봉 하루 앞두고…최민식, 무거운 소식 전했다[TV리포트=강보라 기자] 배우 최민식 측이 영화 '파묘' 개봉을 앞둔 가운데 무거운 소식을 전해 시선을 끌고 있다. 최민식 측은 21일 "최근 최민식 배우를 사칭한 SNS 계정이 발견됐다"며 "현재 최민식 배우는 SNS 채널을 일절 운영하고 있지 않다"고 공지했다.
총선 앞두고 금지된 딥페이크 선거 게시물 활개선관위, AI 전담팀 꾸리고 19일 새 129건 적발 검증 방식 실효성 논란…관련 없어 신기술 활용 못해 딥페이크·딥보이스(PG) [홍소영 제작] 일러스트 (서울=연합뉴스) 이정현 홍국기 기자 = 오는 4월 10일 제22대 국회의원 총선거가 50여일 앞으로 다가온 가운데, 법으로 금지된 딥페이크(Deepfake·AI로 만든 영상·이미지 합성 조작물) 게시물이 활개를 치고 있다. 19일 중앙선거관리위원회(선관위)에 따르면 지난달 29일부터 지난 16일까지 19일간 유권자를 상대로 딥페이크를 이용한 선거 운동 행위로 공직선거법을 위반한 게시물은 129건에 달했다. 선관위 측은 "모두 자체 모니터링을 통해 인지한 사례"라면서 "대부분 삭제가 완료됐으나 현재 조치가 진행 중인 건도 있다"고 설명했다. 딥페이크는 세계적으로 악용 사례가 크게 늘고 있으며 무엇보다도 가짜 뉴스로 둔갑해 여론을 호도하는 민주주의 최대 위협 요소라는 위기의식이 높아지고 있다. AI 윤석열 대통령 [출처: 2022년 5월 당시 더불어민주당 박지현 공동비대위원장 페이스북] 최근 팝스타 테일러 스위프트가 딥페이크 음란물 피해를 입은 것을 비롯해, 교묘하고 감쪽같은 딥페이크 영상에 속아 사기를 당하는 사건이 국내외에서 연이어 발생했다. 2022년에는 지방선거를 앞두고 윤석열 대통령이 당시 국민의힘 박영일 남해군수 후보를 지지하는 가짜 영상이 사회관계망서비스(SNS)를 통해 확산하면서 정치적 논란이 되기도 했다. 이에 국회는 작년 12월 본회의에서 선거일 90일 전부터 유권자를 겨냥해 딥페이크를 활용한 선거 운동을 원천 금지하는 것을 골자로 한 공직선거법 개정안을 의결했다. 이번 총선의 경우에는 선거일 90일 전인 지난달 11일이 아니라 법 공포 후 한 달이 지난 29일부터 적용됐다. 개정된 공직선거법을 위반하면 7년 이하의 징역이나 1천만∼5천만원의 벌금에 처한다. 그러나 전담팀 가동 20일도 안 돼 100건을 훌쩍 넘는 법 위반 사례가 적발된 것이다. '딥페이크 선거운동 안 돼요' (수원=연합뉴스) 2024년 1월 10일 경기도 수원시 경기도선거관리위원회에서 사이버 선범죄 근절 홍보 퍼포먼스를 하는 장면. [연합뉴스 자료사진] 더욱 큰 문제는 전담팀 인력이 수십 명 수준에 불과한 데다, 3단계에 걸친 딥페이크 선별 작업을 하느라 총선이 다가올수록 딥페이크가 선거판을 흔들 개연성이 크다는 점이다. 현재 전담팀 인력은 모니터링반, 인공지능(AI) 감별반, 분석·삭제반, 조사·조치반, 검토 자문단을 포함해 72명이다. AI 감별반은 선관위에서 구축한 AI 기반의 '지능형 사이버 선거범죄 대응 시스템'에서 자동 수집된 게시물을 모니터링해 '범용 프로그램'으로 딥페이크 여부를 확인한다. 프로그램으로도 감별하기 어려울 만큼의 정교한 딥페이크일 경우 전문 자문위원에게 자문하는 과정을 거친다. 반면 모바일 앱스토어에서 소액으로 워터마크 없이 딥페이크를 만들 수 있는 애플리케이션(앱)은 수두룩하며 앱을 통한 제작 속도 또한 10분이 채 걸리지 않는다. 서울여대 정보보호학과 김명주 교수(바른AI연구센터장)는 "딥페이크를 이용한 가짜를 생성하는 확산 속도는 3단계 검증시스템이 제공하는 검증 속도에 비해 너무 빠르다"며 "한마디로 게임이 되지 않는 대응"이라고 지적했다. 딥브레인AI, 딥보이스 탐지 기술 특허 출원 [딥브레인AI 제공] 딥페이크는 나날이 교묘하고 정교해지는데, 전담팀은 일반적으로 접근이 가능한 범용 프로그램으로 대응하는 것도 현실에 뒤떨어진다는 비판이 제기된다. 지난 대통령 선거에서 'AI 윤석열'을 제작해 화제를 모은 국내 스타트업 딥브레인AI는 딥페이크 영상을 탐지하는 서비스형소프트웨어(SaaS) 기반의 설루션을 지난달 국내 최초로 출시한 데 이어, 이달에는 딥보이스(음성 합성물) 탐지 기술에 대한 특허를 출원했다. 이 업체는 지난달 한동훈 국민의힘 비상대책위원장이 "조폭들이나 할 법한 짓을 벌인 범죄자 뒤에 누가 있겠느냐"고 발언하는 기자회견 유튜브 영상에 대해 '66.84% 조작된 영상'이라는 탐지 결과를 내놨다. 1분 분량의 영상 파일이 가짜로 판명되는 데는 약 5분이 소요됐다. 그러나 전담팀은 이런 최신 탐지 기술을 활용할 수 없는 처지다. 급하게 법이 개정되고 전담팀이 꾸려지느라 별도의 사업비가 예산으로 책정되지 못했기 때문이다. 선관위 관계자는 "전담팀의 딥페이크 관련 단속에 편성된 별도 예산은 없다"면서도 "딥페이크 생성 기술도 계속 발전하고 있기 때문에 특정 회사의 프로그램을 쓰는 방법보다 단계별 검증 과정을 거쳐 위법성을 검토·조사·조치하고 있다"고 말했다. '딥페이크'(deepfake) (PG) [장현경 제작] 일러스트 redflag@yna.co.kr 경질 전 클린스만이 돌아본 정몽규 축구협회장은 '든든한 우군' 韓 '탁구게이트' 아르헨서도 입방아…"손흥민을? 믿을 수 없어" "의대정원 파격 증원에도 외국에선 의사들 집단행동 없어" 나발니 시신 행방불명…측근 "푸틴, 살해 명령 후 흔적 숨긴다" 이준석 "배복주, 지하철 시위 지적을 장애인 혐오로 몰며 활동" 동요 '새싹들이다' 작사·작곡한 좌승원씨 별세 부산 엘시티 99층서 낙하산 타고 뛰어내린 외국인 2명 추적 딸 4명 앞에서 흉기 들고 "강아지 죽인다"…아동학대 유죄 출산수당 1억? 현실은 68만원…'비과세 한도'의 절반 수준 "가난하지 않은 순간이 없어"…기초수급자 아동의 편지
살인자ㅇ난감 손석구 아역의 놀라운 비밀넷플릭스 오리지널 요즘 방영 종료 정주행 재밌는 드라마 추천 살인자ㅇ난감 손석구 아역의 놀라운 비밀 드라마 살인자ㅇ난감을 보면서 흥미로운 지점은 바로 손석구 아역 배우 였다. 어린 아이와 청소년 두 명의 아역이 나오는데 묘하게 손석구 얼굴 느낌이 너무
스위프트 '딥페이크' 논란에…X 부랴부랴 '콘텐츠 단속센터' 신설세계적인 팝스타 테일러 스위프트의 얼굴을 합성한 음란 딥페이크(Deepfake, 가짜 사진·영상) 사진이 '엑스'(옛 트위터)에 급속도로 유포되면서, 인공지능(AI) 규제의 목소리가 높아지고 있다. X(옛 트위터)는 부랴부랴 불법콘텐츠 단속 센터 설립
'이것' 활용한 선거운동 29일부터 금지…자칫하면 처벌받을 수 있습니다29일부터 딥페이크 영상을 활용한 선거운동이 금지되지만, 당내 경선 운동이나 투표 참여 권유 활동에는 허용된다. 딥페이크 영상 등을 사용한 선거운동 의심 사례는 AI 기술과 협조하여 삭제하고, 과태료 부과 및 수사기관에 통보할 예정이다. AI 댓글 자
"엄마 돈 보내줘" 딸인줄 알았더니 AI…대응책 있나정수환 숭실대 교수, 'AI 음성 딥페이크를 AI 딥러닝으로 식별' 기술 개발중 실제 3억원 송금한 AI 보이스 피싱사례 있어…대응은 '눈에는 눈, AI엔 AI로' 보이스피싱 (CG) [연합뉴스TV 제공] (서울=연합뉴스) 조성미 기자 = "엄마, 나
"브루노 마스가 부르는 하입보이" 딥페이크 기업에 美 VC 뭉칫돈[글로벌 스타트업씬] 5월 3주차 핫뉴스'글로벌 스타트업씬'은 한주간 발생한 주요 글로벌 벤처캐피탈(VC) 및 스타트업 소식을 전달하는 코너입니다. 이에 더해 국내 스타트업 시장에 미칠 영향과 전망까지 짚어드립니다.세계적인 팝 가수 브루노 마스가 뉴진
'딥페이크' 성범죄 근절에 대통령실·정부·여당 모두 나섰다 윤석열 대통령이 딥페이크 성범죄 문제를 언급한 이후 정부·여당이 해결방안에 나섰다. 한동훈 국민의힘 대표가 정부부처 긴급 현안보고를 열고 난 이후, 정부는 곧바로 딥페이크 성범죄 대응 태스크포스(TF)를 출범하고 범정부적 역량을 결집한다.정부는 30일 정부서울청사에서 관계부처와 함께 김종문 국무조정실 국무1차장 주재로 '딥페이크 성범죄 대응 범정부 대책 회의'를 개최했다. 딥페이크를 악용한 범죄 대응을 위해 종합적이고 체계적인 논의를 위한 킥오프 회의로 마련됐다.딥페이크 범죄란 인공지능(AI) 기술을 활용해 사람의 얼굴을 나체 등에…
"숨이 조여오는 느낌" 딥페이크 성착취범 잡은 교사가 직접 말하는 추가 피해: 듣고 나니 억장 무너지고 분통 터진다 “가해자를 붙잡으면 끝난 줄 알았는데 지옥이 다시 시작됐어요. ‘그 사진’이 언제까지 저를 따라다닐까요?”20대 중학교 교사 ㄱ씨는 30일 한겨레에 가해자를 붙잡고도 끝나지 않는 불법합성물 성범죄 피해의 고통을 토로했다. 수사 끝에 가해자 1명이 특정됐지만, 여전히 ㄱ씨 사진으로 만든 불법합성물을 찾는 글이 사회관계망서비스 등에 올라오는 상황을 ‘다시 시작된 지옥’으로 표현한 것이다.이날 ㄱ씨 설명을 들어보면, ㄱ씨는 지난해 10월 본인을 대상으로 한 불법합성물이 온라인상에서 떠돌아다닌다는 사실을 알게 됐다. 모르는 사람으로부터 ‘
'딥페이크'로 기자 옷 벗겨봤다…"성인 맞다" 누르니 초등생도 가입 'AI'와 음란물 연상 키워드 검색결과는…딥페이크 서비스 노출'딥페이크 툴' 사업자 처벌 어려워…"미성년자 등 접근 막아야"AI(인공지능) 딥페이크 음란물을 만들 수 있는 온라인 사이트와 앱이 넘쳐나면서 청소년 범죄를 조장한다는 비판이 제기된다. 성인 인증을 받거나 이용료를 내지 않아도 딥페이크를 만들 수 있는 만큼, 비전문가와 미성년자 등이 손쉽게 범죄에 가담할 수 있기 때문이다.29일 구글을 비롯한 주요 검색엔진에서 'AI'와 음란물을 연상시키는 단어를 합성해 검색하면, 수십개 이상의 앱과 웹사이트가 노출된다. 대부분 해외에 서...
‘딥페이크 성범죄’ 확산에 불안↑…“합성물 단순 시청·소유도 처벌해야” 【투데이신문 박효령 기자】 인공지능(AI)을 이용해 지인 등의 얼굴을 불법 합성하는 일명 ‘딥페이크’ 범죄가 대학가에 이어 10대 학생들, 군까지 확산하자 정치권은 물론 각계각층에서 엄중 처벌을 촉구했다. 이에 교육부가 실태 파악에 돌입했고 경찰이 특별단속을 진행하는 등 정부가 대응에 나섰다.28일 정부 발표를 종합하면 윤석열 대통령은 전날 서울 용산 대통령실에서 주재한 국무회의 모두발언에서 “최근 불특정 다수를 대상으로 하는 딥페이크 영상물이 SNS를 타고 빠르게 유포되고 있다”며 “관계 당국에서는 철저한 실태 파악과 수사를 통해
딥페이크 성착취물에 취약한 국가 1위 대한민국: 심지어 '이 리스트'에서도 상위권을 싹쓸이했고, 내가 뭘 본 건가 싶다 딥페이크 성착취물에 취약한 국가도 한국, 성착취물에 등장한 인물 1위도 한국인이었다.보안 서비스 업체 '시큐리티 히어로'에 따르면, 한 장의 선명한 얼굴 이미지만을 사용해 누구든 60초 분량의 딥페이크 성착취물 영상을 25분 만에 제작할 수 있다.최근 공개한 '2023 딥페이크 현황' 보고서에서 한국이 딥페이크 성착취물에 가장 취약하다고 밝혔다.지난해 7월부터 8월까지 상위 10개 딥페이크 포르노 웹사이트와 유튜브, 데일리모션 등에 있는 85개 딥페이크 채널을 분석한 결과, 딥페이크 성착취물에 등장한 인물 중 53%는 한국 국적이었
텔레그램 타고 퍼지는 일반인 대상 딥페이크 성범죄: 범죄자 일당이 대화랍시고 주고 받은 말은 보기만 해도 토악질이 나온다 전국의 불특정 여성을 대상으로 한 ‘딥페이크’ 사진 성범죄물이 확산 중이다. '혹시 내 사진도 범죄에 이용되지 않았을까?' 많은 이들이 불안감을 호소하고 있다. '딥페이크'란 기존에 있던 인물의 사진을 바탕으로 제작한 새로운 합성 사진 및 영상물을 뜻한다.26일 X(구 트위터), 각종 온라인 커뮤니티 등에는 ‘텔레그램 딥페이크 피해자 명단’을 담은 게시물이 올라왔다. 명단에는 구체적인 학교의 명단이 적혀 충격을 더한다. 다만 실제 피해 학교인지, 피해규모가 얼마나 큰 지는 확인되지 않은 상태.이러한 딥페이크 성범죄물 문제는 최근 대
마이크로소프트 "딥페이크 등 AI와 관련된 법률 만들어야" 미국 씨넷은 30일(현지 시간) 마이크로소프트가 딥페이크 등 AI 악용과 관련된 법률이 필요하다고 설명했다며 이같이 보도했다. 씨넷에 따르면 마이크로소프트는 AI와 관련해 인공지
딥페이크 배우 자청한 젊은 임모탄 조…러치 험의 ‘퓨리오사’ 캐스팅 비화 공개 [스포츠W 임가을 기자] 영화 ‘퓨리오사: 매드맥스 사가’에서 젊은 ‘임모탄 조’ 역을 맡은 러치 험이 딥페이크 배우를 자청한 사실이 알려져 화제를 모은다. 시타델의 지배자 ‘임모탄 조’는 인조 턱과 호흡 장치, 단단한 갑옷과 훈장 등 인위적 요소들로 이루어진 위압적인 비주얼과 함께 엄청난 권위를 지닌 독재자의 위세를 보여주는 상징적인 캐릭터다. ▲ 사진=워너브러더스 코리아 전작 ‘매드맥스: 분노의 도로’에서 ‘임모탄 조’ 역을 맡은 휴 키스-번은 강렬한 연기를 선보인 이후 지난 2020년 세상을 떠났다. 이에 조지 밀러 감독은 이번 작품에서 ‘임모탄 조’ 라는 캐릭터를 어떻게 살려낼 수 있을지 고심했다고 밝혔다. 조지 밀러 감독은 휴 키스-번의 모든 것을 ‘퓨리오사: 매드맥스 사가’로 옮겨오기 위해 딥페이크 기술을 이용하기로 결심했고, ‘3000년의 기다림’을 함께했던 러치 험이 기꺼이 딥페이크 배우가 되어주겠다 자청하고 나섰다고 회상했다. 많은 고민 끝에 조지 밀러 감독은 러치 험의 제안을 받아들였지만, ‘임모탄 조’ 역에 완전히 빠져들어 캐릭터를 표현해내는 그의 뛰어난 연기를 보고 단 며칠 만에 딥페이크 기술이 필요 없겠다고 판단했다고 전했다. 극적인 과정을 통해 자신의 모습으로 ‘임모탄 조’를 스크린에 선보이게 된 러치 험은 이번 작품에서 ‘디멘투스’의 오른팔 ‘리즈데일 펠’ 역까지 1인 2역을 소화해 냈다. 한편, ‘퓨리오사: 매드맥스 사가’는 문명 붕괴 45년 후, 황폐해진 세상에 무참히 던져진 ‘퓨리오사’가 고향으로 돌아가기 위해 자신의 인생 전부를 걸고 떠나는 거대한 여정을 그린 액션 블록버스터로 지금 전국 극장에서 상영중이다.
그것이 알고 싶다 무서운 딥페이크 범죄 한국인이 좋아하는 프로그램 추천 그알 레전드 그것이 알고 싶다 1394회 무서운 딥페이크 범죄 <그알 요약 1394회 빼앗긴 얼굴과 가짜의 덫 영상> 요즘 보이스피싱 범죄가 갈수록 고도화되고 있다는 걸 다들 뼈저리게 느낄 거다. 과거에는 경계성 지능 장애나 조금 지능이 낮은 분들이 많이 당하던 범죄였는데 최근에는 사람을 가리지 않고 피해자들이 많이 발생하고 있다. 물론 최근 추적 60분에서 나온 것처럼 일론 머스크나 다른 유명인을 사칭해서 로맨스 스캠으로 피해를 본 사람들은 당한 피해자들의 지능이 심히 의심스러울 정도로 허술한데 그래도 이들 역시 동영상이라는 미끼를 거스르긴 힘들었을 거라고 본다. 특히나 영상 통화.......
'윤석열 대통령 양심 고백' 가짜 영상 최초 유포자 잡혔다… 바로 이 사람이었다 윤석열 대통령 양심고백 연설 허위 영상을 만든 게시자가 붙잡혔다. 경찰은 특정 정당 소속인 50대 남성을 포함해 9명을 특정하고 조사 중이다. 허위 영상은 딥페이크로 만들어진 것으로 확인됐다. 방송통신심의위원회는 해당 영상을 현저한 사회 혼란을 일으킬
피해금액 1조… ‘번아웃’ 고백했던 송은이, 또 안타까운 소식 (+근황) 방송인 유재석을 비롯해 배우 김고은까지, 유명인 사칭 온라인 피싱 범죄 해결을 위해 연예인들이 직접 나섰다.22일 오후 유명인 사칭 온라인 피싱 범죄 해결을 위한 모임(이하 '유사모') 기자회견이 진행됐다.
네이버 AI 서비스, 총선까지 선거 관련 생성물 금지한다 카카오 AI 이미지 생성 모델은 워터마크 기술 도입 준비 딥페이크(PG) [홍소영 제작] 일러스트 (서울=연합뉴스) 홍국기 기자 = 네이버[035420]가 28일부터 제22대 국회의원 총선거일인 오는 4월 10일까지 자사의 인공지능(AI) 서비스에서 선거와 관련한 콘텐츠 생성을 원천 금지한다. 네이버에 따르면 이날부터 대화형 AI 서비스 '클로바X'와 생성형 AI 검색 특화 서비스 '큐:'(CUE:)를 선거와 관련한 정보 요청이나 예측 등을 위해 사용하지 못한다. 이와 관련한 명령어(프롬프트)를 입력하면 "선거 정보는 대화 시점에 따라 변동될 수 있으니 선거관리위원회의 공식 자료 또는 네이버 통합검색 결과를 확인하세요"라는 문구가 뜬다. 공직선거법상 생성형 AI를 활용한 텍스트 결과물은 선거에 활용해도 문제가 없지만, 논란이 될 수 있는 시빗거리 자체를 원천 차단한 셈이다. 네이버는 다양한 형태의 질문이나 요청 형태로 선거와 관련한 정보가 생성될 수 있는 점을 고려해 두 서비스의 대화창 하단에 사용자 주의 안내 문구도 노출한다. 네이버 검색 서비스에 적용된 딥페이크 관련 주의 문구 안내 [네이버 제공] 아울러 네이버는 최근 선거와 관련한 딥페이크(AI로 만든 영상·이미지 합성 조작물)가 활개를 치는 현실을 고려해 이날부터 포털에서 관련 검색어를 입력하는 경우 주의 안내 문구를 띄운다. 검색 이용자가 정보를 소비하는 과정에서 딥페이크 기술의 악용 사례에 대해 경각심을 가질 수 있게 하겠다는 취지다. 블로그와 카페 등에서 영상 게시물을 작성할 때도 딥페이크 주의 안내 문구가 나타난다. 이 밖에 네이버는 자사 AI 서비스가 생성한 이미지에 꼬리표(label)나 워터마크를 붙이는 기술을 연구·개발 중이다. 네이버 관계자는 "하이퍼클로바X가 만든 이미지에 대해 AI 생성물 여부를 감별하고 워터마크를 붙일 수 있는 기술을 개발 중"이라면서 "적용 방법과 시점은 서비스의 맥락에 따라 신중하게 검토할 것"이라고 말했다. 카카오[035720]의 경우 자사의 이미지 생성 모델 '칼로'에 비가시성 워터마크를 붙이는 기술 도입을 검토 중이다. 카카오 측은 "사용자들에게는 워터마크가 보이지 않으나 기술적으로는 칼로 생성 여부를 알 수 있는 기술"이라며 "구글에서도 해당 기술을 연구·운영 중"이라고 설명했다 그러면서 "총선 전인 내달께 관련 기술을 도입하려고 노력하고 있다"고 덧붙였다. 카카오 칼로 AI 프로필 서비스 [카카오 제공] redflag@yna.co.kr 롯데 나균안 "논란 일으켜 팬들에게 죄송"…외도 의혹은 부인 영국 왕실에 무슨 일…수술받은 왕세자빈 음모론 확산 정세진 아나운서, KBS 입사 27년 만에 특별명예퇴직 검찰, '사생활 폭로·협박' 황의조 형수 징역 4년 구형 불타는 승용차 두고 사라진 운전자…경찰 "행적 조사중" '아내살해' 변호사 "고의 없었다"…전 국회의원 부친 증인 신청 "아직도 남편 사랑하는지"…세기의 '삼각관계' 편지 경매에 오산 폐공장서 화보 촬영중 스태프 추락사고…4명 부상 켈로그 CEO "가난한 사람들, 저녁은 시리얼로"…분노 촉발 '포도나무 100그루가 사라졌어요' 황당한 포도나무 절도
충격 ) 윤카 딥페이크 영상이 확산 되는 중.news - 실시간 베스트 갤러리 https://n.news.naver.com/article/023/0003818182?cds=news_media_pc “저 윤석열, 국민 괴롭혔다” 국내 첫 대통령 겨냥 딥페이크 확산‘윤석열 대통령 양
영화 ‘파묘’ 개봉 하루 앞두고…최민식, 무거운 소식 전했다 [TV리포트=강보라 기자] 배우 최민식 측이 영화 '파묘' 개봉을 앞둔 가운데 무거운 소식을 전해 시선을 끌고 있다. 최민식 측은 21일 "최근 최민식 배우를 사칭한 SNS 계정이 발견됐다"며 "현재 최민식 배우는 SNS 채널을 일절 운영하고 있지 않다"고 공지했다.
총선 앞두고 금지된 딥페이크 선거 게시물 활개 선관위, AI 전담팀 꾸리고 19일 새 129건 적발 검증 방식 실효성 논란…관련 없어 신기술 활용 못해 딥페이크·딥보이스(PG) [홍소영 제작] 일러스트 (서울=연합뉴스) 이정현 홍국기 기자 = 오는 4월 10일 제22대 국회의원 총선거가 50여일 앞으로 다가온 가운데, 법으로 금지된 딥페이크(Deepfake·AI로 만든 영상·이미지 합성 조작물) 게시물이 활개를 치고 있다. 19일 중앙선거관리위원회(선관위)에 따르면 지난달 29일부터 지난 16일까지 19일간 유권자를 상대로 딥페이크를 이용한 선거 운동 행위로 공직선거법을 위반한 게시물은 129건에 달했다. 선관위 측은 "모두 자체 모니터링을 통해 인지한 사례"라면서 "대부분 삭제가 완료됐으나 현재 조치가 진행 중인 건도 있다"고 설명했다. 딥페이크는 세계적으로 악용 사례가 크게 늘고 있으며 무엇보다도 가짜 뉴스로 둔갑해 여론을 호도하는 민주주의 최대 위협 요소라는 위기의식이 높아지고 있다. AI 윤석열 대통령 [출처: 2022년 5월 당시 더불어민주당 박지현 공동비대위원장 페이스북] 최근 팝스타 테일러 스위프트가 딥페이크 음란물 피해를 입은 것을 비롯해, 교묘하고 감쪽같은 딥페이크 영상에 속아 사기를 당하는 사건이 국내외에서 연이어 발생했다. 2022년에는 지방선거를 앞두고 윤석열 대통령이 당시 국민의힘 박영일 남해군수 후보를 지지하는 가짜 영상이 사회관계망서비스(SNS)를 통해 확산하면서 정치적 논란이 되기도 했다. 이에 국회는 작년 12월 본회의에서 선거일 90일 전부터 유권자를 겨냥해 딥페이크를 활용한 선거 운동을 원천 금지하는 것을 골자로 한 공직선거법 개정안을 의결했다. 이번 총선의 경우에는 선거일 90일 전인 지난달 11일이 아니라 법 공포 후 한 달이 지난 29일부터 적용됐다. 개정된 공직선거법을 위반하면 7년 이하의 징역이나 1천만∼5천만원의 벌금에 처한다. 그러나 전담팀 가동 20일도 안 돼 100건을 훌쩍 넘는 법 위반 사례가 적발된 것이다. '딥페이크 선거운동 안 돼요' (수원=연합뉴스) 2024년 1월 10일 경기도 수원시 경기도선거관리위원회에서 사이버 선범죄 근절 홍보 퍼포먼스를 하는 장면. [연합뉴스 자료사진] 더욱 큰 문제는 전담팀 인력이 수십 명 수준에 불과한 데다, 3단계에 걸친 딥페이크 선별 작업을 하느라 총선이 다가올수록 딥페이크가 선거판을 흔들 개연성이 크다는 점이다. 현재 전담팀 인력은 모니터링반, 인공지능(AI) 감별반, 분석·삭제반, 조사·조치반, 검토 자문단을 포함해 72명이다. AI 감별반은 선관위에서 구축한 AI 기반의 '지능형 사이버 선거범죄 대응 시스템'에서 자동 수집된 게시물을 모니터링해 '범용 프로그램'으로 딥페이크 여부를 확인한다. 프로그램으로도 감별하기 어려울 만큼의 정교한 딥페이크일 경우 전문 자문위원에게 자문하는 과정을 거친다. 반면 모바일 앱스토어에서 소액으로 워터마크 없이 딥페이크를 만들 수 있는 애플리케이션(앱)은 수두룩하며 앱을 통한 제작 속도 또한 10분이 채 걸리지 않는다. 서울여대 정보보호학과 김명주 교수(바른AI연구센터장)는 "딥페이크를 이용한 가짜를 생성하는 확산 속도는 3단계 검증시스템이 제공하는 검증 속도에 비해 너무 빠르다"며 "한마디로 게임이 되지 않는 대응"이라고 지적했다. 딥브레인AI, 딥보이스 탐지 기술 특허 출원 [딥브레인AI 제공] 딥페이크는 나날이 교묘하고 정교해지는데, 전담팀은 일반적으로 접근이 가능한 범용 프로그램으로 대응하는 것도 현실에 뒤떨어진다는 비판이 제기된다. 지난 대통령 선거에서 'AI 윤석열'을 제작해 화제를 모은 국내 스타트업 딥브레인AI는 딥페이크 영상을 탐지하는 서비스형소프트웨어(SaaS) 기반의 설루션을 지난달 국내 최초로 출시한 데 이어, 이달에는 딥보이스(음성 합성물) 탐지 기술에 대한 특허를 출원했다. 이 업체는 지난달 한동훈 국민의힘 비상대책위원장이 "조폭들이나 할 법한 짓을 벌인 범죄자 뒤에 누가 있겠느냐"고 발언하는 기자회견 유튜브 영상에 대해 '66.84% 조작된 영상'이라는 탐지 결과를 내놨다. 1분 분량의 영상 파일이 가짜로 판명되는 데는 약 5분이 소요됐다. 그러나 전담팀은 이런 최신 탐지 기술을 활용할 수 없는 처지다. 급하게 법이 개정되고 전담팀이 꾸려지느라 별도의 사업비가 예산으로 책정되지 못했기 때문이다. 선관위 관계자는 "전담팀의 딥페이크 관련 단속에 편성된 별도 예산은 없다"면서도 "딥페이크 생성 기술도 계속 발전하고 있기 때문에 특정 회사의 프로그램을 쓰는 방법보다 단계별 검증 과정을 거쳐 위법성을 검토·조사·조치하고 있다"고 말했다. '딥페이크'(deepfake) (PG) [장현경 제작] 일러스트 redflag@yna.co.kr 경질 전 클린스만이 돌아본 정몽규 축구협회장은 '든든한 우군' 韓 '탁구게이트' 아르헨서도 입방아…"손흥민을? 믿을 수 없어" "의대정원 파격 증원에도 외국에선 의사들 집단행동 없어" 나발니 시신 행방불명…측근 "푸틴, 살해 명령 후 흔적 숨긴다" 이준석 "배복주, 지하철 시위 지적을 장애인 혐오로 몰며 활동" 동요 '새싹들이다' 작사·작곡한 좌승원씨 별세 부산 엘시티 99층서 낙하산 타고 뛰어내린 외국인 2명 추적 딸 4명 앞에서 흉기 들고 "강아지 죽인다"…아동학대 유죄 출산수당 1억? 현실은 68만원…'비과세 한도'의 절반 수준 "가난하지 않은 순간이 없어"…기초수급자 아동의 편지
살인자ㅇ난감 손석구 아역의 놀라운 비밀 넷플릭스 오리지널 요즘 방영 종료 정주행 재밌는 드라마 추천 살인자ㅇ난감 손석구 아역의 놀라운 비밀 드라마 살인자ㅇ난감을 보면서 흥미로운 지점은 바로 손석구 아역 배우 였다. 어린 아이와 청소년 두 명의 아역이 나오는데 묘하게 손석구 얼굴 느낌이 너무
스위프트 '딥페이크' 논란에…X 부랴부랴 '콘텐츠 단속센터' 신설 세계적인 팝스타 테일러 스위프트의 얼굴을 합성한 음란 딥페이크(Deepfake, 가짜 사진·영상) 사진이 '엑스'(옛 트위터)에 급속도로 유포되면서, 인공지능(AI) 규제의 목소리가 높아지고 있다. X(옛 트위터)는 부랴부랴 불법콘텐츠 단속 센터 설립
'이것' 활용한 선거운동 29일부터 금지…자칫하면 처벌받을 수 있습니다 29일부터 딥페이크 영상을 활용한 선거운동이 금지되지만, 당내 경선 운동이나 투표 참여 권유 활동에는 허용된다. 딥페이크 영상 등을 사용한 선거운동 의심 사례는 AI 기술과 협조하여 삭제하고, 과태료 부과 및 수사기관에 통보할 예정이다. AI 댓글 자
"엄마 돈 보내줘" 딸인줄 알았더니 AI…대응책 있나 정수환 숭실대 교수, 'AI 음성 딥페이크를 AI 딥러닝으로 식별' 기술 개발중 실제 3억원 송금한 AI 보이스 피싱사례 있어…대응은 '눈에는 눈, AI엔 AI로' 보이스피싱 (CG) [연합뉴스TV 제공] (서울=연합뉴스) 조성미 기자 = "엄마, 나
"브루노 마스가 부르는 하입보이" 딥페이크 기업에 美 VC 뭉칫돈 [글로벌 스타트업씬] 5월 3주차 핫뉴스'글로벌 스타트업씬'은 한주간 발생한 주요 글로벌 벤처캐피탈(VC) 및 스타트업 소식을 전달하는 코너입니다. 이에 더해 국내 스타트업 시장에 미칠 영향과 전망까지 짚어드립니다.세계적인 팝 가수 브루노 마스가 뉴진
댓글 많은 뉴스