[에듀플러스×KERIS 공동캠페인]'다 함께 디지털리터러시'…<학생편:⑥딥페이크 이해와 위험성 인식>인공지능(AI)의 진화와 넘치는 인터넷 정보의 홍수 속에서 당신은 안녕하신가요? 에듀플러스와 한국교육학술정보원(KERIS)은 디지털리터러시 공동캠페인 '다 함께 디지털리터러시'를 시작합니다. 디지털 소양이 필수인 AI시대, 일상생활에서 활용할 수 있는 디지털리터러시 팁 인공지능(AI)의 진화와 넘치는 인터넷 정보의 홍수 속에서 당신은 안녕하신가요? 에듀플러스와 한국교육학술정보원(KERIS)은 디지털리터러시 공동캠페인 '다 함께 디지털리터러시'를 시작합니다. 디지털 소양이 필수인 AI시대, 일상생활에서 활용할 수 있는 디지털리터러시 팁
방 안에 갇혀 "살려달라" 외치는 딸 영상 받은 부부: 범행 수법 보니 주먹 스매쉬 각이다지난 10월께 외국인 ㄱ씨는 한국으로 여행을 떠난 딸이 방 안에 갇혀 울면서 “살려달라”고 하는 영상을 받았다. 영상을 보낸 불상의 외국 범죄조직은 “당신 딸을 납치했다. 딸을 살리고 싶으면 합의금을 보내라”고 ㄱ씨 부부를 협박했다. ㄱ씨는 이 사실을 영사관에 알렸다. 신고를 받고 출동한 한국 경찰은 ㄱ씨 딸의 안전을 확인했다. 딸의 납치 영상은 딥페이크로 만든 가짜 영상이었다.경찰청 국가수사본부는 7일 최근 사건을 공개하며 “국내에도 유사한 사건이 발생할 가능성이 있으므로 각별히 주의해달라”고 당부했다. 딥페이크는 인공지능(AI)
딥페이크 성범죄 대응 방안 나왔지만...‘부실 대책’ 우려 여전【투데이신문 박효령 기자】 딥페이크 성범죄가 기승을 부리자 정부가 이에 대한 처벌 및 수사를 강화한다는 내용의 대책을 내놨다. 하지만 정작 현장에서는 ‘부실 대책’이라는 지적이 쏟아지고 있다.피해자 지원과 상담을 담당하는 디지털성범죄피해자지원센터(이하 디성센터) 내년 예산이 올해보다 적게 편성돼 예산을 확보하지 못할 시 역할 강화에 한계가 있을 것이라는 우려는 물론 대학교에 적용될 예방 대책이 부족하다는 비판이다. 7일 정부 발표를 종합하면 국무조정실은 전날 관계부처와 함께 ‘딥페이크 성범죄 대응 방안’을 발표했다.지난 8월 ‘대학
'딥페이크 영상' 판독 '3일→30초' 단축...실시간 탐지해 잡아낸다[이 기사에 나온 스타트업에 대한 보다 다양한 기업정보는 유니콘팩토리 빅데이터 플랫폼 '데이터랩'에서 볼 수 있습니다.] 생성형 AI(인공지능) 스타트업 딥브레인AI가 5일 유튜브나 틱톡, 텔레그램 등 SNS(소셜미디어)에 유통되는 특정 인물의 동영상 중 딥페이크 영상을 찾아내는 '딥페이크 자동 탐지 솔루션'을 공개했다. 딥브레인AI는 이날 서울 코엑스에서 '생성형AI 포럼 2024'를 열고 딥페이크 자동 탐지 솔루션 등 신규 비즈니스 모델을 소개했다. 특정 영상의 딥페이크 여부를 판별하는 데서 나아가 SNS에 실시간으로 딥페이크...
"양성평등 제대로 실현"…김한길의 '통합위' 여성 위원이 절반"대통령 말씀대로 3기 위원회에서는 우리 사회 여성의 문제를 제대로 다뤄보겠다." (김한길 국민통합위원장)지난 9월 13일 출범한 대통령직속 국민통합위원회 3기 위원 중 절반이 여성인 것으로 나타났다. 김한길 국민통합위원장은 3기 통합위에서 여성 문제를 제대로 다뤄 보겠다고 선언했는데, 그 시작이 '통합위 양성 평등'인 셈이다.20일 통합위에 따르면 3기 국민통합위 분과위원 25명 중 13명은 여성이다. 통합위는 1기 여성 위원 10명, 2기 여성 위원 11명 등 여성 비율을 꾸준히 늘려왔다. 통합위는 대통령직속 기구 중에서 여성 …
'딥페이크 성범죄 방지법' 국무회의서 의결…“촬영물 소지자도 최대 징역 3년”한덕수 국무총리는 10일 정부서울청사에서 국무회의를 열고 딥페이크(인공지능 기반 합성물 제작) 성범죄 처벌을 강화하는 이른바 '딥페이크 성범죄 방지법'을 의결했다. 불법 딥페이크 성 착취물을 소지만 하더라도 징역 3년 이하 또는 3000만원 이하의 벌금형에 처해진다. 한덕수 국무총리는 10일 정부서울청사에서 국무회의를 열고 딥페이크(인공지능 기반 합성물 제작) 성범죄 처벌을 강화하는 이른바 '딥페이크 성범죄 방지법'을 의결했다. 불법 딥페이크 성 착취물을 소지만 하더라도 징역 3년 이하 또는 3000만원 이하의 벌금형에 처해진다.
딥페이크 범죄 심각한데 손 놓은 방심위 : 긴급대응팀 1명이 처리하는 ‘디지털성범죄 정보’ 건수는 이게 말이 되나 싶다딥페이크(이미지·음성 합성 기술) 성착취물·불법촬영물 등 디지털성범죄 피해 영상과 사진 삭제 요청이 증가하고 있지만 관련 업무를 처리하는 정부 기관 인력이 부족하다는 지적이 이어지고 있다.현행법상 방송통신심의위원회(방심위)는 성범죄 피해물 유포 피해 신고를 받아 심의를 거쳐 해당 웹사이트를 운영하는 인터넷서비스 사업자를 상대로 삭제, 접속차단 등 시정요구를 한다. 여성가족부 산하 한국여성인권진흥원의 디지털성범죄피해자지원센터(디성센터)도 피해자 신고를 받아 피해물 삭제를 사업자에 요청하며, 이에 응하지 않을 경우 방심위에 차단을 요청
"모조리..." 혜화역 앞에 모여든 6천여명의 여성들이 분노 섞인 구호를 외쳤고, 우리는 반드시 이 말에 귀기울여야 한다“만든 놈, 판 놈, 본 놈 모조리 처벌하라!”21일 오후 3시, 서울 지하철 4호선 혜화역 앞 대학로에 검은 옷을 입고 검은 마스크를 낀 여성들이 끝없이 늘어섰다. 수만명의 여성이 모였던 ‘2018년 혜화역 시위’ 뒤 6년 만이다. 그때는 불법촬영, 지금은 딥페이크(불법합성)로, 구호만 바뀌고 ‘그대로’인 한국 사회 성범죄에 분노한 이들이 뭉쳤다.이날 열린 ‘딥페이크 성착취 엄벌 촉구 시위: 만든 놈, 판 놈, 본 놈 모조리 처벌하라’ 집회에는 전국에서 모인 6천여명(주최 쪽 추산)의 여성들이 참석했다. 대학로 혜화동로터리 방향
[아투포커스] '딥페이크 범죄' 잡으려고 피해자 동원…"위장수사 확대해야"아시아투데이 박세영 기자 = 심각한 사회문제로 대두된 '딥페이크 범죄' 근절과 처벌 강화를 요구하는 목소리가 높아지면서 국회에서도 관련 입법에 속도를 내고 있다. 전문가들은 가해자를 특정하기 위해 피해자들이 발벗고 나서고 있다며 수사기관의 위장수사 확대 등 수사방식에도 변화가 필요하다고 지적한다. 18일 국회 의안정보시스템에 따르면 최근 딥페이크 범죄로 인한 사회적 파장이 거세지면서 국회에서는 관련 법안이 봇물처럼 쏟아지고 있다. 실제 지난달 22일부터 딥페이크 성범죄 예방 및 단속, 피해자 지원 강화, 텔레그램 등 플랫폼에 대한 규제 등 내용을 담은 성폭력 방지 및 피해자보호 등에 관한 법률(성폭력방지법) 개정안은 약 한달 만에 35건 가량이 발의됐다. 이 가운데 여성가족위원회 법안심사소위는 현재 8개 법안에 대해 논의 중으로 여가위는 19일 법안소위를 열고 딥페이크 범죄 관련 법안의 9월 중 처리를 위한 협의를 이어갈 방침이다. 입법을 통해 경찰 등 수사기관이 성 착취물 구매..
텔레그램이 딥페이크 온상인데…또 국내 플랫폼만 때려잡나[MT리포트-디지털 성폭력]③디지털 성폭력 시대성폭력은 물리적 공간에서만 일어나지 않는다. 가상공간에서 캐릭터를 대상으로 한 언어 성희롱부터 실존 인물의 얼굴을 합성한 딥페이크 음란물까지 다양하게 일어난다. 하지만 어디까지가 범죄일지, 어떤 처벌이 적당할지 아직 사회적 공감대는 형성되지 않았다. 실제 성폭력에 버금가는 수준의 트라우마를 남길 수 있는 디지털 성폭력의 현황과 처벌 가능성, 이에 필요한 사회적 논의를 짚어본다.생성형 AI(인공지능)를 악용한 딥페이크가 사회적 이슈로 떠오르자 국회가 관련 법안을 발의하며 대응에 나섰다. ...
강성주 세종대 교수 "AI 국민운동 전개하자"아시아투데이 반영윤 기자 = 강성주 세종대학교 전자정보통신공학과 교수가 "과거 새마을운동처럼 AI 국민운동 전개하자"고 주장했다. 세종대학교는 강 교수가 지난 10일 재학생들을 대상으로 열린 '인공지능(AI)시대 대한민국은 어디로 가야 하는가?' 특강에서 AI시대를 맞이해 산업 활성화와 사회 문제해결 방안에 대해 발표했다고 11일 밝혔다. 세종대에 따르면 강 교수는 이날 특강에서 AI 산업 생태계를 구축하기 위해 최근 수요가 급증하고 있는 AI 반도체 같은 기술개발에 나서야 하고 대규모 전력공급을 위한 SMR 발전과 특히 인재 양성에 주력할 것을 제안했다. 강 교수는 대규모 언어모델(LLM) 외에 다양한 분야에서 적절한 AI모델(sLLM)이 만들어지도록 금융·세제지원을 강화하고 실패를 이겨나갈 수 있도록 스타트업도 지원해야 한다고 강조했다. 강 교수는 또한 최근 딥페이크 같은 부작용이 일어나고 있는 점에 주목해 국민의 AI에 대한 불안감을 해소하기 위한 'AI 국민운동'을 제안했다..
내 얼굴로 만든 딥페이크 디지털성범죄 '오싹'···서프샤크로 나를 숨기자최근 들어 딥페이크에 의한 디지털성범죄가 심각한 사회적 문제로 떠오르고 있다.딥페이크는 디지털 기술로 원본을 조작해 만들어진 가짜 사진이나 영상을 뜻한다. AI와 그래픽가공으로 지
잉카엔트웍스, 딥페이크 범죄 대응 및 예방 제시 “포렌식 워터마킹과 불법 유출 추적 기술 활용해야”인공지능(AI) 기술의 발전으로 인해 사람의 얼굴을 음란물에 합성하는 딥페이크 범죄가 급증하고 있다. 이러한 범죄는 여자 연예인뿐만 아니라 일반인까지 대상으로 하며, 불법적으로 제작 및 배포된 딥페이크 음란 영상물이 사회적 불안을 증폭시키고 있다. 이에 잉카엔트웍스는 인공지능(AI) 기술의 발전으로 인해 사람의 얼굴을 음란물에 합성하는 딥페이크 범죄가 급증하고 있다. 이러한 범죄는 여자 연예인뿐만 아니라 일반인까지 대상으로 하며, 불법적으로 제작 및 배포된 딥페이크 음란 영상물이 사회적 불안을 증폭시키고 있다. 이에 잉카엔트웍스는
“선배·유명인도…!” 교사들 딥페이크 성착취물 제작·유포한 남고생의 범행이 또 확인됐고, 추가 피해자는 3명이었다최근 여성 교사들의 얼굴에 나체사진을 합성한 뒤 사회관계망서비스(SNS)를 통해 유포한 고등학생의 추가 범행이 확인됐다. 경찰 조사를 통해 학원 선배와 강사 유명인을 상대로도 범행을 저지른 사실이 밝혀진 것. 인천 남동경찰서는 3일 성폭력범죄의 처벌 등에 관한 특례법 위반(허위영상물 제작 및 반포) 혐의로 불구속 입건된 10대 고교생 A군의 추가 범행 사실이 확인됐다고 밝혔다. A군은 지난 7월 인공지능(AI)을 이용한 ‘딥페이크’ 기술로 인천 소재 한 고등학교에서 일하는 교사 2명의 얼굴에 나체사진을 합성한 뒤 SNS에 유포한 혐
"직접 만나보니.." 단 5일만에 딥페이크 성범죄자 잡아낸 20대 교사가 가해자에 대해 한 말: 역시 그럴 것 같았다"가해자는 텔레그램 밖에선 아무런 행동도 못 하는 사람이다." 5일 만에 딥페이크 성범죄 가해자를 직접 잡아낸 교사 A씨가 한 말이다. 서울신문 단독 보도에 따르면, 27세 초등 교사인 A씨가 딥페이크 범죄자를 직접 잡아낸 사정은 이렇다. 그가 '텔레그램에 당신 사진이 올라와 있는 것 같다'는 메시지를 모르는 여성으로부터 받은 시점은 2021년 7월이다. 텔레그램 '지인능욕방'에 들어간 A씨는 큰 충격을 받을 수밖에 없었다. 자신이 SNS에 올린 사진이 성착취물로 둔갑돼 이름, 연락처, 근무 중인 학교 등 신상 정보와 함께 단톡방에
'딥페이크' 성범죄 근절에 대통령실·정부·여당 모두 나섰다윤석열 대통령이 딥페이크 성범죄 문제를 언급한 이후 정부·여당이 해결방안에 나섰다. 한동훈 국민의힘 대표가 정부부처 긴급 현안보고를 열고 난 이후, 정부는 곧바로 딥페이크 성범죄 대응 태스크포스(TF)를 출범하고 범정부적 역량을 결집한다.정부는 30일 정부서울청사에서 관계부처와 함께 김종문 국무조정실 국무1차장 주재로 '딥페이크 성범죄 대응 범정부 대책 회의'를 개최했다. 딥페이크를 악용한 범죄 대응을 위해 종합적이고 체계적인 논의를 위한 킥오프 회의로 마련됐다.딥페이크 범죄란 인공지능(AI) 기술을 활용해 사람의 얼굴을 나체 등에…
"숨이 조여오는 느낌" 딥페이크 성착취범 잡은 교사가 직접 말하는 추가 피해: 듣고 나니 억장 무너지고 분통 터진다“가해자를 붙잡으면 끝난 줄 알았는데 지옥이 다시 시작됐어요. ‘그 사진’이 언제까지 저를 따라다닐까요?”20대 중학교 교사 ㄱ씨는 30일 한겨레에 가해자를 붙잡고도 끝나지 않는 불법합성물 성범죄 피해의 고통을 토로했다. 수사 끝에 가해자 1명이 특정됐지만, 여전히 ㄱ씨 사진으로 만든 불법합성물을 찾는 글이 사회관계망서비스 등에 올라오는 상황을 ‘다시 시작된 지옥’으로 표현한 것이다.이날 ㄱ씨 설명을 들어보면, ㄱ씨는 지난해 10월 본인을 대상으로 한 불법합성물이 온라인상에서 떠돌아다닌다는 사실을 알게 됐다. 모르는 사람으로부터 ‘
'딥페이크'로 기자 옷 벗겨봤다…"성인 맞다" 누르니 초등생도 가입'AI'와 음란물 연상 키워드 검색결과는…딥페이크 서비스 노출'딥페이크 툴' 사업자 처벌 어려워…"미성년자 등 접근 막아야"AI(인공지능) 딥페이크 음란물을 만들 수 있는 온라인 사이트와 앱이 넘쳐나면서 청소년 범죄를 조장한다는 비판이 제기된다. 성인 인증을 받거나 이용료를 내지 않아도 딥페이크를 만들 수 있는 만큼, 비전문가와 미성년자 등이 손쉽게 범죄에 가담할 수 있기 때문이다.29일 구글을 비롯한 주요 검색엔진에서 'AI'와 음란물을 연상시키는 단어를 합성해 검색하면, 수십개 이상의 앱과 웹사이트가 노출된다. 대부분 해외에 서...
‘딥페이크 성범죄’ 확산에 불안↑…“합성물 단순 시청·소유도 처벌해야”【투데이신문 박효령 기자】 인공지능(AI)을 이용해 지인 등의 얼굴을 불법 합성하는 일명 ‘딥페이크’ 범죄가 대학가에 이어 10대 학생들, 군까지 확산하자 정치권은 물론 각계각층에서 엄중 처벌을 촉구했다. 이에 교육부가 실태 파악에 돌입했고 경찰이 특별단속을 진행하는 등 정부가 대응에 나섰다.28일 정부 발표를 종합하면 윤석열 대통령은 전날 서울 용산 대통령실에서 주재한 국무회의 모두발언에서 “최근 불특정 다수를 대상으로 하는 딥페이크 영상물이 SNS를 타고 빠르게 유포되고 있다”며 “관계 당국에서는 철저한 실태 파악과 수사를 통해
딥페이크 성착취물에 취약한 국가 1위 대한민국: 심지어 '이 리스트'에서도 상위권을 싹쓸이했고, 내가 뭘 본 건가 싶다딥페이크 성착취물에 취약한 국가도 한국, 성착취물에 등장한 인물 1위도 한국인이었다.보안 서비스 업체 '시큐리티 히어로'에 따르면, 한 장의 선명한 얼굴 이미지만을 사용해 누구든 60초 분량의 딥페이크 성착취물 영상을 25분 만에 제작할 수 있다.최근 공개한 '2023 딥페이크 현황' 보고서에서 한국이 딥페이크 성착취물에 가장 취약하다고 밝혔다.지난해 7월부터 8월까지 상위 10개 딥페이크 포르노 웹사이트와 유튜브, 데일리모션 등에 있는 85개 딥페이크 채널을 분석한 결과, 딥페이크 성착취물에 등장한 인물 중 53%는 한국 국적이었
[에듀플러스×KERIS 공동캠페인]'다 함께 디지털리터러시'…<학생편:⑥딥페이크 이해와 위험성 인식> 인공지능(AI)의 진화와 넘치는 인터넷 정보의 홍수 속에서 당신은 안녕하신가요? 에듀플러스와 한국교육학술정보원(KERIS)은 디지털리터러시 공동캠페인 '다 함께 디지털리터러시'를 시작합니다. 디지털 소양이 필수인 AI시대, 일상생활에서 활용할 수 있는 디지털리터러시 팁 인공지능(AI)의 진화와 넘치는 인터넷 정보의 홍수 속에서 당신은 안녕하신가요? 에듀플러스와 한국교육학술정보원(KERIS)은 디지털리터러시 공동캠페인 '다 함께 디지털리터러시'를 시작합니다. 디지털 소양이 필수인 AI시대, 일상생활에서 활용할 수 있는 디지털리터러시 팁
방 안에 갇혀 "살려달라" 외치는 딸 영상 받은 부부: 범행 수법 보니 주먹 스매쉬 각이다 지난 10월께 외국인 ㄱ씨는 한국으로 여행을 떠난 딸이 방 안에 갇혀 울면서 “살려달라”고 하는 영상을 받았다. 영상을 보낸 불상의 외국 범죄조직은 “당신 딸을 납치했다. 딸을 살리고 싶으면 합의금을 보내라”고 ㄱ씨 부부를 협박했다. ㄱ씨는 이 사실을 영사관에 알렸다. 신고를 받고 출동한 한국 경찰은 ㄱ씨 딸의 안전을 확인했다. 딸의 납치 영상은 딥페이크로 만든 가짜 영상이었다.경찰청 국가수사본부는 7일 최근 사건을 공개하며 “국내에도 유사한 사건이 발생할 가능성이 있으므로 각별히 주의해달라”고 당부했다. 딥페이크는 인공지능(AI)
딥페이크 성범죄 대응 방안 나왔지만...‘부실 대책’ 우려 여전 【투데이신문 박효령 기자】 딥페이크 성범죄가 기승을 부리자 정부가 이에 대한 처벌 및 수사를 강화한다는 내용의 대책을 내놨다. 하지만 정작 현장에서는 ‘부실 대책’이라는 지적이 쏟아지고 있다.피해자 지원과 상담을 담당하는 디지털성범죄피해자지원센터(이하 디성센터) 내년 예산이 올해보다 적게 편성돼 예산을 확보하지 못할 시 역할 강화에 한계가 있을 것이라는 우려는 물론 대학교에 적용될 예방 대책이 부족하다는 비판이다. 7일 정부 발표를 종합하면 국무조정실은 전날 관계부처와 함께 ‘딥페이크 성범죄 대응 방안’을 발표했다.지난 8월 ‘대학
'딥페이크 영상' 판독 '3일→30초' 단축...실시간 탐지해 잡아낸다 [이 기사에 나온 스타트업에 대한 보다 다양한 기업정보는 유니콘팩토리 빅데이터 플랫폼 '데이터랩'에서 볼 수 있습니다.] 생성형 AI(인공지능) 스타트업 딥브레인AI가 5일 유튜브나 틱톡, 텔레그램 등 SNS(소셜미디어)에 유통되는 특정 인물의 동영상 중 딥페이크 영상을 찾아내는 '딥페이크 자동 탐지 솔루션'을 공개했다. 딥브레인AI는 이날 서울 코엑스에서 '생성형AI 포럼 2024'를 열고 딥페이크 자동 탐지 솔루션 등 신규 비즈니스 모델을 소개했다. 특정 영상의 딥페이크 여부를 판별하는 데서 나아가 SNS에 실시간으로 딥페이크...
"양성평등 제대로 실현"…김한길의 '통합위' 여성 위원이 절반 "대통령 말씀대로 3기 위원회에서는 우리 사회 여성의 문제를 제대로 다뤄보겠다." (김한길 국민통합위원장)지난 9월 13일 출범한 대통령직속 국민통합위원회 3기 위원 중 절반이 여성인 것으로 나타났다. 김한길 국민통합위원장은 3기 통합위에서 여성 문제를 제대로 다뤄 보겠다고 선언했는데, 그 시작이 '통합위 양성 평등'인 셈이다.20일 통합위에 따르면 3기 국민통합위 분과위원 25명 중 13명은 여성이다. 통합위는 1기 여성 위원 10명, 2기 여성 위원 11명 등 여성 비율을 꾸준히 늘려왔다. 통합위는 대통령직속 기구 중에서 여성 …
'딥페이크 성범죄 방지법' 국무회의서 의결…“촬영물 소지자도 최대 징역 3년” 한덕수 국무총리는 10일 정부서울청사에서 국무회의를 열고 딥페이크(인공지능 기반 합성물 제작) 성범죄 처벌을 강화하는 이른바 '딥페이크 성범죄 방지법'을 의결했다. 불법 딥페이크 성 착취물을 소지만 하더라도 징역 3년 이하 또는 3000만원 이하의 벌금형에 처해진다. 한덕수 국무총리는 10일 정부서울청사에서 국무회의를 열고 딥페이크(인공지능 기반 합성물 제작) 성범죄 처벌을 강화하는 이른바 '딥페이크 성범죄 방지법'을 의결했다. 불법 딥페이크 성 착취물을 소지만 하더라도 징역 3년 이하 또는 3000만원 이하의 벌금형에 처해진다.
딥페이크 범죄 심각한데 손 놓은 방심위 : 긴급대응팀 1명이 처리하는 ‘디지털성범죄 정보’ 건수는 이게 말이 되나 싶다 딥페이크(이미지·음성 합성 기술) 성착취물·불법촬영물 등 디지털성범죄 피해 영상과 사진 삭제 요청이 증가하고 있지만 관련 업무를 처리하는 정부 기관 인력이 부족하다는 지적이 이어지고 있다.현행법상 방송통신심의위원회(방심위)는 성범죄 피해물 유포 피해 신고를 받아 심의를 거쳐 해당 웹사이트를 운영하는 인터넷서비스 사업자를 상대로 삭제, 접속차단 등 시정요구를 한다. 여성가족부 산하 한국여성인권진흥원의 디지털성범죄피해자지원센터(디성센터)도 피해자 신고를 받아 피해물 삭제를 사업자에 요청하며, 이에 응하지 않을 경우 방심위에 차단을 요청
"모조리..." 혜화역 앞에 모여든 6천여명의 여성들이 분노 섞인 구호를 외쳤고, 우리는 반드시 이 말에 귀기울여야 한다 “만든 놈, 판 놈, 본 놈 모조리 처벌하라!”21일 오후 3시, 서울 지하철 4호선 혜화역 앞 대학로에 검은 옷을 입고 검은 마스크를 낀 여성들이 끝없이 늘어섰다. 수만명의 여성이 모였던 ‘2018년 혜화역 시위’ 뒤 6년 만이다. 그때는 불법촬영, 지금은 딥페이크(불법합성)로, 구호만 바뀌고 ‘그대로’인 한국 사회 성범죄에 분노한 이들이 뭉쳤다.이날 열린 ‘딥페이크 성착취 엄벌 촉구 시위: 만든 놈, 판 놈, 본 놈 모조리 처벌하라’ 집회에는 전국에서 모인 6천여명(주최 쪽 추산)의 여성들이 참석했다. 대학로 혜화동로터리 방향
[아투포커스] '딥페이크 범죄' 잡으려고 피해자 동원…"위장수사 확대해야" 아시아투데이 박세영 기자 = 심각한 사회문제로 대두된 '딥페이크 범죄' 근절과 처벌 강화를 요구하는 목소리가 높아지면서 국회에서도 관련 입법에 속도를 내고 있다. 전문가들은 가해자를 특정하기 위해 피해자들이 발벗고 나서고 있다며 수사기관의 위장수사 확대 등 수사방식에도 변화가 필요하다고 지적한다. 18일 국회 의안정보시스템에 따르면 최근 딥페이크 범죄로 인한 사회적 파장이 거세지면서 국회에서는 관련 법안이 봇물처럼 쏟아지고 있다. 실제 지난달 22일부터 딥페이크 성범죄 예방 및 단속, 피해자 지원 강화, 텔레그램 등 플랫폼에 대한 규제 등 내용을 담은 성폭력 방지 및 피해자보호 등에 관한 법률(성폭력방지법) 개정안은 약 한달 만에 35건 가량이 발의됐다. 이 가운데 여성가족위원회 법안심사소위는 현재 8개 법안에 대해 논의 중으로 여가위는 19일 법안소위를 열고 딥페이크 범죄 관련 법안의 9월 중 처리를 위한 협의를 이어갈 방침이다. 입법을 통해 경찰 등 수사기관이 성 착취물 구매..
텔레그램이 딥페이크 온상인데…또 국내 플랫폼만 때려잡나 [MT리포트-디지털 성폭력]③디지털 성폭력 시대성폭력은 물리적 공간에서만 일어나지 않는다. 가상공간에서 캐릭터를 대상으로 한 언어 성희롱부터 실존 인물의 얼굴을 합성한 딥페이크 음란물까지 다양하게 일어난다. 하지만 어디까지가 범죄일지, 어떤 처벌이 적당할지 아직 사회적 공감대는 형성되지 않았다. 실제 성폭력에 버금가는 수준의 트라우마를 남길 수 있는 디지털 성폭력의 현황과 처벌 가능성, 이에 필요한 사회적 논의를 짚어본다.생성형 AI(인공지능)를 악용한 딥페이크가 사회적 이슈로 떠오르자 국회가 관련 법안을 발의하며 대응에 나섰다. ...
강성주 세종대 교수 "AI 국민운동 전개하자" 아시아투데이 반영윤 기자 = 강성주 세종대학교 전자정보통신공학과 교수가 "과거 새마을운동처럼 AI 국민운동 전개하자"고 주장했다. 세종대학교는 강 교수가 지난 10일 재학생들을 대상으로 열린 '인공지능(AI)시대 대한민국은 어디로 가야 하는가?' 특강에서 AI시대를 맞이해 산업 활성화와 사회 문제해결 방안에 대해 발표했다고 11일 밝혔다. 세종대에 따르면 강 교수는 이날 특강에서 AI 산업 생태계를 구축하기 위해 최근 수요가 급증하고 있는 AI 반도체 같은 기술개발에 나서야 하고 대규모 전력공급을 위한 SMR 발전과 특히 인재 양성에 주력할 것을 제안했다. 강 교수는 대규모 언어모델(LLM) 외에 다양한 분야에서 적절한 AI모델(sLLM)이 만들어지도록 금융·세제지원을 강화하고 실패를 이겨나갈 수 있도록 스타트업도 지원해야 한다고 강조했다. 강 교수는 또한 최근 딥페이크 같은 부작용이 일어나고 있는 점에 주목해 국민의 AI에 대한 불안감을 해소하기 위한 'AI 국민운동'을 제안했다..
내 얼굴로 만든 딥페이크 디지털성범죄 '오싹'···서프샤크로 나를 숨기자 최근 들어 딥페이크에 의한 디지털성범죄가 심각한 사회적 문제로 떠오르고 있다.딥페이크는 디지털 기술로 원본을 조작해 만들어진 가짜 사진이나 영상을 뜻한다. AI와 그래픽가공으로 지
잉카엔트웍스, 딥페이크 범죄 대응 및 예방 제시 “포렌식 워터마킹과 불법 유출 추적 기술 활용해야” 인공지능(AI) 기술의 발전으로 인해 사람의 얼굴을 음란물에 합성하는 딥페이크 범죄가 급증하고 있다. 이러한 범죄는 여자 연예인뿐만 아니라 일반인까지 대상으로 하며, 불법적으로 제작 및 배포된 딥페이크 음란 영상물이 사회적 불안을 증폭시키고 있다. 이에 잉카엔트웍스는 인공지능(AI) 기술의 발전으로 인해 사람의 얼굴을 음란물에 합성하는 딥페이크 범죄가 급증하고 있다. 이러한 범죄는 여자 연예인뿐만 아니라 일반인까지 대상으로 하며, 불법적으로 제작 및 배포된 딥페이크 음란 영상물이 사회적 불안을 증폭시키고 있다. 이에 잉카엔트웍스는
“선배·유명인도…!” 교사들 딥페이크 성착취물 제작·유포한 남고생의 범행이 또 확인됐고, 추가 피해자는 3명이었다 최근 여성 교사들의 얼굴에 나체사진을 합성한 뒤 사회관계망서비스(SNS)를 통해 유포한 고등학생의 추가 범행이 확인됐다. 경찰 조사를 통해 학원 선배와 강사 유명인을 상대로도 범행을 저지른 사실이 밝혀진 것. 인천 남동경찰서는 3일 성폭력범죄의 처벌 등에 관한 특례법 위반(허위영상물 제작 및 반포) 혐의로 불구속 입건된 10대 고교생 A군의 추가 범행 사실이 확인됐다고 밝혔다. A군은 지난 7월 인공지능(AI)을 이용한 ‘딥페이크’ 기술로 인천 소재 한 고등학교에서 일하는 교사 2명의 얼굴에 나체사진을 합성한 뒤 SNS에 유포한 혐
"직접 만나보니.." 단 5일만에 딥페이크 성범죄자 잡아낸 20대 교사가 가해자에 대해 한 말: 역시 그럴 것 같았다 "가해자는 텔레그램 밖에선 아무런 행동도 못 하는 사람이다." 5일 만에 딥페이크 성범죄 가해자를 직접 잡아낸 교사 A씨가 한 말이다. 서울신문 단독 보도에 따르면, 27세 초등 교사인 A씨가 딥페이크 범죄자를 직접 잡아낸 사정은 이렇다. 그가 '텔레그램에 당신 사진이 올라와 있는 것 같다'는 메시지를 모르는 여성으로부터 받은 시점은 2021년 7월이다. 텔레그램 '지인능욕방'에 들어간 A씨는 큰 충격을 받을 수밖에 없었다. 자신이 SNS에 올린 사진이 성착취물로 둔갑돼 이름, 연락처, 근무 중인 학교 등 신상 정보와 함께 단톡방에
'딥페이크' 성범죄 근절에 대통령실·정부·여당 모두 나섰다 윤석열 대통령이 딥페이크 성범죄 문제를 언급한 이후 정부·여당이 해결방안에 나섰다. 한동훈 국민의힘 대표가 정부부처 긴급 현안보고를 열고 난 이후, 정부는 곧바로 딥페이크 성범죄 대응 태스크포스(TF)를 출범하고 범정부적 역량을 결집한다.정부는 30일 정부서울청사에서 관계부처와 함께 김종문 국무조정실 국무1차장 주재로 '딥페이크 성범죄 대응 범정부 대책 회의'를 개최했다. 딥페이크를 악용한 범죄 대응을 위해 종합적이고 체계적인 논의를 위한 킥오프 회의로 마련됐다.딥페이크 범죄란 인공지능(AI) 기술을 활용해 사람의 얼굴을 나체 등에…
"숨이 조여오는 느낌" 딥페이크 성착취범 잡은 교사가 직접 말하는 추가 피해: 듣고 나니 억장 무너지고 분통 터진다 “가해자를 붙잡으면 끝난 줄 알았는데 지옥이 다시 시작됐어요. ‘그 사진’이 언제까지 저를 따라다닐까요?”20대 중학교 교사 ㄱ씨는 30일 한겨레에 가해자를 붙잡고도 끝나지 않는 불법합성물 성범죄 피해의 고통을 토로했다. 수사 끝에 가해자 1명이 특정됐지만, 여전히 ㄱ씨 사진으로 만든 불법합성물을 찾는 글이 사회관계망서비스 등에 올라오는 상황을 ‘다시 시작된 지옥’으로 표현한 것이다.이날 ㄱ씨 설명을 들어보면, ㄱ씨는 지난해 10월 본인을 대상으로 한 불법합성물이 온라인상에서 떠돌아다닌다는 사실을 알게 됐다. 모르는 사람으로부터 ‘
'딥페이크'로 기자 옷 벗겨봤다…"성인 맞다" 누르니 초등생도 가입 'AI'와 음란물 연상 키워드 검색결과는…딥페이크 서비스 노출'딥페이크 툴' 사업자 처벌 어려워…"미성년자 등 접근 막아야"AI(인공지능) 딥페이크 음란물을 만들 수 있는 온라인 사이트와 앱이 넘쳐나면서 청소년 범죄를 조장한다는 비판이 제기된다. 성인 인증을 받거나 이용료를 내지 않아도 딥페이크를 만들 수 있는 만큼, 비전문가와 미성년자 등이 손쉽게 범죄에 가담할 수 있기 때문이다.29일 구글을 비롯한 주요 검색엔진에서 'AI'와 음란물을 연상시키는 단어를 합성해 검색하면, 수십개 이상의 앱과 웹사이트가 노출된다. 대부분 해외에 서...
‘딥페이크 성범죄’ 확산에 불안↑…“합성물 단순 시청·소유도 처벌해야” 【투데이신문 박효령 기자】 인공지능(AI)을 이용해 지인 등의 얼굴을 불법 합성하는 일명 ‘딥페이크’ 범죄가 대학가에 이어 10대 학생들, 군까지 확산하자 정치권은 물론 각계각층에서 엄중 처벌을 촉구했다. 이에 교육부가 실태 파악에 돌입했고 경찰이 특별단속을 진행하는 등 정부가 대응에 나섰다.28일 정부 발표를 종합하면 윤석열 대통령은 전날 서울 용산 대통령실에서 주재한 국무회의 모두발언에서 “최근 불특정 다수를 대상으로 하는 딥페이크 영상물이 SNS를 타고 빠르게 유포되고 있다”며 “관계 당국에서는 철저한 실태 파악과 수사를 통해
딥페이크 성착취물에 취약한 국가 1위 대한민국: 심지어 '이 리스트'에서도 상위권을 싹쓸이했고, 내가 뭘 본 건가 싶다 딥페이크 성착취물에 취약한 국가도 한국, 성착취물에 등장한 인물 1위도 한국인이었다.보안 서비스 업체 '시큐리티 히어로'에 따르면, 한 장의 선명한 얼굴 이미지만을 사용해 누구든 60초 분량의 딥페이크 성착취물 영상을 25분 만에 제작할 수 있다.최근 공개한 '2023 딥페이크 현황' 보고서에서 한국이 딥페이크 성착취물에 가장 취약하다고 밝혔다.지난해 7월부터 8월까지 상위 10개 딥페이크 포르노 웹사이트와 유튜브, 데일리모션 등에 있는 85개 딥페이크 채널을 분석한 결과, 딥페이크 성착취물에 등장한 인물 중 53%는 한국 국적이었
댓글 많은 뉴스