총선 앞두고 금지된 딥페이크 선거 게시물 활개선관위, AI 전담팀 꾸리고 19일 새 129건 적발 검증 방식 실효성 논란…관련 없어 신기술 활용 못해 딥페이크·딥보이스(PG) [홍소영 제작] 일러스트 (서울=연합뉴스) 이정현 홍국기 기자 = 오는 4월 10일 제22대 국회의원 총선거가 50여일 앞으로 다가온 가운데, 법으로 금지된 딥페이크(Deepfake·AI로 만든 영상·이미지 합성 조작물) 게시물이 활개를 치고 있다. 19일 중앙선거관리위원회(선관위)에 따르면 지난달 29일부터 지난 16일까지 19일간 유권자를 상대로 딥페이크를 이용한 선거 운동 행위로 공직선거법을 위반한 게시물은 129건에 달했다. 선관위 측은 "모두 자체 모니터링을 통해 인지한 사례"라면서 "대부분 삭제가 완료됐으나 현재 조치가 진행 중인 건도 있다"고 설명했다. 딥페이크는 세계적으로 악용 사례가 크게 늘고 있으며 무엇보다도 가짜 뉴스로 둔갑해 여론을 호도하는 민주주의 최대 위협 요소라는 위기의식이 높아지고 있다. AI 윤석열 대통령 [출처: 2022년 5월 당시 더불어민주당 박지현 공동비대위원장 페이스북] 최근 팝스타 테일러 스위프트가 딥페이크 음란물 피해를 입은 것을 비롯해, 교묘하고 감쪽같은 딥페이크 영상에 속아 사기를 당하는 사건이 국내외에서 연이어 발생했다. 2022년에는 지방선거를 앞두고 윤석열 대통령이 당시 국민의힘 박영일 남해군수 후보를 지지하는 가짜 영상이 사회관계망서비스(SNS)를 통해 확산하면서 정치적 논란이 되기도 했다. 이에 국회는 작년 12월 본회의에서 선거일 90일 전부터 유권자를 겨냥해 딥페이크를 활용한 선거 운동을 원천 금지하는 것을 골자로 한 공직선거법 개정안을 의결했다. 이번 총선의 경우에는 선거일 90일 전인 지난달 11일이 아니라 법 공포 후 한 달이 지난 29일부터 적용됐다. 개정된 공직선거법을 위반하면 7년 이하의 징역이나 1천만∼5천만원의 벌금에 처한다. 그러나 전담팀 가동 20일도 안 돼 100건을 훌쩍 넘는 법 위반 사례가 적발된 것이다. '딥페이크 선거운동 안 돼요' (수원=연합뉴스) 2024년 1월 10일 경기도 수원시 경기도선거관리위원회에서 사이버 선범죄 근절 홍보 퍼포먼스를 하는 장면. [연합뉴스 자료사진] 더욱 큰 문제는 전담팀 인력이 수십 명 수준에 불과한 데다, 3단계에 걸친 딥페이크 선별 작업을 하느라 총선이 다가올수록 딥페이크가 선거판을 흔들 개연성이 크다는 점이다. 현재 전담팀 인력은 모니터링반, 인공지능(AI) 감별반, 분석·삭제반, 조사·조치반, 검토 자문단을 포함해 72명이다. AI 감별반은 선관위에서 구축한 AI 기반의 '지능형 사이버 선거범죄 대응 시스템'에서 자동 수집된 게시물을 모니터링해 '범용 프로그램'으로 딥페이크 여부를 확인한다. 프로그램으로도 감별하기 어려울 만큼의 정교한 딥페이크일 경우 전문 자문위원에게 자문하는 과정을 거친다. 반면 모바일 앱스토어에서 소액으로 워터마크 없이 딥페이크를 만들 수 있는 애플리케이션(앱)은 수두룩하며 앱을 통한 제작 속도 또한 10분이 채 걸리지 않는다. 서울여대 정보보호학과 김명주 교수(바른AI연구센터장)는 "딥페이크를 이용한 가짜를 생성하는 확산 속도는 3단계 검증시스템이 제공하는 검증 속도에 비해 너무 빠르다"며 "한마디로 게임이 되지 않는 대응"이라고 지적했다. 딥브레인AI, 딥보이스 탐지 기술 특허 출원 [딥브레인AI 제공] 딥페이크는 나날이 교묘하고 정교해지는데, 전담팀은 일반적으로 접근이 가능한 범용 프로그램으로 대응하는 것도 현실에 뒤떨어진다는 비판이 제기된다. 지난 대통령 선거에서 'AI 윤석열'을 제작해 화제를 모은 국내 스타트업 딥브레인AI는 딥페이크 영상을 탐지하는 서비스형소프트웨어(SaaS) 기반의 설루션을 지난달 국내 최초로 출시한 데 이어, 이달에는 딥보이스(음성 합성물) 탐지 기술에 대한 특허를 출원했다. 이 업체는 지난달 한동훈 국민의힘 비상대책위원장이 "조폭들이나 할 법한 짓을 벌인 범죄자 뒤에 누가 있겠느냐"고 발언하는 기자회견 유튜브 영상에 대해 '66.84% 조작된 영상'이라는 탐지 결과를 내놨다. 1분 분량의 영상 파일이 가짜로 판명되는 데는 약 5분이 소요됐다. 그러나 전담팀은 이런 최신 탐지 기술을 활용할 수 없는 처지다. 급하게 법이 개정되고 전담팀이 꾸려지느라 별도의 사업비가 예산으로 책정되지 못했기 때문이다. 선관위 관계자는 "전담팀의 딥페이크 관련 단속에 편성된 별도 예산은 없다"면서도 "딥페이크 생성 기술도 계속 발전하고 있기 때문에 특정 회사의 프로그램을 쓰는 방법보다 단계별 검증 과정을 거쳐 위법성을 검토·조사·조치하고 있다"고 말했다. '딥페이크'(deepfake) (PG) [장현경 제작] 일러스트 redflag@yna.co.kr 경질 전 클린스만이 돌아본 정몽규 축구협회장은 '든든한 우군' 韓 '탁구게이트' 아르헨서도 입방아…"손흥민을? 믿을 수 없어" "의대정원 파격 증원에도 외국에선 의사들 집단행동 없어" 나발니 시신 행방불명…측근 "푸틴, 살해 명령 후 흔적 숨긴다" 이준석 "배복주, 지하철 시위 지적을 장애인 혐오로 몰며 활동" 동요 '새싹들이다' 작사·작곡한 좌승원씨 별세 부산 엘시티 99층서 낙하산 타고 뛰어내린 외국인 2명 추적 딸 4명 앞에서 흉기 들고 "강아지 죽인다"…아동학대 유죄 출산수당 1억? 현실은 68만원…'비과세 한도'의 절반 수준 "가난하지 않은 순간이 없어"…기초수급자 아동의 편지
신림동 공원 성폭행 살인사건 최윤종, 검찰 송치 '전담팀 구성' 과거 소총 및 실탄 챙겨 탈영하기도...서울 관악구 신림동 관악산생태공원 둘레길에서 발생한 30대 여성 성폭행 및 살인 사건의 피의자 최윤종(30)이 25일 서울중앙지검에 구속 송치되었다.검찰, 최윤종 수사 및 전담팀 구성서울중앙지검은 이 사건을 수사할 전담팀을 구성했으며, 팀장은 김봉준
빅뱅 대성, YG 떠나 새출발 “처음이라 긴장... 셀프 격려 중”[TV리포트=이혜미 기자] 빅뱅 대성이 YG엔터테인먼트를 떠나 새 둥지를 찾기까지, 새로운 도전을 앞둔 심경을 전했다. 10일 대성의 유튜브 채널 ‘D’splay’에는 “대성에게 직접 묻다”라는 제목의 영상이 업로드 됐다. 최근 16년간 몸담았던 YG엔터테인먼트를 떠나
총선 앞두고 금지된 딥페이크 선거 게시물 활개 선관위, AI 전담팀 꾸리고 19일 새 129건 적발 검증 방식 실효성 논란…관련 없어 신기술 활용 못해 딥페이크·딥보이스(PG) [홍소영 제작] 일러스트 (서울=연합뉴스) 이정현 홍국기 기자 = 오는 4월 10일 제22대 국회의원 총선거가 50여일 앞으로 다가온 가운데, 법으로 금지된 딥페이크(Deepfake·AI로 만든 영상·이미지 합성 조작물) 게시물이 활개를 치고 있다. 19일 중앙선거관리위원회(선관위)에 따르면 지난달 29일부터 지난 16일까지 19일간 유권자를 상대로 딥페이크를 이용한 선거 운동 행위로 공직선거법을 위반한 게시물은 129건에 달했다. 선관위 측은 "모두 자체 모니터링을 통해 인지한 사례"라면서 "대부분 삭제가 완료됐으나 현재 조치가 진행 중인 건도 있다"고 설명했다. 딥페이크는 세계적으로 악용 사례가 크게 늘고 있으며 무엇보다도 가짜 뉴스로 둔갑해 여론을 호도하는 민주주의 최대 위협 요소라는 위기의식이 높아지고 있다. AI 윤석열 대통령 [출처: 2022년 5월 당시 더불어민주당 박지현 공동비대위원장 페이스북] 최근 팝스타 테일러 스위프트가 딥페이크 음란물 피해를 입은 것을 비롯해, 교묘하고 감쪽같은 딥페이크 영상에 속아 사기를 당하는 사건이 국내외에서 연이어 발생했다. 2022년에는 지방선거를 앞두고 윤석열 대통령이 당시 국민의힘 박영일 남해군수 후보를 지지하는 가짜 영상이 사회관계망서비스(SNS)를 통해 확산하면서 정치적 논란이 되기도 했다. 이에 국회는 작년 12월 본회의에서 선거일 90일 전부터 유권자를 겨냥해 딥페이크를 활용한 선거 운동을 원천 금지하는 것을 골자로 한 공직선거법 개정안을 의결했다. 이번 총선의 경우에는 선거일 90일 전인 지난달 11일이 아니라 법 공포 후 한 달이 지난 29일부터 적용됐다. 개정된 공직선거법을 위반하면 7년 이하의 징역이나 1천만∼5천만원의 벌금에 처한다. 그러나 전담팀 가동 20일도 안 돼 100건을 훌쩍 넘는 법 위반 사례가 적발된 것이다. '딥페이크 선거운동 안 돼요' (수원=연합뉴스) 2024년 1월 10일 경기도 수원시 경기도선거관리위원회에서 사이버 선범죄 근절 홍보 퍼포먼스를 하는 장면. [연합뉴스 자료사진] 더욱 큰 문제는 전담팀 인력이 수십 명 수준에 불과한 데다, 3단계에 걸친 딥페이크 선별 작업을 하느라 총선이 다가올수록 딥페이크가 선거판을 흔들 개연성이 크다는 점이다. 현재 전담팀 인력은 모니터링반, 인공지능(AI) 감별반, 분석·삭제반, 조사·조치반, 검토 자문단을 포함해 72명이다. AI 감별반은 선관위에서 구축한 AI 기반의 '지능형 사이버 선거범죄 대응 시스템'에서 자동 수집된 게시물을 모니터링해 '범용 프로그램'으로 딥페이크 여부를 확인한다. 프로그램으로도 감별하기 어려울 만큼의 정교한 딥페이크일 경우 전문 자문위원에게 자문하는 과정을 거친다. 반면 모바일 앱스토어에서 소액으로 워터마크 없이 딥페이크를 만들 수 있는 애플리케이션(앱)은 수두룩하며 앱을 통한 제작 속도 또한 10분이 채 걸리지 않는다. 서울여대 정보보호학과 김명주 교수(바른AI연구센터장)는 "딥페이크를 이용한 가짜를 생성하는 확산 속도는 3단계 검증시스템이 제공하는 검증 속도에 비해 너무 빠르다"며 "한마디로 게임이 되지 않는 대응"이라고 지적했다. 딥브레인AI, 딥보이스 탐지 기술 특허 출원 [딥브레인AI 제공] 딥페이크는 나날이 교묘하고 정교해지는데, 전담팀은 일반적으로 접근이 가능한 범용 프로그램으로 대응하는 것도 현실에 뒤떨어진다는 비판이 제기된다. 지난 대통령 선거에서 'AI 윤석열'을 제작해 화제를 모은 국내 스타트업 딥브레인AI는 딥페이크 영상을 탐지하는 서비스형소프트웨어(SaaS) 기반의 설루션을 지난달 국내 최초로 출시한 데 이어, 이달에는 딥보이스(음성 합성물) 탐지 기술에 대한 특허를 출원했다. 이 업체는 지난달 한동훈 국민의힘 비상대책위원장이 "조폭들이나 할 법한 짓을 벌인 범죄자 뒤에 누가 있겠느냐"고 발언하는 기자회견 유튜브 영상에 대해 '66.84% 조작된 영상'이라는 탐지 결과를 내놨다. 1분 분량의 영상 파일이 가짜로 판명되는 데는 약 5분이 소요됐다. 그러나 전담팀은 이런 최신 탐지 기술을 활용할 수 없는 처지다. 급하게 법이 개정되고 전담팀이 꾸려지느라 별도의 사업비가 예산으로 책정되지 못했기 때문이다. 선관위 관계자는 "전담팀의 딥페이크 관련 단속에 편성된 별도 예산은 없다"면서도 "딥페이크 생성 기술도 계속 발전하고 있기 때문에 특정 회사의 프로그램을 쓰는 방법보다 단계별 검증 과정을 거쳐 위법성을 검토·조사·조치하고 있다"고 말했다. '딥페이크'(deepfake) (PG) [장현경 제작] 일러스트 redflag@yna.co.kr 경질 전 클린스만이 돌아본 정몽규 축구협회장은 '든든한 우군' 韓 '탁구게이트' 아르헨서도 입방아…"손흥민을? 믿을 수 없어" "의대정원 파격 증원에도 외국에선 의사들 집단행동 없어" 나발니 시신 행방불명…측근 "푸틴, 살해 명령 후 흔적 숨긴다" 이준석 "배복주, 지하철 시위 지적을 장애인 혐오로 몰며 활동" 동요 '새싹들이다' 작사·작곡한 좌승원씨 별세 부산 엘시티 99층서 낙하산 타고 뛰어내린 외국인 2명 추적 딸 4명 앞에서 흉기 들고 "강아지 죽인다"…아동학대 유죄 출산수당 1억? 현실은 68만원…'비과세 한도'의 절반 수준 "가난하지 않은 순간이 없어"…기초수급자 아동의 편지
신림동 공원 성폭행 살인사건 최윤종, 검찰 송치 '전담팀 구성' 과거 소총 및 실탄 챙겨 탈영하기도... 서울 관악구 신림동 관악산생태공원 둘레길에서 발생한 30대 여성 성폭행 및 살인 사건의 피의자 최윤종(30)이 25일 서울중앙지검에 구속 송치되었다.검찰, 최윤종 수사 및 전담팀 구성서울중앙지검은 이 사건을 수사할 전담팀을 구성했으며, 팀장은 김봉준
빅뱅 대성, YG 떠나 새출발 “처음이라 긴장... 셀프 격려 중” [TV리포트=이혜미 기자] 빅뱅 대성이 YG엔터테인먼트를 떠나 새 둥지를 찾기까지, 새로운 도전을 앞둔 심경을 전했다. 10일 대성의 유튜브 채널 ‘D’splay’에는 “대성에게 직접 묻다”라는 제목의 영상이 업로드 됐다. 최근 16년간 몸담았던 YG엔터테인먼트를 떠나
댓글 많은 뉴스