주요 메뉴 바로가기 (상단) 본문 컨텐츠 바로가기 주요 메뉴 바로가기 (하단)

총선 앞두고 금지된 딥페이크 선거 게시물 활개

연합뉴스 조회수  

선관위, AI 전담팀 꾸리고 19일 새 129건 적발

검증 방식 실효성 논란…관련 없어 신기술 활용 못해

딥페이크·딥보이스(PG)
딥페이크·딥보이스(PG)

[홍소영 제작] 일러스트

(서울=연합뉴스) 이정현 홍국기 기자 = 오는 4월 10일 제22대 국회의원 총선거가 50여일 앞으로 다가온 가운데, 법으로 금지된 딥페이크(Deepfake·AI로 만든 영상·이미지 합성 조작물) 게시물이 활개를 치고 있다.

19일 중앙선거관리위원회(선관위)에 따르면 지난달 29일부터 지난 16일까지 19일간 유권자를 상대로 딥페이크를 이용한 선거 운동 행위로 공직선거법을 위반한 게시물은 129건에 달했다.

선관위 측은 “모두 자체 모니터링을 통해 인지한 사례”라면서 “대부분 삭제가 완료됐으나 현재 조치가 진행 중인 건도 있다”고 설명했다.

딥페이크는 세계적으로 악용 사례가 크게 늘고 있으며 무엇보다도 가짜 뉴스로 둔갑해 여론을 호도하는 민주주의 최대 위협 요소라는 위기의식이 높아지고 있다.

AI 윤석열 대통령
AI 윤석열 대통령

[출처: 2022년 5월 당시 더불어민주당 박지현 공동비대위원장 페이스북]

최근 팝스타 테일러 스위프트가 딥페이크 음란물 피해를 입은 것을 비롯해, 교묘하고 감쪽같은 딥페이크 영상에 속아 사기를 당하는 사건이 국내외에서 연이어 발생했다.

2022년에는 지방선거를 앞두고 윤석열 대통령이 당시 국민의힘 박영일 남해군수 후보를 지지하는 가짜 영상이 사회관계망서비스(SNS)를 통해 확산하면서 정치적 논란이 되기도 했다.

이에 국회는 작년 12월 본회의에서 선거일 90일 전부터 유권자를 겨냥해 딥페이크를 활용한 선거 운동을 원천 금지하는 것을 골자로 한 공직선거법 개정안을 의결했다.

이번 총선의 경우에는 선거일 90일 전인 지난달 11일이 아니라 법 공포 후 한 달이 지난 29일부터 적용됐다.

개정된 공직선거법을 위반하면 7년 이하의 징역이나 1천만∼5천만원의 벌금에 처한다.

그러나 전담팀 가동 20일도 안 돼 100건을 훌쩍 넘는 법 위반 사례가 적발된 것이다.

'딥페이크 선거운동 안 돼요'
‘딥페이크 선거운동 안 돼요’

(수원=연합뉴스) 2024년 1월 10일 경기도 수원시 경기도선거관리위원회에서 사이버 선범죄 근절 홍보 퍼포먼스를 하는 장면. [연합뉴스 자료사진]

더욱 큰 문제는 전담팀 인력이 수십 명 수준에 불과한 데다, 3단계에 걸친 딥페이크 선별 작업을 하느라 총선이 다가올수록 딥페이크가 선거판을 흔들 개연성이 크다는 점이다.

현재 전담팀 인력은 모니터링반, 인공지능(AI) 감별반, 분석·삭제반, 조사·조치반, 검토 자문단을 포함해 72명이다.

AI 감별반은 선관위에서 구축한 AI 기반의 ‘지능형 사이버 선거범죄 대응 시스템’에서 자동 수집된 게시물을 모니터링해 ‘범용 프로그램’으로 딥페이크 여부를 확인한다.

프로그램으로도 감별하기 어려울 만큼의 정교한 딥페이크일 경우 전문 자문위원에게 자문하는 과정을 거친다.

반면 모바일 앱스토어에서 소액으로 워터마크 없이 딥페이크를 만들 수 있는 애플리케이션(앱)은 수두룩하며 앱을 통한 제작 속도 또한 10분이 채 걸리지 않는다.

서울여대 정보보호학과 김명주 교수(바른AI연구센터장)는 “딥페이크를 이용한 가짜를 생성하는 확산 속도는 3단계 검증시스템이 제공하는 검증 속도에 비해 너무 빠르다”며 “한마디로 게임이 되지 않는 대응”이라고 지적했다.

딥브레인AI, 딥보이스 탐지 기술 특허 출원
딥브레인AI, 딥보이스 탐지 기술 특허 출원

[딥브레인AI 제공]

딥페이크는 나날이 교묘하고 정교해지는데, 전담팀은 일반적으로 접근이 가능한 범용 프로그램으로 대응하는 것도 현실에 뒤떨어진다는 비판이 제기된다.

지난 대통령 선거에서 ‘AI 윤석열’을 제작해 화제를 모은 국내 스타트업 딥브레인AI는 딥페이크 영상을 탐지하는 서비스형소프트웨어(SaaS) 기반의 설루션을 지난달 국내 최초로 출시한 데 이어, 이달에는 딥보이스(음성 합성물) 탐지 기술에 대한 특허를 출원했다.

이 업체는 지난달 한동훈 국민의힘 비상대책위원장이 “조폭들이나 할 법한 짓을 벌인 범죄자 뒤에 누가 있겠느냐”고 발언하는 기자회견 유튜브 영상에 대해 ‘66.84% 조작된 영상’이라는 탐지 결과를 내놨다. 1분 분량의 영상 파일이 가짜로 판명되는 데는 약 5분이 소요됐다.

그러나 전담팀은 이런 최신 탐지 기술을 활용할 수 없는 처지다. 급하게 법이 개정되고 전담팀이 꾸려지느라 별도의 사업비가 예산으로 책정되지 못했기 때문이다.

선관위 관계자는 “전담팀의 딥페이크 관련 단속에 편성된 별도 예산은 없다”면서도 “딥페이크 생성 기술도 계속 발전하고 있기 때문에 특정 회사의 프로그램을 쓰는 방법보다 단계별 검증 과정을 거쳐 위법성을 검토·조사·조치하고 있다”고 말했다.

'딥페이크'(deepfake) (PG)
‘딥페이크'(deepfake) (PG)

[장현경 제작] 일러스트

redflag@yna.co.kr

연합뉴스
content@www.newsbell.co.kr

댓글0

300

댓글0

[AI 추천] 랭킹 뉴스

  • 구글, 보급형 스마트폰 '픽셀 8a' 공식 출시
  • 尹대통령 “부총리급 ‘저출생대응기획부’ 신설…교육·노동·복지 등 사회부처 이끌게 할 것”
  • ‘나혼산’ 안재현+안주=76.55kg, 다이어트 시작 “결전의 날이 왔다"
  • 현대모비스, 울산 전기차 부품공장 만든다...900억원 투자
  • 합리적인 가격으로 메리트 높아지는 '현대 테라타워 구리갈매'
  • 윤 대통령 "국민소득 5만달러 꿈 아냐…복지·시장정책 하나로"

[AI 추천] 공감 뉴스

  • “지금이 구매 적기라는 현대 자동차의 파격 할인 차량은?!”
  • 현대차 美 합작사 모셔널, 인력 줄이고 자율주행 상용화도 연기
  • 윤 대통령 "국민소득 5만달러 꿈 아냐…복지·시장정책 하나로"
  • ‘나혼산’ 안재현+안주=76.55kg, 다이어트 시작 “결전의 날이 왔다"
  • 합리적인 가격으로 메리트 높아지는 '현대 테라타워 구리갈매'
  • 플랫폼·콘텐츠 고르게 성장한 카카오…'카카오톡'·'AI' 주력

당신을 위한 인기글

  • 숯의 향이 배어 들어 풍미가 진한 숯불구이 맛집 BEST5
  • 재료에 따라서 맛은 천차만별! 파스타 맛집 BEST5
  • 굽는 방법에 따라서 맛도 달라지는 생선구이 맛집 BEST5
  • 사이사이 골목길마다 맛과 감성이 살아 있는 문래 맛집 BEST5
  • 톰 홀랜드·젠데이아 출연, 크리스토퍼 놀란 신작에 쏠리는 관심
  • ‘정년이’ 끝낸 김태리의 다음 행보, 첫 애니메이션 목소리 도전
  • [오늘 뭘 볼까] 정말 이상형은 있나?..영화 ‘다음 크리스마스에 만나요’
  • ‘정년이’의 초대장, ‘춘향전’→’자명고’ 잇는 ‘바보와 공주’

함께 보면 좋은 뉴스

  • 1
    프로축구 인천, 창단 첫 2부 강등...K리그1 최하위 확정

    스포츠 

  • 2
    기아, 고성능 테스트카 유출… 예상 밖 디자인에 ‘기대 폭발’

    차·테크 

  • 3
    [기후위기 변화의 기로] 독일 '친환경 에너지 마을'을 가다 - ② 펠트하임

    뉴스 

  • 4
    '2024 숲속 문화체험의 날 친구들과 함께 놀자! 숲속 놀이터

    여행맛집 

  • 5
    안세영이 금메달 직후 내놨던 폭로... 결국 한국 체육단체 최고위층 간부가 이 지경에 처했다

    스포츠 

[AI 추천] 인기 뉴스

  • 구글, 보급형 스마트폰 '픽셀 8a' 공식 출시
  • 尹대통령 “부총리급 ‘저출생대응기획부’ 신설…교육·노동·복지 등 사회부처 이끌게 할 것”
  • ‘나혼산’ 안재현+안주=76.55kg, 다이어트 시작 “결전의 날이 왔다"
  • 현대모비스, 울산 전기차 부품공장 만든다...900억원 투자
  • 합리적인 가격으로 메리트 높아지는 '현대 테라타워 구리갈매'
  • 윤 대통령 "국민소득 5만달러 꿈 아냐…복지·시장정책 하나로"

지금 뜨는 뉴스

  • 1
    우원식, G20 국회의장 '기후위기 대응 강화 선언문' 이끌어

    뉴스 

  • 2
    "다들 버스 넘겼는데, 저만 못 넘겨서…" 훈련 중 장외 홈런으로 버스 창 깬 이주형 [MD타이베이]

    스포츠 

  • 3
    KLPGA 3관왕 윤이나, 성장과 도전 다짐

    연예 

  • 4
    14년 만에 전해진 배우 원빈 근황: 집에서 'OO'을 보고 있다는 소식에 팬인 내 가슴이 뛴다(사당귀)

    연예 

  • 5
    윤석열 대통령이 김건희 여사 문제 대응에 내놓은 답변: 전대 대통령들을 언급했고 머리가 어질어질하다

    뉴스 

[AI 추천] 추천 뉴스

  • “지금이 구매 적기라는 현대 자동차의 파격 할인 차량은?!”
  • 현대차 美 합작사 모셔널, 인력 줄이고 자율주행 상용화도 연기
  • 윤 대통령 "국민소득 5만달러 꿈 아냐…복지·시장정책 하나로"
  • ‘나혼산’ 안재현+안주=76.55kg, 다이어트 시작 “결전의 날이 왔다"
  • 합리적인 가격으로 메리트 높아지는 '현대 테라타워 구리갈매'
  • 플랫폼·콘텐츠 고르게 성장한 카카오…'카카오톡'·'AI' 주력

당신을 위한 인기글

  • 숯의 향이 배어 들어 풍미가 진한 숯불구이 맛집 BEST5
  • 재료에 따라서 맛은 천차만별! 파스타 맛집 BEST5
  • 굽는 방법에 따라서 맛도 달라지는 생선구이 맛집 BEST5
  • 사이사이 골목길마다 맛과 감성이 살아 있는 문래 맛집 BEST5
  • 톰 홀랜드·젠데이아 출연, 크리스토퍼 놀란 신작에 쏠리는 관심
  • ‘정년이’ 끝낸 김태리의 다음 행보, 첫 애니메이션 목소리 도전
  • [오늘 뭘 볼까] 정말 이상형은 있나?..영화 ‘다음 크리스마스에 만나요’
  • ‘정년이’의 초대장, ‘춘향전’→’자명고’ 잇는 ‘바보와 공주’

추천 뉴스

  • 1
    프로축구 인천, 창단 첫 2부 강등...K리그1 최하위 확정

    스포츠 

  • 2
    기아, 고성능 테스트카 유출… 예상 밖 디자인에 ‘기대 폭발’

    차·테크 

  • 3
    [기후위기 변화의 기로] 독일 '친환경 에너지 마을'을 가다 - ② 펠트하임

    뉴스 

  • 4
    '2024 숲속 문화체험의 날 친구들과 함께 놀자! 숲속 놀이터

    여행맛집 

  • 5
    안세영이 금메달 직후 내놨던 폭로... 결국 한국 체육단체 최고위층 간부가 이 지경에 처했다

    스포츠 

지금 뜨는 뉴스

  • 1
    우원식, G20 국회의장 '기후위기 대응 강화 선언문' 이끌어

    뉴스 

  • 2
    "다들 버스 넘겼는데, 저만 못 넘겨서…" 훈련 중 장외 홈런으로 버스 창 깬 이주형 [MD타이베이]

    스포츠 

  • 3
    KLPGA 3관왕 윤이나, 성장과 도전 다짐

    연예 

  • 4
    14년 만에 전해진 배우 원빈 근황: 집에서 'OO'을 보고 있다는 소식에 팬인 내 가슴이 뛴다(사당귀)

    연예 

  • 5
    윤석열 대통령이 김건희 여사 문제 대응에 내놓은 답변: 전대 대통령들을 언급했고 머리가 어질어질하다

    뉴스 

공유하기