주요 메뉴 바로가기 (상단) 본문 컨텐츠 바로가기 주요 메뉴 바로가기 (하단)

“생성 AI로 만든 딥페이크 고도화 빨라… 탐지 기술 대응력 높여야”

IT조선 조회수  

최근 사회적 문제로 불거지고 있는 딥페이크가 생성 AI를 활용하게 되면서 기존 탐지기술이 이를 따라가지 못하고 있다는 지적이 나왔다. 생성 AI는 이미지나 영상을 고치는 수준이 아닌 새롭게 만들어내는 수준이기 때문에 이에 대응하는 탐지 기술이 필요한 상황이라는 것이다.

딥브레인AI가 5일 서울 코엑스에서 ‘생성 AI 포럼’를 개최한 가운데 연세대 권태경 교수는 딥페이크 기술 동향 발표를 통해 이 같은 관점을 제시했다.

권태경 교수는 “현재 딥페이크 방법은 페이스 바꾸기(Face Swapping), 페이스 재현(Face Reenactment), 페이스 편집(Face Editing) 등이 있다. 이 모두는 생성형 AI 기술을 이용해 새로운 이미지와 영상을 생성하기 때문에 탐지가 더욱 어렵다”며 “기존의 데이터셋으로 학습한 탐지 기술로는 한계가 있다”고 설명했다.

권태경 교수는 최근에 구축된 데이터셋 ‘DF40’을 제시했다. DF40 데이터셋의 경우 기존의 딥페이크뿐만 아니라 생성 AI로 만들어지는 딥페이크까지 탐지할 수 있다.

딥브레인AI 이정수 이사가 5일 서울 코엑스에서 개최된 '생성 AI 포럼 2024'에서 '딥페이크 자동화 솔루션'을 소개하고 있다. / 딥브레인AI
딥브레인AI 이정수 이사가 5일 서울 코엑스에서 개최된 ‘생성 AI 포럼 2024’에서 ‘딥페이크 자동화 솔루션’을 소개하고 있다. / 딥브레인AI

딥브레인AI도 딥페이크 기법이 한층 고도화 되면서 이를 감지할 수 있는 기술 또한 빠르게 발전해야 하는 상황을 전하며 이를 해결할 수 있는 딥페이크 자동 탐지 솔루션 ‘AI 디텍터’를 소개했다.

이정수 딥브레인AI 이사는 “이번 솔루션은 인물 및 키워드 기반 탐지가 가능하며 무엇보다 유튜브, 틱톡, 텔레그램, 레딧 등 다양한 사이트에서도 탐지할 수 있다는 것이 큰 특징이다. 정확도는 90% 이상으로, 경찰청과 협력해 딥페이크 범죄 단속을 돕는 딥페이크 탐지 솔루션을 개발·상용화 한 바 있다”고 말했다.

딥브레인AI의 딥페이크 자동화 솔루션 'AI 디텍터' 실행 화면 / 조상록 기자
딥브레인AI의 딥페이크 자동화 솔루션 ‘AI 디텍터’ 실행 화면 / 조상록 기자

AI 디텍터는 자동 탐지와 단건 탐지로 구성돼 있다. 단건 탐지는 페이크 여부를 탐지하고자 하는 인물을 업로드하거나 키워드를 입력하면 10초 이내에 판별해준다. 자동 탐지의 경우 탐지에 대한 정보만 세팅해 놓으면 시간 단위로 페이크 이미지나 영상을 탐지해준다.

이정수 이사는 “영상 탐지의 경우 10초에서 길게는 40초 정도면 결과물을 얻을 수 있다. 전문가가 직접 탐지할 경우 3일 이상 소요되는 작업”이라고 말했다.

영상 탐지는 특정 프레임을 추출해 판별하는 시스템으로 인물의 다양한 각도, 주변 환경 등을 파악해 필요한 프레임을 추출하는 방식이다. 탐지는 사이트에 있는 영상을 다운로드 받은 후 진행된다.

탐지 통계 기능을 통해서는 일간, 주간, 월간 그리고 플랫폼별, 인물별 결과물 통계 리포트를 제공해준다.

이정수 이사는 “이번 솔루션은 다양한 형태의 딥페이크를 자동으로 탐지해 비용, 시간, 관리 효율성을 극대화 할 수 있다”며 “딥브레인AI는 딥페이크 전담팀을 운영하고 있어 실시간 감지 지원이 가능하다”고 말했다.

조상록 기자 jsrok@chosunbiz.com

IT조선
content@www.newsbell.co.kr

댓글0

300

댓글0

[차·테크] 랭킹 뉴스

  • 디자이너·개발자가 말한 ‘아이오닉 9’의 매력
  • [게임브리핑] 슈퍼바이브, 국내 오픈 베타 테스트 첫선 외
  • 현대차 ‘아이오닉9’ 첫 공개… 소개나선 무뇨스, CEO 공식 데뷔
  • EV9 사려다 “마음 바꿨다”… 무려 532km 주행 가능한 대형 전기 SUV
  • "블루 아카 같네", "OST 기대 이상" '테일즈런너 RPG' OST 및 전투 화면 영상 반응
  • 위메이드 석훈 PD "레전드 오브 이미르 시즌은 이렇게 다르다"

[차·테크] 공감 뉴스

  • “레토나 감성인데 8천만 원대?”…더 강력해진 이 車, 대체 정체가 뭐길래
  • ‘7년 차’ 구광모의 2025년 인사 키워드는 ‘안정 속 ‘ABC’ 준비 속도’
  • ‘K콘텐츠 애정공세’ 디즈니… “더 화려한 배우진과 색다른 소재로” (종합)
  • [금주의 게임 순위] '라스트 워' 매출 1위 10일간 지속...스토커2·루마섬 순위 진입
  • DOA 말고 '데이트 어 라이브'....'에버소울'과 '그랑사가 키우기' 콜라보
  • 한국산 배터리에 도전장 놓더니 “겨울인데 배터리가 쌩쌩?”…업계 ‘초긴장’

당신을 위한 인기글

  • 한식에 술만 있다면 무한으로 마실 수 있는 술꾼이 인정한 한식주점 5곳
  • 찬바람에 몸이 으슬으슬 떨리는 지금, 딱 좋은 감자탕 맛집 BEST5
  • 본격적인 겨울의 시작을 알리는 굴 맛집 BEST5
  • 노릇한 껍질과 촉촉한 살코기! 다채로운 맛의 북경오리 맛집 BEST5
  • [리뷰: 포테이토 지수 72%] ‘위키드’ 중력을 거스르지 못한 완성도
  • ‘짝퉁 제왕’ 되는 김수현 “로맨스는 15%뿐”
  • 전지현·현빈·김수현·박은빈·도경수까지, 디즈니+ 빛낼 새 얼굴은?
  • [맥스포토] 김윤석·이승기의 ‘대가족’ 출사표

함께 보면 좋은 뉴스

  • 1
    입대 3일 만에 20대 훈련병 사망, 군 조사 진행 중

    뉴스 

  • 2
    '뮌헨은 다 계획이 있구나' 레버쿠젠 에이스 위해 8년 동안 물밑 작업...이번 여름 '1473억' 지불 결단

    스포츠 

  • 3
    박상웅 주최 '초일류국가 어떻게 만들 것인가' 특별강연회 성료

    뉴스 

  • 4
    "아빠들 심장 떨린다"…신형 쉐보레 말리부, 역대급 렌더링 등장

    뉴스 

  • 5
    "연금·건보개혁 없으면 40년 뒤 복지지출 비중 74% 증가"

    뉴스 

[차·테크] 인기 뉴스

  • 디자이너·개발자가 말한 ‘아이오닉 9’의 매력
  • [게임브리핑] 슈퍼바이브, 국내 오픈 베타 테스트 첫선 외
  • 현대차 ‘아이오닉9’ 첫 공개… 소개나선 무뇨스, CEO 공식 데뷔
  • EV9 사려다 “마음 바꿨다”… 무려 532km 주행 가능한 대형 전기 SUV
  • "블루 아카 같네", "OST 기대 이상" '테일즈런너 RPG' OST 및 전투 화면 영상 반응
  • 위메이드 석훈 PD "레전드 오브 이미르 시즌은 이렇게 다르다"

지금 뜨는 뉴스

  • 1
    탯줄도 그대로… 지하상가 화장실서 가방에 담긴 채 버려진 신생아 발견됐다

    뉴스 

  • 2
    고립·은둔 청년 지원, 체계화 필요

    뉴스 

  • 3
    '짝퉁 제왕' 되는 김수현 "로맨스는 15%뿐"

    연예 

  • 4
    [홋카이도 여행] 12월 1월 겨울 북해도 삿포로 여행! 비에이 버스투어 BEST 3 추천! :: 투어 코스 및 스펙 비교 총정리

    여행맛집 

  • 5
    [르포] 매립지엔 자연이 살아 숨 쉰다

    뉴스 

[차·테크] 추천 뉴스

  • “레토나 감성인데 8천만 원대?”…더 강력해진 이 車, 대체 정체가 뭐길래
  • ‘7년 차’ 구광모의 2025년 인사 키워드는 ‘안정 속 ‘ABC’ 준비 속도’
  • ‘K콘텐츠 애정공세’ 디즈니… “더 화려한 배우진과 색다른 소재로” (종합)
  • [금주의 게임 순위] '라스트 워' 매출 1위 10일간 지속...스토커2·루마섬 순위 진입
  • DOA 말고 '데이트 어 라이브'....'에버소울'과 '그랑사가 키우기' 콜라보
  • 한국산 배터리에 도전장 놓더니 “겨울인데 배터리가 쌩쌩?”…업계 ‘초긴장’

당신을 위한 인기글

  • 한식에 술만 있다면 무한으로 마실 수 있는 술꾼이 인정한 한식주점 5곳
  • 찬바람에 몸이 으슬으슬 떨리는 지금, 딱 좋은 감자탕 맛집 BEST5
  • 본격적인 겨울의 시작을 알리는 굴 맛집 BEST5
  • 노릇한 껍질과 촉촉한 살코기! 다채로운 맛의 북경오리 맛집 BEST5
  • [리뷰: 포테이토 지수 72%] ‘위키드’ 중력을 거스르지 못한 완성도
  • ‘짝퉁 제왕’ 되는 김수현 “로맨스는 15%뿐”
  • 전지현·현빈·김수현·박은빈·도경수까지, 디즈니+ 빛낼 새 얼굴은?
  • [맥스포토] 김윤석·이승기의 ‘대가족’ 출사표

추천 뉴스

  • 1
    입대 3일 만에 20대 훈련병 사망, 군 조사 진행 중

    뉴스 

  • 2
    '뮌헨은 다 계획이 있구나' 레버쿠젠 에이스 위해 8년 동안 물밑 작업...이번 여름 '1473억' 지불 결단

    스포츠 

  • 3
    박상웅 주최 '초일류국가 어떻게 만들 것인가' 특별강연회 성료

    뉴스 

  • 4
    "아빠들 심장 떨린다"…신형 쉐보레 말리부, 역대급 렌더링 등장

    뉴스 

  • 5
    "연금·건보개혁 없으면 40년 뒤 복지지출 비중 74% 증가"

    뉴스 

지금 뜨는 뉴스

  • 1
    탯줄도 그대로… 지하상가 화장실서 가방에 담긴 채 버려진 신생아 발견됐다

    뉴스 

  • 2
    고립·은둔 청년 지원, 체계화 필요

    뉴스 

  • 3
    '짝퉁 제왕' 되는 김수현 "로맨스는 15%뿐"

    연예 

  • 4
    [홋카이도 여행] 12월 1월 겨울 북해도 삿포로 여행! 비에이 버스투어 BEST 3 추천! :: 투어 코스 및 스펙 비교 총정리

    여행맛집 

  • 5
    [르포] 매립지엔 자연이 살아 숨 쉰다

    뉴스 

공유하기