주요 메뉴 바로가기 (상단) 본문 컨텐츠 바로가기 주요 메뉴 바로가기 (하단)

서울시, AI로 아동·청소년 성착취물 잡아내 즉시 삭제…2차 피해 방지

아주경제 조회수  

오세훈 서울시장이 서울디지털성범죄 안심지원센터 개관 1주년 기념식에서 전문가 학부모들과 간담회를 갖고 있다 사진서울시 제공
오세훈 서울시장이 서울디지털성범죄 안심지원센터 개관 1주년 기념식에서 전문가, 학부모들과 간담회를 하고 있다. [사진=서울시 제공]

서울시가 아동·청소년 성착취물을 24시간 자동 감시하는 AI 시스템을 활용해 선제적인 삭제에 나선다.
 
서울시는 22일 서울연구원이 개발하고 서울 디지털성범죄 안심지원센터에서 분석 지원한 아동·청소년 성착취물 AI 감시 시스템이 이달 중 마무리된다고 밝혔다.
 
센터는 다음 달부터 AI 감시 시스템을 활용해 아동·청소년 성착취물을 선제적으로 삭제한다. 구글, 빙 등 검색엔진에서 피해 영상물 관련 키워드로 검색해 찾아내는 방식이다. 중국·미국 등 해외에 유포된 피해 영상물도 검색한다.
 
시스템을 통해 성착취물을 검출하는 시간이 80배 빨라질 것으로 기대된다. AI가 키워드 입력부터 영상물 검출까지 걸리는 시간은 90초에 불과해 기존 수작업에 2시간가량 걸리는 데 비해 크게 개선된다.
 
감시망을 피하기 위해 변형된 키워드도 AI가 잡아낸다. ‘딥페이크’를 ‘뒵페’ ‘뒷페’ 등으로 바꾼 신조어도 사회관계망서비스(SNS) 빅데이터 분석을 통해 자동 생성한다. 삭제지원관이 30개 키워드를 검색하는 사이 100배 키워드를 생성해 보다 많은 피해 영상물을 찾아낼 수 있다.
 
디지털 성범죄 피해자 지원을 해왔던 센터가 삭제 업무를 맡는다. 그간 삭제지원관 5명이 피해자 요청에 따라 영상물을 찾아내 삭제했다.

아동·청소년들은 부모나 수사기관에 알리지 못해 피해 영상물이 그대로 유포되는 사례가 적지 않다. 센터 측 피해 요청 현황에 따르면 아동·청소년 피해자가 스스로 신고한 사례는 12명으로 7.8%에 그쳤다.
 
센터가 2022년 3월 개관한 후 1년 동안 지원한 아동·청소년 피해자는 19.2%를 차지했으며 피해 지원은 2026건이었다. 지난해 3월부터 지난 3월까지 지원한 아동·청소년 피해자는 22.2%로 2배 이상, 피해 지원은 1만5434건으로 7배 이상 증가했다.
 
범죄 수법은 연령별로 다른 양상을 보였다. △만 8세 미만은 온라인 게임상 유료 아이템 △만 8~13세 미만은 오픈채팅방(서열방, 노예놀이) △만 13~19세 미만은 채팅알바, 불법 사진합성 등을 매개로 성적인 사진을 요구하는 사례가 많았다.
 
 

AI 감시 시스템이 검출한 피해 영상물 결과화면 예시 사진서울시 제공
AI 감시 시스템이 검출한 피해 영상물 결과화면 예시. [사진=서울시 제공]

이에 시는 현행법이 아동·청소년에 한해 당사자 신고 없이 피해 영상물 즉시 삭제가 가능하도록 규정하고 있는 만큼 이번 기술을 개발하게 됐다고 설명했다. AI 시스템은 피해자 성별과 나이를 판별할 수 있는 안면인식 기술을 갖췄다. 얼굴이 나오지 않더라도 영상물 속 사물, 청소년 언어 습관 등을 함께 인식해 판별한다.

센터는 수사로 이어질 것에 대비해 피해 영상물에서 최대한 채증한 후 삭제할 예정이다. 또 내년에는 검색뿐만 아니라 신고까지 AI가 하는 자동 신고 시스템을 구축할 계획이라고 시는 설명했다.

김선순 서울시 여성가족정책실장은 “우리 사회를 충격에 빠트린 N번방 사건 이후 4년이 흘렀지만 여전히 아동‧청소년을 대상으로 한 디지털 성범죄는 사라지지 않고 있고 그 피해도 심각하다”며 “서울시는 작년 전국 최초로 AI 삭제 지원 기술을 도입한 데 이어 아동‧청소년 성착취 영상을 특정할 수 있는 기술을 통해 선제적인 감시‧삭제에 나서 아동‧청소년이 안전한 서울을 만들어 나가겠다”고 말했다.
 

아주경제
content@www.newsbell.co.kr

댓글0

300

댓글0

[경제] 랭킹 뉴스

  • 올림픽 맛있게 응원하자…집관족 취향저격 ‘올림픽 에디션’
  • 서울 아파트 낙찰가율 93.7%...1년 11개월 만에 최고점 찍었다
  • 질병청 '성인 패혈증 초기치료지침' 첫 발간
  • 불량 자재 탓에 에어컨 없이 폭염 견디는 송도 '송일국 아파트'
  • 불량 자재 탓에 에어컨 없이 폭염 견디는 송도 '송일국 아파트'
  • 8월 극장가 '재개봉 러시'…인생영화 다시 스크린으로

[경제] 공감 뉴스

  • 케이뱅크, MY체크카드 90만장 넘었다..."인뱅 유일 K 패스 기능 탑재"
  • 삼정KPMG “디지털 헬스케어 활성화에 슬립테크 부상”
  • ‘나는 솔로’ 21기 최종 선택 대반전…순자, 영철 직진에도 선택 포기
  • "‘용인 스마일 보이’ 우상혁이 웃었다"...이상일 용인특례시장, 높이뛰기 우상혁 선수 '응원'하고 '격려'
  • 삼성자산운용, 공식 유튜브 채널 정보 시리즈 인기몰이
  • 삼성자산운용, 공식 유튜브 채널 정보 시리즈 인기몰이

당신을 위한 인기글

  • 볼거리, 먹거리 가득! 매력적인 여행지, 순천 맛집 BEST5
  • 단출하지만 다채로운 맛을 선사하는 초밥 맛집 BEST5
  • 단짠단짠 양념 맛이 일품인 돼지불백 맛집 BEST5
  • 고소, 담백! 원기회복하기 좋은 장어구이 맛집 BEST5
  • ‘음란서생’부터 ‘히든페이스’까지, 인간 본성 탐구하는 김대우의 세계
  • 옹성우와 사슴의 상관관계, 애니 ‘니코’가 답한다
  • 공효진·이민호 주연 500억 대작 ‘별들에게 물어봐’가 온다
  • ‘인간중독’→’히든 페이스’ 10년 만에 다시 만난 송승헌·조여정
//php echo do_shortcode('[yarpp]'); ?>

함께 보면 좋은 뉴스

  • 1
    아이 키우는 것 같았던 20년, 열혈강호 온라인은 끝까지 달린다

    차·테크 

  • 2
    '2026 북중미 월드컵 아시아 3차예선 조별 순위' 3위 이라크, 2위 요르단, 한국은?

    스포츠 

  • 3
    2-0→2-2→3-2 진땀승! 이란, 키르기스스탄 꺾고 무패 질주 'A조 선두'[WC예선]

    스포츠 

  • 4
    해리 케인의 살벌한 경고→“직설적-갈등 불가피”…'나는 경험해봐서 아는데…'→1월부터 ‘거친 스타일 사령탑’ 각오 당부

    스포츠 

  • 5
    이소라 무통보 하차 의혹에 ‘슈퍼마켙’ 측이 밝힌 입장은 늦어도 너무! 늦었다

    연예 

[경제] 인기 뉴스

  • 올림픽 맛있게 응원하자…집관족 취향저격 ‘올림픽 에디션’
  • 서울 아파트 낙찰가율 93.7%...1년 11개월 만에 최고점 찍었다
  • 질병청 '성인 패혈증 초기치료지침' 첫 발간
  • 불량 자재 탓에 에어컨 없이 폭염 견디는 송도 '송일국 아파트'
  • 불량 자재 탓에 에어컨 없이 폭염 견디는 송도 '송일국 아파트'
  • 8월 극장가 '재개봉 러시'…인생영화 다시 스크린으로

지금 뜨는 뉴스

  • 1
    북한 비핵화 포기하는 '워싱턴'?

    뉴스&nbsp

  • 2
    사랑을 담아, 예술을 담아

    연예&nbsp

  • 3
    '김민재 선제골 헌납→손흥민 동점골' 홍명보호, 위기 넘겼지만 고전 계속...캡틴의 A매치 '51호골' 폭발 (전반 종료) [팔레스타인전]

    스포츠&nbsp

  • 4
    주고→받고→터뜨리고! 환상적인 2 대 1 패스…손흥민·이재성 동점골 합작[한국 팔레스타인]

    스포츠&nbsp

  • 5
    신태용 감독의 인도네시아, 사우디 격파

    연예&nbsp

[경제] 추천 뉴스

  • 케이뱅크, MY체크카드 90만장 넘었다..."인뱅 유일 K 패스 기능 탑재"
  • 삼정KPMG “디지털 헬스케어 활성화에 슬립테크 부상”
  • ‘나는 솔로’ 21기 최종 선택 대반전…순자, 영철 직진에도 선택 포기
  • "‘용인 스마일 보이’ 우상혁이 웃었다"...이상일 용인특례시장, 높이뛰기 우상혁 선수 '응원'하고 '격려'
  • 삼성자산운용, 공식 유튜브 채널 정보 시리즈 인기몰이
  • 삼성자산운용, 공식 유튜브 채널 정보 시리즈 인기몰이

당신을 위한 인기글

  • 볼거리, 먹거리 가득! 매력적인 여행지, 순천 맛집 BEST5
  • 단출하지만 다채로운 맛을 선사하는 초밥 맛집 BEST5
  • 단짠단짠 양념 맛이 일품인 돼지불백 맛집 BEST5
  • 고소, 담백! 원기회복하기 좋은 장어구이 맛집 BEST5
  • ‘음란서생’부터 ‘히든페이스’까지, 인간 본성 탐구하는 김대우의 세계
  • 옹성우와 사슴의 상관관계, 애니 ‘니코’가 답한다
  • 공효진·이민호 주연 500억 대작 ‘별들에게 물어봐’가 온다
  • ‘인간중독’→’히든 페이스’ 10년 만에 다시 만난 송승헌·조여정

추천 뉴스

  • 1
    아이 키우는 것 같았던 20년, 열혈강호 온라인은 끝까지 달린다

    차·테크 

  • 2
    '2026 북중미 월드컵 아시아 3차예선 조별 순위' 3위 이라크, 2위 요르단, 한국은?

    스포츠 

  • 3
    2-0→2-2→3-2 진땀승! 이란, 키르기스스탄 꺾고 무패 질주 'A조 선두'[WC예선]

    스포츠 

  • 4
    해리 케인의 살벌한 경고→“직설적-갈등 불가피”…'나는 경험해봐서 아는데…'→1월부터 ‘거친 스타일 사령탑’ 각오 당부

    스포츠 

  • 5
    이소라 무통보 하차 의혹에 ‘슈퍼마켙’ 측이 밝힌 입장은 늦어도 너무! 늦었다

    연예 

지금 뜨는 뉴스

  • 1
    북한 비핵화 포기하는 '워싱턴'?

    뉴스 

  • 2
    사랑을 담아, 예술을 담아

    연예 

  • 3
    '김민재 선제골 헌납→손흥민 동점골' 홍명보호, 위기 넘겼지만 고전 계속...캡틴의 A매치 '51호골' 폭발 (전반 종료) [팔레스타인전]

    스포츠 

  • 4
    주고→받고→터뜨리고! 환상적인 2 대 1 패스…손흥민·이재성 동점골 합작[한국 팔레스타인]

    스포츠 

  • 5
    신태용 감독의 인도네시아, 사우디 격파

    연예