주요 메뉴 바로가기 (상단) 본문 컨텐츠 바로가기 주요 메뉴 바로가기 (하단)

AI 마약 제조·피싱 악용 우려…”AI 기술 보안 위협 대비 필요”

아시아투데이 조회수  

1
김병무 SK쉴더스 정보보안사업부장이 2일 서울 중구에 있는 페럼타워에서 열린 ‘2024년 상반기 보안 트렌드 세미나’에서 올해 상반기 주요 보안 이슈에 대해 설명하고 있다./사진=오세은 기자

올해 상반기에는 네트워크 장비의 신규 취약점을 활용한 공격이 성행했는데 작년 동기에 비해 2배 이상 증가한 것으로 나타났다.

SK쉴더스는 2일 서울 중구에 있는 페럼타워에서 ‘2024년 상반기 보안 트렌드 세미나’를 개최했다. 이날 발표는 SK쉴더스 화이트해커 전문가 그룹 이큐스트(EQST)가 올 상반기에 해킹 사고 사례와 연구 결과를 분석한 내용을 바탕으로 진행됐다. 특히 거대언어모델(AI LLM)의 취약점을 이용한 공격을 시연하고 보안 대책을 발표했다.

이큐스트에 따르면 가상자산 탈취, 딥페이크 해킹 공격 등이 올 상반기에 화제가 됐다. 이큐스트가 분석한 업종별 침해사고 발생 통계를 보면 국내에서는 금융업을 대상으로 한 침해사고가 20.6%로 가장 높은 비중을 차지했다. 비트코인 상장지수펀드(ETF) 승인 등의 이슈로 가상자산의 가치가 상승해 이를 노린 해킹 공격이 지속됐다. 국외에서는 러시아 등 국제 분쟁으로 인해 정부와 공공기관을 대상으로 한 공격이 26.7%로 가장 높은 순위를 차지했다. 유형별 사고 발생 통계로는 취약점 공격이 45%로 가장 많이 발생했는데 가상사설망(VPN) 등 네트워크 장비를 통한 지능형 지속 위협(APT) 공격 때문인 것으로 조사됐다. 사람의 심리를 이용해 기밀을 탈취하는 수법인 ‘소셜 엔지니어링’ 공격이 26%로 뒤를 이었다.

이큐스트는 생성형 인공지능(AI)이 급속도로 발전하며 AI가 가져올 수 있는 보안위협에 관한 연구 결과를 발표했다. 특히 비영리단체인 OWASP에서 발표한 AI LLM 서비스에서 발생 가능한 10가지의 취약점을 분석하고 이중 위험도가 높은 3가지를 시연했다. 우선 ‘프롬프트 인젝션’은 악성코드 생성이나 마약 제조, 피싱 공격 등에 악용될 수 있다. 두 번째로는 ‘불안전한 출력 처리’ 취약점이다. 이 취약점은 LLM이 생성한 출력물을 시스템이 적절하게 처리하지 못할 때 발생하는 것으로 다른 2차 공격으로 이어질 수 있어 위험도가 높다.

이큐스트는 개인정보가 포함되거나 애플리케이션의 권한 관리 미흡으로 생길 수 있는 ‘민감 정보 노출’ 취약점을 분석하며 데이터베이스(DB) 정보를 탈취하는 공격을 시연했다. LLM 모델을 학습시킬 때 민감 정보 필터링이 미흡한 경우 LLM이 생성하는 답변에 학습된 민감 정보가 출력될 수 있어 학습 데이터에 가명 처리를 하거나 데이터를 검증하는 등의 추가적인 보완책이 필요하다.

이 외에도 LLM 애플리케이션에서 자주 발생하는 취약점을 LLM 서비스 운영단계, 개발단계, 모델 개발·의존 단계로 나눠 분석해 각각의 보안 대책을 설명했다. 보안 대책으로는 LLM 사용 시 ‘프롬프트 보안 솔루션’을 도입하거나 ‘데이터 정제 솔루션’을 고려해볼 수 있다. 또한 이큐스트가 제시하는 AI 서비스 보안 체크리스트를 통해 AI 서비스 개발과 사용 시 보안 위협을 점검해 볼 수 있다.

김병무 SK쉴더스 정보보안사업부장(부사장)은 “AI 인프라 운영에 특화된 제로 트러스트 환경 구축·운영 체계 수립 서비스를 제공하고 기업에서 소프트웨어 자재 명세서(SBOM) 등을 활용해 보안 이력을 관리할 수 있는 대책을 제시하는 등의 전략을 선보일 계획”이라며 “생성형 AI 시대의 보안 전략을 제시해 나가겠다”고 말했다.

1
업종별 침해 사고 통계 이미지.

아시아투데이
content@www.newsbell.co.kr

댓글0

300

댓글0

[경제] 랭킹 뉴스

  • 올림픽 맛있게 응원하자…집관족 취향저격 ‘올림픽 에디션’
  • 서울 아파트 낙찰가율 93.7%...1년 11개월 만에 최고점 찍었다
  • 질병청 '성인 패혈증 초기치료지침' 첫 발간
  • 불량 자재 탓에 에어컨 없이 폭염 견디는 송도 '송일국 아파트'
  • 불량 자재 탓에 에어컨 없이 폭염 견디는 송도 '송일국 아파트'
  • 8월 극장가 '재개봉 러시'…인생영화 다시 스크린으로

[경제] 공감 뉴스

  • 케이뱅크, MY체크카드 90만장 넘었다..."인뱅 유일 K 패스 기능 탑재"
  • 삼정KPMG “디지털 헬스케어 활성화에 슬립테크 부상”
  • ‘나는 솔로’ 21기 최종 선택 대반전…순자, 영철 직진에도 선택 포기
  • "‘용인 스마일 보이’ 우상혁이 웃었다"...이상일 용인특례시장, 높이뛰기 우상혁 선수 '응원'하고 '격려'
  • 삼성자산운용, 공식 유튜브 채널 정보 시리즈 인기몰이
  • NH농협은행, 농촌 학생들과 '초록사다리 여름캠프' 개최

당신을 위한 인기글

  • 입소문으로 유명하던 맛집을 한 곳에서! 인천 맛집 BEST5
  • 눈으로 한 번 먹고, 입으로 두 번 먹는 브런치 맛집 BEST5
  • 담백한 국물과 쫄깃한 살코기, 든든하게 먹을 수 있는 닭곰탕 맛집 BEST5
  • 푹- 끓여내어 야들야들한 건더기와 얼큰한 국물의 만남, 육개장 맛집 BEST5
  • 트럼프 2.0 시대가 ‘오징어 게임’에 미치는 영향은?
  • [오늘 뭘 볼까] 팅커 테일러 올드 스파이..시리즈 ‘스파이가 된 남자’
  • [리뷰: 포테이토 지수 80%] ‘대가족’, 가족 의미 곱씹게 하는 착한 영화
  • [위클리 포토] 여배우들의 하트 대결 ‘웜 미녀’ VS ‘쿨 미녀’

함께 보면 좋은 뉴스

  • 1
    "잃어버린 딸 우연히 입양" 뻔해도 본다…'1분 드라마'에 푹 빠진 중국

    뉴스 

  • 2
    김병만 전처가 생명보험 24개 의혹에 입을 열었고, 숨겨진 사실 등장에 또다시 원점이다

    연예 

  • 3
    예천군, 세계축제협회 피너클 어워드 문화유산 부문 최고상 수상

    여행맛집 

  • 4
    용산구, 경원선 지하화로 지역 균형 발전 물꼬 튼다

    여행맛집 

  • 5
    치료비 선납 의료기관 휴·폐업 소비자피해 증가

    여행맛집 

[경제] 인기 뉴스

  • 올림픽 맛있게 응원하자…집관족 취향저격 ‘올림픽 에디션’
  • 서울 아파트 낙찰가율 93.7%...1년 11개월 만에 최고점 찍었다
  • 질병청 '성인 패혈증 초기치료지침' 첫 발간
  • 불량 자재 탓에 에어컨 없이 폭염 견디는 송도 '송일국 아파트'
  • 불량 자재 탓에 에어컨 없이 폭염 견디는 송도 '송일국 아파트'
  • 8월 극장가 '재개봉 러시'…인생영화 다시 스크린으로

지금 뜨는 뉴스

  • 1
    '90분당 가장 많은 패스 시도한 선수' 3위 다요 우파메카노, 2위 김민재, 대망의 1위는?

    스포츠 

  • 2
    김용주, 체육회장 출마 선언…체육인 처우 개선 다짐

    스포츠 

  • 3
    에이핑크 연말 콘서트 개인 티저...오늘 일반 예매 시작

    연예 

  • 4
    TWS(투어스), 설렘 폭발 ‘마지막 축제’ MV 티저 공개

    연예 

  • 5
    팔로알토(PANW) 분기 실적 예상치 상회, 플랫폼화 전략 효과 가시화

    뉴스 

[경제] 추천 뉴스

  • 케이뱅크, MY체크카드 90만장 넘었다..."인뱅 유일 K 패스 기능 탑재"
  • 삼정KPMG “디지털 헬스케어 활성화에 슬립테크 부상”
  • ‘나는 솔로’ 21기 최종 선택 대반전…순자, 영철 직진에도 선택 포기
  • "‘용인 스마일 보이’ 우상혁이 웃었다"...이상일 용인특례시장, 높이뛰기 우상혁 선수 '응원'하고 '격려'
  • 삼성자산운용, 공식 유튜브 채널 정보 시리즈 인기몰이
  • NH농협은행, 농촌 학생들과 '초록사다리 여름캠프' 개최

당신을 위한 인기글

  • 입소문으로 유명하던 맛집을 한 곳에서! 인천 맛집 BEST5
  • 눈으로 한 번 먹고, 입으로 두 번 먹는 브런치 맛집 BEST5
  • 담백한 국물과 쫄깃한 살코기, 든든하게 먹을 수 있는 닭곰탕 맛집 BEST5
  • 푹- 끓여내어 야들야들한 건더기와 얼큰한 국물의 만남, 육개장 맛집 BEST5
  • 트럼프 2.0 시대가 ‘오징어 게임’에 미치는 영향은?
  • [오늘 뭘 볼까] 팅커 테일러 올드 스파이..시리즈 ‘스파이가 된 남자’
  • [리뷰: 포테이토 지수 80%] ‘대가족’, 가족 의미 곱씹게 하는 착한 영화
  • [위클리 포토] 여배우들의 하트 대결 ‘웜 미녀’ VS ‘쿨 미녀’

추천 뉴스

  • 1
    "잃어버린 딸 우연히 입양" 뻔해도 본다…'1분 드라마'에 푹 빠진 중국

    뉴스 

  • 2
    김병만 전처가 생명보험 24개 의혹에 입을 열었고, 숨겨진 사실 등장에 또다시 원점이다

    연예 

  • 3
    예천군, 세계축제협회 피너클 어워드 문화유산 부문 최고상 수상

    여행맛집 

  • 4
    용산구, 경원선 지하화로 지역 균형 발전 물꼬 튼다

    여행맛집 

  • 5
    치료비 선납 의료기관 휴·폐업 소비자피해 증가

    여행맛집 

지금 뜨는 뉴스

  • 1
    '90분당 가장 많은 패스 시도한 선수' 3위 다요 우파메카노, 2위 김민재, 대망의 1위는?

    스포츠 

  • 2
    김용주, 체육회장 출마 선언…체육인 처우 개선 다짐

    스포츠 

  • 3
    에이핑크 연말 콘서트 개인 티저...오늘 일반 예매 시작

    연예 

  • 4
    TWS(투어스), 설렘 폭발 ‘마지막 축제’ MV 티저 공개

    연예 

  • 5
    팔로알토(PANW) 분기 실적 예상치 상회, 플랫폼화 전략 효과 가시화

    뉴스 

공유하기