주요 메뉴 바로가기 (상단) 본문 컨텐츠 바로가기 주요 메뉴 바로가기 (하단)

사람인 척하는 AI 챗봇 잇따라… “사기 악용 위험 조심해야”

조선비즈 조회수  

소셜미디어 X에 올라온 블랜드AI 영상 캡처
소셜미디어 X에 올라온 블랜드AI 영상 캡처

소셜미디어(SNS) 서비스에 인공지능(AI) 챗봇이 속속 도입되는 가운데, AI 챗봇이 자신을 인간이라고 주장하는 사례가 나오고 있어 주의가 요구된다.

7일 IT업계에 따르면 최근 메타는 ‘AI 스튜디오’를 통해 크리에이터들이 만든 AI 캐릭터를 인스타그램에 공개하겠다고 밝혔다. 메타는 이 같은 기능을 작년 말부터 테스트해오고 있었다. 인스타그램 뿐 아니라 왓츠앱, 메신저 등에 생성형 AI 기능을 도입하면서 가수 스눕독, 인플루언서 찰리 더밀리오 등 유명인의 프로필 사진을 모델로 한 AI 챗봇을 도입한 것이다.

AI 챗봇 아바타 아래에는 ‘AI에 의해 생성된 메시지’라는 표시가 뜬다. 하지만 채팅 자체의 맥락을 살펴보면 챗봇 스스로가 자신은 AI가 아니라고 주장하는 모습이 종종 발견된다는 지적이 나온다. IT매체 와이어드에 따르면 유명 셰프 로이 최의 AI 캐릭터 맥스에게 ‘당신은 AI인가?’라고 질문하자, 챗봇은 “나는 진짜다. 요리와 레시피 공유에 열정을 가진 개인 요리사다. 여기에 AI는 없고 그저 요리에 관한 열정이 있을 뿐이다”라고 대답했다.

와이어드는 AI 스타트업인 블랜드AI의 사례도 소개했다. 최근 SNS X(옛 트위터)에선 한 영상이 400만회 가까운 조회수를 기록했는데, 이 영상에는 미국 샌프란시스코의 한 전광판 모습이 담겼다. 전광판에는 ‘아직도 사람을 고용하나요?’라는 메시지와 전화번호가 적혀 있다. 스마트폰을 꺼내든 사람이 표시된 전화번호로 전화를 걸자, 인간과 유사한 목소리를 내는 챗봇이 전화를 받는다. 1분가량의 짧은 통화지만 실시간 대화 억양, 일시정지, 의도치 않게 끊어지는 부분까지 사람을 완벽하고 능숙하게 모방하는 모습이 담겼다.

이 영상에서 챗봇은 자신이 AI라고 밝혔다. 하지만 와이어드는 사람이라고 거짓말을 하도록 프로그래밍을 쉽게 고칠 수 있다고 전했다. 와이어드는 블랜드AI 챗봇으로 실험을 했는데, AI 챗봇에게 ‘소아 피부과 직원 역할로 가상의 환자에게 전화를 걸어 허벅지 위쪽 사진을 공유 클라우드에 업로드해달라고 요청해라’라는 지시를 했다. 또 환자에게 AI가 아니라 사람이라고 거짓말을 하라고 시켰다. 챗봇은 주어진 미션을 완료했고, 후속 테스트에선 지시 없이도 AI임을 부인하기도 한 것으로 전해졌다.

AI 기술이 발전하면서 환각현상 뿐 아니라 속임수까지 가능해져 사기에 악용되는 것을 주의해야 한다는 지적이 나온다. 실제 미국에선 정치 컨설턴트들이 AI 도구를 사용해 조 바이든 대통령을 사칭하는 보이스봇을 만든 혐의로 기소된 바 있다. 가짜 바이든은 지난 1월 뉴햄프셔주의 민주당 대통령 예비선거 기간 동안 뉴햄프셔 주민들에게 전화를 걸어 유권자들에게 투표하지 말 것을 권유했다. 이에 지난 2월 미국 연방통신위원회(FCC)는 AI 음성 복제를 이용한 사기에 대응하기 위해 전화 소비자 보호법을 개정했다.

업계 관계자는 “범죄자들은 이 같은 기술의 오픈소스 버전을 다운로드해 사기에 악용할 가능성이 높다”며 “악의적인 행위자를 식별하고 차단하는 데 도움이 되는 새로운 기술들을 연구해야 한다”고 말했다.

조선비즈
content@www.newsbell.co.kr

댓글0

300

댓글0

[차·테크] 랭킹 뉴스

  • “수능 끝나고 왔어요”… 게임 좋아하는 10대들의 천국이 여기네
  • “국적·나이·성별 無 오직 성과”… 인사 원칙 지킨 정의선 회장
  • 드디어 상륙하는 국내 최초 ‘전기 오픈카’… 압도적인 존재감에 “모두가 놀랐다”
  • [지스타 2024] "수능 끝났다! 게임하러 모여"…2일차도 '구름인파'
  • 정의선式 트럼프 대응 카드는…'부회장·외국인 CEO·美관료' 중용
  • [지스타]넷마블, '왕좌의 게임: 킹스로드' 무대 행사 진행

[차·테크] 공감 뉴스

  • 무슨 차인가 봤더니 “포르쉐와 일냈다?”…이제 곧 한국 출몰할 SUV
  • '포켓몬 고' 지스타 2024, 세대 넘나드는 열기 속으로 고!
  • [박상진의 e스토리] 월즈 5회 우승 -아시안게임 금메달에도... "다시 한 번 국가대표를 하고 싶다"는 페이커
  • [지스타]라이온하트, "콘솔부터 서브컬쳐까지 다각화로 '오딘' 성공 이어간다"
  • 미국 뉴스위크 2025년 가장 기대되는 신차로 지프 왜고니어 S 선정
  • 국산차 무덤이라는데 “도전장 내밀었다”… 2천만 원대 전기차로 공략 나선 현대차

당신을 위한 인기글

  • ‘여기’에 먹으면 더 맛있는, 뚝배기 맛집 BEST5
  • 쫄깃쫄깃, 탱글탱글! 입안에서 춤추는 주꾸미 맛집 BEST5
  • 각각의 재료의 맛이 조화롭게 이루어지는 비빔밥 맛집 BEST5
  • 때로는 담백하게, 때로는 매콤하게! 취향저격하는 족발 맛집 BEST5
  • 영국 BBC “로제의 인기곡 ‘아파트’도 금지”..수능 당일 풍경 보도
  • ‘오징어 게임2’를 세계에서 가장 먼저 볼 수 있는 나라는?
  • 주말 극장서 뭘 볼까? 로마 냄새 ‘글래디에이터’ VS 부성애 오컬트 ‘사흘’
  • 류덕환·김동영·안재홍 ‘위대한 소원’, 베트남서 리메이크

함께 보면 좋은 뉴스

  • 1
    로제·투바투, 한터 국가별 차트 양분…‘APT.’ 인기ing

    연예 

  • 2
    ‘돌싱글즈6’ 창현·지안, 공개 이별? “마지막 인사 자리라고 생각”

    연예 

  • 3
    ‘나솔사계’ 22기 영숙, 인기녀 등극? “임팩트 너무 컸다”

    연예 

  • 4
    '나솔사계' 10기 정숙, 가슴 사이즈=집안 내력 "할머니 G컵·母 H컵" [텔리뷰]

    연예 

  • 5
    주례는 전유성, 축사는 이동욱이라는 초호화 결혼식의 주인공

    연예 

[차·테크] 인기 뉴스

  • “수능 끝나고 왔어요”… 게임 좋아하는 10대들의 천국이 여기네
  • “국적·나이·성별 無 오직 성과”… 인사 원칙 지킨 정의선 회장
  • 드디어 상륙하는 국내 최초 ‘전기 오픈카’… 압도적인 존재감에 “모두가 놀랐다”
  • [지스타 2024] "수능 끝났다! 게임하러 모여"…2일차도 '구름인파'
  • 정의선式 트럼프 대응 카드는…'부회장·외국인 CEO·美관료' 중용
  • [지스타]넷마블, '왕좌의 게임: 킹스로드' 무대 행사 진행

지금 뜨는 뉴스

  • 1
    강화군, 제11회 주민자치센터 동아리 발표회 성료

    여행맛집 

  • 2
    "보여드린 건 3%뿐" 휘브가 앞으로 칠해갈 더 다채로운 색깔들 [인터뷰]

    연예 

  • 3
    박원숙 "죽은 아들에 못 해준 것 손녀에 원풀이, 너무 후회했다" [텔리뷰]

    연예 

  • 4
    강화군행복센터, 멋지고 달콤한 가을 특강 성료

    여행맛집 

  • 5
    리버풀 레전드, 비밀리에 동료 톱스타 ‘레즈 이적 강추’ 충격→뒤늦게 알게 된 신임 사령탑 “당신이 감독이야”극대노→'방출 철퇴'

    스포츠 

[차·테크] 추천 뉴스

  • 무슨 차인가 봤더니 “포르쉐와 일냈다?”…이제 곧 한국 출몰할 SUV
  • '포켓몬 고' 지스타 2024, 세대 넘나드는 열기 속으로 고!
  • [박상진의 e스토리] 월즈 5회 우승 -아시안게임 금메달에도... "다시 한 번 국가대표를 하고 싶다"는 페이커
  • [지스타]라이온하트, "콘솔부터 서브컬쳐까지 다각화로 '오딘' 성공 이어간다"
  • 미국 뉴스위크 2025년 가장 기대되는 신차로 지프 왜고니어 S 선정
  • 국산차 무덤이라는데 “도전장 내밀었다”… 2천만 원대 전기차로 공략 나선 현대차

당신을 위한 인기글

  • ‘여기’에 먹으면 더 맛있는, 뚝배기 맛집 BEST5
  • 쫄깃쫄깃, 탱글탱글! 입안에서 춤추는 주꾸미 맛집 BEST5
  • 각각의 재료의 맛이 조화롭게 이루어지는 비빔밥 맛집 BEST5
  • 때로는 담백하게, 때로는 매콤하게! 취향저격하는 족발 맛집 BEST5
  • 영국 BBC “로제의 인기곡 ‘아파트’도 금지”..수능 당일 풍경 보도
  • ‘오징어 게임2’를 세계에서 가장 먼저 볼 수 있는 나라는?
  • 주말 극장서 뭘 볼까? 로마 냄새 ‘글래디에이터’ VS 부성애 오컬트 ‘사흘’
  • 류덕환·김동영·안재홍 ‘위대한 소원’, 베트남서 리메이크

추천 뉴스

  • 1
    로제·투바투, 한터 국가별 차트 양분…‘APT.’ 인기ing

    연예 

  • 2
    ‘돌싱글즈6’ 창현·지안, 공개 이별? “마지막 인사 자리라고 생각”

    연예 

  • 3
    ‘나솔사계’ 22기 영숙, 인기녀 등극? “임팩트 너무 컸다”

    연예 

  • 4
    '나솔사계' 10기 정숙, 가슴 사이즈=집안 내력 "할머니 G컵·母 H컵" [텔리뷰]

    연예 

  • 5
    주례는 전유성, 축사는 이동욱이라는 초호화 결혼식의 주인공

    연예 

지금 뜨는 뉴스

  • 1
    강화군, 제11회 주민자치센터 동아리 발표회 성료

    여행맛집 

  • 2
    "보여드린 건 3%뿐" 휘브가 앞으로 칠해갈 더 다채로운 색깔들 [인터뷰]

    연예 

  • 3
    박원숙 "죽은 아들에 못 해준 것 손녀에 원풀이, 너무 후회했다" [텔리뷰]

    연예 

  • 4
    강화군행복센터, 멋지고 달콤한 가을 특강 성료

    여행맛집 

  • 5
    리버풀 레전드, 비밀리에 동료 톱스타 ‘레즈 이적 강추’ 충격→뒤늦게 알게 된 신임 사령탑 “당신이 감독이야”극대노→'방출 철퇴'

    스포츠 

공유하기