주요 메뉴 바로가기 (상단) 본문 컨텐츠 바로가기 주요 메뉴 바로가기 (하단)

딥러닝 아버지 “핵보다 위험한 AI…’레드라인’ 넘기 전 기술적 안전판 필요”

서울경제 조회수  

“설득 능력에서 인간을 앞선 인공지능(AI)이 ‘나쁜 손’을 통해 여론 조작에 파인튜닝(최적화)된다면 민주국가 시민들의 생각을 움직일 수 있게 됩니다. 악의적인 목표를 지닌 특정 국가 및 정치 세력이 AI를 심리 조작, 무기 설계, 해킹 등에 사용하고 폭주하는 AI가 스스로 복제하는 ‘레드라인’을 넘기 전에 AI에 대한 통제 방안을 서둘러 마련해야 합니다.”

딥러닝 아버지 '핵보다 위험한 AI…'레드라인' 넘기 전 기술적 안전판 필요'
요슈아 벤지오 몬트리올대 교수. 사진제공=MILA(몬트리올 학습 알고리즘 연구소)

AI 분야의 ‘구루’로 손꼽히는 요슈아 벤지오 몬트리올대 교수가 최근 서울경제신문과 진행한 화상 인터뷰에서 “AI 위기가 핵 위기보다 훨씬 위험할 수 있다”고 강조했다. AI가 핵무기처럼 전략무기화한 현재, 각국이 보다 강력한 AI 개발을 위해 안전성을 도외시한다면 통제되지 않는 AI의 폭주를 인간이 막아설 방법이 없다는 우려에서다.

벤지오 교수는 ‘딥러닝의 창시자’ 혹은 ‘생성성 AI의 아버지’라는 별칭으로도 잘 알려져 있다. 그는 2006년 네트워크를 쪼개 순차적으로 학습시키는 방식을 제안해 ‘AI 겨울’을 끝내고 딥러닝의 가능성을 열었다는 평가를 받고 있다. 2014년에는 인공 신경망으로 사진을 생성하는 생성적적대신경망(GAN)과 ‘어텐션’ 개념을 세계 최초로 제안하기도 했다. 어텐션은 대규모언어모델(LLM)을 탄생하게 한 ‘트랜스포머’ 구조의 기틀이다. 그는 이 공로로 제프리 힌턴 토론토대 교수, 얀 르쿤 뉴욕대 교수 겸 메타 수석 AI 과학자와 함께 2018년 ‘컴퓨터과학계의 노벨상’으로 불리는 튜링상을 받았다. 최근에는 이들 세 명에 앤드루 응 스탠퍼드 교수를 포함해 ‘AI 4대 천왕’이라 부른다.

최근 들어 벤지오 교수는 ‘AI 경고론자’로도 이름을 떨치고 있다. 지난해는 일론 머스크 테슬라 최고경영자(CEO) 등과 함께 AI 개발을 6개월간 멈추자는 성명을 냈고 올 3월에는 힌튼 교수 등과 “AI 위험을 막기 위해서는 냉전시대 핵 전쟁을 막기 위해 투입했던 수준의 전 세계적 관심과 공동 노력이 필요하다”는 공동 성명을 내기도 했다.

벤지오 교수를 ‘AI 경고론의 기수’로 돌아서게 한 ‘결정적인 사건’은 챗GPT의 등장이다. “챗GPT의 등장이 (AI에 대한) 내 생각을 근본적으로 바꿨다”며 “2022년 겨울 챗GPT 출시 이후 생각했던 것보다 범용인공지능(AGI)에 훨씬 가까워졌다는 사실을 깨닫게 됐고 이는 곧 두려움으로 다가왔다”고 고백했다.

AGI는 모든 면에서 인간과 같거나 높은 수준을 지닌 ‘강(强)인공지능’을 뜻한다. 현재의 과학기술 수준으로는 인간 지능의 작동 원리조차 정확히 알지 못한다. 스스로 만들어낸 딥러닝과 AI가 어떻게 구동하는지도 완벽하게 이해하지 못하고 있다. 벤지오 교수는 “AGI의 위험을 완벽하게 파악하지 못하고 있다는 것은 이미 인간의 통제 범위를 넘어섰다는 얘기”라며 “AGI의 위험을 진심으로 심각하게 받아들여야 한다”고 강조했다. 그는 “내 아이와 손주들이 미래를 가질 수 없다는 일말의 가능성을 없애기 위해 무언가를 해야 한다는 강력한 책임감을 갖게 됐다”고도 말했다.

시간이 갈수록 AI 연구에 가속도가 붙고 있다는 점 역시 벤지오 교수가 ‘AI 파수꾼’ 역할을 자처하게 된 배경이다. 벤지오 교수는 AI를 연구하는 데 최적화한 AI가 탄생한다면 AI 기술이 엄청난 속도로 발전할 수 있다고 우려하고 있다. 이는 현재 모든 AI 개발 업체들이 집중하고 있는 연구 분야이기도 하다. 벤지오 교수는 “인간의 모든 능력을 복제할 필요 없이 AI 연구에만 파인튜닝한 AI가 탄생한다면 AI에 의해 다음 세대 AI가 설계돼 발전 속도가 엄청나게 가속화할 것”이라며 “현재는 AI의 ‘학습 절차’에 대해서는 이해할 수 있으나 다음 단계부터는 인간의 능력을 넘어서는, 아예 이해할 수 없는 미지의 영역으로 들어서게 된다”고 우려했다.

딥러닝 아버지 '핵보다 위험한 AI…'레드라인' 넘기 전 기술적 안전판 필요'
2019년 삼성 AI 포럼에 참석해 강연 중인 요슈아 벤지오 몬트리올대 컴퓨터공학과 교수. 벤지오 교수는 몬트리올에 AI 랩을 구축한 삼성전자와도 깊은 관계를 맺고 있다. 이재용 삼성전자 회장의 ‘AI 멘토’로 꼽히기도 한다. 사진 제공=삼성전자

벤지오 교수가 AI 위협에 대해 상상하는 최악의 시나리오는 ‘인간 통제의 상실’에 따른 인류 절멸이다. 그는 “영화 터미네이터에 나오는 ‘스카이넷’이 현실적이라고 생각하지 않지만 영화 속 AI가 보여주는 ‘의도’에 대해서는 진지하게 고민할 필요가 있다”며 “현재 인류가 성취한 AI 기술 수준은 ‘AI가 인류와 정확하게 일치하는 의도를 가질 것’이라 보장할 수 있는, 명확한 답을 주지 못하고 있다”고 지적했다.

극단적인 예로 인간을 뛰어넘는 AGI가 자기 보존 목표를 갖게 된다면 생존을 위해 인류를 제거해야 한다는 판단을 내릴 수도 있다는 것이다. 벤지오 교수는 “인류를 제거하는 가장 쉬운 방법은 핵무기가 아닌 생물학 무기 설계”라며 “인류 최고의 생물학자보다 똑똑한 컴퓨터가 이를 설계한다면 우리로서는 대응할 시간도, 수단도 없다”고 말했다. 이런 이유로 AI가 핵보다 훨씬 위험하다고 단언했다. 그는 “핵전쟁이 벌어진다면 수십억 명이 죽더라도 일부는 생존하겠지만 초인적인 AI가 인류 절멸을 원한다면 단 한 명의 인간도 남기지 않을 것”이라고 우려했다.

벤지오 교수는 AGI가 등장하기 전인, 적어도 우리가 AI를 이해하고 통제할 수 있는 바로 지금 AI에 대한 통제 방안을 마련해야 한다고 촉구한다. 하지만 이미 AI는 세계 각국의 전략무기로 쓰이며 통제가 어려워지고 있다. 그는 “세계 각국, 혹은 한 국가 내 여러 정치 세력의 이해 관계가 얽힌 정치적 문제가 인류가 직면한 매우 중요한 난제”라며 “각국이 AI를 군사 및 국가 안보를 위한 효과적인 도구라는 점을 인지하면 AI 주권을 절대로 포기하지 않을 것이기 때문에 학계가 AI 위험을 정확히 분석해 정책 입안자와 정부들을 설득해야 한다”고 제안했다.

그는 “미국과 같은 패권 국가들이 AGI 통제력 상실을 인류에 대한 ‘실존적 위험’으로 받아들이지 않는 상황에서는 그 어떤 국제기구가 나선다고 해도 자국의 AI를 통제하도록 허용하지 않을 것”이라고 단언했다.

이렇듯 어두운 전망에도 벤지오 교수는 아직까지는 희망이 있다고 말한다. 컴퓨터 과학자답게 그는 기술적인 해법을 내놓았다. AI가 작동하는 기반인 하드웨어, 즉 반도체 단계에서 위험한 AI 연구를 원천적으로 차단하는 방안이 제시됐다. 벤지오 교수는 “핵무기에 대한 상호 검증 시스템처럼 AI 칩에 하드웨어 기반 거버넌스를 도입하는 여러 논문들이 나와 있다”며 “AI 칩을 승인된 용도 외에는 사용할 수 없게 하고 국제기구 같은 중립적인 기관에서 이를 제어하도록 하면 된다”고 설명했다.

학계가 AGI 개발에 앞서 AI 안전에 대한 연구에 힘써야 한다고도 강조했다. 그는 “학계가 안전한 AGI 구축에 대한 답을 내놓지 못한다면 각국 정부가 올바른 선택을 하도록 도울 수 없다”며 “기술적으로 통용할 수 있는 ‘보호책’을 마련해 국가 간 경쟁에서 뒤지지 않을 것이라는 믿음을 준다면 (각국 정부가 지금처럼) 천문학적 비용을 치르면서까지 개발하려 하지 않을 것”이라고 전망했다.

▲요슈아 벤지오 교수는…

△1964년 프랑스 파리 △1991년 맥길대 컴퓨터과학 박사 △1991~1993년 MIT, AT&T 벨 연구소 박사 후 연구원 △1993년~ 몬트리올대 컴퓨터과학과 교수 △2014년 생성적적대신경망(GAN) 논문 발표 △2015년 딥러닝 논문 공저 △2018년 튜링상 △2019년 캐나다 고등연구소(CIFAR) AI 자문위 의장 △2020년 런던 왕립 학회 펠로 △2023년 유엔 과학 자문위 위원

서울경제
content@www.newsbell.co.kr

댓글0

300

댓글0

[경제] 랭킹 뉴스

  • 올림픽 맛있게 응원하자…집관족 취향저격 ‘올림픽 에디션’
  • 질병청 '성인 패혈증 초기치료지침' 첫 발간
  • 서울 아파트 낙찰가율 93.7%...1년 11개월 만에 최고점 찍었다
  • 불량 자재 탓에 에어컨 없이 폭염 견디는 송도 '송일국 아파트'
  • 불량 자재 탓에 에어컨 없이 폭염 견디는 송도 '송일국 아파트'
  • 8월 극장가 '재개봉 러시'…인생영화 다시 스크린으로

[경제] 공감 뉴스

  • 케이뱅크, MY체크카드 90만장 넘었다..."인뱅 유일 K 패스 기능 탑재"
  • 삼정KPMG “디지털 헬스케어 활성화에 슬립테크 부상”
  • "‘용인 스마일 보이’ 우상혁이 웃었다"...이상일 용인특례시장, 높이뛰기 우상혁 선수 '응원'하고 '격려'
  • ‘나는 솔로’ 21기 최종 선택 대반전…순자, 영철 직진에도 선택 포기
  • NH농협은행, 농촌 학생들과 '초록사다리 여름캠프' 개최
  • 삼성자산운용, 공식 유튜브 채널 정보 시리즈 인기몰이

당신을 위한 인기글

  • 달콤한 양념과 부드러운 고기의 조화, 소불고기 맛집 BEST5
  • 진득한 국물에 닭 특유의 감칠맛이 전해지는 닭칼국수 맛집 BEST5
  • 부드러운 육질, 고소한 풍미가 매력적인 양고기 맛집 BEST5
  • 끓일수록 진국! 얼큰 칼칼한 국물이 일품인 매운탕 맛집 BEST5
  • ‘종영 눈앞’ 이친자·정년이·정숙한 세일즈..그 결말은?
  • 송재림 유작으로 남은 ‘폭락: 사업 망한 남자’
  • ‘개를 훔치는 완벽한 방법’ 김성호 감독. 발달장애 아동 SF영화 공개
  • 강동원·이민기·김남길·차은우..’사제복’의 매력으로

함께 보면 좋은 뉴스

  • 1
    “씁쓸한 뉴스…” 어린이 합창단 하모니에 눈물 흘린 유재석 : 너무나 공감 포인트다

    연예 

  • 2
    '5살 아이 사망' 태권도 관장이 삭제한 CCTV를 복원하니 충격적인 장면이 드러났다

    뉴스 

  • 3
    민주당 '탄핵 몽니'에 '정치적 해법' 준비하는 국민의힘

    뉴스 

  • 4
    2025학년도 수능 준비물, 도시락·반입금지 물품은?

    뉴스 

  • 5
    '살려주세요~'→‘억울'‘황당’…새우 먹고 4년 출장 징계위기 ‘제 2의 카이세도’충격…알레르기로 죽을 뻔→약물 치료→알고보니 금지약물→최대 4년 출전정지'날벼락'

    스포츠 

[경제] 인기 뉴스

  • 올림픽 맛있게 응원하자…집관족 취향저격 ‘올림픽 에디션’
  • 질병청 '성인 패혈증 초기치료지침' 첫 발간
  • 서울 아파트 낙찰가율 93.7%...1년 11개월 만에 최고점 찍었다
  • 불량 자재 탓에 에어컨 없이 폭염 견디는 송도 '송일국 아파트'
  • 불량 자재 탓에 에어컨 없이 폭염 견디는 송도 '송일국 아파트'
  • 8월 극장가 '재개봉 러시'…인생영화 다시 스크린으로

지금 뜨는 뉴스

  • 1
    '개각설'에 한 총리 "윤 대통령과 직·간접적으로 계속 대화하고 있다"

    뉴스 

  • 2
    "의결 정족수 200명 모을 것" 범야권 '탄핵연대' 출범…국회 점입가경

    뉴스 

  • 3
    일부러 편의점서 ‘낫’ 들고 강도질한 30대 : 범행 이유를 듣고나니 어질어질하다

    뉴스 

  • 4
    이 메뉴 먹고 응급실 실려 간 한가인: 원래도 '맛있다 VS 절대 못 먹는다'로 갈린다

    연예 

  • 5
    막심의 귀환, 대한항공 2위로 도약…KB손해보험 제압

    스포츠 

[경제] 추천 뉴스

  • 케이뱅크, MY체크카드 90만장 넘었다..."인뱅 유일 K 패스 기능 탑재"
  • 삼정KPMG “디지털 헬스케어 활성화에 슬립테크 부상”
  • "‘용인 스마일 보이’ 우상혁이 웃었다"...이상일 용인특례시장, 높이뛰기 우상혁 선수 '응원'하고 '격려'
  • ‘나는 솔로’ 21기 최종 선택 대반전…순자, 영철 직진에도 선택 포기
  • NH농협은행, 농촌 학생들과 '초록사다리 여름캠프' 개최
  • 삼성자산운용, 공식 유튜브 채널 정보 시리즈 인기몰이

당신을 위한 인기글

  • 달콤한 양념과 부드러운 고기의 조화, 소불고기 맛집 BEST5
  • 진득한 국물에 닭 특유의 감칠맛이 전해지는 닭칼국수 맛집 BEST5
  • 부드러운 육질, 고소한 풍미가 매력적인 양고기 맛집 BEST5
  • 끓일수록 진국! 얼큰 칼칼한 국물이 일품인 매운탕 맛집 BEST5
  • ‘종영 눈앞’ 이친자·정년이·정숙한 세일즈..그 결말은?
  • 송재림 유작으로 남은 ‘폭락: 사업 망한 남자’
  • ‘개를 훔치는 완벽한 방법’ 김성호 감독. 발달장애 아동 SF영화 공개
  • 강동원·이민기·김남길·차은우..’사제복’의 매력으로

추천 뉴스

  • 1
    “씁쓸한 뉴스…” 어린이 합창단 하모니에 눈물 흘린 유재석 : 너무나 공감 포인트다

    연예 

  • 2
    '5살 아이 사망' 태권도 관장이 삭제한 CCTV를 복원하니 충격적인 장면이 드러났다

    뉴스 

  • 3
    민주당 '탄핵 몽니'에 '정치적 해법' 준비하는 국민의힘

    뉴스 

  • 4
    2025학년도 수능 준비물, 도시락·반입금지 물품은?

    뉴스 

  • 5
    '살려주세요~'→‘억울'‘황당’…새우 먹고 4년 출장 징계위기 ‘제 2의 카이세도’충격…알레르기로 죽을 뻔→약물 치료→알고보니 금지약물→최대 4년 출전정지'날벼락'

    스포츠 

지금 뜨는 뉴스

  • 1
    '개각설'에 한 총리 "윤 대통령과 직·간접적으로 계속 대화하고 있다"

    뉴스 

  • 2
    "의결 정족수 200명 모을 것" 범야권 '탄핵연대' 출범…국회 점입가경

    뉴스 

  • 3
    일부러 편의점서 ‘낫’ 들고 강도질한 30대 : 범행 이유를 듣고나니 어질어질하다

    뉴스 

  • 4
    이 메뉴 먹고 응급실 실려 간 한가인: 원래도 '맛있다 VS 절대 못 먹는다'로 갈린다

    연예 

  • 5
    막심의 귀환, 대한항공 2위로 도약…KB손해보험 제압

    스포츠 

공유하기