英 이코노미스트 “AI가 역사의 방향까지 바꿀지도”[PADO]

이제 세상 모두가 정교하게 만들어진 AI를 이용해 지식을 쉽게 얻고 싶어한다. 언론사인 블룸버그는 경제정보 AI인 블룸버그 GPT를 개발중이다. 아직 정교하진 않지만 코란 GPT와 성경 GPT도 나와있고, 교황 GPT도 머지 않아 나올 것이다. 그리고 일부 스타트업 기업들은 사용자가 하드디스크나 클라우드에 가지고 있는 모든 문서들을 이용해 사용자의 질문에 답변하는 서비스를 제공하고 있다. 많은 얼리어답터들은 벌써 AI챗봇을 대화 파트너로 사용하고 있다. “마치 유식한 동료와 계속 대화를 나누고 있는 느낌입니다.” LLM 생산 스타트업인 앤트로픽의 잭 클라크의 설명이다.

이런 동료같은 AI가 하나의 인격체로 느껴지는 것도 상상할 수 있다. 필요할 때 물으면자상히 대답해주는 “삼촌 같은 튜터”가 아니라 시간이 흐름에 따라 나와 함께 자라나는 구체적인 인격체 같은 것도 상상할 수 있다. 어쩌면 사용자를 닮을 수도 있다. 말하자면 ‘내면의 목소리’를 담은 또 하나의 분신 같은 것이다. 또는 온라인상에 써놓거나 창조해놓은 것이 충분한 양이 되어 이것들로 훈련해 그 창작자를 꼭 닮게 될 수도 있다 (저작권 문제만 해결된다면). 호주의 머신러닝 연구소의 연구원들은 작곡가이자 음악가인 로리 앤더슨을 위해 아직 초기형태이긴 하지만 그런 조수를 하나 만들어주었다. 이 AI 조수는 그와 그의 죽은 남편 루 리드의 작품들로 훈련했다.

앤더슨은 이러한 시스템을 이용해 작업하지만 자신의 작고한 남편과 협업하는 것으로 생각하지는 않는다고 말한다. 하지만 어떤 사람들은 그런 환상에 쉽게 빠질 수도 있을 것이다. 만약 어떤 챗봇이 그 사용자의 ‘내면의 목소리’를 그대로 닮아가고 그 사용자가 사망한 후에도 그 챗봇을 통해 그 목소리가 남아 있다면, 그 목소리와 대화를 나누고 싶어하는 사람들이 분명 있을 것이다. 사람이 죽어도 그의 챗봇은 남겨질 것이다.

이러한 애플리케이션과 그것의 영향을 생각하다보면 프로이트가 “언캐니”(uncanny, Unheimliche)를 다룬 고전적 논문이 머리에 떠오른다. 프로이트는 이 논문의 출발점으로 ‘언캐니’한 느낌이 “분명히 생물체인데 정말 생명이 있을까라는 의심, 또는 반대로 분명히 무생물인데 생명이 있는 것이 아닐까라는 의심”에서 나온다는 생각이었다고 밝힌다. 이 의심은 LLM에 대해 많은 사람들이 똑 같이 느끼는 의심이다.

AI 연구자들은 자신들이 만들어낸 것의 작동방식에 대해서는 설명할 수 있지만 그 AI 안에서 도대체 무엇이 일어나고 있는지는 말할 수 없다고 항상 느낀다. “왜 이것이 이렇게 작동하는지 ‘완벽한 이론적 이유’는 없다.” 수학적 검색엔진인 월프럼 알파의 창립자인 컴퓨터과학자 스티븐 월프럼은 최근 자신이 개발한 AI의 작동방식을 설명하는 긴 블로그 게시글에서 이렇게 결론 내렸다.

이것은 서로 연결되어 있지만 서로 배타적인 두 개의 걱정을 낳는다. AI가 과학자들이 아직 파악하지 못하고 있는 작동법을 가지고 있는 것 아니냐는 걱정과 AI가 지성을 갖고 있지도 않으면서 사회생활 속에서 사람으로 받아들여질 수도 있다는 걱정이다.

“이 LLM 모델은 단지 텍스트의 문자들 배치를 그대로 반영한 것에 불과하고 이를 이용해 더 많은 문장을 생산해내는 것입니다.” 시애틀의 워싱턴대 교수인 에밀리 벤더의 말이다. 그는 LLM에 열광적 환상을 비판하는 논문인 “확률론 앵무새의 위험성”의 공동저자다. 그의 주장에 따르면, 이 AI는 지성이나 이해력이 전혀 없다. 실생활이나 인간적인 대화 경험이 전혀 없다보니 이 AI가 할 수 있는 것이라고는 훈련을 받으면서 들었던 것들을 앵무새처럼 흉내내는 것뿐이다. 이것은 엄청난 양의 문자를 통계적으로 처리하는데서 나온 능력으로서 종종 적절하고 가끔은 놀라움을 주는 언어 구사를 보인다. 그렇다고 생각을 하는 것은 아니다. 이 점은 벤더 박사처럼 언어학을 통해 AI 분야로 들어온 사람들이 자주 지적하는 점이다.

하지만 LLM 업계의 다른 사람들에게는 그렇게 쉽게 정리되지 않는다. 그들의 AI는 “단지 생각없이 재잘거리는 놈들”이 아니다. 알파벳(구글)에서 AI 장착 제품 개발팀을 이끄는 블레이즈 아구에라 이 아르카스의 말이다. 그는 AI가 인간의 의미 파악 능력과 별반 다르지 않은 속성을 가지고 있다고 생각한다. 문법적으로 애매하거나 농담으로 이해해야 하는 문장을 번역할 때 AI가 의미를 꽤 정확히 집어내는 능력을 보이는 것을 보면 그런 지성 비슷한 것이 있는 것이라고 말한다.

PADO 웹사이트에서 해당 기사의 전문을 읽을 수 있습니다. 국제시사·문예 매거진 PADO는 통찰과 깊이가 담긴 롱리드(long read) 스토리와 문예 작품으로 우리 사회의 창조적 기풍을 자극하고, 급변하는 세상의 조망을 돕는 작은 선물이 되고자 합니다.