이용자가 “좀 더 생각해 보라”고 명령하면 추론에 더 시간을 들이는 인공지능(AI) 챗봇이 나왔다. 미국 AI개발기업 앤트로픽은 24일(현지시각) 챗봇인 ‘클로드’ 시리즈를 업그레이드한 ‘클로드3.7 소넷’을 발표했다.
AI의 추론(Reasoning, 또는 Inference)이란 심층학습(deep learning)에서 인간이 미리 규칙을 주지 않은 상황에도 작동하도록 하는 것을 말한다. AI가 스스로 명령의 맥락을 읽고 학습되지 않은 데이터가 입력돼도 일반화해 반응하는 것을 의미한다.
미 기술매체 테크크런치 등 외신들에 따르면 앤트로픽은 새 챗봇 모델이 이용자가 원하는 만큼 오랫동안 질문에 대해 ‘생각’하도록 설계됐다면서 실시간 답변과 추론 답변을 모두 제공할 수 있다는 점에서 ‘하이브리드 모델’이라고 소개했다.
‘클로드3.7 소넷’은 앤트로픽의 유료 ‘프리미엄 클로드’ 서비스에 가입한 이용자에게만 제공된다. 100만개의 입력 토큰(약 75만 단어) 당 3달러를 받으며 100만개의 출력 토큰 당 15달러를 받는다.
이는 100만개 토큰을 기준으로 오픈AI의 ‘o3-미니’의 입력 1.1 달러, 출력 4.4달러 그리고 ‘딥시크’의 입력 55센트, 출력 2.19달러보다 비싸다. 그러나 ‘o3-미니’나 ‘딥시크’는 실시간 답변 기능은 없는 추론 모델이라는 점에서 차이가 있다.
AI 추론 모델들은 질문에 답하기 전에 더 많은 시간과 컴퓨팅 파워를 사용한다. 이런 모델은 문제를 더 작은 단계로 나눠 최종 답변의 정확도를 개선하는 경향이 있다. 추론 모델은 인간처럼 생각하거나 추론하는 것은 아니지만 그 과정은 연역을 기반으로 모델링된다고 테크크런치는 전했다.
다이안 펜 앤트로픽 연구 책임자는 테크크런치와의 인터뷰에서 “우리는 추론을 단순히 첨단 모델이 가져야 할 기능 중 하나로 간주한다”면서 “별도의 모델을 통해 제공되는 것이 아니라 다른 기능과 원활하게 통합돼야 한다고 생각한다”고 말했다.
또 ‘클로드3.7 소넷’은 추론의 단계를 이용자가 볼 수 있도록 하지만 신뢰성과 안전성 확보를 위해 일부 추론 단계 노출은 하지 않을 수 있다고 설명했다.
실시간 답변과 추론 답변을 모두 할 수 있는 ‘하이브리드 AI모델’은 오픈AI도 출시할 가능성이 있다. 샘 올트먼 오픈 AI CEO가 최근 이런 모델을 언급하면서 “몇 달 안에 나올 수 있다”고 말했다고 테크크런치는 보도했다.
댓글0