생성형 AI, 기업 반응 ‘미지근’해지는 이유

시사위크 2024.09.25 조회수

기업 업무 현장에서 ‘생성형 인공지능(AI)’의 도입 필요성도 커질 것이란 예측이 지배적이다. 하지만 정작 생성형 AI 도입에 대한 기업들의 반응이 미지근해지고 있다./ 그래픽=박설민 기자

시사위크=박설민 기자 ‘생성형 인공지능(AI)’의 등장은 우리 사회 전반에 큰 변화를 가져오고 있다. 가전, 모바일 등 일상생활부터 산업, 연구 분야 등 이용 범위도 넓어지고 있다. 독일시장조사업체 ‘스태티스타(Statista)’에 따르면 지난해 생성형 AI시장 규모는 448억9,000만달러(약 59조7,351억원) 수준에 이른다. 2030년엔 2,069억5,000만달러(약 275조4,918억원)에 이를 전망이다.

이에 따라 기업 업무 현장에서 생성형 AI 도입 필요성도 커질 것이란 예측이 지배적이다. 문서 작업 및 데이터 처리, 복잡한 계산 등 업무 활용도가 높을 것이란 기대감에서다. 하지만 정작 생성형 AI 도입에 대한 기업들의 반응이 미지근해지고 있다. 기술적 어려움과 기업 환경 인프라 부족, 문제 해결 능력 한계 등 문제가 발생하면서다.

◇ 생성형 AI, 기업 리더들의 관심이 줄어든다

글로벌 컨설팅 그룹 ‘딜로이트(Deloitte)’의 한국지사 ‘한국 딜로이트 그룹’은 ‘기업의 생성형 AI 사용 현황 2024년 3분기’ 리포트에 따르면 기업 내 고위 경영진 및 이사회의 생성형 AI 관심이 감소한 것으로 나타났다.

이번 보고서는 미국, 영국, 인도, 일본 등 14개국 2,770명의 이사회 및 이사회 구성원, 사장, 부사장, 이사급 임원 등 리더에 대한 설문조사로 이뤄졌다. 설문조사는 AI 확장을 위한 데이터와 거버넌스, 리스크와 규정 준수, 조직이 AI 가치를 측정하고 전달하는 방식에 대한 것으로 진행됐다.

보고서에 따르면 조사에 참여한 국내외 기업 67%는 생성형 AI에 대한 투자를 더욱 늘리고 있다고 밝혔다. 이 중 응답자 42%는 생성형 AI 이니셔티브를 통해 효율성 및 생산성 향상과 비용 절감을 중요한 성과로 꼽았다. 혁신 촉진(12%), 제품 및 서비스 개선(10%), 고객 관계 강화(9%) 등 그 외 혜택이 있다고 응답했다.

생성형 AI 도입을 통한 기업 내 성과./ 그래픽=이주희 디자이너, 자료=딜로이트

일단 표면상으로 보면 기업들은 대체로 생성형 AI 만족하는 모양새다. 하지만 세부 내용을 살펴보면 조금 반응이 다르다. 먼저 고위 경영진 63%와 이사회 53%는 여전히 생성형 AI에 대한 높은 관심을 보이고 있는 것으로 나타났다. 이는 1분기 대비 각각 11%p(퍼센트포인트), 8%p 하락한 결과다.

실제 업무 현장에서의 생성형 AI 활용도도 예상보다 낮았다. 딜로이트 그룹 설문에 따르면 전체 기업 중 68%가 생성형 AI 실험 사용 중 30% 이하만이 실제 비즈니스에 접목 중이라고 답했다. 쉽게 말해 생성형 AI를 테스트해보긴 하지만 실제 업무 활용 단계로 전환할 수 있었던 것은 30% 이하라는 의미다. 이 중 전환 비율이 10% 미만에 불과하다고 답한 기업 비율도 20%나 됐다.

한국 딜로이트 그룹은 “조직에게는 가장 높은 가치 창출 잠재성을 가진 생성형 AI 프로젝트를 신속하게 선택하고 확장하는 것이 가장 주요한 목표”라며 “그러나 많은 생성형 AI 도입이 아직 파일럿 또는 개념 증명 단계에 머물러 있다”고 설명했다.

이어 “기업은 생성형 AI가 무엇을 잘할 수 있고 무엇을 잘 못하는지 파악하고 있지만 이는 매우 어렵고 다방면에 걸친 노력이 필요한 일”이라며 “디지털 전환 프로젝트와 마찬가지로 많은 프로젝트가 여러 가지 이유로 실패하거나 어려움을 겪을 수 있다”고 분석했다.

생성형AI 실험의 실제 비즈니스 활용 단계 전환 비율./ 그래픽=이주희 디자이너, 자료=딜로이트

◇ 전문가들 “철저한 준비 없는 AI도입, 실패의 지름길”

이 같은 생성형 AI 도입 둔화 및 관심 저하는 기업 운영진들의 단순한 ‘기우(杞憂)’가 아니다. 실제로 기업의 AI 관련 프로젝트의 경우 실패 확률이 매우 높은 실정이다. 미국의 IT연구 싱크탱크 ‘RAND’가 지난달 발표한 ‘인공지능 프로젝트 실패의 근본 원인과 성공 방법’ 보고서에 따르면 기업 내 AI 프로젝트의 80% 이상 실패하는 것으로 나타났다.

RAND는 AI프로젝트 실패 이유를 찾기 위해 산업·학계서 AI 관련 연구 및 모델 구축 경력이 5년 이상인 데이터 과학자와 엔지니어 65명의 의견을 모았다. 그 결과, 저자들은 기업 AI프로젝트 실패의 근본적 이유를 5가지로 꼽았다.

RAND가 제시한 5가지 실패 요인은 △AI 활용 방법 파악 미흡 △데이터 부족 △필요 기술 대신 최신형 AI에만 집중 △AI모델 배포 및 관리 인프라 부족 △AI로 해결 불가능한 문제에 적용 등이다. 쉽게 말해 AI를 어떻게 쓰고 관리하는지도 모른 채 ‘AI가 대세니 가장 최신 기술을 가장 어려운 문제에 도입하자’고 주장하는 기업이 많다는 것.

RAND는 “업계 리더는 기술 직원이 프로젝트 목적과 도메인 맥락을 이해하도록 해야 한다”며 “AI 프로젝트의 의도와 목적에 대한 오해, 의사소통 부족은 기업의 AI도입을 실패하게 만드는 가장 큰 이유”라고 꼬집었다.

이어 “AI 프로젝트를 시작하기 전에 각 연구개발팀이 최소 1년 동안 특정 문제를 해결하도록 준비해야 한다”며 “관련 인프라에 대한 사전 투자를 통해 효과적인 AI 모델을 훈련하는 데 사용할 수 있는 고품질 데이터의 양을 늘려야 한다”고 조언했다.

데이터 보안 문제 역시 기업의 생성형 AI 도입 활성화를 위한 필수 과제다. 한국딜로이트 그룹 조사에 따르면 기업이 생성형 AI 도입 시 가장 우려하는 사항으로 민감한 데이터의 사용(58%), 데이터 개인정보 보호 문제(58%), 그리고 데이터 보안 문제(57%)인 것으로 집계됐다./ 그래픽=박설민 기자

아울러 데이터 보안 문제 역시 기업의 생성형 AI 도입 활성화를 위한 필수 과제다. 한국딜로이트 그룹 조사에 따르면 기업이 생성형 AI 도입 시 가장 우려하는 사항으로 민감한 데이터의 사용(58%), 데이터 개인정보 보호 문제(58%), 그리고 데이터 보안 문제(57%)인 것으로 집계됐다. 여기에 14%의 기업은 AI용 데이터 보안과 관련해 구체적인 대응 계획조차 세우고 있지 않았다.

한국 딜로이트 그룹은 “공개된 대규모 언어 모델(LLM)과 퍼블릭 데이터를 활용해 효율성과 생산성을 키우는 것이 더 일반화될 것으로 예상된다”며 “기업들은 기본에 충실하면서 변화에 대한 적응성을 강화하고 고품질 데이터 부족 문제를 직시해야할 것”이라고 조언했다.

김진숙 한국 딜로이트 그룹 리스크 자문 부문 파트너는 “이제 생성형 AI 이니셔티브를 통해 지속적인 가치를 창출해야한다”며 “이를 위해 데이터 및 거버넌스와 리스크, 규정 등 조직의 AI 가치 창출이 더 절실해졌다”고 전했다.