[新테크노크라시④] AI·빅테크가 이끄는 미래, 잿빛 아닌 장미빛 되려면

투데이신문 2024.10.03 조회수  

2

0 공유

디지털 사회가 또 한 번 진화했다. 기존 정보통신 사회에서 인공지능 기술 등의 등장으로 새 시대를 맞이하면서 다양한 산업군에서 변화를 맞이하고 있다. 산업혁명 시대를 겪었던 사람들은 본인들이 역사에 남을 대변혁의 시대 속에 존재했다는 사실을 인지하지 못한 것처럼, 이 순간을 살아가는 우리 역시 지금의 변화가 얼마나 빠르게 이뤄지고 있는지 체감하기란 어려운 일이다.

「新테크노크라시」는 이제껏 경험해 보지 못한 속도로 빠르게 발전하고 있는 세상 속에서 우리가 알고 있었지만 인지하지 못하고 있던 새로운 사회에 관해 탐구한다. 기술 문명이 필연적으로 정착된 사회에서의 영향을 고찰하고, 기술 발전 없이는 삶이 불편해질 정도로 의존하게 되는 사회에서 나타나는 긍정적, 부정적 영향을 검토한다.

이 기획은 기존에 정의돼 있는 테크노크라시의 개념과 역사, 그리고 이를 둘러싼 다양한 논쟁을 기반으로 우리 사회에서 나타나는 새로운 개념의 테크노크라시를 정의한다. 또 최근 기술 발전으로 나타나는 크고 작은 영향과 문제점을 살펴보며 새롭게 정의된 테크노크라시가 실제로 어떻게 나타나는지 점검한다. 나아가 우리 사회에 어떤 영향을 미칠 수 있을지 다양한 견해를 제공하고, 향후 어떤 방향으로 나아가야 할지에 대해 논의해 본다.

은 新테크노크라시 기획 관련 기술 의존적 사회의 미래 및 과학 기술 발전으로 인한 권력 지배구조 재편을 주제로 좌담회를 진행했다. 왼쪽부터 정보인권연구소 장여경 상임이사, 아시아미래인재연구소 최윤식 소장, 책 ‘AI예감’ 저자 베가북스 권기대 대표, IT커뮤니케이션연구소 김덕진 소장 ⓒ투데이신문
” src=”https://contents-cdn.viewus.co.kr/image/2024/10/CP-2022-0036/image-0138ec96-a47e-4273-a132-2c1f323d5fe0.jpeg”>

【투데이신문 최주원 기자】 “인공지능(AI) 기술 발전은 인류가 이제껏 경험해 보지 못한 속도로 달려가고 있다. 이 기술을 차지하는 자가 모든 것을 가져가는 승자 독식 게임이 이미 펼쳐지고 있다” (아시아미래인재연구소 최윤식 소장)

기술 패권 경쟁이 우리가 모르는 새로운 권력구조로 재편되고 있다는 사실을 체감하고 있는가. 기존의 테크노크라트(Technocrat)가 통상적인 정책을 결정하는 과학기술자에 불과했다면, 디지털 시대에서 플랫폼과 데이터를 지배하는 신테크노크라트(New Technocrat)는 대중들이 인지하지 못하는 영역에서 세상을 쥐락펴락하고 있다.

그들은 시민들을 검색엔진 및 SNS 플랫폼을 일상생활에서 떼려야 뗄 수 없는 기술 의존적으로 만들어 ‘테크노디펜덴시아(Technodependencia)’ 시대를 도래하게 만들었다. 테크노디펜덴시아는 ‘기술(Technology)’과 ‘의존(Dependencia)’의 합성어로, 사람들이 기술에 맹목적으로 의존하게 되는 사회를 의미하며 신테크노크라트가 유도해 낸 사회를 일컫기도 한다.

빅테크 기업의 등장으로 새로운 권력구조의 실체가 점점 드러나면서 상생과 선의의 경쟁이 가능한 질서를 유지하기 위해서 국제적 수준의 정부·기관의 공조 및 협력이 필요하다는 목소리가 높아졌다. 이에 반응하듯 신테크노크라트 사이에서는 ‘AI에 대한 규제가 필요하다’는 측과 ‘지나친 규제는 오히려 독이 된다’는 측의 주장이 팽팽하게 엇갈리고 있다.

하지만 규제 필요성을 주장하는 측도 이미 학습 데이터가 충분히 누적돼 있어 윤리적 문제를 명분으로 후발 주자들의 발목을 잡아 독점적인 지위를 확보하기 위한 일종의 ‘사다리 걷어차기’일 가능성이 있다는 분석도 나온다.

도서 「데이터 그랩(Data Grab)」의 저자 울리세스 알리 메히아스(Ulises Ali Mejias)와 닉 콜드리(Nick Couldry)는 이와 같은 세계 정세가 이미 ‘데이터 식민주의’로 들어섰다고 주장한다. 데이터 식민주의는 데이터 수집 및 활용과 관련한 새로운 형태의 착취와 권력의 불균형을 설명하는 용어로, 이들은 기존 식민주의와 유사한 방식으로 특정 국가나 기업이 다른 집단의 데이터에 접근하고 이를 수집·활용함으로써 새로운 형태의 지배구조를 만들어 내고 있다고 지적한다.

방대하고도 복잡한 이 모든 이야기는 비단 미국, 유럽연합 등 디지털 선진국에만 해당하는 이야기는 아니다. 국내에서도 네이버나 카카오가 높은 기술 권위로 시장을 지배하고 있고, 국내에 상주한 글로벌 빅테크 및 플랫폼 기업들은 높은 수익을 내고 있음에도 불구하고 정당한 세금을 내지 않는다거나 높은 플랫폼 제공 비용 및 망 사용료 논란 등 논쟁이 오랫 동안 이어져 오고 있다.

그리고 이 이야기의 최전선에서 시민들에게 이를 고취시키는 사람들이 있다. 개인정보와 정보주체 권리 보호를 위해 활동하는 시민운동가인 정보인권연구소 장여경 상임이사, 아시아를 대표하는 미래학자로 활동하는 아시아미래인재연구소 최윤식 소장, 월스트리트 출신 경제전문가이자 책 의 저자인 베가북스 권기대 대표, 세종사이버대학교 컴퓨터AI공학과 교수이자 경희대학교 미디어커뮤니케이션대학원 겸임교수인 IT커뮤니케이션연구소 김덕진 소장이 그들이다.

「투데이신문」은 지난달 29일 장여경 상임이사, 최윤식 소장, 권기대 대표, 김덕진 소장 등 각 계층의 서로 다른 분야에서 활동하는 전문가 4인을 한자리에 모아 좌담회를 진행했다. 국내 기술 패권의 정세 및 흐름과 기술적 글로벌 위치는 어디에 있는지, 나아가 시민 의식 고취를 통해 어떤 미래 설계가 필요한지에 대해 심도깊은 논의를 나눴다.

■ 기술 트렌드와 규제 정책, 새로운 권력구조로 보는 미래

Q. 현대에서 나타나는 과학기술의 변화나 트렌드 중 어떤 이슈가 가장 주목받고 있다고 보는지, 그 이슈가 사람들에게 어떤 영향을 끼치고 있는지 진단해 본다면.

 장여경  90년대에 인터넷 서비스가 대중화되면서 다양한 전망이 나왔다. 특히 친노동 계층이 등장할 것이라는 예상이 지배적이었다. 30년이 지난 지금, 당시의 예측들이 얼마나 실현됐는지 비교해 보면 현재의 예측들이 얼마나 적합한지 판단하는 데 교훈이 될 수 있을 것 같다.

물론 과장된 예측들도 있었다. 예를 들어 새로운 테크노크라트들이 등장해 전문성과 자율성을 바탕으로 새로운 노동 풍토를 이끌 것이라는 전망이 많았지만, 저는 오히려 가장 비관적인 예측이 맞아떨어졌다고 생각한다. 플랫폼 노동의 확산으로 노동이 파편화돼 불안정해졌고, 빅테크 기업에 권력이 집중되면서 고용 효과는 미비했다. 이러한 현상은 AI와 같은 기술 발전으로 더욱 고착화될 위험이 있다고 본다.

최근 주목할 만한 과학 보고서가 있다. 지난 6월 AI 안전 정상회의에서 발표된 중간 보고서와 올해 말 프랑스에서 발표될 최종 보고서다. 이 보고서는 전 세계 AI 과학자 70여명이 합의한 내용을 담고 있는데, 빅테크의 권력 집중 문제가 포함된다. 이는 우리가 주목해야 할 중요한 사회 변화 중 하나라고 생각한다.

 최윤식  저는 법이나 노동과 관련된 측면을 주시하고 있다. 인류 역사를 돌이켜보면 시간이 지남에 따라 직업의 종류는 계속해서 다양해지지만, 직업의 안정성은 점점 줄어드는 경향이 있다. 예를 들어 농경 시대에는 평생 직업이 보장됐지만, 산업 시대를 거치면서 그 기간이 50~60년으로 줄어들었고 현대에 들어서면서 더 짧아졌다. 이 흐름은 앞으로도 계속될 것이고 그 결과로 파편적 노동이 증가할 것이다. 미래에는 어떤 직업도 더 이상 안정적이거나 거대하지 않을 것이며, 우리는 ‘퍼즐 노동의 시대’에 접어들 것으로 보인다. 퍼즐 노동이란 시기와 프로젝트에 따라 다양한 일의 형태를 퍼즐처럼 맞춰가며 노동을 형성하는 방식을 뜻한다.

또한 권력에 관해 이야기할 때, 권력을 누가 가질 것인가에 대해 세 가지 기준이 있다. 첫 번째는 태생적으로 권력을 가지는 사람들, 즉 왕족이나 귀족이다. 두 번째는 시대마다 가장 혁신적이고 파괴력 있는 기술을 개발하고 이를 잘 활용하는 사람들이다. 현재는 AI 기술을 가진 빅테크 기업들이 이 권력을 갖고 있다. 세 번째는 자본을 가진 사람들이다. 자본을 가진 사람들은 기술까지 보유하는 경우가 많아 권력이 집중되고 있다. 결국 현대 사회에서도 기술은 권력의 원천이다. 기술을 통해 다른 사람을 통제하고 지배할 수 있는 능력을 갖게 되며, AI를 포함한 미래의 기술들이 이런 권력 구조에 큰 변화를 불러올 것으로 보인다.

 권기대  AI라는 개념 자체는 70년이 넘는 역사를 가지고 있지만, 일반 대중과 소비자들이 AI를 실감하기 시작한 것은 비교적 최근의 일이다. 그전에는 AI가 연구실에 갇혀 있었고 연구자들 역시 기술이 초기 단계에 머물러 있던 시기였다. 하지만 최근 들어서 AI 기술이 실생활에 도입되고 대중들이 사용하게 되면서 그 영향이 체감되기 시작했다. 이는 과거 인터넷이 처음 등장했을 때와 매우 유사한 양상을 보인다.

일각에서는 AI가 거품에 불과하다는 의견도 있지만, 저는 아직 AI 기술에 대해 결론을 내리기엔 이르다고 본다. 좀 더 시간이 필요하다는 것이 제 생각이다. 과거 산업혁명이나 인터넷 혁명이 그러했듯이, 신기술이 등장할 때마다 권력구조나 사회적 변화는 일정한 패턴을 따른다. 이러한 변화는 논의와 연구, 그리고 실용적인 서비스의 개발을 통해 점진적으로 이뤄질 것이다.

연구자들 중에는 AI 기술 발전에 집중하는 이들이 있는가 하면, 윤리적 문제나 사회적 파장을 연구하는 이들도 있으며, 실제로 AI를 활용해 실용적인 서비스를 만들어 가는 사람들도 있다. 각 분야에서 이런 활동들이 꾸준히 이뤄진다면 결국에는 모두가 동의할 수 있는 합의점과 해결책을 찾게 될 것이다. 저는 이 기술에 대해 전반적으로 낙관적인 관점을 가지고 있다.

 김덕진  현재 AI 변화는 모바일 시대와 유사하면서도 다른 양상을 보인다. 모바일이 처음 등장했을 때, 사람들은 기존의 PC 기반 환경에서 모바일로의 전환에 놀라움을 느꼈다. 당시 IT는 신문에서 과학기술 면에나 나왔지만, 모바일이 보편화되면서 기술이 경제, 종합 등 모든 분야에 스며들었다. 기술이 우리의 일상에 깊숙이 들어와 사람들이 이를 의식하지 못해도 우리는 이미 그 기술 안에 살고 있다.

지금 AI도 이와 비슷한 과정을 거치고 있는데, 차이점이 있다. 과거에는 좋은 기획과 구조만 있으면 데이터가 없어도 새로운 비즈니스 모델을 창출할 수 있었다. 하지만 데이터가 쌓이고 그것으로 인한 비즈니스가 시작되면서, 데이터를 축적하지 못한 기업들은 새로운 시도를 해도 한계에 부딪힌다. 현재는 데이터를 보유한 기업들이 권력을 쥐고 있으며, 이는 곧 클라우드 서비스 사업자들에게 집중되고 있다.

또한 모바일 시대에는 한계비용 제로 법칙 덕분에 스타트업들이 초기 투자금을 쉽게 유치할 수 있었다. 하지만 생성형 AI는 이와 다르다. AI는 사용자가 증가할수록 비용이 계속 발생하기 때문에, 더 이상 많은 회원을 확보한다고 해서 비즈니스가 성공하기는 어렵다. 이는 투자 환경에도 영향을 미쳐 데이터와 인프라를 이미 보유한 기업들에 투자금이 집중되고 새로운 스타트업이 성공할 가능성은 줄어들고 있다.

결과적으로 지금의 AI 환경에서는 기존에 데이터를 축적한 기업들이 더 강력한 독점적 우위를 차지하게 될 것이다. 데이터가 권력이 되는 시대, 이미 그 권력을 가진 기업들은 규제와 법제화를 통해 더 큰 리더십을 유지하게 될 것이다.

은 ‘新테크노크라시’ 기획 관련 기술 의존적 사회의 미래 및 과학 기술 발전으로 인한 권력 지배구조 재편을 주제로 좌담회를 진행했다. 왼쪽부터 IT커뮤니케이션연구소 김덕진 소장, 책 ‘AI예감’ 저자 베가북스 권기대 대표, 아시아미래인재연구소 최윤식 소장, 정보인권연구소 장여경 상임이사 ⓒ투데이신문” src=”https://contents-cdn.viewus.co.kr/image/2024/10/CP-2022-0036/image-b02ab425-c9c2-4127-8cf8-ee0e255568f9.jpeg”>

Q. 기술 발달로 인해 혁신적인 편의를 누리고 있지만, 일자리 감소 문제 등으로 인간의 역할이 축소될 것이라는 우려도 제기되고 있다. 인간성과 기술의 균형을 유지하기 위한 방법은 무엇이라고 보는가.

 장여경  AI가 발전하면서 일자리 감소와 자율성 축소에 대한 우려가 커지고 있다. 특히 AI가 자동화된 의사결정에 사용되면서 개인의 자율성이 위축되는 문제가 매우 중대한 과제로 떠오르고 있다. 예를 들어, 콜센터 노동이 AI로 대체되면, 상담 내용이 데이터화 돼서 자동 응답 시스템으로 전환된다. 이때 노동자는 자신의 목소리로 인해 자신의 일자리를 잃는 상황이 벌어질 수 있다. 이는 데이터화의 가장 비극적인 측면 중 하나다.

또한 AI가 자동화된 의사결정을 점점 더 많이 수행하면서 정보 주체의 권리가 침해될 수 있는 위험도 있다. 이를 막기 위해 유럽연합은 2016년에 GDPR을 도입해 완전 자동화된 의사결정에서 정보 주체가 그러한 결정의 대상이 되지 않을 권리를 보장했다. 우리나라에서도 개인정보보호법에 이와 관련된 조항이 신설돼 지난 3월부터 시행 중이다. 하지만 이 권리는 예외가 많고 아직 충분히 보장되지 않고 있다.

더 나아가 2021년에 제정된 행정기본법에 따라 완전 자동화된 행정 처분이 가능해졌지만, 그에 대한 권리 행사 방법은 아직 모호한 상태다. 사회복지 AI가 부정 수급 가능성을 이유로 복지 혜택을 중단할 경우, 이에 대해 반박할 권리와 의견을 제시할 수 있어야 한다. 그러나 현행법은 이에 대한 명확한 보호장치가 부족하다. 따라서 자동화된 의사결정 과정에서 개인의 자율성을 보장하고, 이로 인해 불이익을 받지 않도록 제도적 개선이 필요하다. 이를 통해 일방적인 자동화된 결정으로부터 자율성을 박탈당하는 일을 방지할 수 있을 것이다.

 최윤식  AI 기술의 발전 속도가 너무 빨라서 현실적으로 이를 규제하거나 속도를 늦추는 것은 쉽지 않다고 본다. AI의 발전 속도는 다른 기술의 20년 치를 2년 만에 따라잡을 정도로 빠르며, 시장에 등장한 AI는 마치 초기 암호화폐 시장과 비슷한 양상을 보인다. 처음엔 사용자도 적고 크게 주목받지 않았지만, 갑자기 많은 사람이 몰려들면서 규제 시점을 놓친 것이다.

실제로 AI 기술도 처음에는 발전 속도가 느렸지만, 오픈AI의 등장과 함께 금방 대중화되면서 규제의 필요성이 강조됐다. 하지만 지금의 속도는 그 누구도 완전히 제어할 수 없으며, 글로벌 경쟁이 치열한 상황에서는 기술 발전을 멈출 수도 없다. 특히 중국이 AI 기술을 빠르게 발전시키고 있어 미국도 속도를 늦추기 어려운 상황이다.

그렇기에 기술 발전 속도를 조절하기보다는 그 속도를 따라잡을 수 있도록 사람들이 신속히 적응해야 한다. 정부는 교육과 인식 개선을 통해 사람들이 변화에 신속하게 대응할 수 있도록 도와야 한다. 개인정보 보호와 기술 격차 같은 문제가 발생할 수 있는데, 이를 해결하기 위해서는 사람들의 일하는 방식과 직업에 대한 변화를 촉진하는 것이 중요하다. 결국 기술 격차를 줄이고 문제를 해결하는 가장 현실적인 방법은 교육과 적응을 통해 사람들이 AI의 속도에 맞춰 나가는 것이다.

 권기대  기술의 발전이 가져다주는 편리함과 혜택은 분명 크다. 그러나 그 기반이 되는 데이터의 수집과 활용에 대해 더 신중하게 접근할 필요가 있다. AI가 발전하려면 대량의 데이터가 필수적이지만, 그 데이터를 어떻게 수집하고 관리하는지에 대한 명확한 기준이 부족한 상황이다.

예를 들어 AI 기술이 급격히 발전하면서 데이터를 무분별하게 수집해 학습시키고 결과물을 내놓았을 때 사람들의 반응은 뜨거웠다. 그러나 이후에는 그 데이터를 어떻게 얻었는지, 누구의 허락을 받았는지에 대한 윤리적 문제가 제기됐다. 따라서 저는 데이터 관리가 매우 중요하다고 생각한다.

물론 AI 기술이 발전함에 따라 개인이나 기업이 얻을 수 있는 혜택도 크다. 만약 누군가가 자신의 개인정보를 제공하고 그 대가로 기술의 혜택을 누리겠다고 동의한다면, 데이터는 수집될 수 있다. 그러나 앞으로는 AI가 생성한 데이터까지도 관리하는 체계가 필요할 것이며, 이에 대한 논의가 반드시 이뤄져야 한다.

 김덕진  저는 기술 발전의 속도 조절이 필요하다고 생각한다. 구글은 몇 년 전 AI가 사람 대신 전화를 걸어 스케줄을 잡고 예약까지 하는 ‘듀플렉스’ 기술을 선보였지만, 상용화하지 않았다. 그 이유는 이 기술이 도입되면 많은 직업이 사라질 것이라는 우려 때문이었다. 반면 오픈AI는 챗GPT를 스타트업 시장에 빠르게 공개했고, 그 영향력이 순식간에 커졌다. 기술자들은 윤리적인 고민을 하면서도 준비되지 않은 상태에서 속도감 있게 변하는 환경에 적응해야 했다.

따라서 기술 발전에 대한 속도 조절은 필수적이라고 본다. 하지만 전 세계적으로 동시에 기술 발전을 멈추는 것은 현실적으로 어렵다. 중국처럼 일부 국가가 기술 개발을 멈추지 않는다면, 우리는 뒤처질 수밖에 없기 때문이다. 그렇기에 지금 당장 필요한 것은 기술 사용에 대한 가이드라인을 마련하고, 이를 바탕으로 윤리적인 논의를 진행하는 것이다. 법적 규제가 아니더라도 사회적 합의가 필요하며, 이를 통해 기술과 인간의 균형을 맞춰야 한다고 생각한다.

Q. AI 기술 발전으로 인한 국가 간 기술 패권 경쟁 속에서, 전문 지식인과 과학기술자의 국가 정책적 역할이 중요하다는 ‘테크노크라시’의 필요성에 대해 어떻게 생각하는지. 나아가 이전과는 다른 새로운 권력구조로 재편될 가능성을 어떻게 진단하는지 궁금하다.

 장여경  AI는 과거와는 비교할 수 없을 정도로 큰 사회 변화를 일으킬 수 있는 잠재력을 지니고 있다. 이러한 상황에서 국가 간 기술 패권 경쟁이 심화되고 있고 특히 빅테크 기업들이 데이터를 착취하는 방식에 대한 우려가 커지고 있다. 최근 읽은 책 중 AI 산업이 환경, 노동력, 데이터 등을 어떻게 착취하는지를 다루는 내용이 있는데, 이러한 관찰이 미국에서 나왔다는 점이 매우 흥미로웠다. 그렇다면 한국 같은 국가에서는 어떤 전략을 취해야 할까.

일각에서는 AI 기술을 통해 세계적인 지배구조가 고착화될 수 있다고 보고, 이를 신제국주의라고 부르기도 한다. 한국처럼 기술력을 독자적으로 키우기 어려운 국가는 국가 차원의 지원이 필수적이다. 네이버를 비롯한 여러 기업들도 국가와 협력해 AI 경쟁력을 강화해야 한다는 주장을 내놓고 있다.

그러나 AI 경쟁력 확보는 단순히 기술 개발에 그치는 것이 아니라 사회 전반에 어떤 변화를 일으킬지, 노동자와 소비자에게 어떤 영향을 미칠지 고민해야 한다. AI가 도입됐을 때 환자, 대출 소비자, 노동자 등 다양한 사회 구성원에게 미치는 영향을 분석하고, 이를 보호할 장치를 마련하는 것이 중요하다. 우리 사회 역시 이러한 문제에 대해 더 많은 논의와 대안 마련이 필요하다고 생각한다. 현재 이 부분이 공론장에서 충분히 다뤄지지 않고 있다는 점에서 개선이 필요하다.

 최윤식  과학기술자들이 권력의 중심에 들어가는 일은 앞으로도 쉽지 않을 것이다. 현실적으로 권력구조는 정치인과 행정가들이 주도하며, 과학기술자들은 권력의 핵심에서 행정적 역할을 맡는 경우가 드물기 때문이다. 다만 기술자들은 권력 중심에 있지 않더라도 기술적 권력을 누릴 수 있다. 자본주의적 권력과 행정 권력이 양립하기 어려운 만큼, 과학기술자들은 정치적 권력 중심에 들어가기보다 외부에서 영향력을 유지하려고 할 것이다.

국가 간 기술 경쟁이 격화되는 시점에서는 과학기술자들의 발언권이 강해질 가능성이 있다. 특히 국가적 차원에서 AI 기술을 중요하게 여기며 대통령 직속 위원회를 설치하는 등의 움직임은 AI가 국가 경쟁력에 얼마나 중요한지를 보여준다. 그러나 AI는 독점 가능성이 높고, 승자 독식의 구조가 강하다는 점에서 기술을 선도하는 기업들이 계속해서 우위를 점할 가능성이 크다.

또한 AI는 기존 산업과 달리 한계비용 제로 법칙이 적용되지 않아 사용자 수가 증가할수록 비용이 발생하는 구조다. 이 때문에 새로운 AI 기업이 등장하기 어려운 상황에서, 국가가 주도적으로 글로벌 빅테크 기업들과 경쟁할 수 있는 인프라를 갖추는 것이 중요하다.

결국 AI 기술 발전은 국가 경쟁력뿐만 아니라 국민의 권리와 권익에도 큰 영향을 미친다. AI를 활용하는 사람과 그렇지 않은 사람 간의 격차가 벌어지면서, 사회적 불평등이 심화될 수 있다. 국가가 선제적으로 법적·제도적 대응을 통해 이러한 격차를 줄이고, 국민의 피해를 최소화하는 노력이 필요하다고 생각한다.

 권기대  AI의 광범위한 영향력을 고려할 때, AI를 규제하고 관리할 수 있는 조직은 당연히 필요하다. 이미 대통령 직속 AI 위원회가 설립된 것은 긍정적인 신호다. 그러나 중요한 것은 AI가 미치는 영향이 너무나 광범위하기 때문에 이를 다룰 수 있는 각 분야의 전문가들이 총체적으로 모여 정책을 수립할 준비가 돼 있느냐다.

AI 기술뿐만 아니라 AI로 인한 저작권 문제, 개인정보 보호, 데이터 관리 등 다양한 분야의 전문가들이 협력해야만 AI를 효과적으로 관리할 수 있다. 단순히 AI 기술 전문가와 비즈니스 전문가만으로는 충분하지 않다. 다양한 전문가들이 협력해 AI로 인한 부정적인 영향까지도 고려한 종합적인 정책이 필요하다.

또한 빅테크 기업들의 간섭과 로비 역시 큰 변수다. 이를 감안해 모든 영역을 통합적으로 관리할 수 있는 강력한 컨트롤 타워가 필요하다고 생각한다.

 김덕진  우리나라에서 과학자들이 직접 정치적 목소리를 내거나 권력의 중심에 서기는 쉽지 않다. AI와 관련된 정책을 논할 때 비즈니스적으로나 기술적으로 중요한 요소들을 이야기하는 것은 필요하지만, 과학기술자가 직접 참여하는 것은 현실적으로 어렵다. 실제로 R&D 예산이 삭감됐을 때조차 과학자들이 크게 목소리를 내지 못했듯이, 이들이 나선다고 해서 큰 변화가 생기기는 쉽지 않을 것이다.

그럼에도 불구하고 AI는 다양한 분야에서 큰 영향을 미치기 때문에 각 영역에서 어떤 영향을 미칠지 논의할 장이 마련돼야 한다. 이를 위해서는 AI 리터러시 교육이 광범위하게 확산돼야 한다. 사람들이 AI가 자기 삶에 어떤 영향을 미칠지 이해하고, 그에 맞는 대응 방안을 마련하는 것이 중요하다. 문화적으로도 이러한 논의가 사회 전반에서 이뤄져야 기술적인 변화에 대응할 수 있다.

또 빅테크의 영향력도 무시할 수 없다. 유럽의 사례를 보면 강력한 규제에도 불구하고 빅테크가 독점적인 위치를 차지하는 것을 막지 못하고 있다. 따라서 AI와 관련된 정책을 수립할 때 각 분야의 전문가와 사회적 합의가 반드시 필요하다. AI가 사회 전반에 미치는 영향을 최소화하고, 국가 경쟁력을 높이기 위해서는 이러한 종합적인 접근이 필수적이다.

■ 발전 VS 윤리, 디지털 시대의 인간의 역할은

Q. 생성형 AI가 개인정보를 수집하고 처리하는 과정에서 발생할 수 있는 정보인권 침해 문제에 대해 어떤 대응이 필요하다고 보는가.

 장여경  생성형 AI가 개인정보를 수집하고 처리하는 과정에서 정보인권 침해 문제가 발생할 수 있다는 점은 매우 중요한 이슈다. AI가 학습을 위해 사용하는 데이터는 종종 누군가의 저작물이거나 개인정보일 수 있으며, 이러한 데이터의 무분별한 사용은 저작권 및 정보인권 침해로 이어질 수 있다. 특히 AI가 수집한 정보 중에는 민감한 개인정보도 포함될 수 있는데 이는 정치적 신념, 사상, 건강 상태 등과 같은 매우 민감한 정보까지 학습에 사용될 수 있다는 점에서 문제가 크다.

최근 일러스트레이터, 작가 등 창작자들이 AI가 자신들의 작업물을 학습해 생성한 콘텐츠로 저작권 침해를 당했다고 주장하고 있다. 이러한 문제는 아직 명확한 법적 규범이 없기 때문에 일종의 회색 영역에 놓여 있는 실정이다. 개인정보 역시 이와 유사한 상황에 처해 있으며, AI가 수집한 정보가 민감한 경우 이를 어떻게 처리해야 할지에 대한 구체적인 방안이 필요하다.

이 문제를 해결하기 위해서는 먼저 생성형 AI가 정보를 수집하고 사용하는 과정에서 침해가 발생할 수 있다는 합의가 이뤄져야 한다. 이를 바탕으로 정책을 마련하고, 법적·윤리적 대안을 만들어 가는 과정이 필요하다. 최근 할리우드에서는 배우들이 자신을 모방한 AI 캐릭터에 대해 자신이 연기한 것에 준하는 대가를 요구하는 등의 새로운 협상 내용이 포함됐듯이, AI가 타인의 권리를 침해하지 않도록 보호 장치를 마련하는 것이 중요한 과제가 될 것이다.

Q. 과학기술을 이용해 사람의 정신적, 육체적 성질과 능력을 개선하려는 ‘트랜스휴머니즘(Transhumanism)’에 대한 최윤식 소장님의 견해가 있다면. 인간이 기술과 융합될 미래 사회에서 우리는 어떤 딜레마에 직면할 것이라고 보는지.

 최윤식  트랜스휴머니즘은 미래학자들 사이에서 중요한 주제로 논의되고 있으며, 인간의 정신적, 육체적 성질을 개선하려는 기술적 시도가 가능해지고 있다. 그러나 아직 트랜스휴먼의 실현은 먼 이야기다. 기술적으로는 많은 부분이 진보했지만, 이를 인간의 몸에 이식하고 대중적으로 받아들이는 데는 오랜 시간이 걸릴 것이다. 특히 생체 이식 기술은 수십 년간의 임상 실험을 거쳐 부작용을 철저히 검토해야 하므로, 인간의 종을 변화시킬 정도의 트랜스휴먼 사회로 진입하는 데는 수백 년이 걸릴 것으로 보인다.

다만 인간이 기술과 상호작용하면서 역량을 향상시키는 부분은 이미 현실에서 일어나고 있다. 예를 들어 AI는 인간 사고방식에 큰 변화를 불러올 수 있다. AI를 통해 인간은 자신의 능력을 확장하고, 새로운 방식으로 사고하며, 더 빠르고 효과적으로 문제를 해결할 수 있다. AI는 외장형 뇌와 같은 역할을 할 수 있으며, 인간은 이 기술을 통해 기존의 한계를 넘어서게 될 것이다.

윤리적 딜레마는 인간이 기술에 의존할수록 더욱 심각해질 수 있다. AI와 같은 기술이 우리의 사고와 행동에 깊숙이 관여하게 되면, 우리는 어디서 인간성과 기술의 경계를 그어야 하는지 고민하게 될 것이다. 예를 들어 AI가 우리의 기억을 대체하거나, 우리가 생각하는 방식 자체를 바꿔놓는다면, 인간 고유의 자율성과 정체성은 어떻게 유지될 수 있을지에 대한 질문이 생길 수 있다. 이러한 딜레마는 앞으로도 깊이 논의돼야 할 중요한 과제다.

Q. AI와 같은 신기술의 발전으로 기업 질서가 빅테크 중심으로 바뀌었던 것처럼 거시적인 경제 질서 역시 마찬가지의 변화를 가져올 수 있다고 보는지.

 권기대  빅테크 중심의 경제 질서가 앞으로 변화할 가능성에 대해 논하자면, 저는 큰 틀에서 봤을 때 그런 질서가 변할 가능성은 적다고 생각한다. AI 기술이든, 과거의 인터넷 기술이든, 혹은 더 이전의 산업혁명처럼 인류의 역사를 바꾼 획기적인 기술이 등장할 때는 그에 상응하는 막대한 자본, 시간, 인력 등의 투자가 필요하다. 이러한 투자를 감당할 수 있는 기업이나 조직은 많지 않으며, 그런 혁신을 이룬 주체들은 그 우위를 유지하려고 노력할 것이다. 따라서 거시적인 경제 질서에서 큰 변화가 일어날 가능성은 제한적이라고 판단한다.

다만 AI와 같은 파운데이션 모델을 개발하는 경쟁에는 뛰어들기 어려울지라도 이를 기반으로 실용적인 기술을 만들어 내는 분야에서는 여전히 기회가 많다. 특히 한국의 경우, 대규모 AI 연구개발에는 어려움이 있을지라도 이를 활용한 다양한 실용적인 응용 분야에서 경쟁력을 발휘할 수 있는 여지는 충분히 있다고 생각한다.

Q. 빅테크 기업을 논할 때 SNS와 같은 소셜미디어 기업의 역할을 빼놓을 수 없을 텐데, SNS 플랫폼들이 대중의 정보 소비 패턴을 어떻게 변화시키고 있다고 보는지. 이는 사회적 담론에 어떤 영향을 미치고 있다고 진단하는가.

 김덕진  소셜미디어 플랫폼들이 대중의 정보 소비 패턴에 미친 영향은 크게 두 가지로 볼 수 있다. 첫째, 기존의 미디어 권력 구조를 붕괴시키고 새로운 질서를 만들었다는 점이다. 누구나 콘텐츠를 만들고 공유할 수 있는 시대가 열리며 개인도 편집권을 행사할 수 있게 된 것처럼 보였지만 실상은 다르다. 개인의 편집권이 아니라, 알고리즘에 의해 콘텐츠가 결정되고 있다는 것이 문제다.

콘텐츠 크리에이터들은 자신이 원하는 것을 올리는 것 같지만, 실은 ‘구독’과 ‘좋아요’를 얻기 위한 알고리즘의 요구에 맞춘 콘텐츠를 제작한다. 그 결과 개인의 창의성과 표현이 제한되고, 인플루언서들은 경제적 이익을 우선시하는 구조로 편향될 수밖에 없다. 이러한 구조는 필터 버블을 형성하며 사람들이 자신이 좋아하는 정보만 소비하게 만든다. 예전에는 언론사가 중립적인 정보 제공을 시도했지만 지금은 소셜미디어가 사람들에게 자신이 원하는 정보만 제공함으로써 극단성을 키우고 있다.

둘째, 이러한 극단성이 사회적 담론에도 큰 영향을 미친다. 정치적 논쟁이 일어날 때 과거에는 다양한 의견이 맞부딪히며 토론할 수 있었지만, 현재는 소셜미디어가 토론의 장을 사라지게 만들고 있다. 이제는 유사한 생각을 가진 사람들끼리만 정보를 공유하고 확신을 강화하면서 사회의 양극화가 심화되고 있다. 예를 들어 트럼프 전 대통령을 비롯해 브라질과 같은 극단주의적 성향의 지도자들이 소셜미디어를 적극 활용해 지지자들에게만 메시지를 전달하는 방식이 대표적이다.

결국 소셜미디어는 그 자체로 사회적 논의를 활성화하거나 민주적인 담론을 형성하기보다는 돈을 벌기 위한 플랫폼으로 진화했다. 알고리즘은 사용자들의 관심을 최대한 오래 끌어내기 위해 작동하며, 그 결과 정보 소비의 편향성과 사회적 분열을 초래하고 있다. 이는 기술이 가치 중립적이라고 해도 그 기술을 어떻게 활용하느냐에 따라 사회에 미치는 영향이 매우 달라질 수 있음을 보여준다. 따라서 소셜미디어가 미치는 부작용에 대해 심도 있는 논의가 필요하며 이를 통해 더 나은 방향으로 기술을 사용할 수 있는 방법을 모색해야 할 때다.

■ 디지털 사회서 살아남기 위해 필요한 시민의식

Q. 디지털 사회 속에서 시민들이 갖춰야 할 가장 중요한 의식이나 태도는 무엇이라고 생각하는지. 정보화 시대의 책임감을 어떻게 정의하겠는가.

 장여경  디지털 사회에서 시민들이 갖춰야 할 중요한 의식은 단순한 기술 사용 능력을 넘어서 사회 기술 시스템에 대한 이해와 참여 능력을 키우는 것이다. AI 문제를 단순히 기술적인 측면에서만 볼 것이 아니라, 사회와 기술이 어떻게 연결되는지 파악하는 것이 중요하다.

시민들이 디지털 시대에서 자율성을 잃지 않기 위해서는 그들이 기술 환경에 직접 개입하고 권리를 행사할 수 있는 능력을 길러야 한다. 이를 위해서는 기존의 수동적인 사용자 교육이 아니라, 사회 기술 시스템에 대한 비판적 사고와 개입 능력을 키우는 리터러시 교육이 필요하다. 이는 단순히 기술을 사용하는 것을 넘어 자신이 영향을 받는 기술 환경 속에서 어떻게 자율성을 지키고 권리를 주장할 수 있을지를 배우는 것을 의미한다. 결국 시민들은 디지털 사회에서 자신이 기술과 사회에 어떻게 개입할 수 있을지를 배우고, 그 권리를 행사하는 역량을 키워야 하는 것이 가장 중요한 과제다.

 최윤식  디지털 사회에서 시민들이 갖춰야 할 가장 중요한 의식은 단순히 자신의 선호에 따라 정보를 선택하는 것이 아니라, 더 깊은 시민의식을 발휘하는 것이다. 저는 이것을 세 가지로 정의한다.

첫째는 감시 의식이다. 시민들은 국가 권력이나 빅테크 기업들을 감시하는 의식을 가져야 한다. 우리는 점점 자신이 좋아하는 것만 보고, 불편한 진실은 외면하는 경향이 강해졌다. 하지만 진정한 시민 의식은 권력과 시스템을 끊임없이 감시하는 데서 시작된다.

둘째는 객관성이다. 완벽할 수는 없지만 가능한 한 객관적인 시각을 유지하려고 노력해야 한다. 자신이 좋아하는 것만을 보는 것이 아니라 다양한 시각을 접하고 비판적으로 사고하는 것이 중요하다.

셋째는 균형감이다. 사회적 책임과 권리를 균형 있게 바라보는 것이 중요하다. 때로는 양보가 필요하고, 때로는 반드시 지켜야 할 원칙도 있다. 이러한 균형감을 통해 사회적 공존과 발전을 끌어낼 수 있다. 감시, 객관성, 균형감 이 세 가지가 바로 디지털 시대에서 시민 의식의 근본이라고 생각한다.

 권기대  디지털 사회에서 시민들이 갖춰야 할 가장 중요한 의식은 새로운 기술을 배우고 수용하려는 적극적인 태도다. 신기술을 처음 접하면 어렵고 힘들게 느껴질 수 있지만, AI와 같은 기술은 결과적으로 우리의 생산성을 높이고 다양한 혜택을 제공하는 도구다. 따라서 AI를 사용하는 그룹에 합류해 그 혜택을 누리려는 의식을 갖는 것이 중요하다.

AI를 제대로 활용하기 위해서는 학습이 필수적이며 이를 지원하기 위한 환경이 조성돼야 한다. 정부, 지자체, 기업 등은 시민들이 기술을 쉽게 배우고 사용할 수 있도록 교육과 기회를 제공하는 역할을 해야 한다. 이를 통해 정보화 시대의 책임을 다하며 기술 발전과 함께 사회의 생산성과 윤리적 인식 수준도 함께 향상될 수 있을 것이다.

• 서울시, 지방공무원 합격자 1387명 발표…여성 비율 절반 훌쩍
• 민주, ‘김건희 특검법’ 거부한 尹 향해 “국민이 대통령 거부하는 사태 올 것”
• 서울시의회 “고법 학생인권조례 항고심서 집행정지 인정 안 해”
• 한동훈의 ‘반격’…與 ‘한동훈 비방 사주’ 녹취 김대남 전 행정관 감찰 착수
• LH 공동주택용지 매각, 7월까지 5건 불과…전년비 1/10 수준

투데이신문

content@www.newsbell.co.kr

다른기사 보기

• AI
• 개인정보
• 경쟁
• 노동
• 데이터
• 데이터 식민주의
• 독점
• 불평등
• 빅테크
• 사회
• 신테크노크라트
• 인공지능
• 정보인권
• 트랜스휴머니즘
• 플랫폼