여야 합의로 제정법인 AI기본법이 통과됐다. 기업과 정부는 환영하고 있지만 각계에서 우려를 제기하고 있다. 특히 AI로 인한 피해에 따른 ‘규제 방안’이 부족하다는 지적이 잇따른다.
지난 26일 국회 본회의를 통과한 AI기본법은 ‘산업 진흥’에 방점이 찍혀 있다. ‘AI산업’을 새롭게 규정하고 이에 따른 지원 방안 등을 규정하는 내용이 핵심이다. 구체적으로는 △AI 기술 도입·활용 지원 △AI 단지 지정·중소기업 특별지원·창업활성화 등 경제적 지원 △AI 윤리 원칙에 따른 정책 수립 △국가인공지능위원회 등 AI 관련 기구 구성 △위험한 AI 규정 등 규제절차 등을 규정한다.
유상임 과학기술정보통신부 장관은 법안 통과 후 “치열한 글로벌 경쟁 속에서 AI기본법 제정을 통해 기업의 불확실성을 해소하고, 민관의 대규모 투자를 촉진하는 등 우리나라가 명실상부하게 AI G3 강국으로 도약할 수 있는 중요한 이정표가 마련됐다”고 밝혔다. 법안이 ‘산업 중심’이라는 점이 드러나는 대목이다.
그동안 기업과 보수·경제언론 등은 빠른 입법을 압박했다. 지난 9월 국회 토론회에서 하정우 네이버 클라우드AI랩 연구소장은 “생성형AI가 생산성 향상에 가져올 효과는 적어도 2조6000억 달러(한화 3400조 규모)에 달할 것으로 예상된다”며 “(어떻게 대응하느냐에 따라) AI 종속국이 될지, 패권국이 될지 나뉠 것”이라고 했다. 보수언론과 경제신문들을 중심으로 ‘AI기본법’을 ‘민생법안’으로 분류하며 빠른 통과를 촉구하는 사설을 연달아 냈다.
논의 과정에서 규제 조항도 일정 부분 반영됐다. AI기본법은 사람의 생명·신체의 안전 및 기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 AI시스템을 ‘고영향 AI’로 규정해 규제한다. ‘고영향 AI’를 이용한 제품이나 서비스를 제공하는 사업자는 AI를 사용했다는 사실을 명확히 알려야 한다. 또한 시스템의 안전성과 신뢰성을 확보하기 위한 의무 등이 규정된다. ‘AI의 영향을 받는 자’ 개념을 신설해 이용자 등이 AI로 인한 문제에 신고 등 대응을 할 수 있게 했다.
‘고영향 AI’를 서비스하는 기업이 법을 위반한 것으로 의심되면 정통부 장관이 사업자에 자료제출 요구나 조사를 명령할 수 있다. 조사 결과 법 위반 사실이 드러나면 시정명령과 과태료 부과 등 조치를 할 수 있다.
당초 규제 자체를 하지 않는 ‘우선허용·사후규제 원칙’을 포함한 법안이 추진됐으나 국가인권위원회 등의 문제제기를 반영해 해당 조항이 빠졌다는 점에선 의미가 있다.
그러나 국회가 통과시킨 AI기본법을 유럽연합(EU)의 AI규제와 비교하면 규제 측면에서 차이가 크다. EU의 AI법은 ‘고위험 인공지능’ 외에 ‘금지 인공지능’을 별도로 규정하고 있다. ‘고영향 인공지능’에 대한 범위도 폭 넓고 책무 위반 사업자에 대한 처벌 규정도 강력하다.
EU의 AI법은 사람의 잠재의식 조작, 노인과 장애인 등의 취약성 악용, 정치적 의견 등 민감정보를 유추하는 생체인식 분류, 공공장소의 실시간원격 생체인식 감시, 예측 치안 등을 금지한다.
참여연대, 서울YMCA시민중계실, 언론개혁시민연대, 진보네트워크센터 등 시민사회단체들은 지난 27일 입장을 내고 “AI기본법이 AI의 위험성을 예방하고 통제하는데 과연 실효성이 있을지는 의문”이라며 “정부와 국회는 AI기본법의 문제점을 빠르게 보완하고, 안전과 인권에 기반한 AI 기술 개발이 이루어질 수 있도록 노력할 것을 촉구한다”고 했다. 이들 단체는 “특히 각 부처는 소관 분야별로 규제를 집행하는 특별법 제정을 통해 AI의 위험성을 최소화할 필요가 있다”고도 했다.
AI 기업의 산업적 활용에 무게를 두면서 창작자 보상 관련 규정이 정비되지 않은 점도 논란이다. 기업이 생성형AI의 학습 목적으로 뉴스 기사, 출판물 등을 무단으로 가져간다는 지적이 끊이지 않고 있다. AI 기업들은 AI 경쟁력을 위해 폭 넓은 활용이 필요하다는 입장이고 창작자들은 명확한 규정과 보상체계 마련 등을 요구하고 있다.
지난 26일 대한출판문화협회는 “AI의 기반이 되는 학술과 지식, 지식생산자와 창작자의 권리는 물론 학술, 지식의 지속적 재생산을 위한 토양을 마련하기 위한 고민과 방안은 어디에도 담겨 있지 않다”고 비판했다.
앞서 지난 16일 한국신문협회, 한국신문방송편집인협회, 한국기자협회, 한국온라인신문협회, 한국인터넷신문협회 등 언론단체들도 입장을 내고 “사업자가 AI 제품 및 서비스 개발을 위해 사용한 학습용 자료에 관한 기록을 수집·보관하고 공개하도록 하는 규정이 빠져있다”며 “생성형AI 사업자가 최대한 학습 데이터를 투명하게 밝히고 저작권자가 열람할 수 있도록 해야 한다”고 했다.
댓글0