IBM “딥페이크 등 AI 기술 오남용, 법적 책임 물어야”

(서울=연합뉴스) 오규진 기자 = 딥페이크 등 인공지능(AI) 기술의 악용·남용 우려가 커지자 이들 행위를 한 유포자와 이를 방조한 플랫폼에 법적 책임을 물어야 한다는 주장이 빅테크 고위 임원으로부터 나왔다.

크리스토퍼 패딜라 IBM 본사 대정부 및 규제 담당 부사장은 20일 서울 영등포구 여의도 국제금융센터(IFC)에서 연합뉴스 등 국내 매체와 만나 “규제가 인공지능 혁신의 불씨를 꺼뜨리는 방향으로 이어져서는 안 된다”면서도 이같이 밝혔다.

그는 “(풍자 등으로) 정치적인 의견을 제시하는 것과 평판에 피해를 주기 위한 허위·조작정보를 퍼뜨리는 것은 분명히 다르다”면서 “역사적으로 새로운 기술이 등장하면 새로운 법규가 등장해왔고, 인공지능도 예외가 될 수 없다”고 설명했다.

이어 “많은 국가에서 (딥페이크를 제작하는) 범죄자들에게 책임을 묻는 데 어려움이 있는 것이 사실”이라면서도 “플랫폼들은 빨리 대응하지 못했을 때 소송을 우려해 법제화에 반대하지만, IBM은 법적 책임이 따라야 한다는 입장”이라고 했다.

기업·기관이 인공지능을 도입하기 위한 변곡점을 넘겼다는 진단도 내렸다.

동석한 폴 버튼 IBM 아시아·태평양 지역 총괄 사장은 “한국 기업 중에 인공지능 도입이 필요 없다고 답한 곳은 6％에 불과하다”면서 “인공지능을 적용하고 책임 있게 활용하는 사례가 더 나오면 도입 속도는 올라갈 것”이라고 예측했다.

그는 “인공지능 프로젝트가 실패하는 이유는 목표가 불분명하고, 판단 기준을 정의하지 않고, 잘못된 도구를 도입하는 경우”라면서 “적은 위험 부담으로 고객이 원하는 가치를 빨리 실현할 수 있도록 돕는 것이 IBM의 장점”이라고 소개했다.

특히 지난해 9월 오픈소스 기계학습 커뮤니티 ‘허깅페이스’ 등에 공개한 인공지능 모델 ‘그래나이트’를 언급하면서 개발 과정에서 ‘개방성’의 가치를 강조했다.

버튼 사장은 “연구자들이 논문을 제출할 때 동료 평가를 거쳐 최상의 결과물을 내지 않느냐”고 반문하며 “(허깅페이스 등에서) 수천, 수만 명이 모델을 사용하고 문제가 발생하면 피드백을 주는 구조가 건전하다고 본다”고 말했다.

그는 “어떤 데이터가 사용됐는지, 저작권 침해 소지가 있는지 아는 것이 ‘기업 평판’에 있어서도 굉장히 중요하다고 생각한다”면서 “제조사가 이를 투명하게 제시하지 못한다면 사서 사용하는 기업 입장에서 굉장한 부담을 안게 된다”고 꼬집었다.

이어 “인공지능 모델은 (문화적 요소에 따라) 편향을 나타낼 수 있다”면서 “한국·일본의 개발자들이 고유 모델을 선보이는 것은 (생태계 다양성을 확보하는 측면에서) 바람직하다. 미국 서부 지역에 있는 기업 2∼3곳이 인공지능을 독점하게 돼서는 안 된다”고 말했다.

인공지능 패권 전쟁이 인류에 미칠 영향에 대해 버튼 사장은 “정부는 자국과 자국민의 이해관계에 따라 규제를 기술 개발에 활용할 수 있다”면서 인간복제와 크리스퍼 유전자 가위의 사례를 들었다.

그는 “우리의 정책은 기술의 부적절한 사용을 규제하는 것이지, 혁신을 억누르는 것이 아니”라면서 “국제 기구 등에서 각국 모여 열린 논의를 하고 공감대를 만들어내는 것이 중요하다”고 말했다.

acdc@yna.co.kr