구글, 아마존, 마이크로소프트(MS), 삼성전자 등 세계 각국의 16개 주요 기술 기업이 인공지능(AI) 안전한 개발을 약속했다.
영국 과학혁신기술부는 21일(현지시간) 성명을 통해 “영국과 한국이 블레츨리 선언을 기반으로 16개 글로벌 AI 기술 기업의 안전성 결과에 대한 약속을 확보했다”고 밝혔다.
그러면서 “기업들은 위험이 충분히 완화될 수 없다면 AI 모델을 개발하거나 사용하지 않기로 약속했다”며 “합의에는 책임 있는 거버넌스 구조, 프런티어 AI 안전과 관련한 투명성을 보장하는 약속이 담겼다”고 덧붙였다.
이같은 발표는 한국과 영국이 이날부터 이틀간 ‘AI 서울 정상회의’를 개최하는 가운데 나왔다. 지난해 11월 영국 블레츨리 파크에서 처음 열린 ‘AI 안전성 정상회의’에 이어 열리는 행사다.
당시 이 회의에서 세계 28개국과 유럽연합(EU)이 AI의 위험성에 대한 이해를 넓히고 국가간 협력을 다짐하는 ‘블레츨리 선언’이 채택됐다. 특히 고성능 첨단 AI인 프런티어 AI가 잠재적으로 파국적 피해를 초래할 수도 있다는 경고를 담았다.
이날 ‘프런티어 AI 안전 약속’에 이름을 올린 기업은 아마존과 앤트로픽, 코히어, 구글·딥마인드, G42, IBM, 인플렉션AI, 메타, MS, 미스트랄AI, 네이버, 오픈AI, 삼성전자, 테크놀로지 이노베이션 인스티튜트(TII), xAI, 지푸AI다.
이 가운데 TII는 아랍에미리트(UAE)의 기술 연구기관이고 지푸AI는 중국 알리바바, 텐센트, 샤오미 등의 지원을 받는 중국 기업이다.
이에 대해 영국 정부는 북미와 아시아, 유럽, 중동에 걸쳐 기업들이 AI 개발과 관련한 안전성에 대해 사상 처음으로 약속한 것이라고 강조했다.
리시 수낵 총리는 “전 세계 각국에서 이렇게 많은 AI 선두 기업이 AI 안전성을 위한 단일 약속에 합의한 것은 세계 최초”라며 “혁신적인 기술의 혜택을 열어줄 글로벌 AI 안전 기준의 선례를 세우는 것”이라고 말했다.
아울러 “영국의 블레츨리 정상회의는 대성공이었고 우리는 한국과 함께 AI 서울 정상회의에서 구체적인 진전을 이뤄내며 성공을 이어가고 있다”고 덧붙였다.
댓글0