“구글 트렌드 검색어 분석 자료에 따르면 지난해 한국은 ‘피싱’ ‘멀웨어(악성 소프트웨어)’ ‘랜섬웨어’ 키워드를 가장 많이 검색했습니다. ‘사기’(fraud)를 가장 많이 검색한 상위 10개국에도 포함됐습니다. 인공지능(AI)은 방어자의 이점을 확보할 수 있는 기회인데, AI 기술 연구로 방어 역량을 강화하고 보안 기술 및 교육 투자를 병행할 수 있습니다.”
아만다 워커(Amanda Walker) 구글 개인정보보호 및 보안 연구 개발 총괄은 18일 서울 강남 JW메리어트 호텔에서 진행된 ‘세이퍼 위드 구글’(Safer with Google) 기자간담회에서 이같이 말했다. 이번 행사는 올해 3회차로 AI 기술 활용 분야에서 보안 및 정보보호 책임의 중요성을 환기하고, AI 기술 적용 시 발생할 수 있는 보안 및 정보보호 문제에 대한 실질적인 대응 방안과 교육을 제공하기 위해 마련됐다.
워커 총괄은 “지금이 AI 발전에 있어 획기적인 변화의 시기”라며 “사이버 보안을 혁신하고 보안 수행 방식을 바꾸고 있다”고 했다. 그러면서 “공격은 단 한 번의 성공으로 충분하지만, 방어의 경우 모든 순간이 중요하며 끊임없는 경계와 완벽함을 요구한다는 점이 바로 ‘방어자의 딜레마’”라며 “AI 기술은 이러한 딜레마를 해결하고 오히려 ‘방어자의 이점’을 확보할 수 있는 기회를 제공한다”고 말했다.
또 “AI 기술 연구로 방어 역량을 강화하고 보안 기술 및 교육 투자를 병행함으로써 더욱 안전하며 책임감 있는 AI 활용 환경을 조성할 수 있을 것”이라고 덧붙였다.
그는 협력과 공유의 중요성을 강조하며 ‘AI 기반 코드 안전(AI powered code safety)’을 주제로 주요 연구 프로젝트들을 공유했다. 그는 “어떤 콘텐츠를 인간이 만든 것인지 AI가 만든 것인지에 따라 대처 방안이 달라져야 하는데 이를 파악하는게 쉬운 일은 아니다”라며 “AI가 만든 패턴을 알게 되면 피싱을 다양한 방식으로 탐지할 수 있게 될 것이다. 어떤 것이 진짜인지 찾아내는 게 중요하다”고 했다.
구글은 2018년 ‘AI 원칙’을 발표하며 AI 개발과 활용에 대한 명확한 기준을 제시하고, 개발, 테스트, 제품 적용 전 과정에서 이를 준수해 왔다는 게 워커 총괄의 설명이다. 특히 AI 기술을 제품에 적용할 때는 이용자 보호를 최우선으로 고려하며 ‘책임감 있는 AI’를 실천하고 있다.
AI 기술을 접목한 지메일은 매일 전 세계 1억개의 피싱 메일을 차단하고 있으며 구글 크롬은 매일 50억대의 기기를 보호하고 있다. 워커 총괄은 “구글 위협 인텔리전스가 랜섬웨어 ‘워너크라이(WannaCry)’ 코드 전체를 34초 만에 분석해 킬 스위치를 식별하기도 했다”고 전했다. 제미나이 1.5 프로는 최대 100만개 토큰을 지원하는데, 이를 기반으로 멀웨어 리버스 엔지니어링(소프트웨어 내부 구조, 작동 원리를 파악해 취약점을 알아내는 과정) 등의 작업을 효율적으로 수행한다는 것이다.
구글은 기술 개발뿐 아니라 다양한 AI 관련 포럼에 참석해 책임감 있는 AI를 실현하기 위한 노력을 이어가고 있다. 지난 5월 한국에서 열린 ‘AI 서울 정상회의’ 및 ‘AI글로벌 포럼’에 주도적으로 참여했다. 또 지난 한해 동안 4000여명의 국내 개발자, 기업체 직원, 교사들을 대상으로 사이버보안 및 AI 리터러시 교육을 실시하는 등 책임감 있는 AI를 실현하기 위한 노력을 지속적으로 이어가고 있다.
AI 기술을 적극 활용해 사이버 공격을 막아야 하는 시점에서 규제를 도입하는 것은 신중해야 한다는 의견도 나왔다. ‘AI와 최신 온라인 위협 트렌드 소개’라는 주제로 발표한 곽진 아주대 사이버보안학과 교수는 “AI 기술이 발전하는 것은 좋지만 각 산업 분야의 특성을 반영해 발전할 때 훨씬 가치가 있다”고 말했다. 그러면서 “규제가 고도화되고 제한하는 부분이 많아질수록 방어자는 AI 기술을 적극적으로 활용해서 보안 기술을 발전시키는 게 공격자에 비해 상대적으로 어려워질 수 있다”며 “AI를 어떻게 사용할 것인지 고민이 필요하다”라고 했다.
김경훈 구글코리아 사장은 “구글은 책임감 있는 AI 개발을 위해 최선을 다하고 있으며, 안전하고 지속 가능한 인터넷 환경 구축을 위해서는 AI 생태계 구성원 모두의 협력이 필수적이다”라고 했다. 그러면서 “구글은 이번 행사 외에도 ‘AI 스타트업 스쿨 위드 서울’ 프로그램, ‘구글닷오알지(Google.org)’의 사이버보안 교육 프로그램 등 다양한 활동을 통해 사이버 위협 해소에 적극적으로 나서고 있다”며 “앞으로도 구글은 AI를 통해 모두에게 더 나은 미래를 만들어가기 위해 최선을 다하겠다”고 밝혔다.
댓글0