주요 메뉴 바로가기 (상단) 본문 컨텐츠 바로가기 주요 메뉴 바로가기 (하단)

[인터뷰] 김명주 AI안전연구소 초대 소장 “안전 확보 없이는 AI 개발비만 날려… 기업 돕는 ‘셰르파’ 역할 할 것”

조선비즈 조회수  

김명주 AI안전연구소 초대 소장./김민국 기자
김명주 AI안전연구소 초대 소장./김민국 기자

“3년 전 국내 시장에서 주목을 받았던 인공지능(AI) 챗봇 ‘이루다’가 혐오 발언 논란으로 3주 만에 서비스를 중단해야만 했다. 안전성 확보가 선행되지 않으면 수백억을 투자해 개발한 AI 서비스가 제대로 시작조차 못할 수 있다는 의미다. 산악인들이 무사히 에베레스트를 오를 수 있게 돕는 안내인 ‘셰르파’처럼, AI안전연구소(AISI)도 국내 기업들이 무사히 서비스를 내고 해외 진출까지 할 수 있도록 돕고자 한다.”

김명주 AI안전연구소(AISI) 초대 소장은 지난 28일 경기 성남시 판교 글로벌 R&D 센터에서 조선비즈와 만나 이렇게 말했다. 한국전자통신연구원(ETRI) 산하기관인 AISI는 국내·외 AI 위험을 미리 찾고 해결방안을 마련하기 위해 윤석열 대통령이 직접 설립을 추진한 기관이다. AI 위험은 사람의 얼굴·음성을 실제처럼 조작하는 ‘딥페이크’나 관련 기술을 활용해 적대국을 대상으로 행하는 사이버 공격, 신기술로 인한 사회적 혼란 등 전 영역에 걸친 부작용을 의미한다.

김 소장은 “최근 우크라이나 전쟁에서 AI가 탑재된 드론이 자의적인 판단 하에 적을 사살하고 있다는 소식이 있었다”며 “AI에 대한 안전성을 미리 확보해 두지 않으면, 사람에게 직접적으로 위해를 가할 수도 있다는 의미”라고 설명했다. 그는 이어 “AISI는 AI와 관련해 이미 드러난 위험과 드러나지 않은 잠재적 위험에 대한 모든 대비를 하는 기관”이라고 소개했다.

AISI의 사업부서는 기술, 정책, 평가 분야로 나뉜다. 정보통신기획평가원(IITP), ETRI 파견 직원을 포함한 13명의 구성원이 각 사업부에 고루 흩어져 있다. 기술 부서는 AI 콘텐츠에 대한 워터마크 삽입 등 안전성 확보를 위한 기술 개발을 맡는다. 정책 부서는 AI 안전 확보를 위해 필요한 정책을 상급 기관인 ETRI에 제안하는 역할을 담당한다. 평가 부서는 특정 AI 서비스가 안전한 지 판단할 수 있는 기준을 마련하는 곳이다. AISI는 ETRI로부터 총 120억원의 예산을 받아 80억원은 기술 개발, 40억원은 AI 안전성 평가 기준 설립, 신규 인원 채용 등에 사용할 계획이다. AISI는 내년 말까지 직원을 30명까지 늘린다는 계획이다.

김 소장은 AI가 사람에 대해 차별적인 성향을 가지고 있는지, 사람에게 위해가 갈 수 있는 정보를 학습하는지 등의 여부를 확인할 수 있는 안전성 기준 마련을 서두른다는 입장이다. 현재 김 소장은 전국 지자체와 IT 기업에 AI 안전성 평가에 대한 의뢰를 받았고, 기준이 마련되는 대로 이를 진행할 계획이다.

김 소장은 “내년에 가장 먼저 시작할 최우선 과제는 AI 안전성에 대한 평가 기준 마련”이라며 “기준을 마련한 뒤 기업들이 출시하는 관련 서비스에 대한 안전성 평가를 진행할 예정”이라고 말했다. 그는 “AI 챗봇은 수천억개의 데이터를 학습하는데, 이 과정에서 사람이 가지고 있는 성차별, 학력 차별 등 부정적인 성향이 녹아들 수 있다”며 “만일 이 같은 부분을 개선하지 못한다면 AI 안전성을 엄격하게 따지는 유럽연합(EU) 등 글로벌 주요 시장에 진출이 어려워진다”고 설명했다.

지난 27일 경기 성남시 판교글로벌R&D센터에서 열린 AI안전연구소 개소식에서 김명주 소장이 발언하고 있다./연합뉴스
지난 27일 경기 성남시 판교글로벌R&D센터에서 열린 AI안전연구소 개소식에서 김명주 소장이 발언하고 있다./연합뉴스

현재 전 세계에서 AI 안전성 기준 마련에 대한 주도권을 잡기 위해 국가 간 경쟁이 치열하게 벌어지고 있다. 지난해 영국을 시작으로 미국, 싱가포르, 일본, 한국, 케냐 등 10개국에서 AI 안전연구소를 설립했다. 현재 10개국은 국제 AI안전연구소 네트워크를 함께 조직해 글로벌 규모의 AI 부작용에 대한 대비에 나섰다. 현재 각 연구소가 자국 기업에 대한 AI 서비스의 안전성 평가를 맡아 진행하는 방안이 논의되고 있다.

김 소장은 “AI 안전성 기준에 대한 주도권을 가져오기 위해 국가 간 보이지 않는 기싸움이 뜨겁다는 것을 회의 현장에서 느꼈다”라며 “네트워크 영향력 강화를 위해 가입국 기준을 강화하자는 목소리도 내부에서 나오고 있어, 한국도 AI안전연구소 없이는 글로벌 경쟁에 나서기 어려운 상황이었다”고 설명했다.

김 소장은 서울대에서 컴퓨터공학 박사를 받은 뒤 1995년부터 서울여대 정보보호학부 교수로 재직했다. 김 소장은 바른AI연구센터장, 국제AI윤리협회장, AI윤리정책포럼 위원장 등을 맡으며 안전하고 책임있는 AI 개발·활용 확산을 위해 노력해 왔다. 지난해부터 OECD GPAI(Global Partnership on AI) 엑스퍼트 멤버로 활동하며, 지속 가능한 AI 발전을 위한 국제사회 논의에도 참여하고 있다. 다음은 김 소장과의 일문일답.

─AISI에 대해 소개해달라. ‘AI 안전’이라는 개념이 뭔지.

“AI 위험은 딥페이크를 비롯한 위조 기술이나 국가 간 사이버 공격, 신기술로 인해 벌어지는 사회적 갈등·혼란, 환경오염 등 부작용을 의미한다. AI 안전은 이 같은 위험 요소가 없는 상태를 의미한다. 국내 AI 기업이 서비스를 만들 때 어떤 위험 요소가 포함돼 있는지 스스로 파악하지 못할 수 있다. AISI는 AI 서비스 개발 전·후단계에서 얼마나 안전한지 인증할 수 있는 가이드라인을 기업에 제시해주는 역할을 한다.”

김명주 AISI 초대 소장이 지난달 28일 경기 성남시 판교 글로벌 R&D센터에서 조선비즈와 인터뷰를 하고 있다./김민국 기자
김명주 AISI 초대 소장이 지난달 28일 경기 성남시 판교 글로벌 R&D센터에서 조선비즈와 인터뷰를 하고 있다./김민국 기자

─가장 먼저 시작할 프로젝트는 뭔지.

“국내에서 쓰일 AI 안전에 대한 가이드라인 마련에 착수할 예정이다. 아직 기준 마련을 진행하고 있는 상황인데, 벌써 지자체와 IT 기업에서 안전성 평가에 대한 문의가 들어오고 있다. AI 서비스가 안전성을 확보해야 EU 같이 규제가 강한 시장에서도 무리 없이 활동할 수 있기 때문이다. 국내 기업들의 원활한 AI 서비스 운영을 돕기 위해 안전성에 대한 범위를 정확히 확립할 계획이다. 추후 기준에 따라 기업에 시정 제안을 하고, 시정이 이뤄지지 않는다면 과학기술정보통신부 등 상위 기관에 보고할 방침이다.”

─AI 안전이 왜 중요한가.

“2021년 AI 챗봇 이루다가 국내에 출시됐다. 업계의 관심을 받으며 이용자가 크게 늘었지만, 혐오 발언 논란으로 ‘3주 천하’로 끝났다. AI 안전성이 확보되지 않으면 수백억을 써서 개발한 AI 서비스를 시작도 못 해볼 수 있다는 의미다. AI 서비스에 있어서 윤리에 관한 문제는 단순히 부속품이 아니라 결정적인 역할을 하는 요소다. 치열한 경쟁을 하고 있는 국내 기업들 입장에서 AI 안전성을 확보하는 과정이 어렵고 힘들 수는 있지만, 장기적인 성장을 위해서는 반드시 챙겨야 한다.”

─AI 안전성 확보 과정이 기업 활동에 지장을 줄 수도 있는데.

“AISI는 규제 기관이 아니라 AI 안전성 확보 측면에서 기업을 돕는 지원 기관 성격이 더 강하다. AI 안전성 확보가 되지 않으면 세계 시장으로 판로를 넓힐 수가 없는 만큼, 반드시 대책을 마련해야 한다. 이때 기업이 AISI의 도움을 받으면 직접 비용을 들여 찾아보지 않더라도, 해외 시장 진출을 가로막을 수 있는 잠재적인 요소를 미리 제거할 수 있다. AISI와 잘 협력하면 오히려 경영 활동을 더 원활하게 할 수 있다고 본다.”

─AI 안전성 연구에 뛰어들게 된 계기가 궁금하다.

“서울여대 컴퓨터학과 교수로 재직할 당시 서울지방검찰청 특수 3부에서 컴퓨터 범죄에 대한 자문 활동을 했다. 그때 온라인을 통한 범죄가 기하급수적으로 늘 것이라고 예상하고, 총장에게 요청해 정보보호학과를 개설한 뒤 30년 가까이 연구해 왔다. 이제 AISI 소장으로서 AI 안전에 대한 범위를 정의하는 일에 힘 쓰고자 한다.”

조선비즈
content@newsbell.co.kr

댓글0

300

댓글0

[차·테크] 랭킹 뉴스

  • “우리나라 아빠들이 탐낸다”.. 팰리세이드도 울고 갈 대형 SUV, 페이스리프트 마쳤다
  • [시승기] 단 2분의 시간이 만든 특별한 만족감 - 볼보 XC60 윈터 에디션
  • 설날까지 일주일…네카오 “풍성한 혜택 드려요”
  • 현대차·기아 골라 훔치는 ‘기아 보이즈’, 여전히 기승
  • 구몬학습, ‘초등 대상 학습전략’ 온라인 콘서트 진행 외 [주간 에듀테크]
  • 아이지넷, 공모가 상단 7000원 확정…내달 4일 상장

[차·테크] 공감 뉴스

  • ‘심장아, 나대지 마’ .. 포르쉐 최신 모델 공개에 절로 나오는 ‘감탄’
  • “세계가 놀란 K-디자인 “… 이런 성과는 처음, 현대·기아 미국서 ‘인정’
  • 비니시우스·벨링엄·로드리·반다이크 등...EA SPORTS FCTM 25 올해의 팀
  • 현대차그룹 2024 굿디자인 어워드 대거 수상, '자동차부터 로봇까지'
  • 아기자기하고 귀여운 던파의 맛... 강남 핫 플레이스 등극한 '스노우메이지 팝업'
  • “안테나 개수·렌즈 두께 줄인다”… 삼성·애플, 스마트폰 슬림화 기술 공개

당신을 위한 인기글

  • “하이브리드 없으면 망한다” 현대·기아, 친환경차 엄청나게 팔았다 발표!
  • “기아 EV6 긴장타나” 폭스바겐, 전기차 비밀병기 2대나 내보낸다!
  • “최강야구 음주운전 하차 장원삼” 복귀 암시에 억대 포르쉐 카이엔 화제
  • “청년한테 보조금 퍼준다!” 생애 첫 전기차 구매시 800만원 지원
  • “여성 운전자는 필수 차량” KGM 티볼리, 벌써 두자릿수 나이?
  • “스포티지 팔고 이거 살까?” 4천만 원대로 싸진 신형 기아차 근황
  • “정부도 안타까웠나” 아이오닉9·EV9, 가격 지원 더 받을까?
  • “오늘 계약하면 내년 출고” 신형 팰리세이드 벌써 물량 소진, 인기 이유는?

함께 보면 좋은 뉴스

  • 1
    래시포드, 긴급 성명 발표했다…충격적인 사건 당사자와 친분설에 '화들짝'→레퍼와의 연관설 극구부인→"알지도 못한다"

    스포츠 

  • 2
    "1번 타자 오타니, 전형적이지 않아" ML 336홈런 강타자 주장 나왔다, 어떤 타선에 어울릴까

    스포츠 

  • 3
    엔드릭, 연장전 멀티골로 레알 마드리드 국왕컵 8강 진출

    스포츠 

  • 4
    사사키 로키, 다저스 이적이 유력해져...파드리스는 철수

    스포츠 

  • 5
    'IQ 276' 김영훈, 머스크 따라 獨극우당 지지 선언

    뉴스 

[차·테크] 인기 뉴스

  • “우리나라 아빠들이 탐낸다”.. 팰리세이드도 울고 갈 대형 SUV, 페이스리프트 마쳤다
  • [시승기] 단 2분의 시간이 만든 특별한 만족감 - 볼보 XC60 윈터 에디션
  • 설날까지 일주일…네카오 “풍성한 혜택 드려요”
  • 현대차·기아 골라 훔치는 ‘기아 보이즈’, 여전히 기승
  • 구몬학습, ‘초등 대상 학습전략’ 온라인 콘서트 진행 외 [주간 에듀테크]
  • 아이지넷, 공모가 상단 7000원 확정…내달 4일 상장

지금 뜨는 뉴스

  • 1
    한국인 관광객 감소에 다낭 관광업계 큰 타격

    여행맛집 

  • 2
    '내란수괴' 尹구속 가능성 관심…'도주·증거인멸 우려' 관건

    뉴스 

  • 3
    “나만의 야구를 적립해야” 염갈량표 백업주전으로 가는 길…오지환 후계자? LG 23세 내야수 ‘검증의 시즌’

    스포츠 

  • 4
    IMF “韓 올해 성장률 2.0%”… 작년 10월 전망보다 0.2%p 하향 조정

    뉴스 

  • 5
    수비력 망했는데 타율도 0.119…왕년의 GG 포수, SD와 마이너 계약…MLBTR "빅리그행 가능성 높아" 왜?

    스포츠 

[차·테크] 추천 뉴스

  • ‘심장아, 나대지 마’ .. 포르쉐 최신 모델 공개에 절로 나오는 ‘감탄’
  • “세계가 놀란 K-디자인 “… 이런 성과는 처음, 현대·기아 미국서 ‘인정’
  • 비니시우스·벨링엄·로드리·반다이크 등...EA SPORTS FCTM 25 올해의 팀
  • 현대차그룹 2024 굿디자인 어워드 대거 수상, '자동차부터 로봇까지'
  • 아기자기하고 귀여운 던파의 맛... 강남 핫 플레이스 등극한 '스노우메이지 팝업'
  • “안테나 개수·렌즈 두께 줄인다”… 삼성·애플, 스마트폰 슬림화 기술 공개

당신을 위한 인기글

  • “하이브리드 없으면 망한다” 현대·기아, 친환경차 엄청나게 팔았다 발표!
  • “기아 EV6 긴장타나” 폭스바겐, 전기차 비밀병기 2대나 내보낸다!
  • “최강야구 음주운전 하차 장원삼” 복귀 암시에 억대 포르쉐 카이엔 화제
  • “청년한테 보조금 퍼준다!” 생애 첫 전기차 구매시 800만원 지원
  • “여성 운전자는 필수 차량” KGM 티볼리, 벌써 두자릿수 나이?
  • “스포티지 팔고 이거 살까?” 4천만 원대로 싸진 신형 기아차 근황
  • “정부도 안타까웠나” 아이오닉9·EV9, 가격 지원 더 받을까?
  • “오늘 계약하면 내년 출고” 신형 팰리세이드 벌써 물량 소진, 인기 이유는?

추천 뉴스

  • 1
    래시포드, 긴급 성명 발표했다…충격적인 사건 당사자와 친분설에 '화들짝'→레퍼와의 연관설 극구부인→"알지도 못한다"

    스포츠 

  • 2
    "1번 타자 오타니, 전형적이지 않아" ML 336홈런 강타자 주장 나왔다, 어떤 타선에 어울릴까

    스포츠 

  • 3
    엔드릭, 연장전 멀티골로 레알 마드리드 국왕컵 8강 진출

    스포츠 

  • 4
    사사키 로키, 다저스 이적이 유력해져...파드리스는 철수

    스포츠 

  • 5
    'IQ 276' 김영훈, 머스크 따라 獨극우당 지지 선언

    뉴스 

지금 뜨는 뉴스

  • 1
    한국인 관광객 감소에 다낭 관광업계 큰 타격

    여행맛집 

  • 2
    '내란수괴' 尹구속 가능성 관심…'도주·증거인멸 우려' 관건

    뉴스 

  • 3
    “나만의 야구를 적립해야” 염갈량표 백업주전으로 가는 길…오지환 후계자? LG 23세 내야수 ‘검증의 시즌’

    스포츠 

  • 4
    IMF “韓 올해 성장률 2.0%”… 작년 10월 전망보다 0.2%p 하향 조정

    뉴스 

  • 5
    수비력 망했는데 타율도 0.119…왕년의 GG 포수, SD와 마이너 계약…MLBTR "빅리그행 가능성 높아" 왜?

    스포츠 

공유하기