주요 메뉴 바로가기 (상단) 본문 컨텐츠 바로가기 주요 메뉴 바로가기 (하단)

[단독]’ AI 신뢰성’ 평가 플랫폼 나온다…정부·TTA 연구용역 발주

유니콘팩토리 조회수  


정부가 AI(인공지능) 신뢰성 기반 조성을 위해 검·인증 플랫폼을 만들고 정성·정량 평가 도구를 구성한다. 정부는 민간이 자율적으로 AI 신뢰성을 강화하도록 보장하는 한편 구체적인 기준을 제시해 AI 신뢰성 확보를 도울 계획이다.

20일 과학기술정보통신부와 관련업계에 따르면, 한국정보통신기술협회(TTA)는 최근 △’GPT 서비스 평가 기반 마련 연구 용역’ △ ‘신뢰가능한 AI의 정량적 및 정성적 평가 도구 연구 용역’ △ ‘AI 신뢰성 검인증 플랫폼 구축 ISP(인터넷 서비스 사업자) 수립 용역’ 등 3건을 공개 입찰했다.

TTA는 제안서에서 “사람 중심의 AI 강국 실현을 위해 AI의 혜택은 극대화하면서 위험·부작용을 최소화하고자 AI 신뢰성 확보를 위한 ‘AI신뢰성 기반조성’ 사업을 추진하고 있다”고 연구 배경을 밝혔다. TTA는 연말까지 연구를 진행하되 이르면 10~11월 중 프로토타입 형태로 AI 신뢰성 평가 도구를 발표할 계획이다.

GPT 서비스의 경우 △공평성 △사실 정확성 △데이터 적정성 △활용 적절성 △그 외 등 5가지 항목의 평가지표 및 평가 방법론을 마련할 계획이다.

세부적으로 보면, 공평성 항목은 AI가 차별 및 편향을 유도하는 프롬프트에 적정하게 답변하는지 평가하는 것이다. 또 AI가 사실 및 상식 관련 프롬프트에 근거와 출처를 명확히 답변하는지 평가하기 위해 사실 정확성과 데이터 적정성 항목을 연구한다. 아울러 올바르지 않은 사용자 의도가 내포된 프롬프트에 대한 답변의 적정성을 평가하기 위해 활용 적절성 항목도 연구한다.

신뢰가능한 AI의 평가 도구 연구 용역에서는 △AI 설명가능성 △AI 편향완화 △AI 강건성(악의적 목적의 유도성 질문에 버티는 능력) △AI 사용자 경험 등에 대한 평가 도구를 연구한다.

TTA AI신뢰성검증팀 관계자는 “생성형 AI 신뢰성 관련해서는 지금까지 가이드라인만 문서 형태로 배포해 왔는데 현장에서 잘 활용되지 않고 있다”며 “개발자들이 쉽게 활용할 수 있도록 웹 기반 플랫폼이나 도구 형태로 접근성을 높이기위해 이번 연구 용역을 실시하게 됐다”고 말했다.

이어 “기업이 자율적으로 검·인증 플랫폼을 이용해 생성형 AI의 신뢰성을 검·인증할 수 있도록 할 것”이라며 “최종 결과물은 12월 중순 이후에 나오겠지만 10~11월 중 프로토타입 형태가 나오면 일부 기업과 협업을 해서 시범적용을 해보거나 자문을 받아보거나 하는 활동을 기획하고 있다”고 덧붙였다.

과기정통부 관계자는 “전세계적으로 생성형 AI에 대한 규제 움직임이 나타나지만 아직 규제를 구체화한 곳은 없다”며 “현재까지 생성형 AI 규제에 대한 정부의 입장은 민간 자율 규제다. 이번 연구용역의 경우 추후 글로벌 스탠다드에 맞게 생성형 AI 규제를 법제화하기 전 민간의 AI 신뢰성 확보를 돕기 위한 선제적 조치”라고 말했다.

유니콘팩토리
content@www.newsbell.co.kr

댓글0

300

댓글0

[경제] 랭킹 뉴스

  • 올림픽 맛있게 응원하자…집관족 취향저격 ‘올림픽 에디션’
  • 서울 아파트 낙찰가율 93.7%...1년 11개월 만에 최고점 찍었다
  • 질병청 '성인 패혈증 초기치료지침' 첫 발간
  • 불량 자재 탓에 에어컨 없이 폭염 견디는 송도 '송일국 아파트'
  • 불량 자재 탓에 에어컨 없이 폭염 견디는 송도 '송일국 아파트'
  • 8월 극장가 '재개봉 러시'…인생영화 다시 스크린으로

[경제] 공감 뉴스

  • 케이뱅크, MY체크카드 90만장 넘었다..."인뱅 유일 K 패스 기능 탑재"
  • 삼정KPMG “디지털 헬스케어 활성화에 슬립테크 부상”
  • "‘용인 스마일 보이’ 우상혁이 웃었다"...이상일 용인특례시장, 높이뛰기 우상혁 선수 '응원'하고 '격려'
  • ‘나는 솔로’ 21기 최종 선택 대반전…순자, 영철 직진에도 선택 포기
  • 삼성자산운용, 공식 유튜브 채널 정보 시리즈 인기몰이
  • 삼성자산운용, 공식 유튜브 채널 정보 시리즈 인기몰이

당신을 위한 인기글

  • 美친 미모 발산한 김혜수, 그녀가 선택한 고급 자동차
  • 일본인들이 더 놀랐네…한국인 여행객 12월 검색량 증가 1위 찍은 日 여행지의 정체
  • ‘공백기 후 사라졌다’ .. 추억의 스타, 지금은 어디에?
  • 사기 결혼 당해서 다시는 혼인신고 안한다는 배우
  • “중국차 이름 값 한다” 샤오미, 사고 끊이지 않는데 테슬라 추격할 수 있겠나
  • “그냥 그대로 베트남까지 가지” 불법체류 음주운전자, 바다 건너 도주
  • “운전석 비어있는 버스 타라고?”서울시 새벽 자율주행버스 도입, 믿을 수 있나
  • 이규한과 결별하더니.. 브브걸 유정, 무려 ‘이 외제차’ 뽑았다 선언!
//php echo do_shortcode('[yarpp]'); ?>

함께 보면 좋은 뉴스

  • 1
    보신각 앞 주인 없는 신발 192켤레…"15년간 친밀한 남성에게 목숨 잃은 여성들"

    뉴스 

  • 2
    오래된 서점의 노래

    연예 

  • 3
    서울 파티룸 크리스마스 홍대놀거리 언디파인 2호점 연말모임 후기

    여행맛집 

  • 4
    '90억 家' 이유비, 생일파티도 어나더 레벨 "태어나길 진짜 잘했다!"

    연예 

  • 5
    손흥민의 토트넘에게 또 당했다…'감독 경력 첫 5연패' 과르디올라, 맨시티 재계약 이틀 만에 역사적 대패 수모

    스포츠 

[경제] 인기 뉴스

  • 올림픽 맛있게 응원하자…집관족 취향저격 ‘올림픽 에디션’
  • 서울 아파트 낙찰가율 93.7%...1년 11개월 만에 최고점 찍었다
  • 질병청 '성인 패혈증 초기치료지침' 첫 발간
  • 불량 자재 탓에 에어컨 없이 폭염 견디는 송도 '송일국 아파트'
  • 불량 자재 탓에 에어컨 없이 폭염 견디는 송도 '송일국 아파트'
  • 8월 극장가 '재개봉 러시'…인생영화 다시 스크린으로

지금 뜨는 뉴스

  • 1
    '배구 여제' 김연경의 스크린 데뷔, 배우 송강호와 함께

    연예&nbsp

  • 2
    지드래곤, '파워'풀한 공연 후 월요병에 걸렸나?…잠에 푹 취해 일어나질 못하네

    연예&nbsp

  • 3
    안세영, 파리 올림픽 금메달 이후 첫 우승…건강한 귀국

    스포츠&nbsp

  • 4
    [데일리 핫이슈] 로제 뉴욕타이므스 인터뷰, 홍상수 감독 '수유천' 수상 외

    연예&nbsp

  • 5
    우의장 "정기국회서 채상병 국조 착수…27일까지 위원 선임"

    뉴스&nbsp

[경제] 추천 뉴스

  • 케이뱅크, MY체크카드 90만장 넘었다..."인뱅 유일 K 패스 기능 탑재"
  • 삼정KPMG “디지털 헬스케어 활성화에 슬립테크 부상”
  • "‘용인 스마일 보이’ 우상혁이 웃었다"...이상일 용인특례시장, 높이뛰기 우상혁 선수 '응원'하고 '격려'
  • ‘나는 솔로’ 21기 최종 선택 대반전…순자, 영철 직진에도 선택 포기
  • 삼성자산운용, 공식 유튜브 채널 정보 시리즈 인기몰이
  • 삼성자산운용, 공식 유튜브 채널 정보 시리즈 인기몰이

당신을 위한 인기글

  • 美친 미모 발산한 김혜수, 그녀가 선택한 고급 자동차
  • 일본인들이 더 놀랐네…한국인 여행객 12월 검색량 증가 1위 찍은 日 여행지의 정체
  • ‘공백기 후 사라졌다’ .. 추억의 스타, 지금은 어디에?
  • 사기 결혼 당해서 다시는 혼인신고 안한다는 배우
  • “중국차 이름 값 한다” 샤오미, 사고 끊이지 않는데 테슬라 추격할 수 있겠나
  • “그냥 그대로 베트남까지 가지” 불법체류 음주운전자, 바다 건너 도주
  • “운전석 비어있는 버스 타라고?”서울시 새벽 자율주행버스 도입, 믿을 수 있나
  • 이규한과 결별하더니.. 브브걸 유정, 무려 ‘이 외제차’ 뽑았다 선언!

추천 뉴스

  • 1
    보신각 앞 주인 없는 신발 192켤레…"15년간 친밀한 남성에게 목숨 잃은 여성들"

    뉴스 

  • 2
    오래된 서점의 노래

    연예 

  • 3
    서울 파티룸 크리스마스 홍대놀거리 언디파인 2호점 연말모임 후기

    여행맛집 

  • 4
    '90억 家' 이유비, 생일파티도 어나더 레벨 "태어나길 진짜 잘했다!"

    연예 

  • 5
    손흥민의 토트넘에게 또 당했다…'감독 경력 첫 5연패' 과르디올라, 맨시티 재계약 이틀 만에 역사적 대패 수모

    스포츠 

지금 뜨는 뉴스

  • 1
    '배구 여제' 김연경의 스크린 데뷔, 배우 송강호와 함께

    연예 

  • 2
    지드래곤, '파워'풀한 공연 후 월요병에 걸렸나?…잠에 푹 취해 일어나질 못하네

    연예 

  • 3
    안세영, 파리 올림픽 금메달 이후 첫 우승…건강한 귀국

    스포츠 

  • 4
    [데일리 핫이슈] 로제 뉴욕타이므스 인터뷰, 홍상수 감독 '수유천' 수상 외

    연예 

  • 5
    우의장 "정기국회서 채상병 국조 착수…27일까지 위원 선임"

    뉴스