주요 메뉴 바로가기 (상단) 본문 컨텐츠 바로가기 주요 메뉴 바로가기 (하단)

[테크체크] 하루가 다르게 똑똑해지는 스마트폰! – 온디바이스 AI 최적화 기술

베타뉴스 조회수  

온디바이스 AI 기술의 경쟁력은 AI 최적화 기술에서 나온다. 온디바이스 AI 기술은 스마트 기술의 핵심으로 자리잡고 있다. 대표적으로 최근 애플에서 발표한 ‘애플인텔리전스’와 자율주행자동차, 스마트팩토리 내 엣지 시스템에 이런 온디바이스 AI 기술이 적용되고 있다. 생성형 AI의 등장으로 디바이스 내에서 연산을 바로 하는 온디바이스 AI 기술의 중요성은 증대하고 있지만, 기존 AI 기술과 다르게 제한된 디바이스의 성능(연산 성능, 메모리, 전력량 등)으로 인한 한계가 명확하다.

▲[그림] 온디바이스 AI 특징 및 강점. 출처: 미래에셋자산운용

온디바이 AI가 구현되기 위해, AI 최적화 기술이 필수적이다. AI 최적화 기술은 크게 3가지로 AI 모델 경량화 기술, 하드웨어 기술, 알고리즘 최적화 기술 등이 필요하다. AI 모델 경량화를 통한 AI 최적화 기술은 모델의 필수적인 요소만 남기고 최소화 하여 모델 구조를 단순화 시키는 기술이다. 하드웨어를 통한 AI 최적화 기술은 온디바이스에 적합한 AI 반도체를 하드웨어 적으로 구현하는 기술로 대표적인 AI 반도체인 NPU를 적용하거나, 연산력을 향상하기위해, GPU를 병렬 연결하 방법 등이다. 알고리즘 최적화를 통한 AI 최적화 기술은 연산 시 발생하는 오차를 최소화 하여, 수치적 안정성을 유지하는 기술과 메모리 접근 패턴을 개선하는 방법등 이다. 이러한 AI 최적화 기술은 카카오페이, 하이퍼커넥트, 콴다 등 다양한 온디바이스 AI 기업들이 적용하고 있다.

▲[그림] AI 최적화를 위한 모델 경량화 기술 및 알고리즘 최적화 기술 개요 ©

국내 스타트업들의 온디이스 AI를 위한 AI 최적화 기술 개발은 활발하다. 이들 중 주목할 기업이 있다. 바로, (주)옵트에이아이(대표 이재호)다. (주)옵트에이아이는 AI 기업으로 온디바이스 AI 환경에서 디바이스 환경에 맞는 적합한 경량 모델을 설계하고, 배포 자동화 기술을 개발하였다. 이를 통해, LG전자, 현대자동차 등을 고객사로 보유하고 있다. 옵트에이아이는 이러한 기술력으로 딥테크 팁스(초격차 스타트업 1000+ 프로젝트)에 선정되었다. 딥테크 팁스 선정으로 지원받는 지원금(3년 최대 15억 원)으로 기존 최적화 기술을 고도화하고 초거대 AI를 최적화할 수 있는 기술을 개발할 예정이다.

▲ [그림] (주)옵트에이아이의 AI 최적화 기술

AI 솔루션 기업 (주)노타도 적극적으로 온디바이스 AI를 위한 AI 최적화 기술을 개발 중에 있다. (주)노타는 온디바이스 AI 내, 특정 노드와 하드웨어에서 지원되지 않는 문제를 적합 AI 모델을 적용하여, 문제를 해결 하였다. 이를 통해, 온디바이스 내, AI 최적화한 환경을 구현할 수 있다. 이 외에도, (주)알고리즘랩스(대표 손진호)도 자체 AI 솔루션을 기반한 산업별 요구에 맞춘, 온디멘드 AI 솔루션을 제공한다. 인공신경망 기반 결합 네트워크 기술을 적용하여, 인공신경망 기술 기반 AI 모델을 최적화할 수 있는 기술을 개발하였다. 본 기술을 활용하여, 기존 AI 모델의 문제해결 능력을 향상할 수 있으며, 최적화할 수 있다. 이렇듯 기업들의 온디바이스 AI를 위한 최적화 기술 개발에 활발하다.

▲ [그림] (주)노타의 온디바이스 AI 최적화 솔루션 ‘넷츠프레소’ 

정부도 이러한 AI 최적화 기술이 적용될 온디바이스 AI 기술 개발을 적극 지원 중에 있다. 중소기업벤처부는 온디바이스 AI 스타트업 발굴을 위한 ‘온디바이스 AI 초격차 챌린지’를 LG전자(디바이스), 인텔(칩셋), 마이크로소프트(SW) 등 각 분야의 글로벌 전문기업으로부터 기술검증(PoC) 등 기술 지원과 중기부로부터 협업 비용을 지원한다. 이렇듯 정부의 온디바이스 AI 기술 고도화를 위한 지원은 더욱 확대할 것이다.

기고 : 특허법인 BLT

#AI최적화 #온디바이스AI #AI모델경량화 #알고리즘최적화 #생성형AI #애플인텔리전스 #카카오페이 #하이퍼커넥트 #콴다 #옵트에이아아 #노타 #알고리즘랩스

베타뉴스
content@www.newsbell.co.kr

댓글0

300

댓글0

[뉴스] 랭킹 뉴스

  • 포철 3파이넥스공장 화재 진압…포스코 “철강생산·조업 차질 無”
  • [특징주] 티엘비(356860), CXL 공격적 투자…외형 성장 두드러져
  • 막 오른 서울 사립초 입학전쟁…'1인당 최대 3곳' 지원 가능
  • 55조 식자재 시장 디지털 전환...요식업계 쿠팡 꿈꾸는 이 회사
  • [에듀플러스×KERIS 공동캠페인]'다 함께 디지털리터러시'…<학생편:⑤생성형 AI 이해와 활용법>
  • [에듀플러스×KERIS 공동캠페인]'다 함께 디지털리터러시'…<학부모편:⑤가정 내 디지털 사용 규칙 설정과 유지>

[뉴스] 공감 뉴스

  • [에듀플러스×KERIS 공동캠페인]'다 함께 디지털리터러시'…<학부모편:⑤가정 내 디지털 사용 규칙 설정과 유지>
  • 대한적십자사봉사회 하남지구협의회 사랑의 겨울 김장나눔실시
  • [폴리스라인] 계획인가 우발인가… ‘엘리트 장교’가 저지른 북한강 시신훼손 사건의 전말
  • ‘쿠팡 임팩트 리포트’ 발표, 일자리 창출 8만개…지역경제 활성화 앞장
  • 흑백요리사 정지선 "안성재 누군지 몰랐다"…충격적 사실, 왜?
  • 컴투스 'SWC2024' 대회서 신예 KELIANBAO, 세계 최강자 등극

당신을 위한 인기글

  • 사이사이 골목길마다 맛과 감성이 살아 있는 문래 맛집 BEST5
  • 여름에도, 겨울에도 언제 먹어도 잘 어울리는 국수 맛집 BEST5
  • 매일 같은 구성으로 먹어도 질리지 않는 백반 맛집 BEST5
  • 한국의 ‘쌈’ 문화와도 비슷한 멕시코 음식, 타코 맛집 BEST5
  • ‘이토록 친밀한 배신자’, 아들이 우유 훔쳐먹은 이유…촘촘한 설계의 힘
  • 소리 잃은 소리꾼, ‘정년이’ 몰입하게 만든 김태리의 쉰 목소리
  • 박스오피스 정상 탈환한 ‘베놈: 라스트 댄스’
  • [오늘 뭘 볼까] 치열한 연예계의 속내..시리즈 ‘스포트라이트는 나의 것’

함께 보면 좋은 뉴스

  • 1
    김태리, 시대극 속 한복 스타일링으로 주목받아

    연예 

  • 2
    "쉬어가는데도 고봉밥"....원신 5.2 서열 1위 카피타노에 열광하는 이유는?

    차·테크 

  • 3
    [PGS 6] TDT, GF 11매치 치킨 확보…아쉬움 남긴 '광동 프릭스·젠지'

    차·테크 

  • 4
    지바롯데, 사사키 로키의 MLB 포스팅 요청 허락

    스포츠 

  • 5
    나나, 1년째 타투 제거 중… 고통 꾹 참는 모습 적나라하게 공개했다 (+영상)

    연예 

[뉴스] 인기 뉴스

  • 포철 3파이넥스공장 화재 진압…포스코 “철강생산·조업 차질 無”
  • [특징주] 티엘비(356860), CXL 공격적 투자…외형 성장 두드러져
  • 막 오른 서울 사립초 입학전쟁…'1인당 최대 3곳' 지원 가능
  • 55조 식자재 시장 디지털 전환...요식업계 쿠팡 꿈꾸는 이 회사
  • [에듀플러스×KERIS 공동캠페인]'다 함께 디지털리터러시'…<학생편:⑤생성형 AI 이해와 활용법>
  • [에듀플러스×KERIS 공동캠페인]'다 함께 디지털리터러시'…<학부모편:⑤가정 내 디지털 사용 규칙 설정과 유지>

지금 뜨는 뉴스

  • 1
    곽빈, 대만 언론의 집중 조명 속 개막전 선발 유력

    스포츠 

  • 2
    김도영, 프리미어12에서의 다짐 "작년과 다른 모습 보여줄 것"

    스포츠 

  • 3
    오재현, KBL 판정 변화에 긍정적 반응…수비에 유리한 환경

    스포츠 

  • 4
    제네시스 살까 고민했는데 “그냥 이 차 살게요”…드디어 한국 도로 출몰?

    차·테크 

  • 5
    김광수 대표, 첫사랑 여배우 실명 공개…당대 최고 미인이었다

    연예 

[뉴스] 추천 뉴스

  • [에듀플러스×KERIS 공동캠페인]'다 함께 디지털리터러시'…<학부모편:⑤가정 내 디지털 사용 규칙 설정과 유지>
  • 대한적십자사봉사회 하남지구협의회 사랑의 겨울 김장나눔실시
  • [폴리스라인] 계획인가 우발인가… ‘엘리트 장교’가 저지른 북한강 시신훼손 사건의 전말
  • ‘쿠팡 임팩트 리포트’ 발표, 일자리 창출 8만개…지역경제 활성화 앞장
  • 흑백요리사 정지선 "안성재 누군지 몰랐다"…충격적 사실, 왜?
  • 컴투스 'SWC2024' 대회서 신예 KELIANBAO, 세계 최강자 등극

당신을 위한 인기글

  • 사이사이 골목길마다 맛과 감성이 살아 있는 문래 맛집 BEST5
  • 여름에도, 겨울에도 언제 먹어도 잘 어울리는 국수 맛집 BEST5
  • 매일 같은 구성으로 먹어도 질리지 않는 백반 맛집 BEST5
  • 한국의 ‘쌈’ 문화와도 비슷한 멕시코 음식, 타코 맛집 BEST5
  • ‘이토록 친밀한 배신자’, 아들이 우유 훔쳐먹은 이유…촘촘한 설계의 힘
  • 소리 잃은 소리꾼, ‘정년이’ 몰입하게 만든 김태리의 쉰 목소리
  • 박스오피스 정상 탈환한 ‘베놈: 라스트 댄스’
  • [오늘 뭘 볼까] 치열한 연예계의 속내..시리즈 ‘스포트라이트는 나의 것’

추천 뉴스

  • 1
    김태리, 시대극 속 한복 스타일링으로 주목받아

    연예 

  • 2
    "쉬어가는데도 고봉밥"....원신 5.2 서열 1위 카피타노에 열광하는 이유는?

    차·테크 

  • 3
    [PGS 6] TDT, GF 11매치 치킨 확보…아쉬움 남긴 '광동 프릭스·젠지'

    차·테크 

  • 4
    지바롯데, 사사키 로키의 MLB 포스팅 요청 허락

    스포츠 

  • 5
    나나, 1년째 타투 제거 중… 고통 꾹 참는 모습 적나라하게 공개했다 (+영상)

    연예 

지금 뜨는 뉴스

  • 1
    곽빈, 대만 언론의 집중 조명 속 개막전 선발 유력

    스포츠 

  • 2
    김도영, 프리미어12에서의 다짐 "작년과 다른 모습 보여줄 것"

    스포츠 

  • 3
    오재현, KBL 판정 변화에 긍정적 반응…수비에 유리한 환경

    스포츠 

  • 4
    제네시스 살까 고민했는데 “그냥 이 차 살게요”…드디어 한국 도로 출몰?

    차·테크 

  • 5
    김광수 대표, 첫사랑 여배우 실명 공개…당대 최고 미인이었다

    연예 

공유하기