주요 메뉴 바로가기 (상단) 본문 컨텐츠 바로가기 주요 메뉴 바로가기 (하단)

[테크체크] 하루가 다르게 똑똑해지는 스마트폰! – 온디바이스 AI 최적화 기술

베타뉴스 조회수  

온디바이스 AI 기술의 경쟁력은 AI 최적화 기술에서 나온다. 온디바이스 AI 기술은 스마트 기술의 핵심으로 자리잡고 있다. 대표적으로 최근 애플에서 발표한 ‘애플인텔리전스’와 자율주행자동차, 스마트팩토리 내 엣지 시스템에 이런 온디바이스 AI 기술이 적용되고 있다. 생성형 AI의 등장으로 디바이스 내에서 연산을 바로 하는 온디바이스 AI 기술의 중요성은 증대하고 있지만, 기존 AI 기술과 다르게 제한된 디바이스의 성능(연산 성능, 메모리, 전력량 등)으로 인한 한계가 명확하다.

▲[그림] 온디바이스 AI 특징 및 강점. 출처: 미래에셋자산운용

온디바이 AI가 구현되기 위해, AI 최적화 기술이 필수적이다. AI 최적화 기술은 크게 3가지로 AI 모델 경량화 기술, 하드웨어 기술, 알고리즘 최적화 기술 등이 필요하다. AI 모델 경량화를 통한 AI 최적화 기술은 모델의 필수적인 요소만 남기고 최소화 하여 모델 구조를 단순화 시키는 기술이다. 하드웨어를 통한 AI 최적화 기술은 온디바이스에 적합한 AI 반도체를 하드웨어 적으로 구현하는 기술로 대표적인 AI 반도체인 NPU를 적용하거나, 연산력을 향상하기위해, GPU를 병렬 연결하 방법 등이다. 알고리즘 최적화를 통한 AI 최적화 기술은 연산 시 발생하는 오차를 최소화 하여, 수치적 안정성을 유지하는 기술과 메모리 접근 패턴을 개선하는 방법등 이다. 이러한 AI 최적화 기술은 카카오페이, 하이퍼커넥트, 콴다 등 다양한 온디바이스 AI 기업들이 적용하고 있다.

▲[그림] AI 최적화를 위한 모델 경량화 기술 및 알고리즘 최적화 기술 개요 ©

국내 스타트업들의 온디이스 AI를 위한 AI 최적화 기술 개발은 활발하다. 이들 중 주목할 기업이 있다. 바로, (주)옵트에이아이(대표 이재호)다. (주)옵트에이아이는 AI 기업으로 온디바이스 AI 환경에서 디바이스 환경에 맞는 적합한 경량 모델을 설계하고, 배포 자동화 기술을 개발하였다. 이를 통해, LG전자, 현대자동차 등을 고객사로 보유하고 있다. 옵트에이아이는 이러한 기술력으로 딥테크 팁스(초격차 스타트업 1000+ 프로젝트)에 선정되었다. 딥테크 팁스 선정으로 지원받는 지원금(3년 최대 15억 원)으로 기존 최적화 기술을 고도화하고 초거대 AI를 최적화할 수 있는 기술을 개발할 예정이다.

▲ [그림] (주)옵트에이아이의 AI 최적화 기술

AI 솔루션 기업 (주)노타도 적극적으로 온디바이스 AI를 위한 AI 최적화 기술을 개발 중에 있다. (주)노타는 온디바이스 AI 내, 특정 노드와 하드웨어에서 지원되지 않는 문제를 적합 AI 모델을 적용하여, 문제를 해결 하였다. 이를 통해, 온디바이스 내, AI 최적화한 환경을 구현할 수 있다. 이 외에도, (주)알고리즘랩스(대표 손진호)도 자체 AI 솔루션을 기반한 산업별 요구에 맞춘, 온디멘드 AI 솔루션을 제공한다. 인공신경망 기반 결합 네트워크 기술을 적용하여, 인공신경망 기술 기반 AI 모델을 최적화할 수 있는 기술을 개발하였다. 본 기술을 활용하여, 기존 AI 모델의 문제해결 능력을 향상할 수 있으며, 최적화할 수 있다. 이렇듯 기업들의 온디바이스 AI를 위한 최적화 기술 개발에 활발하다.

▲ [그림] (주)노타의 온디바이스 AI 최적화 솔루션 ‘넷츠프레소’ 

정부도 이러한 AI 최적화 기술이 적용될 온디바이스 AI 기술 개발을 적극 지원 중에 있다. 중소기업벤처부는 온디바이스 AI 스타트업 발굴을 위한 ‘온디바이스 AI 초격차 챌린지’를 LG전자(디바이스), 인텔(칩셋), 마이크로소프트(SW) 등 각 분야의 글로벌 전문기업으로부터 기술검증(PoC) 등 기술 지원과 중기부로부터 협업 비용을 지원한다. 이렇듯 정부의 온디바이스 AI 기술 고도화를 위한 지원은 더욱 확대할 것이다.

기고 : 특허법인 BLT

#AI최적화 #온디바이스AI #AI모델경량화 #알고리즘최적화 #생성형AI #애플인텔리전스 #카카오페이 #하이퍼커넥트 #콴다 #옵트에이아아 #노타 #알고리즘랩스

베타뉴스
content@www.newsbell.co.kr

댓글0

300

댓글0

[뉴스] 랭킹 뉴스

  • 블랙스톤(BX.N), 랜시움 AI 구축에 5억 달러 투자
  • 아마존(AMZN.O), 내년 EU 반독점 조사 가능성 직면…'자사 브랜드 선호'
  • 당대표 개인 재판에 당력 총동원?…민주당 '이재명 로펌' 자처 '촌극'
  • "1634만원에 사는 가성비 SUV"…트랙스 크로스오버 '재고 떨이' 돌입
  • ‘공중분해 위기說’에 출렁인 롯데그룹, 임원 인사 ‘촉각’
  • 사랑하면 닮는다더니…친구·가족과 몸속 '이것'까지 비슷

[뉴스] 공감 뉴스

  • CJ제일제당, '바이오 매각' 수순에 투자는 확대… 이재현 회장, 식품 M&A에 올인하나
  • 금투세는 폐지하고 코인만?…'휴면개미' 이재명 '막 던지기' 속내는 [정국 기상대]
  • "감히 내 애를 밀어? 좀 맞자"…대리기사에 '사커킥' 날린 불광동 부부 결국
  • 이태원 참사 유족 “비겁한 언론인 되지 않도록 사명감 가져 주길”
  • ‘공학전환’ 논의 잠정 중단한 동덕여대: 본관 점거는 계속하는 분명한 이유가 있었다
  • “대통령의 오만을 언론의 무례로 둔갑시킨 尹정권”

당신을 위한 인기글

  • 한식에 술만 있다면 무한으로 마실 수 있는 술꾼이 인정한 한식주점 5곳
  • 찬바람에 몸이 으슬으슬 떨리는 지금, 딱 좋은 감자탕 맛집 BEST5
  • 본격적인 겨울의 시작을 알리는 굴 맛집 BEST5
  • 노릇한 껍질과 촉촉한 살코기! 다채로운 맛의 북경오리 맛집 BEST5
  • [리뷰: 포테이토 지수 72%] ‘위키드’ 중력을 거스르지 못한 완성도
  • ‘짝퉁 제왕’ 되는 김수현 “로맨스는 15%뿐”
  • 전지현·현빈·김수현·박은빈·도경수까지, 디즈니+ 빛낼 새 얼굴은?
  • [데일리 핫이슈] 로제·브루노 마스 ‘아파트’ 첫 라이브, 고현정 ‘유퀴즈’ 출격

함께 보면 좋은 뉴스

  • 1
    ‘7년 차’ 구광모의 2025년 인사 키워드는 ‘안정 속 ‘ABC’ 준비 속도’

    차·테크 

  • 2
    '짝퉁 제왕' 되는 김수현 "로맨스는 15%뿐"

    연예 

  • 3
    [홋카이도 여행] 12월 1월 겨울 북해도 삿포로 여행! 비에이 버스투어 BEST 3 추천! :: 투어 코스 및 스펙 비교 총정리

    여행맛집 

  • 4
    MBC '오늘N' 2381회 임영웅 추천 두부전골 맛집 위치 어디 주소

    연예 

  • 5
    ‘K콘텐츠 애정공세’ 디즈니… “더 화려한 배우진과 색다른 소재로” (종합)

    차·테크 

[뉴스] 인기 뉴스

  • 블랙스톤(BX.N), 랜시움 AI 구축에 5억 달러 투자
  • 아마존(AMZN.O), 내년 EU 반독점 조사 가능성 직면…'자사 브랜드 선호'
  • 당대표 개인 재판에 당력 총동원?…민주당 '이재명 로펌' 자처 '촌극'
  • "1634만원에 사는 가성비 SUV"…트랙스 크로스오버 '재고 떨이' 돌입
  • ‘공중분해 위기說’에 출렁인 롯데그룹, 임원 인사 ‘촉각’
  • 사랑하면 닮는다더니…친구·가족과 몸속 '이것'까지 비슷

지금 뜨는 뉴스

  • 1
    서울역놀거리 핫플 그라운드시소 센트럴 우연히 웨스 앤더슨2 12월 전시회

    여행맛집 

  • 2
    선두 도약 나서는 대한항공, 대체 선수에 방긋 "서브·블로킹·공격 등 다양한 방면에서 도움주고 있다" [MD인천]

    스포츠 

  • 3
    겨울이 성큼 다가오자 여행사에서 쏟아지는 겨울 해외 여행 프로모션

    여행맛집 

  • 4
    "기량 눈에 띄게 좋아졌다" 194cm 장신 파이어볼러 제구 불안감 떨치나, 투수코치가 꼭 집었다

    스포츠 

  • 5
    DOA 말고 '데이트 어 라이브'....'에버소울'과 '그랑사가 키우기' 콜라보

    차·테크 

[뉴스] 추천 뉴스

  • CJ제일제당, '바이오 매각' 수순에 투자는 확대… 이재현 회장, 식품 M&A에 올인하나
  • 금투세는 폐지하고 코인만?…'휴면개미' 이재명 '막 던지기' 속내는 [정국 기상대]
  • "감히 내 애를 밀어? 좀 맞자"…대리기사에 '사커킥' 날린 불광동 부부 결국
  • 이태원 참사 유족 “비겁한 언론인 되지 않도록 사명감 가져 주길”
  • ‘공학전환’ 논의 잠정 중단한 동덕여대: 본관 점거는 계속하는 분명한 이유가 있었다
  • “대통령의 오만을 언론의 무례로 둔갑시킨 尹정권”

당신을 위한 인기글

  • 한식에 술만 있다면 무한으로 마실 수 있는 술꾼이 인정한 한식주점 5곳
  • 찬바람에 몸이 으슬으슬 떨리는 지금, 딱 좋은 감자탕 맛집 BEST5
  • 본격적인 겨울의 시작을 알리는 굴 맛집 BEST5
  • 노릇한 껍질과 촉촉한 살코기! 다채로운 맛의 북경오리 맛집 BEST5
  • [리뷰: 포테이토 지수 72%] ‘위키드’ 중력을 거스르지 못한 완성도
  • ‘짝퉁 제왕’ 되는 김수현 “로맨스는 15%뿐”
  • 전지현·현빈·김수현·박은빈·도경수까지, 디즈니+ 빛낼 새 얼굴은?
  • [데일리 핫이슈] 로제·브루노 마스 ‘아파트’ 첫 라이브, 고현정 ‘유퀴즈’ 출격

추천 뉴스

  • 1
    ‘7년 차’ 구광모의 2025년 인사 키워드는 ‘안정 속 ‘ABC’ 준비 속도’

    차·테크 

  • 2
    '짝퉁 제왕' 되는 김수현 "로맨스는 15%뿐"

    연예 

  • 3
    [홋카이도 여행] 12월 1월 겨울 북해도 삿포로 여행! 비에이 버스투어 BEST 3 추천! :: 투어 코스 및 스펙 비교 총정리

    여행맛집 

  • 4
    MBC '오늘N' 2381회 임영웅 추천 두부전골 맛집 위치 어디 주소

    연예 

  • 5
    ‘K콘텐츠 애정공세’ 디즈니… “더 화려한 배우진과 색다른 소재로” (종합)

    차·테크 

지금 뜨는 뉴스

  • 1
    서울역놀거리 핫플 그라운드시소 센트럴 우연히 웨스 앤더슨2 12월 전시회

    여행맛집 

  • 2
    선두 도약 나서는 대한항공, 대체 선수에 방긋 "서브·블로킹·공격 등 다양한 방면에서 도움주고 있다" [MD인천]

    스포츠 

  • 3
    겨울이 성큼 다가오자 여행사에서 쏟아지는 겨울 해외 여행 프로모션

    여행맛집 

  • 4
    "기량 눈에 띄게 좋아졌다" 194cm 장신 파이어볼러 제구 불안감 떨치나, 투수코치가 꼭 집었다

    스포츠 

  • 5
    DOA 말고 '데이트 어 라이브'....'에버소울'과 '그랑사가 키우기' 콜라보

    차·테크 

공유하기