02. MODEL SPECS & SPECS
카테고리별 온디바이스 AI 모델 도감
언어(SLM), 시각(Vision), 음성(Audio), 이미지 생성(Diffusion) 모델의 스펙과 장단점을 비교해보세요.
양자화 규격 변경:
Gemini Nano
Google • Proprietary (On-Device OS API)
스마트폰 및 Chrome 브라우저에 기기 내장형으로 최적화된 구글의 초경량 온디바이스 언어 모델. 요약, 답장 추천, Proofreading에 특화.
파라미터 크기
1.8B / 3.25B
권장 RAM
6 GB
모델 용량 (INT4)
1.2 GB
핵심 장점
- •Android OS 및 Chrome 브라우저 내장으로 별도 모델 다운로드 불필요
- •NPU 하드웨어 가속 최적화로 전력 소비 최소화
- •사용자 데이터가 기기를 벗어나지 않아 완벽한 프라이버시보장
단점 및 한계
- •복잡한 코딩이나 긴 추론(Reasoning) 과제에는 한계 존재
- •지원되는 최신 스마트폰(Pixel 8/9, Galaxy S24 등) 또는 최신 Chrome 지원 제한
NPU: ~45 t/s
Llama 3.2 (1B & 3B)
Meta • Llama 3.2 Community License
Meta의 대표적인 에지 단말용 초경량 open-weights 모델. 1B 모델은 모바일 RAM 2GB 이하에서도 동작 가능하며 고성능 추론 지원.
파라미터 크기
1.2B / 3.21B
권장 RAM
8 GB
모델 용량 (INT4)
850 MB
핵심 장점
- •1B 모델 기준 850MB 미만의 극단적인 경량화 (INT4)
- •웹 브라우저 WebGPU(WebLLM)에서 추가 설치 없이 초당 30+ 토큰 출력 가능
- •다국어 및 명령 이행 능력 우수
단점 및 한계
- •1B 버전은 초장문 컨텍스트 처리 시 정보 유실 가능성
- •복잡한 도메인 수학 문제 추론 능력 제한
NPU: ~52 t/s
Gemma 2 (2B)
Google DeepMind • Gemma Open Terms
구글 딥마인드의 오픈 웨이트 Gemma 2 시리즈의 2B 파라미터 모델. Knowledge Distillation 기술로 7B 급 모델에 육박하는 뛰어난 한국어 및 추론 성능 제공.
파라미터 크기
2.6B
권장 RAM
6 GB
모델 용량 (INT4)
1.5 GB
핵심 장점
- •소형 파라미터 대비 압도적인 한국어 및 추론 성능
- •Transformers.js (ONNX WebGPU)로 웹 브라우저에서 즉시 실행 가능
- •안전성 가이드라인 강화로 오답 및 환각(Hallucination) 감소
단점 및 한계
- •1B 이하 모델에 비해 모바일 배터리 소모량이 소폭 높음
- •최소 4GB 이상의 시스템 메모리 권장
NPU: ~48 t/s
MobileNetV4
Google • Apache 2.0
모바일 및 모바일 NPU 가속에 최적화된 Universal 객체 인식 및 이미지 분류 모델. 초당 100+ 프레임의 놀라운 속도 자랑.
파라미터 크기
3.8M - 32M
권장 RAM
2 GB
모델 용량 (INT4)
8 MB
핵심 장점
- •15MB 미만의 극도로 작은 용량과 밀리초(ms) 단위의 응답 속도
- •모바일 NPU 및 GPU 환경에서 전력 효율 극대화
- •웹캠 및 실시간 카메라 스트림 분석에 최적화
단점 및 한계
- •단순 분류 모델로 복잡한 생성형 멀티모달 대화 불가능
- •바운딩 박스 객체 검출(Detection)을 원할 경우 SSD 헤드 추가 필요
NPU: ~120 t/s
YOLOv11 Nano (Detect)
Ultralytics • AGPL-3.0 / Commercial Option
실시간 객체 검출(Object Detection)의 최신 종결자 YOLOv11의 초경량 Nano 모델. 단 6MB로 바운딩 박스 및 80여개 클래스 실시간 탐지.
파라미터 크기
2.6M
권장 RAM
2 GB
모델 용량 (INT4)
3 MB
핵심 장점
- •초당 100 FPS 이상의 압도적인 바운딩 박스 추적 속도
- •ONNX Runtime WebGPU로 웹 브라우저에서 직접 웹캠 객체 추적 가능
- •메모리 점유율 100MB 이하
단점 및 한계
- •가려진 작은 객체 탐지율은 대형 모델 대비 다소 낮음
- •상업적 이용 시 라이선스 검토 필요 (AGPL-3.0)
NPU: ~140 t/s
Whisper (Tiny & Base)
OpenAI • MIT
다국어 음성 인식(STT) 세계 표준 Whisper의 초경량 온디바이스 모델. 네트워크 없이 마이크 음성을 실시간 텍스트로 변환.
파라미터 크기
39M / 74M
권장 RAM
2 GB
모델 용량 (INT4)
25 MB
핵심 장점
- •인터넷 연결 없이 100% 오프라인 다국어 음성 받아쓰기 가능
- •소음이 섞인 환경에서도 우수한 음성 받아쓰기 정확도
- •MIT 자유 라이선스로 상용 서비스 탑재 용이
단점 및 한계
- •Tiny 버전은 극심한 사투리/방언 인식률 약화 가능성
- •긴 정적 구간에서 가끔 유령 텍스트 반복 출력 현상
NPU: ~80 t/s
MobileDiffusion / SD Turbo
Google / Stability AI • Stability AI Community / Google Research
단 1~4 단계의 추론(Steps)만으로 512x512 고품질 이미지를 생성하는 에지 디퓨전 모델. 모바일 및 PC GPU에서 초당 1~3장 실시간 이미지 생성.
파라미터 크기
520M / 1.1B
권장 RAM
8 GB
모델 용량 (INT4)
1.2 GB
핵심 장점
- •기존 디퓨전(50 step) 대비 10배 이상 빠르고 적은 전력 소모
- •프롬프트 입력과 동시에 실시간 인프레임 이미지 렌더링 지원
- •서버 비용 없이 무제한 로컬 이미지 생성
단점 및 한계
- •최소 4GB 이상의 GPU VRAM 요구
- •복잡한 문자/텍스트 렌더링 표시는 다소 미흡
NPU: ~4 t/s