AI가 스마트폰 안으로 들어온다 — 온디바이스 AI

AI가 스마트폰 속으로 들어온다 — 클라우드 없이 AI가 작동하는 시대

클라우드 없이도 AI가 작동한다면, 어떤 기술이 그 사이를 잇는 걸까요?
이 글은 온디바이스 AI를 가능하게 만드는 '가교 기술'과 국내 수혜 종목을 정리한 글이에요.

 

📋 목차

1. 온디바이스 AI가 뭔가요? — 용어 먼저 정리
2. 왜 '가교 기술'이 필요한가
3. 핵심 기술 3가지 — NPU·경량화·저전력 메모리
4. 국내 수혜 종목 상세 분석
5. 데이터센터 반대 운동 — 전 세계가 동시에 막히고 있다 (미국·한국 사례)
6. 리스크와 반대 시나리오
7. money-insight7의 결론

---

① 온디바이스 AI가 뭔가요?

AI라고 하면 보통 거대한 데이터센터를 떠올리죠. 여러분이 스마트폰으로 "오늘 날씨 어때?"라고 물으면, 그 질문은 지구 어딘가의 서버까지 날아갔다가 답을 받아오는 구조예요.

 

온디바이스 AI(On-Device AI)는 이 과정을 없앤 거예요. 서버 없이, 인터넷 연결 없이, 내 손 안의 기기에서 직접 AI가 작동하는 방식이에요. '엣지 AI', '타이니 AI'라고 부르기도 해요.

 

삼성전자 갤럭시 S24부터 이 방식이 처음 상용화됐어요. 인터넷이 끊겨도 실시간 번역이 되고, 사진 편집에 AI가 붙는 게 바로 온디바이스 AI 덕분이에요.

---

② 왜 '가교 기술'이 필요한가

문제는 간단해요. AI 모델은 너무 크고, 스마트폰은 너무 작아요.

GPT 같은 대형 AI 모델은 수백 기가바이트 크기예요. 스마트폰은 배터리도 제한적이고, 저장 공간도 제한적이에요. 데이터센터처럼 전력을 쏟아부을 수도 없죠.

 

그래서 등장한 질문이 바로 이것이에요: "크고 무거운 AI를 어떻게 작고 가볍게 만들어서, 제한된 기기에서 돌릴 수 있을까?"

이 문제를 해결하는 기술 계층을 '가교(Bridge) 기술'이라고 해요. 데이터센터의 AI와 내 스마트폰 사이를 잇는 기술이에요.

📌 삼일PwC경영연구원에 따르면 2028년에는 전체 PC 시장의 80%, 스마트폰 시장의 60%가 AI를 탑재할 것으로 전망돼요. 삼성증권은 향후 3년간 스마트폰 3억900만 대, PC 1억8000만 대가 온디바이스 AI 기기로 공급될 것으로 예측했어요.

---

③ 핵심 기술 3가지

가교 기술은 크게 세 층위로 나뉘어요.

 

🔹 첫 번째 — NPU (신경망처리장치)

NPU는 AI 연산에만 특화된 반도체예요. 기존 CPU는 다양한 연산을 골고루 처리하고, GPU는 그래픽 처리에 특화돼 있어요. 반면 NPU는 딥러닝 같은 AI 연산만 빠르게, 그리고 전력은 적게 쓰도록 설계돼 있어요.

쉽게 말하면, CPU는 만능 선수, GPU는 힘센 선수, NPU는 AI 전용 선수예요. 배터리가 한정된 스마트폰에서 AI를 돌리려면 NPU 없이는 불가능에 가까워요.

 

🔹 두 번째 — AI 경량화 기술

모델 자체를 작게 만드는 기술이에요. 크게 두 가지 방법이 있어요.

 

양자화(Quantization): AI 모델의 숫자 정밀도를 줄이는 거예요. 32비트 숫자를 8비트, 심지어 1.58비트로 압축하면 용량이 수십 배 줄어요. 마이크로소프트는 2025년 '비트넷' 기술을 오픈소스로 공개했는데, 이를 활용하면 100B급 대형 모델도 20GB 수준으로 압축할 수 있어요.

 

프루닝(Pruning): 신경망에서 덜 중요한 연결을 잘라내는 거예요. 나무 가지치기처럼 불필요한 부분을 제거해서 가볍게 만들어요.

 

🔹 세 번째 — 저전력 고성능 메모리 (LPDDR)

AI 연산은 메모리를 엄청 많이 씁니다. 온디바이스 환경에서는 LPDDR(저전력 DRAM)이 핵심이에요. NPU가 연산을 빠르게 하더라도, 데이터를 빠르게 주고받을 메모리가 없으면 병목이 생기거든요. 차세대 규격인 LPDDR6가 현재 상용화 진입 단계에 있어요.

---

④ 국내 수혜 종목 상세 분석

이 기술 생태계에서 각 계층에 포지셔닝된 국내 종목들을 살펴볼게요.

🏭 칩스앤미디어 (094360) — 영상 전용 NPU IP

영상 처리 전용 NPU IP 'CMNP'를 개발한 기업이에요. 전 세계적으로 영상 전용 NPU를 독자 개발한 곳은 사실상 칩스앤미디어가 유일해요. 2024년 9월 중국 AI SoC 개발사와 대규모 NPU IP 공급 계약을 체결하며 실매출이 발생했어요. CES 2026에서는 이스라엘 기업 Visionary.ai와 협업한 세계 최초 'AI ISP'(소프트웨어 기반 영상처리장치)를 공개했어요.

 

어떤 상황에서 유리한가

스마트폰·자율주행·드론 등 영상 처리가 필요한 기기의 AI 탑재가 늘어날수록 수요가 직접적으로 늘어요. IP 라이선스 비즈니스 모델이라 설비 투자 없이 수익이 쌓이는 구조예요.

현재 시장 위치

NPU IP 시장의 선발주자이지만, 대형 글로벌 IP 기업(ARM, 시놉시스 등)과의 경쟁이 심화되는 구간이에요. 실적 가시화 여부가 변동성의 핵심 변수예요.

🏭 오픈엣지테크놀로지 (394280) — 엣지·자율주행 NPU IP

엣지 컴퓨팅과 자율주행용 NPU IP '인라이트(Inlight)' 시리즈를 보유한 시스템 반도체 IP 전문 기업이에요. TSMC의 공식 IP 파트너사예요. 2026년 4월에는 차세대 메모리 표준 LPDDR6와 LPDDR5X를 동시에 지원하는 인터페이스 IP의 첫 라이선스 계약을 체결했어요. 이는 국내 최초이자 전 세계에서도 시놉시스, 케이던스 등 극소수 기업만 보유한 기술이에요.

 

어떤 상황에서 유리한가

자율주행 확산 + 온디바이스 AI 동시 수혜 구조예요. 로봇과 자율주행 기기가 외부 연결 없이 스스로 판단해야 할수록 NPU IP 수요가 올라가요.

현재 시장 위치

LPDDR6 IP 상용화 계약이라는 구체적인 모멘텀이 확인된 상태예요. 실적 전환까지 시간이 걸릴 수 있어 기대감 반영 구간과 실적 반영 구간을 구분해서 볼 필요가 있어요.

🏭 퀄리타스반도체 — 온디바이스 AI 반도체 설계 IP

온디바이스 AI 반도체 설계 지식재산권(IP) 전문 기업이에요. 삼성전자의 파운드리 파트너사 중 하나예요. AI NPU가 본격 개화하면 설계 IP 수요가 함께 늘어나는 구조예요.

 

어떤 상황에서 유리한가

NPU 탑재 기기가 늘어나면서 반도체 설계 IP 수요가 구조적으로 증가하는 환경에서 수혜를 받는 흐름이에요.

현재 시장 위치

삼성 파운드리 의존도가 높아, 삼성 파운드리의 점유율 흐름과 함께 움직이는 경향이 있어요.

🏭 텔레칩스 (054450) — 차량용 AI 가속기

차량용 반도체 전문 팹리스(반도체 설계 전문 기업)예요. 2025년 NPU를 탑재한 차량용 AI 가속기 'A2X'를 출시했어요. 자동차가 '바퀴 달린 스마트폰'처럼 내부에서 AI를 처리하는 방향으로 진화하면서 직접 수혜 구간에 있어요.

 

어떤 상황에서 유리한가

자율주행 확산 속도와 차량 내 AI 기능 탑재 요구가 동시에 높아지는 시점에 수혜 강도가 높아져요.

현재 시장 위치

전통 차량용 인포테인먼트에서 AI 가속기로 포트폴리오를 확장하는 전환 구간이에요. 전환 속도에 따라 주가 반응이 달라질 수 있어요.

🏭 제주반도체 — AI 스마트폰용 LPDDR 메모리

온디바이스 AI 구현에 핵심적인 LPDDR(저전력 DRAM) 생산 기술을 보유하고 있어요. 처리 속도를 높이면서 전력 소모를 줄인 LPDDR 기술이 AI 스마트폰과 AIoT 기기 수요 확대와 직결돼요.

 

어떤 상황에서 유리한가

AI 스마트폰 출하 대수가 늘어날수록 수요가 늘어나는 구조예요. 5G IoT, 자동차 메모리 시장으로의 확장도 병행 중이에요.

현재 시장 위치

2025년 3분기 매출액이 전년 대비 67.7% 증가, 영업이익 141.8% 증가를 기록했어요. 실적 가시화가 확인된 구간이에요.

 

📍 제주반도체의 더 자세한 분석과 향후 주가 전망은 아래 포스팅에 담았습니다. 

제주반도체(080220) — 삼성·하이닉스가 버린 시장에서 혼자 웃는 이유 [2026 실적·전망 분석]

🏭 가온칩스 (399720) — 삼성 파운드리 디자인하우스

삼성 파운드리의 핵심 디자인 솔루션 파트너(DSP)예요. 팹리스가 설계한 NPU를 실제 생산 가능한 형태로 최적화해 주는 '설계 지원 전문 기업'으로, 국내 'NPU 설계 1위'로 평가받아요.

 

어떤 상황에서 유리한가

NPU 설계 수요가 늘어날수록 디자인하우스에 일감이 늘어나요. 온디바이스 AI 생태계 확장의 뒷단에서 구조적으로 수혜를 받아요.

현재 시장 위치

삼성 파운드리 점유율 회복 여부와 연동돼요. 삼성 파운드리가 TSMC 대비 점유율 열세 구간에 있는 점은 단기 변수로 작용할 수 있어요.

🔗 함께 읽으면 좋은 글

 

온디바이스 AI 기기의 핵심 부품이 NPU라면, 그 NPU가 돌아가기 위한 '공장'이 파운드리예요. 피지컬 AI와 한국 제조 생태계의 연결 고리가 궁금하다면 아래 글도 함께 확인해 보세요.
▶ 피지컬 AI — 한국이 세계 주도권 잡을 수 있는 이유, 수혜주 완전 정리
▶ 빅테크만 AI 쓰는 시대 온다 — 그 전에 사야 할 종목들

---

⑤ 데이터센터 반대 운동 — 전 세계가 동시에 막히고 있다

여기서 한 가지 중요한 흐름을 짚어야 해요. 데이터센터 건립을 둘러싼 주민 반발은 한국만의 이야기가 아니에요. 지금 이 순간 전 세계에서 동시에 벌어지고 있어요.

 

🌏 글로벌 현황 — 숫자로 보는 반대 운동의 규모

📊 Data Center Watch 집계 기준
· 지난 2년간 반대 운동으로 완전히 취소된 프로젝트: 약 180억 달러(약 25조 원)
· 지연된 프로젝트: 약 460억 달러(약 63조 원)
· 미국 37개 주에서 반대 페이스북 그룹: 268개, 회원 36만 명 이상 (2025년 12월 → 2026년 4월 사이 5배 증가)
· 반대 운동 활동 단체: 24개 주, 142개 이상

🇺🇸 미국 주요 사례

구글은 2025년 9월 인디애나폴리스에서 468에이커 부지에 대형 데이터센터를 짓겠다는 용도 변경 안건을 시의회 투표 직전 스스로 철회했어요. 수백 명의 주민이 반대 팻말을 들고 몰려들면서 부결이 확실시됐기 때문이에요. 버지니아주에서는 245억 달러(약 33조 원) 규모의 프린스 윌리엄 디지털 게이트웨이 프로젝트가 수년간의 반대 끝에 Compass Datacenters가 자진 철수했어요. 미시간주에서는 오픈AI의 70억 달러 스타게이트 데이터센터 계획에 농촌 주민들이 집단 시위를 벌이며 전기 요금 인상과 수자원 오염을 우려했어요.

 

입법 차원으로도 번지고 있어요. 메인주는 대형 데이터센터에 대한 18개월 모라토리엄(건립 일시 중단) 법안을 주의회에서 통과시켰어요. 비슷한 모라토리엄 법안이 뉴욕·사우스캐롤라이나·오클라호마·버몬트·위스콘신·조지아·메릴랜드·버지니아·사우스다코타 등에서 동시에 발의됐어요.

 

이제 국내 상황을 볼게요.

지금 한국에서도 데이터센터 건립을 둘러싼 갈등이 동시다발적으로 터지고 있어요.

실제 사례만 봐도: 서울 영등포구 문래동·양평동, 인천 미추홀구 도화동, 경기 안양시·고양시 식사동, 서울 금천구 독산동 등에서 주민 반대가 이어지고 있어요. 카카오 시흥DC, 부천 AI DC, NHN 김해DC는 건립 계획 자체를 아예 취소했고, 김포 데이터센터는 2021년 허가 이후 주민 반발로 착공까지 4년이 더 걸렸어요.

 

주민들이 반대하는 이유는 전자파·소음·열섬현상·화재 위험 등이에요. 영등포구청은 아예 건축법 개정을 국토부에 건의했고, 지방선거를 앞두고 '데이터센터 건립 차단'을 공약으로 내건 예비후보까지 등장했어요.

💡 투자 관점의 핵심 연결 고리
데이터센터 건립이 막힌다 → 클라우드 AI 인프라 확장이 제동 걸린다 → 클라우드를 거치지 않는 온디바이스 AI 수요가 구조적으로 앞당겨진다.

이건 단순한 테마 이야기가 아니에요. 클라우드 AI의 물리적 확장 한계가 온디바이스 AI의 필요성을 직접적으로 높이는 구조예요. 데이터센터 반대 운동이 거세질수록, 'AI를 내 기기 안에서 돌리는 기술'의 가치는 올라갈 수밖에 없어요.

물론 반대 시나리오도 있어요. 정부가 AI 데이터센터 특별법(인허가 일괄처리·타임아웃제 도입)을 통해 건립 속도를 강제로 높이면, 클라우드 확장 제동이 일시적으로 풀릴 수 있어요. 다만 주민 반발과 지방선거 변수가 겹쳐 있어, 단기간에 해소되기는 어려운 구조예요.

---

⑥ 리스크와 반대 시나리오

온디바이스 AI가 기대만큼 빨리 확산되지 않을 가능성도 있어요. 아래 세 가지 시나리오를 미리 알아두는 게 중요해요.

 

🔸 클라우드 AI 비용이 급격히 낮아지는 경우
온디바이스 AI의 핵심 이유 중 하나는 클라우드 비용 절감이에요. 만약 클라우드 추론 비용이 크게 낮아지면, 굳이 기기에서 직접 돌릴 이유가 줄어들 수 있어요.

 

🔸 AI PC·AI 스마트폰 수요가 예상보다 더디게 증가하는 경우
실제로 AI PC는 시장 선점을 위해 하드웨어가 소프트웨어보다 먼저 등장한 상황이에요. AI를 활용할 킬러 앱이 나오지 않으면 하드웨어만 팔리고 수요 성장이 지연될 수 있어요.

 

🔸 글로벌 대형 IP 기업과의 경쟁 심화
ARM, 시놉시스, 케이던스 등 글로벌 IP 기업이 NPU IP 시장을 선점하면 국내 기업들의 점유율 확보 속도가 느려질 수 있어요. 특히 소규모 팹리스·IP 기업은 대형 고객사 확보 여부가 실적 변동성을 크게 좌우해요.

 

🔸 고밸류에이션 리스크
온디바이스 AI 테마주 상당수가 PER 30배 이상의 고밸류에이션 구간에 위치해 있어요. 이익 실현이 본격화되거나 분기 실적이 기대에 못 미치면 20~40%의 빠른 조정 가능성도 열려 있어요.

📌 money-insight7의 결론

온디바이스 AI는 '아직 오지 않은 미래'가 아니에요. 갤럭시 S24부터 이미 시작됐고, 2026년 현재 AI PC 시장의 절반 이상이 NPU를 탑재하고 있어요. 가교 기술이란 결국 AI를 우리 손 안에 집어넣는 마지막 퍼즐이에요.

종목별로 보면, 실적이 이미 나오기 시작한 기업(제주반도체, 칩스앤미디어)과 기술 계약이 확인된 기업(오픈엣지테크놀로지), 그리고 생태계 확장에 따른 구조적 수혜 기업(가온칩스, 텔레칩스)으로 구분해서 보는 시각이 필요하다. 테마 기대감만으로 올라간 구간과 실적이 뒷받침되는 구간은 다르다. 이 차이를 구분하는 것이 손실을 피하는 가장 현실적인 방법이다.

📎 출처
· 삼일PwC경영연구원, 「제3의 IT혁명 디바이스 시대」, 2024
· 삼성증권 온디바이스 AI 시장 전망 보고서
· IT동아, 「2026년 NPU 기반 온디바이스 AI 활용도 높아진다」, 2026.03
· 인공지능신문, 「NPU란 무엇이고, 왜 온디바이스 생성 AI를 실현하는 데 핵심인가」
· 칩스앤미디어 공시 및 CES 2026 발표 자료
· 오픈엣지테크놀로지 LPDDR6 IP 라이선스 계약 보도자료, 2026.04