AI 노트북은 지금 바꿀 때가 아니라면, AI 기능 때문에 앞당길 이유는 크지 않습니다. 매장에서 “NPU가 몇 TOPS”라는 설명을 듣게 되지만, 그 성능을 실제로 쓰는 소프트웨어가 아직 많지 않습니다. 다만 어차피 교체 시기라면 얘기가 다릅니다 — 같은 값이면 NPU가 있는 쪽이 낫고, 사양표에서 무엇을 봐야 하는지도 정해져 있습니다.
NPU가 뭐고, 왜 사양표에 등장했나요?
AI 연산만 전담하는 부품입니다. CPU가 만능 일꾼, GPU가 그래픽 담당이라면 NPU는 AI 계산 전용입니다.
같은 작업을 CPU로도 할 수 있는데 왜 따로 넣느냐면, 전력 효율 때문입니다. 배경 흐림이나 실시간 자막 같은 기능을 CPU로 계속 돌리면 배터리가 빨리 닳고 팬이 돕니다. NPU는 같은 일을 훨씬 적은 전력으로 처리합니다.
| 부품 | 역할 | AI 작업 시 |
|---|---|---|
| CPU | 범용 연산 | 가능하지만 전력 소모 큼 |
| GPU | 그래픽·병렬 연산 | 빠르지만 전력 소모 매우 큼 |
| NPU | AI 전용 | 느리지만 전력 효율 최고 |
이 구조를 이해하면 NPU가 없다고 AI 기능을 못 쓰는 게 아니라는 점도 분명해집니다. 없으면 CPU·GPU가 대신 하고, 대신 배터리가 빨리 닳습니다.
TOPS 숫자, 그대로 믿어도 되나요?
40 이라는 숫자가 어디서 나왔는지는 문서에 그대로 적혀 있습니다. 마이크로소프트 개발 문서에서 볼 곳은 제목 바로 아래 첫 문단입니다. Copilot+ PC 를 “AI 집약적 프로세스를 위한 특수 하드웨어 칩인 NPU 를 통해 구동되는” 하드웨어 등급으로 정의하면서 “TOPS(초당 40조 이상의 작업)”라는 조건을 함께 답니다. 사양표의 TOPS 는 이 기준선과 비교할 때만 의미가 생깁니다.
브랜드를 넘나드는 비교에는 쓰기 어렵습니다. TOPS는 초당 처리 가능한 연산 횟수인데, 측정 조건이 제조사마다 다릅니다.
- 합산 수치 주의 — “시스템 전체 TOPS”는 CPU+GPU+NPU를 더한 값입니다. NPU 단독 성능과 다릅니다
- 정밀도 조건이 다름 — 어떤 연산 정밀도 기준인지에 따라 숫자가 크게 달라집니다
- 실사용과의 간극 — 숫자가 커도 그 성능을 쓰는 소프트웨어가 없으면 의미가 없습니다
실무적으로는 “내가 쓸 기능이 이 노트북에서 지원되는가”를 보는 편이 정확합니다. 제조사가 안내하는 기능 목록이 TOPS 숫자보다 유용합니다.
온디바이스 AI 뜻과 NPU 온디바이스 AI 뜻과 NPU — 원리부터
실제로 뭐가 달라지나요?
| 기능 | NPU가 주는 이점 | 체감 |
|---|---|---|
| 화상회의 배경 처리·시선 보정 | 배터리 소모·발열 감소 | 높음 |
| 실시간 자막·번역 | 인터넷 없이 동작 | 높음 |
| 사진 보정·객체 제거 | 즉시 처리, 파일 유출 없음 | 중간 |
| 음성 받아쓰기 | 대화 내용이 기기에 머무름 | 중간 |
| 문서 요약·글쓰기 보조 | — | 낮음 (클라우드가 더 나음) |
가장 확실한 이득은 화상회의와 실시간 처리입니다. 재택근무로 회의가 잦다면 배터리 차이를 체감합니다. 반대로 글 쓰는 데 AI를 쓰신다면 NPU가 있어도 결국 클라우드 서비스를 쓰게 됩니다.
원리는 온디바이스 AI 해설에 정리해 두었습니다.
지금 사야 할까요?
| 내 상황 | 권장 | 이유 |
|---|---|---|
| 지금 노트북이 멀쩡함 | ❌ 기다리기 | 쓸 만한 기능이 아직 제한적 |
| 어차피 교체 시기 | ✅ NPU 있는 쪽 | 같은 값이면 확장성 확보 |
| 화상회의가 잦음 | ✅ 검토 가치 있음 | 배터리·발열에서 실이득 |
| 회사 문서·민감 자료 | ✅ 검토 가치 있음 | 데이터가 기기 밖으로 안 나감 |
| 해외 출장·오프라인 多 | ✅ 검토 가치 있음 | 네트워크 없이 통역·자막 |
| 글쓰기·요약 용도 | 🔺 굳이 아님 | 클라우드 서비스가 더 나음 |
| 게임·영상 편집 위주 | ❌ GPU에 투자 | NPU는 이 작업에 관여 안 함 |
마지막 줄이 중요합니다. NPU는 게임 성능이나 영상 렌더링을 빠르게 하지 않습니다. 그 용도라면 같은 예산을 GPU에 쓰는 편이 낫습니다.
알아둘 한계
- 저장 공간을 씁니다 — AI 모델이 기기에 저장됩니다. 수 GB를 차지하는 경우가 있습니다
- 기존 노트북은 대부분 업데이트로 안 됩니다 — 하드웨어에 의존하는 기술이라 소프트웨어만으로 해결되지 않습니다
- “AI 탑재”라고 다 같지 않습니다 — 같은 브랜드 안에서도 상위 모델에만 열리는 기능이 있습니다
- 일부 기능은 여전히 서버를 씁니다 — 온디바이스를 내세워도 인터넷이 필요한 기능이 섞여 있습니다
구매 전 체크리스트
- 내가 쓸 AI 기능을 구체적으로 적어봤는가? (없다면 서두를 이유도 없습니다)
- 그 기능이 해당 모델에서 지원되는지 제조사 페이지에서 확인했는가?
- TOPS가 NPU 단독 수치인지 합산인지 확인했는가?
- AI 모델 저장 공간을 감안해 SSD 용량을 잡았는가?
- 램은 16GB 이상인가? (AI 기능은 메모리도 씁니다)
- 같은 예산에서 CPU·GPU를 올리는 선택지와 비교해 봤는가?
자주 묻는 질문
NPU 없는 노트북은 이제 못 쓰나요?
전혀 아닙니다. 대부분의 AI 기능은 클라우드로도 쓸 수 있고, 기기 내 처리도 CPU·GPU가 대신합니다. 배터리 소모가 더 클 뿐입니다.
맥과 윈도우 중 어느 쪽이 나은가요?
양쪽 다 자체 AI 기능을 넣고 있어 NPU 유무로 갈리는 문제는 아닙니다. 평소 쓰는 소프트웨어와 생태계로 고르시는 편이 맞습니다.
내 데이터가 정말 밖으로 안 나가나요?
해당 기능이 온디바이스로 처리될 때만 그렇습니다. 같은 기기에서도 기능마다 처리 방식이 다릅니다. 제조사가 공개한 기능별 안내를 확인하세요.
1~2년 뒤에 사는 게 낫지 않나요?
기술이 발전하는 건 맞습니다. 다만 지금 노트북이 불편하다면 그 1~2년의 불편이 더 큽니다. “AI 때문에 앞당기지는 말되, 교체 시기라면 있는 쪽으로” 정도가 현실적입니다.
함께 보면 좋은 글
지원 기능과 사양은 제조사·모델별로 다르며 소프트웨어 업데이트로 변경됩니다. 구매 전 공식 제품 페이지에서 기능 목록을 직접 확인하시기 바랍니다.
“AI 노트북, 지금 사야 할까? NPU와 TOPS 읽는 법”에 대한 2개의 생각