이제 AI는 일상생활은 물론, 다양한 업무에서 빠질 수 없는 존재가 됐다. 스탠퍼드 HAI 보고에 따르면 2024년 기준 전 세계 기업의 약 78%가 AI를 사용 중이며, 이는 계속 증가하고 있다. 글로벌 AI 시장도 향후 2025년~2030년까지 연 평균 35.9% 성장할 것으로 전망 중이다. AI는 이미 거의 모든 산업과 일상에 깊숙이 들어와 있으며, 다양한 분야에 걸쳐 사용이 늘고 있다.
이러한 상황에서 AI PC는 이제 선택이 아닌 필수다. 물론, 많이 사용하는 ChatGPT나 제미나이 등은 클라우드 기반 AI 서비스로 인터넷만 되는 일반 PC에서도 사용할 수 있다. 하지만 로컬에서 AI 모델을 직접 실행하거나 AI 기반 영상/음성 편집 툴, 온디바이스 AI 처리를 요구하는 MS(마이크로소프트) 코파일럿+(Copilot) PC에는 AI PC가 필요하다. 그렇다면 AI에 특화된 PC 왜 필요한지 알아보자. 온디바이스 AI 위한 CPU, 왜 필요할까?요즘 PC나 모바일 기기, 특히 윈도우 AI PC나 인텔 코어 울트라 프로세서 시리즈에는 AI 연산에 특화된 기술이 탑재되고 있다. 온디바이스 AI를 위한 CPU 혹은 전용 AI 가속기(NPU 등)를 내장한 CPU가 필요한 이유는 다음과 같다.먼저 클라우드 의존 없는 로컬 AI 처리 가능하다. 클라우드 방식으로 처리하는 AI 서비스는 인터넷 연결이나 보안 문제, 대기시간 등 제약이 존재한다. 하지만 온디바이스 AI 기반이라면 인터넷 없이도 AI 추론이 가능하고 실시간 응답이 필요할 때 즉각적인 반응을 제공한다. 게다가 민감한 데이터를 외부 서버로 보내지 않고 로컬로 처리해 개인정보도 보호한다. MS 코파일럿 또는 위스퍼(Whisper) 음성 모델은 인터넷 없이 PC에서 바로 작동한다.전력 효율도 뛰어나다. 기존 CPU나 GPU로 AI 연산을 하면 전력 소모가 크다. 반면, AI 연산에 특화된 최신 CPU에는 고속 벡터 연산이 가능한 AVX-512와 VNNI, INT8/FP16 양자화 연산에 최적화된 DL Boost(인텔 전용), 초저전력으로 AI 추론만 전담하는 NPU(AI 엔진) 프로세서가 탑재됐다. 따라서 전력 소모가 적고 발열도 적은 것이 장점이다.마지막으로 지연 없는 실시간 AI 경험이 가능하다. 클라우드 기반 AI는 네트워크 딜레이가 존재하지만, 온디바이스 AI CPU는 지연 없이 응답하므로 UX가 개선된다. 예를 들면 사진 앱에서 실시간으로 배경을 제거하거나 웹캠 영상의 얼굴 인식이나 배경을 흐리게 할 수 있다. 또한, 온디바이스 AI 기반 소프트웨어 내에서 번역이나 자막이 실시간 생성된다.