로그인폼
방송편성표 닫기
AI PC 왜 필요하지? GPU와 어떻게 다르지?
작성일 : 2025-06-16 02:16:30조회 : 26점수 : 0
-
- ㅇㅅㅎ04
- BEST3
- 출석 : 335일
- Exp. 47%
- [등록된 소개글이 없습니다]
현재 인공지능의 그 기술적 뿌리는 ‘확률 계산’에 있다. 우리의 뇌는 신경망을 통해 정보를 기억하고, 그 사이의 관계를 바탕으로 새로운 통찰력을 얻어낼 수 있다. 이런 지적 능력을 이야기하는 ‘지능’은 사람의 고유한 능력으로 꼽힌다.
인공지능이라는 말은 ‘사람이 빚어낸 지능’이라는 뜻을 품고 있다. 그렇다면 정말 컴퓨터가 사람의 뇌처럼 사고를 통해 글을 만들어 내고, 그림을 그리고, 음악을 지어내는 것일까? 그건 아니다. 대신 사람이 생각하고 행동하는 것과 비슷한 결과물을 내도록 만들어진 기술이라고 보는 쪽이 정확하다. 그리고 그 과정도 실제 우리의 뇌를 구성하는 뉴런들이 작용하는 것을 본따 만들어진다.
생성형 AI에 대한 고도화에 뒤따르는 여러가지 고민 거리 중 가장 큰 것은 역시 ‘컴퓨팅 파워’다. 챗GPT를 운영하는 오픈 AI는 수 만 대의 GPU를 쓰고 있고, AI 기업들 뿐 아니라 국가들까지 앞다투어 GPU 확보에 열을 올리는 것이 현재의 컴퓨팅 시장의 상황이다.
현재로서는 AI를 처리하는 가장 좋은 방법은 GPU의 작은 코어들에게 일을 나누어 주는 병렬 연산에 있고, 오랫동안 인공지능과 관련된 대부분의 기법들이 이 GPU를 중심으로 처리되어 오면서 사실상 ‘AI = GPU’라는 상관 관계가 만들어진 것이다.
그런데 돌아보면 PC의 구조는 CPU와 메모리, 저장장치, 그리고 GPU로 이루어졌다. PC에는 이미 무시할 수 없는 수준의 GPU가 들어가 있고, ‘고성능 게이밍 PC’의 또 다른 이름은 ‘AI 워크스테이션’이라고 할 수 있을 만큼 비슷한 구조를 갖고 있다. 이미 PC는 ‘AI PC’라는 이름이 없어도 인공지능에 최적화가 되어 있는 상황이다.
AI PC, 혹은 코파일럿 PC로 불리는 새로운 형태의 PC들이 시장에 등장하고 있다. 이 PC들의 가장 큰 차이는 NPU, 혹은 뉴럴 프로세서로 불리는 별도의 인공지능 전용 처리장치가 더해지는 것이다. 인텔과 AMD는 기존의 프로세서에 NPU를 더해 AI PC용 프로세서를 내놓고 있다. 마이크로소프트가 지속적으로 신경 쓰는 ARM 아키텍처 기반 PC에 쓰이는 퀄컴 프로세서 역시 자체적으로 AI 엔진을 품었다. 넓게 보면 애플은 M1 프로세서 이후의 모든 맥이 뉴럴 엔진을 품고 있는 AI PC다.
마이크로소프트는 40TOPS, 1초에 40조 번의 정수 연산을 처리할 수 있는 NPU를 품고 있는 PC에 대해 ‘코파일럿+PC’라는 이름의 별도 인증을 해 주고 있다. 윈도우11은 이를 통해서 화상 회의 중에 배경 흐림 처리를 하거나, 오디오의 잡음을 줄이고, 카메라에 비치는 시선이 카메라를 통해 눈을 맞추는 것처럼 보이도록 하는 효과를 입힌다. 또한 윈도우11의 이용 내역을 모두 기록하고 분석하는 ‘리콜(Recall)’을 비롯해 코파일럿 대화 등에도 이 프로세서의 역할을 단계적으로 더할 계획이다.
하지만 윈도우는 생성형 AI에는 아직 직접적으로 NPU를 쓰지 않는다. AI PC에 기대하는 부분 중 하나가 대규모 언어모델이나 이미지 AI 등 생성형 AI이지만 현재의 NPU는 역할이 다소 다르다. 기술적으로 풀어보면 현재의 NPU는 행렬을 통한정수 연산에 최적화되어 있다. 반면 일반적인 생성형 AI는 부동소수점을 비롯해 다양한 형태의 범용 연산을 모두 처리할 수 있다.
현재 생성형 AI의 뼈대를 이루는 ‘트랜스포머’ 알고리즘은 단어를 비롯해 학습하는 모든 것들 사이의 관계를 입체로 구성하고, 그 사이의 관계를 거리로 표현한다. 이 과정을 흔히 ‘학습(Training)’이라고 부르는데, 이 과정에서 막대한 컴퓨팅 파워가 필요하고, 반대로 이렇게 만든 모델을 통해 새로운 결과물을 뽑아내는 ‘추론(inference)’에도 높은 GPU 성능이 필요하다. 대부분의 대규모 언어 모델 서비스들이 단어 하나씩 천천히 답을 내는 이유도 컴퓨팅 파워와 관련이 있다.
이 같은 처리는 NPU 대신 GPU가 훨씬 높은 성능을 낸다. 실제로 현재 AI PC들도 대규모 언어 모델이나 이미지 생성에는 모두 GPU를 이용해서 연산을 처리한다. AI PC라고 불리지만 GPU에 대한 의존도는 전혀 줄어들지 않는다고 보면 된다. 단적으로 스테이블 디퓨전으로 이미지를 만들 목적으로 PC를 구입한다면 AI PC보다 GPU 성능이 뛰어난 PC를 고르는 편이 옳다.
해당 게시물에 음란물(아동 포함), 도박,광고가 있거나 바이러스, 사기파일이 첨부된 경우에 하단의 신고를 클릭해주세요.
단, 정상적인 게시물을 신고할 시 사이트 이용에 불이익을 받으실 수 있습니다.
ㅇㅅㅎ04 님의 최근 커뮤니티 글.
댓글 0개
Copyright Luckyworld.net All rights reserved.
