미국 기술 스타트업 티니AI가 세계에서 가장 작은 인공지능(AI) 슈퍼컴퓨터를 개발했다고 라이브사이언스 등 외신이 최근 보도했다.

회사 측에 따르면 이 슈퍼컴퓨터는 주머니에 쏙 들어가는 작은 크기에도 불구하고 자율적인 문제 해결, 추상적 추론, 전략적 계획 수립 등 고성능 AI 모델을 구동할 수 있는 것이 특징이다.‘AI 포켓랩’이라는 이름의 이 장치는 인터넷 연결 없이도 최대 1200억 개 매개변수를 가진 대형언어모델(LLM)을 로컬 환경에서 실행할 수 있다. 일반적으로 이런 규모의 모델을 구동하려면 데이터센터급 인프라가 필요하지만, 이 기기를 활용하면 전문가 수준의 코딩, 문서 평가 및 개선, 다단계 추론 등의 작업을 로컬에서 수행할 수 있다.

현재 포켓랩에서 실행 가능한 모델로는 오픈AI의 오픈소스 모델 GPT-OSS 120B를 비롯해 대규모 Phi 모델, 매개변수가 많은 메타의 라마 계열 모델 등이 포함된다.

제품은 스마트폰과 노트북 등에 사용되는 12코어 ARM 프로세서를 기반으로 제작됐다. 크기는 14.2×8×2.53cm로 작지만 80GB의 LPDDR5X 메모리를 탑재했다. 참고로 현재 대부분의 노트북은 8~32GB 수준의 메모리를 갖춘다.