오픈AI의 맥 매집… 애플, 뜻밖의 AI 인프라 수혜

AI 랩 수요 집중으로 고스펙 맥 제품군 품귀 현상 심화

서버 사업을 접은 애플이 AI 랩들의 학습용 하드웨어 공급처가 된 경위 애플은 오래전 서버 사업을 접어 지금은 데이터센터용 서버 제품을 팔지 않는데, 오픈AI는 최근 수개월간 디스플레이와 키보드를 뺀 맥 미니와 맥 스튜디오를 수만 대 사들여 자사 인프라 안에서 전용 머신으로 돌리고 있고, 앤트로픽도 AWS를 통해 맥 미니를 빌려 비슷한 작업에 쓰고 있다.

AWS가 자체 AI 가속기를 갖춘 대형 클라우드 사업자라는 점을 감안하면, 맥이 특정 작업에서 갖는 강점 때문인듯 하다.

애플 하드웨어만으로 네오클라우드를 구축하는 마운트 토르 같은 스타트업도 등장했고, 애플은 맥 여러 대를 묶어 조 단위 파라미터 모델을 로컬에서 돌릴 수 있게 해주는 EXO 랩의 오픈소스 소프트웨어를 홍보하고 있다.

에이전트 학습에서는 기계 한 대의 연산 성능보다 독립적으로 돌아가는 환경의 개수가 관건이 된다 이런 수요는 에이전트 학습이 대규모 사전학습과 요구하는 조건이 달라서 생긴다.

컴퓨터 조작 에이전트(computer-use agent)는 사람처럼 소프트웨어를 다루도록 설계돼 화면을 탐색하고 코드를 고쳐 테스트하며 여러 단계짜리 작업을 처리하는데, 강화학습은 이 시스템을 반복 행동과 피드백, 실패를 통해 개선하기 때문에 에이전트가 화면을 보고 애플리케이션을 조작하고 오류에서 복구할 수 있는 환경 자체가 대량으로 필요하다.

그래서 이 영역에서는 독립적으로 돌아가는 환경을 몇 개 확보하느냐가 중요해지는데, CPU와 GPU, 뉴럴 엔진이 메모리 풀 하나를 공유하는 애플의 통합 메모리 구조는 이런 작업에서 일반 데스크톱보다 효율적으로 작동한다.

여기에 TCP/IP 스택을 거치지 않고 기기 간 저지연 연결을 만드는 썬더볼트 5까지 더해지면서 여러 대를 묶어 에이전트를 돌리기에 적합한 조합이 됐다는 평가가 나온다.

엔비디아의 초소형 AI 슈퍼컴퓨터 DGX 스파크(DGX Spark)는 같은 수요를 통합 메모리 대신 CUDA와 텐서 코어 기반의 전용 GPU 연산으로 공략하는 대안인데, RTX 스파크 기반 PC는 ASUS와 MSI가 1차 물량을 이미 소진하고 추가 공급을 요청한 상태다.

개발자 개인들도 에이전트를 상주시킬 전용 머신으로 맥을 사들이고 있다 개인 개발자들 사이에서도 AI 에이전트를 클라우드 서버 대신 별도 컴퓨터에서 직접 돌리려는 수요가 늘어, 오픈클로 같은 소프트웨어로 자체 에이전트를 구성하고 이를 24시간 띄워둘 전용 맥 미니를 따로 두는 사례가 나오고 있다.

맥 스튜디오는 연구자들이 로컬에서 모델을 미세조정하고 배포하는 용도로 쓰인다.

다만 개인의 구매 동기는 병렬 환경을 확보하려는 AI 랩과 달라서, 한 대에 얼마나 큰 모델을 올릴 수 있는지와 에이전트를 상시 켜둘 수 있는지가 기준이 된다.

같은 예산에서 확보되는 메모리 용량, 그리고 전력과 발열이 관건이다.

다만 개인 구매는 금액 기준으로 하이퍼스케일러 설비투자와 견줄 규모가 아니고, 로컬 구동 자체도 컨텍스트 처리 범위와 절대 성능에서 클라우드 모델에 미치지 않는다.

AI 인프라 지출이 대규모 GPU 클러스터 밖으로 확장되며 지난 2년간 AI 인프라 지출은 학습용 대규모 GPU 클러스터를 누가 더 확보하느냐였고, 하이퍼스케일러들은 매출의 두 자릿수 비중을 설비에 투자했다.

에이전트가 상품화 단계에 들어가면서 강화학습 환경을 병렬로 대량 확보하는 비용과 추론을 어디서 돌릴지의 문제가 함께 떠올랐는데, 이 영역에서는 칩 한 장의 성능보다 메모리 용량과 대수당 단가, 전력, 발열이 관건이라 기준이 다소 다르다.

애플은 데이터센터를 짓거나 클라우드를 팔지 않고 파운데이션 모델 경쟁에서 앞서 있지도 않은 상태에서 AI 인프라 매출을 얻고 있으며, 7월 말 기준 설비투자는 매출의 2% 수준으로 하이퍼스케일러와 비교되지도 않는다.

AI 랩들은 소비자용 애플 제품을 소비자 채널에서 사서 직접 쌓고 있다.

다만 수요가 견고하진 않다.

AI 랩들이 지금은 CUDA 생태계 밖에서 돌리는 데 따르는 비용을 감수하고 있지만 엔비디아가 소형 폼팩터에서 같은 메모리 용량대를 채우면 그 비용을 낼 이유가 사라지고, 메모리 반도체 부족이 풀리면 가격 경쟁도 시작된다.

애플이 M6 프로·맥스·울트라를 건너뛰고 M7 계열을 앞당긴다는 계획과 브로드컴과 개발 중인 자체 AI ASIC '발트라(Baltra)'로 2027년 데이터센터를 세운다는 계획은 이 방향을 인지한 대응으로 보인다.