AMD Ryzen AI Halo, $4k AI 개발 키트 출시

AMD Ryzen AI Halo: AI 개발 키트

AMD Ryzen AI Halo는 Zen 5 아키텍처에 기반한 미니 PC로, AI 개발을 간소화하기 위해 설계되었습니다. 이 제품은 16코어, 32스레드의 AMD Ryzen AI Max+ 395 프로세서를 중심으로 구성되어 있으며, AMD Radeon 8060S 통합 그래픽과 NPU(Neural Processing Unit)를 탑재하고 있습니다. 이 NPU는 과거에는 많이 사용되지 않았으나, 이제는 활용이 가능합니다.

하드웨어 구성

Ryzen AI Halo는 단일 하드웨어 구성으로 제공되며, 2TB M.2 SSD와 128GB의 통합 LPDDR5x-8000 메모리를 탑재하고 있습니다. 이 메모리는 256GB/s의 대역폭을 제공하여, 시스템 운영을 위한 공간을 남겨두면서도 적당한 크기의 모델을 메모리에 로드할 수 있습니다.

사양 비교

CPU: 16코어 Zen 5 AMD Ryzen AI Max+ 395
GPU: 통합 40 RDNA 3.5 컴퓨팅 유닛 AMD Radeon 8060S
NPU/Tensor: AMD XDNA 2 NPU
메모리: 128GB LPDDR5x-8000 통합 메모리
메모리 대역폭: 256GB/s
저장소: 2TB

가격 및 운영체제

AI Halo는 $3,999.99 USD에 구매할 수 있으며, Windows 11 Pro 또는 Linux가 사전 설치되어 제공됩니다. 사용자는 원하는 운영체제를 설치할 수 있지만, AMD는 '공장' Linux 및 Windows 설치(패키지 드라이버, 프로그램 및 모델)를 제공하지 않습니다.

디자인 및 연결성

Halo는 크기가 매우 작으며, 15cm x 15cm의 정사각형 형태로, 높이는 5cm 미만입니다. 무게는 1.2kg이며, 240W 전원 어댑터가 필요합니다. 후면에는 전원 버튼과 모든 포트가 배치되어 있으며, 네 개의 USB 3.2 Type-C 포트, HDMI 2.1 포트, 10GbE 이더넷 포트가 있습니다. Wi-Fi 7과 Bluetooth 5.4도 지원합니다.

성능

AMD Ryzen AI Max+ 395 프로세서는 이미 2025년 봄부터 사용 가능했으며, Halo는 이와 관련하여 새로운 것을 제공하지 않습니다. 2TB SSD와 128GB 메모리는 예상대로이며, 다른 하드웨어에서도 이미 보았습니다. 주요 초점은 '배터리 포함' 소프트웨어입니다.

테스트 방법

테스트는 llama-bench를 사용하여 수행되었으며, 이는 llama.cpp와 함께 제공되는 벤치마킹 도구입니다. llama-bench는 프롬프트 처리(pp)와 토큰 생성(tg)의 두 가지 주요 테스트를 수행합니다.

기본 llama-bench 테스트

기본 테스트는 pp512/tg128 구성으로, 사용자가 512개의 토큰을 제공하고 LLM이 128개의 토큰을 생성하는 것을 시뮬레이션합니다. AMD Halo는 Framework Desktop, Mac Studio M2 Ultra 및 M3 Ultra와 함께 테스트되었습니다. Apple Silicon Mac Studio는 AMD Ryzen AI Max+ 395 기계를 능가했으며, 이는 주로 더 높은 메모리 대역폭 때문입니다.

소프트웨어 및 가치

Halo의 독특한 점은 AMD Ryzen AI Developer Center, '최적의 구성'(BKC) 및 지속적인 1차 지원의 약속입니다. AMD는 Linux 및 Windows 버전으로 제공되며, 사용자는 원하는 운영체제를 설치할 수 있습니다. 그러나 공장 구성은 제공되지 않습니다.

AMD AI Playbooks

AMD AI Playbooks는 AMD 하드웨어를 사용하는 모든 사람에게 AI 워크로드를 탐색할 수 있는 간단한 튜토리얼을 제공합니다. Playbooks는 AI Halo에 중점을 두고 있으며, Radeon GPU용 버전도 제공됩니다.

NPU 활용

AMD의 Lemonade를 사용하여 XDNA 2 NPU에서 LLM을 실행할 수 있었습니다. NPU는 이름 외에는 그다지 화려하지 않지만, 에너지 효율성이 뛰어납니다. 이는 센서의 빠른 처리에 유용하며, CPU와 GPU가 주요 작업에 전념할 수 있도록 합니다.

결론

AMD Ryzen AI Halo는 AI 개발을 위한 강력한 도구로, 소프트웨어와 하드웨어의 통합을 통해 사용자가 쉽게 시작할 수 있도록 지원합니다. 이 제품은 특히 AMD 하드웨어와의 호환성을 강조하며, AI 개발자에게 많은 가능성을 제공합니다.

파이랩 정리