01华硕新迷你机算力惊人
产品:ROG ASTRAL 夜神 RTX5090 D O32G GAMING 华硕 显卡华硕近日发布了全新Ascent GX10迷你机,这款设备搭载了英伟达最新的NVIDIA GB10 Grace Blackwell Superchip芯片。这款芯片集成了Blackwell GPU和Grace CPU,专为紧凑设计优化,其AI算力高达1000 TOPS,能够轻松应对超过2000亿参数的大型语言模型(LLM)的运行需求。
Grace CPU部分包含20个Arm核心,专门用于增强数据预处理和编排能力,从而加速模型的调整和实时推理过程。此外,Ascent GX10还配备了高达128GB的LPDDR5X统一内存,为大型AI模型提供了充足的内存支持,确保运行流畅。
值得一提的是,Ascent GX10还支持通过集成的NVIDIA ConnectX-7 NIC网口进行本地扩展。用户可以将两台设备连接在一起,以处理更大规模的AI模型,如参数高达4050亿的Llama 3.1。
除了本地AI开发和测试,Ascent GX10还能与NVIDIA DGX Cloud等云端基础设施无缝对接,简化AI模型的原型设计、微调和迭代过程。