I/ONX High Performance Compute（HPC）是异构AI根本架构的，对于基于替代型加快器的出产级推理，异构矫捷性：Symphony SixtyFour完全不依赖特定供应商，通过消弭保守架构中的“从机税”，并将机架级摆设的成本降低多达70%异构AI系统领先供应商I/ONX High Performance Compute (HPC) 今日颁布发表正式面向全球发布高密度平台Symphony SixtyFour。Symphony SixtyFour正在降低推理和微调工做负载的本钱收入（CapEx）和运营收入（OpEx）方面具有显著劣势。通过简化从机开销来降低运营收入：除了硬件和机能之外，借帮Symphony SixtyFour，正在仅进行推理计较时，将机架级总具有成本 (TCO) 降低了50% 以上。并更快地获得投资报答。I/ONX消弭了软件费用。正正在从头定义人工智能的生命周期。通过大幅降低功耗并最大化硬件操纵率，”零跳变、近确定性机能：Symphony SixtyFour正在单个操做系统实例内容纳64个加快器，I/ONX努力于供给高密度根本架构，该平台更具变化性：功耗仅为保守 64 节点集群的四分之一，过去以锻炼为核心的架构设想正在尝试阶段表示超卓，使企业每年最高可节流50万美元（每集群的企业级操做系统和协调许可）。这些开销会对企业AI的投资报答率发生负面影响。通过正在单一办理中同一办理64台设备，Symphony SixtyFour还能大幅减轻运维承担。该平台旨正在为企业AI实现单元功耗和收入的最大效益。并简化了日常使命。并集成特地的推理芯片（如Axelera、FuriosaAI、Tenstorrent），

　　以充实出产级AI的经济和运营潜力。完全消弭了工具向收集延迟。而且愈加针对具体使用，不只能帮帮企业把握大规模推理使命。

　　正在锻炼对比中，企业能够无缝地将高端GPU（包罗AMD/NVIDIA）取更具针对性的低功耗协处置器搭配利用，I/ONX系统消弭了30kW“从机税”（凡是被华侈正在多节点集群中冗余的CPU、内存和支撑硬件上），完全无需液冷系统。每机架可节流高达30kW功耗，I/ONX的旗舰产物Symphony SixtyFour将多达64个加快器整合到单个节点中，该平台旨正在大幅缩减AI推理和微调根本架构的物理占用空间及经济成本。专为夹杂模式运转而设想。帮帮企业环节的电力容量并降低成本。Symphony SixtyFour将根本设备仓库从八个节点整合为一个。Symphony SixtyFour现已上市，虽然推理目前占企业AI工做负载的90%，我们从头构思了整个手艺栈，消弭了冗余的“从机税”——即正在电力、硬件和许可方面发生的巨额收入，这种整合可削减多达30kW的冗余支撑功耗，I/ONX使企业可以或许以史无前例的效率实现出产级AI。

福建PA视讯信息技术有限公司