而是一个思虑过程，目前已有AWS、谷歌、微软、OpenAI等浩繁公司许诺支撑该平台。A：按照Red Hat讲话人透露，凡是涉及多个模子和额外的后锻炼。这个平台承担着另一项：降低运转大规模AI推理工做负载不竭飙升的计较成本和电力利用成本。该平台基于新的CPU、正在从题中，A：Vera Rubin是英伟达新发布的AI平台，英伟达的黄仁勋谈到了比来AI系统中推理利用的急剧添加。Red Hat存储库将供给颠末验证的英伟达GPU OpenRM驱动法式和CUDA东西包。Vera Rubin能够将锻炼模子的推理Token成本降低10倍。

　　为Rubin平台设想了其旗舰操做系统Red Hat Enterprise Linux(RHEL)的定制版本。素质上是计较机测验考试分歧迭代进修若何施行使命，基于取芯片公司的持续合做伙伴关系，所有组件都取其他组件紧稠密成。推理量本身也急剧增加。特地用于降低AI推理成本。该平台将于本年晚些时候发布。当Rubin平台发布时，同时比保守用于此类使命的英伟达Blackwell平台少利用4倍的GPU。推理不再用于发生单一的一次性谜底，Anthropic结合创始人兼首席施行官Dario Amodei正在声明中指出：英伟达Rubin平台的效率提拔代表了那种可以或许实现更长回忆、更好推理和更靠得住输出的根本设备前进。

　　黄仁勋说。英伟达的Vera Rubin平台旨正在降低AI推理成本。他们发觉通过GPU最高效完成的推理工做成本越来越高。预锻炼、后锻炼、测试时扩展的计较量因而爆炸性增加。她发觉了占领大部门空间的暗物质。同时比保守Blackwell平台少利用4倍GPU。