|
OpenAI憋了许久的第一颗自研推理芯片Jalapeño,终于把真实跑分甩出来了。
战绩非常炸裂。以前做AI硬件总要在吞吐量大和响应速度快之间二选一,Jalapeño一套架构直接全拿下,不仅每度电能处理更多的任务,吐字速度也大幅跃升。
实测推理跑分:全面压制英伟达,通测三个开源大模型
为了验证实际表现,OpenAI在SemiAnalysis的公开基准测试InferenceX上对Jalapeño进行了全面评估。测试覆盖了从高吞吐量到超低延迟的高交互场景,并以每单位功耗所能完成的AI有效工作量作为核心对比标准。
在测试的模型阵列中,不仅包含了GPT-OSS 120B,还直接拉来了DeepSeek R1(670B)以及Kimi K2.5 1T进行跨团队实测:
能效比提升:在峰值吞吐量下,Jalapeño每瓦处理的AI任务量英伟达GB200/GB300的1.5至1.9倍。
|