Your current location:Home > Latest news text

惊声尖笑

OpenAI 秀肌肉,与博通共研的 Jalapeño 芯片将向英伟达 GB300 发起挑战_我的网站

罗生门

一 |     《日报》全媒体记者 张宝程          “早晨起来公鸡叫‘喔喔’......少年精神抖擞上学校‘嘻嘻’......田间村民辛勤劳作‘哈哈’......”。     8 月 25 日消息,OpenAI 今天(25 日)晚间在 Hot Chips 大会上公布了全新推理系统 Jalapeño 的更多细节,并首次披露基准测试成绩。在 SemiAnalysis 的 InferenceX 测试中,Jalapeño 无论是单用户 token 处理量,还是每千瓦吞吐量,都超过了目前市面上的顶尖推理处理器。

二 | OpenAI 硬件负责人理查德 · 何在媒体电话会上表示:“测试结果最重要的一点,是 Jalapeño 相比目前最先进的产品实现了非常显著的性能提升。这一幅幅美妙的画卷,不是歌唱者演绎的,也不是画家泼墨的,而是南票区高桥镇非遗传承人刘俊梅用剪刀在红纸上剪出来的。         刘俊梅在剪纸的道路上默默耕耘了几十年,从没有放弃。时至今日,她的技艺用行家及剪纸爱好者的话来说,达到了行云流水、左右逢源、上下纷飞、手法通透的境界。         2月17日,记者在刘俊梅的工作室见到她时,她正在创作。谈及剪纸的素材来源,她说,多数取决于民间故事、连环画、神话小说等题材。现实主义的也有,但不多。它可以用相同的电力处理更多 AI 工作负载,同时更快给出响应。

三 | “我是土生土长的农村人,长期生活在农村。

四 | 这些年来,见证了家乡日新月异的变化。街道宽敞整洁了,房屋漂亮明亮了,人们的生活水平一天比一天好。

五 | Jalapeño 既适合高效服务大量用户,也能保持很低的延迟。这些我都看在眼里,喜在心上。”Jalapeño 由 OpenAI 与博通共同开发,OpenAI 自有模型也参与了研发。不久前,我突发灵感,何不用自己的剪刀,剪出和美乡村的原貌呢?”          摄影、歌唱、舞蹈等艺术形式融入非遗因素,老百姓越来越喜欢,让刘俊梅的创作情感异常丰富,她静下心来,脑海中勾勒出多幅美妙的图画,然后将其拼接在一起,用了15天时间,剪出一幅长2米、宽0.6米的《锦绣家园》图。

六 |          “农村的一天生活,从早上五六点钟鸡鸣狗叫开始,村民起床,收拾家务,做热气腾腾、丰盛的早饭。OpenAI 希望把 Jalapeño 发展成一个能够延续多代的技术平台,使 AI 产品、模型、芯片和内存从一开始就协同设计。

七 | 孩子们吃饱喝足,穿上干净的校服,迎着朝阳坐校车上学。这款芯片主要负责 AI 推理,也就是让已经训练好的 AI 模型真正运行起来,完成任务或驱动 AI 智能体。”刘俊梅说,“这幅作品从左至右看,家庭成员的所有成员,包括鸡鸭,从崭新的一天开始,都动起来、活跃起来,人间烟火气逐渐升腾。

八 | OpenAI 使用 InferenceX 平台测试 Jalapeño 的推理性能,并与英伟达 GB200 和 GB300 超级芯片系统进行比较。OpenAI 称,在 GPT-OSS 120B、DeepSeek R1 和 Kimi K2.5 1T 三个模型上,Jalapeño 每瓦能够完成的 AI 工作量是对比系统的 1.5 至 1.9 倍,端到端延迟则约为对比系统的 28% 至 59%。”          在这幅作品里,作为女性,刘俊梅表现了她细腻的手法,从连贯性、写实性,到细节处理等,无不表现一名民间艺术工作者的匠心。

九 | 全栈协同开发也让 OpenAI 能够直接优化推理过程中最容易拖慢速度的环节。“田间里插秧的、路上开车的、带孩子遛弯的、大棚里收蒜苗的......几乎囊括了农村幸福生活的所有细节。Jalapeño 重点降低预填充和通信阶段的延迟,而这两个环节在 OpenAI 看来往往是推理性能的主要瓶颈。OpenAI 在公布测试结果的博客文章中提到,Jalapeño 从设计之初就尽量减少数据搬运和通信延迟。”          “政府对非遗越来越重视,不久前,我参加了镇里、区里的迎春晚会,剪纸作品受到了很多观众喜爱。我一定要以此为契机,坚守初心,创作出更多反映农村生活题材的作品,赞美新农村,讴歌新时代。”刘俊梅说。         刘俊梅在作品前讲述创作始末。         《日报》全媒体记者 张宝程 摄。

十 | 生成响应时使用的 KV 缓存等模型状态可以明确存放并保留在本地,系统再根据不同推理阶段,调配合适的计算、内存和网络资源。据了解,OpenAI 计划在今年年底前先“小规模”部署 Jalapeño,2027 年再逐步扩大部署量,但没有公布明年具体会投入多少芯片。参考广告声明:文内含有的对外跳转链接(包括不限于超链接、二维码、口令等形式),用于传递更多信息,节省甄选时间,结果仅供参考,包含外链的文章均包含本声明。

Current article:http://www.lindunfokangliucishirun.shop/list_9huj/hlz.html

Published on:04:58:21


Related reading
Copyright © 2020-2099 惊声尖笑 All Rights Reserved 惊声尖笑 Copyright