查看: 62|回复: 0

OpenAI 自研推理芯片 Jalapeño 曝光,AI 参与芯片设计;阿里千问、Claude 同步迎来重大更新

[复制链接]

1972

主题

5

回帖

6011

积分

超级版主

积分
6011
发表于 2026-9-24 16:57:17 | 显示全部楼层 |阅读模式
摘要:OpenAI 联合博通推出首款大模型推理专用 ASIC 芯片 Jalapeño(墨西哥辣椒),第三方机构完成实验室实测;同时 Anthropic 爆出内测新模型、Claude 打通跨场景智能体记忆,阿里千问发布高性价比新架构,AI 全栈竞争进一步加剧电子工程专...。

一、OpenAI Jalapeño(墨西哥辣椒):专为大模型推理打造的自研 ASIC

OpenAI 与博通联合研发的Jalapeño,是 OpenAI 首款自研 “智能处理器”,属于专用 ASIC 芯片,不支持模型训练,全部算力聚焦大语言模型推理任务,由台积电 3nm 工艺制造,从立项到流片仅用时 9 个月,远低于行业普遍 2‑3 年的开发周期,部分芯片架构、底层电路由 OpenAI 大模型辅助完成设计工作博客园。
核心硬件规格

  • 封装集成 6 组 HBM4 堆叠高带宽内存,总容量 216GB,内存带宽 15.4TB/s;
  • 芯片标称 TDP 功耗 700W,实验室实测稳定运行功耗约 550W;
  • 对标英伟达 GB200(1200W)、GB300(1400W),功耗优势显著。
重要说明:Jalapeño不会对外零售,属于 OpenAI 内部基础设施硬件;预计 2026 年底小批量交付,2027 年逐步大规模部署。OpenAI 后续依旧会继续采购英伟达 GPU,主要用于模型训练以及部分推理业务,自研芯片目的是降低算力成本、减少单一供应商依赖,并非完全替代英伟达产品。
第三方基准测试表现(SemiAnalysis InferenceX 基准)

测试方为独立行业机构 SemiAnalysis,在实验室现场监督完成实测,测试模型选用三款开源权重模型:120B 参数 GPT‑OSS、670B 参数 DeepSeek‑R1、1 万亿参数 Kimi K2.5,规避了使用自家模型刷分的嫌疑。
  • 常规业务工况:峰值吞吐下单位功耗性能相比英伟达平台提升1.5‑1.9 倍;端到端延迟降低 1.7‑3.6 倍,打破传统硬件 “吞吐量提升就要牺牲延迟” 的取舍矛盾。
  • 交互式聊天 Token 生成速度:
    • GPT‑OSS 场景:Jalapeño 单用户输出 1459 token/s,英伟达平台 535 token/s;
    • DeepSeek‑R1 场景:Jalapeño 输出 700 token/s,英伟达平台 169 token/s。
  • 极限解码工况补充提示:网传 “54‑104 倍能效优势”,仅出现在高并发极限解码的极端场景—— 该工况下英伟达 GPU 能效出现断崖式下跌,Jalapeño 性能保持稳定;该倍数不能代表全部业务场景,在绝大多数常规推理负载下,能效优势为 1.5‑1.9 倍区间,需要理性看待数据差异。
架构上的两大创新点

  • KV 缓存本地驻留:模型运行产生的 KV 缓存全部保存在芯片本地,减少芯片之间、节点之间大量的数据搬运,降低网络通信开销。
  • 算力动态调度:摒弃传统芯片 “固定划分预填充、解码算力池” 的方案,芯片算力池可以随用户流量动态切换任务。面对智能体 Agent 复杂多变的流量,避免一部分算力闲置浪费,适配未来智能体大规模落地的需求。
软件层面,OpenAI 使用 GPT‑Astra 完成底层代码调优,在 MoE 混合专家、注意力模块上,AI 生成代码运行速度比人类工程师手写代码快 1.5‑1.8 倍。SemiAnalysis 提出警示:如果 OpenAI 可以快速完成新硬件的软件栈适配,英伟达 CUDA 生态壁垒将会面临巨大挑战。这也标志着AI 辅助设计芯片、芯片再驱动 AI 模型的递归自增强闭环正在落地。
二、Anthropic 动态:内测新模型代号泄露,Claude Cowork 打通跨场景记忆

  • 内部测试模型传闻开发者在早期访问接口(EAP)中抓取到两个神秘内部代号melon、marshmallow(甜瓜、棉花糖),属于 Anthropic 内部测试版本,尚未官方发布。社区推测大概率是 Claude 5 系列迭代版本(Opus/Sonnet 更新),并非全新一代旗舰。内测反馈显示长逻辑推理、代码生成能力有所提升,版权风控策略收紧,但也带来部分任务拒绝率升高的问题。Anthropic 团队也公开承认当前版本存在输出稳定性缺陷,已将优化模型输出表现列为最高优先级;该部分属于社区爆料,官方尚未确认模型对应版本号。
  • 记忆系统重磅更新:对话与智能体 Cowork 记忆打通Claude 正式打通普通对话会话与 Cowork 智能体的共享记忆:
  • 用户在聊天窗口交代的项目背景、个人偏好,切换到 Cowork 云端执行任务时可以自动复用,不需要重复复述背景;
  • 系统会在对话过程中按主题动态生成记忆摘要,不需要等待会话结束;
  • 用户可以完整查看、手动编辑、删除全部记忆条目;
  • 健康、种族、宗教、政治类敏感信息默认关闭记忆存储,由用户自主选择是否开启,把记忆控制权交给用户,兼顾实用性与隐私安全。
三、阿里千问 Qwen3.8‑Flash:拉低大模型落地成本底线

阿里发布 Qwen3.8‑Flash,采用下一代预览架构,训练成本仅为前代 Qwen3.7‑Plus 的约 1/9,编程、办公任务能力实现升级。
  • 原生上下文窗口 26.2 万 token,最高可扩展至百万 token;
  • API 调用定价大幅下探,输入端每百万 token 仅 0.16 美元;
  • 公开原型架构方案,采用全新混合注意力 + Anagram 嵌入层,部分模块可以驻留在普通内存,减少昂贵显存占用。开源架构进一步压低行业门槛,给海外闭源大模型带来成本层面的竞争压力千问云。
小结

本轮行业动态可以看出 AI 产业正在从单纯比拼模型参数,走向模型‑硬件‑软件栈全栈竞争。OpenAI 自研 ASIC 的最大意义,是验证 “AI 参与芯片设计” 的可行性,但短期还无法撼动英伟达在训练市场的地位;而国内开源模型、Claude 记忆升级,则分别从成本、产品体验层面推进大模型落地。
注:部分数据来自第三方机构实验室早期样品测试,芯片正式量产后性能、成本表现仍有待大规模真实业务验证;网传内部模型代号属于社区抓取爆料,一切以厂商官方公告为准。

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

Archiver|手机版|小黑屋|天翼网

相关侵权、举报、投诉及建议等,请发 E-mail:2026@typc.net

Powered by Discuz! X5.0 © 2001-2026 Discuz! Team.|晋ICP备2026008270号-1|晋公网安备14010602111293号

QQ客服返回顶部