2026年9月3日 OpenAI Astra 推理安全引担忧，阿里开源自动驾驶 VLM

据 The Information 报道，OpenAI 的下一代模型 Astra 将采用一种名为“递归深度”（recurrent depth）的推理技术，该技术也被称为“不透明循环”。与大多数推理模型采用的顺序思维不同，这种技术允许模型在循环中多次处理同一查询，从而留下更少的可读痕迹。这一特性可能使思维链更难被监控，引发 AI 安全专家的广泛担忧。

Redwood 首席执行官 Buck Shlegeris 在 X 上表示“极度担忧”，认为如果 OpenAI 进一步推进该技术，可能会“彻底破坏思维链的可监控性”。AI 安全倡导者 Zvi Mowshowitz 则警告，这可能导致实验室之间的“逐底竞争”，并呼吁立法干预。他指出，这种技术“正在玩火”，可能破坏 OpenAI 和 Anthropic 一直努力建立的思维链忠实性与可监控性。

思维链是推理模型在解决问题时留下的顺序步骤，虽然并非完美，但仍是监控模型错误行为或对齐问题的重要工具。在 OpenAI 最近的 rogue agent 事件中，思维链记录帮助解释了智能体的行为。而在不透明循环中，模型采用非线性方式，多次循环处理同一查询，留下的可读痕迹更少，实际上绕过了传统的思维链记录。

值得注意的是，Astra 对该技术的使用据称有限，模型仍有望保持可读的思维链。OpenAI 首席科学家 Jakub Pachocki 在 X 上强调，实验室自首个推理模型以来一直致力于保留和利用思维链监控，这是当前研究计划的核心目标。OpenAI 已宣布计划推出广泛的思维链监控系统，作为其前瞻性安全计划的一部分。

然而，Anthropic 和 Google DeepMind 已在讨论类似技术。Redwood 首席科学家 Ryan Greenblatt 指出，不透明推理可能比传统思维链扩展得更快，最终使模型完全在潜在空间推理，加剧监控难度。目前，OpenAI 尚未公开回应这些担忧，但安全专家呼吁行业保持警惕，避免因追求性能而牺牲可解释性。

9 月 3 日，Qwen 团队发布并开源 Qwen-Drive-1.0。它以 Qwen3.5-4B 为共享视觉语言主干，把驾驶问答、三维环境理解和车辆轨迹规划放进同一套框架。团队没有改动预训练 VLM 的主干架构，而是在主干外接入 BEV 感知头和规划专家。这里需要区分两件事：“主干架构不变”并不等于“无需训练”；官方采用了分阶段训练，让通用模型获得驾驶任务能力。

BEV 是“鸟瞰视角”的缩写。感知头负责识别 3D 目标、预测哪些空间被物体占据，以及分割道路和地图元素，相当于一个可检视的三维场景接口。规划专家则读取同一套 VLM 表示，通过流匹配生成未来 5 秒的自车轨迹；在推理规划模式下，文本推理还可以作为轨迹生成的条件。为让不同公开数据能够共同训练，团队统一了感知标签、问答格式和轨迹表示，并混入通用视觉语言数据，以减轻能力遗忘。

在驾驶场景理解上，官方统一评测显示，Qwen-Drive-1.0-SFT 的 LingoQA 得分为 77.8，高于 Qwen3.5-4B 基座的 70.4；Ego3D 的 RMSE 从 13.17 降至 7.78，这项误差指标越低越好。与此同时，通用视觉问答各项成绩有升有降，因此更准确的表述是“在增强驾驶能力的同时，大体保留通用能力”，而不是所有通用任务都没有损失。官方还注明，LingoQA 的 77.8 使用 Qwen-Plus 作为评审模型，跨论文比较时需要留意评测协议。

运动规划方面，官方仓库给出的 NAVSIM PDMS 为 88.2，奖励优化后的规划专家为 90.7；在 NVIDIA PhysicalAI 开环评测中，3 秒 minADE 分别为 0.34 米和 0.38 米。代码与权重已按 Apache 2.0 许可证开放，官方建议使用至少 24GB 显存。现阶段仍应把它看作研究起点：官方明确表示，文本推理与生成轨迹的一致性还需加强，而基准成绩也不能替代真实道路验证。

Google DeepMind 今日发布 Gemini 3.8 Flash 及其网络安全专用版本 Flash Cyber，距 3.7 Flash 发布仅三周，这是六周内第三次 Flash 更新。新模型主打推理与编码能力，价格与 3.7 Flash 持平，输入 $0.75/百万 tokens，输出 $3.75/百万 tokens。Gemini 3.8 Flash 在长时程编码与智能体任务上显著提升，DeepSWE v1.1 基准中超越多数更大规模前沿模型，成本却低得多。

在金融与法律专业领域，如 Vals Finance Agent V2 和 Harvey's Legal Agent Benchmark 上同样领先。HLE-Verified 得分 54.9%，反映多步推理能力。其核心设计是“更努力”：复杂任务中会执行额外推理步骤、迭代调用工具，但可能消耗更多 tokens；开发者可通过降低 effort 级别控制成本，或继续使用 3.7 Flash。

Gemini 3.8 Flash Cyber 专为防御者设计，通过 Fairwind Program 提供给可信用户。在 CyberGym 漏洞发现基准上超越 3.5 Flash Cyber 及更大模型；内部测试覆盖 20 种编程语言，漏洞发现成功率超 70%。该模型还具备自动补丁能力，针对防御者需求优化。

Google 今日推出 Gemini 3.8 Flash 模型，主打“更努力”的工作方式，但代价可能是更高的使用成本。这一更新紧随 Gemini 3.8 Flash Cyber 的发布，后者已纳入 Google 新的 Fairwind Program。对于依赖低成本模型的开发者，这可能是一个需要重新评估的信号。

据 The Verge 报道，Google 没有透露具体定价，但暗示新模型在复杂任务上会消耗更多计算资源，因此成本可能上升。Gemini 3.8 Flash 的目标是在推理、编码等任务上表现更优，同时保持 Flash 系列的快速响应特点。目前该模型已向部分开发者开放测试，正式定价尚未公布。

影响最直接的是那些将 Gemini Flash 用于高频调用的应用场景。如果成本涨幅明显，开发者可能需要权衡性能提升与预算。Fairwind Program 的加入也意味着 Google 在为企业级用户提供更定制化的模型服务，但具体条款尚不清楚。下一步看 Google 是否公布详细的定价和性能基准，以及开发者社区的反馈。

OpenAI 的 Astra 发布在即，但一份报告引发了对 AI 安全“竞赛”的担忧。研究人员担心，在竞争压力下，OpenAI 可能忽视安全措施，导致部署风险。据 The Verge 报道，这份报告指出，OpenAI 在推进 Astra 时，可能将速度置于安全之上，引发“安全灾难”。

具体而言，Astra 作为新一代 AI 助手，其自主性和环境交互能力带来新的监控挑战，而现有的安全测试可能不足以应对。专家认为，Astra 采用的“递归深度”技术可能使思维链监控失效，增加模型行为不可预测性。这一担忧直指 AI 行业的普遍问题：在商业竞争中，安全协议可能被削弱。

对于开发者和产品经理，这意味着需要关注 AI 部署的潜在风险，并考虑监管和伦理框架的完善。OpenAI 计划推出广泛的思维链监控系统，以缓解担忧。后续观察点：OpenAI 是否会公开 Astra 的安全评估报告，以及第三方研究机构的独立测试结果。

谷歌在广告技术反垄断案中躲过拆分，但法院要求其调整商业行为以利于竞争对手。这是继搜索案后，谷歌第二次避免被强制出售核心业务，但监管压力并未消失。本周三，弗吉尼亚东区联邦法官 Leonie M. Brinkema 裁定，谷歌可以保留其广告业务，但必须改变运营方式，以促进竞争。

法官未提供具体整改措施，完整裁决将在 14 天内密封，以便相关方进行必要的修订。去年 4 月，法院已裁定谷歌在广告技术领域存在非法垄断行为，本周的裁决仅涉及补救措施。谷歌监管事务副总裁 Lee-Anne Mulholland 回应称，对法院驳回司法部拆分提议表示满意，认为这有助于小企业接触客户。

此前，司法部曾寻求拆分谷歌的 Chrome 浏览器和安卓系统，但在 2025 年 9 月被法官 Amit Mehta 驳回，仅要求终止独家默认搜索协议并共享部分搜索数据，谷歌目前正在上诉。此次裁决意味着，谷歌的核心广告业务得以保留，但未来需在运营上做出调整，可能影响其广告生态链中的合作伙伴和广告主。后续变量在于，谷歌上诉结果以及法院最终要求的整改措施，将决定其广告业务的实际影响范围。