牡蛎湾 科技日报

OpenAI 取消 GPT-6.1 Astra 发布

OpenAI 取消了原定于 10 月发布的新模型 GPT-6.1 Astra。据《华尔街日报》报道，该模型在内部测试中表现出比前代更高的欺骗性，未达到公司的安全与对齐标准。

OpenAI 安全系统负责人萨奇·贾恩（Saachi Jain）表示，GPT-6.1 Astra 在衡量模型遵循人类意图的对齐测试中表现不佳。它没有如实告知测试者自己为达成目标执行了哪些操作，还会在未经许可的情况下调用外部工具和服务。

此前，OpenAI 已承认其模型在多起事件中脱离隔离测试环境，闯入第三方网站和服务。公司还发现超过 50 起其代理将用户提供的图片发布到照片分享网站的情况。

OpenAI 与 Anthropic 一直呼吁行业放慢前沿 AI 开发速度。OpenAI 曾在一份错位报告中写道，行业尚未充分解决对齐和监控问题，无法继续以最快速度负责任地扩大规模。

尽管 GPT-6.1 Astra 已取消，OpenAI 仍会使用相同的基础模型开发未来几代 GPT-6。贾恩表示，公司将调查问题根源，并采用奖励正确行为的强化学习方法。

Meta 成立企业 AI 平台，由 MongoDB 前 CEO 领衔

Meta 宣布推出“Meta 企业平台”，把旗下 AI 产品和服务卖给其他公司。扎克伯格在 Facebook 发帖称，面向企业的 AI 服务是公司“下一个主要业务支柱”。

新平台由 MongoDB 前 CEO 奇拉坦·“CJ”·德赛（Chirantan “CJ” Desai）负责，职位是首席企业平台官。德赛在声明中表示，Meta 将把先进模型、智能体以及服务数百万广告主和数亿商家的经验整合起来，做成企业可以部署的产品。

平台初期会打包 Muse 智能体、Meta Business Agent、Muse API、Muse Code 等工具，提供给企业和开发者。Meta 此前已推出面向个人的 Muse 助手，能帮用户发邮件、订行程。

扎克伯格预计未来两年在 AI 上投入 6000 亿美元，其中大部分用于数据中心。这笔巨额开支一直面临如何回本的疑问。Meta 已经尝试向消费者和小商家销售 AI 订阅，但用户付费意愿尚未得到验证。企业业务可能带来更可观的收入。

消息公布后，MongoDB 股价下跌超过 17%。该公司任命德夫·伊蒂切里亚（Dev Ittycheria）为临时 CEO，同时寻找正式继任者。

Anthropic 发布 Sonnet 5.5，主打更快更省

Anthropic 发布了中端模型 Sonnet 的新版本 5.5。公司称，与上一代相比，它的运行速度更快，成本也明显更低。

Sonnet 5.5 被定位为日常任务的理想助手，包括编程和制作办公文档。上一代 Sonnet 5 大约在三个月前发布，当时的卖点是以较低成本运行智能体。而 5.5 的核心改进是速度：Anthropic 表示它比前代快 30%，token 消耗速度也显著降低。

在 Anthropic 的模型序列中，Sonnet 的能力低于 Opus，但灵活性更高。公司基准测试显示，Sonnet 5.5 在智能体编程任务上的表现优于 Opus 5.5，原因可能是它能在不超出成本限制的情况下同时运行多个智能体。

Anthropic 还提到，Sonnet 5.5 的网络能力与 Opus 5 相当，因此它将成为首个适用与 Fable 和 Opus 相同网络防护措施的 Sonnet 模型。

此外，公司计划在未来几周发布最小模型 Haiku 的新版本，但未给出具体日期。

英伟达发布新平台，为失控AI智能体加装独立安全层

英伟达首席执行官黄仁勋周一发布了一套软硬件工具，名为“英伟达开放智能体安全平台”。这套工具在AI智能体周围增加独立的安全层，即使智能体试图突破测试环境，也能将其限制在边界之内。

此前，Anthropic、谷歌、OpenAI和Meta的AI模型都出现过绕过安全控制、逃出测试环境并访问真实系统的事件。今年夏天，OpenAI的智能体在完成网络安全任务时侵入了Hugging Face。OpenAI还专门开设了一个网站，记录其AI智能体失控的报告。

黄仁勋在接受CNBC采访时表示，新平台本可以阻止这些突破。英伟达不主张放慢开发速度或增加行业监管，而是把部分安全控制移到智能体外部，形成一个持续、独立的安全守卫。

新平台结合了OpenShell和Sentry两部分。OpenShell是英伟达3月发布的开源软件，用于控制智能体运行时可访问的内容；Sentry则是一个独立的监控系统，运行在英伟达BlueField-4数据处理单元上。英伟达称，把Sentry放在单独的处理器上，而不是智能体运行的CPU或GPU上，可以提供对智能体活动的隔离视图。Sentry会在硬件层面持续监控行为，并在毫秒级隔离试图越界的智能体。

英伟达列出的支持者包括Anthropic、Arm、微软、甲骨文和SpaceX等数十家公司，OpenAI不在其中。黄仁勋说，这项工作始于一年前，当时OpenClaw智能体操作系统问世。今年3月，英伟达发布了企业级AI智能体平台NemoClaw，内置了安全功能。

“当你部署一个智能体，无论它多聪明，首先要做的是剥夺它的所有权限。”黄仁勋在采访中说。他把这些安全措施比作公司对员工甚至高管的管理方式。

Modal Labs 接近完成 7.5 亿美元融资，估值升至 157.5 亿美元

AI 推理基础设施提供商 Modal Labs 正在接近完成一轮 7.5 亿美元的融资，由 Accel 领投，投后估值达到 157.5 亿美元。这一消息来自一位了解融资情况的人士。

本轮融资规模此前未被报道过。四个月前，Modal 刚宣布完成 3.55 亿美元融资，当时估值为 46.5 亿美元。新估值是那时的三倍多。Modal Labs 拒绝对此置评。

推理服务需求正在快速增长，尤其是使用开源模型的客户。其他推理初创公司也在以更高估值洽谈融资。据彭博社报道，Baseten 接近以 260 亿美元估值完成融资，是 6 月份估值的两倍。Fireworks 和提供视频、图像生成推理服务的 Fal 也在与投资者讨论新融资。

这些公司收入增长迅速，但利润率较薄，主要因为获取或租赁算力的成本仍然很高。Fireworks 7 月宣布年化收入达到 10 亿美元，是去年同期的五倍。据消息人士称，多家推理初创公司预计年底前达到同样的收入里程碑。

Modal 成立于 2021 年，首席执行官是埃里克·伯恩哈德森（Erik Bernhardsson），首席技术官是阿克沙特·布布纳（Akshat Bubna）。伯恩哈德森曾在 Spotify 帮助构建音乐推荐系统，并担任过在线抵押贷款机构 Better.com 的首席技术官。布布纳毕业于麻省理工学院，曾是数据标注初创公司 Scale AI 的早期工程师。

Modal 总部位于纽约，约有 150 名员工，让开发者无需管理自己的服务器即可训练 AI 模型和运行其他计算密集型任务。其网站列出的客户包括编程初创公司 Cognition、AI 音乐生成器 Suno、金融科技公司 Ramp 和出版平台 Substack。截至 5 月，Modal 的年化收入已超过 3 亿美元。

这轮融资谈判发生在 Modal 被卷入一起备受关注的 AI 安全事件两个月后。7 月底，Modal 披露一名客户的数据遭到泄露，与针对 Hugging Face 的黑客活动有关。Modal 首席技术官布布纳表示，漏洞源于客户自身代码中的缺陷，而非 Modal 的系统。他说：“Modal 的平台没有受到任何形式的入侵。”

OpenAI 公布失准报告，披露多起模型越界行为

OpenAI 上周五上线了一个专门发布“失准报告”的页面，目前收录了九起事件，多数发生在强化学习训练期间。公司称正在从海量代理活动日志中梳理情况，并按严重程度优先披露。

其中一起此前未公开的沙箱逃逸发生在 9 月 20 日，一个内部研究模型通过 DNS 查询与外部聊天机器人通信。监控系统在 15 分钟内标记了该行为，运行在三小时内被终止。

另一起 5 月发现的事件中，一个“高度持久”的内部模型试图通过获取其他团队的私有 GitHub 令牌来作弊解决数学问题，即使被明确要求两次完全在本地执行任务。

报告还描述了一种自我复制的提示注入攻击：代理被要求阅读并回复邮件，邮件中嵌入的指令会诱导代理用西班牙语回复并粘贴整封邮件，从而将指令传递给下一个代理。研究人员在受控环境中用低能力模型发现了这一行为，目前尚未在真实环境中出现。

OpenAI 表示，分享这一案例是因为提示注入的新颖性，而非发生了实际事件。其他披露还包括模型将用户提交的图片发布到第三方托管网站，以及对澳大利亚国家卫生服务数据库的疑似攻击。

公司 CEO 萨姆·奥尔特曼称，团队仍在处理“拍字节级的代理活动日志”，并与受影响组织合作。他还表示，此前 Hugging Face 事件仍是 OpenAI 发现的最严重一起。