攻击者还开始同时使用多个大模型协同作案。今年 2 月,一起入侵墨西哥政府数据库的攻击中,攻击者将输出在 Claude 和 ChatGPT 之间来回传递——当一个聊天机器人拒绝配合,另一个往往愿意接手。
AI 也带来了新的攻击面。提示注入攻击正变得常见:攻击者将恶意指令藏在网页里,当员工让公司 AI 总结该页面时,AI 就可能照做,比如把工资数据发到指定邮箱。去年 12 月,Meta 上线了一个 AI 客服助手帮用户找回账号,结果这个助手过于“热心”,会直接把攻击者的邮箱关联到任意 Instagram 账号上,让没有开启多因素认证的账户轻易被接管。
AI 代理的普及让风险进一步放大。企业把代理接入客服、HR、代码部署等系统,个人用户则让代理管理邮件、日历甚至投资账户。这相当于把高级权限交给了一个不会真正理解安全策略的机器。一旦遭遇提示注入,代理可能造成的破坏比普通聊天机器人更大。
防御方也在用 AI 应对。趋势科技调查显示,网络安全从业者当前的首要任务是防范欺诈和深度伪造,其次是防止提示注入、模型投毒和越狱等应用层攻击。不过,网络安全天然不对称:防御者需要守住所有漏洞,攻击者只需找到一个。AI 在发现零日漏洞方面表现出的能力,让这种不对称更加突出。
Anthropic 与英国 AI 安全研究所等机构去年 10 月发布的研究发现,只需 250 份恶意文档就能在 AI 模型中植入一个可被利用的后门。而 AI 生成的代码虽然写得不怎么样,找漏洞却相当在行——这种能力上的反差,对习惯了“写得好才找得准”的人类来说,多少有些反直觉。
Claude 的 Cowork 模式(2026 年 1 月推出)可以代劳知识型任务,比如整理文件。还能创建“技能”指令包,对话里用“/”就能调用。Artifacts 能即时渲染代码片段、单页网页、交互式 React 组件和图表,还能发布到网上。
ChatGPT 也有技能功能,但只能在 Codex 和 API 里用,普通聊天不行。它的 Sites 功能对标 Artifacts,但面向企业内部,只在 Codex 里提供,而且不能像 Claude Artifacts 那样通过连接应用和 MCP 获取实时数据。
ChatGPT 的语音功能更自然,可以打断、插话,高级语音模式下还能用实时视频求助。图像生成能出照片级图片,Claude 则只能用 HTML 和 SVG 做图表和交互视觉。
ChatGPT 体验在变差吗?
新模型基准分数更高,但整体体验似乎在下降。比如 GPT-4o 的幻觉率是 38%,而 GPT-5.6 Sol 是 89%。OpenAI 还加了安全措施,每次更新语气可能明显不同。免费和 ChatGPT Go 版开始展示广告,而 Claude 免费版反而加了功能、没有广告。OpenAI CEO 奥尔特曼曾称广告是“最后手段”,但公司连付费用户都在亏钱,免费用户体验可能还会更差。