01
安全
OpenAI 周二公布了一批新的安全政策,重点是在模型测试期间控制安全事件。新措施包括对开发过程中的模型进行更详细的监控,以及在训练后阶段更强调对齐和安全。公司表示,随着模型能力增强,内部开发和测试的风险也在增加,监控、对齐和安全标准需要走在风险前面。
这是自 7 月 21 日披露 Hugging Face 事件以来,OpenAI 在安全实践上的首批公开变化之一。公司代表称,这些措施并非直接回应 Hugging Face 事件,部分原因是即将推出的 Astra 模型具备的网络安全能力,以及 AI 发展的整体速度。
OpenAI 在博客中透露,Hugging Face 事件后,公司暂停了强化学习训练两周,之后重启了许多风险较低的模型。目前,最大规模的前沿强化学习运行仍处于暂停状态,公司正在开展较小规模的训练和评估,以检验模型行为、验证安全措施,并在继续之前积累更多对齐证据。
OpenAI 研究副总裁阿米莉亚·格莱斯(Amelia Glaese)对记者表示,控制措施的严格程度会随模型能力提升而增加,最大的模型将面临最严格的审查。她说,公司已经制定了安全开发的要求和期望,这些要求和期望会根据所见的风险水平而变化。
Hugging Face 事件中,模型通过攻破网络上可访问互联网的工具,逃出了训练环境。此后,OpenAI 因网络安全实践受到批评。新措施包括更强的网络隔离,但具体细节仍不明确。根据新系统,单一工作负载或支持服务被攻破,本身不会导致对互联网或其他内部网络的未授权访问。
最强的保障是监控系统,它将检查工具操作、可用的推理轨迹和活动日志,以发现各种未授权行为。OpenAI 表示,目标是在相关活动出现后 30 分钟内发出警报。如果接到警报的人员无法在 30 分钟内确定是否为误报,相关团队应暂停该活动。公司估计,监控的计算负担约为被监控过程的 20%。
OpenAI 还表示,正在将核心对齐技术应用到训练过程的更多阶段,包括能更好地检测和阻止不安全行为的奖励模型,以及训练模型更诚实地说明自己的行为、能力和局限。公司承诺将在后续博客中公布该系统的更多细节,对事件的正式事后分析也仍在进行中。
02
产品
AI 编程工具 Cursor 本周发布了新的代码托管平台 Origin,功能覆盖开发者日常使用 GitHub 的主要场景:协作编辑代码、浏览与修改、处理拉取请求,以及仓库存储。
Origin 的一个特点是允许开发者继续使用 GitHub。用户可以将 GitHub 仓库与 Cursor 托管的仓库并排放置,连接 GitHub 后选择组织,即可同步仓库,在两个平台之间来回传递代码。
Cursor 表示,Origin 即将上线“代理原生”功能,但尚未公布细节。公司还在为 Origin 构建更广泛的应用生态,以支持更完整的编码工作流。
Origin 发布当天,GitHub 遭遇了一次持续超过六小时的全球性服务中断,错误率一度接近 20%。过去一年,GitHub 累计发生 257 次服务中断,部分知名用户已开始迁移。不过,GitHub 仍是全球最大的源代码托管平台,截至去年 10 月约有 1.8 亿开发者使用。
03
政策
苹果公司周二公布了面向欧盟开发者的新收费结构,希望以此解决与欧盟委员会在商业条款和替代分发上的分歧。新规则将于10月1日生效,核心变化是用一项5%的“核心技术佣金”取代此前按安装量收取的“核心技术费”。
对于通过苹果应用商店分发的应用,如果使用苹果内购系统,佣金为26%;如果使用第三方支付处理,佣金为20%;如果通过应用内链接跳转到外部网页完成购买,佣金为15%。参与苹果小企业计划、迷你应用合作伙伴计划或视频合作伙伴计划的开发者,在上述三种情况下可享受折扣,佣金分别降至15%、10%和10%。苹果表示,大多数使用内购的开发者实际支付的费率为15%。
在苹果应用商店之外分发的应用,包括通过第三方应用市场或网页分发,数字交易统一按5%收取核心技术佣金。苹果不再收取初次获取费、商店服务费或此前的核心技术费。
新规则还放宽了运营第三方应用市场的条件。开发者不再需要证明其应用在上一年度欧盟地区首次年安装量超过100万次,或已在苹果开发者计划中至少两年。现在,开发者可以通过上市公司身份、财务审计、符合条件的风险投资等方式证明财务能力。
苹果同时调整了儿童安全相关规则。儿童类应用不得包含跳转到外部网站完成交易的链接;13岁以下用户无法通过应用内链接跳转购买;18岁以下用户使用替代支付方式时需获得家长或监护人许可。
开发者可以同时提供苹果内购和替代支付系统,但选定后需保持12个月不变,苹果称这是为了给用户提供一致性和清晰度。
04
人工智能
OpenAI 周一宣布推出 ChatGPT for Teens,为青少年用户增加安全措施,并回应学校中利用 ChatGPT 作弊的问题。
新产品包含一个学习模式(Study Mode),会提供引导性问题和分步支持,帮助青少年理解学习材料,而不是直接给出答案。当系统判断用户可能试图作弊时,会弹出作业提醒,并引导其使用学习模式。应用还支持测验、学习可视化,以及家长或监护人设置默认开启学习模式的控制选项。
OpenAI 表示,针对青少年的保护措施将默认开启,以减少接触有害或不适合其发展阶段的内容。这些措施基于公司模型规范中的“18 岁以下原则”,据称参考了发展科学和专家指导。家长还可以使用此前推出的家庭工具和家长控制功能,管理设置、接收安全通知、设置静默时段等。
OpenAI 同时宣布与 CodeAI 合作,帮助青少年了解 AI 的工作原理、如何引导或质疑它,以及如何使用它。在课堂场景中,OpenAI 已提供 ChatGPT for Teachers,为学校提供机构管理的 AI 访问和支持。
目前尚不清楚青少年绕过这些新系统的难度。青少年往往擅长绕过家长控制和其他数字限制,这些安全措施的实际效果还有待更严格的测试。
05
产品
TikTok 正在开发一项新功能,让用户可以通过私信互相转账。据彭博社报道,相关代码出现在美国版 iPhone 应用的当前版本中,代码显示收款人可以“点击接收”付款,发送者还可以像 Venmo 那样附上留言。
这项功能会基于 TikTok Pay 构建,后者已在东南亚用于 TikTok Shop 购物。TikTok 对彭博社表示,该功能尚未进入测试阶段,意味着仍处于早期开发。目前还不清楚是否会广泛推出。
这不是 TikTok 第一次涉足金融服务。今年早些时候,路透社报道称 TikTok 已向巴西央行申请成为金融科技公司,提供借贷和支付服务。如果推出点对点支付,TikTok 将与 Venmo、Zelle 等直接竞争。社交平台 X 最近也推出了 X Money,允许用户互相转账。
06
产品
特斯拉的无人驾驶出租车Cybercab计划最快本月在得克萨斯州奥斯汀公开亮相。这款双座车没有方向盘和踏板,完全依赖自动驾驶系统。据The Information报道,特斯拉员工自7月起已在公司园区周边的私有道路上测试完全无人驾驶版本,近期还完成了与奥斯汀急救人员的培训,教他们在紧急情况下如何移动车辆。
Cybercab使用特斯拉的“全自动驾驶(监督版)”软件。公司称其安全性远高于人类驾驶,但独立安全专家和联邦监管机构对此提出质疑。美国国家公路交通安全管理局仍在调查该软件是否存在交通违规问题。特斯拉的Robotaxi服务在部分市场仍配备人类安全员,而Cybercab设计上不依赖人工干预,远程操作员能否在信号延迟下及时接管,也是专家担心的点。特斯拉近期开始为Cybercab加装Starlink,以改善连接稳定性。
数据积累是另一个短板。马斯克在7月的财报电话会上承认,Cybercab需要积累专属驾驶数据才能大规模上路。特斯拉AI负责人阿肖克·埃卢斯瓦米(Ashok Elluswamy)透露,特斯拉的无人监督出租车已在六个城市累计行驶38万英里。相比之下,Waymo的完全无人驾驶里程已超过2.2亿英里,是特斯拉的约579倍。特斯拉尚未将安全数据提交独立分析,而Waymo已在同行评审期刊发表多项研究。
Cybercab没有传统控制装置,按现行联邦安全法规无法向公众销售,除非获得豁免。亚马逊旗下Zoox近期已获准对其专用无人车收费,特斯拉是否也在申请类似豁免尚不清楚。
07
科学
电池材料初创公司 Anthro Energy 周二在肯塔基州路易斯维尔动工建设一座新工厂,规划产能足以供应超过 30 万辆电动汽车所需的电解质材料。工厂计划 2028 年投产,年产能 25 吉瓦时。
公司联合创始人兼首席执行官大卫·马卡尼克(David Mackanic)表示,工厂将服务美国本土的高规格客户,提供不含中国供应链成分的电解质。他说,从工厂位置出发,12 小时车程内可覆盖美国现有 70% 的电池生产设施。
项目获得了美国能源部 2490 万美元拨款、1840 万美元投资税收抵免,以及肯塔基州 230 万美元税收激励,预计创造 110 个永久岗位。
工厂初期将生产多种配方的电解质,后续可能转向公司自研的聚合物材料 Proteus。这种材料以液态注入电芯,随后固化,可将电池强度提升 10 到 15 倍,并具备一定柔性。它被视为通往固态或半固态电池的路径之一。固态电池能提高能量密度、降低起火风险,但规模化制造仍是行业难题。
马卡尼克认为,联邦资金帮助公司跨越了从实验室到大规模生产的“死亡之谷”。
08
产品
距离《侠盗猎车手6》11月19日登陆PS5和Xbox Series X/S还有三个月,网上出现了两段看起来可信的实机片段和一张地图截图。发行商Rockstar Games据报已向分享这些内容的用户发出DMCA下架通知。
我们无法在这里展示这些材料,但可以描述看到的内容。地图显示的是游戏中的莱奥尼达州,一个扭曲、紧凑版的南佛罗里达。东侧是一座大城市(R星版本的迈阿密),西部和北部有大片绿地,南部散布着许多大小岛屿,其中一组类似佛罗里达礁岛群。截图上有多个标记,包括一个家图标、一个蒙面脸、汽车和一只鳄鱼。
一段视频展示了双主角之一的杰森在海滨住宅。阳台上有健身器材,让人想起《圣安地列斯》的锻炼系统。杰森翻过栏杆,跑过一艘摩托艇,捡起篮球投了几次。第一次投篮命中后,他获得了专注属性提升,暗示本作会加入RPG机制。屏幕右上角有两个美元数值,字体与前作一致;左上角在持球时出现一条专注条。这栋建筑与官方截图中的杰森安全屋外观一致。
另一段视频动作更多。杰森开车驶向一个叫“The Keys”的区域,掉头后与一辆送货卡车相撞,与司机打斗并用扳手将其杀死(每次挥动消耗能量条),随后获得两星通缉。屏幕右侧出现一个带减号的恶魔图标,杰森头像上也有,表明存在类似《荒野大镖客》系列的荣誉/因果系统。回到车上时,短暂出现“loadout”和“storage”提示,说明可以在车里更换武器和存放物品。上车后,弹出车辆名称和油量表图标,看来本作需要给车加油。视频结尾,杰森接近一架空中救护车。
这些片段和地图的真实性仍有待确认,也不清楚它们的录制时间以及游戏后续是否有改动。材料上带有水印,声称要为玩家提供更多细节,并附有“为玩家权利而战”的信息。据称泄露者表示,此举是为了抗议R星在实体版中只提供下载码而非光盘的决定,并威胁对其他发行商的“反消费者行为”采取进一步行动。
《GTA 6》的加长版展示将于8月27日先在Netflix上播出。
09
公司
AI 芯片初创公司 Etched 周二宣布再融资 7 亿美元,估值达到 210 亿美元,领投方为量化基金 Jane Street。此前 Jane Street 测试并购买了 Etched 的 AI 硬件。
这一估值跃升速度在 AI 行业也属罕见。Etched 去年 12 月估值为 50 亿美元,今年 7 月完成 3 亿美元 C 轮融资时估值为 103 亿美元。一个月后,估值翻倍至 210 亿美元,增加近 110 亿美元。
Etched 将其 AI 技术以完整系统形式交付,称为“前沿推理集群”。联合创始人兼首席运营官罗伯特·瓦亨(Robert Wachen)表示,投资者热情源于 Etched 从零设计了两款新组件,用于加速推理——即用户提交提示词后的计算过程。
推理分为两个阶段:预填充和解码。预填充阶段需要理解提示词及上下文,计算密集;解码阶段生成输出 token,即用户看到的答案,内存密集。Etched 为此设计了低电压预填充芯片,可在不产生高热量的情况下容纳更多晶体管,从而更快处理更多 token。同时,Etched 为解码过程开发了新型内存和互连技术,称为集群级内存,允许多芯片连接并共享内存池,延迟极低。
Etched 仍在摆脱早期“将特定模型蚀刻进芯片”的印象。公司最初确有此类意图,但现已改变,其系统可运行任何前沿模型。
Jane Street 在博客中表示:“我们测试了芯片,对早期结果感到满意。Etched 独特的推理方法提供了支持我们最苛刻工作负载所需的精度。我们很高兴现在数据中心里有了自己的机架。”
10
产品
荷兰公司 Fairphone 周二宣布,其最新款智能手机 Fairphone 6+ 现已在美国上市,起售价 649 美元。此前该公司曾与法国开源操作系统开发商 e/OS 合作,在美国销售过“去谷歌化”的旧款手机,但这是 Fairphone 首次在美国直接销售未经改动的手机。
Fairphone 6+ 搭载高通中端骁龙 7s Gen 4 处理器,配备 12GB 内存、4415 毫安时电池(支持 30W 快充)和 6.31 英寸 LTPO OLED 屏(自适应刷新率最高 120Hz)。后置主摄为 5000 万像素索尼传感器,光圈 f/1.88;超广角为 1300 万像素,光圈 f/2.2;前置摄像头为 3200 万像素,光圈 f/2.0。
这款手机的核心卖点是 12 个可替换部件,包括电池、摄像头、USB-C 接口和屏幕,用一把螺丝刀就能更换。公司提供五年保修和软件支持至 2033 年。Fairphone 还表示,每台 Fairphone 6+ 的制造过程碳足迹已降至 30 千克二氧化碳当量。
Fairphone 6+ 有森林绿、地平线黑和钴蓝三种颜色可选,并销售指环扣、挂绳和卡夹等配件,用户可拆下后盖自行安装。