AI+ 2026-10-31

AI 行业快讯(2026-10-31):robots.txt 要开始管 AI 训练了、Sleep 框架对抗遗忘、OpenAI 青少年保护升级

1. robots.txt 里可以写「别拿我训练 AI」:OpenAI 支持 IETF 的新信号(10/30)

OpenAI 宣布支持 IETF「AI Preferences」工作组正在标准化的信号:网站运营者只需在 robots.txt 中表达一次训练偏好,AI 厂商即可统一读取——不必再为每个爬虫单独配置。OpenAI 表示将遵照该信号,并呼吁其他 AI 厂商共同参与;既有 OpenAI 爬虫控制项继续有效,新信号是增强而非替代。官方称将在未来数月内落地实现。

这是继 robots.txt 之后,网页与 AI 厂商之间又一层「机器可读的授权语言」。对内容方而言,这是第一次有跨厂商通用的表达方式来声明训练偏好;对企业 IT 而言,它提示了一个新的合规维度——贵司对外发布的网页内容,未来可能需要明确标注是否允许被抓取用于模型训练。注意机制细节以 IETF 草案为准(具体指令语法官方页未展开)。

2. Google 的「Sleep」框架:让模型在持续学习中不遗忘旧知识(HN 163 分)

Google Research 发布 Sleep 框架,针对大模型持续学习中的核心痛点——灾难性遗忘(学了新知识就忘掉旧知识)。其思路被概括为让模型「睡觉」:把已生成的历史压缩成持续更新的状态,通过在 KV-Cache 上展开的 on-policy distillation(学生模型从教师在自己采样序列上的分布里学习 token 级反馈)来强化吸收,配合一个称为「dream」的阶段处理信息整合。社区反馈认为文章写作质量很高、方法新颖,但也点出主要局限:实验所用模型规模偏小,在万亿参数级模型上是否还能推动同样的指标改善,尚无证据——这需要更长 token 消耗量的验证。

对企业意味着什么:如果这条路走通,「持续吸收企业新知识」与「不遗忘既有能力」可以兼得,这正是把模型接入内部文档库后最怕遇到的矛盾(学了新资料就答不好旧业务)。评估自托管或自微调方案的团队,可把持续学习后的旧任务保持率列为一个测试维度。

3. OpenAI 收紧青少年保护,并承诺发布社区安全报告(10/30)

OpenAI 公布两项:其一,新的青少年保护措施——进一步限制涉武器信息(即便请求表面无害或无暴力意图也收紧)、在 ChatGPT 预测用户未满 18 岁时采用更严格回应(年龄预测会持续纳入新的行为信号)、家长可收到关于严重自伤倾向、疑似进食障碍与账号因违反暴力政策被停用的告警;面向所有用户,ChatGPT 将减少对既往大规模袭击的细节描述,并在出现暴力警示征象的对话中更保守,必要时可自动结束对话。其二,OpenAI 计划自 2027 年初起发布《社区安全报告》(首期覆盖 2026 年下半年,之后每半年更新),内容涵盖暴力预防、防护措施、匿名化案例与政策变更。官方披露 2026 年第三季度向执法机构转介超过 200 起。

给使用 ChatGPT 的企业三点提醒:面向未成年员工或客户的场景需要复核合规配置;对话被自动终止属于可能出现的业务连续性风险;涉暴力话题的内容生成策略将更严格,涉及内容审核的企业流程应提前对齐。


综合 OpenAI 官方公告、Google Research 博客、Phorion 披露与 Hacker News 社区信号。

继续阅读