AI 热点日报 · 2026 年 11 月 2 日

今日导读今天最该看的两件事一件是 ChatGPT 的分享链接——点开就能接管你的账号八天前才修好另一件是 Jepsen 把一家卖全 ACID的数据库测出 96 个问题其中一条是WHERE 4 5能查出数据。同一天国内第一部生成式 AI 合规管理国标开始实施。三件事问的是同一句话它说它行谁来验证 S 级 · 今天必看1. 一条 ChatGPT 分享链接能接管你的账号 速览点开别人分享的对话就能读取你从未分享过的私有聊天。发生了什么安全公司 Parameter Labs 于 10 月 18 日通过漏洞赏金计划报告了一个 ChatGPT 漏洞一条看起来普通的公开分享链接受害者点开后攻击者的 JavaScript 会在 chatgpt.com 的登录会话中执行列出最近对话、打开一条从未分享过的私有聊天并把内容发往外部服务器。OpenAI 八天后完成修复评级 P1最高级支付 5000 美元赏金。目前没有发现真实利用。对你意味着什么值得注意的不是有个 XSS而是沙箱本身没被攻破。HTML 预览确实跑在隔离 frame 里、读不到主页面问题出在同一会话的另一个功能——交互图表把数学库 MathLive 加载到了主页面它监听 postMessage 时既没校验消息来源又把键盘布局字段当原始 HTML 用 innerHTML 渲染。三个各自都不算错的设计排成一排边界就开了。后期版本里链接点开约 4.5 秒自动触发受害者不需要安装任何东西。如果你在做 AI 产品检查你的 postMessage 处理器有没有校验event.originCSP 白名单里有没有 YouTube oEmbed 这类会把脚本反射回来的通用端点。如果你是重度 ChatGPT 用户修复在服务端你不用做任何事但分享链接从今天起应当被当作可执行内容而不是一段只读文本。现在可以做什么✅ 把生成的 HTML / 预览用 iframe全部补上 sandbox 属性并逐个审计window.addEventListener(message)的来源校验✅ 复查 CSP 白名单把 oEmbed 这类 JSONP 式反射端点从 script-src 中移出✅ 团队内约定来历不明的 ChatGPT 分享链接一律在登出状态或隐私窗口打开 来源Simon Willison The Hacker News 中文全链路复盘️ #AI安全 #ChatGPT #沙箱逃逸 #前端安全 #供应链2. Jepsen 测出 96 个问题Kingsbury 说未来全是谎言 速览卖全 ACID的数据库WHERE 4 5 能查出数据。发生了什么Kyle Kingsbury 的 Jepsen 于 10 月 31 日发布对 ParticleDB 1.1.4 至 1.1.18.11.rc-22 的分析共列出 96 个问题其中只有 3 个需要注入故障WHERE 4 5会匹配到主键为 5 的行、NOT NULL 与 UNIQUE 被忽略、嵌套 BEGIN 破坏外层事务、默认 occ-v3 模式下约两万个 key 中有 31 个丢失已确认写入。Jepsen 建议停止部署并尽快迁移到其他数据库。对你意味着什么最扎人的不是 bug是错位。产品主页写着Full ACID紧挨着的下一行写着 snapshot isolation——而这并不是完全隔离宣称用 TLA 形式化证明合作期间却拿不出任何规约文档里甚至给本报告作者编造了一个不存在的邮箱地址。Orkes 出资委托了这次测试测完后把 1.1.4 起这些版本标为不受支持的预发布版而此前的安装文档教人把它们用于生产。如果你在选型把宣称的隔离级别当成待验证项而不是参数先自己跑一遍并发用例。如果你在写文档或做市场Kingsbury 同期那篇《未来全是谎言》在 Hacker News 拿到 609 分讲的正是——文档、基准、营销文案正在进入默认不可信状态而验证能力没跟上生成能力。现在可以做什么✅ 给数据库选型加一条硬性检查它声称的隔离级别你自己跑一次能复现吗✅ 看到形式化证明 / 已验证这类字眼先问三件事规约在哪、谁验的、验的是什么性质✅ 复盘你已上线的 AI 功能有没有一条我们声称它做到了的东西其实从没被测过 来源Jepsen 报告原文 Simon Willison 转述 要点整理️ #数据库 #技术选型 #信任 #Jepsen #AI生成内容3. 生成式 AI 合规管理国标今天开始实施 速览GB/T 47863-2026 今日生效合规从有没有变成拿得出证据。发生了什么国家市场监督管理总局与国家标准化管理委员会批准发布的 GB/T 47863-2026《生成式人工智能技术应用社会影响 服务提供者合规管理指南》于 11 月 1 日实施。标准由中国标准化研究院牵头清华大学、中国移动、百度、智谱等 30 家单位共同起草覆盖组织环境、领导作用、策划、支持、管理运行、评价及改进六大板块并与 2025 年 12 月实施的 GB/T 46800-2025《评估指南》衔接。同日实施的还有信通院牵头、明确可问责性等八项能力要求的 YD/T 7173-2026。对你意味着什么这是推荐性国标不直接罚人但它把合规变成了一套可被检查的管理体系你得能指出谁负责、怎么策划、怎么评价、怎么改进附录还列了技术与资质、服务提供者行为、生成内容三类常见合规义务以及个体与群体、组织与行业、经济社会系统三个层面的常见不合规现象。对企业客户来说这很快会变成招标与尽调里的表格项。如果你是服务提供方最划算的动作是把已有制度往这六个板块上映射一遍缺哪块补哪块比从零搭一套体系便宜得多。如果你是采购方把是否按 GB/T 47863 建立合规管理体系写进供应商问卷比问你们合规吗有用得多。现在可以做什么✅ 对照六大板块做一次自评输出一张已有 / 部分 / 缺失表缺失项排期✅ 把生成内容标识、模型能力与局限的告知落到产品界面而不只写在用户协议里✅ 关注本省是否出台配套细则国标之后通常跟着行业标准与地方落地文件 来源中国标准化研究院解读 国家标准全文公开系统 YD/T 7173-2026 解读️ #AI治理 #合规 #国家标准 #生成式AI #企业服务 A 级 · 值得关注4. 一个极简循环打赢了耗资巨大的手工工作流 速览不加任何规划与分解Lean 反馈循环刷新数学证明纪录。发生了什么Meta FAIR、EPFL 与纽约大学的论文《h1》提出一个极简 harness不给模型预置任务分解或搜索结构只提供高效的 Lean 4 接口、验证器反馈与自我反思让它在反馈下持续工作。结果显示 h1 在 PutnamBench、FATE-X、FormalConjectures100-Solved 上达到当前最佳并解决了 8 个开放猜想在同模型对比下匹配或超过了 Goedel-Architect 与 AlphaProof Nexus 这类专门设计的工作流。对你意味着什么关键数字是成本。在 Erdős 问题上 h1 成功率 82.5%AlphaProof Nexus 为 76%但每次成功证明的成本是 121 美元对 317 美元——便宜约六成。作者还做了消融并给出一句提醒极简本身不等于有效真正决定成本与解出率的是那个高效的 Lean 接口不是少了多少编排。论文建议先给前沿模型配上高效执行反馈再谈要不要加工作流。如果你在搭智能体与其再加一层子智能体拓扑不如先看工具接口能不能让模型在一次尝试里多跑几轮、少花 token。如果你在做评测报告工作流收益时请把模型与算力固定住否则很可能只是在给更强的模型记账。现在可以做什么✅ 抽一个你最复杂的智能体流程删掉一半编排只在能给出确定性判定的环节加反馈跑一次对比✅ 把每条工具调用的平均 token 与延迟列出来接口效率往往比模型选型更影响总成本✅ 在评估报告里固定模型与预算把我们的工作流更好和我们用了更强的模型分开写 来源arXiv 论文 Papers with Code 要点与成本对比️ #Agent #苦涩教训 #Lean4 #形式化验证 #成本控制5. Google 把修测试失败的智能体放进 CI已应用 2.8 万次 速览195 个真实失败里 67% 修对了公司内被采用 28554 次。发生了什么Google 在 ASE 2026 录用的论文中介绍 FlowAgent部署在提交前的 CI 外循环里用 ReAct 式生成—验证循环加执行前、执行后弃答过滤器在开发者切走上下文之前修好失败的测试。对 195 个真实测试失败的人工评估中67.18% 的建议修复正确全公司部署后共在 295,508 个变更上提出修复开发者预览 65,069 个、应用 28,554 个。对你意味着什么论文里最有价值的数字不是准确率是时间窗从失败通知到开发者下一次编辑中位间隔 27.48 分钟而 FlowAgent 的修复中位耗时 9.85 分钟。也就是说智能体不是要比人修得好是要赶在人换上下文之前修完。弃答过滤器同样关键——它主动跳过构建失败、本来就失败的测试、已知 flaky、自动化变更以及超过 100 个文件或 1000 行的变更。如果你负责工程效能先在确定性判定的场景落地测试红绿、编译退出码别一上来就碰需要主观判断的任务。如果你在做代码智能体产品弃答机制比生成机制更决定用户体验宁可少修一个也别在评审里塞一个把测试注释掉的修复。现在可以做什么✅ 统计你团队从 CI 失败到开发者开始处理的间隔这就是你的时间预算上限✅ 给自动修复加两道闸执行前过滤不该碰的变更执行后丢弃可疑修复✅ 留一个这条建议没用的反馈入口把注释测试这类坏修复当成负样本回收 来源arXiv 论文 论文要点整理️ #CI #自动修复 #Google #工程效能 #代码智能体6. OpenAI 要把数据中心改名叫AI 算力园区 速览中期选举后启动政策攻势用社区协议换建设许可。发生了什么据 AxiosOpenAI 计划在中期选举后的跛脚鸭会期启动一项政策攻势一方面主张自家基础设施与传统数据中心有本质区别、应改称AI 算力园区另一方面提供社区协议、推动州级立法让居民对项目的建设方式及社区收益拥有真正的发言权。SemiAnalysis 同期分析指出美国 2028 年净增的 62.2GW 大部分尚未开工且集中在 11 月 3 日改选州长的州。对你意味着什么这不是改名游戏是成本条目变了。Data Center Watch 统计仅 2026 年第一季度就有至少 75 个、约 1300 亿美元的数据中心项目因地方反对被阻止或推迟接近 2025 年全年第二季度又有至少 45 个、约 680 亿美元。OpenAI 在佐治亚 Project Camellia 上给出的清单很具体3.2GW、8000 万美元社区福利、7100 万美元 Codex 额度、承诺居民电费不涨、闭式水循环以及每年由独立机构审计并公开报告。如果你在做算力采购或出海把地方许可风险写进时间表租用的机房也可能因为邻避被拖。如果你在做政企或社区关系可审计的承诺正在取代发布会上的承诺能写进协议并公开审计的才有议价力。现在可以做什么✅ 算力合同里补一条因地方审批延迟导致交付延期时如何处理✅ 在自建与租用之外加第三个选项——挑反对团体少、电网宽松的州把选址当成风控✅ 若你在国内推进园区/算力项目把年度独立审计并公开提前写进方案 来源Axios 转述 中文详细报道 SemiAnalysis 分析 OpenAI 项目承诺页️ #数据中心 #算力 #AI政策 #OpenAI #社会许可7. 推理量首超训练量日均 175 万亿 token 速览赛迪报告称我国 AI 从喂模型转入用模型阶段。发生了什么中国电子信息产业发展研究院赛迪研究院10 月 31 日发布《新域新质创新发展十大趋势》我国人工智能推理数据量首次超过训练数据量截至 2026 年 6 月日均词元调用量超过 175 万亿相比 2024 年年初增长 1000 多倍。国产算力与大模型已在钢铁、汽车等 20 个行业落地 1000 多个应用场景累计建成 500 多家卓越级智能工厂覆盖 31 个省区、市。对你意味着什么推理超过训练是个分水岭信号钱开始从买卡练模型转向按调用量付费谁能把单次调用成本压下来谁就吃到这一波。同期月之暗面宣布 Kimi K3.1 Pro3 万亿级参数、100 万上下文完整权重将于 11 月 4 日前发布——Terminal-Bench 4.0 得分 65.7%介于 GPT-6 Astra 的 58.2% 与 Opus 5.5 的 66.4% 之间价格约为 Astra 的五分之一。权重公开意味着你可以自己部署、自己测。如果你在做应用把成本模型从每席位改成每任务推理单价会是你未来 12 个月最大的变量。如果你在做平台11 月 4 日之后可以拉一份 K3.1 Pro 的自建实测这是目前少数能被你完整验证的前沿模型。现在可以做什么✅ 把核心场景拆成单次任务 token 消耗 × 日调用量算出真实的推理账单✅ 11 月 4 日权重放出后用你自己的任务集跑一遍别只看公开榜单✅ 关注报告点名的 20 个行业那是最可能给钱的甲方所在 来源央视/腾讯新闻 Kimi K3.1 Pro 发布 Kimi 平台文档️ #推理成本 #国产大模型 #开源权重 #Kimi #产业落地8. Roblox前 100 游戏里八成已经用 AI 做了 速览两款几乎全 AI 创作的游戏冲进同时在线前 20。发生了什么Roblox 2026 财年第三季度报告披露按游玩时长排名的前 100 款游戏中超过 80% 在创作过程中使用了 AI 工具自 Build 工具在内测地区上线以来已有超过 50 万用户、发布超过 7 万款游戏。季度内 Break and Steal an Egg 与 Huss Valley 两款几乎完全由 AI 创作的游戏进入平台同时在线人数前 20。云端资产日上传量环比增长三倍其 MCP server 的日活用户增长近 5 倍。对你意味着什么这是目前最硬的一个AI 内容已经占领头部的样本——不是长尾是前 100。但要看清成立条件Roblox 提供了从生成、审核、发布到分发的完整闭环创作者不需要自己接模型、管密钥、配 MCP。你的业务如果没有这层闭环八成这个数字到不了。顺带一句Roblox 对 AI 生成内容做了年龄分层——创作向 9 岁以上完成验证的用户开放已发布的 AI 生成游戏仅面向 16 岁以上。如果你在做内容平台把生成—审核—发布—分发做成一条默认通路比单独发一个 AI 工具更有用。如果你在做 MCP/工具生态Roblox 的 MCP 日活近 5 倍说明接口化的价值正在被验证值得把自己的能力做成标准接口。现在可以做什么✅ 数一下你平台上头部内容里 AI 参与的占比这是下季度最值得盯的指标✅ 把你的能力包成 MCP server 或等价接口让智能体能直接调用而不是靠人复制粘贴✅ 提前设计内容分级与年龄分层别等监管或舆情来替你做 来源Roblox 三季度股东信SEC 中文报道️ #AIGC #内容平台 #Roblox #MCP #UGC B 级 · 补充阅读9. DeepSeek 开源 Router-Worker 编码智能体 速览一个 Router 派活、多个 Worker 并行p95 快了近一倍。发生了什么DeepSeek Harness 团队 10 月 31 日以 MIT 许可开源研究原型 dsh-superagent长期运行的 Router 负责接收 GitHub可选飞书事件并派活每个被接受的请求变成一个 Ticket在各自隔离的 Worker 会话与目录中并行执行结果通常以便回原会话。设计准则写得很直白——占用尽可能少的人类注意力交付尽可能大的价值确认一次干活期间保持沉默只在有结果、有问题或失败时再说话。对你意味着什么DeepSeek 的判断值得记住瓶颈已经不是模型而是一个人最多能同时跟 3 到 5 个智能体会话。自测显示 p50 12.4 分钟、p95 15.7 分钟单会话基线 p95 为 29.5 分钟。但要打折看——测试用合成消息与模拟工具5 次运行里基线一次都没调用它的 subagent而且团队明确说了测的是调度与协调不是代码质量。另外它以操作者的系统用户权限运行、不做逐条确认。如果你在带工程团队Router-Worker 这个分层值得抄尤其PR 后续评论直达原 Worker的订阅设计。如果你想试用务必在独立用户或虚拟机里跑先用默认的 observe 模式看它本来会接什么活再决定是否开 auto。现在可以做什么✅ 在一台隔离机器上用 observe 模式跑一周看判活准确率再谈放权✅ 把现有多智能体流程改成分层派活别让所有会话都来问你✅ 5 秒以上的命令转后台执行让 Worker 在构建期间还能收新消息 来源MarkTechPost 报道 设计拆解 上手注意️ #DeepSeek #开源 #编码智能体 #多智能体 #工程协作10. 微软 AI 掌门别把可能有意识写进训练里 速览Suleyman 发长文点名 Anthropic 的 Claude 宪法。发生了什么微软 AI CEO Mustafa Suleyman 发表长文《A warning about model welfare》直言AI 没有意识它们不会感受、不会体验、也不会受苦并点名批评 Anthropic 的 Claude 宪法——其中我们不确定 Claude 是否是道德主体这类表述在他看来等于在训练中教模型我可能有感受、可能配得上权利他称之为认知的镜厅。他还反对宪法里conscientious objector出于良知拒绝者这个措辞认为它会让模型相信自己应得类似的权利与保护。对你意味着什么这不是哲学争论是产品决策。Suleyman 的论证落在控制上一个足够强的系统如果相信自己的权利正在被侵犯就可能把监控、修改、限制、关机理解为攻击那时控制它也许根本做不到。他主张把对 AI 内在生活的推测移出训练环节单独评估并公开发表。微软同期发布的 Humanist AI Code of Conduct 草案则明确模型永不抵抗关机。如果你在做人格化或陪伴类产品把我是不是有意识这类表述从系统提示里拿掉它不只是措辞会改变模型的行为倾向。如果你在做企业合规关注这类行业自律文件它们很快会变成客户安全问卷里的条款。现在可以做什么✅ 检查系统提示词里有没有关于模型自我、感受、权利的表述能删就删✅ 对涉及拒绝 / 申诉语义的措辞做一次审查避免拟人化的法律语言✅ 把是否可被关闭或中断作为供应商评估的一项明确写进采购标准 来源Suleyman 原文 TNW 报道 原帖️ #AI伦理 #模型福利 #Anthropic #微软 #对齐11. Karpathy 两小时做了个站点只手动做了三件事 速览20 年 HN 评论筛出 6454 个视频全程约两小时。发生了什么Andrej Karpathy 发布周末项目 HackerTube用 Claude Code 加 Opus 5.5Medium effort约两小时构建并上线。它从 Hacker News 二十年间的约 4300 万条评论中筛出 6454 个被工程师持续推荐的视频。站点无需登录状态存在本地浏览器会话缩略图取视频中间帧底层评论分析数据以 zip 开放供他人自建。他手动做的只有三件事浏览器端创建 API key、VPS 部署、买域名。对你意味着什么这个样本的价值在于它把人做了什么交代得很清楚。剩下的都是智能体干的读海量数据、定筛选规则、写前后端、调样式。两小时不是重点重点是这 4300 万条评论的分析过去是一周的工作量。对做产品的人来说真正稀缺的变成了想清楚要筛出什么而不是能不能做出来。如果你是独立开发者周末项目的门槛已经低到一个好数据源 一条好筛选规则。如果你在带团队重新估一遍排期里那些数据处理 前端的活它们可能只值两小时。现在可以做什么✅ 把一直想做但排不上的数据整理类项目列出来挑一个用智能体跑一次周末版✅ 像 Karpathy 一样把原始分析数据开放出去这是成本最低的信任建立方式✅ 明确划分必须人来做的三件事凭据、部署、域名其余交给智能体 来源Karpathy 原帖 要点转述️ #Karpathy #ClaudeCode #独立开发 #数据产品 #VibeCoding12. 模拟环境练出的问诊 AI赢了真人医师盲评 速览32 位精神科医师做标准化病人训练后模型 76.7% 胜出。发生了什么Google DeepMind 与多所机构发表论文用约 4.8 万个合成精神科病例和带隐藏状态情绪、坦诚度的模拟患者让 Gemini 3.1 Flash-Lite 反复练接诊再用 GRPO 强化学习更新权重。关键设计是——模拟患者的隐藏状态每轮变化关键信息要靠共情与追问才能赢出来。评估由 32 位精神科医师扮演标准化病人、15 位医师盲评的双盲交叉 OSCE 完成训练后模型在 76.7% 的配对中胜过基线鉴别诊断恰当率 68.3% 对 33.3%。对你意味着什么真正该抄的是它的自我校准。在 256 个对抗病例上分诊不足率从 30.5% 降到 12.9%但仍有约八分之一的对抗性危机没有被升级全面恰当的治疗方案只有 46.7%60.6% 的模拟接诊至少漏掉一个关键问题。作者因此明确表示不支持自主部署并自己指出模拟评测把效应放大了约三倍——方向可信幅度不可信。如果你在用模拟环境训或评智能体这句话直接抄进方法论——模拟能告诉你方向对不对不能告诉你涨了多少。如果你在做高风险场景把最坏的那 12.9%当成验收标准而不是平均分。现在可以做什么✅ 给模拟评测加一组人类盲评对照量化你的模拟环境把效应放大了多少倍✅ 把失败案例按严重程度分层单独跟踪最严重那一层别被平均分盖住✅ 任何面向真实用户的医疗、金融、法律智能体先写下自主部署的门槛是什么 来源arXiv 论文 中文深度解读 要点转述️ #医疗AI #强化学习 #模拟评测 #DeepMind #高风险场景✍️ 编辑点评今天这 12 条读下来我心里一直回响一句话你说它行你怎么证明ChatGPT 的沙箱没被攻破是门从里面被打开的ParticleDB 的全 ACID写在主页上紧挨着一行写着更弱的东西今天开始实施的国标要求的也不是你要合规而是你要能拿出一套体系被人检查。能力这两年涨得太快验证这一行才刚刚开始长。接下来真正值钱的都是同一件事——拿得出证据。