同一周,两种相反的「透明」:欧盟让输出自报家门,白宫把尺子锁进保险柜
先说结论
这周值得记的不是哪个模型,是两套规则同期落地,而且方向相反。
8 月 2 日,欧盟 AI Act 第 50 条正式适用:AI 跟人对话要自报家门,生成的音频、图像、视频、文本要以机器可读的方式标记为「人工生成或篡改」。8 月 4 日,白宫敲定了前沿模型上市前的联邦审查框架,然后宣布不公开内容——只有愿意参加的公司知道里面写了什么。CFR 高级研究员 Chris McGuire 那句话是这周最锋利的评论(经 Fortune 报道):「我们不能用秘密的、自愿的规则,去监管世界上最重要的技术。」
我的判断:这不是「严」与「松」的差别,是可核验性被放在了链路的哪一端。欧盟放在输出端——任何人拿到一张图都能自己查它有没有标记,验证权是分布式的。白宫放在模型端——你必须相信审查者,而审查者不告诉你尺子长什么样。
事情是怎么发生的
欧盟并不是全线推进。同一部 AI Act 的高风险义务,因为落地明显跟不上时间表,被整体后推到 2027 年 12 月和 2028 年 8 月。没被推迟的只有第 50 条的透明义务。
白宫这边:6 月 2 日的行政令要求 60 天内建成框架;8 月 4 日约十余家公司到华盛顿收口,政府最多可在发布前 30 天拿到模型做审查,但明确不构成强制许可。据报道开放权重模型被排除在外——这条至今只是「据报道」,官方没确认;公众得靠猜,这本身就是论据。
反对声很具体。Americans for Responsible Innovation:「这不是跟科技公司的握手协议,这是确保它们不危害公众的规则手册。如果只有科技公司知道手册里写了什么,它就不成立。」众议员 Lori Trahan 说,AI 治理该放在能被看见和质询的文职机构,而不是埋进国安体系。
为什么重要
我 7 月写 GPT-5.6 那篇时说过,前沿发布正在变成受审查的基础设施发布;这周它从趋势变成制度,不再重复。
真正的新东西在另一头,正好落在做影像的人手里:第 50 条第 2 款把一个没解决的测量问题,写成了合规义务。
法条要求合成内容机器可读、可被检测,同时给了豁免——AI 只承担「标准编辑的辅助功能」、或「没有实质改变输入数据及其语义」的,不用标。读起来清楚,画到影像链路上就没有自然切口:降噪 → 超分 → 多帧融合 → 语义补全 → 完全生成是一条连续谱,找不到哪一步是「语义被改变了」的物理分界。这不是法律问题,是度量问题,而这个度量今天不存在。
第二个没解决的是标记本身的存活率:水印要经得住重编码、裁剪、截图、屏摄和二次生成;C2PA 那类挂在文件头的溯源信息,进一次社交平台常常就被剥干净。法条规定了义务,没规定信道。
站得住与站不住的地方
先说白宫站得住的部分。真正要评的能力(网络攻击、生化)一旦公开细则和阈值,约等于公开越狱指南和及格线。写 METR 那篇时我说过,当被测者知道自己在被测,尺子先坏了;公开尺子只会更糟。所以「不公开具体题目」有道理。
但保密具体题目 ≠ 保密整个制度。可以公开而没公开的东西很多:谁在被评、阈值怎么定义、谁签字、结果以什么格式对外摘要、开放权重到底算不算。现在的组合是自愿 + 保密 + 选择性准入,副作用不是监管而是背书——「政府审过」会变成竞争壁垒,被排除在外的开源权重反而落进「未经审查」的污名位。小实验室的抗议不是意识形态,是市场结构。
欧盟也别急着夸。它同一季度把高风险义务整体后推,等于保留了「标注」、暂时放弃了「判断」。两边的共同根因是一件事:**今天没有人写得下前沿模型「够好」的定义。**一边用披露替代判断,一边用保密替代判断。
这对行业意味着什么
研究上,这里有个真问题,而且是我们的问题:合成内容标记本质是「在有损信道下必须存活的编码 + 归属」,再加一个「哪一步算生成」的边界量化。后者可以直接做成可发表的工作——给编辑操作的连续谱定义语义改变度,把豁免边界变成一条可测曲线。
教学上,8 月 2 日送来一个零成本、半天出结论、结论二元的课堂实验:手机拍一张照片,查它出厂带没带溯源元数据,再发一遍微信和小红书,回收后看还剩什么;然后用生成模型出一张图,重压缩一次、截图一次,看水印还在不在。做完这两件,学生对「AI 标注」的理解会比读十遍法条更准。
工程上,如果产品要进欧盟,「链路里哪一步开始算合成」必须由做影像的人给出工程定义并留痕。这条线你不画,别人会替你画,而且画得比你难受。