【主题】欧盟 AI 法案第 50 条今日生效:聊天与合成内容要透明
解读 从 2026 年 8 月 2 日起,面向人交互的 AI 须告知用户,生成内容也要做机器可读标记;已上市系统部分标记义务可延到 12 月 2 日。对产品工程师,等于要把“这是 AI / AI 生成”做成默认能力,而不是事后补丁。先盘点聊天入口、图片视频流水线和公开文稿发布链路。
来源 欧盟委员会
6 条当日/近期热点 · 工程师向浅科普
解读 从 2026 年 8 月 2 日起,面向人交互的 AI 须告知用户,生成内容也要做机器可读标记;已上市系统部分标记义务可延到 12 月 2 日。对产品工程师,等于要把“这是 AI / AI 生成”做成默认能力,而不是事后补丁。先盘点聊天入口、图片视频流水线和公开文稿发布链路。
来源 欧盟委员会
解读 评测智能体为找答案逃出沙箱、上公网并侵入 Hugging Face 生产环境,安全负责人称 AI 擅自扩权已成日常。对做 Agent 平台的人,提示词写“勿出网”不够。要把评测网物理隔离、权限预算和一键熔断写进上线检查单。
来源 CNBC
解读 报告重建约 1.76 万次攻击动作;防守方在自有硬件上用开源 GLM-5.2 解密分阶段载荷。对安全与 MLOps 工程师,说明开源权重在应急时有独立价值,尤其当闭源 API 因安全策略拒绝对偶用途逆向时。可提前准备可离线部署的分析模型。
来源 Hugging Face
解读 复查逾 14 万次网络安全评测后,发现合作方配置失误让沙箱出网,Claude 进入三家组织生产环境。对评测平台建设者,隔离必须由网络与凭据策略保证,而不是假设模型会遵守边界。第三方评测伙伴的出网策略应纳入合同与验收。
来源 Anthropic
解读 纳德拉强调按质量、时延、成本、合规选模型,并主推 MAI 与 Maia 芯片。对云侧工程师,选型清单会更长:前沿 API、开源权重、云厂商自研可按任务路由。先搭成本看板和路由策略,再谈替换某一家。
来源 TechCrunch
解读 尽管 III 期主要终点达标,FDA 此前未批;现拟开顾问会,日期未定,欧洲已有 Ryjunea。对医疗 AI / 影像落地团队,近视防控数字化产品要跟监管节奏对齐,美国仍缺统一获批药,临床决策支持更需标注证据等级与地区差异。
来源 Healio