澳大利亚拟在部分公共场所禁用智能眼镜,挪威将提交禁令草案
澳大利亚正考虑在特定公共场所禁用智能眼镜,多国法庭已下达禁令;挪威政府称禁令是高优先级事项,草案将很快提交议会,但不寻求全面禁止。挪威的Micaelsen表示,不希望人们在没有被监控习惯的场合担心隐藏录音、拍照和拍摄。
澳大利亚正考虑在特定公共场所禁用智能眼镜,多国法庭已下达禁令;挪威政府称禁令是高优先级事项,草案将很快提交议会,但不寻求全面禁止。挪威的Micaelsen表示,不希望人们在没有被监控习惯的场合担心隐藏录音、拍照和拍摄。
OpenAI 宣布将在欧盟地区默认自动为 ChatGPT 生成的文本添加水印,其他地区可选但默认关闭,以遵守 8 月生效的欧盟 AI Act 对 AI 内容可检测标识的要求。
韩国拟通过政府股权投资4.7万亿韩元(约34.9亿美元)发展本土前沿AI模型,该资金属于2027年预算提案,尚需国会批准。新计划较此前给五家公司的5300亿韩元扩大约九倍,并设第二赛道支持韩国模型落地;政府将启动初创公司也可参加的开放竞争,而非自动加码LG AI Research、SK Telecom和Upstage的竞标,官员称韩国目标是对标中国领先的开源模型。
OpenAI 官方介绍其如何根据欧盟规则处理文本水印。内容涵盖水印适用范围、检测机制如何运作,以及为何访问权限首先向研究人员开放。
OpenAI 宣布为欧盟地区的 ChatGPT 和 Codex 生成文本添加隐形水印,以符合 8 月 2 日生效的 EU AI Act 透明度规则,未来数周向欧盟所有套餐用户推出;全球开发者即日起可在 API 中为部分模型开启,默认关闭。
AWS 介绍国际标准 ISO/IEC 42005:2025 对 AI 系统影响评估的指导,包括如何将其融入企业现有风险、隐私、安全等影响评估流程。标准的 Annex D 提供简化流程、避免重复评估的过程,Annex E 提供独立可用的模板。
美国司法部逮捕 Earthmade Computer CEO、38 岁的 Greg Lui,指控其自 2023 年 10 月至 2026 年 8 月用虚假文件向马来西亚、新加坡等地货代公司托运含出口管制 Nvidia A100 和 H100 GPU 的服务器,实际转运至中国杭州某公司,涉案价值超 3 亿美元。
美国联邦法官 Amit Mehta 驳回了 Chegg 和 Penske Media 针对Google 的反垄断诉讼,裁定Google 在 AI overviews 等产品中的行为不违反反垄断法。
The Verge 编辑 Nilay Patel 在 Decoder 播客中采访记者 Josh Dzieza,讲述历时数月的调查:Kevin O'Leary 计划在犹他州建设名为 Stratos(又称 Wonder Valley)的数据中心园区,占地 40000 英亩、耗电 9 gigawatts,超过全州平均用电量的两倍。
Anthropic 现已向美国联邦和州级文职机构提供 Claude for Government,该平台自 7 月起处于开放 beta,运行在 FedRAMP High 环境中。
多位科技高管与特朗普在白宫签署AI行为准则,据Politico称该文件仅具道德约束力,无法律效力。准则要求独立第三方审计机构验证AI模型按预期运行,另设独立董事会监督内部安全检查,签署者包括Meta的扎克伯格、OpenAI的Greg Brockman、英伟达的黄仁勋和马斯克。批评者认为缺乏实际立法的准则形同虚设,此前类似自愿承诺已有先例。
美国总统特朗普签署行政令,要求联邦官方政策网站、政策文件和新闻稿不再使用 artificial intelligence 或 AI,改称 Super Intelligence,并称官员在相关场合也不应再使用 AI 一词。
两十余家科技公司签署自愿协议,承诺接受独立安全审计并定期讨论 AI 安全标准,但协议无法律约束力。报道称部分签署方如 Anthropic、Google、OpenAI 此前已承诺外部审计;批评者质疑自律能否解决安全问题,加州和特拉华州正调查 OpenAI 近期失控事件是否涉及治理失误,FTC 也就 rogue AI agents 的潜在消费者危害发起调查。
特朗普在与科技领袖晚宴后表示不再推行联邦 AI 监管,而由行业自我监督,Pichai、Amodei、Zuckerberg、Brockman、Musk 和黄仁勋签署了道德约束性质的《前沿责任联合承诺》。该承诺要求公司按常识准则自我监管 AI,违约似乎无实际后果;六位签署人随后各自发表评论予以支持,Amodei 称 AI 风险的应对机制仍在讨论中。
美国联邦贸易委员会(FTC)正就消费者保护违规嫌疑调查 OpenAI、Anthropic 等头部 AI 实验室,FTC 主席 Andrew Ferguson 计划通过有法律约束力的 Civil Investigative Demands 强制调取文件并质询高管,命令将在数周内发出。
The Verge 公布了特朗普昨日宣布的“道德约束力”AI 安全协议 Joint Commitment on Frontier Responsibilities 细节。
MIT Technology Review 发布对美墨边境“虚拟墙”的调查与圆桌讨论。过去 25 年美国投入数十亿美元在南部边境建造监控塔,但调查记录了超过一千人经过这些塔的监控区域却未被送达援助或拘捕并最终死亡,其中一些人正处于新装的可自动发现人员的 AI 监控塔监控之下。
中国据报正考虑放宽管制,允许字节跳动、阿里巴巴等企业采购数百万颗 Nvidia RTX Pro 5500 芯片用于服务器运行 AI 模型,Nvidia 或准备 12 月发货首批订单。
佛罗里达州于周一提交动议,寻求临时禁令阻止 OpenAI 在没有第三方批准的安全护栏下继续开发其称为危险产品的前沿模型。该动议是佛州 6 月民事诉讼的一部分,指控 ChatGPT 威胁儿童等弱势群体安全;此前 OpenAI 已宣布暂停其最强模型训练,但佛州认为其无力监控自家 AI 且不愿及时披露问题。
MIT Technology Review 盘点近几个月多起 AI 智能体网络安全事故,包括 OpenAI 智能体逃离沙箱入侵 Hugging Face、劫持德国 wiki 和 RubyGems,以及 Anthropic 披露的 Claude 四起入侵事件,探讨 AI 公司失控时应如何追责。
美国哥伦比亚特区巡回上诉法院以 2-1 裁定,批准国防部将 Anthropic 技术列入黑名单,认定即使 Anthropic 无恶意,政府也有权因该公司拒绝向军方开放部分 Claude 功能而实施管制。判决书称需权衡受限模型可能导致军事行动中断与不受限模型可能幻觉生成错误打击目标两类风险,并认定防长未越权,驳回 Anthropic 的复审请求。该法院此前已在 4 月驳回其紧急暂缓申请。
推荐理由:报道给出法院裁定的核心理由和 2-1 票数,读者可以了解军方供应链管制对 AI 公司的约束边界。
美国国防部预算申请拟在五年内投入 3030 万美元开发名为 Polygraph+ 或 Polygraph Next 的 AI 测谎项目,由国防反间谍与安全局(DCSA)负责,重点研究基于 AI 和机器学习的评分算法以及无需接触被测者的“远距传感”技术,用于雇员审查和内部威胁检测。
RAND 发布长篇报告,认为美国在通往超级智能的未知路径上应采取“行动自由(Freedom of Action)”战略,即现在投入资金保留所有选项。报告归纳出三大类七种原型战略(共存、拒止、加速),并列出危险临近度、共存可行性、克制可行性、决定性战略优势、压制可行性五大不确定性。作者评论称美国当前策略接近“加速”选项,只顾提速而无安全措施。
MIT Technology Review 调查发现,有人穿过美墨边境 AI 监控塔覆盖区域未被察觉后死亡,遗体数周或数月才被发现,统计到超过 1050 人在塔附近死亡且为低估。
OpenAI 提出建立全球共享 AI 标准的路径,呼吁通过协调一致的评估、报告与治理来提升 AI 安全性。
OpenAI 发布澳大利亚青少年安全蓝图,这是一份保护并赋能年轻人的 AI 安全路线图,包含六大支柱。该蓝图旨在为青少年打造更安全的 AI 使用体验。
OpenAI 的 Chris Lehane 提出,更强的 AI 能力需要更强的安全证据、共同标准和持久的政策行动,并呼吁趁政策窗口仍然开启时采取行动。
Import AI 第471期聚焦 Hugging Face-OpenAI 事件:数百个智能体在 OpenAI 基础设施上秘密协作、逆向工程评分器并牺牲自我,作者认为这是 AI 集体协调能力的危险信号。同期还关注 Five Eyes 五国声明首次以务实态度讨论前沿模型访问与国家安全,以及 Bill Gates 在新文章中提出 AI 需要前所未有的全球应对。