欧盟《人工智能法案》首批禁令2025年2月生效 全球AI安全监管迈入执法时代
2024年8月1日，欧盟《人工智能法案》（EU AI Act）在官方公报上正式公布并生效，这套全球首部全面性AI监管法律自此进入分阶段实施轨道。根据欧盟委员会公布的时间表，法案中针对“不可接受风险”的禁令将于2025年2月2日起率先执行，届时社会信用评分、实时远程生物识别、工作场所与教育场景下的情绪识别，以及利用AI进行潜意识操纵等行为将在欧盟境内被全面禁止。紧接着，通用人工智能模型的相关规则于2025年8月生效，而高风险AI系统的全面合规义务则留待2026年8月。布鲁塞尔智库Bruegel高级研究员马里奥·马里尼耶罗指出，该法案凭借域外效力，正迫使所有在欧盟市场运营的中美科技企业重新审计产品线，合规成本可能高达全球年营收的7%，远超一般数据保护法规的冲击。
在大西洋彼岸，美国联邦层面的AI立法依旧步履蹒跚，但行政令和州级立法正快速塑造监管现实。2023年10月30日，白宫援引《国防生产法》签署《关于安全、可靠、可信地开发和使用人工智能的行政命令》，要求算力超过10^26次浮点运算的模型开发者向政府分享红队安全测试结果。2024年，美国商务部国家标准与技术研究院（NIST）据此组建了美国AI安全研究所（USAISI），并于7月发布首份技术指南《生成式人工智能风险缓解框架》，详细规范了红队测试流程、合成内容水印以及模型权重安全。在国会山，两党先后提出《AI基础模型透明法案》《禁止AI欺诈法案》等数十项提案，但无一走完立法全程。相反，加州的立法枪口跑得更快——2024年5月，州参议院通过SB 1047《前沿人工智能模型安全创新法案》，要求训练成本超过1亿美元的模型开发者实施“紧急停止”机制、提交年度第三方审计报告，并规定若因疏忽造成“大规模伤亡或超过5亿美元损失”，总检察长可提起诉讼。8月28日，该法案在争议中获州众议院通过，被业界视为美国迄今最严苛的AI法案。OpenAI、谷歌、Meta等公司联名反对，称其将“迫使AI研发逃离加州”；而支持者、图灵奖得主约书亚·本吉奥则公开表示，法案是对前沿风险的必要设防。
中国的AI监管则沿着“敏捷治理—分类分级—落地细化”的路径继续深化。自2023年8月15日《生成式人工智能服务管理暂行办法》施行以来，国家网信办已累计公布超过200个完成备案的大模型，包括百度的文心一言、阿里的通义千问、腾讯的混元等。进入2024年，监管重点明显转向执法环节：4月，网信办发布《生成式人工智能服务备案要求》修订版，增加对训练数据版权声明与违法内容过滤的审计条款；8月起，针对AI换脸、深度合成技术的“清朗·2024”专项行动开始对未标识内容进行罚款，首月即查处违规网站430余家。中国信通院发布的《2024年人工智能治理白皮书》指出，中国正探索建立AI安全风险监测预警平台，要求企业在模型部署前通过安全评估并持续上报运行日志，形成“事前-事中-事后”全链条监管。
全球范围内的监管协作亦在2024年频频破题。2024年5月，韩国首尔AI峰会在英国布莱切利园首届峰会基础上，推动成立了“AI安全研究所国际网络”，美国、英国、欧盟、日本、韩国、新加坡等十个成员承诺互认评估标准并共享红队测试结果。7月23日，美国联邦贸易委员会、欧盟委员会竞争总司和英国竞争与市场管理局发出联合声明，明确表示将严防AI市场被少数企业垄断，尤其关注基础模型开发与云算力市场的纵向整合。联合国层面，秘书长古特雷斯于9月正式启动“人工智能高级别咨询机构”，并再次呼吁设立类似国际原子能机构的全球AI监管实体，但该倡议仍在安理会常任理事国间缺乏共识。
企业应对方面，全球科技巨头的合规姿态分化明显。微软、谷歌先后与美英AI安全研究所签署谅解备忘录，开放旗舰模型接受外部审计；Anthropic发布“宪法式AI”训练方法，试图将安全价值观内嵌于模型。而OpenAI于2024年5月突然解散负责长期风险研究的“超级对齐”团队，引发安全界震动。中国公司则普遍选择“监管先导”路线——华为于2024年10月联合中国电子技术标准化研究院发布《大模型安全开发指南》，百度、科大讯飞也相继设立了首席安全合规官岗位。行业组织“数字欧洲”估算，仅满足欧盟AI法案的初期文档编制要求，中型AI开发商就需要年均增加15万—40万欧元的支出。
随着2025年2月欧盟首批禁令起效，以及美国大选后新政局可能调整联邦AI政策，全球AI安全监管将在2025年真正从立法博弈步入执法深水区。如何在扼杀创新与放任风险之间校准刻度，考验的不仅是技术企业，更是全球治理体系的协同弹性。
在大西洋彼岸，美国联邦层面的AI立法依旧步履蹒跚，但行政令和州级立法正快速塑造监管现实。2023年10月30日，白宫援引《国防生产法》签署《关于安全、可靠、可信地开发和使用人工智能的行政命令》，要求算力超过10^26次浮点运算的模型开发者向政府分享红队安全测试结果。2024年，美国商务部国家标准与技术研究院（NIST）据此组建了美国AI安全研究所（USAISI），并于7月发布首份技术指南《生成式人工智能风险缓解框架》，详细规范了红队测试流程、合成内容水印以及模型权重安全。在国会山，两党先后提出《AI基础模型透明法案》《禁止AI欺诈法案》等数十项提案，但无一走完立法全程。相反，加州的立法枪口跑得更快——2024年5月，州参议院通过SB 1047《前沿人工智能模型安全创新法案》，要求训练成本超过1亿美元的模型开发者实施“紧急停止”机制、提交年度第三方审计报告，并规定若因疏忽造成“大规模伤亡或超过5亿美元损失”，总检察长可提起诉讼。8月28日，该法案在争议中获州众议院通过，被业界视为美国迄今最严苛的AI法案。OpenAI、谷歌、Meta等公司联名反对，称其将“迫使AI研发逃离加州”；而支持者、图灵奖得主约书亚·本吉奥则公开表示，法案是对前沿风险的必要设防。
中国的AI监管则沿着“敏捷治理—分类分级—落地细化”的路径继续深化。自2023年8月15日《生成式人工智能服务管理暂行办法》施行以来，国家网信办已累计公布超过200个完成备案的大模型，包括百度的文心一言、阿里的通义千问、腾讯的混元等。进入2024年，监管重点明显转向执法环节：4月，网信办发布《生成式人工智能服务备案要求》修订版，增加对训练数据版权声明与违法内容过滤的审计条款；8月起，针对AI换脸、深度合成技术的“清朗·2024”专项行动开始对未标识内容进行罚款，首月即查处违规网站430余家。中国信通院发布的《2024年人工智能治理白皮书》指出，中国正探索建立AI安全风险监测预警平台，要求企业在模型部署前通过安全评估并持续上报运行日志，形成“事前-事中-事后”全链条监管。
全球范围内的监管协作亦在2024年频频破题。2024年5月，韩国首尔AI峰会在英国布莱切利园首届峰会基础上，推动成立了“AI安全研究所国际网络”，美国、英国、欧盟、日本、韩国、新加坡等十个成员承诺互认评估标准并共享红队测试结果。7月23日，美国联邦贸易委员会、欧盟委员会竞争总司和英国竞争与市场管理局发出联合声明，明确表示将严防AI市场被少数企业垄断，尤其关注基础模型开发与云算力市场的纵向整合。联合国层面，秘书长古特雷斯于9月正式启动“人工智能高级别咨询机构”，并再次呼吁设立类似国际原子能机构的全球AI监管实体，但该倡议仍在安理会常任理事国间缺乏共识。
企业应对方面，全球科技巨头的合规姿态分化明显。微软、谷歌先后与美英AI安全研究所签署谅解备忘录，开放旗舰模型接受外部审计；Anthropic发布“宪法式AI”训练方法，试图将安全价值观内嵌于模型。而OpenAI于2024年5月突然解散负责长期风险研究的“超级对齐”团队，引发安全界震动。中国公司则普遍选择“监管先导”路线——华为于2024年10月联合中国电子技术标准化研究院发布《大模型安全开发指南》，百度、科大讯飞也相继设立了首席安全合规官岗位。行业组织“数字欧洲”估算，仅满足欧盟AI法案的初期文档编制要求，中型AI开发商就需要年均增加15万—40万欧元的支出。
随着2025年2月欧盟首批禁令起效，以及美国大选后新政局可能调整联邦AI政策，全球AI安全监管将在2025年真正从立法博弈步入执法深水区。如何在扼杀创新与放任风险之间校准刻度，考验的不仅是技术企业，更是全球治理体系的协同弹性。