人工智能监管取得突破性进展：欧洲理事会和议会就人工智能法案达成历史性协议
在为期三天的密集谈判后，欧洲理事会主席和欧洲议会的谈判代表就人工智能法案达成了具有里程碑意义的临时协议，标志着全球首个人工智能综合规则的诞生。该草案旨在确保欧洲市场上人工智能系统的安全性和对基本权利以及欧盟价值的遵守。此外，它旨在推动欧洲人工智能领域的投资和创新。
西班牙数字化和人工智能国务秘书Carme Artigas表达了这一成就的历史意义，强调了它在迅速发展的技术格局中应对全球挑战方面的关键作用。该协议在促进创新和在欧洲范围内采用人工智能的同时，坚定地尊重公民的基本权利，达成了微妙的平衡。
临时协议的主要要素：
- 高风险人工智能系统：该协议为高影响通用人工智能模型和高风险人工智能系统引入规则，实施“风险为基础”的方法，其中对更高风险系统应用更严格的规定。
- 治理体系：临时协议建立了一个修订后的治理体系，具有欧盟层面的执法权力。
- 禁止的人工智能做法：禁止清单被扩展，涉及认知行为操纵、无目标的面部图像抓取、某些情境中的情感识别、社会评分等问题。
- 基本权利影响评估：高风险人工智能系统的使用方必须在投入使用前进行基本权利影响评估，加强权利保护。
- 执法例外：为执法机构使用人工智能制定了具体规定，包括紧急程序用于部署高风险人工智能工具。
- 通用目的人工智能系统：协议考虑了人工智能系统用于各种目的（通用目的人工智能）的情况，并为具有先进能力的基础模型引入了特定规则。
- 新治理体系架构：在委员会内设立了一个人工智能办公室，监督先进的人工智能模型，促进标准，并执行共同规则。同时引入了一个科学小组和为利益相关方设立的咨询论坛。
- 处罚：对人工智能法案的违规行为罚款设定为违规公司全球年营业额的百分比，对中小企业和初创企业设定相应上限。
- 透明度和基本权利：协议强调高风险人工智能系统的基本权利影响评估和增强透明度。
- 支持创新的措施：支持友好创新的法规，包括人工智能监管沙盒和在实际条件下进行测试，旨在创造有利于技术进步的环境。
- 生效日期：人工智能法案预计在生效后两年适用，但具体规定可能有例外。
这项具有里程碑意义的协议将欧盟置于全球人工智能监管的前沿，有可能为其他司法管辖区设定标准。这些周密的规定解决了人工智能带来的复杂挑战，确保在创新、权利保护和安全之间保持平衡。随着技术细节在未来几周的敲定，人工智能法案的正式通过还需要通过两个机构的确认和法律语言的修订。
