人工智能监管需要全球合作

鉴于社交媒体、恶意软件和虚假信息的全球可用性和影响，为人工智能监管建立尽可能广泛的网络至关重要。任何国家和组织都不应掉队。目前，区域和多边努力正在竞相监管人工智能。使用国际原子能机构的保障措施作为人工智能监管的模式将确保人工智能的安全、透明和有益发展。

Frances Mautner Markhof
2023 年 12 月 1 日
Arabic version | English version | French version | German version | Spanish version

需要国际商定的人工智能法规，以避免相互冲突或竞争的标准，并确保基于大型语言或深度学习模型（例如ChatGPT和GPT-4.1）构建的人工智能的安全性、可靠性和透明度。国际规则和条例的制定，应涉及所有相关国家和组织。

迄今为止关于人工智能监管的努力

法国、德国和意大利于 2023 年 11 月 18 日就未来人工智能监管达成协议，并由欧盟当局负责监督合规情况。

俄罗斯联邦总统提出了“……类似于核不扩散规则的控制人工智能的共同原则”（塔斯社，2023 年 11 月 24 日）。

2023年11月1日至2日在英国布莱切利园（Bletchley Park）举行的“2023人工智能安全峰会”一致同意推动安全可靠的人工智能和人工智能监管，并控制人工智能风险。在峰会上，欧盟、美国、中国和其他国家同意“共同管理人工智能风险”。联合国还批准了《布莱切利园宣言》。英国政府间人工智能安全峰会的后续会议将于2024年在法国举行。

2023 年 10 月 26 日，联合国秘书长任命了一个“人工智能高级别咨询机构”，由来自发达国家和发展中国家的39名成员组成。该咨询机构将讨论人工智能的风险、机遇和国际治理问题。

美国总统于2023年10月30日发布了一项关于监管人工智能的行政命令，以确保人工智能应用程序的安全性、保护消费者并促进创新与竞争。

2023年9月7日，七国集团（美国、英国、法国、德国、意大利、日本、加拿大）承诺为先进的人工智能系统制定指导原则和国际组织行为准则。《开发先进人工智能系统组织的国际指导原则草案》强调了安全、保障、可靠性、透明度、风险管理和国际标准的必要性。欧盟目前正在审查这些指导原则。

欧盟议会于2023年6月14日批准了世界上第一部监管人工智能的法律，即《欧盟人工智能法案》。如果获得欧盟成员国的批准，《人工智能法案》将于2025年成为法律。

2023年7月13日，中国互联网监管机构发布了关于生成人工智能的最终规则：《生成式人工智能服务管理暂行办法》。该法规包含了人工智能批评者在西方争论的许多原则：人工智能模型侵犯知识产权；人工智能侵犯隐私；人工智能算法的歧视问题；以及人工智能公司在数据和培训方面的透明度。

因此，最高政治层面越来越清楚地认识到人工智能监管的重要性和紧迫性，以及控制核扩散的经验将有助于此。

此刻我们需要国际人工智能监管

IAEA（国际原子能机构）的成立是为了促进和平利用核能，并建立一个有效的、国际公认的禁止和控制非和平活动的体系。出于同样的原因，我们应该成立一个国际人工智能机构（IAIA）来监管人工智能，并确保人工智能的安全、透明和有益发展。这已经成为了一个紧迫的问题，特别是要实现一个统一的国际体系，而不是个别国家或国家集团发展自己的、不同的、可能相互冲突的人工智能监管体系。埃隆·马斯克和沃伦·巴菲特强烈强调，与人工智能相关的风险的严重性和规模比与核武器相关的风险更为危险。

IAIA (https://www.iglobenews.org/iaea-safeguards-a-model-for-international-ai-regulation/)

将负责人工智能的国际监管以及国家人工智能系统和应用程序的独立且客观的验证，以确保遵守国家和国际义务。这一核查过程将确保人工智能的开发和使用仅用于安全与和平的目的，同时识别实际/可能的危险和被禁止的人工智能开发和应用。

国际原子能机构保障措施：国际人工智能机构的典范

原子能机构的经验具有独特的相关性。国际人工智能机构监管的原因和作用本质上与国际原子能机构国际保障监督体系的建立目的相对应。原子能机构的保障措施涉及对国家保障制度进行独立核查，以提供核材料、物项和设施仅用于和平目的的可信保证。

同样，国际人工智能机构也将承担双重任务，即促进人工智能的安全与和平使用，同时核实及控制人工智能不被用于非法或破坏稳定的目的。国际人工智能机构参与国的义务和利益包括：

遵守国际人工智能法规并接受对其人工智能活动的国际验证
相关实体的所有人工智能研发、人工智能应用和其他人工智能活动的声明，均应遵守国家对和平及有益利用人工智能的法律和其他承诺与义务
验证国家人工智能声明的完整性和正确性
有权检查和核实人工智能活动申报并发现未申报的人工智能活动的国际视察员的资格（类似于原子能机构保障监督视察员对核材料和核活动所做的工作）
获取人工智能技术和技术合作，以和平目的开发人工智能系统
人工智能涉嫌或被用于非法、反社会或犯罪目的的预警系统
识别并防止不受控制的开发、应用和竞争，以占领/控制“人工智能市场”
向国际人工智能数据库提供有关人工智能检查的信息和其他相关商定数据
严重违反国际人工智能机构规定的行为可能会被提交联合国安理会（UNSC），就像严重违反国际原子能机构保障监督的情况一样

IAIA：人工智能监管的包容性与排他性方法

国际人工智能机构将通过国际进程创建，以促进且确保和平以及高效地使用生成式人工智能。有效运作的国际人工智能机构需要所有国家及其组织/专家参与人工智能活动和利益的国际合作。只有国际化的方法才能成功应对人工智能技术的全球性、挑战和快速发展。因此，不仅七国集团和欧盟，而且包括巴西、中国、印度、韩国、俄罗斯等其他关键国家也必须从一开始就参与进来。

鉴于社交媒体、恶意软件和虚假信息的全球可用性和影响，为人工智能监管建立尽可能广泛的网络至关重要。任何国家和组织都不应掉队。

希望新成立的联合国人工智能高级别咨询机构能够尽早启动一个国际人工智能监管的包容性进程，如IAIA。