政府官员和人工智能行业高管周二同意在这个快速发展的领域应用基本的安全措施，并建立一个国际安全研究网络。
在英国布莱切利公园举行的首次全球人工智能安全峰会近半年后，英国和韩国本周在首尔举办了人工智能安全峰会。这次聚会突显了随着人工智能技术的出现，世界面临的新挑战和机遇。
英国政府周二宣布了英国与欧盟等10个国家之间达成的新协议，将建立一个类似于英国AI安全研究所的国际网络，这是全球第一个公开支持的组织，旨在加速人工智能安全科学的发展。此网络将促进对人工智能安全的共同理解，并将其工作与研究、标准和测试保持一致。澳大利亚、加拿大、欧盟、法国、德国、意大利、日本、新加坡、韩国、英国和美国已经签署了该协议。
在首尔人工智能峰会的第一天，全球领导人和领先的人工智能公司召开了一个由英国首相里希·苏纳克和韩国总统尹锡越共同主持的虚拟会议，讨论了人工智能安全、创新和包容性。
在讨论过程中，各国领导人同意广泛的首尔宣言，强调增进国际合作，共同建设人工智能，解决全球重大问题，维护人权，弥合全球数字鸿沟，同时优先考虑“以人为本、值得信赖和负责任”的原则。
“人工智能是一项非常令人兴奋的技术—英国一直在全球范围内主持处理其潜力的努力，去年举办了世界首届人工智能安全峰会，”苏纳克在英国政府声明中表示。“但是为了获得好处，我们必须确保它是安全的。因此，我很高兴今天我们达成了一个人工智能安全研究所网络的协议。”
就在上个月，英国和美国签署了一份合作谅解备忘录，合作进行人工智能安全方面的研究、安全评估和指导。
今天宣布的协议遵循了来自涉及人工智能的16家公司的世界首个人工智能安全承诺，包括亚马逊、Anthropic、Cohere、谷歌、IBM、Inflection AI、Meta、微软、Mistral AI、Open AI、三星电子、技术创新研究所、xAi和Zhipu.ai（Zhipu.ai是由阿里巴巴、蚂蚁金服和腾讯支持的中国公司）。
包括来自美国、中国和阿拉伯联合酋长国在内的人工智能公司已同意这些安全承诺，根据英国政府声明称，“如果风险无法控制在可接受的范围内，他们将不开发或部署任何模型或系统。”
苏纳克表示，“这是世界首次让如此多来自世界各地领先的人工智能公司就人工智能安全达成相同承诺。这些承诺确保这些全球领先的人工智能公司将就他们发展安全人工智能计划提供透明度和问责制。”
在布莱切利，里希·苏纳克确认人工智能安全研究所，但将监管延迟到另一个日子
政治家承诺合作解决人工智能安全问题，美国启动安全研究所
