在由韩国和英国主导的第二届全球安全峰会上，科技公司就人工智能（AI）达成了一系列安全承诺。
在周二举行的 2024 年首尔人工智能峰会上，16 家在人工智能 (AI) 开发领域处于领先地位的公司承诺以负责任的方式推进这项变革性技术。这项名为“前沿人工智能安全承诺”的倡议旨在实施严格的安全标准，因为人工智能技术越来越多地融入日常社会。
签署者包括亚马逊、谷歌、IBM、Meta、微软和 OpenAI 等行业巨头，以及 Anthropic、Cohere、G42、Inflection AI、Mistral AI、Naver、三星电子、技术创新研究所、xAI 和 Zhipu.ai 等知名公司。七国集团(G7) 主要经济体、欧盟、新加坡、澳大利亚和韩国 还发表了一份更广泛的首尔宣言，支持这些倡议。
这些公司承诺在安全和信任的框架内推动人工智能的发展，强调负责任创新的必要性。作为承诺的一部分，他们同意遵守一套自愿原则，旨在减轻与人工智能技术相关的严重风险。这包括在即将于法国举行的人工智能峰会之前发布详细的安全框架。
这些承诺涵盖了从开发到部署的人工智能安全的各个方面。其中包括在人工智能生命周期中进行严格的风险评估、设定不可容忍的风险阈值以及实施有效的风险缓解措施。这些科技巨头还将保持运营透明度，向公众通报其方法以及实践中的任何重大变化。
值得注意的是，这些承诺还侧重于加强行业内的合作。这涉及内部和外部红队以识别和缓解新威胁，促进信息共享，并加强网络安全措施。此外，签署方还承诺促进第三方对其系统的评估，并开发允许用户识别人工智能生成内容的技术。
问责制是这些承诺的另一个重要方面。每个组织都承诺制定内部治理框架，以确保遵守这些安全协议，并分配足够的资源以持续改进。
发表评论