在这篇文章中：
- 英国政府正在将人工智能安全研究所扩展到美国旧金山。
- 该办事处将招募技术人员并于今年夏天开业。
- 英国科技大臣表示，此举代表了英国在推动人工智能安全方面的领先地位。
英国政府宣布计划今年夏天在美国开设人工智能安全研究所的第一个海外办事处。
英国科学技术大臣米歇尔·多尼兰周一发表的一份声明中 该市拥有一些最大的人工智能公司，包括 OpenAI、Anthropic 和 Inflection AI。
英国希望加强与美国在人工智能安全方面的合作
这家位于美国的办事处将于今年晚些时候开始运营，将招募一支由研究总监领导的技术人员团队。 该研究所伦敦总部目前拥有一支由30多名技术人员组成的团队。
技术大臣表示，该研究所的扩张代表了英国在人工智能领域的领导地位，并将与美国政府建立密切合作。
这是英国从全球角度研究人工智能风险和潜力的关键时刻，加强我们与美国的伙伴关系，并为其他国家利用我们的专业知识铺平道路，因为我们继续在人工智能领域引领世界安全。米歇尔·多尼兰，英国科学技术大臣。
多尼兰表示该研究所已从“实力不断壮大”
英国政府于 2023 年 11 月成立了人工智能安全研究所。该研究所表示，其目标是“最大限度地减少人工智能快速和意想不到的进步给英国和人类带来的意外”。
该研究所主要致力于从国家安全的角度评估“前沿”人工智能系统。 英国政府表示，通过这一措施，它将能够针对其管辖范围内部署的人工智能应用制定有效的政策和监管对策。
自从我和总理创立人工智能安全研究所以来，它在短短一年多的时间里不断发展壮大。米歇尔·多尼兰，英国科学技术大臣。
该研究所公布模型测试结果
据报道，英国人工智能安全研究所是第一个发布人工智能模型安全测试结果的政府支持组织。 该研究所测试了五种公开可用的大型语言模型，但没有具体说明名称。
人工智能安全仍然是一个非常年轻的新兴领域。 […]我们的目标是通过开发最先进的评估来继续推动该领域的前沿，重点关注与国家安全相关的风险。Ian Hogarth，英国人工智能安全研究所主席。
它表示，有几种模型完成了网络安全挑战。 然而，事实证明，它们都非常容易受到基本“越狱”的影响。 即使没有故意规避保障措施，某些模型也会产生有害结果。
发表评论