在这篇文章中：
- 韩国和英国将于 5 月 21 日至 22 日在首尔共同主办人工智能安全峰会。
- 英国首相和韩国dent也将创新和包容性列为优先事项。
- 此次会议是 11 月在布莱切利公园举行的英国人工智能安全会议的后续会议。
韩国和英国政府将在本周的国际人工智能峰会上敦促科技公司解决人工智能安全监管问题。
这次会议是去年在英国布莱奇利公园举行的首届全球人工智能安全峰会的后续会议，当时多国政府表达了对人工智能风险的担忧。 人工智能公司也出席了会议，因为他们正在开发的技术带来了这些风险。
国际社会无数次尝试为快速发展的技术建立护栏，这些技术有可能彻底改变社会的许多方面，首尔峰会引发了人们对日常生活中出现的新风险的担忧。
“尽管我们在塑造全球人工智能治理方面做出了积极努力，但仍然存在巨大差距。”
11 月份的英国峰会汇聚了研究人员、政府官员、技术高管和民间社会组织的代表，其中许多人对人工智能持有不同的看法。 会议在布莱切利闭门举行。 与英国首相里希·苏纳克（Rishi Sunak）、OpenAI 首席执行官萨姆·奥尔特曼（Sam Altman）和特斯拉等政界人士一起，埃隆·马斯克（Elon Musk）以及其他许多人也出席了会议。
安全将成为人工智能峰会的首要任务
在周二开幕的人工智能首尔峰会上，安全将再次成为首要任务。 英国和韩国政府将于 5 月 21 日至 22 日共同主办这次会议。
微软、Anthropic、谷歌 DeepMind、ChatGPT 创建者 OpenAI 和法国人工智能初创公司 Mistral 等知名人工智能公司计划派出代表。
英国首相里希·苏纳克和韩国总统dent也联合撰写了一篇文章，发表在周一的 INews 上。 他们接受了这项技术的潜力，表达了确保安全的意愿，并表示：
“我们决心共同抓住这项技术的潜力，让世界变得更美好。”
他们还强调，新技术带来新风险，人工智能也带来新风险。 他们指出，流氓行为者滥用人工智能，故意利用人工智能从事不法行为。
就在最近，OpenAI 解散了名为 Superalignment 团队的安全团队，其联合创始人 Ilya Sutskever 和其他一些关键员工离开了公司。 这一进展来自世界领先的人工智能公司，就在首尔峰会前几天，其重点是降低人工智能的风险。
另一方面，Anthropic 今天发布了有关负责任的扩展政策的报告，该公司表示，该报告已显示出良好的效果。 但是，我们无法确认这些结果。 虽然我们无法对这些进展发表评论，但它们确实提供了一些值得深思的地方。
创新必须持续
ChatGPT 在 2022 年推出后不久迅速流行，世界各地的科技公司开始投资数十亿美元来构建其生成式 AI 模型。 Sunak 和 Yeol 提到了随着新的人工智能模型每天推出而带来的快节奏创新。 他们说，
“政府可以通过投资数十亿美元来促进这种创新，促进我们世界一流大学的尖端研究，并确保我们不会过度监管可能产生下一个伟大创意的初创企业。”
生成式人工智能模型的支持者称赞这项技术是一项突破，它将改善全世界人们的生活和商业，因为它可以根据简单的提示生成文本、照片、音乐甚至视频。
其中一些引起公众关注的产品本身就存在偏见，这令人担忧。
而且不仅仅是这些； 这些产品背后的技术称为大语言模型 (LLM)，也已成为不同领域许多解决方案背后的基础技术。 从自动驾驶汽车到医疗解决方案，许多解决方案都依赖生成式人工智能法学硕士来发挥作用。
仍有担忧的声音
许多人要求制定国际准则来控制人工智能的进步和应用。 例如，纽约的一项名为“禁止扫描”的运动要求停止在政府和私人层面使用面部识别。
他们认为这些技术干扰个人自由并且误报率很高。 电子tron基金会的一页上写着：
“面部识别对隐私、种族正义、言论自由和信息安全构成威胁。 所有形式的人脸识别，包括人脸扫描和实时trac，都对公民自由和个人隐私构成威胁。”
他们并不是唯一的人。 人权倡导者、政府和批评者警告说，人工智能可能会以多种方式被滥用。 例如，非国家行为者可以利用它通过虚构的新闻报道或民选官员的所谓“深度伪造”图像和视频来影响选民。 另一个日益加深的担忧是有报道称一些国家为了自身利益而支持流氓分子。
“我们还将采取下一步措施制定全球标准，以避免逐底竞争。”
两人的文章提到了上述声明，并强调在更开放的论坛中讨论人工智能的国际规范将有所帮助。 与此同时，一些韩国民权组织批评主办方没有邀请足够多的发展中国家。
法国本周还将举办由全球最大奢侈品集团 LVMH 支持的“Viva Technology”会议。 在过去的一年里，法国试图trac人工智能初创公司，将自己定位为欧洲人工智能冠军。
发表评论