全球首个 AI 安全研究所将在英国成立 旨在推动全球对相关技术安全方面认识
刘大兴

10 月 27 日消息,综合 CNBC、路透社等报道,当地时间周四,英国首相苏纳克宣布计划成立世界上第一个 AI 安全研究所,并于 11 月 1-2 日举行 AI 安全峰会。此次峰会将汇聚世界各国 AI 公司、政府、民间团体和相关领域专家,旨在讨论如何通过国际协调行动来降低 AI 带来的风险

图源 Pexels

苏纳克在演讲中表示,这个即将成立的研究所将推动世界对 AI 安全的认识,并将对新型 AI 技术进行仔细研究、评估与测试,以便了解每种新模式的能力,并探索从“偏见和误导”等社会危害到“最极端风险”的所有风险。

苏纳克称,“AI 可以让制造化学或生物武器变得更容易,但这项技术也会被犯罪分子所利用。在最不可能但最极端的情况下,人类甚至有可能通过有时被称为超级智能的 AI,在 AI 面前完全失控。”

此外,在下周举行的 AI 安全峰会上,苏纳克将提议成立一个“真正全球化的专家小组”—— 该小组的成员由与会国家和组织提名,届时还将发布一份 AI 科学现状报告。

另据此前报道,英国反垄断监管机构 CMA(竞争与市场管理局)上个月提出了管理 AI 模式的新标准,涵盖了问责、访问和透明度等事宜。CMA 当时公布的监管原则中,包括 AI 开发人员和部署人员应对输出内容负责、不得从事反竞争行为等内容

相关文章
全部评论
钱纪韫
发表评论
回复:
发表回复