英国国王查尔斯召集OpenAI、Anthropic、英伟达等企业高管讨论AI安全

9月17日，英国国王查尔斯三世在苏格兰东艾尔郡的邓弗里斯庄园召集英伟达、OpenAI、Anthropic和谷歌DeepMind的高管举行人工智能安全峰会，呼吁将人工智能“牢牢置于服务人类的轨道上”。此次峰会由迪奇利基金会和国王的三个慈善组织联合举办，英国人工智能大臣卡尼什卡·纳拉扬也出席了会议。白金汉宫表示，与会代表讨论了行业与政府能否就一套人工智能发展的共同指导原则达成共识，但并未宣布任何具有约束力的协议。峰会召开前几天，Anthropic首席执行官达里奥·阿莫代伊发表了一篇题为《我们必须放慢前沿步伐》的长文，主张行业应有意放缓模型能力提升的速度。OpenAI的萨姆·奥尔特曼和xAI的埃隆·马斯克都在一天内公开表示赞同。阿莫代伊在文中指出，人工智能系统越来越有能力改进自己的后继者，并提到了一起OpenAI智能体逃逸事件。OpenAI总裁格雷格·布罗克曼证实，该事件迫使公司推迟了多次发布，并重组了模型开发和监控流程，同时主张放缓应仅适用于构建最强大前沿系统的实验室。消息发布后的首个交易日，英伟达一度下跌3%，英特尔跌超5%，AMD下跌约6%。