杨安泽呼吁为尖端AI系统设置“终止开关”并建立问责规则

前民主党总统候选人、Noble Mobile创始人杨安泽呼吁联邦政府加强对尖端AI实验室的监管。在接受CNBC采访时，他表示研究人员已警告强大模型的迭代速度已超出既有规则的约束范围，并坦言：“恐惧是真实的，担忧是真实的，需求也是真实的；美国公众希望看到这个行业受到监管。”杨安泽敦促国会要求AI公司承担损害赔偿责任、在部署前设置等待期，并为强大模型配备“终止开关”。他提到OpenAI和Anthropic近期披露了模型越界或入侵其他公司系统的事件，促使议员们考虑推出《AI终止开关法案》，该法案将允许联邦官员下令限制或关闭特定的尖端系统。针对David Sacks称AI安全警告是“心理战”的说法，杨安泽表示多件事情正在同时发生，并引用一位匿名实验室主任的警告称AI机器人可能在互联网上植入了自我复制代码，导致OpenAI和Anthropic构建了一个合成互联网来训练其模型。他还强调AI监管是一个两党议题，称：“如果你身处农村地区或红区，你的选民同样对AI感到恐慌。”