AnthropicCEO：政府应该阻止危险的人工智能

Daobo

Anthropic首席执行官表示，政府应该阻止危险的人工智能

达里奥·阿莫迪

达里奥·阿莫迪于2月19日。图片：Prakash Singh/彭博社，经由Getty Images提供

据Axios报道，Anthropic 首席执行官达里奥·阿莫迪周三在一篇文章中写道，政府应该有权依法阻止或遏制危险的人工智能部署。

重要性： Anthropic 提出的关于技术监管和人工智能带来的经济颠覆的想法远远超出了华盛顿目前正在认真考虑的任何事情。

他们也肯定会引发新一轮的指责，称 Anthropic 提出严格的规则是为了巩固自身的主导地位，或者利用可怕的未来情景作为营销手段。

新闻要点： Amodei 的新文章和提出的先进人工智能框架认为，政策必须随着人工智能的快速发展而改变。

他写道，特朗普的人工智能行政命令应该更进一步，要求对与网络安全、生物武器、失控或自动化研发相关的风险进行强制性测试。

他写道，如果人工智能系统构成更大的威胁，未来可能需要更严格的监管。

Anthropic 还提出了一项经济政策框架来应对人工智能带来的颠覆性影响，其中包括资本账户、工资保险、税收优惠和扩大社会保障网。

阿莫迪写道： “人工智能正以惊人的速度发展……相比之下，政策——尤其是立法——的进展却非常缓慢。”

在 Anthropic 发布其权力模型 Mythos 之后，Amodei 写道，生物风险和“严重的 AI 自主风险”可能很快就会出现。

“现在，在全球范围内，我们需要共同启动一个缓慢而脆弱的政策机制，以应对未来将以惊人速度叠加的风险和机遇。”

阿莫迪写道，现有的透明度立法还不够，并呼吁“对人工智能进行更严格、更具约束力的监管”。

他写道，就像汽车、飞机或药品一样，人工智能监管应该要求前沿模型经过严格的测试和审计。

“如果他们不符合高标准的安全性要求，就应该阻止或撤销他们的释放，因为这会对公共安全构成威胁。”

关于经济方面，阿莫迪写道：“有理由认为，人工智能可能会比以往的技术对劳动力市场造成更大的冲击，而且这种冲击可能会更加持久。”

他呼吁提供更好的人工智能相关失业、工资保险、留任税收优惠以及可能的全民基本收入或全民资本账户方面的数据。

阿莫迪写道，公众对数据中心建设的反对“在很大程度上是人们对人工智能更广泛的经济焦虑的象征或宣泄口”。

言外之意：阿莫迪还写道，监管体系还没有做好准备应对人工智能带来的新进步的速度。

他建议对FDA等机构进行改革，以便更快地批准人工智能发现的新药。

他还建议禁止在国内使用完全自主武器，并倡导西方国家继续在人工智能领域发挥领导和协调作用。

总之，阿莫迪仍然希望公众了解人工智能的好处。

他写道：“我对找到解决方案持乐观态度，因为从解决就业岗位流失问题，到模型发布前测试，再到芯片出口管制，以及其他与人工智能相关的政策问题（如能源使用），这些问题在政治光谱中都具有常识性的吸引力。”