我们必须管理AI革命

dootbear

金融时报：我们必须管理AI革命

必须就如何控制这项技术达成全球协议。

在我前两篇专栏中，我提出，AI既带来机遇，也带来巨大危险，其中一些甚至是生存性危险。这项变革性技术还威胁着一些根本价值，包括个人和机构问责、法治、民主，甚至“何为人类”这一问题。此外，AI将很难被成功监管，不仅因为它的影响将无处不在，也因为其进展正由企业之间以及美国与中国之间的激烈竞争推动。

值得注意的是，Anthropic最近一篇文章称，“我们正把越来越大一部分AI开发工作交给AI系统自身。如果这一趋势发展得足够远，并获得足够算力，它将指向一种能够……自主设计和开发自身继任者的AI系统。”

该文随后表示，“如果有可能，放慢这项技术的发展，让我们有更多时间应对其巨大影响，我们认为这很可能是一件好事。”如果连AI领域领导者Anthropic都担心前方潜藏的风险，那么我们其他人，尤其是年轻人的担忧，只会被进一步强化。

这种具有政治显著性的担忧，很大一部分来自于这样一种问题：人们假定AI会带来生产率上升，但其负面后果可能是失业。然而，AI将带来多快、多大规模的转型，目前仍未知。例如，我的同事伯恩-默多克（John Burn-Murdoch）最近指出，由AI生成的应用程序供应增加，并没有带来相应的使用量上升。AI还在软件开发早期阶段带来了更大的产出跃升，而不是在最终产品上产生同等提升。

同样，国际劳工组织去年发布的一份关于AI就业影响的综述得出结论称，在全球范围内，四分之一劳动者所从事的职业在某种程度上接触到生成式AI。但该报告也补充称，只有“全球就业的3.3%落入最高暴露类别”。这看起来并不是一场巨大冲击。此外，过去在重大创新与生产率提高之间，往往存在很长滞后期，例如电力就是如此。正如克鲁格曼（Paul Krugman）所写，数字时代的生产率增长低于二战后的时期，而后者并没有出现这类突破。

在这场辩论的另一端，经验丰富的科技投资者科斯拉（Vinod Khosla）在《金融时报》中表示：“我确信，在80%的工作中，AI将完成今天人类所做的80%具有经济价值的工作，而且速度会比大多数人相信的更快。问题不是大规模就业不足是否会在下一个十年到来，而是当它到来时，我们是否已经准备好一套连贯的政策框架。”

对AI影响速度和规模保持怀疑是有道理的。但科斯拉是对的：我们需要做好准备。文明未必能够承受AI所威胁带来的生存性冲击和经济扰动。不确定性要求我们做好准备，而不是自满。

那么，准备必须意味着什么？

首先，我们需要为这样一个世界做好准备：机器将作出重大决定，而且在某些情况下，尤其是战争和生物研究领域，这些决定将产生极其深远的后果。归根到底，人类必须对这些决定负责，包括AI程序员、销售AI的公司管理者，以及使用AI的机构决策者。与阿根廷总统米莱（Javier Milei）的观点相反，AI绝不能在没有人类问责的情况下运行机构。所有者、管理者和官员都应为AI造成的损害承担刑事和民事责任。

其次，我们不能依赖AI创造者的道德感和自我约束。我们已经在社交媒体上有过惨痛经验。正如我此前指出的：“传播谎言和欺诈可能是一门好生意。更糟的是，传播让人生活难以忍受的帖子，也可能是一门好生意……人工智能似乎很可能通过制造各种‘完美’欺诈，进一步恶化我们的共同困境。”Anthropic也许希望放慢步伐。但它正处在一场竞赛中：它无法控制竞争对手会做什么。我们不会允许制药公司发布未经适当测试制度检验的药物，而且这是有充分理由的。类似规则也应适用于新的AI软件。此外，在竞争性行业中，这类制度也必须全球适用。

第三，正因如此，监管制度不能只是国家层面的。必须就AI如何被测试和控制，以及损害责任如何被施加，达成一项全球协议。欧盟似乎正在再次扮演第一选择，或者最后选择的监管者角色。这未必是坏事。世界各地的人甚至相信，相比美国或中国，欧盟会成为更好的监管者，可能是因为他们认为欧盟更不容易被商业利益俘获，也不太会出于把AI用作武器的愿望而行动。但理想情况下，中国和美国应成为任何协议的基石。AI风险太大，不能让所有人不受约束地开发。

最后，尤其重要的是，AI很可能最终重创劳动力市场，加剧不平等，并在极少数企业和个人手中造成非同寻常的经济权力集中，进而形成政治权力集中。如果再加上这项技术带来的许多其他威胁，我们将面对一种巨大风险：民主被威权方式推翻。事实上，这已经在发生。那些希望看到民有、民治、民享政府继续存在的人，必须努力阻止这种局面。最明显的含义是，新增收入和财富中相当大一部分必须被分享。现在就是为此做准备的时候。如果我们不行动，到时就太晚了。






来源：

https://www.ft.com/content/59024744-50bf-43f7-9d79-738deabc7a60

Martin Wolf
Published3 hours ago

dootbear

本文要点:

1. AI既带来机遇，也带来失业、问责缺失、法治受损、民主被削弱以及生存性风险等重大威胁。

2. 虽然AI对就业和生产率的实际影响速度与规模仍不确定，但不确定性本身要求社会提前准备，而不是抱有自满心态。

3. 人类必须对AI作出的重大决定承担责任，AI开发者、公司管理者和使用AI的机构官员都应对损害承担刑事和民事责任。

4. 不能依赖AI企业自律，新AI软件应像药物一样经过严格测试，而且相关监管制度必须在全球范围内适用。

5. 文章呼吁达成全球AI治理协议，尤其需要美国和中国参与，同时警告AI可能加剧财富与权力集中，威胁民主，因此必须提前设计财富分享和监管机制。

maatthew

"因此必须提前设计财富分享和监管机制。"

现在看来还是一片空白 这篇文章写得跟新闻联播社论一样 全是口号和精神 中美现在还斗得不可开交 根本看不到坐下来谈联合管理AI革命的一丝迹象。。。

zpai

设计了也不代表能执行
花个几千万做方案吧

kogarahapt

美国民主党的桑德斯老爷子也说了，要设立一个由独立委员会监管的主权财富基金，并通过对最大型 AI 公司股票征收一次性 50% 的税来提供资金。
桑德斯估计，这项税收将。。。 每年可向美国民众以及医疗、教育、住房等项目提供数千亿美元的直接支付。

https://apnews.com/article/berni ... 083e2749adba0f13977