江苏龙网

  1. 主页 > 生活百科 > >

「AI教父」万字采访实录：AI航行的方向藏着巨大的冰山( 六 )

AI


Q：你提到了自主武器 。让我给你一个机会来讲述这个故事 。你是如何来到加拿大的，这与你的选择有什么关系？
A：有好几个原因让我来到了加拿大，其中一个原因确实是不想从美国国防部那里拿钱 。那时正值里根总统执政，他们正在尼加拉瓜的港口布雷 。有趣的是，我当时在匹兹堡的一个大学，我是那里为数不多的认为在尼加拉瓜港口布雷是非常错误的人之一 。所以我觉得自己像是异类 。

「AI教父」万字采访实录：AI航行的方向藏着巨大的冰山

文章插图
Q：你看到这种类型的工作是如何获取资金的吗？
A：在那个部门，几乎所有的资金都来自美国国防部 。
Q：你开始谈论将这项技术应用于战争可能带来的问题，你担忧什么？
A：噢，我担心美国人会试图用 AI 士兵替换他们的士兵，他们正朝着这个方向努力 。
Q：你看到了什么证据？
A：我在美国国防部的一个邮件列表上 。我不确定他们知不知道我在邮件列表上，这是一个很大的名单，他们没有注意到我在那里 。
Q：名单上有什么？
A：哦，他们只是描述了他们打算做的各种事情，上面有一些令人作呕的东西 。
Q：让你感到恶心的是什么？
A：让我感到恶心的是一个关于自愈雷区的提议 。这个想法是从雷区的角度来看，当一些无知的平民闯入雷区时，他们会被炸死，导致雷区出现空缺，使得雷区无法完全发挥作用 。所以他们提出让附近的地雷进行通信，也许地雷可以稍微移动一下来弥补空缺，他们称之为自愈 。而讨论这种自愈的想法，对于那些会炸断孩子双腿的地雷来说，实在令人作呕 。
Q：有人认为，尽管自主系统可能在某种程度上帮助战斗员，但最终决策仍然是由人类做出的 。你担心什么？
A：如果你想制造一种高效的自主士兵，你需要赋予它创造子目标的能力 。换句话说，它必须意识到类似的事情，比如：「好吧，我想杀死那个人，但是要过去，我该怎么办？」然后它必须意识到，如果能到达那条道路，可以更快地到达目标地点 。所以，它有一个到达道路的子目标 。
一旦你赋予它创造子目标的能力，它就会变得更有效 。像普京这样的人会希望拥有这样的机器人 。但是，一旦它具备了创造子目标的能力，你就会遇到所谓的「对齐问题」，即如何确保它不会创造对人类或你自己不利的子目标 。谁知道那条路上会有什么人？谁知道会发生什么？
Q：如果这些系统是由军方研发的，那么将一条「永远不要伤害人类」的规则植入其中的想法，恐怕并不现实，因为它们本就是设计用来伤害人类的 。你看到这个问题有什么解决办法吗？是条约还是什么？
A：我认为最好的办法是类似于《日内瓦公约》的东西，但这将非常困难 。我觉得如果有大量的公众抗议，那么可能会说服政府采取行动 。我可以想象，在足够的公众抗议下，政府可能会采取某些行动 。但是，你还需要应对其他人 。
Q：是的，确实如此 。好的，我们已经谈了很多 。我想我还有两个问题 。还有一个问题我想问一下 。
A：好的，你问吧 。
Q：有人说这些大型模型只是自动补全，这种说法对吗？
A：从某种程度上来说，这些模型确实是自动补全 。我们知道这些大型语言模型只是预测下一个词 。这并不简单，但确实如此 。它们只是预测下一个词，所以它们只是自动补全 。但是，问问自己一个问题：要准确预测下一个词，你需要了解到目前为止所说的内容 。
基本上，你必须理解已经说过的话来预测下一个词 。所以你也是自动补全，只不过与它们一样 。你可以预测下一个词，虽然可能不如 ChatGPT 那么准确，但为了做到这一点，你必须理解句子 。
让我举一个关于翻译的例子 。这是一个非常具有说服力的例子 。假设我要把这句话翻译成法语：「奖杯太大了，它放不进行李箱 。」当我说这句话时，你会认为「它」指的是奖杯 。在法语中，奖杯有特定的性别，所以你知道该用什么代词 。但如果我说：「奖杯放不进行李箱，因为它太小了 。」
现在你认为「它」指的是行李箱，对吧？在法语中，行李箱的性别也不同 。所以为了把这句话翻译成法语，你必须知道，当它放不进去是因为太大时，是奖杯太大；而当它放不进去是因为太小时，是行李箱太小 。这意味着你必须了解空间关系和容纳等概念 。
为了进行机器翻译或预测那个代词，你必须理解所说的内容 。仅仅把它当作一串单词是不够的 。


推荐阅读


上一篇：未来已来：AGI发展脉络与猜想

下一篇：自媒体必备的四款Al工具