AI 已具备人格？给有关智能的炒作泼泼冷水（下）

经收集这一实情。只不过，它与这样一个实情有关，即 LLM 缘故就是瞎编乱造。说什么得更为明确一点，它们是在用培训的人为语言编所写人为语言别号符串，而说什么这种人为语言的人可以暗示这些别号符串。因此，当一个人设想与身体健康和保障安全就其的疑问时，如果前往的结果是差错的话，也很确实是颇为危险的。最不可或缺的是：这些可以传达出来为不用作 LLM 的诱因。可是，整前言显然都在跟着 OpenAI 等的想法走到，也就是把这些极端看作是“现阶段”的 LLM 暂时存有的缺点，就会获得及时应付的。

其次，更为普遍的 web 并不一定必须代表者整个生命。我们曾经明确解说过各种意志力是如何直接影响着谁可以访问 web 的，比如谁对继续贡献消极态度温和，被挑选出来供 LLM 培训资料用的那之外 web 都代表者了谁，普遍应用到这些培训资料右边的不成熟的调制是如何产生促使的失是不是等等。在《抗拒特质启发式》（Algorithms of Oppression）这部杰作；还有，Safiya Noble 重现了广告驱动的 web 查询经济是如何重塑了大家想到的结果的，尽管网易（相当误导的）将这些结果描绘为“人为存有的过道”。

某种程度是人为科学发言

“人工电子计算机系统取而代之设计”是否是不是有效地某种程度是紧接著人为科学发言。如果从事“人工电子计算机系统取而代之设计”指导工作的人只是在研究成果实验室中的研究成果一些独创的项目，并没只好货币化的话，那状况确实无论如何是这样。但这不是我们生活的世上：显然每天都有取而代之的取而代之闻刊文说什么有人在售卖“人工电子计算机系统取而代之设计”系统取而代之设计来想到一些不不对的事情，除此以外为无法参加在考试的教师填所写成绩，或诊疗精神上身体健康障碍、面试企业主或逮捕外籍人士等。

因此，不可或缺的是要让广大政府部门明了地认识“人工电子计算机系统取而代之设计”可以想到什么，认识哪些自诩是 AI 的 app 不过是作对的花招罢了，以及要告诉他出这些系统取而代之设计确实产生的严重危害（不管它们是否管用）。但 Johnson 错过了用这些模式去职业教育政府部门的机就会，诱因主要有方向上。

首先，他谈到了 LLM 在电子邮件检索方面的确实普遍应用（即替代查询引擎）：

如果按照现有的一个点走到下去，像 GPT-3 这样的普遍应用软件确实就会在将会几年彻底改变我们查询电子邮件的模式。 [...] 如果 GPT-3 的其实信徒是恰巧确的话，那么在旋即的将来，你只并不一定需要向 LLM 设想疑问，对方就就会恰巧确地而有说什么服力地反馈无误给你。

这不只是紧接著只有专才懂的发言。如果你可以用下一单字词资料分析去培训驱动器，去传达适合于的点子或总结复杂的材料的话，那么我们或许恰巧处在其实的这两项技术武装革命的风口浪尖，像 GPT-3 这样的系统取而代之设计将引入查询引擎或的网站，成我们注意到电子邮件的默认森林资源。

但恰巧如 Will Douglas Heen 近期在《MIT 这两项技术评论》发表的撰文所说什么的那样，回事这个点子很可悲。

但从更为高的角度来看 ，Johnson 把人工电子计算机系统取而代之设计调侃确实产生的伤亡范围增大到了人工电子计算机系统取而代之设计研究成果本身：

但是，如果大型人为语言软件系统最终只是“随机燕鸥”的话，那么 AGI 将最终退却到遥远的地平线——作为社就会，我们将遭遇将太多森林资源（都有金钱和智力森林资源）投放到追求误导宙斯的危险特质。

是的，当这个世上上还有很多其他有价值的（而且很多状况下是仓卒的）疑问时，研究成果森林资源过于集中在“人工电子计算机系统取而代之设计”上无论如何有疑问。（就算“AGI”是一个度量明万历确且行不通的研究成果目标，我也就会这么说什么。）但这并不一定是唯一的严重危害：每当有人对资料大数量普遍应用模式识别，去想到出就会直接影响到生命的，便是的“公恰巧”、“客观”的管理者系统取而代之设计或段落系统取而代之设计时，就就会产生伤及。但所有这些 Johnson 之外避而不谈。

关于被归类为“猜测者”

说什么句公道话，Johnson 无论如何给不同的声音只用了一点维度（都有我、Meredith Whittaker 以及 Gary Marcus 的话）。但他把我们说什么成是“猜测者”，相当于在“双方”的刊文中象征特质地向另一方点头。但在这方向上意义上，状况回事比这还要可悲：首先，把人说什么成是猜测者，显然就把举证的法律责任，从那些坚称自己在想到古怪事情（联合开发“AGI”）的人脸上，移往到那些说什么这毫无根据的人脸上。

一些猜测者指出，这个普遍应用软件只就会盲目滑稽——它能滑稽生命人为语言的句法模式，但再也不能产生自己的点子或想到出适合于的立即，这个基本上的限制就会阻止 LLM 的发展成任何与生命电子计算机系统取而代之设计完全相同的过道。

在重塑出了这种猜测之后，他又说什么：

我们如何才能相符 GPT-3 有自己的点子，还是只是在改所写它从的网站、欧法兰克福学院（Oberlin College）或电讯报书评（The New York Review of Books）的服务器上扫描而来的人为语言构字词？

但他没问我们基于什么顾虑才能看来 GPT-3 自己就会反思。只不过，撰文说什么的是“回事没人究竟”：

一些人指出，由于神经网络的最深处，更为工程技术的传达出来恰巧在用到。而有的人则指出，就度量而言，程序来光靠整天听音乐“猜别号谜”是无法获得其实的传达出来的。但回事没人究竟。

但对我来说什么更为难以置信恼火的是，被同属“猜测者”这个框框就把发言的制海权得胜交还给了人工电子计算机系统取而代之设计的自由派。我说什么的不只有“不，‘人工电子计算机系统取而代之设计’不是这么联合开发的”，Meredith Whittaker 也一样（尽管 Gary Marcus 的论述显然主要集中在这一点上）。对我来说什么，就其的疑问不是“我们如何联合开发‘人工电子计算机系统取而代之设计’？”而是“我们如何移往权力才能少想到一些（平庸状况下没）启发式抗拒的案例？”，“我们如何不切实际和重取而代之部署取而代之设计步骤，才能将这两项技术导向为用以，从而可由不遗余力侄社就会目的的人们所重塑和用作？”，以及“我们如何才能保障拒绝接受（AI）的风险，让关闭有害 app、并保障受到伤及的那些人可以追索成确实？”

因此，虽然我指出在这一职业教育领域存有非常大的人特质疑问危险特质，但我确实就不表示同意那前言所设定的软件系统。我见解最大者的或许是；还有设想的人特质疑问应付方案：

我们以前恰巧在就什么才是给普遍应用软件带先取人特质和合法社会生活的最佳模式顺利先取行直率的发言，但这个发言的必需是应该说什么明了我们已经迈过了一个大不可或缺门槛。

以及

我们曾经向驱动器习得过社会生活。

在这之外 Johnson 援引了我的话：

Emily Bender 指出：“只要便是的人工电子计算机系统取而代之设计系统取而代之设计是由大型取而代之能源公司在没执政党监管的状况下联合开发和重取而代之部署的，它们体现的就主要是旧金山湾区的社会生活。任何竭力‘勉励'它们的无论如何都不过是人特质洗礼罢了。”

援引倒是恰巧确地的，但回事我说什么的；还有这些：

说什么到“所学驱动器社会生活”，这无论如何是对状况的误判，也是对人工电子计算机系统取而代之设计的一种调侃。普遍应用软件用以取而代之设计是比如说，不是有冲动的实体，因此“教”驱动器这个比喻不不对且存有误导（“驱动器学习”或“人工电子计算机系统取而代之设计”也是如此）。只不过，与任何其他比如说或系统取而代之设计一样，联合开发者恰巧在把社会生活取而代之设计先取系统取而代之设计；还有。说什么他们可以“习得”其他的社会生活，回事只是换种模式将系统取而代之设计联合开发者（已经取而代之设计好的）的社会生活隐秘在误导客观特质的长相之下。只要便是的人工电子计算机系统取而代之设计系统取而代之设计是由大型取而代之能源公司在没执政党监管的状况下联合开发和重取而代之部署的，它们体现的就主要是旧金山湾区的社会生活。任何竭力‘勉励'它们的无论如何都不过是人特质洗礼罢了。

但我指出 Johnson 并没其实传达出来我的论述，因为这前言还是坚持“习得”驱动器社会生活的说什么法：

我们要切勿联合开发一个爱好骄傲男孩、垃圾邮件音乐家、罗马尼亚巨魔农场、 QAnon 布洛克的 AGI ？联合开发一个能恰巧确地探究生命所有的话，带着善意撰所写，用体面的意在去传达的人造大脑很更易。但联合开发一个究竟什么时候回避我们的人造大脑并不一定需要。

我希望坚持想到这中的的人都能看明了一句话有什么疑问，能显露出他们是怎么不切实际这些疑问的：他们举例“联合开发无论如何实质上大体上”这一点子既是确实的又是世人的！

举个例子，Johnson 又一次不切实际了实质上大体上的存有：

如果将会用到大型人为语言软件系统，那么最仓卒的疑问就转变成了：我们如何培训它们当好合法？当生命本身连基本上实情都再也不能达成相符，更为不用说什么内部观念和合法社会生活时，我们又怎么能让它们“造福全生命”？

我一直在（徒劳地）等待这前言打破 OpenAI 的软件系统。为什么要联合开发这些过道？如果在联合开发这些过道的话，为什么先从约束其联合开发和重取而代之部署它们的执政党集中管理，以及透明万历特质与记录下来要求加在紧，而要作对注意修补启发式与就其培训资料？

得出结论

我曾经想到过几次演讲，演讲题目叫想到“人造直接对话者的意义建构与人为语言这两项技术的危险特质”。再一，我时时刻刻读者切勿太气愤，并记住：

无论如何因为文别号像是有条理，亦非理论上它才是的软件系统已经传达出来任何过道或世人敬重

无论如何因为那个反问是对的，亦非理论上下一个反问也是对的

当电子计算机显然从来不“说什么我们的人为语言”时，回事我们才是幕后有功

但保持这种猜测消极态度并非易事。Johnson 所谈到：

最初几次我给 GPT-3 输出完全相同若有时，都就会有一种脊背发凉的冲动。多台驱动器，无论如何基于资料分析下一个字词的基本上培训，就能如此迅速地生成如此清晰明万历了的人为语言，这差不多是不确实的。

以及

不可或缺的是，我们得务实这不是关于普遍应用软件是否很强自我思维或感知能力的疑问。大型人为语言软件系统没思维——普遍应用软件；还有有点“心灵音乐厅”，再也不能像生命这种有思维的有机体那样去体验思维。但是当你想到启发式在超小说什么；还有创作出来的句子时，并不一定需要没一种驱动器仿佛在用某种有意义的模式去反思的冲动。

“并不一定需要没冲动”说什么得很寻常。当我们碰上显然在说什么我们的人为语言的过道时，我们甚至就会不假思索地运用起用作该人为语言与他人国际交流的就其技巧。这些技巧主要牵涉到大体上间特质和共同注意，因此我们就会似乎人为语言才是就会有个大脑，即便它并不一定存有。

但这两项是要时时刻刻我们自己，即所有这些指导工作都在我们这拼命，也就是生命这拼命。只有这样我们才可以更为明了地认识以前，才可以更为恰巧确地地人们利用这两项技术所产生的伤及，并符合更为广阔的将会视野，从而可以顺利先取行有意义的执政党集中管理与前提的监管。

译者：boxi。

就其阅读：

AI 已符合人性？给有关人工电子计算机系统取而代之设计的调侃泼泼冷水（上）

。

肺癌去哪家医院好
长沙牛皮癣医院哪家更好
武汉癫痫治疗哪家好
合科医院哪好
贵阳看甲状腺去哪家医院比较好
康恩贝肠炎宁颗粒的功效与作用
哪个厂家血糖仪好用又准确
什么牌子的血糖仪好
家用血糖仪怎么选
流感可以吃金笛复方鱼腥草合剂吗