译者按
ChatGPT这项语言类人工智能，可能是2023年乃至之后最重要的技术节点之一。如今微软已宣布要将ChatGPT全面接入自己的产品中，而谷歌也正面临着一次最大的挑战。按人工智能的成长速度，当ChatGPT联合其他智能应用如虚拟形象、语音生成、搜索殷勤等，很可能在今年内改变整个商业格局，若是说可能引起下一次如工业革命般的历史进程也毫不夸张。
每个人都需要关注这场浪潮，为何ChatGPT影响如此巨大，那是因为它染指了人类赖以生存的语言。语言渗透了我们生活的每个环节，语言也将影响我们的思想。一旦语言类人工智能真正能投入到应用领域，它重塑的不止是商业，也不止是交流沟通方式，而是将介入人类的思想与意识。这无疑是一场魔鬼交易。而未来可能不属于给出答案的人，而属于会向AI正确发问的人，属于能与AI合作并将其转化为生产力的人。至于其他人，可能将会变成今天老年人使用智能手机那样的情况。这将可能和年龄无关，并且很快就会发生。
本文作者约翰·诺顿（John Naughton）是开放大学（Open University）公共科技教育的教授。他是《从古腾堡到扎克伯格》（From Gutenberg to Zuckerberg）的作者。他介绍了1966年的一款聊天人工智能Eliza，相比起今天的ChatGPT逊色许多，只能够做出一些敷衍的回应。但语言类AI的魔力正在于：人们即使知道它只是一款软件，却仍会移情于它，严肃认真地与它聊天。这也是最危险的地方，因为语言……
有时，那些忘记历史的人注定要重复历史。对于我们这些记忆力强的人来说，目前围绕ChatGPT（以及一般的 “生成性人工智能”）的大惊小怪甚至是歇斯底里，再次敲响了警钟。
我们曾经到此一游过：准确地说，是在1966年1月。当时麻省理工学院的计算机科学家约瑟夫·韦森鲍姆（Joseph Weizenbaum）推出了伊丽莎（Eliza），它将被称为世界上第一个聊天机器人（如果当时有这个名词的话）。韦森鲍姆写了这个软件（用一种叫做MAD-SLIP的编程语言），以证明人类和计算机之间交流机制的肤浅。它提供了一个文本框，人们可以在里面打字与机器交换输入的信息。程序里面有一个脚本（韦森鲍姆将其命名为DOCTOR），它模仿了病人与心理治疗师的交流，而心理治疗师实行的是卡尔·罗杰斯（Carl Rogers）开创的以人为本的疗法。(该程序的名字来自于伊丽莎·杜利特尔（Eliza Doolittle），她是肖（Shaw）写的戏剧《皮格马利翁》（Pygmalion）中被教导要“说话得体”的鸡婆。
它的工作方式是，程序接收你输入的内容，处理和响应你的内容。假设你输入了（就像我刚才做的）：“我对英国的政治感到有点沮丧。”伊丽莎：“你认为来这里会帮助你不感到沮丧吗？” 我：“我希望如此。”伊丽莎：“你说你希望如此是有什么特殊原因吗？”你明白了吧——但你可以自己试试：masswerk.at/elizabot/
韦森鲍姆编写这个程序是为了表明，虽然机器表面上可以复制人类的行为，但它实际上就像魔术师从帽子里掏出一只兔子——是一种幻觉。韦森鲍姆认为一旦你知道这个把戏是怎么玩的，它就不再是幻觉了。伊丽莎没有什么秘密：如果你读懂了代码，你就可以理解它是如何做的。让它的创造者大吃一惊的是，即使知道它只是一个程序，人们似乎也会严肃地对待它。有一个著名的故事，一个人在与伊丽莎“对话”时，会要求她的秘书离开房间。人们完全被它迷住了。(我自己也看到了这一点，有一次我在大学的开放日上在电脑上运行它，不得不把人们从机器上拉下来，好让其他排队的人也能玩一玩）。
在韦森鲍姆关于Eliza的论文发表后，没过多久，一些人（包括一些执业的精神科医生）就开始说，如果机器可以做这种事情，谁还需要心理治疗师？韦森鲍姆对此感到震惊，就像今天的教育家和艺术家对现在生成性人工智能工具的狂热一样。对他而言，正如一位有见地的评论家所说：“一个人和他治疗师之间的关系，从根本上说是两个人的会面。这有时让人想起马丁·布伯在《我和你》所说的，韦森鲍姆仍然固守着人与人之间互动的重要性。”在这个意义上，他不仅是一位杰出的计算机科学家，也是一位杰出的人文主义者。
这种人文主义的愤慨助长了他对“人工智能”技术决定论的终生反对。这为他1976年出版的《计算机能力与人类理性》（Computer Power and Human Reason）一书提供了依据，该书确立了他在AI圈中刺头的角色，并与诺伯特·维纳（Norbert Wiener）的《人类对人类的利用》（The Human Use of Human Beings）一样，一个技术内部人士对人类走向“一切自动化”的方向保留意见。
在思考ChatGPT这件事上，Eliza的耐人寻味之处在于，尽管人们知道它是如何工作的，但仍然把它看作是魔法——作为一个“随机的鹦鹉”（用著名研究人员Timnit Gebru的话说）或作为一个“高科技剽窃”（hi-tech plagiarism）的机器（Noam Chomsky）。但实际上，我们还不知道它的另一半——不知道在训练其基础语言模型时产生的二氧化碳排放，也不知道人们与它做所有那些愉快互动时所留下的碳足迹。或者，按照乔姆斯基的步伐，这项技术之所以存在，只是因为它未经授权挪用了数百万人的创造性工作成果，而这些成果恰好就在网络上躺着？这些工具背后的商业模式是什么？诸如此类。答案是：我们不知道。
在他的一次演讲中，韦森鲍姆指出，我们正在不断地与这种技术进行浮士德式的交易。在这种契约中，双方都得到了一些东西：魔鬼得到了人类的灵魂；人类得到了让我们愉悦的服务。有时，这笔交易对我们有用，但对于这种东西，如果我们最后才发现它不对劲，那就会为时已晚。这就是生成性人工智能现在摆在桌面上的交易。我们愿意接受吗？
翻译：DeepL
前言/校对：沙皮狗
