¥ 0.00

购物车里没有产品

ChatGPT不是一次技术飞跃,而是一场与魔鬼的交易

译者按

ChatGPT这项语言类人工智能,可能是2023年乃至之后最重要的技术节点之一。如今微软已宣布要将ChatGPT全面接入自己的产品中,而谷歌也正面临着一次最大的挑战。按人工智能的成长速度,当ChatGPT联合其他智能应用如虚拟形象、语音生成、搜索殷勤等,很可能在今年内改变整个商业格局,若是说可能引起下一次如工业革命般的历史进程也毫不夸张。

每个人都需要关注这场浪潮,为何ChatGPT影响如此巨大,那是因为它染指了人类赖以生存的语言。语言渗透了我们生活的每个环节,语言也将影响我们的思想。一旦语言类人工智能真正能投入到应用领域,它重塑的不止是商业,也不止是交流沟通方式,而是将介入人类的思想与意识。这无疑是一场魔鬼交易。而未来可能不属于给出答案的人,而属于会向AI正确发问的人,属于能与AI合作并将其转化为生产力的人。至于其他人,可能将会变成今天老年人使用智能手机那样的情况。这将可能和年龄无关,并且很快就会发生。

本文作者约翰·诺顿(John Naughton)是开放大学(Open University)公共科技教育的教授。他是《从古腾堡到扎克伯格》(From Gutenberg to Zuckerberg)的作者。他介绍了1966年的一款聊天人工智能Eliza,相比起今天的ChatGPT逊色许多,只能够做出一些敷衍的回应。但语言类AI的魔力正在于:人们即使知道它只是一款软件,却仍会移情于它,严肃认真地与它聊天。这也是最危险的地方,因为语言……


有时,那些忘记历史的人注定要重复历史。对于我们这些记忆力强的人来说,目前围绕ChatGPT(以及一般的 “生成性人工智能”)的大惊小怪甚至是歇斯底里,再次敲响了警钟。

我们曾经到此一游过:准确地说,是在1966年1月。当时麻省理工学院的计算机科学家约瑟夫·韦森鲍姆(Joseph Weizenbaum)推出了伊丽莎(Eliza),它将被称为世界上第一个聊天机器人(如果当时有这个名词的话)。韦森鲍姆写了这个软件(用一种叫做MAD-SLIP的编程语言),以证明人类和计算机之间交流机制的肤浅。它提供了一个文本框,人们可以在里面打字与机器交换输入的信息。程序里面有一个脚本(韦森鲍姆将其命名为DOCTOR),它模仿了病人与心理治疗师的交流,而心理治疗师实行的是卡尔·罗杰斯(Carl Rogers)开创的以人为本的疗法。(该程序的名字来自于伊丽莎·杜利特尔(Eliza Doolittle),她是肖(Shaw)写的戏剧《皮格马利翁》(Pygmalion)中被教导要“说话得体”的鸡婆。

它的工作方式是,程序接收你输入的内容,处理和响应你的内容。假设你输入了(就像我刚才做的):“我对英国的政治感到有点沮丧。”伊丽莎:“你认为来这里会帮助你不感到沮丧吗?” 我:“我希望如此。”伊丽莎:“你说你希望如此是有什么特殊原因吗?”你明白了吧——但你可以自己试试:masswerk.at/elizabot/

韦森鲍姆编写这个程序是为了表明,虽然机器表面上可以复制人类的行为,但它实际上就像魔术师从帽子里掏出一只兔子——是一种幻觉。韦森鲍姆认为一旦你知道这个把戏是怎么玩的,它就不再是幻觉了。伊丽莎没有什么秘密:如果你读懂了代码,你就可以理解它是如何做的。让它的创造者大吃一惊的是,即使知道它只是一个程序,人们似乎也会严肃地对待它。有一个著名的故事,一个人在与伊丽莎“对话”时,会要求她的秘书离开房间。人们完全被它迷住了。(我自己也看到了这一点,有一次我在大学的开放日上在电脑上运行它,不得不把人们从机器上拉下来,好让其他排队的人也能玩一玩)。

在韦森鲍姆关于Eliza的论文发表后,没过多久,一些人(包括一些执业的精神科医生)就开始说,如果机器可以做这种事情,谁还需要心理治疗师?韦森鲍姆对此感到震惊,就像今天的教育家和艺术家对现在生成性人工智能工具的狂热一样。对他而言,正如一位有见地的评论家所说:“一个人和他治疗师之间的关系,从根本上说是两个人的会面。这有时让人想起马丁·布伯在《我和你》所说的,韦森鲍姆仍然固守着人与人之间互动的重要性。”在这个意义上,他不仅是一位杰出的计算机科学家,也是一位杰出的人文主义者。

这种人文主义的愤慨助长了他对“人工智能”技术决定论的终生反对。这为他1976年出版的《计算机能力与人类理性》(Computer Power and Human Reason)一书提供了依据,该书确立了他在AI圈中刺头的角色,并与诺伯特·维纳(Norbert Wiener)的《人类对人类的利用》The Human Use of Human Beings)一样,一个技术内部人士对人类走向“一切自动化”的方向保留意见。

在思考ChatGPT这件事上,Eliza的耐人寻味之处在于,尽管人们知道它是如何工作的,但仍然把它看作是魔法——作为一个“随机的鹦鹉”(用著名研究人员Timnit Gebru的话说)或作为一个“高科技剽窃”(hi-tech plagiarism)的机器(Noam Chomsky)。但实际上,我们还不知道它的另一半——不知道在训练其基础语言模型时产生的二氧化碳排放,也不知道人们与它做所有那些愉快互动时所留下的碳足迹。或者,按照乔姆斯基的步伐,这项技术之所以存在,只是因为它未经授权挪用了数百万人的创造性工作成果,而这些成果恰好就在网络上躺着?这些工具背后的商业模式是什么?诸如此类。答案是:我们不知道。

在他的一次演讲中,韦森鲍姆指出,我们正在不断地与这种技术进行浮士德式的交易。在这种契约中,双方都得到了一些东西:魔鬼得到了人类的灵魂;人类得到了让我们愉悦的服务。有时,这笔交易对我们有用,但对于这种东西,如果我们最后才发现它不对劲,那就会为时已晚。这就是生成性人工智能现在摆在桌面上的交易。我们愿意接受吗?

翻译:DeepL

前言/校对:沙皮狗

诺曼·乔姆斯基谈ChatGPT对教育的影响:那不就是一个“高科技剽窃”机器吗?

谢谢您的支持!
明德影像
明德影像
明德影像是一座人文档案馆,线下资料馆坐落于地扪书院,致力于数字档案保存与公共教育研究

最新文章

明德会客厅002|行吟诗人今晚在「墓室」里游吟

5月16日《奇美拉》观影会回顾

《饮食男女》:视觉盛宴

李安访谈录节选之一,“食物是我遇上的最难合作的演员。”

铁幕飞地 01:成为斯巴达克球迷,聚集在他人之中的自由

透过“斯巴达克”的多棱镜,理解苏联历史,窥见当代观众体育场景的一角。

明德会客厅 001|从赛璐璐到数码,再也不回来

4月14日 《电影的虚拟生命》读书会回顾

系列观影|「食事久远,他事后来」

这些影片试图用烹饪与饮食来探讨人性、传统、族群和阶级,也为我们呈现了可供讨论的厨务工作里的性别差异构成。

相关文章

更多

顶尖科学家的警告:大科技分散了世界对 AI 带来的生存风险的注意力

在“开源派”和“毁灭派”持续的争论中,不能被忽视的是AI可能给人类文明带来“根本性的生存风险”。所谓“生存风险”,是指AI招致的人类灭绝或其它不可挽回的全球性灾难。

You Are Not a Parrot

Nobody likes an I-told-you-so. But before Microsoft’s Bing started cranking out creepy love letters; before Meta’s Galactica spewed racist rants;

巴比奇、计算机、人工智能……

哥德尔的论文发表之际,世界正处在发展电子数宇计算机的前夕。那时关于机械的计算机器的想法已经出现了有一些时候了。

《仿生人会梦见电子羊吗?》译后记

PKD的小说作品,有很多已经或将要被好莱坞改编成电影,但至今最有名的,是1982年根据本书改编成的“Blade Runner”。这部电影以晦暗压抑的气氛、光怪陆离的特效和震撼人心的主题,在近年多种科幻电影排行评选中位列第一,在科幻史上的影响极其深远……

电影私塾 | 人工智能——如履薄冰的21世纪

20世纪人类面临最大的问题,或许是核能,是原子弹,爱因斯坦曾后悔打开了这个潘多拉魔盒。