¥ 0.00

购物车里没有产品

顶尖科学家的警告:大科技分散了世界对 AI 带来的生存风险的注意力

马克斯·泰格马克(Max Tegmark)认为,这种轻描淡写的说法并非偶然,它有可能会延误必要的严格监管,直到为时已晚。
马克斯·泰格马克(Max Tegmark)的 “未来生命研究所”(Future of Life Institute)去年牵头呼吁暂停进一步的人工智能研究至少六个月,但未获成功。

一位著名科学家和 AI 活动家警告说,大科技公司已经成功地转移了全世界对人工智能仍然对人类构成生存威胁的注意力。

在韩国首尔的 AI 安全峰会上接受《卫报》采访时,马克斯·泰格马克表示,将关注点从生命灭绝转移到更为广泛的人工智能安全概念上,可能会延迟对那些最强大程序的创造者实施的严格监管,这难以接受。

“1942年,恩里科·费米(Enrico Fermi)在芝加哥的一个足球场下建造了有史以来第一个能自持链式核裂变的反应堆”, 马克斯·泰格马克也是一位物理学教授,他说,“当时的顶尖物理学家发现这一点时真的吓坏了,因为他们意识到,制造核弹的最大障碍已被克服。只需几年时间就可以制造出核弹——事实上,到1945年进行的‘三位一体实验’(Trinity Test) ,只用了三年时间。”

“能够通过图灵测试(在对话中人们无法分辨出他们是在和人类还是机器对话)的AI模型,也警示了那种可能会失控的人工智能的到来。这就是为什么像杰弗里·辛顿(Geoffrey Hinton)和尤舒亚·本吉奥(Yoshua Bengio)这样的计算机科学家——甚至很多科技公司的CEO,至少在私下里——对此都非常惊慌。”

出于这些担忧,泰格马克的非营利性组织 “未来生命研究所”(Future of Life Institute)去年曾呼吁“暂停”开发比GPT-4更强大的 AI 系统至少 6 个月。他说,去年三月 OpenAI 推出的 GPT-4 模型就是煤矿中的金丝雀,预示着风险近在咫尺。

Future of Life Institute

尽管得到了包括辛顿和本吉奥( 三位“AI 教父”中的两位,他们开创的机器学习方法已成当今人工智能领域之基础)在内的1000多名该领域专家的签名,但“暂停”仍未获得同意。

这次在首尔举行的人工智能安全峰会(继去年11月在英国布莱切利公园之后举行的第二次 AI 安全峰会),引领了 AI 监管这一领域的推进。“我们希望这封公开信能让对话合法化,我们很满意这个结果。一旦人们看到像本吉奥这样的人在担心,他们就会想,’我担心这个也是可以的’。就连加油站里的那个伙计在那之后也对我说,他担心 AI 取代我们。”

人工智能首尔峰会部长级会议2024年5月22日在韩国首尔举行。

“但现在,我们需要从纸上谈兵转变为实际的行动。”

然而,自从最初宣布要举办布莱切利公园峰会以来,国际监管 AI 安全的焦点已经从“生存风险”转移。

在首尔,三个“高级别”小组中只有一组直接讨论了安全问题,关注“从隐私泄露到扰乱就业市场再到潜在的灾难性后果”的“全方位”风险。泰格马克认为,对最严峻的风险轻描淡写是不应当的——这也绝非偶然。

“这正是我所预测的行业游说会导致的情况”,他说,“1955 年,第一批指出吸烟导致肺癌的期刊文章发表后,人们以为很快就会有一系列监管措施。实际上没有,一直等到了 1980 年,因为行业有巨大推动力来分散人们的注意力。我觉得现在也是这种情况。”

“当然,AI 也造成了当下的危害:存在这样一种偏见,认为它只对边缘群体构成威胁……但正如英国科学部长米歇尔·多纳兰(Michelle Donelan)所说的那样,我们并非不能同时处理两者。这有点像说,’因为今年会有飓风,我们就不要关注气候变化,只关注飓风就好了’。”

泰格马克的批评者们也用类似的论点驳斥了这种指责:业界希望每个人都谈论假想中的未来风险,以转移人们对当下具体威胁的注意力。“即使你就事论事,这也是让人‘大脑过载’的:对像(OpenAI 创始人)萨姆·奥特曼(Sam Altman)这样的人来说,为了逃避监管,告诉大家这可能对每个人都是灭顶之灾,然后试图说服像我们这样的人敲响警钟,这简直是在下一盘四维国际象棋。”

相反,他认为,一些科技公司的领导者之所以默不作声,是因为“我认为他们都觉得自己处于一个无法摆脱的困境,即使他们想要停止,也做不到。如果一个烟草公司的CEO某天早上醒来,感到自己正在做的事情是不对的,会发生什么?他们会把CEO换掉。因此,要把安全放在第一位就只有政府为所有人制定安全标准。”

谢谢您的支持!
Youkee
Youkee
明德影像编辑

最新文章

观影会|《嘉年华》,不只是性侵题材,不想赚取眼泪

描述了一桩未成年少女的性侵案,目击者同为少女,镜头捕捉了被无力感层层包夹的青春,冷静而不煽情的批判反而更深烙人心。

观影会|浮士德:生命和灵魂……它们藏在哪里?

和原著不同,影片中的浮士德没有获得救赎,而是流放于无边的无意义中…… 我们不得不思考,浮士德输掉的究竟是什么?

观影会|当巴黎将塞纳河染成红色,纽约的酷儿们亦在血色年代里燃烧

ballroom 文化绝非线性进化,和任何一种亚文化一样,都要面对社群的迁变,资源的衰减,兴趣的转移等迫切的现实问题,时至今日,还能否保有当初的鲜活与炫魅?

相关文章

更多

You Are Not a Parrot

Nobody likes an I-told-you-so. But before Microsoft’s Bing started cranking out creepy love letters; before Meta’s Galactica spewed racist rants;

ChatGPT不是一次技术飞跃,而是一场与魔鬼的交易

语言类AI的魔力正在于:人们即使知道它只是一款软件,却仍会移情于它,严肃认真地与它聊天。这也是最危险的地方,因为语言……

巴比奇、计算机、人工智能……

哥德尔的论文发表之际,世界正处在发展电子数宇计算机的前夕。那时关于机械的计算机器的想法已经出现了有一些时候了。

《仿生人会梦见电子羊吗?》译后记

PKD的小说作品,有很多已经或将要被好莱坞改编成电影,但至今最有名的,是1982年根据本书改编成的“Blade Runner”。这部电影以晦暗压抑的气氛、光怪陆离的特效和震撼人心的主题,在近年多种科幻电影排行评选中位列第一,在科幻史上的影响极其深远……

电影私塾 | 人工智能——如履薄冰的21世纪

20世纪人类面临最大的问题,或许是核能,是原子弹,爱因斯坦曾后悔打开了这个潘多拉魔盒。