研究员发现:人工智能最大的风险不是“意识”——而是控制它们的公司

前 Google 员工和现任 Signal 总裁谈到了为什么她认为 Geoffrey Hinton 的危言耸听会分散人们对更紧迫威胁的注意力。

研究员 Meredith Whittaker 说人工智能最大的风险不是“意识”——而是控制它们的公司

人工智能先驱 Geoffrey Hinton,一位 75 岁的计算机科学家,被称为“人工智能教父”,在从谷歌辞职后本周掀起波澜,警告说人工智能可能很快会在智力上超越人类,并学会如何自行毁灭人类. 

图片[2]-研究员发现:人工智能最大的风险不是“意识”——而是控制它们的公司-零度博客

但 Hinton 的警告虽然可怕,但没有抓住要点,著名的人工智能研究员梅雷迪思·惠特克 (Meredith Whittaker) 说,他在 2019 年被谷歌赶下台,部分原因是组织员工反对该公司与五角大楼达成的为军用无人机开发机器视觉技术的交易。现在是 Signal Foundation 的主席,Whittaker 告诉Fast Company为什么 Hinton 的危言耸听会分散人们对更紧迫威胁的注意力,以及工人如何能够从内部抵御技术的危害。(Hinton 没有回应Fast Company的置评请求。) 

为清楚起见,对本访谈进行了压缩和编辑。

Fast Company让我们从你对 Geoffrey Hinton 离开谷歌以警告 AI 的大型媒体巡回演出的反应开始。到目前为止你在做什么?

梅雷迪思·惠特克 (Meredith Whittaker):当像 Timnit [Gebru] 和 Meg [Mitchell] 这样的人在他们职业生涯的早期阶段冒着真正的风险去尝试时,看到一个没有真正出现的人在这个秋季的救赎之旅中令人失望并阻止控制我们称为人工智能的技术的公司的一些最危险的冲动。 

所以,有一点吃蛋糕和吃它:你得到了忏悔的光芒,但当人们真正试图组织和做某事时,我没有看到任何团结或任何行动关于现在正在发生的伤害。

FC你从 2017 年开始在谷歌内部组织起来反对Project Maven,这是该公司签署的一项为美国军用无人机构建机器视觉技术的合同。你有没有预料到会因为直言不讳而被迫离职?

MW:我并没有考虑到这一点。但在我们反对 Project Maven 的信被炸毁后,我记得那一刻我意识到,根据我对历史的理解,我最终会被赶出去。你不会那样乱花钱,也不会被赶出去。 

FC你在谷歌时认识 Geoffrey Hinton 吗?

MW:不太好,但我们在同一个会议,有时在同一个房间。 

FC在你组织的时候,他有没有表达过任何形式的支持?

MW我没有看到他出现在任何集会或行动或底线任何工作中。然后当它变得危险时,当谷歌开始脱下手套并雇用一家破坏工会的公司时,我没有看到他出来支持。 

但提出问题的有效性取决于提出问题的人确保安全的能力。所以,如果你在我和梅格被解雇时不出来,如果你在其他人受到报复时不出来,当研究受到压制时,那么你就是在默许一个惩罚人们提出疑虑的环境. [编者注:虽然惠特克说她是被谷歌离职的,但该公司声称她选择了离开。]

FC还有一个你一直在指出的模式:很多因为直言不讳而受到惩罚的人都是女性。

MW女性,尤其是非白人女性。这不仅在谷歌,而且在人们讨论人工智能的领域,最早出现、最有根据和最具体的关注的人通常是女性,尤其是黑人女性和有色人种女性。我认为值得注意的是,谁似乎很容易被忽视,谁的担忧被提升为:“好吧,我们终于从父亲那里听到了所以这一定是真的。”

FC最近在CNN上,Hinton 淡化了 Timnit Gebru 的担忧——Timnit Gebru 因拒绝撤回一篇关于 AI 对边缘化人群的危害的论文而在 2020 年被谷歌解雇——说她的想法不像他自己的那样“存在严重”。你怎么看?

MW我认为有人会说现在正在发生的 [来自 AI] 的危害是令人震惊的——这些危害在历史上被少数群体的人最强烈地感受到:黑人、妇女、残疾人、不稳定的工人等等——那这些伤害是不存在的。

我从中听到的是,“那些对我来说不存在。我有数百万美元,我投资了很多很多 AI 初创公司,这些都不会影响我的存在。但可能影响我存在的是,如果科幻幻想成真,人工智能真的超级聪明,突然之间像我这样的人就不再是世界上最强大的实体了,那会影响我的生意。” 

FC那么,我们不应该担心人工智能会出现并消灭人类吗?

MW我认为没有任何证据表明大型机器学习模型——依赖于大量监控数据和只有少数公司控制的集中计算基础设施——具有意识的火花。 

我们仍然可以拔掉服务器的插头,随着气候的侵蚀,数据中心可能会泛滥成灾,我们可以用完水来冷却数据中心,随着气候变得更加不稳定和恶劣,监控管道可能会融化。 

我认为我们需要深入研究这里发生的事情,那就是,当面对一个将自己呈现为一个倾听的、热心的对话者的系统,它正在倾听我们并回应我们时,我们似乎陷入了一种关系的恍惚状态对这些系统,几乎反事实地参与某种愿望的实现:认为他们是人类,并且有人在那里听我们说话。这就像当你还是个孩子的时候,你在讲鬼故事,一些有很多情感分量的东西,突然间每个人都被吓坏了,并对它做出反应。令人难以置信。

FC你刚才说的——我们陷入一种恍惚状态的想法——我听到你说的是,这分散了我们对气候变化或对边缘化人群的伤害等实际威胁的注意力。

MW是的,我认为这会分散我们对实地真实情况的注意力,并且比关于很大程度上是虚构的事情的兵棋假设更难解决。尤其是,它让我们忽视了这样一个事实,即这些技术是由少数公司控制的,这些公司最终将决定制造什么技术、它们做什么以及它们为谁服务。如果我们遵循这些公司的利益,我们就会很好地了解谁将使用它,将如何使用它,以及我们可以在哪里抵制以防止今天正在发生和可能发生的实际危害。 

FC Geoffrey Hinton 也在 CNN 上说,“我认为如果你先离开公司,表达你的担忧会更容易。”

MW:如果个人轻松是您的衡量标准,那么您没有错。但我不认为它更有效。这是我和许多其他人转向劳工组织的原因之一。因为有很多权力,能够集体阻止你的劳动,并作为最终决定这些公司运作与否的人联合起来,然后说,“我们不会这样做。” 没有人这样做,它就不会发生。 

THE END
喜欢就支持一下吧
点赞6539 分享
使用 Adob​​e 的免费 AI 工具让嘈杂的录音听起来像专业音频-零度博客

使用 Adob​​e 的免费 AI 工具让嘈杂的录音听起来像专业音频

最近,Adobe 发布了一款免费的 AI 驱动的音频处理工具,可以通过消除背景噪音并使声音听起来更强劲来增强一些质量较差的录音。当它工作时,结果听起来就像是在专业的录音棚里用高质量麦克风录制...
admin的头像-零度博客admin
1.7W+1092
如何优化电脑?学会这3招,让你的电脑速度飞快的跑起来!| 系统优化必备技巧-零度博客

如何优化电脑?学会这3招,让你的电脑速度飞快的跑起来!| 系统优化必备技巧

掌握这3个电脑优化方法,让你告别电脑卡顿,启动慢,速度慢的问题。 SSD固态硬盘是刚需,如果要彻底解决电脑配置低的问题,优先考虑就是更换掉原有的机械硬盘,这样可以让电脑的性能有质的飞跃...
如何使用 VBA 合并多个 Excel 工作簿-零度博客

如何使用 VBA 合并多个 Excel 工作簿

在处理各种数据源时,您可能经常难以编译多个工作簿和工作表,然后才能获得一个最终数据。想象一下这样一种情况,在您开始新的一天之前,您有数百个工作簿要组合。 没有人愿意花无数时间处理不...
admin的头像-零度博客admin
1.7W+2250
谷歌Bard正式支持免费生图功能,无限使用!顶流模型大混战开始了-零度博客

谷歌Bard正式支持免费生图功能,无限使用!顶流模型大混战开始了

Google宣布Bard新增图像生成功能,只需要给Bard一段文字描述,例如:创造一张狗在冲浪板冲浪的图片,“Create an image of a dog riding on a surfboard”,Bard就能生成出客制化且种类多元的图...
admin的头像-零度博客admin
1.4W+1527
域名白嫖机会来了!Gname 免费送 3 个 eu.cc 短域名,新老用户速抢!-零度博客

域名白嫖机会来了!Gname 免费送 3 个 eu.cc 短域名,新老用户速抢!

最近 Gname 推出了超实用的免费域名活动——每位新老用户均可免费注册 3 个 eu.cc 后缀的短域名!注册流程简单,无需繁琐验证,支持多种 DNS 设置,适合搭建博客、跳转页或个性展示页,灵活又实...
admin的头像-零度博客admin
1.9W+1837
OpenAI 直播首秀完整中文版!O1满血版上线,更强Pro版本同步亮相 | 零度解说-零度博客
谷歌称Android平板电脑是未来,开始组建新部门-零度博客

谷歌称Android平板电脑是未来,开始组建新部门

谷歌能否长期投资安卓平板电脑,或者这是另一个暂时的兴趣? 谷歌对 Android 平板电脑有多认真?该公司正在提出再次关心该平台的提议。除了让几家主要OEM 开始构建硬件外,谷歌还在构建Android ...
admin的头像-零度博客admin
1.5W+2252
10个让人惊讶的网站! | 零度解说-零度博客

10个让人惊讶的网站! | 零度解说

https://youtu.be/B4HQNu4IU9A
admin的头像-零度博客admin
1.7W+1091
揭秘 “朝鲜专用” 电脑操作系统!RedStarOS ,去除封印,修改语言,对接国际互联网!-零度博客

揭秘 “朝鲜专用” 电脑操作系统!RedStarOS ,去除封印,修改语言,对接国际互联网!

Red Star OS(红星操作系统)是一款由朝鲜开发的操作系统,以强化国家对计算机和网络的控制为主要目标。它基于Linux内核进行开发,具有高度本地化的界面和功能,并且融入了朝鲜特色的设计风格和...
admin的头像-零度博客admin
2.3W+2372