研究员发现:人工智能最大的风险不是“意识”——而是控制它们的公司

前 Google 员工和现任 Signal 总裁谈到了为什么她认为 Geoffrey Hinton 的危言耸听会分散人们对更紧迫威胁的注意力。

研究员 Meredith Whittaker 说人工智能最大的风险不是“意识”——而是控制它们的公司

人工智能先驱 Geoffrey Hinton,一位 75 岁的计算机科学家,被称为“人工智能教父”,在从谷歌辞职后本周掀起波澜,警告说人工智能可能很快会在智力上超越人类,并学会如何自行毁灭人类. 

图片[2]-研究员发现:人工智能最大的风险不是“意识”——而是控制它们的公司-零度博客

但 Hinton 的警告虽然可怕,但没有抓住要点,著名的人工智能研究员梅雷迪思·惠特克 (Meredith Whittaker) 说,他在 2019 年被谷歌赶下台,部分原因是组织员工反对该公司与五角大楼达成的为军用无人机开发机器视觉技术的交易。现在是 Signal Foundation 的主席,Whittaker 告诉Fast Company为什么 Hinton 的危言耸听会分散人们对更紧迫威胁的注意力,以及工人如何能够从内部抵御技术的危害。(Hinton 没有回应Fast Company的置评请求。) 

为清楚起见,对本访谈进行了压缩和编辑。

Fast Company让我们从你对 Geoffrey Hinton 离开谷歌以警告 AI 的大型媒体巡回演出的反应开始。到目前为止你在做什么?

梅雷迪思·惠特克 (Meredith Whittaker):当像 Timnit [Gebru] 和 Meg [Mitchell] 这样的人在他们职业生涯的早期阶段冒着真正的风险去尝试时,看到一个没有真正出现的人在这个秋季的救赎之旅中令人失望并阻止控制我们称为人工智能的技术的公司的一些最危险的冲动。 

所以,有一点吃蛋糕和吃它:你得到了忏悔的光芒,但当人们真正试图组织和做某事时,我没有看到任何团结或任何行动关于现在正在发生的伤害。

FC你从 2017 年开始在谷歌内部组织起来反对Project Maven,这是该公司签署的一项为美国军用无人机构建机器视觉技术的合同。你有没有预料到会因为直言不讳而被迫离职?

MW:我并没有考虑到这一点。但在我们反对 Project Maven 的信被炸毁后,我记得那一刻我意识到,根据我对历史的理解,我最终会被赶出去。你不会那样乱花钱,也不会被赶出去。 

FC你在谷歌时认识 Geoffrey Hinton 吗?

MW:不太好,但我们在同一个会议,有时在同一个房间。 

FC在你组织的时候,他有没有表达过任何形式的支持?

MW我没有看到他出现在任何集会或行动或底线任何工作中。然后当它变得危险时,当谷歌开始脱下手套并雇用一家破坏工会的公司时,我没有看到他出来支持。 

但提出问题的有效性取决于提出问题的人确保安全的能力。所以,如果你在我和梅格被解雇时不出来,如果你在其他人受到报复时不出来,当研究受到压制时,那么你就是在默许一个惩罚人们提出疑虑的环境. [编者注:虽然惠特克说她是被谷歌离职的,但该公司声称她选择了离开。]

FC还有一个你一直在指出的模式:很多因为直言不讳而受到惩罚的人都是女性。

MW女性,尤其是非白人女性。这不仅在谷歌,而且在人们讨论人工智能的领域,最早出现、最有根据和最具体的关注的人通常是女性,尤其是黑人女性和有色人种女性。我认为值得注意的是,谁似乎很容易被忽视,谁的担忧被提升为:“好吧,我们终于从父亲那里听到了所以这一定是真的。”

FC最近在CNN上,Hinton 淡化了 Timnit Gebru 的担忧——Timnit Gebru 因拒绝撤回一篇关于 AI 对边缘化人群的危害的论文而在 2020 年被谷歌解雇——说她的想法不像他自己的那样“存在严重”。你怎么看?

MW我认为有人会说现在正在发生的 [来自 AI] 的危害是令人震惊的——这些危害在历史上被少数群体的人最强烈地感受到:黑人、妇女、残疾人、不稳定的工人等等——那这些伤害是不存在的。

我从中听到的是,“那些对我来说不存在。我有数百万美元,我投资了很多很多 AI 初创公司,这些都不会影响我的存在。但可能影响我存在的是,如果科幻幻想成真,人工智能真的超级聪明,突然之间像我这样的人就不再是世界上最强大的实体了,那会影响我的生意。” 

FC那么,我们不应该担心人工智能会出现并消灭人类吗?

MW我认为没有任何证据表明大型机器学习模型——依赖于大量监控数据和只有少数公司控制的集中计算基础设施——具有意识的火花。 

我们仍然可以拔掉服务器的插头,随着气候的侵蚀,数据中心可能会泛滥成灾,我们可以用完水来冷却数据中心,随着气候变得更加不稳定和恶劣,监控管道可能会融化。 

我认为我们需要深入研究这里发生的事情,那就是,当面对一个将自己呈现为一个倾听的、热心的对话者的系统,它正在倾听我们并回应我们时,我们似乎陷入了一种关系的恍惚状态对这些系统,几乎反事实地参与某种愿望的实现:认为他们是人类,并且有人在那里听我们说话。这就像当你还是个孩子的时候,你在讲鬼故事,一些有很多情感分量的东西,突然间每个人都被吓坏了,并对它做出反应。令人难以置信。

FC你刚才说的——我们陷入一种恍惚状态的想法——我听到你说的是,这分散了我们对气候变化或对边缘化人群的伤害等实际威胁的注意力。

MW是的,我认为这会分散我们对实地真实情况的注意力,并且比关于很大程度上是虚构的事情的兵棋假设更难解决。尤其是,它让我们忽视了这样一个事实,即这些技术是由少数公司控制的,这些公司最终将决定制造什么技术、它们做什么以及它们为谁服务。如果我们遵循这些公司的利益,我们就会很好地了解谁将使用它,将如何使用它,以及我们可以在哪里抵制以防止今天正在发生和可能发生的实际危害。 

FC Geoffrey Hinton 也在 CNN 上说,“我认为如果你先离开公司,表达你的担忧会更容易。”

MW:如果个人轻松是您的衡量标准,那么您没有错。但我不认为它更有效。这是我和许多其他人转向劳工组织的原因之一。因为有很多权力,能够集体阻止你的劳动,并作为最终决定这些公司运作与否的人联合起来,然后说,“我们不会这样做。” 没有人这样做,它就不会发生。 

THE END
喜欢就支持一下吧
点赞6539 分享
SingleFile 将完整的页面(包括 CSS、图片、字体、框架等)保存为一个文件-零度博客

SingleFile 将完整的页面(包括 CSS、图片、字体、框架等)保存为一个文件

SingleFile 是一个扩展程序,可帮助您将整个页面(包含 CSS、图像、字体、框架等)保存为单个 HTML 文件。入门- 等待页面完全加载。- 单击扩展工具栏中的 SingleFile 按钮以处理并保存页面。- ...
admin的头像-零度博客admin
2.7W+6249
本地部署 Llama3.1 最强开源大模型!支持 Windows、MacOS-零度博客

本地部署 Llama3.1 最强开源大模型!支持 Windows、MacOS

1.本地电脑安装的硬件要求:​ ​Windows:3060以上显卡+8G以上显存+16G内存,硬盘空间至少20G Mac:M1或M2芯片 16G内存,20G以上硬盘空间 在开始之前,首先我们需要安装Ollama客户端,来进行本...
admin的头像-零度博客admin
2.8W+2177
超真实 Stable Diffusion AI 大模型!完全免费,生成图片光效氛围感爆棚!!| 零度解说-零度博客

超真实 Stable Diffusion AI 大模型!完全免费,生成图片光效氛围感爆棚!!| 零度解说

这是基于 Stable Diffusion的真人大模型,生成的图片不仅非常好看,更有质感! 而且它还进一步解决了以往AI图片一脸假或者是网红脸的问题 现在我们就来演示一下........   https://youtu.b...
admin的头像-零度博客admin
2.1W+2176
LastPass 所有者 GoTo 分享了有关 11 月安全漏洞的更多坏消息-零度博客

LastPass 所有者 GoTo 分享了有关 11 月安全漏洞的更多坏消息

以前称为 LogMeIn 的服务已确认攻击者窃取了客户的加密备份和其中“一部分”的加密密钥。 拥有 LastPass 的远程协作和 IT 软件公司 GoTo 已确认,在 2022 年 11 月的一次安全漏洞期间(通过Tech...
admin的头像-零度博客admin
1.2W+6539
浏览器网页长截图插件 GoFullPage,轻松实现全屏截图!-零度博客

浏览器网页长截图插件 GoFullPage,轻松实现全屏截图!

完整且可靠地捕获当前页面的屏幕截图——无需请求任何额外权限! 下载方式: 1、Chrome 插件【网页长截图】 2、Edge 插件 【网页长截图】
admin的头像-零度博客admin
2.1W+3251
重磅炸弹!Stable Diffusion 3 终于开源了!实测屌打 Midjourney,一句话生成任何你想要的图片,附本地安装教程! | 零度解说-零度博客

重磅炸弹!Stable Diffusion 3 终于开源了!实测屌打 Midjourney,一句话生成任何你想要的图片,附本地安装教程! | 零度解说

https://youtu.be/zOI8ePbTUSs   Stable Diffusion 3开源模型+ComfyUI 下载:https://www.freedidi.com/12706.html https://www.freedidi.com/12706.html  
Canonical 宣布 Ubuntu 22.04 LTS 内核升级至 Linux 6.2,提供更强硬件支持-零度博客

Canonical 宣布 Ubuntu 22.04 LTS 内核升级至 Linux 6.2,提供更强硬件支持

  Canonical 今天发布了一项重要预告,宣布即将到来的 Ubuntu 22.04.3 LTS 维护版本更新将会升级 Linux Kernel 内核,从当前版本的 5.19 版本迎来全新的 6.2 版本。此举旨在为用户提供更流...
admin的头像-零度博客admin
1.7W+1682
这5款免费开源软件,都是老司机必备的精品工具!| 零度解说-零度博客
精选五款谷歌浏览器插件 | 有福利!这5款非常的实用Chrome的应用保证你爱不释手!-零度博客

精选五款谷歌浏览器插件 | 有福利!这5款非常的实用Chrome的应用保证你爱不释手!

谷歌浏览器的应用中心有大量非常好用的插件,合理使用这些插件可以大大提高我们学习,工作中的工作效率。 Tampermonkey:https://chrome.google.com/webstore/detail/tampermonkey/dhdgffkkebhm...
admin的头像-零度博客admin
1.7W+2250