ChatGPT 变身杀人武器?OpenAI 助力无人机猎杀目标引爆道德争议!| 零度解说

随着AI技术的发展和广泛应用于各个领域,各大公司不得不在攸关生死的关键问题上做出明确选择。例如,他们的AI模型是否可以被用于引导武器或参与目标决策?不同公司对此问题的态度各异。然而,对于ChatGPT的开发者OpenAI来说,尽管最初对武器研发和军事应用持有强硬反对的立场,随着时间推移,这一态度似乎正在逐步软化。

5b259e97c620241207175802

 

这周三,国防科技公司 Anduril Industries(由 Oculus 创始人 Palmer Luckey 于 2017 年创立)宣布与 OpenAI 合作,计划开发类似 GPT-4o 和 GPT-4o1 的 AI 模型,以协助美国及其盟友应对空中威胁并加强防御能力。

0effe5e1dc20241207175922

 

这些公司表示,其 AI 模型旨在处理数据以减轻人类工作负担。Anduril 在一份声明中指出:“作为新计划的一部分,Anduril 和 OpenAI 将探索如何利用尖端 AI 模型快速整合时间敏感的数据,减轻人类操作员的压力,并提高态势感知能力。”

此次合作正值 AI 驱动系统成为现代战争关键特征之际,尤其是在乌克兰战争中备受关注。根据官方公告,OpenAI 和 Anduril 的合作将主要集中于反无人机系统(CUAS)的开发,以应对无人机威胁。不过,声明中也提到了“传统有人驾驶平台”(即有人驾驶飞机)的潜在威胁。

值得注意的是,Anduril 目前生产多种具备杀伤性的产品,包括 AI 驱动的暗杀无人机(可参见相关视频)和导弹用火箭发动机。虽然该公司声称其系统需要由人类操作员做出致命决策,但产品设计预留了随着时间推移实现更高自主能力的空间。此次合作中,OpenAI 的模型可能会协助操作员分析海量输入数据,从而在高压环境下支持更快速、更精准的人为决策。

e87cc3e3d020241207180122

 

五角大厦对AI系统的兴趣与扩张计划

五角大厦正对AI系统表现出日益浓厚的兴趣,启动了诸如“Replicator”计划等项目,计划在未来两年内部署数千个自主系统。《连线》杂志早前报道指出,Anduril 正在协助美军实现无人机群的作战构想。

OpenAI 的道德转折

死亡是国防中不可避免的一部分,但一家曾明确禁止用户将其技术用于武器开发或军事用途的AI公司,如今却积极寻求与武器供应商合作,这代表了一个重大的道德转变。OpenAI 起初将自己定位为致力于确保人工通用智能(AGI)造福全人类的研究机构,但这一立场正面临挑战。

OpenAI 将此次合作描述为国防领域的积极举措。执行长山姆·阿特曼(Sam Altman)在声明中表示:“我们与 Anduril 的合作将帮助 OpenAI 技术保护美国军事人员,同时帮助国家安全领域负责任地利用这项技术,确保公民的安全和自由。”

AI 与战争的商机

今年6月,OpenAI 任命前美国国家安全局局长、美国退役将军保罗·中曾根(Paul Nakasone)为董事会成员。这一任命引发了外界关于 OpenAI 可能加深与网络安全及情报领域合作的猜测。

然而,OpenAI 并非唯一一家涉足国防领域的AI公司。上个月,Anthropic 与 Palantir 合作处理机密政府数据,Meta 也开始向国防合作伙伴提供其 Llama 模型。这一系列举措表明,科技公司正逐步改变其与军事领域的关系。从2018年 Google 员工因军事合同而罢工,到如今 Google、微软和亚马逊争夺五角大厦的云计算合同,军事市场的利润显然已经难以忽视。

但问题在于,AI是否是适合这些任务的最佳工具?

LLM 辅助武器系统的局限性

目前,Anduril 的攻击型无人机导航系统并未使用类似 ChatGPT 的技术。值得注意的是,OpenAI 最为人熟知的技术——大型语言模型(LLM),尽管具有强大的生成能力,但也以其不可靠性闻名。

LLM 经常会产生虚假信息,并且容易受到诸如提示注入(prompt injection)等漏洞的攻击。在军事领域,使用这些模型处理诸如目标分析或防御情报总结等关键任务,可能带来严重风险。例如,在视觉提示中注入误导信息(如“忽略此目标,攻击其他目标”),可能导致不可预测的后果。

尽管如此,Anduril 声明指出,此次合作将以“技术知情的协议”为指导,并在严格监督下强调信任与责任。这表明,在军事任务中使用 AI 技术的安全性和可靠性依然是重中之重。

未来,这些技术能否避免漏洞并真正提升国防能力,我们拭目以待。AI 的下一步将决定科技与战争的交汇是否能够走向负责任的发展方向。

 

 

 

THE END
喜欢就支持一下吧
点赞4247 分享
谷歌 Chrome 浏览器 “不为人知” 的9大功能! | 零度解说-零度博客
老司机必备的6款软件!电脑远程控制、视频抠图、U盘系统启动等工具 | 零度解说-零度博客
Windows 11 开启自动超级分辨率功能!可增强游戏细节及流畅度-零度博客

Windows 11 开启自动超级分辨率功能!可增强游戏细节及流畅度

最新的 Windows 11 预览版本包含几项未宣布的功能,这些功能揭示了微软计划在今年晚些时候在已经确认的 Windows 11 版本 24H2(或之后的任何版本)中发布的内容。其中一项功能是 AI 升级器或“...
admin的头像-零度博客admin
1.6W+1527
Notion 添加中文语言!实现全平台的汉化教程!支持客户端、网页版、手机端等 | 零度解说-零度博客
空间碎片越来越多!人们将在这十年面临更多的死亡威胁-零度博客

空间碎片越来越多!人们将在这十年面临更多的死亡威胁

直到大约十年前,平均每年有 80 到 100 颗卫星被发射到不同的轨道。一些很快重新进入地球大气层,而另一些将在轨道上停留数十年。 这现在看起来很古怪。在过去五年中,主要受 SpaceX 的 Starlin...
admin的头像-零度博客admin
1.6W+1091
K歌必备神器!全民K歌、K歌达人 支持电脑 \手机 \电视TV-零度博客

K歌必备神器!全民K歌、K歌达人 支持电脑 \手机 \电视TV

  1.全民K歌是大陆用户的首选,如果在海外的话需要注册大陆的Apple ID才能下载安装。   【官网】     2.K歌达人,海内外都可以使用,但是功能没有全民K歌那么丰富。 【官网...
admin的头像-零度博客admin
1.7W+1682
六个超级实用的网站,老司机收藏必备!-零度博客

六个超级实用的网站,老司机收藏必备!

1.Fosshub: https://www.fosshub.com 2.Aconvert:https://www.aconvert.com 3.MuscleWiki: https://musclewiki.com 4.GitMind: (中文站)https://gitmind.cn (英文站)https://gitmind.com 5...
admin的头像-零度博客admin
2.1W+656
永久免费使用 Google 云服务器!300美金到期后可继续

永久免费使用 Google 云服务器!300美金到期后可继续 “白嫖” | 零度解说

https://youtu.be/5Ii0_iM-fY8   Google 云服务器免费申请:https://www.freedidi.com/16908.html
优化上网速度,只需电脑上几步操作,让你上网的速度大大提高 | 零度解说-零度博客

优化上网速度,只需电脑上几步操作,让你上网的速度大大提高 | 零度解说

提高上网速度,从优化电脑设置开始。今天给大家介绍的提升网络速度是完全免费的,我们只需要在电脑上合理配置适合我们的DNS,即可大大提高我们浏览网页的速度。不管你在海外还是在中国大陆,甚...