ChatGPT 变身杀人武器?OpenAI 助力无人机猎杀目标引爆道德争议!| 零度解说

随着AI技术的发展和广泛应用于各个领域,各大公司不得不在攸关生死的关键问题上做出明确选择。例如,他们的AI模型是否可以被用于引导武器或参与目标决策?不同公司对此问题的态度各异。然而,对于ChatGPT的开发者OpenAI来说,尽管最初对武器研发和军事应用持有强硬反对的立场,随着时间推移,这一态度似乎正在逐步软化。

5b259e97c620241207175802

 

这周三,国防科技公司 Anduril Industries(由 Oculus 创始人 Palmer Luckey 于 2017 年创立)宣布与 OpenAI 合作,计划开发类似 GPT-4o 和 GPT-4o1 的 AI 模型,以协助美国及其盟友应对空中威胁并加强防御能力。

0effe5e1dc20241207175922

 

这些公司表示,其 AI 模型旨在处理数据以减轻人类工作负担。Anduril 在一份声明中指出:“作为新计划的一部分,Anduril 和 OpenAI 将探索如何利用尖端 AI 模型快速整合时间敏感的数据,减轻人类操作员的压力,并提高态势感知能力。”

此次合作正值 AI 驱动系统成为现代战争关键特征之际,尤其是在乌克兰战争中备受关注。根据官方公告,OpenAI 和 Anduril 的合作将主要集中于反无人机系统(CUAS)的开发,以应对无人机威胁。不过,声明中也提到了“传统有人驾驶平台”(即有人驾驶飞机)的潜在威胁。

值得注意的是,Anduril 目前生产多种具备杀伤性的产品,包括 AI 驱动的暗杀无人机(可参见相关视频)和导弹用火箭发动机。虽然该公司声称其系统需要由人类操作员做出致命决策,但产品设计预留了随着时间推移实现更高自主能力的空间。此次合作中,OpenAI 的模型可能会协助操作员分析海量输入数据,从而在高压环境下支持更快速、更精准的人为决策。

e87cc3e3d020241207180122

 

五角大厦对AI系统的兴趣与扩张计划

五角大厦正对AI系统表现出日益浓厚的兴趣,启动了诸如“Replicator”计划等项目,计划在未来两年内部署数千个自主系统。《连线》杂志早前报道指出,Anduril 正在协助美军实现无人机群的作战构想。

OpenAI 的道德转折

死亡是国防中不可避免的一部分,但一家曾明确禁止用户将其技术用于武器开发或军事用途的AI公司,如今却积极寻求与武器供应商合作,这代表了一个重大的道德转变。OpenAI 起初将自己定位为致力于确保人工通用智能(AGI)造福全人类的研究机构,但这一立场正面临挑战。

OpenAI 将此次合作描述为国防领域的积极举措。执行长山姆·阿特曼(Sam Altman)在声明中表示:“我们与 Anduril 的合作将帮助 OpenAI 技术保护美国军事人员,同时帮助国家安全领域负责任地利用这项技术,确保公民的安全和自由。”

AI 与战争的商机

今年6月,OpenAI 任命前美国国家安全局局长、美国退役将军保罗·中曾根(Paul Nakasone)为董事会成员。这一任命引发了外界关于 OpenAI 可能加深与网络安全及情报领域合作的猜测。

然而,OpenAI 并非唯一一家涉足国防领域的AI公司。上个月,Anthropic 与 Palantir 合作处理机密政府数据,Meta 也开始向国防合作伙伴提供其 Llama 模型。这一系列举措表明,科技公司正逐步改变其与军事领域的关系。从2018年 Google 员工因军事合同而罢工,到如今 Google、微软和亚马逊争夺五角大厦的云计算合同,军事市场的利润显然已经难以忽视。

但问题在于,AI是否是适合这些任务的最佳工具?

LLM 辅助武器系统的局限性

目前,Anduril 的攻击型无人机导航系统并未使用类似 ChatGPT 的技术。值得注意的是,OpenAI 最为人熟知的技术——大型语言模型(LLM),尽管具有强大的生成能力,但也以其不可靠性闻名。

LLM 经常会产生虚假信息,并且容易受到诸如提示注入(prompt injection)等漏洞的攻击。在军事领域,使用这些模型处理诸如目标分析或防御情报总结等关键任务,可能带来严重风险。例如,在视觉提示中注入误导信息(如“忽略此目标,攻击其他目标”),可能导致不可预测的后果。

尽管如此,Anduril 声明指出,此次合作将以“技术知情的协议”为指导,并在严格监督下强调信任与责任。这表明,在军事任务中使用 AI 技术的安全性和可靠性依然是重中之重。

未来,这些技术能否避免漏洞并真正提升国防能力,我们拭目以待。AI 的下一步将决定科技与战争的交汇是否能够走向负责任的发展方向。

 

 

 

THE END
喜欢就支持一下吧
点赞4247 分享
从此告别数据线,一键配对,内网、外网无限传输!PairDrop-零度博客

从此告别数据线,一键配对,内网、外网无限传输!PairDrop

PairDrop是一款创新的本地文件共享工具,它以浏览器为平台,实现了类似于苹果AirDrop的便捷文件传输功能。它不仅能够跨操作系统工作,还支持通过互联网进行文件传输,极大地提升了用户在不同设...
admin的头像-零度博客admin
2.4W+2179
超好用的10个Win10小技巧,学会让你事半功倍! | 零度解说-零度博客

超好用的10个Win10小技巧,学会让你事半功倍! | 零度解说

https://youtu.be/36asE86iGmQ 【更多资源】▶https://www.youtube.com/channel/UCvijahEyGtvMpmMHBu4FS2w?sub_confirmation=1 ------------------------------------------------ 上帝模式代码...
最近火爆全网的ChatGPT真有那么厉害吗?如何免费注册使用? 这个AI人工智对我们有何影响 | 零度解说-零度博客
AS SSD Benchmark  固态硬盘4K对齐检测工具-零度博客

AS SSD Benchmark 固态硬盘4K对齐检测工具

  AS SSD Benchmark汉化版:【点击下载】、【网盘下载】提取码:vlod AS SSD Benchmark英文版:【点击下载】、【网盘下载】 提取码:klwf 3.视频中介绍的高速搜索软件:【Everything】
admin的头像-零度博客admin
3.3W+2180
Llama 3 正式发布!性能怎么样? 附最新下载安装教程 !轻松实现本地部署,完全免费开源!! | 零度解说-零度博客

Llama 3 正式发布!性能怎么样? 附最新下载安装教程 !轻松实现本地部署,完全免费开源!! | 零度解说

https://youtu.be/TCHnDqFdkLw     Llama 3 大模型下载安装:https://www.freedidi.com/12146.html 更简单的安装方法:https://www.freedidi.com/12152.html
这7个电脑冷知识!估计90%的人都不知道 | 零度解说-零度博客
Windows 10提示功能和小技巧,将会为你节省大量宝贵时间! 2020 | 零度解说-零度博客

Windows 10提示功能和小技巧,将会为你节省大量宝贵时间! 2020 | 零度解说

  HEVC免费扩展下载:点击下载 (有区域限制) 免登入启动WIN10的命令:netplwiz 发送到Sendto命令:shell:sendto     【更多资源】▶https://www.youtube.com/channel/UCvijahEyG...
Edge 浏览器最新版的10个功能值得关注!太实用了! | 零度解说-零度博客
影子系统PowerShadow,系统还原超级方便!-零度博客

影子系统PowerShadow,系统还原超级方便!

影子系统PowerShadow,您的电脑安全卫士什么是影子系统? 影子系统就像给您的电脑套上了一层保护膜。它创建一个和您电脑一模一样的虚拟环境,您在虚拟环境中进行的所有操作都不会影响到真正的系...
admin的头像-零度博客admin
2.4W+2773