ChatGPT 变身杀人武器?OpenAI 助力无人机猎杀目标引爆道德争议!| 零度解说

随着AI技术的发展和广泛应用于各个领域,各大公司不得不在攸关生死的关键问题上做出明确选择。例如,他们的AI模型是否可以被用于引导武器或参与目标决策?不同公司对此问题的态度各异。然而,对于ChatGPT的开发者OpenAI来说,尽管最初对武器研发和军事应用持有强硬反对的立场,随着时间推移,这一态度似乎正在逐步软化。

5b259e97c620241207175802

 

这周三,国防科技公司 Anduril Industries(由 Oculus 创始人 Palmer Luckey 于 2017 年创立)宣布与 OpenAI 合作,计划开发类似 GPT-4o 和 GPT-4o1 的 AI 模型,以协助美国及其盟友应对空中威胁并加强防御能力。

0effe5e1dc20241207175922

 

这些公司表示,其 AI 模型旨在处理数据以减轻人类工作负担。Anduril 在一份声明中指出:“作为新计划的一部分,Anduril 和 OpenAI 将探索如何利用尖端 AI 模型快速整合时间敏感的数据,减轻人类操作员的压力,并提高态势感知能力。”

此次合作正值 AI 驱动系统成为现代战争关键特征之际,尤其是在乌克兰战争中备受关注。根据官方公告,OpenAI 和 Anduril 的合作将主要集中于反无人机系统(CUAS)的开发,以应对无人机威胁。不过,声明中也提到了“传统有人驾驶平台”(即有人驾驶飞机)的潜在威胁。

值得注意的是,Anduril 目前生产多种具备杀伤性的产品,包括 AI 驱动的暗杀无人机(可参见相关视频)和导弹用火箭发动机。虽然该公司声称其系统需要由人类操作员做出致命决策,但产品设计预留了随着时间推移实现更高自主能力的空间。此次合作中,OpenAI 的模型可能会协助操作员分析海量输入数据,从而在高压环境下支持更快速、更精准的人为决策。

e87cc3e3d020241207180122

 

五角大厦对AI系统的兴趣与扩张计划

五角大厦正对AI系统表现出日益浓厚的兴趣,启动了诸如“Replicator”计划等项目,计划在未来两年内部署数千个自主系统。《连线》杂志早前报道指出,Anduril 正在协助美军实现无人机群的作战构想。

OpenAI 的道德转折

死亡是国防中不可避免的一部分,但一家曾明确禁止用户将其技术用于武器开发或军事用途的AI公司,如今却积极寻求与武器供应商合作,这代表了一个重大的道德转变。OpenAI 起初将自己定位为致力于确保人工通用智能(AGI)造福全人类的研究机构,但这一立场正面临挑战。

OpenAI 将此次合作描述为国防领域的积极举措。执行长山姆·阿特曼(Sam Altman)在声明中表示:“我们与 Anduril 的合作将帮助 OpenAI 技术保护美国军事人员,同时帮助国家安全领域负责任地利用这项技术,确保公民的安全和自由。”

AI 与战争的商机

今年6月,OpenAI 任命前美国国家安全局局长、美国退役将军保罗·中曾根(Paul Nakasone)为董事会成员。这一任命引发了外界关于 OpenAI 可能加深与网络安全及情报领域合作的猜测。

然而,OpenAI 并非唯一一家涉足国防领域的AI公司。上个月,Anthropic 与 Palantir 合作处理机密政府数据,Meta 也开始向国防合作伙伴提供其 Llama 模型。这一系列举措表明,科技公司正逐步改变其与军事领域的关系。从2018年 Google 员工因军事合同而罢工,到如今 Google、微软和亚马逊争夺五角大厦的云计算合同,军事市场的利润显然已经难以忽视。

但问题在于,AI是否是适合这些任务的最佳工具?

LLM 辅助武器系统的局限性

目前,Anduril 的攻击型无人机导航系统并未使用类似 ChatGPT 的技术。值得注意的是,OpenAI 最为人熟知的技术——大型语言模型(LLM),尽管具有强大的生成能力,但也以其不可靠性闻名。

LLM 经常会产生虚假信息,并且容易受到诸如提示注入(prompt injection)等漏洞的攻击。在军事领域,使用这些模型处理诸如目标分析或防御情报总结等关键任务,可能带来严重风险。例如,在视觉提示中注入误导信息(如“忽略此目标,攻击其他目标”),可能导致不可预测的后果。

尽管如此,Anduril 声明指出,此次合作将以“技术知情的协议”为指导,并在严格监督下强调信任与责任。这表明,在军事任务中使用 AI 技术的安全性和可靠性依然是重中之重。

未来,这些技术能否避免漏洞并真正提升国防能力,我们拭目以待。AI 的下一步将决定科技与战争的交汇是否能够走向负责任的发展方向。

 

 

 

THE END
喜欢就支持一下吧
点赞4247 分享
专业的硬盘管理:DiskGenius,小白也能轻松使用!-零度博客

专业的硬盘管理:DiskGenius,小白也能轻松使用!

  专业的数据恢复和分区管理软件,各种文件恢复和分区问题都可以解决。这个软件更适合专业搞机用户使用,小白可以用分区助手,更好上手。 DiskGenius下载:【点击前往】
admin的头像-零度博客admin
2.3W+3254
50款杀毒软件“保护”我的电脑,可怕的事情发生了!| 零度解说-零度博客

50款杀毒软件“保护”我的电脑,可怕的事情发生了!| 零度解说

在我们电脑上同时安装50款杀毒软件会发生什么?会不会死机报废? 今天我们来作死测试下,接下来我会在我电脑上,依次安装目前市面上几乎所有主流的杀毒软件 分别来自中美英法德意奥、印度、俄罗斯...
正版Office全家桶永久免费使用!完全通过官方下载,放心使用!-零度博客

正版Office全家桶永久免费使用!完全通过官方下载,放心使用!

1.office 软件部署工具:https://www.microsoft.com/en-us/download/details.aspx?id=49117 2.office 版本自定义工具:https://config.office.com/deploymentsettings 3.基于KMS的 GVLK:https:...
SubsTracker - 订阅管理与提醒系统 (Cloudflare workers)-零度博客

SubsTracker – 订阅管理与提醒系统 (Cloudflare workers)

SubsTracker - 订阅管理与提醒系统是基于Cloudflare Workers的轻量级订阅管理系统,帮助您轻松跟踪各类订阅服务的到期时间,并通过Telegram发送及时提醒。✨ 特性🔔 自动提醒: 在订阅到期前自...
admin的头像-零度博客admin
1.5W+796
【限免】Auto Mouse Clicker 鼠标自动点击器-零度博客

【限免】Auto Mouse Clicker 鼠标自动点击器

Vovsoft Auto Mouse Clicker是一款简单易用的桌面点击软件,可以自动执行鼠标点击操作。借助这款程序,您可以自动化工作流程,提高工作效率,并节省时间,无需手动执行繁琐的任务。该程序可以模...
admin的头像-零度博客admin
2.3W+1698
100% 由 AI 生成的《红楼梦》视频,1 分钟看完四大名著之一!-零度博客

100% 由 AI 生成的《红楼梦》视频,1 分钟看完四大名著之一!

  视频生成提示词: 场景:红楼梦古典园林 人物:贾宝玉、薛宝钗 动作:贾宝玉笑着追逐薛宝钗,薛宝钗娇笑着躲避,两人在花丛间穿梭。 服饰:贾宝玉身着华服,头戴束发金冠;薛宝钗身着淡...
admin的头像-零度博客admin
2.3W+3252
估计你也在错误地使用 Google 相册-零度博客

估计你也在错误地使用 Google 相册

现在每年都有更多超过 10 亿人使用 Google 相册应用,通过Google photos 进行上传和存储数十亿张图片和视频。对于许多人来说,这个过程可能是相同的:你用手机拍一些照片,然后它们会自动上传到...
admin的头像-零度博客admin
1.3W+6539
OpenAI 放大招!正式推出 o3 与 o4-mini,全工具解锁 、看图思考,全面超越 o1!实测效果 + 免费使用攻略 | 零度解说-零度博客

OpenAI 放大招!正式推出 o3 与 o4-mini,全工具解锁 、看图思考,全面超越 o1!实测效果 + 免费使用攻略 | 零度解说

https://www.youtube.com/watch?v=n8v-RRqfiF0   免费使用 o3与o4-mini 模型 :https://www.freedidi.com/19131.html
admin的头像-零度博客admin
1.2W+2229
Windows 10/11 爆发蓝屏死机!元凶竟是 CrowdStrike,附最新修复方法及推荐最稳定系统版本 | 零度解说-零度博客

Windows 10/11 爆发蓝屏死机!元凶竟是 CrowdStrike,附最新修复方法及推荐最稳定系统版本 | 零度解说

https://youtu.be/dhQyv-6q8Vs ------------------------------------- 🔔 1.修复CrowdStrike 导致的蓝屏死机问题:https://www.freedidi.com/12976.html 2.Windows 11 (24H2)LTSC长期服务版...