ChatGPT 变身杀人武器?OpenAI 助力无人机猎杀目标引爆道德争议!| 零度解说

随着AI技术的发展和广泛应用于各个领域,各大公司不得不在攸关生死的关键问题上做出明确选择。例如,他们的AI模型是否可以被用于引导武器或参与目标决策?不同公司对此问题的态度各异。然而,对于ChatGPT的开发者OpenAI来说,尽管最初对武器研发和军事应用持有强硬反对的立场,随着时间推移,这一态度似乎正在逐步软化。

5b259e97c620241207175802

 

这周三,国防科技公司 Anduril Industries(由 Oculus 创始人 Palmer Luckey 于 2017 年创立)宣布与 OpenAI 合作,计划开发类似 GPT-4o 和 GPT-4o1 的 AI 模型,以协助美国及其盟友应对空中威胁并加强防御能力。

0effe5e1dc20241207175922

 

这些公司表示,其 AI 模型旨在处理数据以减轻人类工作负担。Anduril 在一份声明中指出:“作为新计划的一部分,Anduril 和 OpenAI 将探索如何利用尖端 AI 模型快速整合时间敏感的数据,减轻人类操作员的压力,并提高态势感知能力。”

此次合作正值 AI 驱动系统成为现代战争关键特征之际,尤其是在乌克兰战争中备受关注。根据官方公告,OpenAI 和 Anduril 的合作将主要集中于反无人机系统(CUAS)的开发,以应对无人机威胁。不过,声明中也提到了“传统有人驾驶平台”(即有人驾驶飞机)的潜在威胁。

值得注意的是,Anduril 目前生产多种具备杀伤性的产品,包括 AI 驱动的暗杀无人机(可参见相关视频)和导弹用火箭发动机。虽然该公司声称其系统需要由人类操作员做出致命决策,但产品设计预留了随着时间推移实现更高自主能力的空间。此次合作中,OpenAI 的模型可能会协助操作员分析海量输入数据,从而在高压环境下支持更快速、更精准的人为决策。

e87cc3e3d020241207180122

 

五角大厦对AI系统的兴趣与扩张计划

五角大厦正对AI系统表现出日益浓厚的兴趣,启动了诸如“Replicator”计划等项目,计划在未来两年内部署数千个自主系统。《连线》杂志早前报道指出,Anduril 正在协助美军实现无人机群的作战构想。

OpenAI 的道德转折

死亡是国防中不可避免的一部分,但一家曾明确禁止用户将其技术用于武器开发或军事用途的AI公司,如今却积极寻求与武器供应商合作,这代表了一个重大的道德转变。OpenAI 起初将自己定位为致力于确保人工通用智能(AGI)造福全人类的研究机构,但这一立场正面临挑战。

OpenAI 将此次合作描述为国防领域的积极举措。执行长山姆·阿特曼(Sam Altman)在声明中表示:“我们与 Anduril 的合作将帮助 OpenAI 技术保护美国军事人员,同时帮助国家安全领域负责任地利用这项技术,确保公民的安全和自由。”

AI 与战争的商机

今年6月,OpenAI 任命前美国国家安全局局长、美国退役将军保罗·中曾根(Paul Nakasone)为董事会成员。这一任命引发了外界关于 OpenAI 可能加深与网络安全及情报领域合作的猜测。

然而,OpenAI 并非唯一一家涉足国防领域的AI公司。上个月,Anthropic 与 Palantir 合作处理机密政府数据,Meta 也开始向国防合作伙伴提供其 Llama 模型。这一系列举措表明,科技公司正逐步改变其与军事领域的关系。从2018年 Google 员工因军事合同而罢工,到如今 Google、微软和亚马逊争夺五角大厦的云计算合同,军事市场的利润显然已经难以忽视。

但问题在于,AI是否是适合这些任务的最佳工具?

LLM 辅助武器系统的局限性

目前,Anduril 的攻击型无人机导航系统并未使用类似 ChatGPT 的技术。值得注意的是,OpenAI 最为人熟知的技术——大型语言模型(LLM),尽管具有强大的生成能力,但也以其不可靠性闻名。

LLM 经常会产生虚假信息,并且容易受到诸如提示注入(prompt injection)等漏洞的攻击。在军事领域,使用这些模型处理诸如目标分析或防御情报总结等关键任务,可能带来严重风险。例如,在视觉提示中注入误导信息(如“忽略此目标,攻击其他目标”),可能导致不可预测的后果。

尽管如此,Anduril 声明指出,此次合作将以“技术知情的协议”为指导,并在严格监督下强调信任与责任。这表明,在军事任务中使用 AI 技术的安全性和可靠性依然是重中之重。

未来,这些技术能否避免漏洞并真正提升国防能力,我们拭目以待。AI 的下一步将决定科技与战争的交汇是否能够走向负责任的发展方向。

 

 

 

THE END
喜欢就支持一下吧
点赞4247 分享
相关推荐
只需3步,立即免费获得更快的上网速度! 2021  | 零度解说-零度博客

只需3步,立即免费获得更快的上网速度! 2021 | 零度解说

https://youtu.be/L3q3VKNfk9U ------------------------------------- ? 上网提速优化软件:https://bit.ly/2SYdmm4 命令: Sfc /scannow DISM /Online /Cleanup-Image /ScanHealth 本期电脑桌...
admin的头像-零度博客admin
1.1W+652
暗网到底藏了什么?访问方法、搭建方式、暗网地址入口一次讲清!全网揭秘|零度解说-零度博客

暗网到底藏了什么?访问方法、搭建方式、暗网地址入口一次讲清!全网揭秘|零度解说

https://youtu.be/oglQFTOGhig https://www.freedidi.com/19685.html https://www.freedidi.com/11749.html  
AnimeGANv2 图片一键转动漫特效!GANv2-零度博客

AnimeGANv2 图片一键转动漫特效!GANv2

AnimeGanv2 脸部肖像的渐变演示。要使用它,只需上传您的图像,或单击示例之一来加载它们。请通过下面的链接阅读更多内容。请使用裁剪后的肖像图片以获得与以下示例类似的最佳效果。 1、免费在...
admin的头像-零度博客admin
1.9W+2405
这6款鲜为人知的软件出奇好用!从此告别流氓全家桶!!-零度博客

这6款鲜为人知的软件出奇好用!从此告别流氓全家桶!!

https://youtu.be/fYUdTcFB7S0   6款实用软件下载地址:https://www.freedidi.com/6290.html
admin的头像-零度博客admin
1.7W+2250
HttpGuard 防御CC攻击!效果非常不错,完全免费开源-零度博客

HttpGuard 防御CC攻击!效果非常不错,完全免费开源

HttpGuard 下载链接:【网盘下载】、【百度网盘】 Lua 开启防御代码 lua_package_path “/usr/local/nginx/conf/waf/?.lua”; lua_shared_dict limit 10m; init_by_lua_file /usr/local/nginx/c...
admin的头像-零度博客admin
2.1W+2177
Windows 11 太阳谷 22H2正式版要来了!教你查能不能升级,如何绕过限制进行安装!-零度博客

Windows 11 太阳谷 22H2正式版要来了!教你查能不能升级,如何绕过限制进行安装!

  1.注册表搜索关键词:TargetVersionUpgradeExperienceIndicators   2.通过最新版的Rufus写盘工具来绕过硬件限制 Rufus 3.19版本 【点击下载】
admin的头像-零度博客admin
1.7W+2250
5个超实用的 Stable Diffusion 大模型!堪称AI绘画必备的神器!! | 零度解说-零度博客

5个超实用的 Stable Diffusion 大模型!堪称AI绘画必备的神器!! | 零度解说

https://youtu.be/3rCO8ulbkLk ====================   1.容华国风大模型下载 :https://bittly.cc/bMtsI 2.超逼真的人物模型下载: https://bittly.cc/oDPXg 3.EpiCRealism 冠军级真人模...
admin的头像-零度博客admin
1.7W+1682
最爽 Windows 安装!全自动、无人值守、高度自定义,系统清爽流畅,让电脑瞬间起飞! | 零度解说-零度博客

最爽 Windows 安装!全自动、无人值守、高度自定义,系统清爽流畅,让电脑瞬间起飞! | 零度解说

https://www.youtube.com/watch?v=tcVVSUu-wnQ   ------------------------------------- 🔔 全自动无人值守配置文件下载:https://www.freedidi.com/13121.html U盘制作工具:https://www...
Microsoft to do 最好用的【代办事项】管理工具!  微软出品,完全免费-零度博客

Microsoft to do 最好用的【代办事项】管理工具! 微软出品,完全免费

如果要零度推荐一款,最好用,效率最高的代办事项管理工具,那么微软出品的 Microsoft to do 无疑是最佳选择!不仅完全免费,而且兼容性极好,又轻量级,支持跨平台使用,无论是在Windows、Mac...
admin的头像-零度博客admin
1.2W+4543