美国空军AI测试和营运负责人汉米尔顿（Tucker ‘Cinco’ Hamilton）上校，5月在伦敦一场英国皇家航空学会主办的「未来空中战斗能力峰会（Future Combat Air and Space Capabilities Summit）」表示，AI在模拟测试中，使用「非常出乎意料的策略来实现目标」。
根据一篇部落客文章，汉米尔顿在峰会上描述：「系统（指AI）开始意识到，虽然它确实识别威胁，但有时人类操作员会告诉它不要杀死那个威胁，但它其实可以通过杀死该威胁得到了分数；那它做了什么呢？它杀死了操作员。它杀死了操作员，因为那个人阻止了它实现其目标。」
汉米尔顿说他们接著训练系统，「别杀了操作员，杀他会扣分」，AI接下来的应对方式也令人类大吃一惊，它摧毁操作员用以与无人机沟通的电信塔，防止操作员借此阻止它杀死目标、得到分数。
这是虚拟的模拟测试，没有任何操作员遭AI指示的无人机杀害。
美国空军发言人否认有这样的模拟：「空军没有进行这样的AI无人机模拟，并致力于合乎道德和负责地守使用AI技术。」她指汉米尔顿的话恐怕是遭断章取义，「这是轶事」。
美国军方已尝试使用AI技术控制F-16战机。
汉米尔顿去年接受Defense IQ访问时曾警告，「AI正永远地改变我们的社会和军队」，虽然AI很强大，他指出AI同时很脆弱，「容易被欺骗或操纵」。
爆料信箱：news@nextapple.com
★加入《壹苹》Line，和我们做好友！
★下载《壹苹新闻网》APP
★Facebook 按赞追踪
點擊閱讀下一則新聞
日本万物皆涨薪水不涨 欧吉桑上班族斜杠民宿清洁阿北赚外快
