美国海军正在开发将由人工智能（AI）系统控制的机器人潜艇，这种潜艇无需明确的人工输入就能杀人。该项目被美国海军命名为“ CLAWS”。但是，关于它的信息很少。
根据《新科学家》的一份报告，该项目被描述为“自主的水下武器系统”，由海军研究办公室执行。2020年预算文件中披露了这款杀手级潜水器的详细信息，该文件还披露了其AI系统名称。由于该项目是“绝密”的，因此仅发布了一些细节，包括它将使用传感器和算法自行执行复杂任务的事实。
简要介绍“ CLAWS”人工智能系统
波音公司正在为美国海军开发的带有12条鱼雷管的新型“奥卡”级机器人潜艇上安装CLAWS AI系统。但是，尚未透露CLAWS代表什么，美国海军对此事也未发表评论。
此外，《新科学家》报告还强调，CLAWS不是新事物。它是在2018年作为美国海军竞标的一部分首次披露的，以提高大型和超大型无人水下航行器的自主性和生存能力。首次公开此信息时，没有提及军用潜水器上的武器，只需要它具有传感器并能够做出决定。
CLAWS的确切预算尚未公布，但今年美国海军预算分配了2600万美元，明年又分配了2300万美元。由于额外的资金，据信它将很快从一个想法转变为一个功能正常的原型，并有望在2022年部署在大型机器人潜艇上。
机器人潜艇与普通潜艇有何不同？
当然，自主潜艇已有数十年的历史，其设计目的是在没有任何人为干预的情况下完成复杂的任务，但是由于功能不足，它们并不像人们想象的那样聪明。更复杂的任务需要操作员通过远程通信技能进行工作。但是好消息是，新型潜艇将拥有更高水平的人工智能，因此，它们将能够执行更广泛的功能，而无需任何人工控制。
《新科学家》报告还透露，美国海军已经订购了更大的机器人潜艇“奥卡”，这些潜艇将配备12条鱼雷管和CLAWS，这样它们就可以被用来自行打击目标，而无需任何人类干预。此外，预计它们将像较小的版本一样受到远程控制。
这个主意不是人的功绩，加州大学伯克利分校的Stuart Russell认为这确实是“危险的发展”。
如果机器人非法杀死某人，谁该为谁负责？
人权观察的一份报告表明“没有人会对此负责”。
该组织坚持认为，必须有人采取行动消除这种缺乏问责制的行为，并呼吁先行禁止杀手机器人的开发和使用全自动武器。
人权观察强调，人们非常怀疑杀手机器人是否符合国际人道主义法标准，并威胁到人类的基本生命权；因此，如果军事指挥官或操作员故意部署机器人实施犯罪，则将追究他们的责任。该组织还质疑是否公平到足以让机器做出有关生死的关键决定。
结论
随着AI系统变得越来越强大，很明显，我们正在将社会的更多主要方面放到我们没有敏锐意识到的系统上，并针对可能无法反映我们自己的目标进行优化。尽管还没有先进的AI系统，但它们每天都在变得越来越近，现在是时候确保我们是否已为它们做好准备。因此，是时候在这些科幻小说场景变为现实之前提出一项强有力的政策了。
閱讀更多 明日情報 的文章
