阅读我们的Oppenheimer收藏

作者Charles Oppenheimer|2023年4月12日

人工智能的军事应用

人类利用科学和工程创造技术。这个过程就像田野里的花朵一样自然，这是数十亿年来宇宙膨胀并成为今天的结果。正如英国哲学家艾伦·沃茨所说：“正如海洋‘波浪’，宇宙‘人民’。”。随着它们的繁殖，人们创造了——我们的城市、道路、船只和桥梁覆盖着世界，就像蚂蚁建造殖民地一样——地球现在已经进入了无可争议的人类新世时代，从夜间的飞机飞行中可以清楚地看到

1945年7月16日，我们集体进化的弧线出现了一个转折点，第一颗原子弹在新墨西哥州的Jornado del Muerto上空爆炸，形成了蘑菇云，这是一个名为Trinity的测试。原子弹并不是一个突然改变人类的孤立发展，而是正在进行的进化中不可磨灭的一步。现在，在进化的这个阶段，人类可以用他们的思想和工具控制自然世界，并完全控制它，如果他们选择这条路，他们可以摧毁人类社会的结构

1945年，有人认识到人类正在经历的变化——洛斯阿拉莫斯实验室主任J·罗伯特·奥本海默、诺贝尔奖获得者尼尔斯·玻尔、战争部长亨利·史汀生和阿尔伯特·爱因斯坦等——并主张建立一个以科学为基础的合作世界。一些人——那些相信权力政治和比人类更保护预算的官员和官僚——没有看到原子武器在人类事务中造成的根本转变。他们过于简单的理解推动了我们与他们对抗的政策，这些政策呼应了他们新石器时代祖先的部落恐惧。因此，在第二次世界大战之后，世界出现了核军备竞赛，而不是人类合作的新水平

那些发现了允许制造原子弹的物理现实的科学家们被迫考虑如何应对他们极其危险的科学和技术进步。1945年11月2日，他向他领导的在洛斯阿拉莫斯制造炸弹的科学家们倾注了心血，奥本海默说：“如果你是一名科学家，你就会相信了解世界是如何运作的；了解现实是什么是好事；把控制世界的最大力量交给全人类，并根据世界的光明和价值观来处理世界，这是好事。“今天，人们也在思考其他技术威胁，包括气候变化和人工智能带来的威胁

历史表明，无论其中一些方向是否危险，人类都会将科学推向新的方向。即使科学研究和进步的一个领域太危险了，无法追求，但过去的例子清楚地表明，一个团体提出的道德、政治或监管决定无法阻止这一进步。如果世界不能阻止像热核武器这样纯粹邪恶的东西，这种武器的威力是广岛原子弹的1000倍，那么假设计算机输出字符序列的方式会受到任何阻碍，那就太可笑了。如果推动人工智能的研究没有在美国完成，其他人会去做。

那么，如果人类将创造技术，尽管它具有一定的危险性，我们将如何管理它？这始终是一个问题，这是一个人际关系问题，而不是技术科学问题。我们的科学可能已经发展到了新的高度，但在内部，人类在很大程度上仍然是在自然竞争和冲突中共同成长了数百万年的类人猿部落。当然，有一些现代和不断发展的合作形式清醒状态问题是，人类是否能够从根本上改变他们的联系方式，并创造出比古代部落战争更类似于基于科学的政策的国际合作形式

事后看来，很明显，科学家们在1945年年中至1947年提出的关于处理核武器的政策建议——将其置于国际控制之下——本可以奏效，防止军备竞赛。毫不奇怪，美国和其他世界领导人当时没有选择合作。令人惊讶的是，选择进行浪费和危险的核军备竞赛并没有杀死我们所有人。然而

那么，对于人工智能和其他可能带来灾难性风险的技术进步，我们现在应该怎么办？1945年，我们应该做同样的事情，也是现代史上最聪明、最聪明的人建议做的事情：扩大科学合作，而不是试图利用国家边界和秘密从我们的“敌人”手中夺取权力。美国、中国和俄罗斯的科学家可以相处，即使这些国家的政客煽动恐惧和冲突

对于气候变化，前进的道路是明确的：解决方案必须是全球性的，专注于生产无碳能源，并以曼哈顿项目的规模和紧迫性推动能源创新，以应对我们共同的气候挑战。同样，我们可以也应该成立新的国际机构，在科学而不仅仅是商业的基础上处理人工智能问题。通过建立并扩大这种富有成效的联盟，人类最终可以解除他们面临的灾难性威胁——早在某种威胁人类的先进人工智能发布之前

我们的技术已经证明它可以杀死我们。它的力量和范围总是会增加。在管理技术和科学进步的影响方面的合作是人类需要改进、关注和投资的领域。

在信任受到侵蚀之前，在军备竞赛开始之前，是分享和合作危险技术的最佳时机。但是，正如中国谚语所说，既然现在已经不是1945年了，那么合作管理我们的技术威胁的第二好时机应该是现在——通过分享科学知识，而不是为了获得预期的优势而秘密囤积

公告将专家的声音提升到噪音之上。但作为一个独立的非营利媒体组织，我们的运营依赖于像你这样的读者的支持。帮助我们继续提供高质量的新闻报道，让领导者负起责任。你在任何层面上对我们工作的支持都是重要的。作为回报，我们承诺我们的报道将是可理解的、有影响力的、警惕的、以解决方案为导向的和公正的。我们一起可以有所作为

关键词：人工智能，人工智能，科学合作
主题：人工智能，核武器…。。但是怎么做呢？UN？IAEA？Pugwash会议模型？人对人（oops某些国家的互联网被切断）还是其他

查尔斯·奥本海默是J·罗伯特·奥本海默的孙子。他住在旧金山。你可以在推特上关注他（@choppen5）并访问。。。阅读更多
版权所有©2023原子科学家公报。保留所有权利。使用条款隐私政策
1307 East 60th Street，Chicago，IL 60637|773.702.6308

简介