我们应该害怕人工智能（AI）吗

一些著名人士，如传奇物理学家斯蒂芬·霍金和特斯拉以及SpaceX的领导者和创新者埃隆·马斯克，认为人工智能可能非常危险；马斯克曾一度将人工智能比作朝鲜独裁者的危险。微软联合创始人比尔·盖茨也认为有理由保持谨慎，但如果管理得当，好处可能大于坏处。由于最近的发展使超级智能机器比最初想象的要快得多，现在是确定人工智能会带来什么危险的时候了

什么是应用的和通用的人工智能

人工智能的核心是构建能够智能思考和行动的机器，包括谷歌搜索算法等工具，或使自动驾驶汽车成为可能的机器。虽然目前大多数应用程序都是用来对人类产生积极影响的，但任何强大的工具一旦落入坏人手中，都可能被用于有害的目的。今天，我们已经实现了应用AI-AI，它可以执行诸如面部识别、自然语言处理或互联网搜索等狭窄的任务。最终，该领域的专家正在致力于实现更通用的人工智能，在那里，系统可以处理智能人类可以执行的任何任务，并且很可能在每一项任务上都击败我们

在一篇评论中，埃隆·马斯克写道：“人工智能（我指的不是狭义人工智能）的进展速度非常快。除非你直接接触Deepmind这样的组织，否则你不知道它以接近指数级的速度增长有多快。发生严重危险事件的风险在五年内，最多10年。“

确实有很多人工智能应用程序使我们的日常生活更加方便和高效。马斯克、霍金和其他人在宣布对这项技术犹豫不决时所担心的，正是人工智能应用在确保安全方面发挥了关键作用。例如，如果人工智能负责确保我们电网的运行，并且我们最担心的事情得到了实现，那么系统就会出现问题或被敌人入侵，这可能会造成巨大的伤害

人工智能怎么会危险

虽然我们还没有实现超级智能机器，但法律、政治、社会、金融和监管问题如此复杂且广泛，因此现在有必要对其进行研究，以便我们准备在时机成熟时在它们之间安全运行。除了用现在的超级智能机器为未来做准备之外，人工智能已经可以以目前的形式带来危险。让我们来看看与人工智能相关的一些关键风险

自主武器

AI被编程为做一些危险的事情，就像被编程为杀人的自主武器一样，这是AI造成风险的一种方式。甚至有可能期望核军备竞赛将被一场全球自主的军备竞赛所取代。俄罗斯总统弗拉基米尔·普京（Vladimir Putin）表示：“人工智能不仅是俄罗斯的未来，也是全人类的未来。它带来了巨大的机遇，也带来了难以预测的威胁。无论谁成为这一领域的领导者，都将成为世界的统治者。”

除了担心自主武器可能会获得“自己的头脑”之外，更迫切的担忧是自主武器可能对不重视人类生命的个人或政府造成危险。一旦部署，它们很可能很难拆除或作战

社交操纵

社交媒体通过其自主算法在目标营销中非常有效。他们知道我们是谁，我们喜欢什么，并且非常善于揣测我们的想法。调查仍在进行中，以确定剑桥分析公司和其他与该公司有关的人的过错，该公司使用了5000万脸书用户的数据，试图影响2016年美国总统大选和英国脱欧公投的结果，但如果指控是正确的，这说明了人工智能的社会操纵能力。通过向通过算法和个人数据识别的个人传播宣传，人工智能可以针对他们，以他们喜欢的任何格式传播任何信息会发现最令人信服的事实或虚构

侵犯隐私和社会分级

现在可以跟踪和分析个人在网上的一举一动，以及他们在进行日常业务时的一举一动。摄像头几乎无处不在，面部识别算法知道你是谁。事实上，这类信息将为中国的社会信用体系提供动力，预计中国14亿公民中的每一个人都会根据他们的行为举止（如是否乱穿马路、是否在非吸烟区吸烟以及玩电子游戏的时间）获得个人评分。当老大哥在监视你，然后根据这些情报做出决定时，这不仅是侵犯隐私，而且很快会变成社会压迫

我们的目标与机器的

在人工智能驱动的机器中，人类看重的部分是其效率和效率。但是，如果我们不清楚我们为人工智能机器设定的目标，那么如果一台机器没有配备与我们相同的目标，这可能是危险的。例如，命令“尽快把我送到机场”可能会产生可怕的后果。由于我们重视人的生命，因此没有规定必须遵守道路规则，机器可以非常有效地实现它的目标，即让你尽快到达机场，并按照你的要求去做，但却留下了一连串的事故

歧视

由于机器可以收集、跟踪和分析您的很多信息，因此这些机器很有可能利用这些信息来对付您。不难想象，一家保险公司会根据你被拍到在手机上讲话的次数告诉你你不可投保。雇主可能会根据你的“社会信用分数”拒绝录用。

任何强大的技术都可能被滥用。今天，人工智能被用于许多有益的事业，包括帮助我们做出更好的医学诊断，找到治愈癌症的新方法，以及让我们的汽车更安全。不幸的是，随着我们的人工智能能力的扩展，我们也会看到它被用于危险或恶意目的。由于人工智能技术发展如此迅速，我们必须开始讨论人工智能积极发展的最佳方式，同时将其破坏潜力降至最低。

简介