最近，马克·扎克伯格（Mark Zuckerberg）和埃隆·马斯克（Elon Musk）就人工智能的危险在网上爆发了一场相对较小的争吵。简单回顾一下，在几周前的一次Facebook Live会议上，扎克伯格对那些谈论人工智能相关“末日场景”的人进行了猛烈抨击，显然是在暗示硅谷领袖马斯克。马斯克回答说，扎克伯格“对这个主题的理解非常有限”

R。Shashank Reddy

R。Shashank Reddy是卡内基印度公司的研究分析师。他的研究重点是新兴技术及其治理对国际和印度安全的影响

更多>

@rshashank_reddy

尽管交易所本身并未超越这一点，但扎克伯格和马斯克在人工智能危险性的持续辩论中，具有讽刺意味的是，最近（大部分是不正确的）报道称，Facebook在发明自己的语言后关闭了一个人工智能项目，这让人们重新意识到了这一点

但对于决策者和非亿万富翁来说，这场辩论的关键收获是什么？人们应该害怕人工智能吗

与大多数事情一样，答案是肯定的和否定的。从为什么人们不必“害怕”人工智能开始，这样的系统实际上相当愚蠢。例如，备受赞誉的AlphaGo会发现，从动物图片的数据集中挑出一只猫是不可能的，除非它被完全重新编程并忘记如何玩围棋

这是因为即使是当今最智能的系统也具有特定的人工智能，这意味着它们可以比任何人更好地执行一项任务，但只能执行这一项任务。任何不是专门为其编程的任务，无论在我们看来多么简单，这样的系统都不可能完成

这也不是马斯克所说的那种人工智能。他的警告属于一种被称为人工通用智能的类型，这是一种具有人类水平智能的系统，即，它可以像人类一样轻松地完成多项任务，并且可以参与与人类非常相似的“思考”过程。然而，到目前为止，这种人工通用智能还停留在理论上，如果有可能的话，还需要几十年才能以任何具体的方式开发出来。因此，对一个能在不久的将来开启人类的超级智能系统的任何恐惧都是毫无根据的

然而，这并不意味着在人工智能方面无需担心。如果不是技术本身的话，有三个广泛的领域应该担心其影响和后果

首先，也是最重要的，是工作。虽然人工智能对就业可能产生的负面影响最近一直是一个热门话题，但学术界或政策界尚未就其确切影响达成共识。例如，经济政策研究所（Economic policy Institute）的劳伦斯·米谢尔（Lawrence Mishel）2017年5月的一项研究认为，在过去，自动化对就业市场没有任何负面影响，但实际上增加了可用工作的数量

然而，这项研究也受到了一些有效的批评，尤其是因为它没有考虑到研究期间和现在之间自动化性质的差异。毫无疑问，至少有些工作会受到人工智能的负面影响，但这些工作的性质以及可能取代它们的工作的性质（如果有的话）充其量是模糊的。人们必须警惕的是这种缺乏明确性的情况

其次，在武器中使用人工智能导致“自主武器”，这在国际法中提出了许多难题。在过去几年中，民间社会团体一直在关注一个问题，即一台能够在战场上做出生死决定的机器是否能够充分考虑到战争的主观原则，如相称性和预防性。这里的根本问题不在于武器化的人工智能是否聪明，而是它不够聪明。这一问题的后果已被视为严重到足以让联合国在今年11月的政府专家论坛上开始审议这一问题

第三，隐私和数据安全。必须记住，整个人工智能生态系统建立在大量数据的可用性之上，提高效率需要此类数据的持续可用性。为了使人工智能更智能，需要不断的输入和反馈回路

这就提出了一个问题，即所需数据来自何处，以及谁拥有和控制这些数据。Facebook、谷歌、亚马逊和其他公司依赖于其用户每天生成的大量数据，尽管这些数据的可用性可能会带来更好的人工智能，但它也允许这些公司或任何其他有权访问这些数据的人，将个人用户的非常详细的图片拼凑起来，用户自己可能没有明知故犯地同意。这可能带来的威权影响，从无差别的监视到预测性的警务，中国国务院最近发布的计划显示，中国将在2030年前成为人工智能超级大国。

有必要对人工智能日益普及带来的实际利益和风险保持清醒和清醒的头脑。它不会（至少在不久的将来）变得“无赖”，转而攻击人类，谈论这种理论上的生存风险，决不能让决策者、分析师和学者忽视人工智能提出的真正问题

本文最初发表于Livemint

简介