不要监管人工智能：饿死它

这项技术的潜在危险非常巨大，以至于我们需要非常谨慎地考虑其功能的强大程度。

人工智能仍处于起步阶段。但这很可能是有史以来最强大的技术。它具有改善健康，提高智力，提高生产力，保护环境以及增强自由与民主的潜力。

但是，随着情报的不断提高，以不负责任的方式使用AI的危险也带来了AI成为社会和文化炸弹的潜力。这项技术可以剥夺我们的自由，权力专制和种族灭绝，对我们的行为进行编程，将我们变成人类机器，并最终使我们成为奴隶。因此，对于AI的崛起，我们必须非常谨慎。我们不敢犯错。而我们最好的防御可能是将AI置于极端饮食中。

我们已经知道AI的某些威胁属性。一方面，这项技术的发展已经并将继续以惊人的速度发展。最近，许多人可能会惊讶地阅读了Microsoft的声明，即AI被证明比受过训练的放射线师更能阅读X射线。大多数报纸读者都不知道现在AI每天写多少报纸。那是不应该发生的。机器人应该代替体力劳动，而不是专业的脑力劳动。然而，我们在这里：人工智能正在迅速吞噬整个行业，而这些工作将永远不会回来。

我们也越来越接近创建具有人工智能的机器，即像人类一样聪明的机器。我们可能永远不会完全了解实际意识，但是就处理能力，推理，隐喻甚至是后天的智慧而言，很容易想象AI超越人类。20多年前，国际象棋大师加里·卡斯帕罗夫（Gary Kasparov）玩IBM的超级计算机“深蓝”，感觉到了棋盘另一侧的想法。如今，全球使用的计算机成千上万，比“深蓝”更强大，而且还不包括数百万访问云的个人计算机。

我们也知道，利润动机以及权力和控制的意愿已经推动了庞大的反社会应用程序库的快速增长。我们只需要中国政府使用面部识别和其他AI技术来控制其公民的行为，以看到这样的轨迹就可以了。该国的社会信用体系监视着数百万公民的行为，通过扩大或限制他们进入日常生活机构的方式，奖励他们政府认为是“好”行为的人，并惩罚他们的“不良”行为。那些受到惩罚的人常常甚至不知道自己的生活受到了限制。根本不向他们提供其邻居所享受的位置，促销，娱乐和服务的访问权限。

同时，在自由世界中，最令人担忧的威胁是工业界对AI的利用，以及特殊利益集团的建立和操纵亲和力团体的使用，从而使社会日益分化。在像这样的选举年中，后一种活动尤其令人震惊。我们还关注执法机构，国税局和监管机构如何利用这些手段更好地监视可能犯罪，逃税和犯下其他侵害行为的人。其中一些是必要的，但是没有护栏会导致警察状态。

听起来很极端？考虑到我们所有人已经被违反了我们的意愿，甚至常常是由于我们的知识而被拘留在所谓的“ 算法监狱”中。” 我们不知道是谁对我们判刑，甚至不知道该判刑的条件。我们所知道的是，基于某些AI系统对我们的行为做出的决定（例如低信用等级），我们的选择受到限制。我们将对所看到的信息进行预先确定：公司是否会查看我们的简历，或者我们是否有资格以优惠的利率获得房屋贷款，如果我们可以租用某套公寓，我们必须支付多少汽车保险（我们的驾驶质量通过连接到引擎计算机的新设备进行监控），是否进入所选的大学以及警察是否应密切监控我们的行为。

展望未来，我们可以肯定的是，这种监视将继续增长。我们也知道，人工智能将被团体用来招募成员并影响他们的意见，而外国政府将被用来影响选举。我们还可以确定，随着AI工具变得越来越强大，以及物联网的发展，虚拟武器的库将在商业上和社会上变得更加致命。

我们需要采取行动。问题是，即使到现在，也很难将马带回谷仓。有关AI强大功能的警报已经引起了Stephen Hawking和Elon Musk之类的警告。但是很难弄清楚该怎么做。在没有破坏AI的巨大潜在优势的情况下，我们还没有看到任何会产生广泛影响的提议。

欧洲人现在拥有“解释权”，这要求AI系统做出的所有决策都具有人类可读的理由。当然，这种透明度是可取的，但尚不清楚它会带来多少好处。毕竟，人工智能系统是不断变化的。因此，基于发现不公正行为而采取的任何行动都将像塑造水一样。人工智能将采用不同的形状。

我们认为更好的方法是降低 AI的功能。就是说，不是控制人工智能，而是将其置于极端饮食中。人工智能会消耗什么？我们的个人信息。

时事通讯促销

免费数字访问我们的六月刊

现在读

如果人工智能系统和负责“虚拟监狱”的算法无法掌握这些个人信息，无法放纵对数据的无限渴望，它们必然会变得不那么具有侵略性和强大功能。

我们如何阻止这些个人信息流？一种明显的方法是让个人拥有其私有数据的所有权。今天，我们每个人都围绕着我们不断产生的数据的半影。对于希望捕获和货币化的任何人，该数据集都是免费的目标。为什么不让信息直接流入世界的服务器，而不是将其存储在相当于Equifax之类的信息托管机构的保管箱中呢？一旦安全地放在那里，消费者就可以决定谁可以访问该数据。

例如，假设消费者想要获得贷款，则他或她可以将相关信息发布给信贷提供者，而信贷提供者反过来又有权将该信息用于该实例。如果该用户想从Facebook获得免费服务，则他或她可以仅向该公司提供有关该应用程序的相关信息。如果政府需要获取该信息以逮捕恐怖分子，则需要获得搜查令。（这种系统的另一个不错的功能是，消费者只需要去一个地方检查文件信息的准确性即可。）

在AI系统无限了解我们每个人之前，人类社会已经存在了数千年。即使我们通过使机器上的个人信息匮乏来限制该知识，它也将继续存在。人工智能仍将能够提高经济效率，创造医疗进步，减少交通流量并制定更有效的法规以确保环境健康。它将做不到的是威胁到人类的自主权，自由和对幸福的追求。

在人工智能的情况下，精益意味着更少的卑鄙。现在该把人工智能放在数据上了。