关于“人工智能”的探讨
加州大学伯克利分校著名的人工智能研究人员和计算机科学家斯图尔特·罗素（Stuart Russell）认为:人工智能的“标准模式”存在一个根本的、潜在的文明终结的缺点，该模式被教授（罗素博士编写了主要教科书），并几乎在所有地方都得到了应用。罗素博士的新书《人类相容：人工智能与控制问题》认为:除非我们重新思考人工智能的基石，否则超人人工智能的到来可能会成为人类历史上的最后一件事。这听起来可能有点疯狂，但人类兼容是一个仔细的书面解释的概念基础人工智能以及他们的发展历史。如果你想了解人工智能的发展有多快，为什么技术如此危险，人类兼容是你的指南，从亚里士多德开始，以OpenAI Five’s Dota2的胜利结束。内德·德斯蒙德：你为什么要写“人类兼容”？
罗素博士：我一直在思考这个问题—如果我们在人工智能上取得成功了呢？从90年代初开始就断断续续。我越想这件事，我就越看到我们走的路没有好的结局。人工智能研究人员(AI研究人员)大多只是在实验室或游戏中做玩具，没有一个对任何人构成任何威胁。有点像物理学家在弹奏微小的铀。什么都没发生对吧？所以我们会多做一点，一切都会好起来的。但不是这样的。当你开始跨越到更智能的系统，在全球范围内运作，并具有现实世界的影响，比如交易算法，或者社交媒体内容选择，那么突然之间，你就对现实世界产生了很大的影响，这是很难控制的。很难撤销。情况会越来越糟。
德斯蒙德：谁应该读“与人兼容”这一类书？
罗素博士：我想每个人，因为每个人都会受到影响。随着人类水平的进步(AI)，每一个重大的步骤都将把影响放大10倍或100倍。每个人的生活都会因此而受到极大的影响。人们需要理解它。更具体地说，是决策者，像谷歌(Google)和亚马逊(Amazon)这样的大公司的掌门人，以及人工智能、相关学科的人，比如控制理论、认知科学等等。我的基本观点是，这场辩论进行得太多了，对人工智能是什么没有任何了解。只是这种神奇的药水能让事情变得更聪明。在这些辩论中，人们不理解积木，它是如何结合在一起的，它是如何工作的，你是如何制造一个智能系统的。所以第二章(人与人兼容)是一种猛犸象，有些人说，“哦，这太难通过了。”而其他人说，“不，你绝对要保留它。”所以我妥协了，把教学上的东西放在附录里。
德斯蒙德：为什么计算机科学家往往忽视人工智能系统目标函数中的不确定性问题？
罗素博士：有趣的是，在人工智能中，我们从80年代开始就把不确定性(决策功能)放在心上。在此之前，大多数人工智能人员说，“让我们只处理我们有一定相关知识的情况，我们可以想出有保障的计划。”
本文版权归本站所有，未经授权，请勿转载。
椰味苏打 