查看完整版本: [-- 人工智能会对人类生存构成威胁吗？ --]

武当休闲山庄 -> 数码讨论 -> 人工智能会对人类生存构成威胁吗？ [打印本页] 登录 -> 注册 -> 回复主题 -> 发表主题

huozm32831 2021-04-19 14:06
         我们每天都会与人工智能打交道。人工智能描述的是能够执行通常需要人类智能的任务的计算机系统。当你在互联网上搜索某个东西时，你看到的优选结果是由人工智能决定的。



你从你最喜欢的购物或流媒体网站得到的任何推荐也将基于人工智能算法。这些算法使用浏览器历史记录来查找您可能感兴趣的内容。

因为有针对性的推荐并不特别令人兴奋，科幻小说更喜欢把人工智能描绘成推翻人类的超级智能机器人。一些人相信这种情况有一天会成为现实。著名人物，包括已故的史蒂芬·霍金，对未来人工智能如何威胁人类表示担忧。

为了解决这个问题，我们询问了11位人工智能和计算机科学的专家，“人工智能是对人类生存的威胁吗？”有82%的人一致认为人工智能不会对人类存在构成威胁。



我们离制造比我们更聪明的人工智能还有多远？

目前存在的人工智能称为“侠义”或“弱”人工智能。它被广泛应用于许多应用，如面部识别、自动驾驶汽车和互联网推荐。它被定义为“狭义的”人工智能，因为这些系统仅能学习和执行非常具体的任务。

事实上，他们通常比人类更好地完成这些任务——著名的是，深蓝是1997年第一个击败国际象棋世界冠军的人工智能——然而，他们除了一项非常具体的任务（深蓝只能下国际象棋）外，无法将自己的学习应用于任何事情。



另一种人工智能称为人工通用智能（AGI）。这被定义为模仿人类智能的人工智能，包括思考和将智能应用于多个不同问题的能力。

佐治亚理工学院的机器人工程师马修·奥布莱恩（Matthew O'Brien）不同意这种观点，“长期以来寻求的‘通用人工智能’目标还没有实现。我们只是不知道如何制造出一种通用的适应性智能，而且还不清楚要达到这一点还需要多大的科技进步”。



未来的人工通用智能（AGI）如何威胁人类？

虽然还不清楚人工通用智能（AGI）何时或是否会发生，但我们能否预测它们可能对我们人类构成什么威胁？人工通用智能（AGI）从经验和数据中学习，而不是被明确告知要做什么。这意味着，当面对前所未有的新形势时，我们可能无法完全预测它的反应。

路易斯维尔大学的计算机科学家罗曼·扬波尔斯基（Roman Yampolskiy）博士也认为“人类控制人工智能的任何版本都是不可能实现的”，因为人工智能不可能既自主又被人类控制。不能控制超级智能系统可能是灾难性的。



卡尔加里大学（Calgary University）软件与脑科学教授王英旭（Yingxu Wang）不同意这一观点，他表示，“专业设计的人工智能系统和产品受到基本操作系统层的良好约束，以保障用户的利益和福祉，智能机本身可能无法访问或修改这些系统和产品。”

奥布莱恩博士补充说，“就像其他工程系统一样，任何有潜在危险后果的系统都会经过彻底的测试，并有多个冗余的安全检查。”



我们今天使用的人工智能会成为威胁吗？

许多专家一致认为，人工智能掌握在不怀好意的人中可能是一个威胁。哈维·穆德学院的人工智能专家乔治·蒙塔内兹博士强调，“机器人和人工智能系统不需要有感知力就有危险；它们只需成为那些想要伤害他人的人手中的有效工具。这是今天存在的威胁。”

即使没有恶意，今天的人工智能也可能具有威胁性。例如，在美国，将医疗保健分配给患者的算法中发现了种族偏见。在用于执法的面部识别软件中也发现了类似的偏见。这些偏见有广泛的负面影响，尽管仅仅是“侠义”的能力人工智能。



人工智能偏差来自于它所训练的数据。在种族偏见的情况下，训练数据不能代表一般人群。另一个例子发生在2016年，一个基于人工智能的聊天室被发现发送高度攻击性和种族主义内容。研究发现，这是因为人们向机器人发送攻击性信息，它从中学习了这种种族歧视信息。

我们今天使用的人工智能对于许多不同的任务都非常有用。这并不意味着它总是积极的——它是一种工具，如果恶意或不正确地使用，可能会产生负面后果。尽管如此，目前看来不太可能成为对人类生存的威胁。

zhanghua88 2021-04-19 14:31
显然会，只是人类选择性忽视人工智能的威胁罢了。
终有一日终结者会到来。
资本是逐利的，是资本的力量推动人工智能技术发展

smen 2021-04-19 16:11
这刚开始 柯洁已被AI吓傻了

日出印象 2021-04-19 23:16
这个是必须的！ 电影里面可是没少提到过，谁知道有些民科一时头脑短路能做出什么事情来？
比如在克隆技术应用领域，全球范围已经开始立法规范了

aaaxxxeee 2021-04-19 23:52
zhanghua88:显然会，只是人类选择性忽视人工智能的威胁罢了。
终有一日终结者会到来。
资本是逐利的，是资本的力量推动人工智能技术发展 (2021-04-19 14:31) 

哈哈哈。多虑了。目前IT业所谓的人工智能只是一些函数+大数据，所谓的阿尔法狗也是通过无数的围棋对局的数据训练出来的，根本谈不上智能。电脑只能执行程序员编写的程序，终结者是自我意识的智能，是科幻小说家胡编的，现实世界中，电脑的智能是零。别问我怎么知道的，我十几年前就是程序员。

aaaxxxeee 2021-04-19 23:56
smen:这刚开始 柯洁已被AI吓傻了 (2021-04-19 16:11) 

围棋这种拼算力，拼执行速度的游戏，人类当然快不过电脑。但是，对普通人来说的很简单的开汽车，现在的所谓的AI无人驾驶程序，水平远远不及一个新手司机。

aaaxxxeee 2021-04-19 23:59
日出印象:这个是必须的！ 电影里面可是没少提到过，谁知道有些民科一时头脑短路能做出什么事情来？
比如在克隆技术应用领域，全球范围已经开始立法规范了 (2021-04-19 23:16) 

同是电影里提到的，外星人、哥斯拉都比终结者靠谱。


查看完整版本: [-- 人工智能会对人类生存构成威胁吗？ --] [-- top --]


Powered by www.wdsz.net v8.7.1 Code ©2005-2018www.wdsz.net
Gzip enabled

沪ICP备:05041533号