蠕动泵厂家
免费服务热线

Free service

hotline

010-00000000
蠕动泵厂家
热门搜索:
行业资讯
当前位置:首页 > 行业资讯

创新也会导致人类的毁灭

发布时间:2021-01-20 06:14:19 阅读: 来源:蠕动泵厂家

创业者和技术人员们,你们要小心自己的创新了。因为创新也有可能将人类毁灭。

文/Hamish Mckenzie

现在来说,地理位置预测搜索引擎和可佩带技术看上去很新潮。但是过不了几代,这些技术就会反过来对人类自身造成打击。Ross Anderson发表在Aeon杂志上的文章《8000-word feature on existential threat》就提出了这样一个问题:我们发明的技术将会帮助人类征服宇宙还是会让人类陷入灭顶之灾?

首先,我们不应该制造太过先进的人工智能(AI)机器。Anderson在文章中指出,这种AI将会在工作中违反人类的利益。

如果AI的目的是在和人类对战象棋时取得胜利,它就会根据人的棋路进行判断和调整,此时,它考虑的只是棋盘。而如果我们将AI的目标进行放大,例如让它在物理世界中进行工作,它就有可能对人类的利益造成损害。因此我们需要十分小心给AI输入的指令。

Future of Humanity Institute的Daniek Dewey就指出:

“现在我们面临的最基本的问题是,我们在进行创新的时候,有时会忽略人类的一些利益。AI在进行工作的时候也不会考虑人类的利益,它们会不顾一切后果的完成我们给它输入的指令。而在它们工作的过程中,有可能会造成一些不可挽回的损失,例如在制造大型太阳能电池板的时候对环境造成难以估量的破坏。在这些情况下,AI不会考虑我们的其他利益,就像我们在建造大楼的时候不会考虑到蚂蚁的生存一样。”

另外,我还觉得应该停止制造知晓所有问题的答案的机器。Anderson在文章中指出:

假如我们制造出一个能够进行预测,或是知道所有问题答案的AI。我们需要做的,只是在出现问题的时候按一下电钮,AI就能为我们提供解决问题的答案。

突然有一天,出现了一种人类从未见过的疾病,我们利用AI来寻找治疗这种疾病的方式。AI也许会给我们打印出一个基因图谱,并且设计出一个能够治疗这种疾病的药物。但是,这个药物也许能够治疗这种疾病,但是它也有可能会破坏人体的其他功能。显然,这样的结果是我们无法承受的。在很多方面,我们不能仅仅依靠机器,我们仍然需要自己进行研究。

另外,我还想请求Boston Dynamics停止制造能够把人扔向房间另一头的机器,机器人在把脆弱的人类扔出去的时候,并不会考虑人体能不能承受这样的力量。

如果你是一名科技人员,而且正在和美国军方合作,我恳请你放弃开发小型飞行杀人机器人的计划。我们能不能继续以传统的方式接受死亡?

Zen Robotics,你们设计的可循环机器人?如果哪一天新闻报道称你们的机器人会对人类的内部组织造成破坏,我一定都不会感到惊讶。求你们还是省省吧!

谷歌,看在上帝的份上,别继续开发你们的谷歌眼镜了。电子产品离大脑如此近,也许有一天我们每个人都会因为你们的产品而患上脑瘤。

(via pandodaily)

你同意这篇文章作者的观点吗?请在评论栏里留下你的意见!

逆火苍穹bt

wtltc台湾乐透彩2020

画江湖盟主

红警4英雄复仇