[1968] Robot Future

Title Text:I mean, we already live in a world of flying robots killing people. I don’t worry about how powerful the machines are, I worry about who the machines give power to.

Origin:https://xkcd.com/1968/

https://www.explainxkcd.com/wiki/index.php/1968:_Robot_Future

机器人的未来

https://mp.weixin.qq.com/s/Kk-aV6mNpLiBrs61FQnQ0Q

大多数涉及有智慧的人工智能(AI)的科幻故事都围绕着人类的破坏和/或监禁将很快发生的想法(例如天网来自终结者,我,机器人和黑客帝国)。

然而,在这个时间线上,兰德尔暗示他实际上更关心的是人类在完全有感觉(并且能够反叛)之前控制超智能AI的时间(在近期?未来)。特别是当AI变得如此先进以至于它可以控制成群的杀手机器人(对于仍然控制它们的人类)时。历史充满了获得权力并随后滥用权力而损害其他人类的人的例子。

人工智能执行其设计的指令所产生的意外后果的一个例子可以在电影Ex Machina中找到。

事实上,兰德尔继续暗示他对一个有感觉的人工智能的信任度超过其他人类的信任,这对人工智能的大多数警示性故事都是不典型的。他提到了这样一种观点,即一旦有感情,人工智能将在1626年使用他们的权力来保护和预防暴力或战争:审判日。一般来说,AI一直是xkcd上反复出现的主题,他在1668年也对终结者的愿景持反对意见:Singularity和1450:AI-Box实验。

因此,他基本上表示,在我们开发出能够控制的真正有感知能力的人工智能之前,我们自己的行动已经陷入困境。

标题文字补充说,我们已经生活在一个飞行杀戮机器人的世界,这是对无人机战争日益普遍的战斗战术的一种参考。 (战斗无人机还不是自主的,但在大多数其他方面都与未来杀手机器人的推测性描述相匹配。)由于道德问题,无人机战争已经引起争议,导致漫画的暗示理论上未来的机器人大灾难并不比我们当前的机器人大灾难更加惊人。现实。

然后,他接着说,一旦机器接管,他就不会那么担心这个问题,而是更多关于这些机器然后给谁的力量。

兰德尔并不孤单。漫画的主题是在视频Slaughterbots中探讨的。

2015年,包括伊隆马斯克和斯蒂芬霍金在内的几个人签署了人工智能公开信。这封信警告说,创造一些无法控制的东西的风险,因此属于这部漫画时间线末尾的担忧。 Elon Musk和Stephen Hawking都在xkcd中出现过。 (Elon有一个分类,Stephen出现在799:Stephen Hawking)。

史蒂芬霍金在他去世前不久就一直警告这种危险,这一情况发生在2018-03-14发布这个漫画发布前两天。

这可能是一个巧合,并不是一个致敬,但仍然有趣的是,斯蒂芬霍金去世后发布的第一部xkcd漫画与他的恐惧直接相关,尽管兰德尔证明他担心早期潜在的AI问题,而不是斯蒂芬如果AI变得自我意识,霍金的恐惧就会发生。

Leave a Reply

Your email address will not be published. Required fields are marked *

Categories