[2237] AI Hiring Algorithm

Title Text:So glad Kate over in R&D pushed for using the AlgoMaxAnalyzer to look into this. Hiring her was a great decisio- waaaait.

Origin:https://xkcd.com/2237/

https://www.explainxkcd.com/wiki/index.php/2237:_AI_Hiring_Algorithm

AI 徵才演算法

還好研發部門的凱特推動用 AlgoMaxAnalyzer 來調查這件事,我們聘他真是太好…等等。

https://xkcd.tw/2237

在这幅漫画中,马尾辫展示了对一种名为DeepAIHire的新型人工智能的分析,该人工智能用于在申请人中选择谁雇用。分析表明,该AI几乎忽略了雇用新人的常见因素。相反,其选择新申请人的主要标准是新申请人愿意为AI本身做出多少贡献。

尽管这并不意味着有见识,但这至少意味着AI变得自我永存,因为它正在选择能够帮助其更具影响力的人,从而赋予了其在无休止的循环中选择此类人的能力。

标题文字显示了此或其他AI机构如何影响其他行业的招聘。凯特(Kate)可能是因为她愿意使用其他算法(AlgoMaxAnalyzer)而聘用的,该算法对DeepAIHire算法进行了分析。演讲者似乎对AlgoMaxAnalyzer是与DeepAIHire竞争的竞争对手计划感到怀疑,而不仅仅是为人类设计者的利益而努力。另外,他可能担心不同的AI正在结盟。

在机器学习中,有意地训练一种AI与另一种AI对抗是一种称为生成对抗网络的技术。在GAN中,使用人类管理的训练数据来训练一个神经网络(生成网络)以创建更多数据,而训练另一个网络(判别网络)来区分生成的数据和训练数据。目标是使生成网络在欺骗鉴别器方面越来越好,直到其输出可用于外部目的为止。GAN已被用来将艺术品“翻译”成不同艺术家的风格,但也提供了恶意使用的可能性,例如创建伪造但可信的图像或视频(“ Deepfakes ”)。

该算法名称中的“ Deep”可能是对DeepMind的引用,DeepMind是Alphabet(谷歌的母公司)拥有的AI公司,近年来,该公司使用神经网络来学习棋盘游戏,例如围棋和国际象棋,从而击败了一些最好的人机交互者。DeepMind最著名的AI的最早版本AlphaGo是在人类玩过的Go游戏中精选的数据集上进行训练的,但最终是通过针对自己的其他版本进行游戏来进行训练的。DeepMind的最新成就是创建了AlphaStar,该AlphaStar可以在Grandmaster级别上StarCraft II,但受人类理论上的能力限制。

本漫画基于人们对生活中许多容易受到偏见影响的算法系统的泛滥的持续关注,例如雇用,贷款申请,警务和刑事判决。这些“算法”中的许多并不是从第一原理出发进行编程的,而是根据大量过去的数据进行训练的(例如,对曾犯过或未犯过违法行为的假释罪犯,或曾犯过或未犯违约行为的借款人进行案例研究) ),因此,即使算法没有告知他们所处理的个体的种族,年龄或其他受保护的属性,他们也会继承影响该数据的偏见。如果将这些算法盲目地,热情地应用于将来的情况,即使它们被认为“无能力”受到它们的影响,它们也可能使这些偏差永久化。

Leave a Reply

Your email address will not be published. Required fields are marked *

Categories