跳到主要内容

话题

数学和计算

数学和计算

是敌是友?机器学习以及它如何塑造我们的生活

05 May 2021
从5月2021号问题中获取 物理世界 它首次出现在标题“裁判,陪审团和审查员”下出现。物理研究所成员可以享受全部问题 通过这一点 物理世界 app.

Achintya Rao. 评论 公民的AI指南 作者:John Zerilli和共同作者

一只狼的照片和哈士奇并排狼或赫斯基? 机器学习可用于训练算法,以执行特定的任务,例如分类图像。 (礼貌:iStock / Kencanning; Istock / Majamitrovic)" />
狼或赫斯基? 机器学习可用于训练算法,以执行特定的任务,例如分类图像。 (礼貌:iStock / Kencanning; Istock / Majamitrovic)

“机器人可以写一个交响乐吗?机器人可以拿一个空白的画布并将它变成杰作吗?“所以问史密斯的侦探Del Spooner的人工桑尼,在2004电影中的令人难忘的场景中 我是机器人。 Sonny,被Alan Tudyk描绘的,用他自己的问题蒸煮:“你能吗?”

这个想法,我们可能有不同的期望 人工智能 而不是我们对人类的同学是一个经常性的主题 公民人工智能指南, 经过 John Zerilli.,认知科学与研究员的哲学家 剑桥大学,英国和六位共同作者,所有领域的专家。例如,在第二章中提出这一索赔:“对于人类决策者本身无法提供它的域名,域名正在排斥出色的透明度。”我们可以指责双标准吗?也许这取决于我们正在寻找的AI种类,以及它旨在做什么。

作为一种科幻爱好者,我打开了只瞥了一眼盖子的书,期待它处理在这里看到的那种AI Asimov的作品 或者 星际迷航 或者 银翼杀手。 然而,这本书 - 将AI定义为“制造计算机的科学就会产生聪明的行为,如果由人类完成” - 实际上讨论了子领域 机器学习 (ml)。 ML涉及使用可以检查给定数据集的预测模型,并执行某些任务,例如区分狼和哈士比斯,或者确定贷款寻求者是否具有合适的信用评分。 ML近年来已经看到了巨大的飞跃,使其成为这本书的相关真实重点;虽然我们仍然是从一般的艾美常见的一种方式 - 虽然ai研究的圣杯 - ml已经迅速渗透了我们生活的每一面。

作者寻求将读者装备有关关于使用ML工具的规定所需的知识,以便在Zerilli和共同作者称之为“新算法世界秩序”中。这本书的范围主要是政治而非技术。作者经常引用哲学家并讨论法律事务,将读者介绍到实施AI系统的道德考虑。毕竟,我们可以依靠自动化工具来决定谁获得贷款或者在没有人为干预和推理的情况下释放贷款?

尽管这一哲学重视,作者确实为读者提供了理论框架,用于了解所讨论的概念,呈现出预测模型的历史,一直返回精算表。明确覆盖的一个关键方面是 神经网络,它在人类脑后建模。我从这个部分学到了很多,这解释了这些工具如何通过执行分类任务的许多“隐藏单元”来接收输入并提供输出。虽然隐藏的单元可以通过分配给它们的可调重量调节,但是可以调节神经元之间突触的强度,这些单元的内部工作是一个完整的黑匣子,甚至到开发它们的程序员。人类社会如何接受这些黑匣子的产出,没有解释或推理,自然地出现在这里,以及我们是否具有双重标准的上述问题。

这本书比较了神经网络与人类认知的透明度,争论我们自己并不了解我们做出决策的真实原因,但我们几乎隐含地信任法官和陪审团。然而,我在很大程度上毫不符合这一推理,法官通常会根据经验提供对其判决的解释,而不是对于ML算法的“量化”。作者使算法可以通过考虑更多的因素来克服人类偏见,而不是人类可以做出决定。他们当然要注意,这是一个理论理想的理想:在实践中,ML的非凡力量最终依赖于构建和培训工具的人,以及“建筑物和培训过程都对偏见开放”。 Zerilli和共同作者尽最大努力将理论技术与其实际实施中的理论技术脱钩,同时向读者提供资源,以质疑AI的慢速蠕动,并作为AI本身的辩护律师。

Zerilli在法律中的背景在整个方面是明显的,具有许多法律程序,以令人难以忍受的细节描述。鉴于这本书的目标,这是可以理解的。例如,在讨论专家报告和委员会的作用,作为审议和共识建设的理由,Zerilli和Co将自己限制在法官(专家)和陪审团(委员会)。在最后一章中,故事 cs 大型特罗龙撞机微黑洞 - 我熟悉的故事 - 在没有讨论科学或科学共识的性质的情况下,几乎完全通过法律镜头审查。

发布 公民人工智能指南 时间很好。如果没有科技世界涉及涉及AI的新道德争议,那似乎不是一个星期。这 Facebook-Cambridge Analytica Scandal 在2018年,每次讨论选举时都会提升,2020年SAW TIMNIT GEBRU 毫不客气地被迫离开 谷歌的伦理AI团队,她联合领导(参见“战斗算法偏见”)。询问的问题也被问及 - 缺乏知情同意 - 收获数百万人的个人数据,以培训ML算法,以监测资本主义的名义提供个性化广告。

那么你应该为你的书架拿起一份副本吗?正如您可能希望与由同一作者发布的学术论文具有相当重叠的书籍,它被彻底研究,但它不是读取的不活跃。在几乎每个页面上有新概念,可能需要读取一些部分以上才能理解。但是,这本书可以按任何顺序读取,因此读者可以随时将章节划分为一章,而不是立即解决整个事物。主题的广泛涵盖意味着从AI的专家那里有一些东西可以向所有人置于令人奇欲的公民对其生活中的角色。技术和道德的学生将发现它特别有价值。

我为一个计划给予它第二次阅读,以便在我们持续的健康危机落后一下,为食药或两种争论做好准备。

  • 2021 MIT新闻$ 40HB 232PP
版权©2021由IOP Publishing Ltd和个人贡献者