算法工具 - 抓原因的全部潜力或者“我们所知道的镇压”?福尔摩斯VS布朗神父

2017年4月5日
新闻 Image

的算法机器学习工具的可能性是巨大的 - 但如何能“人”的原则,如合理和自然正义被分解成这种决策? 

马里昂奥斯瓦尔德,在法律上和在bet356体育在线网址投注电子信息事务主任高级研究员,认为该问题,并询问是否不同途径虚构的侦探福尔摩斯和布朗神父的推理有东西教给我们。

我想这不用说,福尔摩斯本来的算法机器学习工具风扇 - 其中一台计算机给定一个任务,然后一个学习和提取从输入数据集合,该任务的数学公式。 (无论是我会的,虽然承认,可以提高算法的他自己的院系,而不仅仅是那些雷斯垂德探长的,是开放的辩论!)

5个橙色点子的冒险霍姆斯说:

“完美的推理会,当我有十一已经在其所有轴承从它显示一个事实,演绎不仅所有导致了它的一连串事件,但哪 此外所有的结果将遵循从它哪“。
 
福尔摩斯能够看到进行预测推理的完美工具的潜力。以履行推理的全部潜力:

“这是必要的推理应该能够利用所有这些都来他的知识事实,埃斯特IMPLIES本身,你会看到爽快, 一个拥有一切知识...一个比较少见的成就“。

通过“大数据”,并通过强大的计算,可以从目前的巨大的数字数据集推论和结论,我可能已经被激发。

切斯特顿的布朗神父,但是,很可能会通过,而主导的社会我们的数据恼火。 “这些人的意思做...当他们说检测是一门科学?”我问 布朗神父的秘密:

“他们的意思是让 一个男人和他的研究 就好像我是一个巨大的昆虫:他们会在铁面干光叫什么,在我应该怎么称呼死和非人化的光。他们的意思是让很长的路要走他,就好像我是一个遥远的史前怪物......“

布朗神父很关心如何带我们走这样的过程从现实的人:

“因此被知识远,这是我们所知道的卫生组织抑制。它的治疗的朋友作为一个陌生人,真是遥远而神秘假装熟悉的东西的。”

我们听到很多关于准备机器学习的可能性:提高医疗诊断,使我们的城市“聪明”和我们的街道更安全。通过使用许多的知识来通知决定关于一个,决策可能成为人类的偏见和不一致少开。存在着严重的公共利益的关切,这些技术在公共部门的这种驱动器部署。在例如在刑事司法方面,这使个人所带来的未来风险的一个较为一致的评价可能实现更好的决策的工具来进行关于那些会从康复计划中获益,而不会暴露社区不必要的风险。 

我们通过但这些技术的早期生活。偏见和不一致能够“烘焙”成的算法,并且可能THEREFORE延续。学术理论的过多展示,但很少有一致的意见如何防止这种情况,甚至也没有监管或自愿标准进行,可以应用。人们可以争辩说,在现实中,什么都没有改变 - 人类的决策一直不透明去过一个或大或小的程度。但现在,我们有“黑盒”算法 - 神经网络 - 当网络计算从指定的输入输出,但内部运作是不透明的。我们大多数人都没有想到的算法是如何“头脑的工作”(奥斯瓦尔德,优雅2016),我们是天生而“熟悉”与人之一。甚至最好能写了福尔摩斯的野心不活的算法 - 这些工具可以永远不会在输入数据总是被限制到这是很容易归类为“拥有所有的知识。”。 alpaydin批示:“总有一些影响产量等因素,我们不可能记录,并采取所有这些作为输入,以及所有其他因素,这些我们忽视带来不确定性。” (Ethem alpaydin, 机器学习 (麻省理工学院出版社,2016))。我们如何归类独特的家庭状况;一个人的工作,他们的自尊的重要性;同情甚至,在某种程度上,可能的算法过程?

公法原则 - 合理性,必要性,相称,自然正义,程序公正 - 经受住了时间的考验。在我看来,将继续这样做,他们因此在通过算法决策所带来的挑战面前。这就是为什么,协同达勒姆警察,我已经开发的算法评估工具在监管范围内的部署决策框架。框架 - '-Take一些算法治安保健™“ - 旨在重要的公共法和人权原则转化为实际的考虑和指导,可以由公共机构部门来解决。 

在记忆每个字 - 咨询;合法的;粒度;所有权;具有挑战性;准确度;负责;可解释 - 通过问题补充和是代表重点考虑法律上的考虑,以及实际的知识产权问题,例如所有权和一个“专家证人”的工具的功能的可用性。公法已-已经准备接受过程和政策,努力确保一致性和像类似的方式向个体治疗的需要。然而,一个重要的条件是一个公共机构不得束缚决断的。单人必须考虑的。这是一个重要的考虑因素牢记的算法决策的未来。  

他们的建议,所以我们采取应该 - 棕色福尔摩斯或父亲的?我想说的是,我们应该采取两者兼而有之。    

马里昂奥斯瓦尔德在法律上是高级研究员,该中心信息权限的主管。 @marion_infolaw @_uowcir

-Take一些算法治安保健™“ 讨论会详细为5月3日trilcon17和将被包括在我的书面证据,议会科技委员会的调查决策使用的算法。

To find out about TRILCon17, the 4th Conference on Trust, Risk, 在formation & the Law on 3 May exploring machine learning and AI, and to book, go to www.kerrewoodham.com/trilcon

在这个博客的看法和意见表达的是作者的,并不一定反映了大学的位置。

 

回到媒体中心