佐治亚大学数据科学家的新研究是自相矛盾的。
尽管人们越来越担心算法侵入日常生活,但人们可能比同龄人更愿意信任计算机,特别是当任务变得具有挑战性时。
从选择播放列表中的下一首歌曲到选择合适尺寸的裤子,人们越来越依赖算法的建议来做出日常决策并简化生活。
问算法
“算法能够执行大量任务,而且这个数字几乎每天都在增加,”他说 埃里克·博格特(Eric Bogert) 特里大学商学院管理信息系统系。
当任务变得更加困难时,人们似乎倾向于依赖算法,而且这种效果比依赖他人建议的倾向更强。
Bogert与管理信息系统教授一起工作 里克·沃森(Rick Watson) 和助理教授 亚伦·史克特(Aaron Schecter) 在纸上 今天发表在《自然科学报告》杂志上。
该研究
该研究涉及1.500人,是更大范围的工作的一部分,该工作分析了人们如何以及何时与算法交互以处理信息和做出决策。
在这项研究中,研究小组要求志愿者计算人群照片中的人数,以支持一群其他人产生的建议和算法产生的建议。
随着照片中人数的增加,计数变得更加困难,人们开始遵循算法生成的建议,而不是自己计数或遵循其他人的建议。
您可以依靠的算法
Schecter解释说,选择计数作为测试任务很重要,因为照片中的人数会随着任务的增加而客观地增加难度。 这也是每个人都希望计算机擅长的业务。
这是人们认为计算机擅长的一项任务,尽管它可能比计数对象更容易产生偏差。
亚伦·史克特(Aaron Schecter)
成瘾是一种风险
“人工智能的一个常见问题是当它被用来发放信贷或批准贷款时。有许多参数需要考虑(例如收入或“信用评分”):这对于算法来说是一项很好的工作。
但是,依赖算法是有风险的。 我要说的更多:这可能对我不利。 因为它导致歧视性做法,可能是由于未考虑的社会因素造成的。
您无疑听说过以下算法 面部识别,以及如何起诉他们。 他们的用途揭示了 建构方式上的文化偏见,当将面孔与身份匹配或选择合格的候选人时,可能会导致不准确。
在诸如计数之类的活动中可能不会出现的偏见,但是,重要的是要了解人们在制定决策时如何依赖算法。
互信
如前所述,这项研究是谢克特更大的人机协作研究计划的一部分,由美国陆军研究办公室资助。
最终目标是观察人类和机器群体的决策,并找出如何让他们相互信任以及这如何改变他们的行为
由于这方面的研究很少,研究人员基本上都是从头开始。谢克特、沃森和博格特目前正在研究人们在做出创造性判断和道德判断时如何依赖算法。在这些例子中?撰写描述性段落,或为囚犯设定保释。