AI看门狗的报告撕裂了情感技术

 
应该从重要的决定中禁止影响识别的观点，这听起来很生气……但这意味着什么呢?实际上，关于人工智能对我们日常生活的影响的讨论正在激增，引起了许多担忧。
“影响识别”。用技术术语来说，代表面部识别的一个子集。情感识别完全是关于情感AI的，它是与用来识别表情的人工智能相结合的人工智能。
解释你脸上的表情?这些解释听起来如何?
在纽约大学研究中心，一份报告提醒读者，这不是了解人们感受的最佳方式。该报告的观点是，不应该简单，简单地将能够检测情绪的AI视为能够对可能严重影响人们的情况进行重要呼吁：在招聘，监视教室中的学生，在客户服务以及最后但并非最不重要的是刑事司法。
首先需要仔细检查为什么实体使用错误的技术来基于外观来评估角色。在诸如就业，教育和刑事司法等背景下，这尤其令人担忧。
纽约大学AI Now研究所发布了AI Now 2019报告。该研究所的重点是人工智能的社会意义。该机构指出，人工智能系统应有适当的保障措施或问责制结构，并且在可能并非如此的情况下，机构对此表示关注。
他们的2019年报告着眼于表达分析目前在决策中的商业用途。
路透社指出，这是AI Now的第四份关于AI工具的年度报告。该评估检查了可能有害的AI技术及其对人类的影响的风险。
谈到该研究所的报告时，情感识别一直是“ 2019年关注的焦点，不仅因为它可以编码偏见，而且因为它缺乏任何可靠的科学基础来确保准确甚至有效的结果。”
该报告的措辞很明确：“监管机构应在影响人们生活和获得机会的重要决策中禁止使用情感识别。在此之前，人工智能公司应停止部署它。”
作者不仅沉迷于个人，还沉迷于个人。意见;他们审查了研究。
“鉴于情感识别技术的争议科学基础-面部识别的一个子类，声称可以检测出诸如性格，情绪，心理健康和其他内在状态之类的东西-不应被允许在有关人类生活的重要决策中发挥作用例如接受面试或雇用的人，保险价格，患者痛苦评估或学生在学校的表现。”
该报告甚至进一步指出，政府应“明确禁止在高风险的决策过程中使用情感识别。”
边缘的詹姆斯·文森特对此发现并不感到惊讶。早在7月份，他就进行了一项研究报告，该研究着眼于技术无法通过面部表情准确读取情绪的失败。简而言之，您不能相信AI会这样做。他引用了东北大学心理学教授的话。 “公司可以说他们想说的什么，但数据很清楚。”
文森特当时是在对心理科学协会委托的文献进行评论时报告的，五位科学家仔细研究了证据：“重新考虑了情感表达：从人类面部运动推断情感的挑战。”文森特说：“他们花了两年的时间来检查数据，而这次审查涉及1000多种不同的研究。”
由于情绪是以多种方式表达的，因此很难从一组简单的面部动作中可靠地推断出某人的感受。作者说，科技公司很可能会问一个根本上是错误的问题。在不考虑情境各个方面的情况下，从面部动作中读出人的内在状态的努力充其量是不完整的，最糟糕的是缺乏有效性。
虽然该报告要求禁止使用，但可以公平地认为，这种担忧与对仍需改进的技术的幼稚信心水平背道而驰。情绪分析领域需要做得更好。
根据The Verge文章，东北大学心理学教授认为，这次审查最重要的收获是“我们需要以更复杂的方式考虑情绪”。
同时，BBC新闻的Leo Kelton传达了AI Now联合创始人Kate Crawford教授的观点，他说研究在情绪状态的数量和人们表达它们的方式方面显示出很大的可变性。
路透社在报告发布前的电话会议上表示：“ AI Now创始人Kate Crawford和Meredith Whittaker表示，尽管人们对道德原则达成了广泛共识，但对AI的破坏性用途却在增加，因为违反道德准则不会带来任何后果。”当前的报告称，从教室到工作面试的整个环境中都继续大规模部署具有AI功能的影响识别。它是在通知人们关于谁是有生产力的决定，但往往是人们不知道的。
AI Now报告提供了在情感检测产品领域开展业务的公司的具体示例。这样的公司之一就是销售视频分析相机，该相机将面孔分类为愤怒，恐惧和悲伤，并出售给赌场，饭店，零售商人，房地产经纪人和酒店业。
另一个例子是一家公司使用基于AI的基于视频的工具来推荐公司应采访哪些候选人。该算法旨在检测申请人微观表达中的情感参与。
该报告包括一家创建头带的公司，该头带旨在通过大脑活动检测来检测和量化学生的注意力水平。 (AI报告并没有忽略补充说，研究“概述了与在教室中部署情感AI相关的重大风险。”)