LinkedIn正在使用AI查找和删除不适当的用户帐户

 
包括Facebook，Twitter和Pinterest在内的社交网络都可以利用AI和机器学习系统来检测和删除滥用内容，就像LinkedIn一样。微软拥有的平台拥有6.6亿用户，其中每月有3.03亿活跃。今天，该平台详细介绍了其处理包含不当内容的配置文件的方法，从亵渎到非法服务广告。
正如软件工程师Daniel Gorham在博客文章中所解释的那样，LinkedIn最初依赖于阻止列表(一组违反其服务条款和社区准则的人工编写的单词和短语)来识别和删除潜在的欺诈性帐户。但是，对其进行维护需要大量的工程工作，并且该列表往往无法很好地处理上下文。 (例如，虽然“护送”一词有时与卖淫有关，但它也被用于“安全护送”或“医疗护送”等语境中。)
这激励了LinkedIn采取一种涉及卷积神经网络的机器学习方法，卷积神经网络是一类通常应用于图像分析的算法，并接受了公开会员资料内容的培训。有问题的内容包含标记为“不适当”或“适当”的帐户，其中前者包含由于使用阻止列表和手动审核发现的不适当内容而删除的帐户。 Gorham指出，只有每个帐户的“很小”部分都受到这种方式的限制，这需要从整个LinkedIn成员库中进行下采样才能获得带有“适当”标签的帐户，并防止算法偏差。
为了进一步减少偏见，LinkedIn确定了造成大量误报的有问题的词语，并从包含这些词语的会员库中抽取了适当的帐户。然后，将帐户手动标记并添加到训练集中，然后训练模型并将其部署到生产中。
戈勒姆说，滥用帐户检测器每天会为新帐户评分，并且该帐户检测器是在现有成员基础上运行的，以识别包含不适当内容的旧帐户。展望未来，LinkedIn打算使用Microsoft翻译服务来确保所有语言的一致性能，并完善和扩展培训集以扩大其能够在模型中识别的内容范围。
Gorham写道：“检测和防止LinkedIn上的滥用是一项持续的工作，需要多个团队之间进行广泛的协作。” “以有效，可扩展的方式查找和删除包含不当内容的个人资料是我们不断努力提供安全且专业的平台的一种方式。”
LinkedIn对AI的使用不仅限于滥用内容检测。在2019年10月，它拉开了模型的帷幕，该模型使用Microsoft的Cognitive Services平台和独特的LinkedIn衍生数据集实现，自动为上传到LinkedIn的图像生成文本描述。另外，其“推荐候选人”功能可学习给定角色的招聘条件，并在专用选项卡中自动显示相关候选人。其AI驱动的搜索引擎利用数据，例如人们在个人资料上发布的内容以及候选人进行的搜索以生成最适合工作和求职者的预测。