Facebook公布新AI模型用机器学习来识别假账号

2020-03-05 23:25:33

字体：大中小

来源：转载

供稿：网友

社交网站上的假账号，通常会被欺诈者利用来传播垃圾邮件、网络钓鱼链接或恶意软件。无论是平台上的无辜用户还是平台本身，这类假账户都极其危险。

为了解决这个问题，Facebook正式发布了能打击假账号的工具——DEC，也称为深度实体分类系统（Deep Entity Classification）。这是一套利用机器学习来识别假账号的工具。

据Facebook透露，这套工具不仅会评估可疑帐户的行为，还会评估账号的周边信息，包括可疑帐户的交互帐户和浏览页面行为。Facebook称，使用这套工具后，垃圾邮件和欺诈账号的数量减少了27％。

从Facebook公开的详细信息看，DEC能区分两类假账户。一类是错误分类的账号，这些账号的个人资料被包装成了商业信息页面。要处理这类假账号，相对简单，只要替换个人资料信息就可以。第二类是违法账号，这些账号涉及欺诈、垃圾邮件和违反平台服务条款等行为。对于这类账号处理起来更加棘手，平台需要尽快删除，又不能全部删除相关账号，否则可能会误删真实账号。

那么，整套系统是如何做到的？

DEC的主要方式是通过分析用户的连接模式来区分真假用户。这些模式被称为“深层特征”，其中包括用户朋友的平均年龄或性别分布。Facebook使用了20000种深层特征来刻画用户画像，通过这些深层特征，系统会了解每个用户的行为，也让攻击者难以改变策略来躲避侦查。

深层特征的提取，首先使用的是大量低精度机器生成的标签。这些标签由混合规则和其他机器学习模型生成，可以用来判断用户是真还是假。接着，将这些标签用来训练神经网络，再加上一小批高精度的手工标记数据对整个模型进行微调，这部分数据是由世界各地了解本地文化的人手工生成的。

最终系统可以识别出四种类型的虚假账号：不能代表个人的非法帐户，欺诈者已经接管的真实账户，重复发送创收垃圾邮件的账户，以及操纵账号泄露个人信息的账户。

2019年，Facebook每个季度平均删除20亿个伪造账号。自从使用DEC以来，Facebook称，平台上假账户的数量保持在每月活跃用户的5％左右。但即便是这样，情况也不乐观，在每月有25亿活跃用户的情况下，整个平台仍有1.25亿个伪造帐户。

上一篇：“发现”选项卡已经被移除 Facebook或将推出新的替代工具

下一篇：字节跳动首次获批游戏版号组建超千人游戏团队