7月30日,今日头条宣布正式推出新版灵犬反低俗助手(以下简称“灵犬”),同时支持图片和文本识别。字节跳动人工智能实验室总监王长虎介绍,新版“灵犬”在前两代的基础上再次升级,加入图片识别后,综合准确率在85%以上。
“灵犬”脱胎于今日头条反低俗模型,是一款检测内容健康度的辅助小工具,致力于打击低俗低质内容,净化网络空间。用户目前可以在今日头条内,搜索“灵犬”进行试用。
王长虎介绍,在文本识别领域,新版“灵犬”同时应用了“Bert”和半监督技术,训练数据集包含920万个样本,准确率提升至91%。在图片识别领域,“灵犬”采用深度学习作为解决方案,在数据、模型、计算力等方面均做了针对性优化。
据了解,“灵犬”背后的文本分类模型,已经经过了三次迭代。每个新版本相对于旧版本,在技术和数据集层面,都有一个明显的跃升。
第一代“灵犬”,应用的是“词向量”和“CNN(卷积神经网络)”技术,训练数据集包含350万数据样本,对随机样本的预测准确率达到79%。第二代“灵犬”,应用的是“LSTM(长短期记忆)”和“Attention”技术,训练数据集包含840万数据样本,准确率提升至85%。
不同于文本识别,图片识别的技术难点主要在于三方面:非均衡、类内方差大和不可穷举,即,低俗图片占整体图片内容的比例较低,低俗图片的种类丰富、繁杂,构成低俗图片的特征千差万别。
对此,“灵犬”运用的解决方案,是深度学习。“我们分别在数据、模型、计算力等方面做了很多优化。”王长虎说。数据层面,“灵犬”已累积上千万级别的训练数据。模型层面,“灵犬”针对许多困难样本做了模型结构调优,尝试解决多尺寸、多尺度、小目标等复杂问题。计算力层面,“灵犬”利用分布式训练算法以及GPU训练集群,加速模型的训练和调试。