今日头条加强内容审核 智能算法需兼顾技术与道德

hau54

　　新年伊始，今日头条开始针对传播低俗信息和低质内容等问题进行整改。一方面关闭社会频道，将新时代频道设置为默认频道，同时封禁、禁言账号1千多个；另一方面招聘内容审核编辑岗位，强化内容审核团队。今日头条知错就改的态度值得肯定，但是封禁账号不过是内容平台建设的常见纠错机制，并不能从根源上解决低俗内容泛滥的问题，关键还得建立长效机制、强化企业的社会责任。

今日头条加强内容审核

　　元旦假期前，北京市网信办针对今日头条、凤凰新闻手机客户端持续传播色情低俗信息、违规提供互联网新闻信息服务等问题，责令企业立即停止违法违规行为。据了解，今日头条手机客户端“推荐”“热点”“社会”“图片”“问答”“财经”等6个频道自2017年12月29日18时至12月30日18时暂停更新24小时，凤凰新闻手机客户端2个频道暂停更新12小时。12月31日，今日头条再次发布声明，宣布关闭“社会”频道，同时集中清理涉嫌违规的含低质内容的自媒体账号，封禁、禁言账号1101个。       
　　1月2日，针对两天前关闭社会频道事件，今日头条高级公关总监杨继斌接受采访时坦言，公司正在不断反思，“比如对于打击标题党、低俗内容，我们一直在持续打压，比同行采取的措施要更加严厉。但现在看来，力度不够。我们平台影响比较大，相应地就应该承担更多的社会责任。”
　　与此同时，今日头条也在知名招聘网站挂出内容审核编辑岗位，大规模加强内容审核团队。此次大规模招聘内容审核编辑，可以视作是今日头条全面加强网站业务和人员管理，致力打造健康、有价值平台的有力举措。据知情人士透露，今日头条此次招聘内容审核编辑，负责海内外产品的内容审核人员，总的新增规模在2000人左右。

智能推荐算法是把双刃剑

　　在智能推荐算法已成为每一个新闻客户端标配的今天，我们不能否定算法对于用户获取个性化资讯的价值，对于内容获取高效率、低门槛和扁平化分发的意义，但我们也必须正视过度依赖智能推荐算法对内容分发平台造成的弊端。
　　推荐算法是根据用户的上网习惯，通过统计，推测出用户可能喜欢的东西并将之固化、深化、泛化。这就导致用户长期禁锢在自己所建构的信息茧房中，久而久之，用户所接收到的信息呈现出一种定式化、程序化的模式。长期处于过度的自主选择，沉浸在个人日报的满足中，失去了解不同事物的能力和接触机会，不知不觉间为自己制造了一个信息茧房。
　　同时，智能推荐算法分发很容易导致内容低质化，因为有些低质化的内容本身就有很大的受众，或者一些内容伪装为健康内容获取点击，最终造成了恶性循环。很多标榜“只做内容搬运工”的门户网站，一味追求流量，内容猎奇、低俗、色情甚至无耻，毫无社会责任可言。
　　今日头条创始人、CEO张一鸣最近表示，“作为研发人工智能的企业，应该永远恪守一条原则：必须对整个人类的未来充满责任感，充满善意。”纠正算法推荐的弊端，治理低俗内容倾向，是每一个从事内容方面工作的企业，应自觉遵守的法则，这也成为业内越来越响的呼声。

探索技术道德的平衡点

　　忙碌的生活和碎片化的阅读习惯，让现在的人们越来越习惯于新闻客户端的推送，一个新闻网站对人们阅读和接收到的信息，影响越来越深远。国家主席习近平曾表示：“网络空间是亿万民众共同的精神家园。网络空间天朗气清、生态良好，符合人民利益。网络空间乌烟瘴气、生态恶化，不符合人民利益。”因此，良好的传播媒介和传播氛围至关重要。
　　如今的人工智能仍然处于初级应用阶段，各方面都不是很成熟。作为信息平台，新闻网站还是应该加大人工审核力度，而不能仅仅依赖于机器和算法。同时，各门户网站，移动客户端，都不该忘记作为新闻媒体人的责任和使命，不要让机器算法凌驾于内容之上，陷入靠低门槛内容追求点击率的恶性循环。同时，各新闻媒体也需要在技术层面、管理层面、价值层面，把长效机制真正建立起来，彻底铲除低俗内容泛滥的土壤。
　　能力越大，责任越大，各新闻网站都应该好好思考如何在人工智能和道德之间找到更为适合的发展空间，为用户营造清朗、干净、健康的阅读空间。