首页 >养生

借AI吸纳用户却不能有效监管2019iyiou

2019-05-14 16:13:55 | 来源: 养生

硅谷“多巴胺实验室”的创始人拉姆塞·布朗说过,“这世界上肯定存在让人上瘾的代码。”

而这句话很好地体验在了国内的今日头条、抖音、快手等APP身上。不管是一线城市的白领,还是四五线城市的青年,都在上不断滑动翻看这些会令人“上瘾”的软件。

业内人士告诉时代财经,这些流行APP内都利用了AI算法进行兴趣推送,会根据用户的喜好不断刷新用户感兴趣的内容,这是令人“上瘾”的原因之一。鉴于此,抖音甚至在近日上线了“防沉迷系统”,而以往这种机制大多只出现在游戏平台上。

在度过初的高速成长期后,抖音、快手等互联内容平台接连遇到了监管这道坎。罚款、约谈、下架、关停等字眼在近一两个月内不停地出现,而这一切都指向了平台的AI算法和审核机制上。

一连串的审核风波不禁让用户大打问号,为何这些宣称“以技术驱动”的互联公司仍然存在如此大的审核漏洞,仍然需要不断加大人工审核的力度?更有友戏称:“说好的AI算法会让人失业呢?原来AI反而能增加就业。”

借AI吸纳用户,却不能有效监管

今年3月底,快手平台上存在大量“未成年妈妈”等低俗短视频被央视陆续曝光,今日头条也因广告问题被推到舆论的风口浪尖,两家公司的CEO宿华和张一鸣相继发布了致歉信。

张一鸣在4月11日表示,宣布关停内涵段子APP并加强今日头条的审核,“全面纠正算法和机器审核的缺陷,不断强化人工运营和审核,将现有6000人的运营审核队伍扩大到10000人。”

快手不久前也启动了内容审核员的大规模招聘,一口气增加3000名审核,招聘条件是团员和党员优先。

逐渐扩大的审核风波,也波及到抖音。抖音先是关停所有评论、关闭直播系统,近日还因涉嫌发布售假视频一事查删视频805个,封禁账号677个,并被北京市工商局约谈。

事后抖音CEO张楠透露,目前审核团队的规模已经有几千人,而且“团队人员每天都在增长”。

新招募的这些人员除了在运营层面给公司增加开支外,这也意味着快手、今日头条、抖音等社区型产品在UGC内容审核上还不能完全依赖它们所擅长的AI算法,“人工审核” 仍然占据非常重要的地位。

而这里面的“前辈”今日头条,创立之初却是把自己定位为一家技术驱动的科技公司,利用AI算法将基于个性化推荐的内容消费做到。中国政法大学知识产权研究中心特约研究员李俊慧表示,人工智能和算法能帮助企业吸纳大量用户、提高产品粘性,却不能反过来起到整治和导向的作用,显然是技术和管理上的缺失。

AI何时才能胜任内容审核?

早于十年前,在谷歌、Facebook、百度等大范围开始使用算法进行审查的时候,媒体和创业者都不断地勾画着人工智能时代到来的场景。时至今日,AI虽然通过学习,不断在提升系统对于内容类型的识别和判断概率,但不得不承认的是,对于内容的审核目前主要还是依赖人工。

日前,麻省理工学院(MIT)、斯坦福大学、OpenAI联合研究报告显示,人工智能领域比以往任何时候都更加活跃,尽管人工智能在执行一些非常具体的任务时已经超越了人类,但它在一般智力方面仍然极其有限。

以月活用户数超过20亿的Facebook为例,在内容审核上,这家面向全球的企业面临的挑战更加严峻。

Facebook的CEO扎克伯格近日称,按照目前AI的智力水平,要解决审核问题只能暂时增加人工数量。目前Facebook拥有一个1万5千人规模的运营审核团队,预计今年年底增加至2万人。

据Facebook的技术团队介绍,目前AI的机器审核多用于文字内容,如机器检测到含有敏感词汇的内容,会将其删除或向用户发出警告。但对于图片、视频的审核,机器无法像对文字内容一样提取关键词,审核仍然离不开人工。

但相悖的是,在目前信息爆炸的时代,如果没有AI和算法帮助审核,众多互联公司显然无法运转,反而需要越来越依赖AI。

此前“今日头条”内容质量中心负责人、副总李彤接受采访时说,头条一个人一天能处理的文章大概是1000篇,机器一秒钟能处理100篇,“今日头条”每天新增发布内容是50万条,全部由人工来做,要一个人工作500天才能看完,AI是不可或缺的。

今日头条算法架构师曹欢欢对时代财经表示:“目前头条的分享内容识别技术模型主要分鉴黄模型、低俗模型、谩骂模型等,主要都是通过大量的样本库进行比对分析。”以谩骂模型为例,样本库超过百万级别,准确率80%以上,召回率95%以上,“这部分模型更注重召回率,甚至可以牺牲一些准确率,也要提高安全性。”

李俊慧则认为,未来社交软件和短视频APP等应该是“算法+人工”的竞争,其中人工的专业性将逐步升级到弥补或提升算法的正面导向作用,让人工指导AI算法如何更好审核。

足球教练沙龙
2010年长沙汽车出行企业
2018年海口大健康B+轮企业

猜你喜欢