取消网络平台个性化算法推荐技术推送信息的建议和讨论

取消网络平台个性化算法推荐技术推送信息的建议和讨论
(一位居士20191225)

【居士】《建议取消网络平台个性化算法推荐技术推送信息》
新出台的《网络信息内容生态治理规定》对网络信息平台采用个性化算法推荐技术推送信息做出了规定:
《网络信息内容生态治理规定》
https://mp.weixin.qq.com/s/M6n2yr8P3hdpLMwI6kewBg
摘录:“第十二条,网络信息内容服务平台采用个性化算法推荐技术推送信息的,应当设置符合本规定第十条、第十一条规定要求的推荐模型,建立健全人工干预和用户自主选择机制。”
末学认为以技术或算法中立等借口,任由机器操纵信息内容的分发和传播过程,危害极大。
如果一个人出于好奇,搜索了淫秽色情、藏密喇嘛教、轮子功、西方伪民主、港独、藏独、宗教极端思想等内容,然后,机器会根据算法,投其所好地持续大量推送如上内容,等于用户被恶劣信息不断染污和洗脑,还无法停止信息发送,后果可想而知。
虽说《规定》提出了“建立健全人工干预”,但海量信息没完没了地不断推送,网络人工监管真能监管到、监管好吗?令人怀疑。
退一万步说,即使推荐内容中性无害,但由于算法推送是根据使用者的搜索兴趣推荐的,推送的内容都是其感兴趣的,根据自身经验,不知不觉一口气被动阅读几条推送内容是常有的事。为什么现在那么多人沉迷网络,原因就在于此。网络对青少年影响极大,这个大家都知道,毋庸多言。法国已禁止中小学生使用智能手机。更糟糕的是,不光青少年,很多成年人、老年人也沉迷网络,很多人甚至上班也时不时的刷手机。现在中国已有4亿人患近视,眼癌、颈椎病也高发,据说与过多使用手机关系很大。一个沉迷网络的国家是没有希望的国家,仅依靠网络中国没法实现中华民族伟大复兴。
所以,建议取消各网络平台推送的推荐内容,需要什么资料,自己去搜索。这样不容易形成网瘾,也能大大减轻网络监管的巨大压力。专业人员做研究工作,需要搜索资料,一般会直接上知网、维普等专业网站,所以对他们影响应该不大。
如果实在要保留算法推荐内容,希望用户可以有权自主选择是否订阅推荐内容。
【贤佳】我将建议书发给了上次讨论门户网站低俗信息问题的那位居士,问怎么看,得到回复如下:
我觉得首先要弄明白意见和建议两个概念,人可以对一件事情有意见,成不成为合理化建议是另一回事。搜索底层都是通过算法,能见到的所有的互联网公司,底层都是运用算法。你在淘宝上搜个东西出来你想要的商品靠的是算法,facebook上找个老同学,通过算法。告诉大家把算法禁了,认为之所以搜出来不好的东西是算法的错,这是个人认知的局限性。其实这是不法的人利用算法的漏洞在做事情,平台是不断改进算法,屏蔽恶意小站等等,已经是很成熟还在不断优化的系统。这就好像说因为担心核泄漏核辐射所以要把核电站关停了,但是剩下来就“靠爱发电”了么?结果呢,回过头来热电厂产生更持续的环境污染。你说因为有人通过网银交易洗黑钱所以我们就要把所有银行网络交易系统都禁掉,这样就不会有人能够通过网络洗黑钱了。简单粗暴的逻辑是一样的。
可参考最近轮子在facebook大量诋毁中国的账号被封号,如果不是基于算法,都没法实现批量封号。所以,意见都可以提,上升到建议还是要有个合理化的前提的。
“如果一个人出于好奇,搜索了淫秽色情、藏密喇嘛教、轮子功、西方伪民主、港独、藏独、宗教极端思想等内容,然后,机器会根据算法,投其所好的持续大量推送如上内容,等于用户被恶劣信息不断染污和洗脑,还无法停止信息发送,后果可想而知。”——这位师兄太杞人忧天,太小看国内的内容审核监管及举报制度了。所有平台前期要过审核上线,上线后还有审核部门,没过还得删除,层层审核后还有用户举报再审核删除机制,每个平台至少要建立两到三层大的审核机制和相关体系,还有要与政府主管部门联动的网安机制,可参考当年95页pdf传上网通过多长时间就已经全网删除了。
不得不说,因噎废食的这种逻辑和当年台湾全岛的“用爱发电”禁用核电内在逻辑是一致的。
【居士】我没有否定算法,我反对的是未经用户同意和订阅,就单纯依据算法来不断推送推荐信息。政府也反对以算法为借口,未加人工干预,仅凭算法来推荐。推送与否要得到用户的同意,现在用户没有自主选择性。其次,对推送内容要进行人工干预,过滤掉不良信息,才能发给用户。平台对推荐内容负责。请参看《网络信息内容生态治理规定》第十二条:“网络信息内容服务平台采用个性化算法推荐技术推送信息的,应当设置符合本规定第十条、第十一条规定要求的推荐模型,建立健全人工干预和用户自主选择机制。”
真的那么严密?请那位师兄在微博上搜一下“多杰羌佛”,看能搜出多少位义云高的水军来?再请她在百度上搜一下“多杰羌佛”,看能搜出什么东东来?此外,义云高的弘法网站真实存在,看她能否搜出来?没有这些东西,义云高在全球能否有8000个据点(多数在国内,义粉河南最多)?我的两个师兄,几年前就通过网络包括网络聊天室学习义云高。如果真那么监管严密,这么多年有关部门怎么就没发现呢?为什么能至今都存在?我不懂算法,更不迷信算法,我只相信我亲眼看见的事实。
【贤佳】那位居士回复:
现在平台就是可以选择的啊,没有任何人强制要求你选择某款平台产品,也并不是所有的平台都有推荐机制,而且所有推送的内容就是有机器和人工审核,外加人工干预的,都是经过各种筛查机制的。他所提的要求现在是已经在发生的监管事实,现在政府监管部门和平台就是这么做的,不信请参考95页pdf当晚十几分钟全部消失。
举例说明还有漏网之鱼,这是无法避免的,就和派出所管理这片治安,已经挨家挨户审核登记了,平时也没事儿,突然哪天来个租房的外地人犯案的,说不行,你得把外地人口全部清除以绝后患,这不是很可笑吗?对于一些个案,就是不断防缺补漏的过程,可以迅速通过举报方式来处理。如果发现yy高的水军,那就赶紧举报,相关部门一般两三天就会核实,并对问题解决。我想再举个例子,他觉得国家安全部门对反间谍工作做得如何?但是国内就没有间谍在活动了么?我们只能通过细致的审察监管,外加群众举报,是不是?除了层层监管,外加对于个案发现一件解决一件。
所以,我不知道他的建议在已经是这样操作的前提下还能如何?不如提倡大家都不要用手机了,也不要上网了,这样最能杜绝有害信息。
【居士】就是强制的啊,我用的浏览器就是华为浏览器,是与手机一起捆绑销售的,我无法卸载。换别的浏览器功能不行,很多东西搜不到,以前讨论说过的。
至于平台,当今用户谁能不用微博、微信和QQ?这几个平台哪个没有强制推荐?又哪个是用户可以自主选择?
她说义云高是个案,我不同意。很多人发的揭批邪师邪教的帖子,发上去没多久就消失了,据说现在有有偿删帖,这就绝非我们普通用户能作用的了。
她说的那种极端主张,不是我的主张。可是我也不认为当前网络监管完美无缺、没有丝毫改进空间。
《从〈网络信息内容生态治理规定〉看网络内容治理标准的新变化》(https://mp.weixin.qq.com/s/JWK8Tv_zTIgauV_3Durviw),这篇网信办公众号上的文章说得很清楚,正是因为目前网络监管存在种种不足和问题,所以才出台《网络信息内容生态治理规定》给予治理,否则没必要出台这个《规定》。
我想这些平台之所以不停向用户推送推荐内容,无非是为了在里面夹杂广告,获得广告收入。如果他们一定要获得这份收入,就直接推送广告好了,不必费事夹杂低俗推荐内容。我宁可接受他们推送广告,也不愿被低俗不良推荐内容所染污。我坚决反对未经用户同意,强制用户接受推荐的低俗不良内容。
我想说的是正如这位师兄所说,网络监管工作确实不容易,可是想想那些被网络不良内容所害的众生,这个工作就是再难,也应该想办法做好。哪怕网络监管能改进一分,这个工作就有价值,就功德无量!
【贤佳】那位居士回复如下:
这个人就是鸡同鸭讲,请他自己先闹清楚几个概念:搜索(全网搜索、站内搜索)、推荐(信息流、订阅),这都是不同的产品形态,他自己说的浏览器弹小广告的问题,流量劫持、恶意脚本了解一下。他担心的在中国做生意的互联网公司不受政府严格监管,主动传播不良信息的情况根本就不可能存在。知道为什么google和facebook进不了中国么?因为两家公司不接受政府监管,所以政府压根就不会让他们进国内。在中国,他所举例的几家公司几家平台产品,无不接受监管。作为拥有世界上最多上网人数的中国互联网,在技术上、在监管上都是全世界数一数二。依然达不到他所梦想的形态,为什么?如果靠监管就能把那些意图干坏事的人挡在外边,就不需要有网警了。如果靠法规就能阻止人犯罪,也不需要有警察了。所以,他爱怎么发表意见是国家赋予他的权利和自由,但是如果落不到实际上的那不叫建议。
我再给一个简单的让他能实际操作的例子,他不是担心什么轮子之类邪教的内容能够传播么?今日头条就是国内最大一个走个性化推荐机制的平台,他可以手机注册一个头条号,自己上传一些淫秽信息或者轮子的信息文章上去试试,看是否能够发布成功。甚至说他自己的这些指点江山的文章,可以发布一下试试,可能都会触及敏感词发布不出来。请他自己实际体会下什么是内容监管,再来重新审视现实和自己提出的建议。
【居士】鸡也好,鸭也罢,总要让人说话。
平心而论,我国的网络监管是比较严格的,但中国那么大,网民那么多,不代表就不存在问题。下面就谈谈我认为当前网络存在的一些问题。
一、不经用户同意,网络平台强制推送低俗不良推荐内容的问题。
⑴强制推送低俗不良推荐内容的几大平台。
未经用户同意,强制推送推荐信息的主要有手机浏览器(如华为浏览器)、微博、QQ。其中浏览器和微博的问题最严重,QQ要好一些。推荐内容中以低俗不良信息居多。除了低俗内容,华为手机浏览器推荐里还有一些宣扬邪师的内容,虽然不多,但还是有,比如:
《中国最有“骨气”寺庙:禁止游客捐香火钱,僧人每天却只有一顿饭》https://dwz.cn/e2fVRtIJ
辽宁海城大悲寺去年因诸多严重问题被当地政府已勒令整改,全寺已不对外开放。妙祥法师因讲法夹杂藏密等邪法,已有网友称其为邪师。把这样的内容放到推荐内容里,我认为是不合适的,容易误导众生。这种情况我估计是由于华为公司对妙祥法师的真实情况不了解造成的。
低俗不良内容的危害,大家都知道,以前也曾讨论过,在此就不再赘述了。
⑵建议:
(1)禁止未经用户同意,强制用户接受推送的推荐信息。这点《规定》里也做了相关规定,要“建立用户自主选择机制”。可看《网络信息内容生态治理规定》第十二条。
(2)即使有用户愿意阅读并订阅了此类信息,作为信息发布的平台或公司也应对发布内容进行筛选,去掉低俗内容,尽量选择具有社会主义核心价值观和优秀传统文化等正能量的文章。这一点《规定》里也谈到了。
《从〈网络信息内容生态治理规定〉看网络内容治理标准的新变化》
https://mp.weixin.qq.com/s/JWK8Tv_zTIgauV_3Durviw
摘录:{明显触犯法律明令禁止的“九不准”内容在大量减少甚至在有些平台上绝迹的同时,并不是说网络空间就完全清朗了……。在不能通过明显违法的“九不准”内容来扩大经营规模、吸引更多关注、产生更多流量的情况下,平台和大量的个体内容生产者、传播者开始在“三俗”的内容方面下功夫。而法律只以禁令方式对内容提出要求的作法,有助于形成内容制作和传播的“灰色”地段,助长内容制作者、传播者通过打擦边球的方式,制作传播法律上够不上禁止但确实又令人担忧的内容,如大量低俗、庸俗和媚俗的内容。}
《规定》的第五条具体的列出了鼓励网络信息内容生产者制作、复制、发布内容的信息。第十二条提出,应当设置符合本规定第十条、第十一条规定要求的推荐模型,建立健全人工干预。其实就是去低俗化,倡导社会主义核心价值观和优秀传统文化等正能量。
(3)宗教管理部门应提供邪师邪教黑名单给各大平台,严禁有关平台发布弘扬赞叹黑名单上邪师邪教的内容。
(4)对于推荐内容里夹杂的广告,作为用户,我是反对的,因为它消耗浪费用户的流量和时间。但如果平台一定要获得这份广告收入,就直接推送广告好了,不必费事夹杂低俗推荐内容。我宁可接受他们推送广告,也不愿被低俗不良推荐内容所染污。
不管网络产品的形式如何,它的内容应是合法、尊规、不低俗,内容为王,这个是关键。
浏览器弹小广告的问题,流量劫持、恶意脚本的问题,我也曾多次遭遇,确实挺烦人。如何解决,有赖有关部门与平台共同努力,找出解决办法。
二、大众平台中存在和传播邪师邪教的问题。
(1)微博上存在大量账号宣扬附佛外道和邪师邪教。
a.藏密邪法在被《网络信息内容生态治理规定》禁止之列
《解读〈网络信息内容生态治理规定〉显示藏密邪法在被禁止之列》
https://mp.weixin.qq.com/s/GQ1hte-nsV8-zfoS4t3qvg
藏密教义违反国法刑律,宣扬淫秽色情,教唆人犯罪,在网络上传播藏密邪法也违反有关部门禁止藏密在内地传教的规定,以上解读说明藏密邪法在被禁止之列。所以,这些在微博上开设的弘扬藏密邪法的账号应该被关闭。
b.不算喇嘛粉的转发账号,藏密喇嘛在微博上开设了很多的账号,专门用于弘法,误导了很多众生修学藏密邪法。往往一个账号就有少则几十万,多则几百万的粉丝,流量惊人,危害极大。可参看《藏密的惑害及治理的相关交流讨论之十二(九)》(https://mp.weixin.qq.com/s/O4CS1zHNupDLjmuErfUd1w)。
c.亡命海外的通缉犯、邪师义云高成立水军团,在微博上注册了很多账号,弘扬邪法,神话吹捧其本人为佛,误导了很多众生上当受骗。
d.其它邪师邪教,如净空法师、常善法师(《中佛协国宗局关于严厉打击“佛骗子”释常善的公告》https://wk.baidu.com/view/1d37de4042323968011ca300a6c30c225801f063)或其粉丝所开的专弘账号。
这些宣扬邪法的邪师账号及其转发的粉丝账号为什么能一直存在而没有被关闭?是否是这些藏密账号能给平台带来可观流量和人气而舍不得删除?
(2)全网搜索中存在的邪师邪教问题。
用百度搜索邪师、通缉犯“义云高”,出来的全是神话、吹捧他的帖子,而那些揭批他的帖子(包括其因诈骗被通缉的帖子)却一个也看不到,这正常吗?可参看《义云高邪师的网络公关能力有多强!》(https://mp.weixin.qq.com/s/Vt7OrgcUo5YExBxNBLYbtA)。
用百度搜索净空法师、海涛法师、常善法师、萧平实等邪师名字,出来的则多是其讲法或吹捧他们的帖子,而且还是在搜索结果的首页。为什么有关部门早已定性其为邪师,网上还有这么多弘扬他们的内容?为什么这么多年过去了,这些邪师邪教的东西依然占据网络搜索主页?到底是不能为,还是不愿为,问题究竟出在哪里?难道出了问题就都是个案、个别问题?
最后我想说,任何一个网络用户都有权利提出网络存在的问题和不足,至于如何解决,能解决多少,那是专家操心的事。术业有专攻,非要成为某方面的专家才能发表意见,这是堵我们用户的嘴。遇到质疑,就指责对方不够资格批评,看来也绝非密粉的专利。
作为佛弟子,爱国爱教是我们义不容辞的责任。我没办法做到,看到网络上一大堆乱七八糟的东西祸害众生、危及国家安全和社会稳定,祸乱汉传佛教,而像某些人一样视而不见。只要看见不如法、不合理的事情,我就会说,提出我的看法和建议,这是我的权利和义务。
支振锋:评《网络信息内容生态治理规定》
https://mp.weixin.qq.com/s/hyy2xfh9JyRJGxpDvMyWcg
【贤佳】那位居士回复说:
我建议他在他反对的使用推荐机制的app里用头条号试试。每个平台的内容审查机制会有差异,他最担心的这种推荐机制,今日头条是最大的使用者。在今日头条的app里自己体验一下平台的内容发布、举报删除机制,再反过头来审视一下自己“如果一个人出于好奇,搜索了淫秽色情、藏密喇嘛教、轮子功、西方伪民主、港独、藏独、宗教极端思想等内容,然后,机器会根据算法,投其所好的持续大量推送如上内容,等于用户被恶劣信息不断染污和洗脑,还无法停止信息发送,后果可想而知”,这个推论的站不住脚。
【居士】我试了一下,暂时没有发现我所担心的问题出现,看来各平台确有内容审查。但是,推荐内容也是来自海量搜索结果,然后进行机器和人工筛选,各平台的标准是怎么样的?是否合适?即使标准没问题,具体到实际内容的判定判断也是存在很大问题的。
就拿藏密喇嘛教来说,擅长搞相似法,如汉传双修原本是指福慧双修,却被藏密曲解为淫欲双修。而且邪师邪法就像病毒一样不断有新的变种出现,但本质依然致病、致命。比如现在佛教界质疑、揭批藏密的声音多了,藏密喇嘛现在改变策略了,不再直接讲藏密,而改讲汉传经典。如索达吉现在居然在讲《楞严经》,慈诚罗珠在讲《坛经》,还有喇嘛讲净土。讲的怎么样呢?新瓶装旧脏水,还是喇嘛教的那一套。比如讲净土,居然说到了极乐世界也要双修,阿弥陀佛也有自己的双修佛母,等等,内行看来荒唐至极,外行难以分辨,危害更大。
邪师邪法教义上的相似偏差、暗藏邪谬,不要说一般老百姓分辨不了,就是很多所谓高僧、名僧也被忽悠去修学藏密邪法,如能海、清定、隆莲、智敏等一干名法师,要不然不会现在汉传那么多僧俗修学藏密邪法。而且不光佛教有附佛外道、邪师邪教,五大宗教都有。
期望各平台的所有内容审查人员,把这些宗教教义都搞清楚,弄明白,我认为不现实。所以,我觉得最好的办法就是要么取消推荐内容,要么推荐内容不涉及宗教、政治。政治还略好一点,可以国家的官媒的口径为准,宗教则建议完全不要涉及。看看百度百科上对那些藏密喇嘛的介绍,以及某些佛教教义的解释,真的让人郁闷。如果推荐内容非要涉及宗教,建议把涉及宗教的内容先送有关部门审查,审查通过再发布。
此外,各平台内容审查人员就像饭店里的厨师,他们的品味高低决定推荐内容的质量。他们如果是重口味,那顾客吃到嘴里的菜品可想而知也会是重口味。所以,建议对各平台内容审查人员定期培训和考核,用提高他们素养的办法来提高整个推荐内容的质量。