“網(wǎng)絡(luò)平臺(tái)算法治理”系列評(píng)

　　之一：“算法濫用”該清一清了

　　半月談評(píng)論員 烏夢(mèng)達(dá) 陽娜

　　這是很多人的共同感受：閱讀某篇新聞或文章后，App就會(huì)接連不斷地推送同類內(nèi)容;誤點(diǎn)某條推送鏈接或不經(jīng)意聊到某個(gè)話題，App頁面也會(huì)頻繁展示相關(guān)信息;養(yǎng)生類信息專挑老年人推送，游戲類內(nèi)容總推送給青少年……當(dāng)前，算法推薦成為網(wǎng)絡(luò)平臺(tái)的“標(biāo)配”，在提高信息傳播的效率的同時(shí)，也為普通用戶制造了很多信息陷阱。

　　近日，中央網(wǎng)信辦等四部門啟動(dòng)“清朗·網(wǎng)絡(luò)平臺(tái)算法典型問題治理”專項(xiàng)行動(dòng)。專項(xiàng)行動(dòng)重點(diǎn)整治同質(zhì)化推送營(yíng)造“信息繭房”等典型問題，重錘落地，釋放強(qiáng)烈信號(hào)：加大對(duì)算法濫用的整治力度，清朗網(wǎng)絡(luò)環(huán)境。

　　算法本質(zhì)是技術(shù)，但其設(shè)計(jì)者和規(guī)則本身卻能產(chǎn)生巨大社會(huì)影響。公眾享受著算法帶來的諸多便捷，同時(shí)也對(duì)“算法濫用”詬病已久。

　　“信息繭房”是算法推薦備受詬病的問題之一。頻繁推送用戶感興趣的同質(zhì)化內(nèi)容，甚至以博人眼球的劣質(zhì)低俗內(nèi)容取悅用戶，在這樣的算法機(jī)制下，用戶接收信息的范圍越來越窄，渠道越來越單一，從而陷入“信息繭房”。算法成為網(wǎng)絡(luò)世界的“內(nèi)容編輯”，網(wǎng)絡(luò)世界被分割為不同的“繭房”，不同的人群被割裂在各自的“信息房子”里，難以接收到不同的聲音。

　　算法推薦一定程度上也助推了網(wǎng)絡(luò)沉迷。被動(dòng)嵌入“算法黑箱”的公眾不知不覺地被“粘”在了各類手機(jī)應(yīng)用中，視頻、電商、社交娛樂等占據(jù)了信息內(nèi)容消費(fèi)的大頭。受到平臺(tái)給予的時(shí)長(zhǎng)激勵(lì)或獎(jiǎng)金紅包等誘惑，打卡、久駐平臺(tái)成為日常習(xí)慣，“網(wǎng)癮老年”群體正日益擴(kuò)大;智能設(shè)備和算法推薦導(dǎo)致未成年人網(wǎng)絡(luò)沉迷呈現(xiàn)新特點(diǎn)……長(zhǎng)期受困其中的用戶就像“溫水里的青蛙”，沉迷網(wǎng)絡(luò)而不自知。

　　還有一種常被忽略的算法濫用是算法偏見。女性群體和低收入群體更關(guān)注娛樂八卦內(nèi)容，男性群體和高收入群體更關(guān)注財(cái)經(jīng)時(shí)政等信息，青少年更愛游戲，老年人更愛養(yǎng)生……在算法的世界里，看似中立的群體劃分標(biāo)準(zhǔn)卻暗含了對(duì)用戶群體品味、價(jià)值取向、消費(fèi)能力的偏見。由于存在群體刻板標(biāo)簽，算法很難保持中立和客觀，偏見會(huì)不斷被強(qiáng)化。

　　此次專項(xiàng)行動(dòng)也針對(duì)這些問題出招：提出構(gòu)建“信息繭房”防范機(jī)制，提升推送內(nèi)容多樣性豐富性;規(guī)范設(shè)置“不感興趣”等負(fù)反饋功能;持續(xù)優(yōu)化完善面向未成年人、老年人的算法推薦服務(wù)等?？梢哉f，此次專項(xiàng)行動(dòng)是對(duì)平臺(tái)算法規(guī)則制定的一次有益糾偏，給互聯(lián)網(wǎng)時(shí)代不斷擴(kuò)張和升級(jí)的算法找到合理的邊界和規(guī)則。

　　除平臺(tái)整改外，相關(guān)部門的監(jiān)管也不可缺位。公眾期待，監(jiān)管部門形成事前、事中、事后常態(tài)監(jiān)管機(jī)制，構(gòu)建“信息繭房”防范機(jī)制，引導(dǎo)和監(jiān)督平臺(tái)重塑正確價(jià)值導(dǎo)向，提升平臺(tái)算法邏輯的透明度。同時(shí)，加大技術(shù)在監(jiān)管過程中的應(yīng)用，提高監(jiān)管的高效和精準(zhǔn)度。如有必要，可設(shè)立專門機(jī)構(gòu)對(duì)算法“黑箱”操作進(jìn)行全面審查，并推進(jìn)技術(shù)問責(zé)制度，強(qiáng)化對(duì)算法濫用的追責(zé)。此外，還應(yīng)敦促平臺(tái)合規(guī)自治，解除固有標(biāo)簽，提升用戶的選擇權(quán)，豐富用戶的“內(nèi)容池”。

　　算法要升級(jí)，更要回歸服務(wù)公眾的本質(zhì)中來。期待未來在算法和用戶的長(zhǎng)期交互中，讓用戶能重新找回信息自主權(quán)，真正“破繭而出”。

　　之二：對(duì)算法加持的大數(shù)據(jù)“殺熟”要精準(zhǔn)打擊

　　半月談評(píng)論員 烏夢(mèng)達(dá) 陽娜

　　作為某App會(huì)員預(yù)訂機(jī)票時(shí)，機(jī)票價(jià)格在填寫信息后卻突然上漲;不同用戶在同一平臺(tái)上預(yù)訂房間，價(jià)格卻明顯不同……一段時(shí)間以來，在網(wǎng)絡(luò)社交平臺(tái)、投訴平臺(tái)上，備受詬病的大數(shù)據(jù)“殺熟”非但沒消失，反而屢見不鮮。

　　近日，中央網(wǎng)信辦等四部門開展“清朗·網(wǎng)絡(luò)平臺(tái)算法典型問題治理”專項(xiàng)行動(dòng)。其中鮮明提出，嚴(yán)禁利用算法實(shí)施大數(shù)據(jù)“殺熟”，再次對(duì)這一亂象敲響了警鐘。

　　會(huì)員價(jià)格更高、買得越多越貴、頻繁瀏覽會(huì)自動(dòng)漲價(jià)、只提供符合用戶特點(diǎn)的商品或服務(wù)……如今，無論打網(wǎng)約車、訂外賣還是電商購物，算法早已嵌入各個(gè)領(lǐng)域。在算法的加持下，大數(shù)據(jù)“殺熟”不斷升級(jí)，“千人千價(jià)”在網(wǎng)絡(luò)購物中越發(fā)普遍。

　　從消費(fèi)者下載一款A(yù)pp并點(diǎn)擊同意“用戶使用協(xié)議”那一刻起，平臺(tái)開發(fā)者實(shí)時(shí)獲取用戶相關(guān)數(shù)據(jù)，以此構(gòu)建清晰的“用戶畫像”，并使用機(jī)器學(xué)習(xí)算法進(jìn)行分析，預(yù)測(cè)購買意圖和支付能力。購物越頻繁，平臺(tái)獲取的訓(xùn)練數(shù)據(jù)就越多，算法就越優(yōu)化，以動(dòng)態(tài)調(diào)整定價(jià)策略，確保獲取更大利潤(rùn)。

　　某種程度上，算法正扯下大數(shù)據(jù)“殺熟”的遮羞布。相較過去的線下“宰生客”，現(xiàn)在的線上“殺熟客”套路更多。

　　大數(shù)據(jù)“殺熟”頑疾為何難以根治?一方面，由于算法具有技術(shù)門檻，算法“黑箱”普遍存在，“算法涉及商業(yè)秘密”成了企業(yè)和平臺(tái)規(guī)避責(zé)任和監(jiān)管的“保護(hù)傘”。

　　另一方面，侵權(quán)判定界限模糊、維權(quán)成本高、取證舉證難，也讓許多被“殺熟”的用戶對(duì)維權(quán)望而卻步。平臺(tái)的“殺熟”發(fā)放機(jī)制往往看上去很隨機(jī)，還常常標(biāo)注“時(shí)間不同、地點(diǎn)差異導(dǎo)致價(jià)格浮動(dòng)”“新用戶有優(yōu)惠”等字樣，以此為大數(shù)據(jù)“殺熟”行為進(jìn)行開脫。這也是為什么大量基于算法引發(fā)的網(wǎng)購?fù)对V中，鮮有獲賠成功案例的原因。

　　此次治理對(duì)整治大數(shù)據(jù)“殺熟”提出了明確要求：嚴(yán)禁利用用戶年齡、職業(yè)、消費(fèi)水平等特征，對(duì)相同商品實(shí)施差異化定價(jià)行為;提升優(yōu)惠促銷透明度，清晰說明優(yōu)惠券的領(lǐng)取條件、發(fā)放數(shù)量和使用規(guī)則等內(nèi)容;客觀如實(shí)說明優(yōu)惠券領(lǐng)取失敗原因，嚴(yán)禁以“來晚了”“擦肩而過”等提示詞掩蓋真實(shí)原因。

　　算法本身中立，但算法的規(guī)則制定、模型設(shè)計(jì)、數(shù)據(jù)分析等并非完全客觀;算法固然是商業(yè)秘密，但算法應(yīng)用涉及的往往是社會(huì)公共利益，濫用算法危害的是千千萬萬消費(fèi)者的合法權(quán)益。

　　要真正打破算法“黑箱”，需要健全算法定價(jià)機(jī)制和信息披露機(jī)制，提升平臺(tái)算法邏輯、定價(jià)規(guī)則等的透明度。此外，要暢通消費(fèi)者的舉報(bào)途徑，加大技術(shù)在監(jiān)管過程中的應(yīng)用，提高監(jiān)管的高效和精準(zhǔn)度，真正讓大數(shù)據(jù)“殺熟”行為無處遁形。

　　企業(yè)追求商業(yè)利益的同時(shí)，更要維護(hù)公眾的合法權(quán)益。由此，平臺(tái)才能得到長(zhǎng)久的良性發(fā)展，算法也才能回歸科技向善的初衷。別讓一時(shí)的算法“算計(jì)”，弄丟了消費(fèi)者的長(zhǎng)期信任。

　　之三：讓“困在算法里的勞動(dòng)者”真正走出來

　　半月談評(píng)論員 烏夢(mèng)達(dá) 張驍

　　近日，中央網(wǎng)信辦等四部門聯(lián)合發(fā)布《關(guān)于開展“清朗·網(wǎng)絡(luò)平臺(tái)算法典型問題治理”專項(xiàng)行動(dòng)的通知》，明確將盲目追求利益侵害新就業(yè)形態(tài)勞動(dòng)者權(quán)益列為主要整治任務(wù)之一，同步細(xì)化工作目標(biāo)、安排、要求和治理清單指引。

　　通知一出即沖上熱搜，原因不難分析：整治行動(dòng)回應(yīng)網(wǎng)民關(guān)切，彰顯監(jiān)管以人為本的導(dǎo)向，直面平臺(tái)經(jīng)濟(jì)發(fā)展頑疾，后續(xù)成效值得社會(huì)期待。

　　作為平臺(tái)經(jīng)濟(jì)運(yùn)轉(zhuǎn)核心，算法理應(yīng)將公共安全、社會(huì)責(zé)任納入考量。一味將算法視為競(jìng)爭(zhēng)壁壘、盈利工具，這種“算計(jì)的方法”必將得出錯(cuò)誤結(jié)果，自然要接受檢視與糾正。

　　據(jù)相關(guān)統(tǒng)計(jì)，我國外賣員群體近一千萬人，廣大騎手跑出平臺(tái)發(fā)展“加速度”，但不少人反映單子越接越多，收入?yún)s沒漲反降;受配送企業(yè)派單系統(tǒng)考核影響，很多騎手為降低超時(shí)率鋌而走險(xiǎn)，交通違法行為、道路事故頻發(fā)。為了辛勞過后多一些回報(bào)，個(gè)別“小哥”每天接上百單、只睡四小時(shí)，商家一次慢出餐、消費(fèi)者一次投訴，就可能擊穿一個(gè)成年人的心理防線。

　　算法世界中，勞動(dòng)者、消費(fèi)者被“精準(zhǔn)畫像”，全部行為、訂單、路線被轉(zhuǎn)化為商業(yè)模式提質(zhì)增效的數(shù)據(jù)。然而，再精致的算法也評(píng)估不了勞動(dòng)者的身心健康，量化不了無序發(fā)展給城市運(yùn)行帶來的擾動(dòng)。不能因?yàn)槠脚_(tái)掙錢了、消費(fèi)者享受了，就忽視串聯(lián)供需兩端的勞動(dòng)者的境遇感受。

　　近日召開的國務(wù)院常務(wù)會(huì)議明確指出，發(fā)展平臺(tái)經(jīng)濟(jì)事關(guān)擴(kuò)內(nèi)需、穩(wěn)就業(yè)、惠民生，事關(guān)賦能實(shí)體經(jīng)濟(jì)、發(fā)展新質(zhì)生產(chǎn)力，要進(jìn)一步加強(qiáng)對(duì)平臺(tái)經(jīng)濟(jì)健康發(fā)展的統(tǒng)籌指導(dǎo)。說到底，推進(jìn)網(wǎng)絡(luò)平臺(tái)算法典型問題治理，不再被算法“困住”，是為了平臺(tái)經(jīng)濟(jì)長(zhǎng)遠(yuǎn)健康發(fā)展，更好造福民生福祉。

　　讓“困在算法里的勞動(dòng)者”真正走出來，監(jiān)管要能“拽一把”?！锻ㄖ访鞔_，要嚴(yán)防一味壓縮配送時(shí)間導(dǎo)致配送超時(shí)率、交通違章率、事故發(fā)生率上升等問題。要看到，在復(fù)雜算法面前，勞動(dòng)者仍處于弱勢(shì)地位，放大監(jiān)管趨利避害作用，將最大程度推動(dòng)算法“向上向善”。

　　讓“困在算法里的勞動(dòng)者”真正走出來，企業(yè)要敢“曬一曬”?！锻ㄖ访鞔_，要詳細(xì)公示時(shí)間預(yù)估、費(fèi)用計(jì)算、路線規(guī)劃等算法規(guī)則。目前，有企業(yè)視算法為“商業(yè)機(jī)密”，對(duì)待監(jiān)管假話不敢說，面向社會(huì)真話不全說，如果暗藏違法條款、霸王約定，必須一查到底。

　　讓“困在算法里的勞動(dòng)者”真正走出來，小哥要能“說上話”。《通知》明確，搭建暢通的申訴渠道，及時(shí)受理勞動(dòng)者因交通管制、交通事故、惡劣天氣等不可控因素導(dǎo)致的配送超時(shí)等申訴。 保障勞動(dòng)者基本權(quán)益，持續(xù)改善工作體驗(yàn)，要多聽聽勞動(dòng)者本人的意見。

　　讓“困在算法里的勞動(dòng)者”真正走出來，公眾也要“出份力”。當(dāng)前，在算法裹挾下，不少配送員習(xí)慣既有配送方式，一些消費(fèi)者把極速配送視為理所當(dāng)然。推動(dòng)算法回歸安全、合理、高效軌道，公眾也要多一點(diǎn)理解、做一些轉(zhuǎn)變。（來源：半月談新媒體）

　　來源：新華社客戶端