聚焦算法推薦亂象問題 構(gòu)建算法安全治理體系

作者：楊建軍　中國電子技術(shù)標(biāo)準(zhǔn)化研究院黨委書記

隨著大數(shù)據(jù)和人工智能技術(shù)的快速發(fā)展，算法推薦技術(shù)在互聯(lián)網(wǎng)信息服務(wù)中得到廣泛應(yīng)用，與此同時算法應(yīng)用中存在的違法和不良信息傳播、侵害用戶權(quán)益、操縱社會輿論等亂象問題也屢次出現(xiàn)。2021年12月31日，國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部、國家市場監(jiān)督管理總局聯(lián)合發(fā)布《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》（以下簡稱《規(guī)定》）。作為互聯(lián)網(wǎng)信息服務(wù)領(lǐng)域貫徹落實(shí)《網(wǎng)絡(luò)安全法》《數(shù)據(jù)安全法》《個人信息保護(hù)法》的重要舉措，《規(guī)定》聚焦算法推薦服務(wù)亂象問題，構(gòu)建算法安全治理體系，有效規(guī)范了互聯(lián)網(wǎng)信息服務(wù)算法推薦活動。

一、《規(guī)定》為應(yīng)對算法推薦亂象提供指引和規(guī)范

（一）聚焦違法和不良信息傳播問題，引導(dǎo)算法應(yīng)用合理規(guī)范

當(dāng)前，算法推薦服務(wù)提供者在開展新聞信息推送、熱點(diǎn)榜單、信息發(fā)布等活動時，存在傳播違法和不良信息的亂象：一是利用生成合成類算法自動合成新聞、帖子等，未作顯著標(biāo)識造成虛假信息夸大傳播；二是采用定向推送類算法在首頁首屏、彈窗等，扎堆推送惡性案件、災(zāi)難事故等負(fù)面信息誘發(fā)社會恐慌；三是利用排序精選類算法生成熱搜、榜單等，片面追求流量，大肆炒作娛樂八卦、低俗惡俗等有悖社會主義核心價值觀內(nèi)容。

針對違法和不良信息傳播問題，《規(guī)定》明確算法推薦服務(wù)向上向善的原則，提出算法推薦服務(wù)提供者應(yīng)建立健全用于識別違法和不良信息的特征庫、顯著標(biāo)識算法生成合成信息、加強(qiáng)版面頁面生態(tài)管理、重點(diǎn)環(huán)節(jié)積極呈現(xiàn)主流價值導(dǎo)向信息等多項(xiàng)措施，鼓勵符合主流價值導(dǎo)向的正能量傳播。

（二）聚焦侵害用戶權(quán)益亂象，引導(dǎo)算法應(yīng)用公正公平

當(dāng)前，算法推薦服務(wù)提供者在開展調(diào)度決策、個性化推薦等活動時，存在侵害用戶權(quán)益的亂象：一是大數(shù)據(jù)殺熟問題，即根據(jù)消費(fèi)者的偏好、交易習(xí)慣等特征，在交易價格等交易條件上實(shí)行不合理的差別待遇；二是誘導(dǎo)沉迷網(wǎng)絡(luò)問題，即設(shè)置誘導(dǎo)用戶沉迷、過度消費(fèi)的算法模型，尤其是利用算法推薦誘導(dǎo)未成年人沉迷網(wǎng)絡(luò)；三是勞動權(quán)益保障問題，采用調(diào)度決策類算法進(jìn)行工作調(diào)度時，未保障平臺內(nèi)勞動就業(yè)者（如網(wǎng)約配送員、網(wǎng)約車駕駛員等）在勞務(wù)報(bào)酬、休息休假等方面的勞動權(quán)益；四是偏見歧視問題，將違法和不良信息關(guān)鍵詞記入用戶興趣點(diǎn)，或者設(shè)置歧視性、偏見性用戶標(biāo)簽來推送信息內(nèi)容；五是未成年人和老年人權(quán)益保障問題，向未成年人推送可能影響身心健康的信息，未充分考慮老年人適老化需求等。

針對侵害用戶權(quán)益亂象，《規(guī)定》明確算法推薦服務(wù)公正公平的原則，提出算法推薦服務(wù)提供者應(yīng)定期審核評估算法、加強(qiáng)用戶模型和用戶標(biāo)簽管理、公開算法推薦服務(wù)相關(guān)規(guī)則、保障用戶選擇或退出使用算法推薦服務(wù)的權(quán)利、建立用戶申訴渠道等多種措施，保障未成年人、老年人、勞動者權(quán)益，引導(dǎo)算法應(yīng)用遵守社會公德和倫理，遵守商業(yè)道德和職業(yè)道德。

（三）聚焦操縱社會輿論亂象，引導(dǎo)算法應(yīng)用公開透明

當(dāng)前，算法推薦服務(wù)提供者在開展個性化推薦、熱點(diǎn)榜單、信息發(fā)布等活動時，存在操縱社會輿論亂象：一是采用個性化推薦算法按照用戶偏好頻繁推薦感興趣的內(nèi)容，久而久之形成用戶意見極化的“信息繭房”；二是利用算法注冊虛假賬號、雇傭網(wǎng)絡(luò)水軍，實(shí)施虛假點(diǎn)贊、轉(zhuǎn)發(fā)等流量造假，或者鼓動“飯圈”粉絲互撕謾罵、刷量控評等飯圈亂象；三是利用算法屏蔽信息、過度推薦，操縱干預(yù)熱搜、榜單或檢索結(jié)果排序；四是實(shí)施自我優(yōu)待，影響網(wǎng)絡(luò)輿論、規(guī)避監(jiān)管，如惡意屏蔽其他企業(yè)的網(wǎng)址鏈接等。

針對操縱社會輿論亂象，《規(guī)定》明確算法推薦服務(wù)公開透明的原則，鼓勵算法推薦服務(wù)提供者綜合運(yùn)用內(nèi)容去重、打散干預(yù)等策略、增強(qiáng)規(guī)則透明度和可解釋性；明確規(guī)定算法推薦服務(wù)禁止行為，如不得利用算法對其他互聯(lián)網(wǎng)信息服務(wù)提供者進(jìn)行不合理限制等，保障國家安全、公共利益及組織和個人合法權(quán)益。

二、《規(guī)定》為國家建立算法安全治理體系打下制度基礎(chǔ)

（一）強(qiáng)化企業(yè)主體責(zé)任，建立多方參與的算法推薦服務(wù)治理機(jī)制

《規(guī)定》圍繞算法推薦服務(wù)，建立政府、企業(yè)、行業(yè)組織和網(wǎng)民多方參與的治理機(jī)制。一是明確政府監(jiān)管職責(zé)?！兑?guī)定》明確國家網(wǎng)信部門負(fù)責(zé)統(tǒng)籌協(xié)調(diào)全國算法推薦服務(wù)治理和監(jiān)督管理工作，工信、公安、市場監(jiān)管等有關(guān)部門依據(jù)各自職責(zé)負(fù)責(zé)監(jiān)督管理工作，同時通過《關(guān)于加強(qiáng)互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見》建立網(wǎng)信、宣傳、教育、科技等多部門協(xié)同聯(lián)動長效機(jī)制，共同開展算法安全治理工作；二是強(qiáng)化企業(yè)主體責(zé)任。《規(guī)定》要求算法推薦服務(wù)提供者應(yīng)當(dāng)落實(shí)算法安全主體責(zé)任，建立健全算法安全管理制度和技術(shù)措施，配備相應(yīng)的專業(yè)人員和技術(shù)支撐；三是鼓勵行業(yè)自律?！兑?guī)定》鼓勵相關(guān)行業(yè)組織加強(qiáng)行業(yè)自律，建立健全行業(yè)準(zhǔn)則，督促指導(dǎo)算法推薦服務(wù)提供者接受社會監(jiān)督；四是倡導(dǎo)社會監(jiān)督?！兑?guī)定》鼓勵廣大網(wǎng)民積極參與算法安全治理工作，要求算法推薦服務(wù)提供者設(shè)置公眾投訴舉報(bào)入口，及時處理網(wǎng)民投訴舉報(bào)請求。

（二）創(chuàng)新技術(shù)監(jiān)管模式，建立事前事中事后的算法推薦服務(wù)監(jiān)管措施

《規(guī)定》提出貫穿算法推薦服務(wù)事前事中事后的監(jiān)管體系。一是分級分類安全管理?！兑?guī)定》根據(jù)算法推薦服務(wù)的輿論屬性或者社會動員能力、用戶規(guī)模、處理的數(shù)據(jù)敏感程度等對服務(wù)提供者實(shí)施分級分類管理，并對具有輿論屬性或者社會動員能力的算法推薦服務(wù)提供者提出更嚴(yán)格的管理要求；二是建立算法備案制度?！兑?guī)定》要求具有輿論屬性或者社會動員能力的算法推薦服務(wù)提供者在提供服務(wù)之日起十個工作日內(nèi)，對服務(wù)提供者的名稱、服務(wù)形式、應(yīng)用領(lǐng)域等信息進(jìn)行備案；三是建立算法安全評估機(jī)制。《規(guī)定》要求具有輿論屬性或者社會動員能力的算法推薦服務(wù)提供者應(yīng)按照國家有關(guān)規(guī)定開展安全評估；四是開展算法監(jiān)督檢查?！兑?guī)定》規(guī)定網(wǎng)信部門會同有關(guān)部門開展算法安全評估和監(jiān)督檢查工作，同時嚴(yán)厲打擊算法推薦違法違規(guī)行為。

三、小結(jié)

互聯(lián)網(wǎng)信息服務(wù)算法安全管理以《規(guī)定》為基礎(chǔ)，打造政府監(jiān)管、企業(yè)履責(zé)、行業(yè)自律、社會監(jiān)督的算法安全多元共治局面，在促進(jìn)算法健康、有序、繁榮發(fā)展，營造風(fēng)清氣正的網(wǎng)絡(luò)空間，弘揚(yáng)社會主義核心價值觀的道路上邁出了重要的一步。下一步為貫徹落實(shí)《規(guī)定》可開展以下措施：

一是大力加強(qiáng)《規(guī)定》宣傳貫徹培訓(xùn)。做好《規(guī)定》宣傳推廣、普及培訓(xùn)，面向互聯(lián)網(wǎng)企業(yè)、人工智能企業(yè)、重點(diǎn)行業(yè)企業(yè)等開展針對性宣傳解讀，形成共識；鼓勵行業(yè)組織制定行業(yè)自律規(guī)則，指導(dǎo)會員加強(qiáng)算法推薦行業(yè)自律；針對廣大網(wǎng)民當(dāng)前最關(guān)心、反映最強(qiáng)烈的算法安全問題，積極開展算法安全科普培訓(xùn)，形成國家、企業(yè)、個人共同參與算法安全治理工作的良好局面。

二是建立算法安全檢查評估機(jī)制。盡快建立《規(guī)定》配套的算法安全檢查評估機(jī)制，推動算法推薦服務(wù)提供者開展算法安全自評估，督促具有輿論屬性或者社會動員能力的算法推薦服務(wù)者按照國家有關(guān)規(guī)定開展算法安全評估，建設(shè)安全檢查評估力量，支撐有關(guān)部門對算法推薦服務(wù)進(jìn)行安全檢查，督促算法推薦服務(wù)提供者及時發(fā)現(xiàn)和整改相關(guān)問題。

三是開展算法安全技術(shù)能力建設(shè)。算法推薦技術(shù)作為一種新技術(shù)模式，面臨一些新型技術(shù)安全、應(yīng)用安全甚至倫理安全風(fēng)險，為支撐《規(guī)定》落地實(shí)施，亟需加強(qiáng)算法安全技術(shù)能力建設(shè)，深入研究生成合成、個性化推薦、排序精選、檢索過濾、調(diào)度決策等算法的安全問題，建設(shè)算法推薦服務(wù)備案、算法安全評估、算法安全風(fēng)險監(jiān)測等平臺，提升互聯(lián)網(wǎng)信息服務(wù)算法推薦技術(shù)監(jiān)管能力。

四是加強(qiáng)算法安全標(biāo)準(zhǔn)化工作。基于問題導(dǎo)向、急用先行原則，加快推動算法相關(guān)技術(shù)標(biāo)準(zhǔn)發(fā)布，研究制定算法安全評估、算法分級分類安全管理等標(biāo)準(zhǔn)，進(jìn)一步發(fā)揮標(biāo)準(zhǔn)對算法安全評估等工作的支撐作用；積極開展新技術(shù)新應(yīng)用標(biāo)準(zhǔn)化前瞻研究，圍繞人工智能、區(qū)塊鏈等新技術(shù)新應(yīng)用帶來的安全問題和風(fēng)險挑戰(zhàn)，開展標(biāo)準(zhǔn)化前沿研究和標(biāo)準(zhǔn)化技術(shù)文件研制，不斷提升標(biāo)準(zhǔn)化工作的引領(lǐng)性、前瞻性。

加強(qiáng)算法治理 建設(shè)未成年人友好型的網(wǎng)絡(luò)空間

作者：林維　中國社會科學(xué)院大學(xué)副校長、教授、互聯(lián)網(wǎng)法治研究中心主任

習(xí)近平總書記指出：網(wǎng)絡(luò)空間是億萬民眾共同的精神家園，網(wǎng)絡(luò)空間天朗氣清、生態(tài)良好，符合人民利益。網(wǎng)絡(luò)空間烏煙瘴氣、生態(tài)惡化，不符合人民利益。未成年人的網(wǎng)絡(luò)生態(tài)建設(shè)是這一精神家園建設(shè)中的重要任務(wù)之一。

十余年來，未成年網(wǎng)民的規(guī)模呈現(xiàn)不斷增長的趨勢。據(jù)中國互聯(lián)網(wǎng)絡(luò)信息中心第48次《中國互聯(lián)網(wǎng)絡(luò)發(fā)展?fàn)顩r統(tǒng)計(jì)報(bào)告》顯示，截至2021年6月，我國網(wǎng)民規(guī)模為10.11億，6－19歲網(wǎng)民占15.7％，共1.58億人。同時根據(jù)第十次中國未成年人互聯(lián)網(wǎng)運(yùn)用調(diào)查顯示，我國未成年人互聯(lián)網(wǎng)普及率為99.2％，顯著高于71.6％的全國平均普及率。

網(wǎng)絡(luò)為未成年人帶來了嶄新的生存方式，也引發(fā)了未成年人網(wǎng)絡(luò)保護(hù)的挑戰(zhàn)問題，未成年人的網(wǎng)絡(luò)生活、交往成為其生活交往中無法擺脫、無法分割的一部分，線上線下的二元化生活加快了一元融合的節(jié)奏。未成年人的網(wǎng)絡(luò)參與行為成為社會網(wǎng)絡(luò)行為的重要構(gòu)建內(nèi)容，其在網(wǎng)絡(luò)生態(tài)建設(shè)中的主體地位勢必應(yīng)當(dāng)?shù)玫匠姓J(rèn)和確立。網(wǎng)絡(luò)強(qiáng)國的未來主體必定是一代又一代成長中的未成年人。無論是網(wǎng)絡(luò)新技術(shù)的發(fā)展，還是網(wǎng)絡(luò)新生活的構(gòu)建，乃至網(wǎng)絡(luò)新文化的傳承，都依賴一代又一代已經(jīng)成為網(wǎng)絡(luò)原住民的未成年人的發(fā)展與成長。因此，網(wǎng)絡(luò)生態(tài)建設(shè)的任務(wù)之一就是要建設(shè)一個未成年人友好型的網(wǎng)絡(luò)空間。

《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》（以下簡稱《規(guī)定》）的制定和實(shí)施，為我國未成年人網(wǎng)絡(luò)權(quán)益保護(hù)的制度框架提供了重要的組成部分，繼《未成年人保護(hù)法》《兒童個人信息網(wǎng)絡(luò)保護(hù)規(guī)定》《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》等法律文件之后，在算法領(lǐng)域構(gòu)建了未成年人網(wǎng)絡(luò)權(quán)益保護(hù)的基本綱領(lǐng)，提供了保護(hù)和發(fā)展并行的中國方案。

首先，《規(guī)定》制定了未成年人保護(hù)專條（第十八條），專門針對未成年人權(quán)益保護(hù)規(guī)定了算法推薦服務(wù)提供者的一系列義務(wù)，要求向未成年人提供服務(wù)時，“應(yīng)當(dāng)依法履行未成年人網(wǎng)絡(luò)保護(hù)義務(wù)，并通過開發(fā)適合未成年人使用的模式、提供適合未成年人特點(diǎn)的服務(wù)等方式，便利未成年人獲取有益身心健康的信息?！痹诰唧w禁止性義務(wù)層面，該條進(jìn)一步規(guī)定，“算法推薦服務(wù)提供者不得向未成年人推送可能引發(fā)未成年人模仿不安全行為和違反社會公德的行為、誘導(dǎo)未成年人不良嗜好等可能影響未成年人身心健康的信息，不得利用算法推薦服務(wù)誘導(dǎo)未成年人沉迷網(wǎng)絡(luò)?！?/p>

未成年人保護(hù)專條從積極義務(wù)和消極義務(wù)兩個方面，構(gòu)建了算法推薦服務(wù)提供者的未成年人保護(hù)義務(wù)體系。這意味著，算法推薦服務(wù)提供者不僅需要筑起保護(hù)未成年人免受不良信息侵害的防護(hù)墻，還需要為未成年人獲取有益信息承擔(dān)積極主動的社會責(zé)任，通過在未成年人模式等專門模式下，建設(shè)并不斷充實(shí)健康向上、適合未成年人身心特點(diǎn)、具備良好使用體驗(yàn)和充分吸引力的內(nèi)容池，保護(hù)和發(fā)展并重，為未成年人積極構(gòu)建風(fēng)清氣朗的網(wǎng)絡(luò)空間，保證未成年人可以通過網(wǎng)絡(luò)繼續(xù)拓展視野、發(fā)展自我，建設(shè)未成年人友好型的網(wǎng)絡(luò)空間。

特別需要指出的是，《規(guī)定》強(qiáng)調(diào)了《未成年人保護(hù)法》網(wǎng)絡(luò)保護(hù)專章中確認(rèn)的不得誘導(dǎo)未成年人沉迷網(wǎng)絡(luò)的規(guī)定。算法作為移動互聯(lián)網(wǎng)時代的重要技術(shù)創(chuàng)新，算法推薦服務(wù)的重要特點(diǎn)即在于能夠通過判斷和預(yù)測用戶偏好，向用戶推送個性化的服務(wù)內(nèi)容。未成年人存在認(rèn)知、判斷能力較弱，價值觀尚未成型等特點(diǎn)，針對性過強(qiáng)的算法推送內(nèi)容有可能引發(fā)各種不良效果，亦可能導(dǎo)致沉迷網(wǎng)絡(luò)現(xiàn)象。針對這一重點(diǎn)問題做出明確的強(qiáng)調(diào)和規(guī)定，體現(xiàn)了《規(guī)定》強(qiáng)化落實(shí)算法領(lǐng)域防沉迷義務(wù)的堅(jiān)定態(tài)度。

其次，在未成年人保護(hù)專條之外，《規(guī)定》從內(nèi)容生態(tài)治理、用戶標(biāo)簽管理、用戶權(quán)益保護(hù)多個層面對于算法推薦服務(wù)構(gòu)建全流程、深層次的監(jiān)管框架，為未成年人權(quán)益保護(hù)構(gòu)建了多重屏障。

從內(nèi)容生態(tài)治理角度，《規(guī)定》不僅提出了原則性要求，更是對于算法技術(shù)實(shí)現(xiàn)的全過程進(jìn)行重點(diǎn)環(huán)節(jié)干預(yù)，例如要求“建立健全用于識別違法和不良信息的特征庫，完善入庫標(biāo)準(zhǔn)、規(guī)則和程序”，以及對于算法生成合成信息的顯著標(biāo)識義務(wù)，從源頭對于信息內(nèi)容的技術(shù)控制提出要求（第九條）。從用戶標(biāo)簽管理角度，《規(guī)定》要求“加強(qiáng)用戶模型和用戶標(biāo)簽管理，完善記入用戶模型的興趣點(diǎn)規(guī)則和用戶標(biāo)簽管理規(guī)則，不得將違法和不良信息關(guān)鍵詞記入用戶興趣點(diǎn)或者作為用戶標(biāo)簽并據(jù)以推送信息”，這對于防范未成年人接觸違法和不良信息尤其重要。與之相對應(yīng)的是用戶權(quán)益保護(hù)領(lǐng)域，《規(guī)定》在《個人信息保護(hù)法》關(guān)于自動化決策的規(guī)定基礎(chǔ)之上，進(jìn)一步要求算法推薦服務(wù)提供者“應(yīng)當(dāng)向用戶提供選擇或者刪除用于算法推薦服務(wù)的針對其個人特征的用戶標(biāo)簽的功能”（第十七條）。這一規(guī)定在行業(yè)合規(guī)中需要結(jié)合不同場景和服務(wù)功能進(jìn)行分別落實(shí)，在未成年人保護(hù)領(lǐng)域則應(yīng)采取最為嚴(yán)格的落實(shí)水準(zhǔn)，應(yīng)當(dāng)為未成年人和其監(jiān)護(hù)人提供充分了解、選擇、刪除的機(jī)制，使其對于針對未成年人自身個人特征的用戶標(biāo)簽掌握較為全面的控制和干預(yù)的權(quán)利，確保未成年人不會因?yàn)椴磺‘?dāng)?shù)臉?biāo)簽設(shè)置以及據(jù)此進(jìn)行的算法推薦服務(wù)而遭受侵害。

《規(guī)定》作為中國首個針對算法推薦服務(wù)制定的專門規(guī)定，在算法治理領(lǐng)域?yàn)閲H社會提供了中國道路和方案，在未成年人網(wǎng)絡(luò)保護(hù)領(lǐng)域，也構(gòu)建了保護(hù)和發(fā)展并重的雙重路徑，強(qiáng)化和完善了體系化的制度構(gòu)建，有助于提升網(wǎng)絡(luò)空間治理體系和治理能力現(xiàn)代化，為建設(shè)未成年人友好型的網(wǎng)絡(luò)空間提供了重要的制度基石。

健全算法推薦治理機(jī)制 推動新技術(shù)安全可信發(fā)展

作者：王愛華　中國信息通信研究院副總工程師

近年來，大數(shù)據(jù)、物聯(lián)網(wǎng)、云計(jì)算等新一代信息技術(shù)快速發(fā)展，數(shù)字化、網(wǎng)絡(luò)化、智能化加速推進(jìn)，新技術(shù)新應(yīng)用新業(yè)態(tài)蓬勃興起。作為數(shù)字經(jīng)濟(jì)時代的重要底層架構(gòu)，算法逐步成為影響內(nèi)容分發(fā)、服務(wù)提供、資源配置的基礎(chǔ)性力量，與此同時，算法也引發(fā)了群體歧視、算法合謀、信息繭房等一系列問題，給公眾利益、社會穩(wěn)定和國家安全帶來巨大挑戰(zhàn)。習(xí)近平總書記多次強(qiáng)調(diào)，要依法加強(qiáng)網(wǎng)絡(luò)社會管理，加強(qiáng)網(wǎng)絡(luò)新技術(shù)新應(yīng)用的管理，確?；ヂ?lián)網(wǎng)可管可控。2021年12月31日，國家網(wǎng)信辦聯(lián)合工業(yè)和信息化部、公安部、市場監(jiān)管總局出臺《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》（以下簡稱《規(guī)定》），針對當(dāng)前突出問題，全面搭建了算法綜合治理機(jī)制，邁出我國新技術(shù)新應(yīng)用立法的重要一步。

一、堅(jiān)持問題導(dǎo)向，聚焦人民群眾反映強(qiáng)烈的算法問題

堅(jiān)持以人民為中心，是習(xí)近平新時代中國特色社會主義思想的重要內(nèi)容，貫穿于習(xí)近平新時代中國特色社會主義思想的各個方面。全面貫徹落實(shí)以人民為中心，要求突出問題導(dǎo)向、目標(biāo)導(dǎo)向，積極回應(yīng)群眾強(qiáng)烈訴求和急難愁盼問題。當(dāng)前，算法技術(shù)廣泛滲入互聯(lián)網(wǎng)應(yīng)用，深入貼近人民生活，由算法引發(fā)的信息繭房、算法歧視、未成年人網(wǎng)絡(luò)沉迷、騎手安全、不正當(dāng)競爭等新問題層出不窮，引發(fā)社會廣泛關(guān)注。

《規(guī)定》聚焦重點(diǎn)、抓綱帶目，對上述新問題、新挑戰(zhàn)進(jìn)行了全面、系統(tǒng)和具體回應(yīng)，進(jìn)一步細(xì)化用戶權(quán)利，切實(shí)維護(hù)用戶自主權(quán)利。一是強(qiáng)化算法透明度，保障用戶知情權(quán)。算法透明是實(shí)施算法監(jiān)督、自主選擇的重要前提，也是在損害發(fā)生后用戶進(jìn)行權(quán)利救濟(jì)的必要保障?！兑?guī)定》明確了平臺應(yīng)用算法的告知義務(wù)，對算法基本原理、目的意圖和主要運(yùn)行機(jī)制等的公示義務(wù)，并鼓勵平臺優(yōu)化對檢索、排序、選擇、推送、展示等規(guī)則的透明度和可解釋性。二是賦予用戶退出個性化推薦的權(quán)利。與《個人信息保護(hù)法》《電子商務(wù)法》相銜接，《規(guī)定》第十七條規(guī)定了平臺向用戶提供不針對其個人特征的選項(xiàng)，或者向用戶提供便捷的關(guān)閉算法推薦服務(wù)選項(xiàng)的義務(wù)。三是創(chuàng)新性提出對用戶標(biāo)簽的管理權(quán)，確保用戶對輸入數(shù)據(jù)的適當(dāng)干預(yù)。根據(jù)《規(guī)定》的要求，用戶可選擇或刪除用于算法推薦服務(wù)的針對其個人特征的用戶標(biāo)簽，從輸入數(shù)據(jù)層面實(shí)現(xiàn)更大自主權(quán)。此外，《規(guī)定》重點(diǎn)強(qiáng)化對未成年人、老年人、勞動者、消費(fèi)者等特定群體的權(quán)益保護(hù)。

二、堅(jiān)持底線思維，夯實(shí)平臺算法安全治理的主體責(zé)任

當(dāng)前，人工智能、大數(shù)據(jù)等新技術(shù)新應(yīng)用體現(xiàn)出重大國家戰(zhàn)略意義，關(guān)系國家安全和公共利益，這更加要求我們堅(jiān)持底線思維，著力防范化解算法帶來的政治安全、意識形態(tài)安全、社會秩序等方面重大風(fēng)險。在《網(wǎng)絡(luò)安全法》《數(shù)據(jù)安全法》《個人信息保護(hù)法》等頂層立法框架下，《規(guī)定》與近年國家網(wǎng)信辦出臺的《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》《互聯(lián)網(wǎng)用戶公眾賬號信息服務(wù)管理規(guī)定》《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》《互聯(lián)網(wǎng)直播服務(wù)管理規(guī)定》《具有輿論屬性或社會動員能力的互聯(lián)網(wǎng)信息服務(wù)安全評估規(guī)定》等互聯(lián)網(wǎng)信息服務(wù)相關(guān)法律規(guī)范有效銜接、一脈相承。例如，《規(guī)定》對《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》第十二條個性化算法推薦技術(shù)的人工干預(yù)和自主選擇機(jī)制，以及《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》第十條有關(guān)深度學(xué)習(xí)、虛擬現(xiàn)實(shí)等新技術(shù)新應(yīng)用的安全評估義務(wù)等制度，均作了進(jìn)一步規(guī)定。

基于網(wǎng)絡(luò)平臺的技術(shù)、數(shù)據(jù)優(yōu)勢，強(qiáng)化網(wǎng)絡(luò)平臺在算法運(yùn)行中的全流程主體責(zé)任，成為《規(guī)定》的重要內(nèi)容。一是《規(guī)定》以基于風(fēng)險的規(guī)制為基本理念，確立了算法定期審核、評估等要求。重點(diǎn)強(qiáng)調(diào)對算法相關(guān)的數(shù)據(jù)、模型等進(jìn)行評估審查，規(guī)定平臺應(yīng)當(dāng)定期審核、評估、驗(yàn)證算法機(jī)制機(jī)理、模型、數(shù)據(jù)和應(yīng)用結(jié)果等內(nèi)容，應(yīng)當(dāng)建立健全安全評估監(jiān)測、安全事件應(yīng)急處置等管理制度。二是《規(guī)定》注重技術(shù)治理手段，并確立了負(fù)面清單制度。鼓勵平臺綜合運(yùn)用內(nèi)容去重、打散干預(yù)等技術(shù)策略，積極化解信息繭房，實(shí)現(xiàn)信息多樣性，同時在不正當(dāng)競爭、勞動保障、大數(shù)據(jù)殺熟等方面確立了多項(xiàng)禁止性行為，為算法推薦服務(wù)劃定底線紅線。三是《規(guī)定》重點(diǎn)強(qiáng)調(diào)在網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理中的主體責(zé)任。要求平臺建立健全算法機(jī)制機(jī)理審核、科技倫理審查、用戶注冊、信息發(fā)布審核等管理制度，不得利用算法操縱榜單、控制熱搜等干預(yù)信息呈現(xiàn)，在各個重點(diǎn)環(huán)節(jié)積極呈現(xiàn)符合主流價值導(dǎo)向的信息等。

三、堅(jiān)持良法善治，推進(jìn)新技術(shù)新應(yīng)用監(jiān)管的中國路徑

當(dāng)前，算法等新技術(shù)新應(yīng)用已經(jīng)成為推動企業(yè)數(shù)字化轉(zhuǎn)型和國家治理能力現(xiàn)代化的重要力量，推動算法技術(shù)應(yīng)用中的良法善治意義重大。良法善治意味著應(yīng)堅(jiān)持從中國實(shí)際出發(fā)，立足我國基本國情，統(tǒng)籌考慮經(jīng)濟(jì)社會發(fā)展?fàn)顩r、法治建設(shè)總體進(jìn)程、人民群眾需求變化等綜合因素，借鑒國際社會有益經(jīng)驗(yàn)，確保各項(xiàng)制度設(shè)計(jì)有效落實(shí)?！兑?guī)定》在借鑒國外經(jīng)驗(yàn)基礎(chǔ)上，提出事前監(jiān)管、區(qū)分監(jiān)管、系統(tǒng)監(jiān)管等思路，貢獻(xiàn)了新技術(shù)新應(yīng)用監(jiān)管的中國智慧和中國方案。

一是事前監(jiān)管，確立算法備案、算法評估等制度。《規(guī)定》對具有輿論屬性或者社會動員能力的算法推薦服務(wù)提供者提出了備案要求，要求通過算法備案系統(tǒng)填報(bào)服務(wù)提供者的名稱、服務(wù)形式、應(yīng)用領(lǐng)域、算法類型、算法自評估報(bào)告、擬公示內(nèi)容等信息，有效應(yīng)對算法黑箱問題。針對變更備案信息的要求進(jìn)一步體現(xiàn)了監(jiān)管靈活性和敏捷性優(yōu)勢。二是區(qū)分監(jiān)管，確立分級分類的思路?！兑?guī)定》從全局角度出發(fā)，在復(fù)雜多變局面下統(tǒng)籌發(fā)展和安全、效率和公平、活力和秩序，引導(dǎo)技術(shù)向上向善發(fā)展。其中，第二十三條確立了算法分級分類的標(biāo)準(zhǔn)，要求根據(jù)算法推薦服務(wù)的輿論屬性或者社會動員能力、內(nèi)容類別、用戶規(guī)模、算法推薦技術(shù)處理的數(shù)據(jù)重要程度、對用戶行為的干預(yù)程度等，對算法推薦服務(wù)提供者進(jìn)行差異化管理。三是系統(tǒng)監(jiān)管，建立多元共治的局面?！兑?guī)定》著力完善治理體系，統(tǒng)籌各方建立完整制度鏈條。優(yōu)化監(jiān)管框架，實(shí)現(xiàn)事前事中事后全流程、全鏈條監(jiān)管，增強(qiáng)監(jiān)管系統(tǒng)性和權(quán)威性；注重充實(shí)算法監(jiān)管力量，培育算法治理的社會性支撐力量，如第三方評估機(jī)構(gòu)、外部專家團(tuán)隊(duì)，推動行業(yè)自律和出臺標(biāo)準(zhǔn)指南；推進(jìn)公眾監(jiān)督，暢通社會監(jiān)督和申訴渠道，并切實(shí)有效處理公眾訴求。

整體來看，在立法目的上，《規(guī)定》注重推動算法安全可信和技術(shù)創(chuàng)新之間的有效平衡。一方面建立健全算法安全治理機(jī)制，構(gòu)建完善的算法安全監(jiān)管體系，另一方面，注重推進(jìn)算法自主創(chuàng)新，促進(jìn)算法健康、有序、繁榮發(fā)展。在治理理念上，《規(guī)定》體現(xiàn)個人賦權(quán)和系統(tǒng)治理相結(jié)合的算法治理趨勢。在賦予用戶算法知情權(quán)、自主選擇權(quán)等權(quán)利的同時，注重從事前、事中、事后全流程對輸入數(shù)據(jù)、算法邏輯等全要素進(jìn)行系統(tǒng)治理。在行為規(guī)范上，注重堅(jiān)持正確導(dǎo)向和底線思維。強(qiáng)調(diào)算法應(yīng)遵循技術(shù)倫理，以主流價值觀為引領(lǐng)，強(qiáng)化算法透明度義務(wù)規(guī)范；同時建立算法運(yùn)行的負(fù)面清單，禁止利用算法影響網(wǎng)絡(luò)輿論、實(shí)施壟斷和不正當(dāng)競爭等行為。下一步，建議進(jìn)一步健全算法安全治理機(jī)制，強(qiáng)化監(jiān)管執(zhí)法和多元協(xié)同治理，落實(shí)平臺主體責(zé)任，推動數(shù)字經(jīng)濟(jì)發(fā)展行穩(wěn)致遠(yuǎn)。

加強(qiáng)算法安全科研攻關(guān) 推進(jìn)算法綜合治理

作者：程學(xué)旗　中國科學(xué)院計(jì)算技術(shù)研究所副所長

人類社會正加速進(jìn)入智能化時代，數(shù)據(jù)是關(guān)鍵生產(chǎn)要素，算法是核心生產(chǎn)力。隨著人工智能、大數(shù)據(jù)等新型信息技術(shù)的快速發(fā)展，算法與互聯(lián)網(wǎng)信息服務(wù)深度融合，為用戶提供個性化、精準(zhǔn)化、智能化的信息服務(wù)。互聯(lián)網(wǎng)信息服務(wù)算法在加速互聯(lián)網(wǎng)信息傳播、繁榮數(shù)字經(jīng)濟(jì)、促進(jìn)社會發(fā)展的同時，其不合理應(yīng)用也影響了正常的傳播秩序、市場秩序和社會秩序，給維護(hù)意識形態(tài)安全、社會公平公正和網(wǎng)民合法權(quán)益帶來挑戰(zhàn)。

為規(guī)范互聯(lián)網(wǎng)信息服務(wù)算法應(yīng)用生態(tài)，國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部、國家市場監(jiān)督管理總局聯(lián)合發(fā)布《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》（以下簡稱《規(guī)定》）?！兑?guī)定》是目前我國針對互聯(lián)網(wǎng)信息服務(wù)算法推薦出臺的最為系統(tǒng)的專門性部門規(guī)章，為規(guī)范互聯(lián)網(wǎng)信息服務(wù)算法推薦活動、促進(jìn)互聯(lián)網(wǎng)信息服務(wù)健康發(fā)展、推進(jìn)網(wǎng)絡(luò)空間治理提供了重要的制度保障，意義重大，影響深遠(yuǎn)。

一、堅(jiān)持主流價值導(dǎo)向，管理好使用好發(fā)展好算法應(yīng)用

《規(guī)定》著眼于網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理，防范互聯(lián)網(wǎng)信息服務(wù)算法濫用風(fēng)險，保障用戶合法權(quán)益，充分發(fā)揮算法服務(wù)正能量傳播作用，營造風(fēng)清氣正的網(wǎng)絡(luò)空間。《規(guī)定》從以下三個方面明確了算法治理的總體方向。

（一）堅(jiān)持正確導(dǎo)向，算法向上向善?！兑?guī)定》鼓勵算法推薦服務(wù)提供者使用算法積極傳播正能量、抵制違法和不良信息?！兑?guī)定》鼓勵算法正向應(yīng)用和創(chuàng)新發(fā)展，通過人工干預(yù)優(yōu)化算法推薦服務(wù)機(jī)制，將網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理和算法治理有機(jī)結(jié)合，弘揚(yáng)社會主義核心價值觀。

（二）堅(jiān)持風(fēng)險防控，推進(jìn)算法規(guī)制?！兑?guī)定》著眼互聯(lián)網(wǎng)信息服務(wù)中潛在的算法影響網(wǎng)絡(luò)輿論、算法誘導(dǎo)用戶沉迷或過度消費(fèi)、算法共謀和不正當(dāng)競爭等算法應(yīng)用風(fēng)險，由此引出治理對象，通過算法規(guī)制規(guī)范互聯(lián)網(wǎng)信息服務(wù)算法推薦活動，維護(hù)國家安全和社會公共利益。

（三）堅(jiān)持規(guī)范發(fā)展，防止算法濫用?！兑?guī)定》倡導(dǎo)，提供算法推薦服務(wù)應(yīng)遵循公正公平、公開透明、科學(xué)合理和誠實(shí)信用的原則，四個基本原則為算法規(guī)范發(fā)展框定了邊界?！兑?guī)定》在信息服務(wù)規(guī)范和用戶權(quán)益保護(hù)部分，設(shè)置了算法應(yīng)用的應(yīng)當(dāng)行為和禁止行為，明確了算法應(yīng)用的底線。

二、建立健全科學(xué)的監(jiān)管體系，形成算法治理長效機(jī)制

《規(guī)定》明確了互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的監(jiān)管體系，構(gòu)建了涵蓋算法分級分類、算法備案管理、算法安全評估、算法風(fēng)險監(jiān)測等舉措的科學(xué)監(jiān)管體系，逐步形成算法治理長效機(jī)制。具體體現(xiàn)在三個方面：

（一）算法分級分類，科學(xué)精細(xì)治理?！兑?guī)定》明確了算法治理的對象，即應(yīng)用算法推薦技術(shù)向用戶提供信息的算法推薦服務(wù)提供者。《規(guī)定》將互聯(lián)網(wǎng)信息服務(wù)推薦算法分為生成合成類、個性化推送類、排序精選類、檢索過濾類、調(diào)度決策類等五大類，并分別設(shè)置了針對性的差異化條款。例如，對于生成合成類算法推薦服務(wù)，強(qiáng)調(diào)“應(yīng)做出顯著標(biāo)識”；對于個性化推送類，突出用戶的自主選擇權(quán)等用戶權(quán)益保護(hù)；對于決策調(diào)度類，關(guān)注算法自動化決策對勞動者、消費(fèi)者等造成的影響。對算法推薦服務(wù)的分級分類管理，體現(xiàn)了科學(xué)化、精細(xì)化的算法治理基本思路。

（二）算法備案先行，治理有章可循。《規(guī)定》要求具有輿論屬性或者社會動員能力的算法推薦服務(wù)提供者通過互聯(lián)網(wǎng)信息服務(wù)算法備案系統(tǒng)履行算法備案手續(xù)，并在對外提供服務(wù)的網(wǎng)站、應(yīng)用程序等的顯著位置標(biāo)明其備案編號。算法備案是《規(guī)定》提出的一個重要舉措，以算法推薦服務(wù)為切入點(diǎn)對其使用的互聯(lián)網(wǎng)信息服務(wù)算法進(jìn)行備案，將算法和服務(wù)作為一個有機(jī)整體進(jìn)行治理。算法自評估報(bào)告是算法備案的一項(xiàng)亮點(diǎn)內(nèi)容，為國家監(jiān)管部門和算法推薦服務(wù)提供者協(xié)同推動算法治理工作提供了重要抓手。

（三）算法安全評估，力求標(biāo)本兼治?！兑?guī)定》明確了網(wǎng)信部門和電信、公安、市場監(jiān)管等有關(guān)部門對算法推薦服務(wù)依法開展安全評估和監(jiān)督檢查的工作職責(zé)，并要求算法推薦服務(wù)提供者對安全評估和監(jiān)督檢查工作提供必要的數(shù)據(jù)、技術(shù)等支持或協(xié)助。算法安全評估著眼于治本，從算法推薦服務(wù)的基本原理、目的意圖、主要運(yùn)行機(jī)制等方面入手，以“事前”評估的方式排除算法在模型、數(shù)據(jù)、策略、人工干預(yù)等方面的安全隱患；算法監(jiān)督檢查以事中監(jiān)測的方式發(fā)現(xiàn)算法使用過程中的安全風(fēng)險及算法濫用帶來的算法亂象。算法安全評估和監(jiān)督檢查工作覆蓋了算法應(yīng)用的全生命周期，二者相互促進(jìn)，力求算法治理做到標(biāo)本兼治。

三、建設(shè)算法治理技術(shù)支撐體系，促進(jìn)算法健康有序發(fā)展

《規(guī)定》的出臺，是進(jìn)一步提升網(wǎng)絡(luò)綜合治理能力的應(yīng)時應(yīng)勢之舉，具有很強(qiáng)的探索性和前瞻性，也標(biāo)志著我國網(wǎng)絡(luò)空間治理邁入新的發(fā)展階段。但是，算法綜合治理目前仍處于起步階段，在技術(shù)支撐和能力建設(shè)方面有待進(jìn)一步加強(qiáng)。加快推進(jìn)算法綜合治理技術(shù)支撐體系建設(shè)，是切實(shí)保障算法綜合治理工作有力有序推進(jìn)的關(guān)鍵。同時，算法安全既是國家重大需求，也是國際科技前沿，國家科研機(jī)構(gòu)應(yīng)加大算法安全方面的科技攻關(guān)，建設(shè)算法安全評估和風(fēng)險監(jiān)測的科研創(chuàng)新平臺，建設(shè)支撐互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的技術(shù)體系。建議加強(qiáng)如下工作：

（一）優(yōu)化算法安全科研布局，構(gòu)建算法治理關(guān)鍵技術(shù)聯(lián)合攻關(guān)體系。圍繞智能算法安全這一重大創(chuàng)新領(lǐng)域，組建國家重點(diǎn)實(shí)驗(yàn)室，形成引領(lǐng)算法安全基礎(chǔ)研究的戰(zhàn)略力量；充分調(diào)動“政產(chǎn)學(xué)研用”各方優(yōu)勢力量，探索共建新型研發(fā)機(jī)構(gòu)，加大科研攻關(guān)力度，研究算法安全內(nèi)生機(jī)理、算法安全風(fēng)險評估、算法全生命周期安全監(jiān)測等關(guān)鍵技術(shù)問題。

（二）完善算法人才隊(duì)伍結(jié)構(gòu)，建立算法安全治理人才隊(duì)伍培養(yǎng)體系。鼓勵高校設(shè)置并加強(qiáng)算法安全相關(guān)專業(yè)學(xué)科建設(shè)，擴(kuò)大招生和培養(yǎng)規(guī)模，加大算法安全治理基礎(chǔ)人才培養(yǎng)力度;完善算法安全治理領(lǐng)域成果評價和人才激勵機(jī)制，提供良好科研生態(tài)環(huán)境，政策導(dǎo)向與市場優(yōu)化雙管齊下，培養(yǎng)一支高素質(zhì)算法安全人才隊(duì)伍。

（三）加強(qiáng)基礎(chǔ)科研設(shè)施建設(shè)，提升算法自主創(chuàng)新和安全可控能力。建設(shè)算法安全基礎(chǔ)科研設(shè)施，促進(jìn)算法研發(fā)工作，支持算法與社會、經(jīng)濟(jì)各領(lǐng)域深度結(jié)合。加強(qiáng)知識產(chǎn)權(quán)保護(hù)，提高自研算法產(chǎn)品的推廣和使用，增強(qiáng)算法核心競爭力。推進(jìn)算法安全科學(xué)普及工作，提升企業(yè)和社會公眾的算法安全風(fēng)險意識，引導(dǎo)社會各界積極參與社會監(jiān)督，共同推進(jìn)算法綜合治理。