中國(guó)網(wǎng)/中國(guó)發(fā)展門戶網(wǎng)訊 大數(shù)據(jù)與信息技術(shù)的迅猛發(fā)展及其與物理世界的深度融合，形成了空前繁榮的網(wǎng)絡(luò)社會(huì)。網(wǎng)絡(luò)社會(huì)中個(gè)體緊密聯(lián)系，交互頻繁，呈現(xiàn)出開放、高效、交互、個(gè)性化等特征。網(wǎng)絡(luò)社會(huì)重塑了傳統(tǒng)社會(huì)中的通信與交互方式，釋放了社會(huì)交互中蘊(yùn)含的巨大生產(chǎn)力。與此同時(shí)，網(wǎng)絡(luò)社會(huì)中出現(xiàn)了電信詐騙、隱私泄漏、網(wǎng)絡(luò)暴力、網(wǎng)絡(luò)公害、算法歧視等種種問題，給社會(huì)秩序與安全帶來新的挑戰(zhàn)。為探索如何應(yīng)對(duì)該挑戰(zhàn)，尋找網(wǎng)絡(luò)社會(huì)治理途徑，推動(dòng)國(guó)家治理現(xiàn)代化建設(shè)，本文在?3?個(gè)典型的網(wǎng)絡(luò)社會(huì)場(chǎng)景下，分析與闡明網(wǎng)絡(luò)社會(huì)治理關(guān)鍵挑戰(zhàn)，并從芯片、系統(tǒng)和算法?3?個(gè)層面提出網(wǎng)絡(luò)社會(huì)現(xiàn)代治理的技術(shù)對(duì)策。

網(wǎng)絡(luò)社會(huì)治理的挑戰(zhàn)

本文在用戶身份治理、網(wǎng)絡(luò)行為治理和算法治理?3?個(gè)典型場(chǎng)景下，首先分析網(wǎng)絡(luò)社會(huì)中遇到的新問題，及其對(duì)經(jīng)濟(jì)、社會(huì)與安全造成的風(fēng)險(xiǎn)，并進(jìn)一步闡明治理這些問題所遇到的關(guān)鍵挑戰(zhàn)。

用戶身份治理面臨嚴(yán)峻挑戰(zhàn)

網(wǎng)絡(luò)用戶信息泄露事件層出不窮。在享受互聯(lián)網(wǎng)帶來的便利的同時(shí)，用戶也將個(gè)人信息上傳到了互聯(lián)網(wǎng)中。這些信息往往帶有使用者的隱私，一旦出現(xiàn)數(shù)據(jù)泄露，會(huì)產(chǎn)生嚴(yán)重影響。隱私數(shù)據(jù)必須滿足“有限公開”原則，即只有授權(quán)用戶——通過身份認(rèn)證的用戶，才能搜索到授權(quán)允許訪問的信息。例如，2014?年，國(guó)內(nèi)兩個(gè)大型物流公司的內(nèi)部網(wǎng)絡(luò)系統(tǒng)遭到黑客攻擊，1?400?多萬條快遞信息遭到泄露；迄今為止最大的數(shù)據(jù)泄露事故發(fā)生在?2013?年?8?月，黑客獲取了?30?億雅虎用戶的姓名、出生日期等隱私信息，給用戶帶來了極大的安全隱患。攻擊者可以利用被泄露的隱私數(shù)據(jù)，使用被攻擊者的身份在網(wǎng)絡(luò)上發(fā)布傳播消息，以獲取巨大的利益，造成嚴(yán)重的影響。

現(xiàn)有網(wǎng)絡(luò)訪問控制身份認(rèn)證技術(shù)存在重大安全隱患。目前最常見的身份認(rèn)證技術(shù)為靜態(tài)口令認(rèn)證技術(shù)，每一個(gè)用戶都擁有一個(gè)用戶名/密碼。當(dāng)用戶申請(qǐng)?jiān)L問時(shí)，系統(tǒng)對(duì)用戶的用戶名和對(duì)應(yīng)的密碼進(jìn)行驗(yàn)證，這種方法簡(jiǎn)單且有效。但隨著互聯(lián)網(wǎng)的發(fā)展，這種簡(jiǎn)單的方法也開始顯現(xiàn)出弊端。算力的提升使得攻擊者可以對(duì)密碼進(jìn)行窮舉攻擊，這一攻擊方式在用戶個(gè)人隱私信息泄露時(shí)會(huì)變得更加有效——攻擊者可以通過用戶的隱私信息推測(cè)用戶的密碼，從而降低攻擊者的時(shí)間成本。同時(shí)有調(diào)查顯示對(duì)于大量不同的賬戶，絕大多數(shù)用戶選擇使用相同或者數(shù)量遠(yuǎn)小于賬戶數(shù)量的靜態(tài)密碼，因此如果攻擊者成功攻擊了某用戶的賬戶，那么該用戶的其他賬戶大概率受也會(huì)到攻擊者的攻擊。動(dòng)態(tài)口令技術(shù)是由靜態(tài)口令技術(shù)演變而來的，相較于靜態(tài)口令其具有更好的安全性，能夠短暫地維護(hù)用戶的信息安全。除此之外，若軟件系統(tǒng)本身存在漏洞，攻擊者也可以通過該漏洞獲取訪問存放驗(yàn)證口令的服務(wù)器的權(quán)限或能夠直接訪問某用戶，如黑客對(duì)智能汽車、智能家居設(shè)備的入侵事件也屢屢發(fā)生。因此軟件本身可能存在的漏洞也是在設(shè)計(jì)身份認(rèn)證技術(shù)中所需要考慮的問題。

用戶身份虛擬偽裝技術(shù)演進(jìn)迅猛。在沒有強(qiáng)有力的用戶身份認(rèn)證與管理手段的條件下，當(dāng)用戶的信息出現(xiàn)泄露時(shí)，攻擊者可以利用泄露的隱私信息，訪問被攻擊者的賬戶以達(dá)成攻擊目的。相反，當(dāng)用戶數(shù)據(jù)沒有泄露時(shí)，攻擊者也可以通過模擬偽造用戶的數(shù)據(jù)來實(shí)現(xiàn)攻擊。現(xiàn)有的研究工作表明，攻擊者可以通過對(duì)抗樣本生成偽裝的用戶聲音，通過偽基站來偽造虛假的通信身份信息及通過對(duì)抗攻擊的方法生成能夠誤導(dǎo)身份識(shí)別系統(tǒng)的圖像等。冒充公檢法來進(jìn)行電信詐騙就是一個(gè)典型的例子，攻擊者利用特殊計(jì)算機(jī)軟件，通過偽造、冒充執(zhí)法人員身份的方式，向被攻擊者索要錢財(cái)以達(dá)到自己的目的。在?2017?年中央電視臺(tái)?3·15?晚會(huì)中，主持人現(xiàn)場(chǎng)演示了通過一張生成的照片并通過了人臉識(shí)別系統(tǒng)。除此之外，攻擊者通過特殊的網(wǎng)絡(luò)軟件偽造聲音，偽造特殊身份發(fā)送短信、撥打電話、生成圖片的事例屢見不鮮，因此加強(qiáng)網(wǎng)絡(luò)用戶身份認(rèn)證及規(guī)范行為勢(shì)在必行。

綜上，無論用戶數(shù)據(jù)是否存在泄露的情況，攻擊者總能采取手段偽造用戶身份，以謀取自身的利益。因此我們強(qiáng)調(diào)網(wǎng)絡(luò)用戶身份治理的重要性，將其看作網(wǎng)絡(luò)社會(huì)發(fā)展中一個(gè)重要且亟待解決的問題。上述問題主要存在于軟件層面，而硬件方面存在的問題也會(huì)影響用戶數(shù)據(jù)的隱私，進(jìn)而產(chǎn)生一系列的信息安全問題。

 網(wǎng)絡(luò)行為治理面臨緊迫挑戰(zhàn)

網(wǎng)絡(luò)空間在給人們帶來自由表達(dá)的便利的同時(shí)，網(wǎng)絡(luò)空間中的個(gè)體及群體行為也正變得異常龐雜，而且泥沙俱下、良莠不齊。不良網(wǎng)絡(luò)內(nèi)容泛濫、網(wǎng)絡(luò)違法犯罪活動(dòng)猖獗、網(wǎng)絡(luò)空間對(duì)抗與博弈等違法違規(guī)網(wǎng)絡(luò)行為已經(jīng)愈演愈烈，嚴(yán)重威脅網(wǎng)絡(luò)空間與現(xiàn)實(shí)社會(huì)的安全穩(wěn)定與健康發(fā)展。

不良網(wǎng)絡(luò)內(nèi)容泛濫。互聯(lián)網(wǎng)與數(shù)字技術(shù)的蓬勃發(fā)展，一方面帶來了豐富的信息內(nèi)容，另一方面也帶來了虛假謠言、低俗拜金、暴力反動(dòng)等不良網(wǎng)絡(luò)內(nèi)容的泛濫。虛假謠言信息內(nèi)容在網(wǎng)絡(luò)空間中大肆傳播、滋長(zhǎng)蔓延會(huì)嚴(yán)重影響社會(huì)秩序，已經(jīng)成為一大公害。短視頻平臺(tái)和直播平臺(tái)存在大量低俗內(nèi)容，利用主播搭訕、誘惑打賞等低俗手段博人眼球，傳播如種族歧視、性別歧視、拜金主義等不良內(nèi)容。網(wǎng)絡(luò)游戲平臺(tái)存在大量血腥、暴力、恐怖等不良內(nèi)容，宣揚(yáng)暴力極端主義、恐怖主義等極端思想。這些不良網(wǎng)絡(luò)內(nèi)容利用鉆法律空子、打擦邊球等方式誘導(dǎo)大眾點(diǎn)擊與關(guān)注并從中牟利，對(duì)網(wǎng)民尤其是未成年人和青少年人形成不良導(dǎo)向，影響身心健康。

網(wǎng)絡(luò)違法犯罪活動(dòng)猖獗。網(wǎng)絡(luò)空間中的網(wǎng)絡(luò)詐騙、網(wǎng)絡(luò)賭博、網(wǎng)絡(luò)傳銷、網(wǎng)絡(luò)非法集資等違法犯罪活動(dòng)十分猖獗。中國(guó)互聯(lián)網(wǎng)絡(luò)信息中心統(tǒng)計(jì)發(fā)現(xiàn)，截至?2022?年?6?月，我國(guó)?17.8%?的網(wǎng)民曾經(jīng)遭遇過網(wǎng)絡(luò)詐騙，較?2021?年增加了?1.2?個(gè)百分點(diǎn)，其中占比最多的網(wǎng)絡(luò)詐騙包括虛假中獎(jiǎng)信息詐騙、網(wǎng)絡(luò)購(gòu)物詐騙、冒充好友詐騙和釣魚網(wǎng)站詐騙等。中國(guó)司法大數(shù)據(jù)研究院分析了從?2017?年?1?月至?2021?年?12?月我國(guó)信息網(wǎng)絡(luò)犯罪案件的特點(diǎn)和趨勢(shì)，發(fā)現(xiàn)網(wǎng)絡(luò)詐騙罪案件量占比最高，達(dá)到?36.5%。這些網(wǎng)絡(luò)詐騙案件多以辦理貸款、冒充他人身份、虛假招聘等方式或話術(shù)來欺騙受害人，給受害人財(cái)產(chǎn)造成重大損失，而且目前網(wǎng)絡(luò)犯罪案件量呈現(xiàn)出逐年上升的趨勢(shì)，需要格外重視。

網(wǎng)絡(luò)空間虛假信息傳播與博弈。網(wǎng)絡(luò)空間已經(jīng)成為領(lǐng)土、領(lǐng)海、領(lǐng)空之外的第四種主權(quán)疆域。網(wǎng)絡(luò)“水軍”、網(wǎng)絡(luò)公關(guān)等產(chǎn)生的虛假信息傳播與博弈已經(jīng)成為常態(tài)。網(wǎng)絡(luò)平臺(tái)的虛假實(shí)體、虛擬用戶背后的操控系統(tǒng)能夠堂而皇之利用各種技術(shù)手段，系統(tǒng)傳播虛假信息、謠言、偏見，實(shí)現(xiàn)輿情對(duì)抗與博弈，已經(jīng)成為危害網(wǎng)絡(luò)空間內(nèi)容安全的重大威脅。

 算法治理面臨多維度挑戰(zhàn)

近年來，以機(jī)器學(xué)習(xí)算法為主導(dǎo)的人工智能技術(shù)已成為各大網(wǎng)絡(luò)平臺(tái)的核心驅(qū)動(dòng)力，其在加速信息傳播、便捷百姓生活、繁榮數(shù)字經(jīng)濟(jì)和促進(jìn)社會(huì)發(fā)展等方面發(fā)揮了重要作用。與此同時(shí)，由于在公平性、透明性和安全性方面的缺陷，機(jī)器學(xué)習(xí)算法的不合理應(yīng)用對(duì)網(wǎng)絡(luò)社會(huì)的正常秩序帶來了多維度挑戰(zhàn)，影響到社會(huì)公平公正、網(wǎng)民合法權(quán)益及虛擬財(cái)產(chǎn)安全等諸多方面。算法的應(yīng)用風(fēng)險(xiǎn)和治理挑戰(zhàn)已成為各界關(guān)注的焦點(diǎn)。

算法歧視普遍存在。基于大數(shù)據(jù)與機(jī)器學(xué)習(xí)算法的自動(dòng)決策系統(tǒng)被廣泛用于提供個(gè)性化的輔助決策，例如電影推薦、貸款申請(qǐng)、廣告投放、求職和約會(huì)等。算法歧視是指由數(shù)據(jù)和算法的偏向性導(dǎo)致的決策偏見。一種典型的算法歧視被稱作大數(shù)據(jù)“殺熟”，其表現(xiàn)為同物不同價(jià)，平臺(tái)算法依據(jù)大數(shù)據(jù)推斷用戶的價(jià)格敏感度，并針對(duì)性地進(jìn)行差異化商品標(biāo)價(jià)。北京市消費(fèi)者協(xié)會(huì)?2022?年發(fā)布的《大數(shù)據(jù)“殺熟”問題調(diào)查報(bào)告》顯示超六成受訪者曾遭遇過大數(shù)據(jù)“殺熟”，而購(gòu)物、旅游與外賣類網(wǎng)絡(luò)平臺(tái)是大數(shù)據(jù)“殺熟”的重災(zāi)區(qū)。網(wǎng)絡(luò)平臺(tái)算法也常存在性別與種族偏見。2019?年，臉書公司開展了一次算法中立性測(cè)試，測(cè)試通過算法向全球投放科研崗位的招聘廣告，在全部人為環(huán)節(jié)都保證性別中立的前提下，算法最終產(chǎn)生了有性別偏見的廣告展示結(jié)果。可以看出，網(wǎng)絡(luò)平臺(tái)中的算法歧視不僅損害用戶的合法權(quán)益，同時(shí)影響社會(huì)應(yīng)有的公平公正，擾亂社會(huì)正常秩序。造成算法歧視普遍存在的主要原因是算法的價(jià)值預(yù)設(shè)和數(shù)據(jù)的采集偏向：首先，算法由網(wǎng)絡(luò)平臺(tái)所設(shè)計(jì)和研發(fā)，本身蘊(yùn)含預(yù)設(shè)的價(jià)值偏見，并非完全客觀；其次，算法依賴的訓(xùn)練數(shù)據(jù)往往并非中立，數(shù)據(jù)采集范圍存在偏向，造成算法異化，形成算法歧視。

算法安全風(fēng)險(xiǎn)日益凸顯。研究表明深度神經(jīng)網(wǎng)絡(luò)等算法存在內(nèi)生的脆弱性，攻擊者能夠利用微小的對(duì)抗擾動(dòng)或后門攻擊，在物理世界實(shí)現(xiàn)對(duì)算法決策的任意操縱。對(duì)抗魯棒性和泛化能力等表達(dá)能力的缺陷，導(dǎo)致了深度學(xué)習(xí)算法在應(yīng)用領(lǐng)域中，尤其是自動(dòng)駕駛、智能醫(yī)療等容錯(cuò)率低的關(guān)鍵應(yīng)用中的潛在安全隱患。例如，人臉識(shí)別算法具有高準(zhǔn)確率、高效率、非接觸性識(shí)別等優(yōu)點(diǎn)，成為網(wǎng)絡(luò)平臺(tái)身份驗(yàn)證的主流方式之一。2021?年?RealAI?公司利用基于算法漏洞特制的眼鏡，成功欺騙了?19?款手機(jī)搭載的人臉識(shí)別算法。另一項(xiàng)研究顯示，將一張用簡(jiǎn)單打印出的涂鴉貼畫貼在真實(shí)的路牌上，就可以“迷惑”人工智能自動(dòng)駕駛系統(tǒng)，使其做出錯(cuò)誤決策。隨著深度學(xué)習(xí)技術(shù)的廣泛應(yīng)用，算法安全隱患帶來的風(fēng)險(xiǎn)日益凸顯，逐漸成為制約網(wǎng)絡(luò)平臺(tái)與人工智能技術(shù)發(fā)展的瓶頸。

“黑盒”算法監(jiān)管困難重重。平臺(tái)算法治理的另一挑戰(zhàn)來自監(jiān)管困難。一方面，網(wǎng)絡(luò)平臺(tái)用戶的所見只有算法輸出，難以監(jiān)督算法的決策過程。另一方面，由于大多算法屬于不透明的“黑盒”算法，人類難以理解算法究竟如何做出決策，平臺(tái)監(jiān)管者同樣難以判斷算法決策是否公平、合理、可信賴。部分網(wǎng)絡(luò)平臺(tái)還可能以商業(yè)秘密為由，逃避外界對(duì)算法的監(jiān)管。打開“黑箱”算法，將算法隱患與風(fēng)險(xiǎn)置于在監(jiān)管視野之內(nèi)，是算法治理的基礎(chǔ)和必要前提。

網(wǎng)絡(luò)社會(huì)治理的技術(shù)對(duì)策

 基于安全芯片與管控系統(tǒng)的治理對(duì)策

由于移動(dòng)辦公已經(jīng)成為日常工作模式，政府、醫(yī)療、金融等并非最高安全等級(jí)的部門與行業(yè)，必須要在外部訪問單位的業(yè)務(wù)內(nèi)網(wǎng)處理日常業(yè)務(wù)，需求量巨大。鑒于內(nèi)網(wǎng)高安全性要求，常用的安全網(wǎng)關(guān)、虛擬專用網(wǎng)絡(luò)（VPN）等網(wǎng)絡(luò)安全技術(shù)無法保證內(nèi)外網(wǎng)訪問的安全。

要從根本上快速解決和緩解上述網(wǎng)絡(luò)安全問題，必須從網(wǎng)絡(luò)安全芯片底層設(shè)計(jì)做起。一方面保護(hù)數(shù)據(jù)資源免于非授權(quán)訪問、篡改，另一方面，建立芯片級(jí)安全通信專用通道，實(shí)現(xiàn)數(shù)據(jù)和通道兩個(gè)方面的芯片級(jí)策略化安全隔離。網(wǎng)絡(luò)安全芯片底層設(shè)計(jì)的主要優(yōu)勢(shì)在于增加系統(tǒng)安全性的同時(shí)，極大地提高數(shù)據(jù)處理效率，策略化的安全隔離，規(guī)避了以易用性為代價(jià)的簡(jiǎn)單物理隔離。具體而言，使用純軟件的方法實(shí)現(xiàn)網(wǎng)絡(luò)安全加解密、身份認(rèn)證、網(wǎng)絡(luò)入侵檢測(cè)等算法存在較多缺陷，如執(zhí)行各類算法的時(shí)間較長(zhǎng)、資源消耗較大，且難以實(shí)現(xiàn)密鑰等機(jī)密資源的安全存儲(chǔ)。因此，集成一種或多種密碼算法的集成電路芯片，即安全芯片，可從硬件層面來解決上述問題，在增加系統(tǒng)安全性的同時(shí)，可極大地提高效率。

傳統(tǒng)的網(wǎng)絡(luò)安全芯片防護(hù)如圖?1?所示，這種工作模式雖然能夠?qū)崿F(xiàn)對(duì)網(wǎng)絡(luò)傳輸?shù)募用埽谟布用姹Ｗo(hù)敏感數(shù)據(jù)通信安全，但系統(tǒng)本身容易受到網(wǎng)絡(luò)攻擊，很難保障自身安全。針對(duì)以上問題，我們提出了新型網(wǎng)絡(luò)安全管控芯片和系統(tǒng)的架構(gòu)，主要包含數(shù)據(jù)安全單元、網(wǎng)絡(luò)安全管控單元與網(wǎng)絡(luò)數(shù)據(jù)處理單元，如圖?2?所示，實(shí)現(xiàn)敏感數(shù)據(jù)的隔離、網(wǎng)絡(luò)訪問控制、安全模式熱切換、身份的認(rèn)證校驗(yàn)。網(wǎng)絡(luò)數(shù)據(jù)處理單元，與加解密算法控制引擎進(jìn)行通信，利用加解密算法控制引擎對(duì)當(dāng)前數(shù)據(jù)包中的載荷進(jìn)行加解密，并完成網(wǎng)絡(luò)協(xié)議中的校驗(yàn)。

如圖?3?所示，基于網(wǎng)絡(luò)安全管控芯片，研發(fā)基于安全管控芯片的安全智能終端（例如移動(dòng)終端），構(gòu)建內(nèi)外網(wǎng)安全管控的軟硬件生態(tài)，實(shí)現(xiàn)內(nèi)、外網(wǎng)安全的全方位管控，進(jìn)而形成完全自主可控的產(chǎn)業(yè)生態(tài)。通過以上軟硬件技術(shù)，可以保證使用新型網(wǎng)絡(luò)安全芯片的智能終端既可以自由訪問外網(wǎng)，也可以安全訪問內(nèi)網(wǎng)數(shù)據(jù)，同時(shí)確保內(nèi)網(wǎng)數(shù)據(jù)不會(huì)通過設(shè)備泄露到外網(wǎng)。

 系統(tǒng)與應(yīng)用層治理對(duì)策

網(wǎng)絡(luò)身份和網(wǎng)絡(luò)行為治理困難的主要難點(diǎn)在于網(wǎng)絡(luò)空間中與身份和行為相關(guān)的數(shù)據(jù)類型多樣化、數(shù)據(jù)非結(jié)構(gòu)化、數(shù)據(jù)規(guī)模龐大、數(shù)據(jù)動(dòng)態(tài)性、數(shù)據(jù)呈孤島狀分布且不流通等，導(dǎo)致難以對(duì)網(wǎng)絡(luò)實(shí)體身份和網(wǎng)絡(luò)行為進(jìn)行表征、識(shí)別與關(guān)聯(lián)，缺乏有效的檢測(cè)技術(shù)，從而難以識(shí)別用戶身份并阻斷違法違規(guī)網(wǎng)絡(luò)行為。近幾年來隨著大數(shù)據(jù)分析、自然語言理解、數(shù)據(jù)聯(lián)邦、多方計(jì)算等信息技術(shù)的快速發(fā)展，為網(wǎng)絡(luò)身份和網(wǎng)絡(luò)行為治理思路帶來新的啟示。

通過制定網(wǎng)絡(luò)身份表征標(biāo)準(zhǔn)并建立多方聯(lián)合計(jì)算與數(shù)據(jù)流通框架解決網(wǎng)絡(luò)身份識(shí)別、關(guān)聯(lián)與認(rèn)證問題。構(gòu)建針對(duì)網(wǎng)絡(luò)實(shí)體的標(biāo)準(zhǔn)化身份表征類似于給每個(gè)網(wǎng)絡(luò)實(shí)體發(fā)放一個(gè)身份證，該身份證記錄了網(wǎng)絡(luò)實(shí)體的各種屬性，并且得到權(quán)威部門的可信認(rèn)證。標(biāo)準(zhǔn)化身份表征可以有效解決網(wǎng)絡(luò)身份識(shí)別、關(guān)聯(lián)與認(rèn)證問題。構(gòu)建標(biāo)準(zhǔn)化身份表征需要借助多模態(tài)機(jī)器學(xué)習(xí)技術(shù)融合多種類型數(shù)據(jù)進(jìn)行屬性推理，利用小樣本學(xué)習(xí)與遷移學(xué)習(xí)技術(shù)解決標(biāo)注樣本稀少問題，利用數(shù)據(jù)聯(lián)邦與多方計(jì)算技術(shù)解決數(shù)據(jù)孤島與不流通問題等。

通過制定網(wǎng)絡(luò)行為表征標(biāo)準(zhǔn)并建立多方聯(lián)合計(jì)算與數(shù)據(jù)流通框架解決網(wǎng)絡(luò)行為識(shí)別、檢測(cè)與治理問題。網(wǎng)絡(luò)行為治理可以借鑒網(wǎng)絡(luò)身份治理的思想，構(gòu)建標(biāo)準(zhǔn)化網(wǎng)絡(luò)行為表征，解決網(wǎng)絡(luò)行為治理問題。在進(jìn)行網(wǎng)絡(luò)行為表征時(shí)，由于網(wǎng)絡(luò)行為具有較強(qiáng)的動(dòng)態(tài)性和階段性，處于不斷發(fā)展變化中，因此需要額外考慮時(shí)效性。為解決該問題，可以利用數(shù)據(jù)流實(shí)時(shí)分析技術(shù)及時(shí)決策和推理，也可以通過構(gòu)建事件知識(shí)圖譜以厘清網(wǎng)絡(luò)行為的階段性變化特征。

 算法層治理對(duì)策

發(fā)展算法的可解釋性是算法層治理的核心。可解釋性是打開“黑箱”算法的鑰匙，算法決策機(jī)理的透明化是監(jiān)管與治理算法的先決基礎(chǔ)，是避免算法歧視與風(fēng)險(xiǎn)，保證決策可信、正當(dāng)和理性的重要約束。算法的解釋方法主要包括兩大類：① 事前解釋，一般指具有高度透明性的自解釋算法，可直接被用戶查看和理解，如常用的決策樹、邏輯回歸算法等。在高風(fēng)險(xiǎn)的領(lǐng)域中，如醫(yī)療輔助系統(tǒng)，應(yīng)當(dāng)使用這類自解釋算法。② 事后解釋，一般指使用解釋性工具對(duì)半透明、不透明的復(fù)雜算法進(jìn)行解釋。例如，歸因工具是一類常用的解釋性工具，它的解釋可以回答算法決策是依據(jù)哪些目標(biāo)特征做出的，并可精細(xì)地量化每個(gè)目標(biāo)特征對(duì)最終決策所作出的貢獻(xiàn)度；另一類博弈交互工具的解釋可以回答算法建模了哪些類型的知識(shí)點(diǎn)，進(jìn)而可根據(jù)這些知識(shí)點(diǎn)的質(zhì)量，解釋算法的各種安全性指標(biāo)，如在對(duì)抗攻擊下的算法魯棒性，或在新的測(cè)試環(huán)境下的算法穩(wěn)定性等。

發(fā)展第三方算法審計(jì)機(jī)構(gòu)是算法治理的有效途徑。其目的是對(duì)平臺(tái)算法是否合法、合規(guī)進(jìn)行客觀鑒定。算法審計(jì)機(jī)構(gòu)可以由政府監(jiān)管部門牽頭，協(xié)同行業(yè)自律組織、專家學(xué)者等組成，也可按照市場(chǎng)化原則培育獨(dú)立的第三方算法審計(jì)機(jī)構(gòu)從事該項(xiàng)工作。具體算法審計(jì)流程為：① 第三方組織根據(jù)委托審計(jì)主體的要求，制定專門的審計(jì)目標(biāo)與實(shí)施方案。② 審計(jì)人員對(duì)平臺(tái)的系統(tǒng)配置和算法設(shè)計(jì)文檔、運(yùn)行記錄等進(jìn)行查驗(yàn)，通過人工或自動(dòng)測(cè)試工具進(jìn)行技術(shù)測(cè)試，獲取相關(guān)信息，進(jìn)行分析取證。③ 審計(jì)人員以法律法規(guī)、行政部門指導(dǎo)制定的程序合規(guī)標(biāo)準(zhǔn)體系為依據(jù)對(duì)審計(jì)證據(jù)進(jìn)行審計(jì)評(píng)估，并根據(jù)國(guó)家強(qiáng)制性標(biāo)準(zhǔn)、推薦性標(biāo)準(zhǔn)區(qū)分不同的合規(guī)程度。④ 審計(jì)人員提出初步審計(jì)意見與程序合規(guī)建議，并與被審計(jì)平臺(tái)就其合理性與必要性進(jìn)行溝通交流，審慎得出審計(jì)結(jié)果并出具審計(jì)報(bào)告，作為平臺(tái)合規(guī)性驗(yàn)證和歸責(zé)處罰的依據(jù)。算法審計(jì)應(yīng)把握以下原則：① 堅(jiān)持持續(xù)、動(dòng)態(tài)審計(jì)。隨著平臺(tái)算法的更新演化，可能出現(xiàn)難以預(yù)知的增量風(fēng)險(xiǎn)，因此應(yīng)持續(xù)開展動(dòng)態(tài)算法審計(jì)。② 遵循分類、分級(jí)原則。應(yīng)根據(jù)平臺(tái)算法性質(zhì)及運(yùn)行環(huán)境制定相應(yīng)的審計(jì)方案，對(duì)重點(diǎn)領(lǐng)域的高風(fēng)險(xiǎn)算法要加強(qiáng)審計(jì)。 ③ 恪守保密原則。審計(jì)機(jī)構(gòu)和審計(jì)人員應(yīng)當(dāng)對(duì)涉及平臺(tái)算法模型的訓(xùn)練數(shù)據(jù)集、用戶數(shù)據(jù)等構(gòu)成平臺(tái)核心競(jìng)爭(zhēng)力的商業(yè)秘密嚴(yán)格予以保密。

網(wǎng)絡(luò)社會(huì)現(xiàn)代治理的政策建議

隨著信息化水平逐步提升，信息技術(shù)嵌入網(wǎng)絡(luò)社會(huì)治理的身份治理、行為治理和算法治理等各層面各環(huán)節(jié)，與法律、市場(chǎng)、平臺(tái)自治規(guī)則一起發(fā)揮著重要作用。現(xiàn)代網(wǎng)絡(luò)社會(huì)治理仍存在嚴(yán)峻挑戰(zhàn)，需要多方協(xié)同努力，在此提出?3?點(diǎn)建議。

加快研發(fā)網(wǎng)絡(luò)安全管控芯片和系統(tǒng)，突破我國(guó)網(wǎng)絡(luò)社會(huì)治理中的“卡脖子”問題。網(wǎng)絡(luò)安全技術(shù)前期焦點(diǎn)主要集中在軟件和應(yīng)用開發(fā)，而網(wǎng)絡(luò)安全硬件平臺(tái)作為其載體，國(guó)產(chǎn)化產(chǎn)品的大規(guī)模應(yīng)用即將進(jìn)入加速期，國(guó)家和市場(chǎng)關(guān)注度及重視程度正在快速提升。黨的二十大報(bào)告中提出“加強(qiáng)企業(yè)主導(dǎo)的產(chǎn)學(xué)研深度融合，強(qiáng)化目標(biāo)導(dǎo)向，提高科技成果轉(zhuǎn)化和產(chǎn)業(yè)化水平。強(qiáng)化企業(yè)科技創(chuàng)新主體地位，發(fā)揮科技型骨干企業(yè)引領(lǐng)支撐作用，營(yíng)造有利于科技型中小微企業(yè)成長(zhǎng)的良好環(huán)境，推動(dòng)創(chuàng)新鏈產(chǎn)業(yè)鏈資金鏈人才鏈深度融合”，建議我國(guó)企業(yè)發(fā)揮市場(chǎng)主體的優(yōu)勢(shì)作用，積極聯(lián)合高校、研究院所等開展網(wǎng)絡(luò)安全芯片及硬件平臺(tái)相關(guān)理論和技術(shù)的研究，強(qiáng)化在網(wǎng)絡(luò)安全芯片與管控系統(tǒng)、安全可信操作系統(tǒng)、密碼算法與硬件平臺(tái)技術(shù)等方面的國(guó)產(chǎn)化管理，實(shí)現(xiàn)全鏈條的自主可控。明確網(wǎng)絡(luò)安全芯片關(guān)鍵產(chǎn)品國(guó)產(chǎn)化、密碼算法國(guó)產(chǎn)化與網(wǎng)絡(luò)安全硬件平臺(tái)國(guó)產(chǎn)化的政策要求，制定關(guān)鍵產(chǎn)品審查備案制度，組織產(chǎn)業(yè)鏈調(diào)研，適時(shí)推出國(guó)產(chǎn)化扶持政策。

面向網(wǎng)絡(luò)/電信詐騙等重大國(guó)計(jì)民生問題，發(fā)展隱私計(jì)算技術(shù)，建設(shè)安全的數(shù)據(jù)共享平臺(tái)，推進(jìn)平臺(tái)間的數(shù)據(jù)共享。網(wǎng)絡(luò)/電信詐騙等網(wǎng)絡(luò)社會(huì)不良行為常采用技術(shù)手段隱匿行跡，難以在單一數(shù)據(jù)源中被及時(shí)地檢測(cè)和發(fā)現(xiàn)。我們建議在政府監(jiān)管下，建設(shè)安全的數(shù)據(jù)共享平臺(tái)，在保護(hù)用戶隱私和防止數(shù)據(jù)濫用的前提下，整合多方數(shù)據(jù)源，實(shí)現(xiàn)對(duì)隱蔽不良行為的有效探測(cè)和發(fā)現(xiàn)。建立安全的數(shù)據(jù)共享平臺(tái)應(yīng)當(dāng)滿足以下要求：① 制定統(tǒng)一的數(shù)據(jù)標(biāo)準(zhǔn)和接口，明確多方數(shù)據(jù)共享模式，支撐數(shù)據(jù)的高效共享與交換；② 建立數(shù)據(jù)分級(jí)管理體系，合理確定共享范圍，防止數(shù)據(jù)濫用；③ 發(fā)展隱私計(jì)算技術(shù)，防范隱私數(shù)據(jù)泄露，保障共享數(shù)據(jù)安全；④ 確定共享數(shù)據(jù)的權(quán)利與義務(wù)，保障數(shù)據(jù)共享體系的長(zhǎng)效運(yùn)行。

建立第三方算法審計(jì)制度，培育第三方算法審計(jì)專業(yè)機(jī)構(gòu)。鑒于算法審計(jì)技術(shù)的復(fù)雜性，在政府監(jiān)管過程中，可以由監(jiān)管部門牽頭，協(xié)同行業(yè)自律組織、專家學(xué)者等組成第三方，對(duì)網(wǎng)絡(luò)平臺(tái)算法設(shè)計(jì)的公平性、可解釋性、安全性等開展審計(jì)。長(zhǎng)遠(yuǎn)來看，應(yīng)當(dāng)按照市場(chǎng)化原則培育獨(dú)立的第三方算法審計(jì)機(jī)構(gòu)（類似專業(yè)的財(cái)務(wù)審計(jì)機(jī)構(gòu)）承擔(dān)該項(xiàng)工作。對(duì)此，可以采取分步走的辦法，先由相關(guān)部門如工業(yè)和信息化部、中央網(wǎng)信辦、國(guó)家市場(chǎng)監(jiān)督管理總局、司法部等部門會(huì)商研擬方案，鼓勵(lì)若干信譽(yù)良好、有實(shí)力的司法鑒定中心在內(nèi)部設(shè)立算法審計(jì)部門，接受政府或司法機(jī)關(guān)的委托，從事算法審計(jì)和鑒定工作。待市場(chǎng)條件成熟、有足夠的市場(chǎng)業(yè)務(wù)容量后，鼓勵(lì)成立專門的算法審計(jì)機(jī)構(gòu)，作為獨(dú)立的市場(chǎng)運(yùn)營(yíng)主體，開展算法審計(jì)業(yè)務(wù)。即通過算法審計(jì)，實(shí)現(xiàn)“借力打力”，由技術(shù)引發(fā)的問題還通過技術(shù)手段來解決，促進(jìn)網(wǎng)絡(luò)社會(huì)的“科技向善”。

（作者：王平輝、裴紅斌、趙俊舟、秦濤、沈超、管曉宏，西安交通大學(xué) 智能網(wǎng)絡(luò)與網(wǎng)絡(luò)安全教育部重點(diǎn)實(shí)驗(yàn)室；劉東亮，西安交通大學(xué) 法學(xué)院；《中國(guó)科學(xué)院院刊》供稿）

相關(guān)文章