保護個(gè)人信息，護航數字經(jīng)濟發(fā)展

　　給“算法應用”立規矩

　　使用某個(gè)應用程序后，它就能“猜”到你喜歡什么，并且精準推送相關(guān)內容，滋生“信息繭房”、大數據“殺熟”等問(wèn)題。這樣的情況最近終于開(kāi)始有了改變。隨著(zhù)國家網(wǎng)信辦等4部門(mén)聯(lián)合發(fā)布的《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規定》近日正式施行，很多APP先后上線(xiàn)算法關(guān)閉鍵，允許用戶(hù)在后臺一鍵關(guān)閉“個(gè)性化推薦”。專(zhuān)家表示，要繼續壓實(shí)平臺責任，促進(jìn)算法應用向上向善，讓算法更好地為用戶(hù)服務(wù)，推動(dòng)信息服務(wù)行業(yè)長(cháng)遠、健康發(fā)展。

　　可一鍵關(guān)閉“個(gè)性化推薦”

　　通過(guò)參考互聯(lián)網(wǎng)上的“攻略”，北京的王女士最近終于將一款社交應用中的“個(gè)性化推薦”服務(wù)選項關(guān)閉，“再打開(kāi)這個(gè)APP，感覺(jué)安心不少”。

　　王女士之所以下決心關(guān)掉“個(gè)性化推薦”服務(wù)，源于此前遇到的一些糟心經(jīng)歷。她在這款應用里曾發(fā)表過(guò)皮膚干燥的言論，此后便在各個(gè)平臺不斷收到面部“保鮮”秘笈的文章、美容產(chǎn)品的推銷(xiāo)廣告，讓王女士不堪其擾。

　　在移動(dòng)互聯(lián)網(wǎng)時(shí)代，每一個(gè)人都在生產(chǎn)“數據”。此前，這些“數據”被平臺以各種方式采集，然后通過(guò)算法分析出用戶(hù)行為、習慣和喜好，進(jìn)而精準地提供信息、娛樂(lè )、消費等各類(lèi)服務(wù)。這種基于算法的技術(shù)創(chuàng )新在為用戶(hù)提供精準信息服務(wù)的同時(shí)，也滋生出不少問(wèn)題。

　　《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規定》（以下簡(jiǎn)稱(chēng)《管理規定》）近日正式施行，將算法推薦服務(wù)全面納入監管。《管理規定》提出，算法推薦服務(wù)提供者應當向用戶(hù)提供不針對其個(gè)人特征的選項，或者向用戶(hù)提供便捷的關(guān)閉算法推薦服務(wù)的選項。

　　《管理規定》出臺后，多家平臺先后上線(xiàn)算法關(guān)閉鍵，允許用戶(hù)在后臺一鍵關(guān)閉“個(gè)性化推薦”。用戶(hù)關(guān)閉“個(gè)性化推薦”后，平臺會(huì )根據內容的熱門(mén)程度進(jìn)行分發(fā)，推送內容更加體現應用特色。很多網(wǎng)友表示，以前總是被“安排”看一些內容，關(guān)閉“個(gè)性化推薦”后，感覺(jué)看到了更廣闊的世界。

　　記者在體驗后發(fā)現，目前多數APP還是默認打開(kāi)“個(gè)性化推薦”，要找到“個(gè)性化推薦”關(guān)閉鍵并不太容易。以一款電商應用為例，需先后點(diǎn)擊進(jìn)入數個(gè)頁(yè)面，然后在呈現的10多個(gè)選項里找到“個(gè)性化推薦”的關(guān)閉按鈕。有用戶(hù)認為，這樣的設置方式難言“便捷”，其目的是讓用戶(hù)“知難而退”。

　　關(guān)閉個(gè)性化推薦，是否意味著(zhù)算法推薦技術(shù)走到盡頭？中國人民大學(xué)信息學(xué)院教授程絮森分析，隨著(zhù)新規實(shí)施，如何使個(gè)性化推薦更加規范，是很大的挑戰，但也相應促進(jìn)了各互聯(lián)網(wǎng)平臺的技術(shù)發(fā)展進(jìn)步，有利于加速推進(jìn)相關(guān)行業(yè)的數字化轉型與平臺經(jīng)濟的健康發(fā)展。

　　合力推動(dòng)產(chǎn)品向善

　　同樣的訂單，熟客比新客多付錢(qián)，被用戶(hù)質(zhì)疑平臺利用算法模型進(jìn)行大數據“殺熟”。《管理規定》提出，算法推薦服務(wù)提供者向消費者銷(xiāo)售商品或者提供服務(wù)的，應當保護消費者公平交易的權利，不得根據消費者的偏好、交易習慣等特征，利用算法在交易價(jià)格等交易條件上實(shí)施不合理的差別待遇等違法行為。

　　中國信息安全研究院副院長(cháng)左曉棟認為，大數據“殺熟”等頑疾歸根結底是濫用用戶(hù)個(gè)人信息導致的。解決這類(lèi)問(wèn)題首先要在治理違法違規收集用戶(hù)個(gè)人信息上下功夫，其次要保障用戶(hù)的選擇權、刪除權等權益。

　　“刷短視頻、玩游戲的時(shí)候，沒(méi)感覺(jué)時(shí)間過(guò)得很快，但每次放下手機，發(fā)現已經(jīng)幾個(gè)小時(shí)過(guò)去了。”在上海一家企業(yè)工作的陳先生感慨，每次拿起手機娛樂(lè )時(shí)，感覺(jué)像中毒一樣停不下來(lái)。另有不少網(wǎng)友抱怨，當自己反復瀏覽某件商品時(shí)，平臺就會(huì )顯示一連串促銷(xiāo)優(yōu)惠信息，很多人因此盲目下單。

　　《管理規定》提出，算法推薦服務(wù)提供者應當定期審核、評估、驗證算法機制機理、模型、數據和應用結果等，不得設置誘導用戶(hù)沉迷、過(guò)度消費等違反法律法規或者違背倫理道德的算法模型。

　　北京大學(xué)中國社會(huì )與發(fā)展研究中心主任邱澤奇對記者說(shuō)，社會(huì )學(xué)把人們偏好的內容區分為兩個(gè)理想類(lèi)型，一類(lèi)是理性的，類(lèi)似于對人對事物的觀(guān)點(diǎn)，這種對“自我”的偏好是人類(lèi)認知偏好的一部分，容易形成“信息繭房”效應或“回音壁”效應；另一類(lèi)是感性的，類(lèi)似于對人對事物的情感，人們在情感上容易受到他人的感染，易產(chǎn)生“情緒傳染”效應。

　　邱澤奇認為，在數字時(shí)代，諸多產(chǎn)品都是動(dòng)態(tài)產(chǎn)品，需要根據交互數據對產(chǎn)品不斷進(jìn)行優(yōu)化迭代，通過(guò)產(chǎn)品升級、算法升級以滿(mǎn)足用戶(hù)需求。基于人類(lèi)認知偏好的復雜性，企業(yè)除了承擔產(chǎn)品責任，還要承擔起相應社會(huì )責任，把用戶(hù)納入產(chǎn)品的開(kāi)發(fā)、生產(chǎn)與服務(wù)中，通過(guò)政府、企業(yè)和用戶(hù)共同參與、建立相應規則，不斷推動(dòng)產(chǎn)品向善、科技向善。

　　實(shí)現負責任的創(chuàng )新

　　近年來(lái)，一些企業(yè)利用算法注冊虛假賬號、雇傭網(wǎng)絡(luò )“水軍”，鼓動(dòng)“飯圈”粉絲互撕謾罵、刷量控評；操縱干預熱搜、榜單或檢索結果排序；向未成年人推送不良內容……針對這些問(wèn)題，《管理規定》提出“建立健全算法機制機理審核、科技倫理審查、用戶(hù)注冊、信息發(fā)布審核等管理制度”“提供算法推薦服務(wù)，應當遵守法律法規，尊重社會(huì )公德和倫理，遵守商業(yè)道德和職業(yè)道德”等措施。

　　從更深層意義看，因算法技術(shù)創(chuàng )新而衍生的一系列問(wèn)題涉及科技倫理。中共中央辦公廳、國務(wù)院辦公廳近日印發(fā)的《關(guān)于加強科技倫理治理的意見(jiàn)》提出，加強源頭治理，注重預防，將科技倫理要求貫穿科學(xué)研究、技術(shù)開(kāi)發(fā)等科技活動(dòng)全過(guò)程，促進(jìn)科技活動(dòng)與科技倫理協(xié)調發(fā)展、良性互動(dòng)，實(shí)現負責任的創(chuàng )新。

　　中國社科院信息化研究中心主任姜奇平表示，從技術(shù)創(chuàng )新層面看，應推動(dòng)算法技術(shù)回到正常軌道，比如單純基于人們的偏好推薦閱讀內容，錯誤之處在于對人的理解不足，把人理解成機器，沒(méi)有考慮到人還具有自由意志。從價(jià)值倫理層面看，哲學(xué)上的善和倫理的本質(zhì)都源于自由意志，因此應該在技術(shù)創(chuàng )新過(guò)程中把人之為人的一面、人和人的關(guān)系擺進(jìn)技術(shù)里考慮。

　　專(zhuān)家認為，數字時(shí)代的算法技術(shù)創(chuàng )新應是一種負責任的創(chuàng )新，要進(jìn)一步壓實(shí)平臺責任，確保科技活動(dòng)符合科技倫理。只有堅持把消費者對信息服務(wù)的評判權置于采集權之上，才能更好把握個(gè)性化信息服務(wù)業(yè)態(tài)的發(fā)展方向，促進(jìn)數字經(jīng)濟高質(zhì)量發(fā)展。（記者彭訓文）