【光明青年論壇】

　　　編者按

　　隨著(zhù)科技進(jìn)步的日新月異，世界發(fā)展的面貌和格局也發(fā)生著(zhù)深刻變化。人工智能、大數據算法等新發(fā)現、新突破，在造福人類(lèi)的同時(shí)，也帶來(lái)了一定的倫理風(fēng)險和挑戰。2022年3月，中共中央辦公廳、國務(wù)院辦公廳印發(fā)《關(guān)于加強科技倫理治理的意見(jiàn)》，對加強科技倫理治理作出系統部署。樹(shù)立正確的科技倫理意識，遵守科技倫理要求，不僅是科技工作者，更是全人類(lèi)都應該具備的認識自覺(jué)和行為自覺(jué)。那么，如何增強科技倫理意識，實(shí)現科技增進(jìn)人類(lèi)福祉的宗旨？本刊特組織幾位青年學(xué)者圍繞“倫理價(jià)值”“倫理原則”“倫理責任”三個(gè)維度開(kāi)展對話(huà)，并邀請專(zhuān)家予以點(diǎn)評和闡發(fā)，以期對深化相關(guān)研究和探討有所助益。

　　　與談人

　　譚泰成 中國人民大學(xué)哲學(xué)院博士生

　　閆雪楓 復旦大學(xué)哲學(xué)學(xué)院博士生

　　周穎 上海交通大學(xué)科學(xué)史與科學(xué)文化研究院博士生

　　　主持人

　　劉永謀 中國人民大學(xué)哲學(xué)院教授、國家發(fā)展與戰略研究院研究員

　　　1、倫理價(jià)值：助力走出科技發(fā)展困境

　　主持人：針對如今的科技發(fā)展現狀和發(fā)展前景，我們都面臨著(zhù)哪些倫理風(fēng)險和挑戰？

　　譚泰成：21世紀以來(lái)，隨著(zhù)運用新科技參與社會(huì )治理的不斷推進(jìn)，特別是智能革命興起后，出現了“智能治理的綜合”趨勢，即不同技術(shù)治理手段逐漸在智能技術(shù)搭建的平臺上綜合起來(lái)，不再是零散的、局部的甚至相沖突的“技治拼盤(pán)”。各種智能治理措施在新冠肺炎疫情暴發(fā)以來(lái)更是迅猛發(fā)展，在大展身手的同時(shí)也暴露出一些問(wèn)題，且大多與倫理風(fēng)險和挑戰相關(guān)。主要表現為四個(gè)方面：一是“信息孤島”。無(wú)法接入智能平臺與他者通信的人群，就會(huì )成為“信息孤島”，在數字世界中“消失”，信息權不能得到公平保障。二是“無(wú)人困境”。智能技術(shù)如果不能與“治理中的人”很好地結合起來(lái)，人的因素容易被治理者忽視，技術(shù)問(wèn)題則被過(guò)分強調，可能出現背離人本的“無(wú)人困境”。三是數據專(zhuān)家權力越界。要對數據專(zhuān)家的權力進(jìn)行規范，防止技治專(zhuān)家權力過(guò)大，違背社會(huì )主義民主法治的基本精神。四是個(gè)人隱私濫用。盡管政府已在盡力立法對數據、個(gè)人隱私予以保護，但仍然存在不少風(fēng)險。

　　周穎：近年來(lái)，數據被視為一種新型生產(chǎn)要素，與土地、勞動(dòng)、資本、技術(shù)等傳統生產(chǎn)要素一樣是人類(lèi)社會(huì )的重要構成。伴隨數據科學(xué)與數據技術(shù)的發(fā)展，數據正在進(jìn)行著(zhù)對整個(gè)社會(huì )生活、生產(chǎn)和治理方式的重塑。在全球數字化轉型的進(jìn)程中，我國數字化發(fā)展備受關(guān)注且發(fā)展迅速。基于數據科學(xué)與數據技術(shù)對人類(lèi)社會(huì )的深度影響，相關(guān)的倫理風(fēng)險和挑戰也隨之而至，并成為社會(huì )各界熱議的話(huà)題。比如，健康碼推出不久就出現了許多沒(méi)有手機或不會(huì )下載、使用該程序的群體——尤其是老年人群體，不光被技術(shù)拒絕，更被公共場(chǎng)所拒絕，進(jìn)而加劇了社會(huì )分化、權利不平等的倫理問(wèn)題，也體現出倫理在數據賦能過(guò)程中缺位帶來(lái)的危害。此外，與數據相關(guān)的倫理風(fēng)險還包括數據不正當獲取，數據訪(fǎng)問(wèn)、使用和共享具有不透明性，數據信任危機和數據被過(guò)度商用等問(wèn)題所帶來(lái)的倫理風(fēng)險和倫理挑戰。

　　主持人：要走出科技發(fā)展的道德倫理困境，“倫理反思”扮演著(zhù)怎么樣的角色？

　　周穎：為了走出科技發(fā)展的倫理困境，倫理反思是必不可少的。歷史地看，倫理反思貫穿技術(shù)哲學(xué)發(fā)展全過(guò)程。經(jīng)典技術(shù)哲學(xué)關(guān)注的是整體而抽象的“大寫(xiě)的技術(shù)”，技術(shù)的倫理反思通常是悲觀(guān)地批判技術(shù)的社會(huì )影響和它所造成的人類(lèi)生存境況的變壞。隨著(zhù)德國學(xué)者胡塞爾吹響“回到事物本身”的號角，一定程度促使技術(shù)哲學(xué)更加關(guān)注經(jīng)驗事實(shí)，即“打開(kāi)技術(shù)黑箱”，倫理反思也更加注重具體的技術(shù)經(jīng)驗證據。隨之而來(lái)的技術(shù)的快速發(fā)展，使倫理問(wèn)題愈發(fā)顯現，技術(shù)倫理學(xué)逐漸從技術(shù)哲學(xué)中分離出來(lái)，進(jìn)一步地，荷蘭學(xué)者維貝克等主張反思進(jìn)路應當“從外在主義、人本主義到內在主義、非人本主義”。從數據應用的發(fā)展來(lái)看，對隱私、安全、公平等方面進(jìn)行深入的倫理反思，才能促使我國經(jīng)濟社會(huì )更加健康有序發(fā)展，促使大數據技術(shù)產(chǎn)品更新?lián)Q代和數據賦能相關(guān)產(chǎn)業(yè)的轉型升級。

　　閆雪楓：正如澳大利亞學(xué)者彼得·辛格所言，當面對新興的科學(xué)技術(shù)時(shí)，許多人會(huì )產(chǎn)生某種直覺(jué)，但直覺(jué)未必是經(jīng)得起推敲的。從生命倫理學(xué)的視角來(lái)看，倫理反思一方面能夠使我們從習以為常的生活中認識到技術(shù)帶來(lái)的道德困境和挑戰，另一方面，借助哲學(xué)史上的經(jīng)典理論框架，倫理反思能為我們在諸多彼此沖突的價(jià)值觀(guān)念中提供多角度思考問(wèn)題的進(jìn)路，幫助我們提煉梳理對于技術(shù)的態(tài)度和觀(guān)點(diǎn)，推理重構“不言自明”的信念背后的論證邏輯，審慎地分析其中的問(wèn)題。破除科幻電影和小說(shuō)的夸張情節對于技術(shù)本質(zhì)的扭曲，讓我們能回過(guò)頭來(lái)審視一些廣泛存在的規范性觀(guān)念本身是否合理，進(jìn)而為科學(xué)技術(shù)的研究與實(shí)踐進(jìn)行恰當的辯護。值得注意的是，進(jìn)行倫理反思的目的不是一味地限制科技的發(fā)展。生命倫理學(xué)學(xué)者需要與科技從業(yè)者保持積極的對話(huà)，在科技發(fā)展與倫理反思中尋求動(dòng)態(tài)的平衡點(diǎn)。

　　譚泰成：最近被熱議的大數據治理、算法治理和區塊鏈治理，都屬于智能治理的具體形式。在各種智能治理場(chǎng)景中，倫理反思有助于不同主體（信息倫理學(xué)者、算法工程師、數字政府治理者和公眾等）審視技術(shù)治理措施是否因超過(guò)合理限度成為技術(shù)操控手段，揭示嵌構在算法認知背后的復雜制度安排。盡管對于智能治理的倫理反思存在認知差異，但它的根本宗旨在于實(shí)現人民向往的美好生活，厘清實(shí)施智能治理應有的限度。因此，倫理反思的關(guān)鍵在于區別智能治理與智能操控，尋求效率工具與倫理價(jià)值之間的動(dòng)態(tài)平衡。實(shí)際上，智能治理伴隨著(zhù)社會(huì )、政治、制度和倫理等多重風(fēng)險，既有的道德批判不足以回應和化解，只有以制度化方式將德治、法治和技治手段充分融入智能治理中，才能實(shí)質(zhì)性地發(fā)揮科技倫理在智能領(lǐng)域的治理成效。

　　　2、倫理原則：以人民為中心推動(dòng)科技向善

　　主持人：在《關(guān)于加強科技倫理治理的意見(jiàn)》的總體要求中，將“倫理先行”作為治理要求的第一條，那么，在科學(xué)技術(shù)的發(fā)展中何以“倫理先行”？

　　譚泰成：倫理先行需要確定相關(guān)原則及規范。目前，歐盟、美國和中國都頒布了人工智能相關(guān)的倫理指南、指導意見(jiàn)或規范，基本涵蓋算法設計、部署和監管各個(gè)環(huán)節對于透明度和可解釋性的要求。發(fā)揮倫理引導智能治理的先行作用，需要充分考慮技術(shù)專(zhuān)家、政府治理者、企業(yè)用戶(hù)、公眾等不同治理參與者的多元價(jià)值訴求，兼顧倫理的價(jià)值適配性與算法的技術(shù)可用性。需要注意的是，倫理先行并非以絕對道德主義來(lái)約束或反對技術(shù)治理活動(dòng)。倫理先行的中國語(yǔ)境在于確保技術(shù)治理為人民服務(wù)，使之服務(wù)于中國特色社會(huì )主義民主制度的更高目標。同時(shí)，強調一般倫理原則與具體治理場(chǎng)景的結合，例如從道義上要求科技企業(yè)完全公布其核心基礎算法并不可行。而對于公共部門(mén)而言，為了維持行政決策的執行力和公信力，有必要對算法行政決策進(jìn)行充分解釋?zhuān)吻灞澈蟮闹卫硪罁蛢r(jià)值理由。

　　周穎：倫理先行是技術(shù)倫理學(xué)的內在路徑的必然要求。維貝克等學(xué)者提出和發(fā)展了調節的理論，將技術(shù)自身納入解決其倫理問(wèn)題的語(yǔ)境中。首先，在數據相關(guān)技術(shù)設計之初就需要倫理學(xué)者、技術(shù)專(zhuān)家、公眾代表等多元主體參與并制定倫理框架、指南、原則，即在設計的目的、方法和結果預測中納入倫理考量。例如，2020年美國聯(lián)邦總務(wù)署發(fā)布的《數據倫理框架草案》中提出7條數據倫理基本原則。其次，數據相關(guān)技術(shù)設計過(guò)程作為設計者的決策過(guò)程內在地滲透著(zhù)倫理價(jià)值，技術(shù)調節作用不可避免地存在著(zhù)，因此，須將倫理前置，有意識有目的有方向有預見(jiàn)地發(fā)揮調節作用。最后，由于技術(shù)不確定性的特征，調節的各個(gè)維度不能被完全預期，許多倫理問(wèn)題往往是在技術(shù)與人處于社會(huì )大背景下進(jìn)行交互的過(guò)程中產(chǎn)生的，所以需要對技術(shù)進(jìn)一步修復調節。如健康碼在實(shí)施過(guò)程中顯現了隱私安全等倫理隱患，在修復過(guò)程中，既制定了《新冠肺炎疫情防控健康碼管理與服務(wù)暫行辦法》，其中提出“為疫情防控、疾病防治收集的個(gè)人信息，不得用于其他用途”，又從技術(shù)上對健康碼加以修復。經(jīng)過(guò)三個(gè)維度的調節，技術(shù)自身被道德化，進(jìn)而調節著(zhù)人的合倫理的感知和行動(dòng)。

　　閆雪楓：新興技術(shù)手段往往兼具巨大的效益和風(fēng)險，倫理先行也因此成了當今時(shí)代發(fā)展背景下的必然趨勢。為了應對基因編輯帶來(lái)的諸多挑戰，科技工作者作為發(fā)展科學(xué)技術(shù)的主體，首先需要考慮的是所進(jìn)行的科學(xué)研究與實(shí)踐是否以人民為中心，以提升人類(lèi)福祉作為最終的目標，對生命和倫理抱有敬畏之心。在開(kāi)展科技工作時(shí)，要充分考慮到風(fēng)險問(wèn)題，提升自身的倫理道德敏感度，保證科技發(fā)展中倫理在先。新西蘭生命倫理學(xué)者尼古拉斯·阿加曾強調，不要忘記歷史上許多新技術(shù)都曾給人類(lèi)造成預料之外的重大災難。因此在制定倫理原則時(shí)，仍然需要考慮到一些在當下看來(lái)或許永遠不會(huì )發(fā)生的情況，并給出相應的對策。科學(xué)技術(shù)不斷發(fā)展，倫理原則也應當隨之改進(jìn)和完善，保持動(dòng)態(tài)的發(fā)展，以便應對新的挑戰。

　　主持人：《關(guān)于加強科技倫理治理的意見(jiàn)》中明確了科技倫理的基本原則，即“增進(jìn)人類(lèi)福祉”“尊重生命權利”“堅持公平公正”“合理控制風(fēng)險”“保持公開(kāi)透明”，其中蘊含著(zhù)哪些倫理觀(guān)念？

　　譚泰成：在技術(shù)治理活動(dòng)中，服務(wù)于人民是上述原則的根本價(jià)值旨歸。科技向善從根本上說(shuō)就是讓人民共享科技發(fā)展成果，共同引導技術(shù)治理賦能美好生活。當然，不同領(lǐng)域的技術(shù)治理活動(dòng)對于科技倫理原則有不同側重，例如算法治理比較強調“公開(kāi)透明”。這一原則主要是針對算法運行的黑箱問(wèn)題，具體化為研發(fā)者如何通過(guò)改善訓練算法的數據樣本質(zhì)量來(lái)確保算法輸出的精準度，以及企業(yè)和政府部門(mén)如何通過(guò)算法治理來(lái)提升決策效率，進(jìn)而確保公共行政顯得更為合理，讓算法問(wèn)責更具操作性。算法向善不應僅僅作為柔和的倫理觀(guān)念，而是轉化為敏捷的治理行動(dòng)，避免因濫用算法而陷入偽技術(shù)治理。

　　閆雪楓：《關(guān)于加強科技倫理治理的意見(jiàn)》中明確的科技倫理基本原則涵蓋了美國學(xué)者湯姆·比徹姆和詹姆士·邱卓思在《生命醫學(xué)倫理原則》中所提出的“尊重自主性”“不傷害”“有益”“公平”四原則的內涵。與之呼應的還有2018年第二屆人類(lèi)基因組編輯國際峰會(huì )委員會(huì )對遺傳基因編輯開(kāi)展臨床試驗所提出的十項原則。具體來(lái)說(shuō)，在進(jìn)行生殖系基因編輯臨床試驗時(shí)，需要首先確定無(wú)其他合理替代方案，并將試驗目的嚴格限制在嚴重疾病的預防上，最大限度避免試驗可能造成的傷害，合理控制風(fēng)險。對參與試驗的患者充分告知試驗潛在的風(fēng)險，保持公開(kāi)透明，讓患者自主作出知情且自愿的決策，尊重患者的生命權利和自主性，保障患者知情權和隱私。

　　周穎：從數據的視角來(lái)看，相關(guān)倫理問(wèn)題大致圍繞隱私、安全、公平和正義四個(gè)面向展開(kāi)，在個(gè)人、社會(huì )和國家的不同層面上表現不同，在不同的語(yǔ)境中側重的倫理原則也有所差異，其倫理意蘊具有多元化、復雜性、交叉性和動(dòng)態(tài)性等特征。不同的倫理原則在不同的技術(shù)中或具體情境中可能存在價(jià)值沖突，產(chǎn)生取舍的困境。對此，維貝克曾將調節理論和價(jià)值設計相結合，提出了價(jià)值發(fā)揮重要作用的方法來(lái)加以應對。簡(jiǎn)言之，將利益相關(guān)者的價(jià)值觀(guān)動(dòng)態(tài)地轉化并內嵌到技術(shù)物中。以健康碼為例，最初以保護公眾健康和尊重生命權利為首要原則，在實(shí)施過(guò)程中逐步顯現出隱私泄漏、不公平、不透明等倫理隱患，在修復調節中就需要加以著(zhù)重考慮，將之置于價(jià)值矩陣的前端。

　　　3、倫理責任：以正確價(jià)值導向規范科技實(shí)踐

　　主持人：要形成多方參與、協(xié)同共治的科技倫理治理格局，需要各方主體履行怎樣的倫理責任？

　　閆雪楓：形成多方參與、協(xié)同共治的科技倫理治理格局，首先需要科技工作者在進(jìn)行研究的過(guò)程中主動(dòng)加強倫理意識，自覺(jué)遵守科技倫理原則，積極與科技倫理學(xué)者進(jìn)行對話(huà)和合作。對科技倫理研究者來(lái)說(shuō)，需要以科學(xué)事實(shí)為依據開(kāi)展對諸如知情同意、自主性等倫理問(wèn)題的研究，為相關(guān)政策和原則的制定提供符合實(shí)際情況的理論支持。相關(guān)政府部門(mén)和決策者需要廣泛聽(tīng)取來(lái)自自然科學(xué)、社會(huì )科學(xué)、人文科學(xué)的專(zhuān)業(yè)人員的意見(jiàn)建議，對特定技術(shù)的潛在風(fēng)險效益以及倫理問(wèn)題進(jìn)行評估，建立可靠的監督機制。

　　周穎：就數據倫理治理而言，主體包括政府部門(mén)、數據專(zhuān)家、大數據技術(shù)設計者、數據倫理學(xué)者、公眾、企業(yè)、高校、科研機構、社會(huì )團體等。為形成多方參與、協(xié)同共治的數據倫理治理格局，一方面，各方主體需要進(jìn)行跨學(xué)科、跨范式的有效溝通，加強合作共建，凝聚力量，合力推進(jìn)倫理治理實(shí)踐。另一方面，各方主體應當積極履行各自的倫理責任，如政府部門(mén)，應當進(jìn)一步完善相應的管理、監管制度建設；各個(gè)創(chuàng )新主體應當接受政府部門(mén)的管理和監督，主動(dòng)學(xué)習數據倫理知識，自覺(jué)遵守數據倫理要求，依法合規地開(kāi)展研究工作；倫理學(xué)者應當拓展研究的廣度和深度，對比各國的研究成果，發(fā)表符合我國國情的倫理研究成果。

　　譚泰成：要各方履行好倫理責任并非易事。在智能治理背景下，倫理責任的首要主體是處在創(chuàng )新和研究一線(xiàn)的算法工程師和數據科學(xué)家。他們應當克服算法理性主義的狂妄，保持科技謙遜主義的態(tài)度，提升對于數據樣本、算法解釋的倫理敏感性。從更大的角度來(lái)看，人工智能研究的科學(xué)共同體既要勇攀科技高峰，也要敏銳地意識到創(chuàng )新與研究活動(dòng)的潛在倫理風(fēng)險和挑戰。當前，技術(shù)治理的智能化趨勢集中反映在公共行政領(lǐng)域。對于公共治理者而言，最基本的倫理責任就是要慎用手中的數據和算法治理手段，合理約束這種“技術(shù)權力”。

　　主持人：在人類(lèi)社會(huì )深度科技化的背景下，倫理責任的難點(diǎn)與痛點(diǎn)有什么？

　　譚泰成：結合算法倫理的現狀，與倫理責任有關(guān)的難點(diǎn)在于：倫理問(wèn)題側重于關(guān)切如何達成基本的共識性原則，治理問(wèn)題則傾向于從公共治理角度來(lái)妥善解決技術(shù)引發(fā)的社會(huì )問(wèn)題。顯然，對于當下的算法治理而言，難點(diǎn)并不在于缺乏共識性的倫理原則，而是如何將這些原則貫徹到算法治理中。僅僅依靠頂層的適度設計是不夠的，還需要配套的底層設計。在智能治理領(lǐng)域，與倫理責任相關(guān)的最大痛點(diǎn)在于：人們往往為獲取服務(wù)便利，或覺(jué)得維權成本太高，不愿意與相關(guān)企業(yè)、公共部門(mén)或服務(wù)業(yè)的一些算法歧視或侵權行為進(jìn)行抗爭。一個(gè)重要原因是，不同年齡段、不同地區、不同學(xué)歷層次的人群，對于風(fēng)險感知程度不一樣，這種差別反過(guò)來(lái)會(huì )影響他們采取相應行動(dòng)的意愿。另一個(gè)原因是，缺乏制度化的治理參與途徑，既有的維權手段也不盡如人意。

　　閆雪楓：新興技術(shù)中普遍存在的倫理責任痛點(diǎn)與難點(diǎn)主要包括責任的歸屬、倫理審查實(shí)施的有效性，以及如何把握不同價(jià)值觀(guān)之間的平衡、技術(shù)發(fā)展與倫理之間的平衡。在基因編輯的基礎研究和臨床試驗中涉及包括科技工作者、患者、監督機構，以及政府部門(mén)等在內的多個(gè)主體。各主體的責任范圍、責任權重在不同的案例中不盡相同，因此需要具體情況具體分析。此外，即便有了倫理監督審查機構，也可能存在倫理審查理解偏差、尺度不嚴或走過(guò)場(chǎng)等情況，導致審查監管方面的倫理責任不能得到切實(shí)履行。落實(shí)倫理審查，需要從多方吸納審查人員、平衡各主體間的利益，從而保障審查是透明、客觀(guān)和公正的。最后需要明確的是，倫理責任應當是科技工作者開(kāi)展科研活動(dòng)時(shí)的底線(xiàn)，不應反過(guò)來(lái)限制科技的發(fā)展。

　　　　周穎：人類(lèi)深度數據化的背景下，難點(diǎn)與痛點(diǎn)之一在于仍有一部分群體游離在數據應用帶來(lái)的便利之外，被數據技術(shù)拒絕，更不必說(shuō)承擔相應的倫理責任。以新冠應用程序中的技術(shù)拒絕現象為例，表現為一部分人游離在新冠應用程序之外，人從過(guò)去對技術(shù)的拒絕主體地位掉落下來(lái)，變成被技術(shù)拒絕的對象。表現為技術(shù)物質(zhì)條件上的拒絕、技術(shù)知識和信息來(lái)源上的拒絕以及技術(shù)自身的不完善、技術(shù)漏洞或者非開(kāi)放性技術(shù)權限的拒絕。該問(wèn)題實(shí)質(zhì)上使人與技術(shù)間的嚴格邊界被逐步消解。技術(shù)權利提升、倫理意蘊增強的同時(shí)，人的主體性地位、權利相對就被削弱了，從而，過(guò)去人對技術(shù)“呼之則來(lái)?yè)]之則去”的自主性不復存在，而當技術(shù)不僅成為人的生活方式，且主導了人的生活方式時(shí)，幾乎無(wú)法為人所拒絕，然而卻有了拒絕人類(lèi)進(jìn)入的能力，這是技術(shù)發(fā)展的必然結果，因此也是未來(lái)值得關(guān)注和深入思考的問(wèn)題。