作者：李志祥（南京師范大學(xué)公共管理學(xué)院教授）

　　近年來(lái)，人工智能技術(shù)在諸多領(lǐng)域不斷取得重大突破，其發(fā)展速度之快、影響程度之深前所未有，在給現代生活帶來(lái)極大便利的同時(shí)，也留下了一些可能危及人類(lèi)生存的重大風(fēng)險。如何能夠在充分享受科技發(fā)展帶來(lái)的巨大紅利的同時(shí)有效防范其潛在風(fēng)險，已經(jīng)成為人工智能發(fā)展面臨的關(guān)鍵問(wèn)題。為此，我國先后出臺了《新一代人工智能治理原則——發(fā)展負責任的人工智能》（2019年）、《新一代人工智能倫理規范》（2021年）、《關(guān)于加強科技倫理治理的意見(jiàn)》（2022年）和《科技倫理審查辦法（試行）》（2023年），力圖通過(guò)人工智能與倫理的有機結合，引導人工智能走上“科技向善”的健康發(fā)展道路。人工智能與倫理的有機結合，可以從倫理辯護、倫理治理和倫理創(chuàng )新三個(gè)維度展開(kāi)。

　　發(fā)展人工智能需要理性的倫理辯護

　　在進(jìn)入現實(shí)生活前，人工智能就以“機器人”形象活躍于文學(xué)作品之中。無(wú)論在舞臺劇、科幻小說(shuō)還是科幻電影中，人工智能都曾被賦予一種由人類(lèi)創(chuàng )造但反過(guò)來(lái)傷害人類(lèi)的異化性質(zhì)。這種將人工智能妖魔化的文學(xué)想象，體現了人類(lèi)對于人工智能的深層憂(yōu)慮。究其原因，乃在于人工智能可能擁有比人類(lèi)更為強大的力量，進(jìn)而出現反過(guò)來(lái)傷害人類(lèi)的巨大風(fēng)險。在現實(shí)生活中，人工智能阿爾法狗戰勝世界圍棋冠軍，工業(yè)機器人搶占人類(lèi)勞動(dòng)崗位，大語(yǔ)言模型不斷生成媲美人類(lèi)專(zhuān)家的行業(yè)作品，進(jìn)一步加劇了人類(lèi)對人工智能的擔憂(yōu)，甚至引發(fā)了一些抵制人工智能的行為。過(guò)度擔憂(yōu)和盲目抵制，可能會(huì )阻礙人工智能的正常發(fā)展，影響人類(lèi)充分享受現代科技進(jìn)步帶來(lái)的生活便利。要消除這些不必要的擔憂(yōu)，就需要對人工智能進(jìn)行理性的倫理辯護，確定人工智能的倫理正當性。

　　人工智能的倫理正當性在于它能夠造福人類(lèi)，能夠提升勞動(dòng)生產(chǎn)力以創(chuàng )造人類(lèi)的幸福生活。與其他科技產(chǎn)物相比，人工智能具有非常獨特的功能，它能夠模擬人類(lèi)的智能，既可以進(jìn)行智能式的計算，也可以完成智能式的動(dòng)作，其部分體力能力（如力量和速度）與智力能力（如記憶和計算）甚至可以遠遠超過(guò)人類(lèi)。模擬意味著(zhù)替代，能夠被人工智能模擬的人類(lèi)活動(dòng)也就有可能被替代。因此，人工智能可以作為人類(lèi)勞動(dòng)的協(xié)助者或替代者，廣泛進(jìn)入各個(gè)生產(chǎn)和生活領(lǐng)域，這樣既可以節省大量的勞動(dòng)時(shí)間，為人類(lèi)提供更多的自由時(shí)間，又可以創(chuàng )造更高的勞動(dòng)效率，為人類(lèi)提供豐富的勞動(dòng)產(chǎn)品和便利的社會(huì )服務(wù)。概而言之，能夠提高勞動(dòng)生產(chǎn)力以造福人類(lèi)，是人工智能獲取倫理正當性的現實(shí)基礎。

　　但可能性并不意味著(zhù)現實(shí)性，人工智能能否實(shí)現自己的倫理正當性，并不取決于人工智能自身，而是取決于人工智能的現實(shí)發(fā)展是否真正指向其正當性目的。人工智能既有可能實(shí)現合目的性發(fā)展，提升人類(lèi)的幸福生活；也有可能步入異化發(fā)展道路，破壞人類(lèi)的根本利益。如果只看到人工智能的進(jìn)步性，以超人類(lèi)主義姿態(tài)歡呼“超級智能”，要求毫無(wú)約束地發(fā)展人工智能技術(shù)，就有可能危及整個(gè)人類(lèi)的生存和發(fā)展。反之，如果只看到人工智能的危險性，堅持拒斥“科技怪物”式的反智主義，要求嚴格禁止人工智能技術(shù)的發(fā)展，則有可能導致人類(lèi)科技創(chuàng )新的停滯。因此，理性的倫理辯護應該是辯證的，既要看到人工智能的合目的性，歡迎人工智能發(fā)展創(chuàng )造的人類(lèi)福利；也要看到人工智能的盲目性，警惕人工智能可能帶來(lái)的潛在風(fēng)險。

　　發(fā)展人工智能需要有效的倫理治理

　　人工智能是人類(lèi)創(chuàng )造出來(lái)的、為人類(lèi)服務(wù)的技術(shù)物，它具有強大的技術(shù)力量，但并不必然為人類(lèi)服務(wù)。人工智能既可能造福人類(lèi)，也可能傷害人類(lèi)，正如無(wú)人轟炸機既可能阻止戰爭也可能殺傷平民一樣。從目前可預見(jiàn)的情況看，人工智能有可能引發(fā)四類(lèi)主要問(wèn)題。第一是安全問(wèn)題，即人工智能的強大力量既可能改善人類(lèi)生活，也可能危及社會(huì )發(fā)展和人類(lèi)安全。第二是正義問(wèn)題，即人工智能在能夠提供充裕財富和便利服務(wù)的同時(shí)，有可能加劇分配不公和群體歧視等社會(huì )正義問(wèn)題。第三是人的發(fā)展問(wèn)題，即人工智能對人類(lèi)勞動(dòng)的取代以及對人類(lèi)能力的延伸增強，有可能阻礙人類(lèi)能力的全面發(fā)展。第四是自由自主問(wèn)題，即人工智能替代人類(lèi)進(jìn)行決策和行動(dòng)，在減輕人類(lèi)負擔的同時(shí)也壓縮了人類(lèi)的自由自主空間。要防范這些風(fēng)險，必須對人工智能進(jìn)行嚴格的規治和約束，使之符合人類(lèi)現有的倫理規范、道德觀(guān)念和價(jià)值取向。

　　對人工智能進(jìn)行倫理治理，就是要讓人工智能技術(shù)在研發(fā)和使用過(guò)程中貫徹服務(wù)人類(lèi)這一根本宗旨，以最大限度地造福人類(lèi)。也就是說(shuō)，人工智能的發(fā)展必須以人類(lèi)的根本利益為中心，必須以人類(lèi)現有的倫理規范和價(jià)值取向為標準。離開(kāi)了這個(gè)中心和標準，人工智能的發(fā)展就可能誤入歧途。人類(lèi)基本價(jià)值共識主要包括三個(gè)方面：一是尊重個(gè)體的生命安全與自由發(fā)展，二是追求人際的公平正義與仁愛(ài)友善，三是強調群體的和平穩定與繁榮發(fā)展。對人工智能進(jìn)行倫理治理，就是要讓人工智能的發(fā)展服從人類(lèi)公認的倫理規范，促進(jìn)人類(lèi)基本價(jià)值的廣泛實(shí)現。

　　對人工智能進(jìn)行倫理治理，關(guān)鍵在于人工智能背后的人而不是人工智能本身。人工智能無(wú)論擁有多強大的功能，在本質(zhì)上仍然只是一種技術(shù)物，是由人類(lèi)創(chuàng )造出來(lái)并且受人類(lèi)支配的技術(shù)物。人工智能的自主智能能力并非自然生成，能夠具有什么樣的能力，具有多大的能力，由人類(lèi)而非人工智能決定。從創(chuàng )造者與受造物的責任關(guān)系來(lái)看，人類(lèi)必須對自己的創(chuàng )造物負責，必須對人工智能的功能負責，必須對人工智能引發(fā)的一切后果負責。也就是說(shuō)，倫理治理需要堅持這樣一種核心理念：人工智能引發(fā)的社會(huì )問(wèn)題首先是“人”的問(wèn)題，而不是“物”的問(wèn)題。對人工智能進(jìn)行倫理治理，首先要增強人工智能相關(guān)人員的責任意識。

　　對人工智能進(jìn)行有效的倫理治理，既要防止強調自由放任的技術(shù)至上主義思想，也要防止追逐私人利益的技術(shù)中立主義思想。讓人工智能不受任何約束地自由發(fā)展，有可能使人工智能走上盲目發(fā)展道路，導致人造物奴役人類(lèi)的異化局面。讓人工智能服從個(gè)人私利和私人意志，可能使人工智能走上片面發(fā)展道路，導致人工智能淪為部分人的牟利工具。真正合乎倫理的、負責任的人工智能，只能是為整個(gè)人類(lèi)謀福利的人工智能。

　　發(fā)展人工智能需要合理的倫理創(chuàng )新

　　人工智能的問(wèn)世會(huì )在一定程度上改變人類(lèi)的倫理生活，沖擊現有的道德觀(guān)念。一方面，人工智能作為一種超級計算軟件與非生物硬件相結合的存在物，既不同于人類(lèi)這種具有生物身體的理性存在物，也不同于動(dòng)物這種具有感受能力的非理性存在物。一旦進(jìn)入道德世界，這種新型存在物具有什么樣的道德意義，應該享有何種道德地位，這是現有的倫理學(xué)理論未曾碰到過(guò)的新問(wèn)題，需要進(jìn)行嚴肅認真的思考。另一方面，人工智能全面進(jìn)入生產(chǎn)生活領(lǐng)域，必然會(huì )影響現有的勞動(dòng)模式和交往方式，甚至會(huì )形成一些具有全新倫理性質(zhì)的社會(huì )關(guān)系。一旦這些變化超出了現有倫理學(xué)理論的解釋范圍，就需要創(chuàng )新發(fā)展倫理學(xué)理論以給予合理解釋。從這個(gè)意義上說(shuō)，要想充分理解人工智能的道德意義，合理應對人工智能帶來(lái)的倫理變化，就需要進(jìn)行一定的倫理創(chuàng )新，發(fā)展與人工智能相適應的倫理理論和道德觀(guān)念。

　　基于人工智能發(fā)展的倫理創(chuàng )新首先需要立足人工智能這一獨特的技術(shù)物。人工智能不同于其他的人造技術(shù)物，它具有一定的智能能力和自主能力。盡管人工智能并不具有自己的自由意志，只能以設計者、生產(chǎn)者和使用者等人類(lèi)的意志作為意志，但在諸多人類(lèi)意志的控制之下，人工智能仍然擁有一個(gè)相對狹小的選擇空間，需要其進(jìn)行自主的行為選擇。這種相對狹小的自主選擇空間和相對弱小的自主選擇能力，有可能賦予人工智能行動(dòng)以一定的道德意義。因此，人工智能能否被視為一種道德主體，是否需要承擔一定的道德責任，可否享有一定的道德權利，都開(kāi)始成為需要嚴肅對待的問(wèn)題，這或許會(huì )指向一種真正面向人工智能開(kāi)放的倫理學(xué)理論。這同時(shí)意味著(zhù)，我們需要以人工智能作為一個(gè)全新的參照物，反思現有的道德主體理論、道德責任理論、道德行為理論、道德評價(jià)理論以及道德賞罰理論等，將人類(lèi)對道德本身的理解推向一個(gè)新高度，這樣才能真正把握人工智能的道德意義。

　　基于人工智能發(fā)展的倫理創(chuàng )新還需要面對人工智能帶來(lái)的生活變化。人工智能的廣泛應用可能從三個(gè)方面改變人類(lèi)的生活。第一，人工智能可以作為人類(lèi)器官的替代者或者增強者，提升人類(lèi)的生命能力。這就從一個(gè)全新角度重新提出了人的特質(zhì)問(wèn)題：面對人工智能，人之為人的特質(zhì)到底是什么？生命能力增強后的人類(lèi)能否獲得自我同一性？第二，人工智能可以作為人類(lèi)勞動(dòng)的替代者或協(xié)助者，推動(dòng)機器勞動(dòng)大規模取代人類(lèi)勞動(dòng)，這又從一個(gè)全新角度重新提出了勞動(dòng)本質(zhì)問(wèn)題：勞動(dòng)對于人類(lèi)的真正意義到底是什么？由自動(dòng)化機器生產(chǎn)的勞動(dòng)產(chǎn)品應該如何分配？第三，人工智能大規模進(jìn)入生產(chǎn)生活領(lǐng)域，與人類(lèi)形成各種錯綜復雜的關(guān)系，這就提出了一個(gè)全新的人機關(guān)系問(wèn)題：人類(lèi)到底應該如何看待和處理與人工智能的關(guān)系？要回答這些問(wèn)題，就需要對現有的倫理學(xué)理論進(jìn)行深入反思，或許需要將倫理學(xué)理論的根基從現有的人—人關(guān)系擴展至新興的人—機關(guān)系。

　　基于人工智能發(fā)展的倫理創(chuàng )新，既要警惕理論上的僵化主義，也要警惕理論上的機會(huì )主義。理論上的僵化主義者完全固守現有的倫理學(xué)理論，看不到人工智能帶來(lái)的發(fā)展機遇，不愿意做出任何本質(zhì)上的理論改變。這有可能導致倫理學(xué)理論與實(shí)踐發(fā)展脫節，進(jìn)而弱化倫理學(xué)理論指導人工智能實(shí)踐發(fā)展的功能。理論上的機會(huì )主義者完全無(wú)視現有的倫理學(xué)原則，放棄人類(lèi)長(cháng)期珍視的基本價(jià)值，只追隨實(shí)踐發(fā)展的現實(shí)需要。這有可能導致倫理學(xué)理論喪失其價(jià)值根基，同樣會(huì )弱化倫理學(xué)理論指導實(shí)踐發(fā)展的功能。合理的倫理創(chuàng )新，必須堅守人類(lèi)基本價(jià)值共識，根據人工智能的發(fā)展實(shí)際，不斷創(chuàng )造能夠理解、包容和指導人工智能發(fā)展的新倫理學(xué)理論。

　　無(wú)論從人工智能的健康發(fā)展來(lái)看，還是從人類(lèi)社會(huì )的持續發(fā)展來(lái)看，人工智能都必須與倫理結合起來(lái)。沒(méi)有理性的倫理辯護，人類(lèi)難以保持對人工智能發(fā)展的正確態(tài)度。沒(méi)有有效的倫理治理，人類(lèi)難以合理引導人工智能的強大力量。沒(méi)有合理的倫理創(chuàng )新，人類(lèi)難以跟上人工智能的發(fā)展步伐。只有將倫理辯護、倫理治理與倫理創(chuàng )新結合起來(lái)，才能真正確保人工智能向上向善發(fā)展，形成科技健康發(fā)展與社會(huì )持續進(jìn)步的雙贏(yíng)局面。

　　《光明日報》（2024年02月19日 15版）