生成式人工智能治理規則需平衡利弊、思深憂(yōu)遠

　　4月11日，中國國家網(wǎng)信辦發(fā)布《生成式人工智能服務(wù)管理辦法(征求意見(jiàn)稿)》(下稱(chēng)《意見(jiàn)稿》)，向社會(huì )公開(kāi)征求意見(jiàn)。4月12日，美國商務(wù)部就ChatGPT等AI大模型監管措施公開(kāi)征求意見(jiàn)，世界科技巨頭在不斷推出新品之際，各國監管部門(mén)的步伐也正迎頭趕上，逐步開(kāi)啟對人工智能生成式內容的監管，未來(lái)的監管政策成為中美競爭的關(guān)鍵變量。

　　美國監管政策的變化

　　美國國家電信和信息管理局公開(kāi)征求的內容方面，監管政策意見(jiàn)主題主要包括：人工智能開(kāi)發(fā)公司及其企業(yè)客戶(hù)應該進(jìn)行什么樣的信任和安全測試；進(jìn)行審計和評估需要什么樣的數據訪(fǎng)問(wèn)；監管機構和其他參與者如何激勵和支持人工智能系統的可信保證以及其他形式的問(wèn)責制；不同行業(yè)可能需要哪些不同的監管方法——如就業(yè)或醫療保健。

　　美國國家電信和信息管理局(NTIA)負責人Alan Davidson表示，在新技術(shù)發(fā)展的同時(shí)，也要保證其安全性、可靠性。新的大語(yǔ)言模型功能非常強大，它們確實(shí)會(huì )產(chǎn)生一些有害的內容。新的監管政策不僅可以降低產(chǎn)品的安全性，也可以讓企業(yè)以更加安全的方式發(fā)展創(chuàng )新技術(shù)。

　　美國商務(wù)部表示，將在接下來(lái)的 60 天內就人工智能審計、風(fēng)險評估和其他措施的可能性征求意見(jiàn)，這些措施可以緩解消費者對這些新技術(shù)產(chǎn)品的擔憂(yōu)。從美國國家電信和信息管理局的AI監管意見(jiàn)來(lái)看，其政策是目標是支持AI審計、評估、認證和其他機制的發(fā)展，以贏(yíng)得人們對AI系統的信任。通過(guò)監管，讓人工智能企業(yè)在政府的指導下，能以更安全的方式開(kāi)展技術(shù)創(chuàng )新。

　　中國監管政策走出重要一步

　　我國對人工智能一直持鼓勵發(fā)展的態(tài)度。國務(wù)院曾于2017年印發(fā)了《新一代人工智能發(fā)展規劃》，提出了人工智能發(fā)展的戰略目標；2022年，科技部等六部門(mén)印發(fā)了《關(guān)于加快場(chǎng)景創(chuàng )新以人工智能高水平應用促進(jìn)經(jīng)濟高質(zhì)量發(fā)展的指導意見(jiàn)》，明確提出鼓勵在重點(diǎn)行業(yè)深入挖掘人工智能技術(shù)應用場(chǎng)景。本次網(wǎng)信辦發(fā)布的《意見(jiàn)稿》是國家宏觀(guān)指導政策首次進(jìn)入法規層面。

　　《意見(jiàn)稿》進(jìn)一步明確“鼓勵優(yōu)先采用安全可信的軟件、工具、計算和數據資源”。安全可信的網(wǎng)絡(luò )產(chǎn)品和服務(wù)是《關(guān)鍵信息基礎設施安全保護條例》《網(wǎng)絡(luò )數據安全管理條例(征求意見(jiàn)稿)》對于關(guān)鍵信息基礎設施運營(yíng)者和重要數據處理者的強制要求，雖然《意見(jiàn)稿》的口徑為“鼓勵”宣貫，但未來(lái)相關(guān)監管是否會(huì )對如何判斷網(wǎng)絡(luò )產(chǎn)品和服務(wù)的安全可信發(fā)布系列規則或者標準，尚待進(jìn)一步觀(guān)察。

　　比如，在訓練數據方面，《意見(jiàn)稿》對預訓練數據提出了更多的要求，要求保證訓練數據的“真實(shí)性、準確性、客觀(guān)性、多樣性”。清華大學(xué)中國發(fā)展規劃研究院執行副院長(cháng)董煜指出，大模型離不開(kāi)數據的訓練，如果對于訓練數據作出過(guò)于嚴苛的規定，將阻礙大模型的發(fā)展速度。數據訓練的規模會(huì )決定人工智能生成內容的質(zhì)量，數據的數量和質(zhì)量比算法和模型更重要，美國可以做出ChatGPT，很大程度上在于美國對于全世界數據的收集和掌握。從歐盟、美國、韓國、日本等國家針對預訓練數據合法性的要求來(lái)看，為了支持大模型的發(fā)展，他們允許使用各種出版物對生成式人工智能訓練數據進(jìn)行分析。因此，如果由于真實(shí)性、版權等問(wèn)題無(wú)法使用相關(guān)訓練數據，將對人工智能技術(shù)發(fā)展帶來(lái)不利影響。

　　生成式AI是不能輸掉的“戰役”

　　當前中美競爭的形勢十分激烈，從某種意義上說(shuō)，生成式AI對未來(lái)的技術(shù)面貌具有相當的重塑力，這一認知已達成共識。國家高度重視科技進(jìn)步，視科技創(chuàng )新為高質(zhì)量發(fā)展的生命線(xiàn)。現階段生成式AI在中外監管思路的明顯區別是，美歐各國側重從數據安全、數據保護的角度來(lái)介入和推動(dòng)監管落地，中國則是一種綜合治理的思路，強調權益保護、數據治理、內容治理等多個(gè)維度。

　　監管的目的顯然不是要限制人工智能工具的開(kāi)發(fā)，而是要推動(dòng)它的健康發(fā)展。中國的生成式人工智能產(chǎn)品和服務(wù)，百度的文心一言已經(jīng)面世，其他大模型也在發(fā)布或是處在測試階段。受限于有限的中文數據，整體表現與ChatGPT有一定差距，如何幫它們健康地強大起來(lái)，這是對包括監管體系在內的整個(gè)中國社會(huì )的考驗。

　　通過(guò)《意見(jiàn)稿》我們不難發(fā)現，這一文件的出臺無(wú)疑為我國算法相關(guān)產(chǎn)業(yè)的發(fā)展提供了新的指導。然而，我們也注意到，該辦法中的一些細節仍有待進(jìn)一步完善，有關(guān)問(wèn)題仍需要立法者澄清。例如針對《意見(jiàn)稿》第九條，北京大學(xué)法學(xué)院薛軍教授指出，生成式人工智能服務(wù)，在某些特定場(chǎng)景下更類(lèi)似于搜索服務(wù)，本質(zhì)是一種智能檢索，應當允許用戶(hù)以游客的身份使用。這是因為，生成式人工智能服務(wù)可以根據用戶(hù)提供的查詢(xún)、問(wèn)題或任務(wù)，自動(dòng)產(chǎn)生相應的答案、方案或輸出。這個(gè)過(guò)程類(lèi)似于搜索引擎對關(guān)鍵詞進(jìn)行搜索并返回相關(guān)結果的過(guò)程，當然，還可以把搜索引擎與其結合生成更加動(dòng)態(tài)、個(gè)性化、甚至創(chuàng )造性的輸出。微軟將ChatGPT問(wèn)答模型遷入必應搜索引擎，可以讓更多的用戶(hù)通過(guò)輸入問(wèn)題獲得答案，從而提高信息獲取的效率和質(zhì)量，整個(gè)過(guò)程并不需要用戶(hù)的登錄或驗證。

　　未來(lái)隨著(zhù)AI技術(shù)的發(fā)展，中國在生成式AI和大模型方面是否會(huì )面臨類(lèi)似芯片的卡脖子局面，我們不得而知。為了不陷入被動(dòng)局面，打造有利于國內生成式AI發(fā)展的政策環(huán)境在中美競爭中扮演著(zhù)至關(guān)重要的角色。

　　陳晨 中國法學(xué)會(huì )網(wǎng)絡(luò )與信息法學(xué)研究會(huì )常務(wù)理事