近日，國家互聯(lián)網(wǎng)信息辦公室發(fā)布通知，就《生成式人工智能服務(wù)管理辦法（征求意見(jiàn)稿）》（以下簡(jiǎn)稱(chēng)《辦法》）公開(kāi)征求意見(jiàn)。這或將是我國專(zhuān)門(mén)針對AIGC（人工智能生成內容）發(fā)布的第一份政府文件，引發(fā)社會(huì )各界廣泛關(guān)注。本期“思與辨”就該問(wèn)題進(jìn)行討論。

　　主持人：趙鑫

　　嘉 賓：盤(pán)和林（浙江大學(xué)國際聯(lián)合商學(xué)院數字經(jīng)濟與金融創(chuàng )新研究中心聯(lián)席主任、研究員）

　　李巖（遼寧大學(xué)法學(xué)院副院長(cháng)、教授）

　　國瀚文（西北政法大學(xué)民商法學(xué)院講師、數字法學(xué)研究院特聘研究員）

　　《辦法》為企業(yè)發(fā)展提供一個(gè)合規框架

　　主持人：從年初至今，以ChatGPT為代表的生成式人工智能引爆科技圈，一些國內公司也紛紛推出相應的產(chǎn)品和服務(wù)。此時(shí)國家出臺《辦法》規范生成式人工智能，釋放了哪些信號？

　　李巖：第一，明確我國致力于人工智能服務(wù)合法化發(fā)展的立場(chǎng)。《辦法》為企業(yè)發(fā)展提供一個(gè)合規框架，并試圖在合規前提下打造出人工智能技術(shù)創(chuàng )新發(fā)展新局面。第二，對服務(wù)提供者提出了高標準的合規義務(wù)要求。一方面，服務(wù)提供者需要在應用中滿(mǎn)足運營(yíng)合規要求；另一方面，服務(wù)提供者將作為主要的人工智能生成物法律責任的承擔者。《辦法》在責任承擔上實(shí)現了與其他法律制度的銜接，服務(wù)提供者不僅需要承擔生成內容生產(chǎn)者的責任，還需要承擔作為個(gè)人信息處理者的責任。

　　盤(pán)和林：一個(gè)信號是我們走的是先規范后發(fā)展的模式，在這個(gè)總基調下，互聯(lián)網(wǎng)企業(yè)要考慮應用的合規性。另一個(gè)信號是監管層對于A(yíng)IGC這一新事物還沒(méi)有做好充分的準備，政策的執行具體流程是怎么樣的？主管單位是誰(shuí)？怎么認定是真實(shí)準確的內容？這些細節還沒(méi)有確切的說(shuō)法，《辦法》還是一個(gè)粗線(xiàn)條的條款，是對于當前國內對AIGC一哄而上無(wú)序狀態(tài)的應急性舉措，所以《辦法》還有很大的完善空間。

　　國瀚文：透過(guò)該《辦法》可以看出國家鼓勵生成式人工智能的發(fā)展，同時(shí)也將加大管理、監督力度，引導和規范相關(guān)行業(yè)。該《辦法》一方面體現了國家對個(gè)人權益的保護，另一方面也體現出國家大力支持人工智能產(chǎn)業(yè)，推動(dòng)相關(guān)產(chǎn)業(yè)技術(shù)的發(fā)展。

　　我國關(guān)注的重點(diǎn)是內容生成的價(jià)值取向問(wèn)題

　　主持人：此前，有不少?lài)覍ι墒饺斯ぶ悄艹雠_了監管新政，側重點(diǎn)各不相同。我國出臺的《辦法》有哪些顯著(zhù)特點(diǎn)？哪些規定值得特別關(guān)注？

　　國瀚文：一是對生成式人工智能服務(wù)的監管貫穿始終，規定了申報安全評估、履行算法備案等登記手續。二是強調生成式人工智能產(chǎn)品或服務(wù)需遵守法律規范及尊重社會(huì )公德、公序良俗，與我國對待數據產(chǎn)業(yè)的態(tài)度是一致的。

　　值得關(guān)注的是，《辦法》聚焦生成式人工智能服務(wù)的安全合法，強調生成式人工智能服務(wù)的治理及權益保護，對算法的可靠性和透明度提出了要求。

　　總體來(lái)看，《辦法》回應了當前生成式人工智能發(fā)展的需要，對一些可能出現的衍生問(wèn)題提出防范舉措，有助于提前研判規避風(fēng)險。

　　盤(pán)和林：《辦法》和其他國家的監管目標是不同的，我國關(guān)注的重點(diǎn)是內容生成的價(jià)值取向問(wèn)題。規范生成內容是可以做到的，因為AI是高質(zhì)量數據訓練的產(chǎn)物，文本也好，圖像也好，都是可以達成目標的，但現在以提供方為責任人的規定，我認為還是要有所調整，諸如用戶(hù)也要負一定責任，因為AI生成內容是和用戶(hù)有關(guān)系的。所以要加強對用戶(hù)責任的認定，不能讓所有的責任都由提供方來(lái)承擔。當然，提供方有責任進(jìn)行一些必要的限制，來(lái)回避敏感內容，但即便是提供方屏蔽了，模型訓練了，還是無(wú)法回避所有的問(wèn)題，因為人類(lèi)文字，尤其是中文是很復雜的，如果出現歧義，應該給予適度包容，如果被用戶(hù)惡意傳播，則應該讓用戶(hù)承擔相應責任。

　　李巖：第一，《辦法》提出了全流程全周期的監管要求。對算法入市、數據來(lái)源、數據訓練輸出文本等各個(gè)環(huán)節的風(fēng)險控制，提出了要求。第二，《辦法》的監管舉措主要通過(guò)為服務(wù)提供者設置監管義務(wù)實(shí)現。第三，《辦法》設置了多條引致條款，與《數據安全法》《個(gè)人信息保護法》等現行法律法規形成良好銜接，能夠發(fā)揮出體系效應。

　　值得注意的是，《辦法》第十一條規定不得非法留存能推斷出用戶(hù)身份的輸入信息。這一規定能夠有效防范個(gè)人信息泄露風(fēng)險。但如何實(shí)現這類(lèi)信息與其他信息的區分，還需要進(jìn)一步研究。另外，《辦法》未涉及對于商業(yè)秘密或高敏感度的商業(yè)數據的留存問(wèn)題，缺乏對商業(yè)數據的事前監管。

　　包容審慎的審查觀(guān)能夠更好實(shí)現技術(shù)發(fā)展與安全之間的平衡

　　主持人：對于規范生成式人工智能，您還有哪些好的建議？

　　盤(pán)和林：立法應該關(guān)注AIGC的一些特性，比如內容生成的隨機性，比如責任劃分問(wèn)題。如果先規范再發(fā)展成為主基調，那么在規范方面要考慮更加成熟的立法方案，因為法規一旦出臺，就需要不折不扣地執行。而如果法律出臺之后，對AIGC產(chǎn)業(yè)發(fā)展造成了阻礙，導致大量AIGC應用無(wú)法落地，那就有可能導致新的科技差距。所以立法還是要進(jìn)一步細化，做好每一條的解釋工作，落實(shí)責任主體。也要和AIGC領(lǐng)域的龍頭企業(yè)做好溝通。對于新技術(shù)，我們都有一個(gè)接受的過(guò)程，對新技術(shù)的理解不可能一步到位。法律就是畫(huà)紅線(xiàn)，紅線(xiàn)是規范企業(yè)行為的，紅線(xiàn)劃得越細，企業(yè)獲得的空間就越大，企業(yè)在科技領(lǐng)域的表現就越活躍。

　　國瀚文：規范生成式人工智能，首先應完善相關(guān)的法律法規，對生成式人工智能服務(wù)進(jìn)行分類(lèi)管理；其次，建立完整的安全評估規范和管理流程規范，保障數據安全及隱私安全，提高生成式人工智能服務(wù)的質(zhì)量和水平。

　　李巖：第一，建立包容審慎的生成式人工智能審查模式。包容審慎的審查觀(guān)能夠更好實(shí)現技術(shù)發(fā)展與安全之間的平衡，為企業(yè)的技術(shù)發(fā)展預留空間。第二，建立專(zhuān)門(mén)監管機構，對生成式人工智能實(shí)施專(zhuān)項監管。生成式人工智能行業(yè)的監管需要一定的技術(shù)支持，不僅需要借助技術(shù)手段監管，而且需要技術(shù)人才進(jìn)行風(fēng)險解構。傳統監管模式容易出現權限劃分爭端，可能出現監管權限交叉或監管真空問(wèn)題，專(zhuān)項監管模式有助于實(shí)現算法的分級分類(lèi)管理。