專家解讀｜鼓勵新興技術(shù)健康發(fā)展 探索人工智能治理法治路徑

      《生成式人工智能服務(wù)管理暫行辦法》（下文簡稱《辦法》）頒布，標志著我國邁出了加快人工智能立法的重要一步。新規(guī)出臺順應(yīng)新興技術(shù)發(fā)展趨勢，彰顯了注重發(fā)展、兼顧安全的立法宗旨?！掇k法》引領(lǐng)國際人工智能的治理實踐，對人工智能三要素—數(shù)據(jù)、算法、算力作出統(tǒng)籌性的制度設(shè)計，對邁向通用人工智能立法做出了有益探索。

   鼓勵新興技術(shù)健康發(fā)展，引領(lǐng)國際人工智能治理實踐

  《辦法》開篇即明確“為了促進生成式人工智能健康發(fā)展和規(guī)范應(yīng)用”制定，是我國人工智能治理與時俱進的重要舉措。2017年國務(wù)院發(fā)布的《新一代人工智能發(fā)展規(guī)劃》明確提出“到2025年，初步建立人工智能法律法規(guī)、倫理規(guī)范和政策體系”。2022年底以來，大模型的發(fā)展催生了人工智能技術(shù)的迭代，生成式人工智能成為人工智能產(chǎn)業(yè)全新的發(fā)展方向。生成式人工智能不僅能夠帶動數(shù)字內(nèi)容創(chuàng)作、元宇宙、虛擬人等新興領(lǐng)域加速發(fā)展，更是依托“模型即服務(wù)”的產(chǎn)業(yè)形態(tài)融合滲透傳統(tǒng)產(chǎn)業(yè)實現(xiàn)生產(chǎn)力躍升。

  《辦法》的適用范圍考慮到生成式人工智能的技術(shù)特點與分層業(yè)態(tài)，充分體現(xiàn)了鼓勵人工智能產(chǎn)業(yè)發(fā)展的精神。生成式人工智能既可以為垂直領(lǐng)域企業(yè)提供服務(wù)，也可以通過智慧問答、圖文生成等方式直接為公眾提供服務(wù)。正是基于這些新特點，《辦法》第二條明確適用范圍重點為“向中華人民共和國境內(nèi)公眾提供生成文本、圖片、音頻、視頻等內(nèi)容的服務(wù)”，同時明確“行業(yè)組織、企業(yè)、教育和科研機構(gòu)、公共文化機構(gòu)、有關(guān)專業(yè)機構(gòu)等研發(fā)、應(yīng)用生成式人工智能技術(shù)，未向境內(nèi)公眾提供生成式人工智能服務(wù)的，不適用本辦法的規(guī)定”。與此同時，《辦法》在第五條鼓勵生成式人工智能技術(shù)在各行業(yè)、各領(lǐng)域的創(chuàng)新應(yīng)用，探索優(yōu)化應(yīng)用場景，構(gòu)建應(yīng)用生態(tài)體系。

  《辦法》引領(lǐng)國際人工智能的治理實踐。生成式人工智能引起世界各國立法和監(jiān)管的關(guān)注，但目前尚無成熟的治理實踐。歐盟的《人工智能法案》針對生成式人工智能做出新一輪修改與調(diào)整。我國的《辦法》作為小切口立法“急用先行”，體現(xiàn)了專門性、前瞻性和開放性，與我國既有的人工智能監(jiān)管工具相結(jié)合，引領(lǐng)生成式人工智能治理實踐，率先作出了有益的制度探索。

  統(tǒng)籌生成式人工智能多重要素，充分體現(xiàn)系統(tǒng)治理理念

  《辦法》融合了數(shù)據(jù)、算法、算力等諸多生成式人工智能要素，并明確對生成式人工智能服務(wù)實行包容審慎和分類分級監(jiān)管。在數(shù)據(jù)方面，《辦法》提出“推動公共數(shù)據(jù)分類分級有序開放，擴展高質(zhì)量的公共訓(xùn)練數(shù)據(jù)資源”，“推進生成式人工智能基礎(chǔ)設(shè)施和公共訓(xùn)練數(shù)據(jù)資源平臺建設(shè)”，支持行業(yè)組織、企業(yè)、教育和科研機構(gòu)、公共文化機構(gòu)、有關(guān)專業(yè)機構(gòu)等在生成式人工智能數(shù)據(jù)資源建設(shè)等方面開展協(xié)作?！掇k法》第七條對訓(xùn)練數(shù)據(jù)處理活動提出了具體要求。同時，第八條明確了數(shù)據(jù)標注規(guī)范，對在生成式人工智能技術(shù)研發(fā)過程中進行數(shù)據(jù)標注的，規(guī)定制定符合本辦法要求的清晰、具體、可操作的標注規(guī)則，開展數(shù)據(jù)標注質(zhì)量評估，對標注人員進行必要培訓(xùn)等。

  在算法和算力等方面，《辦法》第四條明確了算法設(shè)計過程中應(yīng)當遵守的規(guī)定，并在第六條提出鼓勵生成式人工智能算法、框架、芯片及配套軟件平臺等基礎(chǔ)技術(shù)的自主創(chuàng)新，平等互利開展國際交流與合作，參與生成式人工智能相關(guān)國際規(guī)則制定。《辦法》第十七條明確提供具有輿論屬性或者社會動員能力的生成式人工智能服務(wù)的，應(yīng)當按照國家有關(guān)規(guī)定開展安全評估并履行算法備案、變更、注銷備案手續(xù)。同時，《辦法》還提出促進算力資源協(xié)同共享、提升算力資源利用效能，明確鼓勵采用安全可信的芯片、軟件、工具、算力和數(shù)據(jù)資源，充分回應(yīng)技術(shù)產(chǎn)業(yè)發(fā)展需要。

  兼顧制度創(chuàng)新與監(jiān)管體系性，邁出通用人工智能治理探索腳步

  《辦法》兼顧創(chuàng)新制度設(shè)計與保持監(jiān)管體系性。《辦法》第二章“技術(shù)發(fā)展與治理”作出了一系列創(chuàng)新的制度設(shè)計，圍繞生成式人工智能產(chǎn)業(yè)形態(tài)設(shè)計了覆蓋其生命周期的新型監(jiān)管措施。如第四條要求服務(wù)提供者在算法設(shè)計、訓(xùn)練數(shù)據(jù)選擇、模型生成和優(yōu)化、提供服務(wù)等過程中采取有效措施防止產(chǎn)生各種歧視，并基于服務(wù)類型特點，提升生成式人工智能的透明度，提高生成內(nèi)容的準確性和可靠性。與此同時，《辦法》第七條要求服務(wù)提供者依法開展預(yù)訓(xùn)練、優(yōu)化訓(xùn)練等訓(xùn)練數(shù)據(jù)處理活動，應(yīng)使用具有合法來源的數(shù)據(jù)和基礎(chǔ)模型，并且要遵守知識產(chǎn)權(quán)保護、個人信息保護等相關(guān)監(jiān)管要求。第十四條規(guī)定發(fā)現(xiàn)違法內(nèi)容的，應(yīng)當采取模型優(yōu)化訓(xùn)練等措施進行整改。上述一系列適應(yīng)技術(shù)發(fā)展的監(jiān)管措施，將有助于促進生成式人工智能規(guī)范應(yīng)用。

  與此同時，《辦法》第三章明確服務(wù)規(guī)范。如在第十一條要求提供者對使用者的輸入信息和使用記錄依法履行保護義務(wù)，不得收集非必要個人信息，不得非法留存能夠識別使用者身份的輸入信息和使用記錄，不得非法向他人提供使用者的輸入信息和使用記錄，還應(yīng)當依法及時受理和處理個人關(guān)于查閱、復(fù)制、更正、補充、刪除其個人信息等的請求，有效回應(yīng)了社會各界對生成式人工智能產(chǎn)業(yè)特點是否能夠符合個人信息保護要求的擔(dān)憂。第十二條要求提供者按照《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》的要求對圖片、視頻等生成內(nèi)容進行標識，延續(xù)了對于生成內(nèi)容的標識要求。由此可見，《辦法》不僅與我國以往的信息內(nèi)容監(jiān)管制度相銜接，還充分考量了與個人信息保護、數(shù)據(jù)安全等制度的協(xié)調(diào)性。

  生成式人工智能的發(fā)展標志著人工智能正在從專用智能邁向通用智能，進入了全新的發(fā)展階段。中共中央政治局4月28日召開會議強調(diào)，“要重視通用人工智能發(fā)展，營造創(chuàng)新生態(tài)，重視防范風(fēng)險”?！掇k法》的各項具體制度開啟了通用人工智能立法的新進程。面對技術(shù)發(fā)展帶來的機遇與挑戰(zhàn)，《辦法》既創(chuàng)新制度設(shè)計又保持監(jiān)管一貫的體系性，既重視安全更多方推進技術(shù)產(chǎn)業(yè)發(fā)展，不僅引領(lǐng)國際人工智能治理實踐，更為我國未來通用人工智能的立法與治理做出了有益探索。

  作者：張凌寒 中國政法大學(xué)教授、博士生導(dǎo)師

      本文轉(zhuǎn)載自：安徽省網(wǎng)信辦，原文鏈接：http://www.ahwx.gov.cn/wlyj/202308/t20230829_7048041.html