專家解讀｜鼓勵(lì)新興技術(shù)健康發(fā)展 探索人工智能治理法治路徑

      《生成式人工智能服務(wù)管理暫行辦法》（下文簡(jiǎn)稱《辦法》）頒布，標(biāo)志著我國(guó)邁出了加快人工智能立法的重要一步。新規(guī)出臺(tái)順應(yīng)新興技術(shù)發(fā)展趨勢(shì)，彰顯了注重發(fā)展、兼顧安全的立法宗旨?！掇k法》引領(lǐng)國(guó)際人工智能的治理實(shí)踐，對(duì)人工智能三要素—數(shù)據(jù)、算法、算力作出統(tǒng)籌性的制度設(shè)計(jì)，對(duì)邁向通用人工智能立法做出了有益探索。

   鼓勵(lì)新興技術(shù)健康發(fā)展，引領(lǐng)國(guó)際人工智能治理實(shí)踐

  《辦法》開篇即明確“為了促進(jìn)生成式人工智能健康發(fā)展和規(guī)范應(yīng)用”制定，是我國(guó)人工智能治理與時(shí)俱進(jìn)的重要舉措。2017年國(guó)務(wù)院發(fā)布的《新一代人工智能發(fā)展規(guī)劃》明確提出“到2025年，初步建立人工智能法律法規(guī)、倫理規(guī)范和政策體系”。2022年底以來，大模型的發(fā)展催生了人工智能技術(shù)的迭代，生成式人工智能成為人工智能產(chǎn)業(yè)全新的發(fā)展方向。生成式人工智能不僅能夠帶動(dòng)數(shù)字內(nèi)容創(chuàng)作、元宇宙、虛擬人等新興領(lǐng)域加速發(fā)展，更是依托“模型即服務(wù)”的產(chǎn)業(yè)形態(tài)融合滲透?jìng)鹘y(tǒng)產(chǎn)業(yè)實(shí)現(xiàn)生產(chǎn)力躍升。

  《辦法》的適用范圍考慮到生成式人工智能的技術(shù)特點(diǎn)與分層業(yè)態(tài)，充分體現(xiàn)了鼓勵(lì)人工智能產(chǎn)業(yè)發(fā)展的精神。生成式人工智能既可以為垂直領(lǐng)域企業(yè)提供服務(wù)，也可以通過智慧問答、圖文生成等方式直接為公眾提供服務(wù)。正是基于這些新特點(diǎn)，《辦法》第二條明確適用范圍重點(diǎn)為“向中華人民共和國(guó)境內(nèi)公眾提供生成文本、圖片、音頻、視頻等內(nèi)容的服務(wù)”，同時(shí)明確“行業(yè)組織、企業(yè)、教育和科研機(jī)構(gòu)、公共文化機(jī)構(gòu)、有關(guān)專業(yè)機(jī)構(gòu)等研發(fā)、應(yīng)用生成式人工智能技術(shù)，未向境內(nèi)公眾提供生成式人工智能服務(wù)的，不適用本辦法的規(guī)定”。與此同時(shí)，《辦法》在第五條鼓勵(lì)生成式人工智能技術(shù)在各行業(yè)、各領(lǐng)域的創(chuàng)新應(yīng)用，探索優(yōu)化應(yīng)用場(chǎng)景，構(gòu)建應(yīng)用生態(tài)體系。

  《辦法》引領(lǐng)國(guó)際人工智能的治理實(shí)踐。生成式人工智能引起世界各國(guó)立法和監(jiān)管的關(guān)注，但目前尚無成熟的治理實(shí)踐。歐盟的《人工智能法案》針對(duì)生成式人工智能做出新一輪修改與調(diào)整。我國(guó)的《辦法》作為小切口立法“急用先行”，體現(xiàn)了專門性、前瞻性和開放性，與我國(guó)既有的人工智能監(jiān)管工具相結(jié)合，引領(lǐng)生成式人工智能治理實(shí)踐，率先作出了有益的制度探索。

  統(tǒng)籌生成式人工智能多重要素，充分體現(xiàn)系統(tǒng)治理理念

  《辦法》融合了數(shù)據(jù)、算法、算力等諸多生成式人工智能要素，并明確對(duì)生成式人工智能服務(wù)實(shí)行包容審慎和分類分級(jí)監(jiān)管。在數(shù)據(jù)方面，《辦法》提出“推動(dòng)公共數(shù)據(jù)分類分級(jí)有序開放，擴(kuò)展高質(zhì)量的公共訓(xùn)練數(shù)據(jù)資源”，“推進(jìn)生成式人工智能基礎(chǔ)設(shè)施和公共訓(xùn)練數(shù)據(jù)資源平臺(tái)建設(shè)”，支持行業(yè)組織、企業(yè)、教育和科研機(jī)構(gòu)、公共文化機(jī)構(gòu)、有關(guān)專業(yè)機(jī)構(gòu)等在生成式人工智能數(shù)據(jù)資源建設(shè)等方面開展協(xié)作?！掇k法》第七條對(duì)訓(xùn)練數(shù)據(jù)處理活動(dòng)提出了具體要求。同時(shí)，第八條明確了數(shù)據(jù)標(biāo)注規(guī)范，對(duì)在生成式人工智能技術(shù)研發(fā)過程中進(jìn)行數(shù)據(jù)標(biāo)注的，規(guī)定制定符合本辦法要求的清晰、具體、可操作的標(biāo)注規(guī)則，開展數(shù)據(jù)標(biāo)注質(zhì)量評(píng)估，對(duì)標(biāo)注人員進(jìn)行必要培訓(xùn)等。

  在算法和算力等方面，《辦法》第四條明確了算法設(shè)計(jì)過程中應(yīng)當(dāng)遵守的規(guī)定，并在第六條提出鼓勵(lì)生成式人工智能算法、框架、芯片及配套軟件平臺(tái)等基礎(chǔ)技術(shù)的自主創(chuàng)新，平等互利開展國(guó)際交流與合作，參與生成式人工智能相關(guān)國(guó)際規(guī)則制定?！掇k法》第十七條明確提供具有輿論屬性或者社會(huì)動(dòng)員能力的生成式人工智能服務(wù)的，應(yīng)當(dāng)按照國(guó)家有關(guān)規(guī)定開展安全評(píng)估并履行算法備案、變更、注銷備案手續(xù)。同時(shí)，《辦法》還提出促進(jìn)算力資源協(xié)同共享、提升算力資源利用效能，明確鼓勵(lì)采用安全可信的芯片、軟件、工具、算力和數(shù)據(jù)資源，充分回應(yīng)技術(shù)產(chǎn)業(yè)發(fā)展需要。

  兼顧制度創(chuàng)新與監(jiān)管體系性，邁出通用人工智能治理探索腳步

  《辦法》兼顧創(chuàng)新制度設(shè)計(jì)與保持監(jiān)管體系性?！掇k法》第二章“技術(shù)發(fā)展與治理”作出了一系列創(chuàng)新的制度設(shè)計(jì)，圍繞生成式人工智能產(chǎn)業(yè)形態(tài)設(shè)計(jì)了覆蓋其生命周期的新型監(jiān)管措施。如第四條要求服務(wù)提供者在算法設(shè)計(jì)、訓(xùn)練數(shù)據(jù)選擇、模型生成和優(yōu)化、提供服務(wù)等過程中采取有效措施防止產(chǎn)生各種歧視，并基于服務(wù)類型特點(diǎn)，提升生成式人工智能的透明度，提高生成內(nèi)容的準(zhǔn)確性和可靠性。與此同時(shí)，《辦法》第七條要求服務(wù)提供者依法開展預(yù)訓(xùn)練、優(yōu)化訓(xùn)練等訓(xùn)練數(shù)據(jù)處理活動(dòng)，應(yīng)使用具有合法來源的數(shù)據(jù)和基礎(chǔ)模型，并且要遵守知識(shí)產(chǎn)權(quán)保護(hù)、個(gè)人信息保護(hù)等相關(guān)監(jiān)管要求。第十四條規(guī)定發(fā)現(xiàn)違法內(nèi)容的，應(yīng)當(dāng)采取模型優(yōu)化訓(xùn)練等措施進(jìn)行整改。上述一系列適應(yīng)技術(shù)發(fā)展的監(jiān)管措施，將有助于促進(jìn)生成式人工智能規(guī)范應(yīng)用。

  與此同時(shí)，《辦法》第三章明確服務(wù)規(guī)范。如在第十一條要求提供者對(duì)使用者的輸入信息和使用記錄依法履行保護(hù)義務(wù)，不得收集非必要個(gè)人信息，不得非法留存能夠識(shí)別使用者身份的輸入信息和使用記錄，不得非法向他人提供使用者的輸入信息和使用記錄，還應(yīng)當(dāng)依法及時(shí)受理和處理個(gè)人關(guān)于查閱、復(fù)制、更正、補(bǔ)充、刪除其個(gè)人信息等的請(qǐng)求，有效回應(yīng)了社會(huì)各界對(duì)生成式人工智能產(chǎn)業(yè)特點(diǎn)是否能夠符合個(gè)人信息保護(hù)要求的擔(dān)憂。第十二條要求提供者按照《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》的要求對(duì)圖片、視頻等生成內(nèi)容進(jìn)行標(biāo)識(shí)，延續(xù)了對(duì)于生成內(nèi)容的標(biāo)識(shí)要求。由此可見，《辦法》不僅與我國(guó)以往的信息內(nèi)容監(jiān)管制度相銜接，還充分考量了與個(gè)人信息保護(hù)、數(shù)據(jù)安全等制度的協(xié)調(diào)性。

  生成式人工智能的發(fā)展標(biāo)志著人工智能正在從專用智能邁向通用智能，進(jìn)入了全新的發(fā)展階段。中共中央政治局4月28日召開會(huì)議強(qiáng)調(diào)，“要重視通用人工智能發(fā)展，營(yíng)造創(chuàng)新生態(tài)，重視防范風(fēng)險(xiǎn)”?！掇k法》的各項(xiàng)具體制度開啟了通用人工智能立法的新進(jìn)程。面對(duì)技術(shù)發(fā)展帶來的機(jī)遇與挑戰(zhàn)，《辦法》既創(chuàng)新制度設(shè)計(jì)又保持監(jiān)管一貫的體系性，既重視安全更多方推進(jìn)技術(shù)產(chǎn)業(yè)發(fā)展，不僅引領(lǐng)國(guó)際人工智能治理實(shí)踐，更為我國(guó)未來通用人工智能的立法與治理做出了有益探索。

  作者：張凌寒 中國(guó)政法大學(xué)教授、博士生導(dǎo)師

      本文轉(zhuǎn)載自：安徽省網(wǎng)信辦，原文鏈接：http://www.ahwx.gov.cn/wlyj/202308/t20230829_7048041.html