專家解讀｜堅持創(chuàng)新引領(lǐng) 促進生成式人工智能健康發(fā)展

 為促進生成式人工智能健康發(fā)展和規(guī)范應(yīng)用，國家互聯(lián)網(wǎng)信息辦公室等部門公布《生成式人工智能服務(wù)管理暫行辦法》（以下簡稱《辦法》），充分表明支持生成式人工智能健康發(fā)展的態(tài)度，針對生成式人工智能發(fā)展的數(shù)據(jù)安全、個人隱私、虛假信息、知識產(chǎn)權(quán)等關(guān)鍵問題作出制度安排，是貫徹落實黨中央對新技術(shù)新應(yīng)用領(lǐng)域決策部署的重要舉措，是全球首部針對生成式人工智能的專門立法，在促進產(chǎn)業(yè)發(fā)展和規(guī)制風(fēng)險方面，形成了中國式立法探索。

  一、《辦法》充分表明了支持生成式人工智能發(fā)展的立法導(dǎo)向

  習(xí)近平總書記強調(diào)，人工智能是新一輪科技革命和產(chǎn)業(yè)變革的重要驅(qū)動力量，加快發(fā)展新一代人工智能是事關(guān)我國能否抓住新一輪科技革命和產(chǎn)業(yè)變革機遇的戰(zhàn)略問題。我國高度重視人工智能的健康發(fā)展，在生成式人工智能飛速發(fā)展的背景下，中共中央政治局會議強調(diào)“要重視通用人工智能發(fā)展，營造創(chuàng)新生態(tài)，重視防范風(fēng)險”?！掇k法》貫徹落實黨中央有關(guān)人工智能發(fā)展的重要指示，充分表明了我國支持生成式人工智能發(fā)展的態(tài)度。一是《辦法》確立了促進生成式人工智能健康發(fā)展和規(guī)范應(yīng)用的立法目的?！掇k法》在總則中首先將“促進健康發(fā)展”作為立法目的之一，同時明確了“國家堅持發(fā)展和安全并重、促進創(chuàng)新和依法治理相結(jié)合的原則，采取有效措施鼓勵生成式人工智能創(chuàng)新發(fā)展，對生成式人工智能服務(wù)實行包容審慎和分類分級監(jiān)管?！?strong>二是《辦法》明確了以《科學(xué)技術(shù)進步法》為上位法依據(jù)?！犊茖W(xué)技術(shù)進步法》是促進高水平科技自立自強的法治保障，《辦法》以其為上位法，展示了我國健全生成式人工智能創(chuàng)新保障措施，促進生成式人工智能技術(shù)發(fā)展應(yīng)用的導(dǎo)向。三是《辦法》提出了鼓勵生成式人工智能技術(shù)發(fā)展的具體舉措?！掇k法》專門就“技術(shù)發(fā)展與治理”作出專章規(guī)定，特別是第五條、第六條提出了鼓勵生成式人工智能技術(shù)發(fā)展的措施，明確國家鼓勵生成式人工智能技術(shù)在各行業(yè)、各領(lǐng)域的創(chuàng)新應(yīng)用；支持行業(yè)組織、企業(yè)、教育和科研機構(gòu)、公共文化機構(gòu)、有關(guān)專業(yè)機構(gòu)等在生成式人工智能技術(shù)創(chuàng)新、數(shù)據(jù)資源建設(shè)、轉(zhuǎn)化應(yīng)用、風(fēng)險防范等方面開展協(xié)作；鼓勵生成式人工智能基礎(chǔ)技術(shù)的自主創(chuàng)新，平等互利開展國際交流合作；推動生成式人工智能基礎(chǔ)設(shè)施和公共訓(xùn)練數(shù)據(jù)資源平臺建設(shè)等?？傮w來看，《辦法》作為我國在生成式人工智能領(lǐng)域的專門立法，充分考慮了創(chuàng)新發(fā)展的客觀需要，就生成式人工智能健康發(fā)展的關(guān)鍵問題規(guī)定了促進措施、明確了發(fā)展方向。

  二、《辦法》積極回應(yīng)生成式人工智能可能帶來的風(fēng)險

  國際社會積極關(guān)注生成式人工智能可能產(chǎn)生數(shù)據(jù)安全、版權(quán)糾紛、算法治理等問題，表達了對由此帶來的數(shù)據(jù)安全、國家安全風(fēng)險的擔(dān)憂。歐盟迅速在其備受關(guān)注的《人工智能法案》中區(qū)分了“基礎(chǔ)模型”和生成式人工智能應(yīng)用，并考慮將生成式人工智能應(yīng)用納入“高風(fēng)險”管理，提出相應(yīng)合規(guī)義務(wù)。英國注重引導(dǎo)生成式人工智能發(fā)展，特別強調(diào)了數(shù)據(jù)保護、透明度、風(fēng)險評估、算法治理等八個方面的監(jiān)管重點。世界主要國家和地區(qū)的立法及監(jiān)管實踐，對我國促進和規(guī)范生成式人工智能提供了相應(yīng)經(jīng)驗和參考。

  我國堅持發(fā)展與安全并重，在強調(diào)促進生成式人工智能發(fā)展的同時，也注重防范生成式人工智能可能帶來的風(fēng)險。《辦法》對生成式人工智能可能產(chǎn)生的風(fēng)險進行了規(guī)制。生成式人工智能對人工智能領(lǐng)域國家競爭力產(chǎn)生深遠影響，但同時也對安全帶來挑戰(zhàn)?！掇k法》精準(zhǔn)應(yīng)對其帶來的相關(guān)風(fēng)險，明確義務(wù)和責(zé)任，對各界普遍關(guān)注的問題進行了回應(yīng)，既符合現(xiàn)實需求，也符合國際趨勢。第一，內(nèi)容安全風(fēng)險。生成式人工智能在訓(xùn)練過程中，如使用有偏見的數(shù)據(jù)進行訓(xùn)練，最終可能生成具有偏見或歧視的內(nèi)容；同時，主導(dǎo)者的意志、觀念對于生成式人工智能輸出的內(nèi)容具有較大影響，主導(dǎo)者如按照主觀意愿與偏見對生成式人工智能進行訓(xùn)練，生成式人工智能將會延續(xù)偏見，最終造成潛在的社會隱患和危害。應(yīng)對上述問題，《辦法》提出了采取有效措施防止產(chǎn)生民族、信仰、國別、地域、性別、年齡、職業(yè)、健康等歧視以及其他法律、行政法規(guī)禁止的內(nèi)容的要求。第二，侵害個人信息權(quán)益風(fēng)險?！掇k法》明確了訓(xùn)練數(shù)據(jù)涉及個人信息的，應(yīng)當(dāng)取得個人同意或者符合法律、行政法規(guī)規(guī)定的其他情形，并要求生成式人工智能服務(wù)提供者及時受理和處理個人關(guān)于查閱、復(fù)制、更正、補充、刪除其個人信息等的請求。第三，數(shù)據(jù)安全風(fēng)險。用戶在生成式人工智能中輸入的數(shù)據(jù)可能會被用作進一步迭代的訓(xùn)練數(shù)據(jù)，并出現(xiàn)在后續(xù)生成式人工智能生成的內(nèi)容中。由此，一旦用戶輸入的信息中包含個人信息、商業(yè)秘密等數(shù)據(jù)，將面臨無形之中被泄露的風(fēng)險。對此，《辦法》規(guī)定，生成式人工智能服務(wù)提供者對生成式人工智能服務(wù)使用者的輸入信息和使用記錄應(yīng)當(dāng)依法履行保護義務(wù)。

  三、《辦法》進一步強化了生成式人工智能發(fā)展治理的法律制度

  《辦法》針對數(shù)據(jù)、內(nèi)容安全、知識產(chǎn)權(quán)等生成式人工智能發(fā)展的關(guān)鍵問題，作出了明確的制度安排。一是在數(shù)據(jù)領(lǐng)域，《辦法》鼓勵公共數(shù)據(jù)的有序開放，推動公共數(shù)據(jù)分類分級有序開放，拓展高質(zhì)量的公共訓(xùn)練數(shù)據(jù)資源；明確訓(xùn)練數(shù)據(jù)的處理規(guī)則，要求數(shù)據(jù)和基礎(chǔ)模型的來源合法，并采取有效措施提高訓(xùn)練數(shù)據(jù)質(zhì)量；銜接個人信息保護規(guī)則，規(guī)定個人信息的收集、留存、向他人提供等均應(yīng)依法進行。二是在內(nèi)容領(lǐng)域，《辦法》鼓勵生成積極健康、向上向善的優(yōu)質(zhì)內(nèi)容，要求不得生成法律、行政法規(guī)禁止的內(nèi)容，并要求對圖片、視頻等生成內(nèi)容進行標(biāo)識。三是在知識產(chǎn)權(quán)領(lǐng)域，《辦法》明確了尊重知識產(chǎn)權(quán)的原則性要求，明確訓(xùn)練數(shù)據(jù)處理活動不得侵害他人依法享有的知識產(chǎn)權(quán)?！掇k法》銜接了《網(wǎng)絡(luò)安全法》《數(shù)據(jù)安全法》《個人信息保護法》《科學(xué)技術(shù)進步法》有關(guān)網(wǎng)絡(luò)安全、數(shù)據(jù)安全、個人信息保護等的要求，科學(xué)處理了與現(xiàn)有立法之間的關(guān)系，為生成式人工智能發(fā)展治理構(gòu)建了全面系統(tǒng)的制度安排。

  綜上，《辦法》是全球首部專門規(guī)范生成式人工智能服務(wù)的立法，是我國在新興領(lǐng)域立法的最新成果，體現(xiàn)了我國對新技術(shù)新應(yīng)用發(fā)展規(guī)制策略的持續(xù)推進。我國高度重視新興領(lǐng)域立法工作，應(yīng)對新技術(shù)新應(yīng)用快速發(fā)展趨勢，圍繞算法、深度合成等突出領(lǐng)域及時開展立法工作，出臺相應(yīng)管理規(guī)定，促進和規(guī)范行業(yè)發(fā)展。對算法歧視、“大數(shù)據(jù)殺熟”、誘導(dǎo)沉迷、深度偽造等國內(nèi)外關(guān)注的問題，及時作出立法回應(yīng)?！掇k法》立足于我國新興領(lǐng)域立法經(jīng)驗和基礎(chǔ)，以促進生成式人工智能健康發(fā)展為目標(biāo)，積極構(gòu)建符合我國實際的治理制度，有助于促進人工智能產(chǎn)業(yè)健康發(fā)展。

  作者：肖榮美 中國信息通信研究院政策與經(jīng)濟研究所副所長

      本文轉(zhuǎn)載自：安徽省網(wǎng)信辦，原文鏈接：http://www.ahwx.gov.cn/wlyj/202308/t20230829_7048039.html