專家解讀｜堅(jiān)持創(chuàng)新引領(lǐng) 促進(jìn)生成式人工智能健康發(fā)展

 為促進(jìn)生成式人工智能健康發(fā)展和規(guī)范應(yīng)用，國家互聯(lián)網(wǎng)信息辦公室等部門公布《生成式人工智能服務(wù)管理暫行辦法》（以下簡稱《辦法》），充分表明支持生成式人工智能健康發(fā)展的態(tài)度，針對生成式人工智能發(fā)展的數(shù)據(jù)安全、個(gè)人隱私、虛假信息、知識(shí)產(chǎn)權(quán)等關(guān)鍵問題作出制度安排，是貫徹落實(shí)黨中央對新技術(shù)新應(yīng)用領(lǐng)域決策部署的重要舉措，是全球首部針對生成式人工智能的專門立法，在促進(jìn)產(chǎn)業(yè)發(fā)展和規(guī)制風(fēng)險(xiǎn)方面，形成了中國式立法探索。

  一、《辦法》充分表明了支持生成式人工智能發(fā)展的立法導(dǎo)向

  習(xí)近平總書記強(qiáng)調(diào)，人工智能是新一輪科技革命和產(chǎn)業(yè)變革的重要驅(qū)動(dòng)力量，加快發(fā)展新一代人工智能是事關(guān)我國能否抓住新一輪科技革命和產(chǎn)業(yè)變革機(jī)遇的戰(zhàn)略問題。我國高度重視人工智能的健康發(fā)展，在生成式人工智能飛速發(fā)展的背景下，中共中央政治局會(huì)議強(qiáng)調(diào)“要重視通用人工智能發(fā)展，營造創(chuàng)新生態(tài)，重視防范風(fēng)險(xiǎn)”?！掇k法》貫徹落實(shí)黨中央有關(guān)人工智能發(fā)展的重要指示，充分表明了我國支持生成式人工智能發(fā)展的態(tài)度。一是《辦法》確立了促進(jìn)生成式人工智能健康發(fā)展和規(guī)范應(yīng)用的立法目的。《辦法》在總則中首先將“促進(jìn)健康發(fā)展”作為立法目的之一，同時(shí)明確了“國家堅(jiān)持發(fā)展和安全并重、促進(jìn)創(chuàng)新和依法治理相結(jié)合的原則，采取有效措施鼓勵(lì)生成式人工智能創(chuàng)新發(fā)展，對生成式人工智能服務(wù)實(shí)行包容審慎和分類分級(jí)監(jiān)管。”二是《辦法》明確了以《科學(xué)技術(shù)進(jìn)步法》為上位法依據(jù)。《科學(xué)技術(shù)進(jìn)步法》是促進(jìn)高水平科技自立自強(qiáng)的法治保障，《辦法》以其為上位法，展示了我國健全生成式人工智能創(chuàng)新保障措施，促進(jìn)生成式人工智能技術(shù)發(fā)展應(yīng)用的導(dǎo)向。三是《辦法》提出了鼓勵(lì)生成式人工智能技術(shù)發(fā)展的具體舉措?！掇k法》專門就“技術(shù)發(fā)展與治理”作出專章規(guī)定，特別是第五條、第六條提出了鼓勵(lì)生成式人工智能技術(shù)發(fā)展的措施，明確國家鼓勵(lì)生成式人工智能技術(shù)在各行業(yè)、各領(lǐng)域的創(chuàng)新應(yīng)用；支持行業(yè)組織、企業(yè)、教育和科研機(jī)構(gòu)、公共文化機(jī)構(gòu)、有關(guān)專業(yè)機(jī)構(gòu)等在生成式人工智能技術(shù)創(chuàng)新、數(shù)據(jù)資源建設(shè)、轉(zhuǎn)化應(yīng)用、風(fēng)險(xiǎn)防范等方面開展協(xié)作；鼓勵(lì)生成式人工智能基礎(chǔ)技術(shù)的自主創(chuàng)新，平等互利開展國際交流合作；推動(dòng)生成式人工智能基礎(chǔ)設(shè)施和公共訓(xùn)練數(shù)據(jù)資源平臺(tái)建設(shè)等?？傮w來看，《辦法》作為我國在生成式人工智能領(lǐng)域的專門立法，充分考慮了創(chuàng)新發(fā)展的客觀需要，就生成式人工智能健康發(fā)展的關(guān)鍵問題規(guī)定了促進(jìn)措施、明確了發(fā)展方向。

  二、《辦法》積極回應(yīng)生成式人工智能可能帶來的風(fēng)險(xiǎn)

  國際社會(huì)積極關(guān)注生成式人工智能可能產(chǎn)生數(shù)據(jù)安全、版權(quán)糾紛、算法治理等問題，表達(dá)了對由此帶來的數(shù)據(jù)安全、國家安全風(fēng)險(xiǎn)的擔(dān)憂。歐盟迅速在其備受關(guān)注的《人工智能法案》中區(qū)分了“基礎(chǔ)模型”和生成式人工智能應(yīng)用，并考慮將生成式人工智能應(yīng)用納入“高風(fēng)險(xiǎn)”管理，提出相應(yīng)合規(guī)義務(wù)。英國注重引導(dǎo)生成式人工智能發(fā)展，特別強(qiáng)調(diào)了數(shù)據(jù)保護(hù)、透明度、風(fēng)險(xiǎn)評(píng)估、算法治理等八個(gè)方面的監(jiān)管重點(diǎn)。世界主要國家和地區(qū)的立法及監(jiān)管實(shí)踐，對我國促進(jìn)和規(guī)范生成式人工智能提供了相應(yīng)經(jīng)驗(yàn)和參考。

  我國堅(jiān)持發(fā)展與安全并重，在強(qiáng)調(diào)促進(jìn)生成式人工智能發(fā)展的同時(shí)，也注重防范生成式人工智能可能帶來的風(fēng)險(xiǎn)?！掇k法》對生成式人工智能可能產(chǎn)生的風(fēng)險(xiǎn)進(jìn)行了規(guī)制。生成式人工智能對人工智能領(lǐng)域國家競爭力產(chǎn)生深遠(yuǎn)影響，但同時(shí)也對安全帶來挑戰(zhàn)?！掇k法》精準(zhǔn)應(yīng)對其帶來的相關(guān)風(fēng)險(xiǎn)，明確義務(wù)和責(zé)任，對各界普遍關(guān)注的問題進(jìn)行了回應(yīng)，既符合現(xiàn)實(shí)需求，也符合國際趨勢。第一，內(nèi)容安全風(fēng)險(xiǎn)。生成式人工智能在訓(xùn)練過程中，如使用有偏見的數(shù)據(jù)進(jìn)行訓(xùn)練，最終可能生成具有偏見或歧視的內(nèi)容；同時(shí)，主導(dǎo)者的意志、觀念對于生成式人工智能輸出的內(nèi)容具有較大影響，主導(dǎo)者如按照主觀意愿與偏見對生成式人工智能進(jìn)行訓(xùn)練，生成式人工智能將會(huì)延續(xù)偏見，最終造成潛在的社會(huì)隱患和危害。應(yīng)對上述問題，《辦法》提出了采取有效措施防止產(chǎn)生民族、信仰、國別、地域、性別、年齡、職業(yè)、健康等歧視以及其他法律、行政法規(guī)禁止的內(nèi)容的要求。第二，侵害個(gè)人信息權(quán)益風(fēng)險(xiǎn)。《辦法》明確了訓(xùn)練數(shù)據(jù)涉及個(gè)人信息的，應(yīng)當(dāng)取得個(gè)人同意或者符合法律、行政法規(guī)規(guī)定的其他情形，并要求生成式人工智能服務(wù)提供者及時(shí)受理和處理個(gè)人關(guān)于查閱、復(fù)制、更正、補(bǔ)充、刪除其個(gè)人信息等的請求。第三，數(shù)據(jù)安全風(fēng)險(xiǎn)。用戶在生成式人工智能中輸入的數(shù)據(jù)可能會(huì)被用作進(jìn)一步迭代的訓(xùn)練數(shù)據(jù)，并出現(xiàn)在后續(xù)生成式人工智能生成的內(nèi)容中。由此，一旦用戶輸入的信息中包含個(gè)人信息、商業(yè)秘密等數(shù)據(jù)，將面臨無形之中被泄露的風(fēng)險(xiǎn)。對此，《辦法》規(guī)定，生成式人工智能服務(wù)提供者對生成式人工智能服務(wù)使用者的輸入信息和使用記錄應(yīng)當(dāng)依法履行保護(hù)義務(wù)。

  三、《辦法》進(jìn)一步強(qiáng)化了生成式人工智能發(fā)展治理的法律制度

  《辦法》針對數(shù)據(jù)、內(nèi)容安全、知識(shí)產(chǎn)權(quán)等生成式人工智能發(fā)展的關(guān)鍵問題，作出了明確的制度安排。一是在數(shù)據(jù)領(lǐng)域，《辦法》鼓勵(lì)公共數(shù)據(jù)的有序開放，推動(dòng)公共數(shù)據(jù)分類分級(jí)有序開放，拓展高質(zhì)量的公共訓(xùn)練數(shù)據(jù)資源；明確訓(xùn)練數(shù)據(jù)的處理規(guī)則，要求數(shù)據(jù)和基礎(chǔ)模型的來源合法，并采取有效措施提高訓(xùn)練數(shù)據(jù)質(zhì)量；銜接個(gè)人信息保護(hù)規(guī)則，規(guī)定個(gè)人信息的收集、留存、向他人提供等均應(yīng)依法進(jìn)行。二是在內(nèi)容領(lǐng)域，《辦法》鼓勵(lì)生成積極健康、向上向善的優(yōu)質(zhì)內(nèi)容，要求不得生成法律、行政法規(guī)禁止的內(nèi)容，并要求對圖片、視頻等生成內(nèi)容進(jìn)行標(biāo)識(shí)。三是在知識(shí)產(chǎn)權(quán)領(lǐng)域，《辦法》明確了尊重知識(shí)產(chǎn)權(quán)的原則性要求，明確訓(xùn)練數(shù)據(jù)處理活動(dòng)不得侵害他人依法享有的知識(shí)產(chǎn)權(quán)?！掇k法》銜接了《網(wǎng)絡(luò)安全法》《數(shù)據(jù)安全法》《個(gè)人信息保護(hù)法》《科學(xué)技術(shù)進(jìn)步法》有關(guān)網(wǎng)絡(luò)安全、數(shù)據(jù)安全、個(gè)人信息保護(hù)等的要求，科學(xué)處理了與現(xiàn)有立法之間的關(guān)系，為生成式人工智能發(fā)展治理構(gòu)建了全面系統(tǒng)的制度安排。

  綜上，《辦法》是全球首部專門規(guī)范生成式人工智能服務(wù)的立法，是我國在新興領(lǐng)域立法的最新成果，體現(xiàn)了我國對新技術(shù)新應(yīng)用發(fā)展規(guī)制策略的持續(xù)推進(jìn)。我國高度重視新興領(lǐng)域立法工作，應(yīng)對新技術(shù)新應(yīng)用快速發(fā)展趨勢，圍繞算法、深度合成等突出領(lǐng)域及時(shí)開展立法工作，出臺(tái)相應(yīng)管理規(guī)定，促進(jìn)和規(guī)范行業(yè)發(fā)展。對算法歧視、“大數(shù)據(jù)殺熟”、誘導(dǎo)沉迷、深度偽造等國內(nèi)外關(guān)注的問題，及時(shí)作出立法回應(yīng)?！掇k法》立足于我國新興領(lǐng)域立法經(jīng)驗(yàn)和基礎(chǔ)，以促進(jìn)生成式人工智能健康發(fā)展為目標(biāo)，積極構(gòu)建符合我國實(shí)際的治理制度，有助于促進(jìn)人工智能產(chǎn)業(yè)健康發(fā)展。

  作者：肖榮美 中國信息通信研究院政策與經(jīng)濟(jì)研究所副所長

      本文轉(zhuǎn)載自：安徽省網(wǎng)信辦，原文鏈接：http://www.ahwx.gov.cn/wlyj/202308/t20230829_7048039.html