專家解讀｜以安全助發(fā)展 以治理促創(chuàng)新

        近日，國家網(wǎng)信辦聯(lián)合國家發(fā)展改革委、教育部、科技部、工業(yè)和信息化部、公安部、廣電總局公布《生成式人工智能服務管理暫行辦法》（以下稱《辦法》），這充分體現(xiàn)了國家對生成式人工智能發(fā)展和應用的高度重視，也標志著我國生成式人工智能治理邁出了堅實的一步?！掇k法》堅持發(fā)展與安全并重、促進創(chuàng)新與依法治理相結(jié)合的原則，為生成式人工智能的健康發(fā)展和規(guī)范應用提供了制度“錨點”和實踐指引，在推動相關技術進步與產(chǎn)業(yè)落地的同時，確保生成式人工智能服務更好地造福人民。

  近兩年，生成式人工智能大模型在內(nèi)容生成、理解推理、多輪對話等方面達到超預期的高度，將為數(shù)字經(jīng)濟蓬勃發(fā)展提供垂直化、場景化、個性化的應用工具，廣泛賦能電子商務、創(chuàng)意產(chǎn)業(yè)、金融服務、醫(yī)療健康等領域。但目前主流的生成式人工智能屬于“黑箱”模型，在應用中可能會產(chǎn)生有害言論、虛假信息、隱私泄露、偏見歧視等風險。發(fā)展可信安全的生成式人工智能已成為全球共識。發(fā)展與安全是一體兩翼、辯證統(tǒng)一的關系，安全為生成式人工智能發(fā)展提出規(guī)范要求，同時也是其被市場應用、社會接受的基礎。

  《辦法》堅持發(fā)展與安全并重、創(chuàng)新與治理相結(jié)合的原則，對生成式人工智能服務實行包容審慎和分類分級監(jiān)管。一方面，圍繞應用、研發(fā)、基礎設施等多措并舉打造自主開放的創(chuàng)新生態(tài)，鼓勵生成式人工智能技術在各行業(yè)、各領域的創(chuàng)新應用，支持相關機構(gòu)在技術創(chuàng)新、數(shù)據(jù)資源建設、轉(zhuǎn)化應用、風險防范等方面開展協(xié)作，鼓勵基礎技術的自主創(chuàng)新，平等互利開展國際交流與合作，推動生成式人工智能基礎設施和公共訓練數(shù)據(jù)資源平臺建設。另一方面，構(gòu)建起了鼓勵多方主體參與、貫穿生成式人工智能服務全流程的規(guī)范體系，對訓練數(shù)據(jù)處理、生成式人工智能服務規(guī)范做了相應要求，規(guī)定了安全評估、算法備案、投訴舉報等配套制度，明確了法律責任和發(fā)現(xiàn)違法內(nèi)容的處置措施。《辦法》還對國家有關主管部門的管理提出了要求，針對生成式人工智能的技術特點和服務特征，完善與創(chuàng)新發(fā)展相適應的科學監(jiān)管方式，制定相應的分類分級監(jiān)管規(guī)則或者指引?！掇k法》為生成式人工智能健康有序發(fā)展奠定了堅實的制度基礎，也為大模型等新技術的監(jiān)管做出了示范。

  下一步，落實《辦法》精神和相關要求，需要業(yè)內(nèi)科研機構(gòu)和企業(yè)一起努力，在相關部門支持下，推進重點領域攻關，打造我國生成式人工智能“發(fā)展”與“安全”的雙基座。在發(fā)展基座方面，進一步研發(fā)并開源高質(zhì)量的基礎模型，同時構(gòu)建面向大模型研發(fā)與應用的全鏈條開源體系，貫穿數(shù)據(jù)、預訓練、微調(diào)、部署和評測各個環(huán)節(jié)，降低我國大模型研發(fā)和商用開發(fā)的門檻。在安全基座方面，推進構(gòu)建生成式人工智能高質(zhì)量數(shù)據(jù)集，研發(fā)相關系列標準，建設生成式人工智能評測平臺，打造“數(shù)據(jù)、標準、評測”一體化的生成式人工智能大模型可信安全體系，為生成式人工智能健康發(fā)展和規(guī)范應用保駕護航。

  作者：喬 宇 上海人工智能實驗室主任助理、教授

       本文轉(zhuǎn)載自：安徽省網(wǎng)信辦，原文鏈接：http://www.ahwx.gov.cn/wlyj/202308/t20230829_7048028.html