圖：AIGC帶來巨大發(fā)展機(jī)遇的同時(shí)，也衍生了知識(shí)產(chǎn)權(quán)保護(hù)、算法歧視、安全挑戰(zhàn)、倫理風(fēng)險(xiǎn)、環(huán)境風(fēng)險(xiǎn)等問題。

　　推動(dòng)AIGC（生成式人工智能）健康發(fā)展和規(guī)范應(yīng)用，亟需各方協(xié)同努力，以促進(jìn)市場(chǎng)潛力釋放。AIGC一方面為金融行業(yè)帶來了巨大的發(fā)展機(jī)遇，另一方面，知識(shí)產(chǎn)權(quán)保護(hù)、算法歧視、安全挑戰(zhàn)、倫理風(fēng)險(xiǎn)、環(huán)境風(fēng)險(xiǎn)等問題都制約了AIGC在金融行業(yè)的應(yīng)用。中國亟需探索構(gòu)建可持續(xù)人工智能生態(tài)的路徑。

　　“我們總是高估未來兩年的技術(shù)改變，但低估未來10年的技術(shù)影響。”正如微軟創(chuàng)始人比爾．蓋茨所言，在下一個(gè)黃金十年，AI（人工智能）將進(jìn)一步釋放歷次科技革命和產(chǎn)業(yè)變革積蓄的巨大能量。

　　歐盟和美國等西方多數(shù)國家都主張采用多元主體參與、協(xié)同共治的模式，人工智能治理從政府主導(dǎo)向“政府＋市場(chǎng)”主導(dǎo)轉(zhuǎn)型。希望既加速人工智能產(chǎn)業(yè)發(fā)展，又同步推進(jìn)監(jiān)管規(guī)則的制定。

　　2019年，歐盟發(fā)布《可信賴人工智能道德準(zhǔn)則》（以下簡(jiǎn)稱《準(zhǔn)則》），提出了實(shí)現(xiàn)可信賴人工智能全生命周期的框架。提出四項(xiàng)倫理準(zhǔn)則：尊重人自主性、預(yù)防傷害、公平性和可解釋性。列出實(shí)現(xiàn)可信賴AI的七個(gè)關(guān)鍵條件：人的能動(dòng)性和監(jiān)督；技術(shù)穩(wěn)健性和安全性；隱私和數(shù)據(jù)管理；透明度；多樣性、非歧視性和公平性；社會(huì)和環(huán)境福祉；問責(zé)。

　　《準(zhǔn)則》將“信任”與“可信賴”等術(shù)語置于文件的核心地位，這也是世界各國制定的人工智能倫理準(zhǔn)則中廣泛使用的概念之一。2023年6月，歐洲議會(huì)又邁出了具有歷史意義的重要一步，通過《人工智能法案》草案，但距離完全生效可能還需數(shù)年時(shí)間，為未來的人工智能監(jiān)管奠定了法律基礎(chǔ)。這一舉措讓外界看到了超越道德和法律的人工智能科技在歐洲迎來了一扇有法可管的大門。同時(shí)，歐洲也立下了全球人工智能監(jiān)管的新標(biāo)準(zhǔn)。

　　中美監(jiān)管思路各異

　　美國為了平衡創(chuàng)新與治理的需要，采取了較為寬松的“軟監(jiān)管”。2020年1月，美國聯(lián)邦政府發(fā)布了《人工智能應(yīng)用的監(jiān)管指南》，要求聯(lián)邦政府以減少人工智能技術(shù)應(yīng)用的障礙和促進(jìn)技術(shù)創(chuàng)新為目標(biāo)。在治理主體上，美國成立了“人工智能國家安全委員會(huì)”，由政府官員、科學(xué)家、企業(yè)高管和學(xué)者等組成的多元治理主體?？梢钥闯?，美國不僅側(cè)重維護(hù)自身核心價(jià)值，而且更加強(qiáng)調(diào)對(duì)人工智能創(chuàng)新與發(fā)展的促進(jìn)，避免一刀切式的過度干預(yù)。其優(yōu)先考慮不通過政策手段阻礙人工智能技術(shù)和產(chǎn)業(yè)發(fā)展，降低創(chuàng)新門檻和成本，高度重視為人工智能應(yīng)用創(chuàng)建“安全港”、監(jiān)管轄免等。

　　歐美AI治理對(duì)于中國的金融機(jī)構(gòu)和眾多產(chǎn)業(yè)提供了啟示。努力確保AI算法和模型具有透明度和可解釋性，使用戶和監(jiān)管機(jī)構(gòu)能夠理解決策的依據(jù)和過程，這有助于建立信任。另外，金融機(jī)構(gòu)要積極參與國際合作，密切跟蹤技術(shù)前沿，科學(xué)、動(dòng)態(tài)地制定和調(diào)整倫理規(guī)范。倡導(dǎo)發(fā)展“以人為本”的人工智能，共同參與制定倫理治理標(biāo)準(zhǔn)和規(guī)范。讓AI的發(fā)展符合社會(huì)倫理，為人類創(chuàng)造積極價(jià)值。

　　在AIGC方面，中外監(jiān)管思路存在差異。歐美國家側(cè)重于從數(shù)據(jù)安全、數(shù)據(jù)保護(hù)和數(shù)據(jù)治理的角度進(jìn)行監(jiān)管；而中國則采取綜合治理的思路，強(qiáng)調(diào)權(quán)益保護(hù)、數(shù)據(jù)治理和內(nèi)容治理等多個(gè)方面的監(jiān)管。

　　為了促進(jìn)AIGC健康發(fā)展和規(guī)范應(yīng)用，維護(hù)國家安全和社會(huì)公共利益，保護(hù)公民、法人和其他組織的合法權(quán)益，2023年7月，國家網(wǎng)信辦等七部門聯(lián)合發(fā)布的《生成式人工智能服務(wù)管理暫行辦法》（簡(jiǎn)稱“《辦法》”）于2023年8月15日起施行。這是國家首次專門針對(duì)AIGC進(jìn)行系統(tǒng)監(jiān)管的文件，重點(diǎn)強(qiáng)調(diào)了AIGC產(chǎn)品訓(xùn)練數(shù)據(jù)及生成內(nèi)容的真實(shí)性，對(duì)技術(shù)發(fā)展與治理做出具體要求。

　　《辦法》提出國家堅(jiān)持發(fā)展和安全并重、促進(jìn)創(chuàng)新和依法治理相結(jié)合的原則，采取有效措施鼓勵(lì)A(yù)IGC創(chuàng)新發(fā)展，對(duì)AIGC服務(wù)實(shí)行包容審慎和分類分級(jí)監(jiān)管，明確了提供和使用AIGC服務(wù)總體要求。明確了發(fā)展與安全并重、創(chuàng)新和依法治理相結(jié)合，將“發(fā)展”置于“安全”前、“創(chuàng)新”置于“治理”之前，還明確指出“鼓勵(lì)生成式人工智能技術(shù)在各行業(yè)、各領(lǐng)域的創(chuàng)新應(yīng)用”等。相比此前的征求意見稿，正式辦法的基調(diào)從強(qiáng)監(jiān)管、禦風(fēng)險(xiǎn)轉(zhuǎn)變?yōu)榘輰徤鳌⒐膭?lì)發(fā)展，凸顯了中央對(duì)AIGC技術(shù)發(fā)展的支持。

　　《辦法》被看作是一個(gè)重大的信號(hào)，體現(xiàn)了提前研判、提前介入、提前監(jiān)管的思路。隨著監(jiān)管法規(guī)的不斷完善，有望指引AIGC行業(yè)發(fā)展方向，促進(jìn)行業(yè)長(zhǎng)期健康發(fā)展。同時(shí)，政府、企業(yè)和社會(huì)各界也需要共同努力，加強(qiáng)合作與溝通，共同推動(dòng)AIGC技術(shù)的創(chuàng)新和應(yīng)用，為社會(huì)帶來更多的福祉和發(fā)展機(jī)會(huì)。

　　完善制度規(guī)避風(fēng)險(xiǎn)

　　在中國，金融機(jī)構(gòu)開展AIGC合規(guī)發(fā)展和有效治理尤為重要。筆者認(rèn)為共筑可信生態(tài)的路徑，可從以下七個(gè)方面進(jìn)行：

　　1）“三駕馬車”共護(hù)數(shù)據(jù)安全?！毒W(wǎng)絡(luò)安全法》、《數(shù)據(jù)安全法》、《個(gè)人信息保護(hù)法》等“三駕馬車”構(gòu)成了中國數(shù)據(jù)安全領(lǐng)域完整的基礎(chǔ)性法律體系。金融機(jī)構(gòu)主體要遵守現(xiàn)行相關(guān)法律體系，以及征求意見稿等最新監(jiān)管規(guī)定，建立健全內(nèi)部監(jiān)管制度。在訓(xùn)練數(shù)據(jù)、數(shù)據(jù)清洗、數(shù)據(jù)出境等全流程中采取嚴(yán)格的數(shù)據(jù)安全措施，構(gòu)建和完善合理的數(shù)據(jù)采集、使用和共享機(jī)制，防止數(shù)據(jù)洩露和濫用。

　　2）建立算法模型審查機(jī)制。金融機(jī)構(gòu)在AIGC產(chǎn)品上線前應(yīng)主動(dòng)進(jìn)行事前審查，及時(shí)發(fā)現(xiàn)其運(yùn)作程序、服務(wù)內(nèi)容存在的問題，彌補(bǔ)外部監(jiān)督的缺陷，使算法倫理問題可溯源可追責(zé)。借助決策樹、特征重要性、敏感性分析、原型選擇等算法解釋器，以一定的方式和程度向監(jiān)管部門和公眾說明自動(dòng)化決策的內(nèi)在邏輯，履行透明度義務(wù)，回應(yīng)公眾所關(guān)心的特定因素對(duì)算法決策的具體影響。

　　3）加強(qiáng)AIGC技術(shù)研究和創(chuàng)新，持續(xù)改進(jìn)應(yīng)用。積極應(yīng)用隱私計(jì)算、區(qū)塊鏈等新技術(shù)和新模型，創(chuàng)新算法保護(hù)和倫理判別技術(shù)手段。定期審核、評(píng)估、驗(yàn)證生成合成類算法機(jī)制機(jī)理，持續(xù)評(píng)估人工智能系統(tǒng)的性能、合規(guī)性和風(fēng)險(xiǎn)。根據(jù)反饋結(jié)果，及時(shí)調(diào)整和改進(jìn)系統(tǒng)，使模型應(yīng)用與人類價(jià)值觀保持一致并遵循人類意圖。

　　4）建立獨(dú)立倫理委員會(huì)或?qū)彶闄C(jī)制。探索人工智能倫理治理，基于風(fēng)險(xiǎn)分級(jí)和應(yīng)用分類，采取政策指南、監(jiān)管沙盒、試點(diǎn)、標(biāo)準(zhǔn)認(rèn)證等多元化監(jiān)管措施。加強(qiáng)對(duì)生成內(nèi)容審查及內(nèi)容過濾，避免基于種族、性別、年齡等因素造成的偏見和不公平現(xiàn)象，打造可信AIGC生態(tài)。

　　5）建立健全應(yīng)急處置制度。對(duì)人工智能系統(tǒng)的使用進(jìn)行風(fēng)險(xiǎn)評(píng)估和管理，包括技術(shù)風(fēng)險(xiǎn)、操作風(fēng)險(xiǎn)和道德風(fēng)險(xiǎn)等方面。建立相應(yīng)的風(fēng)險(xiǎn)管理框架和流程，定期開展應(yīng)急演練，測(cè)試和評(píng)估安全應(yīng)急預(yù)案的可行性和有效性。

　　6）積極構(gòu)建人才培養(yǎng)體系。加快高水平AIGC人才培養(yǎng)，打造領(lǐng)軍人才和創(chuàng)新團(tuán)隊(duì)。布局一批適應(yīng)AIGC技術(shù)研究所需的科教資源和數(shù)字化資源平臺(tái)，促進(jìn)各類創(chuàng)新要素優(yōu)化聚集，深化產(chǎn)學(xué)研合作。

　　7）廣泛開展國際交流合作。學(xué)習(xí)借鑒國際AIGC領(lǐng)域的先進(jìn)經(jīng)驗(yàn)，與其他組織、學(xué)術(shù)界和政府機(jī)構(gòu)進(jìn)行合作，共享最佳實(shí)踐。參與行業(yè)標(biāo)準(zhǔn)制定，促進(jìn)大模型綠色低碳發(fā)展。

　　AIGC的誕生帶來了許多驚喜和創(chuàng)新，同時(shí)也引發(fā)了爭(zhēng)議和挑戰(zhàn)。面對(duì)這種新興技術(shù)，我們需要保持開放、包容和積極的態(tài)度，尋求法律和制度的創(chuàng)新來規(guī)避風(fēng)險(xiǎn)，實(shí)現(xiàn)可持續(xù)發(fā)展。AI是不能錯(cuò)過的一次革命。麥肯錫公司預(yù)測(cè)，未來10年的科技進(jìn)步，將超過之前100年的總和。AI作為新的電力，有望在未來幾年改變所有主流行業(yè)。守正創(chuàng)新行穩(wěn)致遠(yuǎn)，共筑AIGC生態(tài)新范式，必將造福全社會(huì)。