那么，可信AI需要包含哪些可信要素？可信AI面臨哪些新的發(fā)展趨勢(shì)和挑戰(zhàn)？業(yè)界在可信AI方面又有哪些成功實(shí)踐呢？對(duì)此，中國(guó)信息通信研究院華東分院人工智能與大數(shù)據(jù)事業(yè)部主任陳俊琰在接受C114專訪時(shí)為我們進(jìn)行了詳細(xì)解讀。
五大趨勢(shì)
在陳俊琰看來，人工智能產(chǎn)業(yè)在發(fā)展運(yùn)行過程中遇到諸多風(fēng)險(xiǎn)與隱患：一是算法安全導(dǎo)致的應(yīng)用風(fēng)險(xiǎn)；二是黑箱模型導(dǎo)致算法不透明；三是數(shù)據(jù)歧視導(dǎo)致智能決策偏見；四是系統(tǒng)決策復(fù)雜導(dǎo)致責(zé)任事故主體難以界定；五是數(shù)據(jù)濫用導(dǎo)致隱私泄露風(fēng)險(xiǎn)。
“基于上述風(fēng)險(xiǎn)與隱患，可信人工智能至少應(yīng)當(dāng)包含安全性、可解釋、隱私保護(hù)、可靠性、負(fù)責(zé)任等多方面要素。”陳俊琰指出，隨著可信實(shí)踐的逐步深入，業(yè)界對(duì)可信AI的認(rèn)識(shí)也在不斷變化，近年來更加強(qiáng)調(diào)“人類對(duì)可信AI認(rèn)識(shí)及素養(yǎng)的提升”以及“對(duì)提升AI可信度的可持續(xù)性工具的提出”，進(jìn)而從技術(shù)與工程的角度，落實(shí)倫理治理要求，實(shí)現(xiàn)創(chuàng)新發(fā)展和風(fēng)險(xiǎn)治理的有效平衡。當(dāng)前，可信AI技術(shù)和產(chǎn)業(yè)正呈現(xiàn)以下五大發(fā)展趨勢(shì)：
趨勢(shì)1：形成產(chǎn)業(yè)共識(shí)，由各自表述向統(tǒng)一理念邁進(jìn)。世界各國(guó)已針對(duì)可信人工智能內(nèi)涵及側(cè)重點(diǎn)逐步達(dá)成統(tǒng)一意見，并已針對(duì)透明度、隱私保護(hù)、公平等方面形成了初步共識(shí)，進(jìn)而邁入了形成統(tǒng)一理念的新發(fā)展階段。隨著可信AI在更多領(lǐng)域的持續(xù)落地，理念與實(shí)踐間將形成良性互動(dòng)，以可信理念指導(dǎo)產(chǎn)業(yè)實(shí)踐落地，用產(chǎn)業(yè)實(shí)踐不斷豐富可信內(nèi)涵，從而進(jìn)一步鞏固統(tǒng)一的產(chǎn)業(yè)共識(shí)。
趨勢(shì)2：突出理念落地，由抽象概念向具體實(shí)踐發(fā)展。目前，可信AI正處于由抽象學(xué)術(shù)概念向產(chǎn)業(yè)實(shí)踐加速落地的關(guān)鍵時(shí)期，產(chǎn)業(yè)主體正在由以理論界為主向產(chǎn)業(yè)界落地為主轉(zhuǎn)變，產(chǎn)出形態(tài)由論文為主向產(chǎn)品服務(wù)為主轉(zhuǎn)變，專利數(shù)量持續(xù)增長(zhǎng)，并已經(jīng)形成了一批可見可用的產(chǎn)業(yè)成果，誕生了一批代表性企業(yè)。未來，可信AI理念將更深層次地與AI產(chǎn)業(yè)鏈各環(huán)節(jié)結(jié)合，與元宇宙、人工智能生成內(nèi)容等新技術(shù)、新業(yè)態(tài)互相促進(jìn)，并在AI場(chǎng)景和產(chǎn)品中得到更加廣泛的體現(xiàn)。
趨勢(shì)3：注重動(dòng)態(tài)平衡，由單一維度向綜合框架轉(zhuǎn)變。可信AI中的可解釋、穩(wěn)定性、隱私保護(hù)等要素之間存在協(xié)同與平衡的關(guān)系，這就要求可信AI的實(shí)現(xiàn)與衡量不能以單一要素為決定因素，而應(yīng)結(jié)合實(shí)際應(yīng)用需求，尋求最優(yōu)的平衡效果。因此，可信AI的一體化研究將是未來重要趨勢(shì)，從單一維度研究逐步過渡到關(guān)注各項(xiàng)可信能力之間的相互作用及其影響，使之具有較強(qiáng)的綜合性和整體性，實(shí)現(xiàn)各項(xiàng)可信能力之間的動(dòng)態(tài)平衡，以綜合可信框架促進(jìn)產(chǎn)業(yè)協(xié)調(diào)健康發(fā)展。
趨勢(shì)4：優(yōu)化技術(shù)布局，由前期研究向更深層次探索�？山忉屝苑矫妫绾瓮ㄋ滓锥叵蛴脩艚忉屓斯ぶ悄芗夹g(shù)原理、算法自動(dòng)決策機(jī)制、潛在風(fēng)險(xiǎn)及防范措施成為首要任務(wù)，并希望以此消除社會(huì)公眾對(duì)新一代人工智能技術(shù)的疑惑和擔(dān)憂。公平性方面還需要為現(xiàn)有的公平性定義提供更強(qiáng)的條件，進(jìn)一步拓寬公平性覆蓋面，涵蓋現(xiàn)有問題中沒有考慮到的歧視，同時(shí)合理松弛以提高預(yù)測(cè)模型準(zhǔn)確度。隱私保護(hù)方面，進(jìn)一步推進(jìn)分級(jí)分類，特別是針對(duì)人臉、指紋等敏感數(shù)據(jù)，如何在便捷地實(shí)現(xiàn)盡可能高的識(shí)別準(zhǔn)確率的同時(shí)提升隱私保護(hù)性能。安全性（魯棒性）方面，當(dāng)前可驗(yàn)證魯棒性的理論和實(shí)踐存在較大落差，如何把一些外部知識(shí)交給機(jī)器學(xué)習(xí)模型來幫助其提高防御能力成為一個(gè)有前景的研究方向。
趨勢(shì)5：融合多元主體，由產(chǎn)學(xué)研向社會(huì)大眾拓展。隨著社會(huì)認(rèn)知的深入，可信人工智能參與主體將進(jìn)一步豐富，產(chǎn)業(yè)鏈多主體、多要素協(xié)調(diào)互動(dòng)。在《網(wǎng)絡(luò)安全法》、《數(shù)據(jù)安全法》、《個(gè)人信息保護(hù)法》等法律法規(guī)框架下，深圳、上海、北京等地加快推動(dòng)人工智能立法，建立公共場(chǎng)所人工智能分級(jí)分類應(yīng)用規(guī)范，形成具有地方特色的可信人工智能治理體系。行業(yè)協(xié)會(huì)、聯(lián)盟和研究機(jī)構(gòu)發(fā)揮積極作用，聯(lián)合行業(yè)企業(yè)圍繞先行領(lǐng)域制定和發(fā)布行業(yè)標(biāo)準(zhǔn)，在安全性、可靠性等領(lǐng)域已經(jīng)取得了一些成果供落地實(shí)施進(jìn)行參考。“人臉識(shí)別第一案”等引發(fā)社會(huì)關(guān)注，人民群眾對(duì)可信人工智能的了解和需求增加，參與程度大幅提升，從需求層面倒逼可信人工智能發(fā)展。
四大挑戰(zhàn)，五方面建議
基于可信AI最新發(fā)展趨勢(shì)，陳俊琰認(rèn)為，當(dāng)前可信AI的發(fā)展正面臨以下四大挑戰(zhàn)：
挑戰(zhàn)1：當(dāng)前可信人工智能政策法規(guī)更偏向理念指引，頂層設(shè)計(jì)還不完善，政策法規(guī)間沒有形成完整、協(xié)調(diào)的體系關(guān)系，在模型權(quán)屬、風(fēng)險(xiǎn)責(zé)任主體、結(jié)果公平等方面還需要予以明確。
挑戰(zhàn)2：針對(duì)可信人工智能技術(shù)的前瞻性研究與布局略顯不足，尤其是在分布式計(jì)算、聯(lián)邦學(xué)習(xí)、隱私計(jì)算等細(xì)分領(lǐng)域缺少完善可信的開源學(xué)習(xí)框架。在算法公平性、可靠性、隱私數(shù)據(jù)分級(jí)分類、可驗(yàn)證魯棒性的等方面仍需進(jìn)一步優(yōu)化技術(shù)水平。
挑戰(zhàn)3：針對(duì)可信人工智能產(chǎn)品及服務(wù)尚缺少成熟完善的認(rèn)定標(biāo)準(zhǔn)體系，在產(chǎn)品與服務(wù)商能力評(píng)估、評(píng)測(cè)、治理、監(jiān)管等方面缺乏能夠敏捷響應(yīng)、動(dòng)態(tài)高效的認(rèn)證機(jī)制，從而無法系統(tǒng)性解決可信人工智能落地難的問題。
挑戰(zhàn)4：產(chǎn)業(yè)界尤其是社會(huì)公眾對(duì)可信人工智能理念、意識(shí)及重要性仍然缺少必要的認(rèn)識(shí)，對(duì)人工智能產(chǎn)業(yè)發(fā)展前景與局限性，以及可能造成的風(fēng)險(xiǎn)隱患還是缺少深入的了解，在可信人工智能領(lǐng)域技術(shù)交流、成果發(fā)布、渠道對(duì)接、資源整合方面仍需進(jìn)一步加強(qiáng)。
為此，陳俊琰對(duì)于可信AI未來發(fā)展提出以下五方面建議：
一是加強(qiáng)政策法規(guī)協(xié)同，協(xié)調(diào)制度、技術(shù)、人員整體推進(jìn)。圍繞政策法規(guī)體系完善、指南規(guī)范指引路徑、從業(yè)人員可信理念培育，形成合理協(xié)同推進(jìn)可信人工智能產(chǎn)業(yè)化落地。針對(duì)當(dāng)前可信人工智能政策法規(guī)頂層設(shè)計(jì)不完善、缺乏完整協(xié)調(diào)的體系關(guān)系以及在模型權(quán)屬、風(fēng)險(xiǎn)責(zé)任主體、結(jié)果公平等方面的諸多問題，亟需制定形成人工智能企業(yè)規(guī)范化發(fā)展指南，為企業(yè)提升可信人工智能技術(shù)、將AI向善貫穿于人工智能企業(yè)業(yè)務(wù)全流程提供方法論指引，幫助企業(yè)更好地實(shí)踐可信。此外，要注重從業(yè)人員可信理念培育，不斷增強(qiáng)人工智能從業(yè)者可信認(rèn)識(shí)，形成自覺踐行可信人工智能理念的良好氛圍，以制度、技術(shù)和人員協(xié)同加快可信人工智能產(chǎn)業(yè)化落地進(jìn)程。
二是前瞻布局技術(shù)研究，以技術(shù)創(chuàng)新帶動(dòng)可信持續(xù)發(fā)展。前瞻布局可信開源學(xué)習(xí)框架，探索通用人工智能可信研究，強(qiáng)化代碼可視化，持續(xù)優(yōu)化現(xiàn)有技術(shù)，實(shí)現(xiàn)技術(shù)驅(qū)動(dòng)的可持續(xù)創(chuàng)新。針對(duì)分布式計(jì)算、聯(lián)邦學(xué)習(xí)、隱私計(jì)算等細(xì)分技術(shù)領(lǐng)域，不斷建立完善可信開源學(xué)習(xí)框架，探索通用人工智能甚至是超級(jí)智能的可信研究。進(jìn)一步強(qiáng)化代碼可視化，加快推廣集成了OCR、NLP等人工智能能力的低代碼平臺(tái)，為用戶提供一體化的智能服務(wù)能力，提升開發(fā)效率。圍繞可解釋的人機(jī)交互、提供更強(qiáng)的公平性定義、提供公平且可靠的算法、隱私數(shù)據(jù)分級(jí)分類、可驗(yàn)證魯棒性等方面，持續(xù)優(yōu)化技術(shù)，實(shí)現(xiàn)可信能力之間的均衡協(xié)調(diào)。
三是健全標(biāo)準(zhǔn)評(píng)估體系，系統(tǒng)性推進(jìn)更多領(lǐng)域可信落地。構(gòu)建創(chuàng)新治理閉環(huán)，以標(biāo)準(zhǔn)提升可信人工智能規(guī)范化程度，以評(píng)估、測(cè)試、認(rèn)證體系建設(shè)加快應(yīng)用和產(chǎn)品落地。首先，構(gòu)建完善的產(chǎn)品標(biāo)準(zhǔn)及評(píng)估體系，確立“可信的人工智能”產(chǎn)品與服務(wù)標(biāo)準(zhǔn)，提升對(duì)可信產(chǎn)品的認(rèn)可度，并為可信產(chǎn)品和服務(wù)供應(yīng)商提供能力評(píng)估，從而加快推動(dòng)可信人工智能的落地。其次，分領(lǐng)域分階段推進(jìn)測(cè)試認(rèn)證機(jī)制，發(fā)展可信人工智能評(píng)估評(píng)測(cè)及認(rèn)證等監(jiān)管技術(shù)，形成從理論原則、法律法規(guī)、合規(guī)增強(qiáng)技術(shù)、評(píng)估評(píng)測(cè)及認(rèn)證的治理創(chuàng)新閉環(huán)；在醫(yī)療健康、自動(dòng)駕駛、公共服務(wù)等領(lǐng)域分階段推進(jìn)研究能夠適應(yīng)場(chǎng)景特性、敏捷響應(yīng)、動(dòng)態(tài)的認(rèn)證機(jī)制，系統(tǒng)性解決可信人工智能落地難的問題。
四是強(qiáng)化可信流程管理，將可信理念融入系統(tǒng)原生設(shè)計(jì)。運(yùn)用可信理念重塑流程管理新能力、新形態(tài)，將人工智能可信融入系統(tǒng)原生設(shè)計(jì)，確保產(chǎn)品的可信品質(zhì)。在《可信AI操作指引》等的基礎(chǔ)上，面向業(yè)務(wù)數(shù)字化轉(zhuǎn)型需求和生產(chǎn)研發(fā)實(shí)際，將可信理念融入流程發(fā)現(xiàn)、流程監(jiān)控、流程優(yōu)化、流程管理等各個(gè)環(huán)節(jié)，塑造形成全新的流程管理能力。同時(shí)，將人工智能可信融入系統(tǒng)原生設(shè)計(jì)，在人工智能應(yīng)用系統(tǒng)建設(shè)過程中，將人工智能可信作為基礎(chǔ)能力及要求納入其設(shè)計(jì)范疇，以彈性適應(yīng)未來人工智能安全的問題及挑戰(zhàn)，以更加豐富的技術(shù)手段適配人工智能系統(tǒng)的不同發(fā)展階段、不同應(yīng)用要求、不同風(fēng)險(xiǎn)強(qiáng)度，為人工智能的可信應(yīng)用保駕護(hù)航。
五是推動(dòng)產(chǎn)業(yè)交流合作，共同打造可信產(chǎn)業(yè)生態(tài)朋友圈。加強(qiáng)國(guó)內(nèi)外溝通合作，共建人工智能產(chǎn)業(yè)國(guó)際可信機(jī)制，做好宣傳引導(dǎo)，增進(jìn)社會(huì)公眾的可信人工智能意識(shí)。進(jìn)一步發(fā)揮行業(yè)組織和高水平專業(yè)平臺(tái)作用，為可信人工智能企業(yè)和從業(yè)者提供技術(shù)交流、成果發(fā)布、資源對(duì)接的渠道，聚集行業(yè)各方力量共同打造可信人工智能生態(tài)圈。積極開展國(guó)際交流和技術(shù)合作，從人工智能系統(tǒng)測(cè)試和管控、危機(jī)溝通渠道等方面著手，主動(dòng)參與國(guó)際人工智能治理，共建人工智能產(chǎn)業(yè)國(guó)際可信機(jī)制。加強(qiáng)對(duì)可信人工智能的宣傳，通過對(duì)可信人工智能理念、典型案例的宣傳和引導(dǎo)，增進(jìn)社會(huì)公眾對(duì)可信人工智能的認(rèn)識(shí)了解，提高民眾對(duì)人工智能潛能、挑戰(zhàn)和局限性的認(rèn)識(shí)，為可信人工智能產(chǎn)業(yè)發(fā)展?fàn)I造良好的社會(huì)環(huán)境。
探索成功路徑和實(shí)踐
而事實(shí)上，近兩年業(yè)界在可信AI方面已經(jīng)進(jìn)行了諸多路徑的探索和實(shí)踐。
立法方面，上海市于2021年12月、2022年9月和2022年11月先后發(fā)布《上海市智能網(wǎng)聯(lián)汽車測(cè)試與應(yīng)用管理辦法》、《上海市促進(jìn)人工智能產(chǎn)業(yè)發(fā)展條例》和《上海市浦東新區(qū)促進(jìn)無駕駛?cè)酥悄芫W(wǎng)聯(lián)汽車創(chuàng)新應(yīng)用規(guī)定》，強(qiáng)調(diào)了人工智能算法可信、倫理道德、治理與監(jiān)管等方面，并針對(duì)智能網(wǎng)聯(lián)汽車領(lǐng)域技術(shù)標(biāo)準(zhǔn)、數(shù)據(jù)安全與個(gè)人信息保護(hù)做了詳細(xì)規(guī)定。此外，《上海市促進(jìn)人工智能產(chǎn)業(yè)發(fā)展條例》明確，上海市人民政府設(shè)立“上海市人工智能戰(zhàn)略咨詢專家委員會(huì)”，為產(chǎn)業(yè)發(fā)展中的重大戰(zhàn)略、重大決策提供咨詢意見，同時(shí)設(shè)立“人工智能倫理專家委員會(huì)”，負(fù)責(zé)制定倫理規(guī)范指南、推動(dòng)參與國(guó)內(nèi)外人工智能領(lǐng)域倫理重大問題研討和規(guī)范制定。
標(biāo)準(zhǔn)方面，《關(guān)于推進(jìn)本市新一代人工智能標(biāo)準(zhǔn)體系建設(shè)的指導(dǎo)意見》于2021年7月發(fā)布。測(cè)試評(píng)估方面，《意見》圍繞智能網(wǎng)聯(lián)汽車、醫(yī)療影像輔助診斷、視覺圖像身份識(shí)別、智能傳感器等賽道，加快構(gòu)建完善可信AI評(píng)測(cè)體系，同時(shí)針對(duì)測(cè)試評(píng)估建立共性標(biāo)準(zhǔn)；安全倫理方面，《意見》提出加強(qiáng)安全倫理標(biāo)準(zhǔn)對(duì)人工智能發(fā)展的引導(dǎo)和規(guī)范，提升安全保障能力，建立積極的治理規(guī)則，從安全與隱私保護(hù)規(guī)范和應(yīng)用場(chǎng)景安全規(guī)范兩大模塊強(qiáng)化標(biāo)準(zhǔn)研制，并建立安全風(fēng)險(xiǎn)等級(jí)體系；與此同時(shí)，上海市人工智能標(biāo)準(zhǔn)化技術(shù)委員會(huì)于2021年7月揭牌成立，與相關(guān)行業(yè)主管部門共同推動(dòng)上海在人工智能標(biāo)準(zhǔn)領(lǐng)域先試先行。其中，可信人工智能領(lǐng)域的標(biāo)準(zhǔn)包括《公共場(chǎng)所人臉識(shí)別分級(jí)分類應(yīng)用規(guī)范》、《人臉識(shí)別系統(tǒng)通用建設(shè)規(guī)范》、《人臉識(shí)別系統(tǒng)工程驗(yàn)收規(guī)范》、《人工智能企業(yè)認(rèn)定與分級(jí)分類指南》、《數(shù)據(jù)交易：第四部分，數(shù)據(jù)產(chǎn)品可信交付技術(shù)要求與評(píng)估規(guī)范》、《人工智能標(biāo)準(zhǔn)化工作導(dǎo)則》共6項(xiàng)地方標(biāo)準(zhǔn)以及《神經(jīng)網(wǎng)絡(luò)分類模型穩(wěn)定性基本要求與測(cè)試方法》《隱私計(jì)算密碼應(yīng)用基本要求與測(cè)評(píng)規(guī)范》共2項(xiàng)團(tuán)體標(biāo)準(zhǔn)，牽頭單位包括中國(guó)信通院華東分院及行業(yè)知名機(jī)構(gòu)和企業(yè)。
論壇方面，2021年，由中國(guó)信通院和京東探索研究院承辦的可信AI論壇，以“AI向善 全球共治”為主題，深入探討可信AI的認(rèn)知演進(jìn)、理論研究與產(chǎn)業(yè)探索。論壇發(fā)布了《可信人工智能白皮書》、《促進(jìn)可信人工智能發(fā)展倡議》、《開放金融數(shù)據(jù)共享中隱私計(jì)算的平衡之道》等多項(xiàng)成果，同時(shí)成立了上海可信AI測(cè)評(píng)中心和中國(guó)人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟人工智能治理與可信委員會(huì)，深入開展技術(shù)研究、標(biāo)準(zhǔn)制定、評(píng)估測(cè)試、試點(diǎn)示范、成果發(fā)布、國(guó)際合作等工作。2022年，由中國(guó)信息通信研究院華東分院承辦的可信AI論壇，以“可信AI，共建共治”為主題，就可信AI政策標(biāo)準(zhǔn)、理論技術(shù)、應(yīng)用場(chǎng)景展開探討。論壇發(fā)布了《可信人工智能產(chǎn)業(yè)生態(tài)發(fā)展報(bào)告(2022年)》、 “螞蟻集團(tuán)—蟻鑒AI安全檢測(cè)平臺(tái)”以及“星環(huán)科技T-DACM可信AI治理框架”等多項(xiàng)成果，同時(shí)成立可信人工智能聯(lián)合實(shí)驗(yàn)室，該實(shí)驗(yàn)室將圍繞AI應(yīng)用管理、AI算法模型、平臺(tái)系統(tǒng)與硬件產(chǎn)品等建立體系化可信評(píng)估規(guī)范，構(gòu)建人工智能算法與平臺(tái)安全測(cè)試評(píng)估的方法、技術(shù)、規(guī)范和工具集，引導(dǎo)企業(yè)參與可信人工智能的研究與發(fā)展。
實(shí)踐方面，在基礎(chǔ)能力方面，有孚云AI智算集群依托穩(wěn)定、安全的GPU資源，基于采用Kubernetes架構(gòu)，通過集中調(diào)度、管理和可定制化的模板服務(wù)，為用戶提供開箱即用的框架平臺(tái)和算法工具，應(yīng)用場(chǎng)景涉及身份識(shí)別、隱私保護(hù)、反欺詐、AI反制等方面；算法技術(shù)方面，業(yè)界廠商建立基于真實(shí)場(chǎng)景數(shù)據(jù)的算法測(cè)評(píng)體系，針對(duì)商業(yè)化算法場(chǎng)景以及全方位多數(shù)據(jù)集算法進(jìn)行評(píng)測(cè)，持續(xù)推動(dòng)算法測(cè)評(píng)的成熟與創(chuàng)新，應(yīng)用場(chǎng)景涉及醫(yī)療診斷數(shù)據(jù)集算法驗(yàn)證與評(píng)測(cè)以及金融業(yè)算法安全性、可解釋性、精準(zhǔn)性與性能評(píng)價(jià)等；應(yīng)用場(chǎng)景方面，業(yè)界廠商推出基于安全多方計(jì)算進(jìn)行人口實(shí)時(shí)數(shù)據(jù)統(tǒng)計(jì)，通過部署可信AI安全多方計(jì)算節(jié)點(diǎn)，基于場(chǎng)景開發(fā)人口數(shù)據(jù)統(tǒng)計(jì)計(jì)算模型規(guī)則，并保護(hù)用戶數(shù)據(jù)隱私。同時(shí)，還發(fā)布了智能網(wǎng)聯(lián)多方數(shù)據(jù)安全協(xié)同解決方案，向下接入主機(jī)廠、路側(cè)及第三方機(jī)構(gòu)數(shù)據(jù)，向上支撐交通、服務(wù)、運(yùn)營(yíng)等多種數(shù)據(jù)應(yīng)用場(chǎng)景，依托可信AI隱私計(jì)算實(shí)現(xiàn)智能網(wǎng)聯(lián)汽車數(shù)據(jù)安全共享。
