人工智能的飛速進步和應用帶來了前所未有的機遇和挑戰(zhàn)，也將可信人工智能推向產(chǎn)業(yè)發(fā)展的前臺，正在金融、保險、制造、醫(yī)療等領域加速落地。伴隨人工智能技術(shù)底座不斷夯實和大模型、AIGC等的爆發(fā)式增長，人工智能邁出了走向通用人工智能的關(guān)鍵一步，2023年4月中共中央政治局會議強調(diào)“重視通用人工智能發(fā)展，營造創(chuàng)新生態(tài)，重視防范風險”，可信AI成為新階段平衡創(chuàng)新與風險的重要技術(shù)手段。

　　

 

　　2023年7月7日，2023世界人工智能大會“聚焦·大模型時代AIGC新浪潮”論壇于上海成功舉辦，中國信通院聯(lián)合清華大學、螞蟻集團共同發(fā)布《可信AI技術(shù)和應用進展白皮書(2023)》(以下簡稱“白皮書”)，中國信通院華東分院院長廖運發(fā)、清華大學副教授李琦、螞蟻集團機器智能部副總經(jīng)理張?zhí)煲沓鱿�發(fā)布儀式，共同見證白皮書正式發(fā)布。

　　白皮書編寫團隊充分發(fā)揮各自優(yōu)勢，憑借扎實的技術(shù)能力和深入的產(chǎn)業(yè)觀察，基于統(tǒng)一的可信AI認知維度，梳理總結(jié)可信AI技術(shù)和應用發(fā)展現(xiàn)狀，提煉面向新階段大模型和AIGC引發(fā)的新需求，形成以技術(shù)為保障的可信AI評估體系和工具，并從技術(shù)、產(chǎn)業(yè)、生態(tài)和監(jiān)管維度對可信人工智能發(fā)展提出了建議，對趨勢進行了展望。希望借助本白皮書的發(fā)布，能夠幫助社會各界更加全面地了解可信互連技術(shù)內(nèi)涵及現(xiàn)狀，共同推動產(chǎn)業(yè)發(fā)展。

　　清華大學副教授李琦對白皮書進行了解讀。希望本次白皮書的發(fā)布能夠給未來可信人工智能發(fā)展帶來建議和啟發(fā)，使可信AI技術(shù)迎來研究應用更加均衡、內(nèi)在動力更加多維、外在監(jiān)管更加全面的新局面。

　　白皮書內(nèi)容目錄

　　第一章 人工智能邁向發(fā)展新階段

　　1.1人工智能發(fā)展迎來全新時代

　　1.2人工智能可信面臨全新挑戰(zhàn)

　　1.3全球人工智能治理機制進展

　　第二章 可信AI產(chǎn)業(yè)實踐深入發(fā)展

　　2.1應用AI魯棒性技術(shù)對抗惡意攻擊

　　2.2應用AI可解釋性技術(shù)提升決策透明度

　　2.3互聯(lián)網(wǎng)平臺公平性探索

　　2.4 AI應用實踐中的數(shù)據(jù)模型安全和隱私保護

　　第三章 面向大模型和AIGC的可信AI探索

　　3.1大模型和AIGC的發(fā)展與生態(tài)

　　3.2大模型的生成式攻擊和防御

　　3.3大模型自身的安全風險與隱患

　　3.4大模型的可解釋性及公平性

　　第四章 以技術(shù)為保障的可信AI評估

　　4.1可信AI檢測工具

　　4.2可信AI檢測框架

　　4.3檢測實例分析

　　第五章 發(fā)展建議和趨勢展望

　　5.1發(fā)展建議

　　5.2未來展望

　　如果您對白皮書內(nèi)容感興趣，歡迎與編寫組聯(lián)系：

　　常永波

　　中國信通院華東分院