日前據(jù)業(yè)內(nèi)人士和當(dāng)局透露,韓國國家情報院提出對各部門公務(wù)員的要求注意事項,強(qiáng)調(diào)在使用 OpenAI 的 GPT 系列時,只能輸入公開信息,科學(xué)部、信息通信部等部門也向相關(guān)部門提供指引,它發(fā)布了 AI 安全指南以供遵循。
開發(fā)深度學(xué)習(xí)算法并被稱為人工智能教父的 Jeffrey Hinton 博士在服務(wù) Google 十年后辭職,并警告 AI 的危險。雖然政府正在主管制訂數(shù)字平臺政府的藍(lán)圖,考慮將超級巨大的 AI 作為基礎(chǔ)設(shè)施使用,但在當(dāng)前形勢下,也有可能難以將 AI 用于公共事務(wù)。
因此,有人聲稱政府應(yīng)該在建立超級巨大的 AI 模型和云基礎(chǔ)設(shè)施方面發(fā)揮領(lǐng)導(dǎo)作用。由韓國智能信息社會研究院 (AI Future Strategy Center) 的高級研究員尹昌熙撰寫的題為「大規(guī)模語言模型基礎(chǔ)上引入公共領(lǐng)域超大型 AI 的方向」的報告提出:「在包括敏感信息的國家信息方面,需要采用『GOV-GPT』類似的混合方法,在內(nèi)部開發(fā)服務(wù)!
他指出很難通過控制使用提示命令等方法防止敏感或機(jī)密信息泄漏到公共部門。同時,報告還建議,當(dāng)在公共部門使用 Open AI 的 GPT 系列或 Naver 的 Hyperclova 等私有 AI 模型時,應(yīng)將 AI 模型直接安裝和使用在政府自己的云 (G Cloud) 上,而不是通過應(yīng)用程序接口 (API)。
報告稱:「從工作效率、前進(jìn)和公共服務(wù)提高的角度來看,判斷面向公共目的的超級巨型 AI 將是不可或缺的服務(wù),但是通過建立政府主導(dǎo)的 AI 和 G Cloud 等基礎(chǔ)設(shè)施,保持機(jī)構(gòu)的數(shù)據(jù)安全和高效地管理其資源至關(guān)重要!