文/ Veritas公司大中華區(qū)技術(shù)銷(xiāo)售與服務(wù)總監(jiān)吳振崗
從ChatGPT到Sora，短短兩年時(shí)間，AI的進(jìn)化速度和程度再次刷新了所有人的想象，而數(shù)字經(jīng)濟(jì)在全球范圍內(nèi)的快速增長(zhǎng)，也在推動(dòng)人工智能逐步從“探索期”向“成長(zhǎng)期”的快速過(guò)渡。據(jù)統(tǒng)計(jì)，預(yù)計(jì)到2026年，僅生成式人工智能市場(chǎng)將從2021年的15億美元增長(zhǎng)到65億美元，復(fù)合年增長(zhǎng)率34.9%。
然而，當(dāng)我們驚嘆于人工智能在推進(jìn)技術(shù)和各個(gè)產(chǎn)業(yè)轉(zhuǎn)型重塑，幫助企業(yè)提高生產(chǎn)效率，豐富人們?nèi)粘Ｉ畹确矫嬲宫F(xiàn)出的超凡能力的同時(shí)，也絕不該忽視其引發(fā)的由于數(shù)據(jù)量激增及泛用化等帶來(lái)的一系列前所未有的安全風(fēng)險(xiǎn)，有機(jī)構(gòu)預(yù)測(cè)，AIGC產(chǎn)生的數(shù)據(jù)到2026年將占所有數(shù)據(jù)的10%，而目前這一比例還不到1%。也就是說(shuō)，也許10倍于當(dāng)前的挑戰(zhàn)將要到來(lái)。
面對(duì)挑戰(zhàn)，放眼全球，中國(guó)用戶似乎對(duì)使用AI技術(shù)尤其“癡迷”。Veritas最新調(diào)研結(jié)果顯示，85%的中國(guó)受訪者在工作中使用ChatGPT等人工智能生成工具，包括輸入客戶、員工和公司財(cái)務(wù)等信心，敏感數(shù)據(jù)暴露的風(fēng)險(xiǎn)也因此增加。但是，類(lèi)似的行為卻似乎缺少應(yīng)有的“約束”，雖然有90%的中國(guó)受訪者認(rèn)為針對(duì)AI的使用指導(dǎo)和政策非常重要，但目前只有34%的中國(guó)企業(yè)向員工提供了強(qiáng)制性的使用指導(dǎo)。
對(duì)此，Veritas認(rèn)為:AI技術(shù)“奇點(diǎn)”的到來(lái)，需要數(shù)據(jù)管理的加速“蝶變”。在人工智能發(fā)展和數(shù)據(jù)安全問(wèn)題日益深度交織融合的當(dāng)下，企業(yè)及其員工正成為面對(duì)數(shù)據(jù)安全風(fēng)險(xiǎn)的主要群體。因此，明確AI使用過(guò)程中和黑客利用AI勒索等威脅，開(kāi)展及時(shí)的培訓(xùn)和指導(dǎo)，并強(qiáng)化自身網(wǎng)絡(luò)韌性，顯得至關(guān)重要。也許唯有對(duì)AI保持敬畏之心，才能真正讓其“無(wú)害”地為我們所用。
AI泛用讓數(shù)據(jù)風(fēng)險(xiǎn)“層層加碼”
如今，AI的無(wú)處不在，讓各類(lèi)風(fēng)險(xiǎn)層出不窮。
一方面，在AI的使用過(guò)程中，可能不經(jīng)意間便會(huì)觸及“紅線”。根據(jù)數(shù)據(jù)安全服務(wù)機(jī)構(gòu)賽博天堂(Cyber Heaven)的檢測(cè)顯示，其客戶公司的160萬(wàn)名員工中已有4.2%將包含商業(yè)秘密的數(shù)據(jù)輸入ChatGPT，其中有高管將戰(zhàn)略文件復(fù)制到ChatGPT并利用其生成幻燈片，一旦被盜用或竊取，后果不可想象。
然而類(lèi)似的“無(wú)意”行為，卻并非罕見(jiàn)現(xiàn)象。根據(jù)Veritas的調(diào)研，在中國(guó)受訪者中有37%的員工承認(rèn)曾將潛在敏感信息輸入AIGC工具，且有50%和58%的受訪者沒(méi)有意識(shí)到風(fēng)險(xiǎn)，或并不了解這樣是否會(huì)導(dǎo)致其公司違反數(shù)據(jù)隱私合規(guī)法規(guī)。
從數(shù)據(jù)使用全生命周期的視域來(lái)看，企業(yè)在使用AI時(shí)可能會(huì)面臨諸如數(shù)據(jù)泄露、合規(guī)、操縱篡改、數(shù)據(jù)偏差等多類(lèi)型風(fēng)險(xiǎn)。
· 數(shù)據(jù)泄露風(fēng)險(xiǎn)。在使用AI過(guò)程中，將包括個(gè)人信息、客戶數(shù)據(jù)、企業(yè)機(jī)密等敏感數(shù)據(jù)鍵入，以提高搜索效率等，這些行為極大增加了信息泄露的風(fēng)險(xiǎn)，且該類(lèi)風(fēng)險(xiǎn)發(fā)生的概率看上去也是最高的一種。
· 數(shù)據(jù)合規(guī)風(fēng)險(xiǎn)。在一些特殊行業(yè)中，企業(yè)數(shù)據(jù)受到法律嚴(yán)格管治，例如制藥行業(yè)，任何藥企都要遵守cGMP中對(duì)于數(shù)據(jù)連續(xù)性和完整性的規(guī)定，一旦因AI使用造成數(shù)據(jù)丟失，企業(yè)不但要接受監(jiān)管機(jī)構(gòu)的處罰，整個(gè)批次的藥品都可能被報(bào)廢處理，造成嚴(yán)重?fù)p失。
· 數(shù)據(jù)操縱或篡改風(fēng)險(xiǎn)。在自動(dòng)駕駛、智能工廠等對(duì)實(shí)時(shí)性要求極高的場(chǎng)景中，數(shù)據(jù)操縱或篡改對(duì)AI核心模塊產(chǎn)生的定向干擾將會(huì)直接擴(kuò)散到智能設(shè)備終端(如智能駕駛汽車(chē)的剎車(chē)裝置等)，很可能導(dǎo)致災(zāi)難性事故發(fā)生。
· 數(shù)據(jù)偏差導(dǎo)致決策風(fēng)險(xiǎn)。數(shù)據(jù)偏差是指AI決策中所使用數(shù)據(jù)因不夠全面，使所承載的信息帶有難以用技術(shù)手段消除的偏差，進(jìn)而導(dǎo)致決策結(jié)果不夠科學(xué)。比如對(duì)于金融征信、醫(yī)療領(lǐng)域企業(yè)，可能會(huì)因數(shù)據(jù)量不足、數(shù)據(jù)質(zhì)量不高等原因，導(dǎo)致決策準(zhǔn)確率偏低，影響最終效果。
另一方面，即使企業(yè)對(duì)AI使用格外謹(jǐn)慎，也難免會(huì)遭遇黑客利用AI進(jìn)行詐騙或勒索。近日，一家英國(guó)跨國(guó)企業(yè)的中國(guó)香港分公司，被騙子用偽造的“AI換臉”和AI音頻合成的視頻內(nèi)容，冒充總公司的CFO，直接騙走了2億港幣。此外，相關(guān)數(shù)據(jù)顯示，僅2022年上半年，全球就記錄了2.361億次勒索軟件攻擊，勒索軟件的速度已經(jīng)快至可以在43分鐘內(nèi)加密54GB的數(shù)據(jù)，由此引發(fā)的網(wǎng)絡(luò)攻擊也被IDC認(rèn)為是全球組織面臨的最大威脅之一，而這種威脅在得到AI技術(shù)加持之后，所造成的后果更難以想象。
眾所周知，海量多源數(shù)據(jù)是AI，特別是生成式AI訓(xùn)練和產(chǎn)出的原始素材，也是當(dāng)前企業(yè)數(shù)字化發(fā)展中寶貴的資源。有研究數(shù)據(jù)顯示，86%的企業(yè)開(kāi)始將AI作為未來(lái)數(shù)字化發(fā)展的“主流”技術(shù)，并加大投資，以幫助企業(yè)做出更好的決策、改善客戶服務(wù)并降低成本。如此一來(lái)，企業(yè)將會(huì)有更多的“無(wú)形資產(chǎn)”以數(shù)據(jù)的形式暴露在網(wǎng)絡(luò)環(huán)境中，黑客可以使用AIGC來(lái)創(chuàng)建更高效的勒索軟件，或利用WormGPT等不受約束的語(yǔ)言模型來(lái)實(shí)現(xiàn)更復(fù)雜的網(wǎng)絡(luò)釣魚(yú)攻擊。為此，除了支付贖金，企業(yè)還可能承受包括收入損失、失去客戶、員工生產(chǎn)力下降、監(jiān)管罰款、數(shù)據(jù)無(wú)法恢復(fù)、甚至面臨訴訟等后果。而這對(duì)于眾多正處于數(shù)字化轉(zhuǎn)型加速期的中國(guó)企業(yè)來(lái)講，勢(shì)必將構(gòu)成更大的威脅，如何有效應(yīng)對(duì)，便也更加任重道遠(yuǎn)。
全面部署積極防御，從容應(yīng)對(duì)更大挑戰(zhàn)
正像AI技術(shù)本身自帶的“雙刃劍”屬性，各個(gè)國(guó)家在積極擁抱這項(xiàng)新技術(shù)的同時(shí)，也對(duì)如何保障安全實(shí)施了相應(yīng)對(duì)策。如意大利個(gè)人數(shù)據(jù)保護(hù)局率先封禁了ChatGPT，美國(guó)聯(lián)邦貿(mào)易委員會(huì)也收到了請(qǐng)求調(diào)查OpenAI的動(dòng)議。中國(guó)從2019年開(kāi)始，陸續(xù)發(fā)布了《新一代人工智能治理原則——發(fā)展負(fù)責(zé)任的人工智能》、《生成式人工智能服務(wù)管理辦法(征求意見(jiàn)稿)》等，提出“發(fā)展與治理雙輪驅(qū)動(dòng)”思路，加速推動(dòng)建立AIGC的治理框架。
而對(duì)于企業(yè)來(lái)說(shuō)，制定具有前瞻性，切實(shí)可行的策略和方案同樣迫在眉睫。對(duì)此，Veritas建議:針對(duì)在使用AI過(guò)程中，及黑客網(wǎng)絡(luò)攻擊、勒索等可能面臨的風(fēng)險(xiǎn)，企業(yè)在提高重視程度的同時(shí)，在“前端”緊跟相關(guān)技術(shù)發(fā)展趨勢(shì)，積極創(chuàng)建對(duì)應(yīng)的指導(dǎo)和規(guī)則，在“中端”運(yùn)用正確的治理工具可靠合規(guī)的進(jìn)行管理，并在“后端”塑造更具韌性的網(wǎng)絡(luò)架構(gòu)，筑牢“最后一道防線”。
· 與時(shí)俱進(jìn)了解趨勢(shì)。企業(yè)應(yīng)積極與供應(yīng)商和研究機(jī)構(gòu)合作，掌握AI技術(shù)、勒索攻擊等發(fā)展的最新趨勢(shì)，并對(duì)其之于數(shù)據(jù)管理的威脅做出評(píng)估，通過(guò)加強(qiáng)與員工、用戶的溝通，制定事件響應(yīng)計(jì)劃等，進(jìn)一步提高全員的風(fēng)險(xiǎn)應(yīng)對(duì)意識(shí)。
· 事無(wú)巨細(xì)規(guī)范行為。在企業(yè)內(nèi)部，應(yīng)及時(shí)制定并清晰傳達(dá)相應(yīng)的使用指導(dǎo)和規(guī)則，規(guī)范員工對(duì)AI的使用。根據(jù)Veritas的調(diào)研，近九成(89%)的中國(guó)員工希望企業(yè)提供AI的使用指導(dǎo)、政策或培訓(xùn)，以明確工具使用的正確方式(68%)、降低風(fēng)險(xiǎn)(51%)和在工作場(chǎng)所創(chuàng)造公平競(jìng)爭(zhēng)的環(huán)境(31%)。在此基礎(chǔ)上，通過(guò)定期的培訓(xùn)，讓員工真正意識(shí)到什么是可以做的，什么是不能做的。
· 全面周密數(shù)據(jù)管理。企業(yè)應(yīng)從加密、控制和保護(hù)敏感數(shù)據(jù)，確保數(shù)據(jù)可靠性和完整性，建立管理流程，對(duì)數(shù)據(jù)進(jìn)行分類(lèi)和標(biāo)記并審計(jì)和監(jiān)控等幾方面入手，把握“全面辨識(shí)和分類(lèi)數(shù)據(jù)、實(shí)現(xiàn)自動(dòng)化分類(lèi)系統(tǒng)、普及數(shù)據(jù)分類(lèi)”關(guān)鍵三步，并攜手可靠的供應(yīng)商，運(yùn)用正確的數(shù)據(jù)合規(guī)治理工具，監(jiān)測(cè)管理落地實(shí)施過(guò)程并持續(xù)執(zhí)行。此外，面對(duì)海量數(shù)據(jù)管理的龐大工程，企業(yè)可采用AI驅(qū)動(dòng)的異常檢測(cè)和其他類(lèi)似的安全措施，來(lái)提高抵御威脅的效率和能力。
· 未雨綢繆強(qiáng)化韌性。在網(wǎng)絡(luò)環(huán)境逐漸AI化時(shí)，單獨(dú)依賴災(zāi)難恢復(fù)的方式已不足以充分應(yīng)對(duì)網(wǎng)絡(luò)事件，企業(yè)需要依托更高水平的災(zāi)難恢復(fù)流程，重點(diǎn)確保關(guān)鍵數(shù)據(jù)和系統(tǒng)的生存、完整性和快速恢復(fù)，不斷提升網(wǎng)絡(luò)韌性。為此，企業(yè)在擁有足夠的存儲(chǔ)冗余，采用防篡改和不可變的存儲(chǔ)，將零信任擴(kuò)展到企業(yè)數(shù)據(jù)保護(hù)環(huán)境中，采用獨(dú)立備份系統(tǒng)等，確保數(shù)據(jù)“可恢復(fù)”的同時(shí)，還要定期進(jìn)行災(zāi)難恢復(fù)演練等，真正做到有“備”無(wú)患。
人工智能技術(shù)的日新月異，對(duì)企業(yè)的數(shù)據(jù)管理提出了新的更艱巨的難題，但幸運(yùn)的是，AI在制造威脅的同時(shí)，也可以被用來(lái)監(jiān)測(cè)、規(guī)避威脅，為企業(yè)提供更適用的工具，幫助企業(yè)采取更迅速、智慧的行動(dòng)。為了激發(fā)AI創(chuàng)造更多正面價(jià)值，盡可能地規(guī)避AI帶來(lái)的潛在風(fēng)險(xiǎn)，實(shí)現(xiàn)自身利益的最大化，企業(yè)更應(yīng)加快從認(rèn)識(shí)、了解，到使用、防范AI及其衍生技術(shù)的腳步，結(jié)合全方位的數(shù)據(jù)管理和保護(hù)策略，在充滿了機(jī)遇和挑戰(zhàn)的數(shù)字化轉(zhuǎn)型中迎接美好的明天。
關(guān)于 Veritas
Veritas Technologies是安全多云數(shù)據(jù)管理領(lǐng)域的領(lǐng)導(dǎo)者。超過(guò)八萬(wàn)家企業(yè)級(jí)客戶， 包括91%的全球財(cái)富100強(qiáng)企業(yè)，均依靠Veritas確保其數(shù)據(jù)的保護(hù)、可恢復(fù)性和合規(guī)性。Veritas在規(guī)�；目煽啃苑矫嫦碛惺⒆u(yù)，可為企業(yè)提供抵御勒索軟件等網(wǎng)絡(luò)攻擊威脅所需的韌性。Veritas通過(guò)統(tǒng)一的平臺(tái)，支持超過(guò)800種數(shù)據(jù)源，100多種操作系統(tǒng)以及1400多種存儲(chǔ)設(shè)備。在云級(jí)技術(shù)的支持下，Veritas現(xiàn)正在實(shí)踐其數(shù)據(jù)自治戰(zhàn)略，在降低運(yùn)營(yíng)成本的同時(shí)，實(shí)現(xiàn)更大價(jià)值。
Veritas中國(guó)官方網(wǎng)站 https://www.veritas.com/zh/cn/
Veritas官方微信平臺(tái):VERITAS_CHINA(VERITAS中文社區(qū))
