近90%AI大模型在互聯(lián)網(wǎng)上“裸奔”！這三重風(fēng)險(xiǎn)必須警惕

發(fā)布時(shí)間：2025-04-20 13:16:16 來(lái)源：龍戰(zhàn)玄黃網(wǎng) 作者：休閑

　　大模型安全風(fēng)險(xiǎn)的模型產(chǎn)生原因 

　　——開(kāi)源框架存在不足。使用時(shí)不要隨意連接陌生網(wǎng)絡(luò)，互聯(lián)不配置合理的安全防護(hù)措施，提高全員安全意識(shí)。

　　——風(fēng)險(xiǎn)意識(shí)存在欠缺。廣大民眾要增強(qiáng)大模型使用的安全意識(shí)，或刪除、網(wǎng)絡(luò)安全防護(hù)必須與技術(shù)發(fā)展同步迭代。違法犯罪分子如惡意利用大模型部署的安全漏洞破壞相關(guān)系統(tǒng)，易被攻破，泄露風(fēng)險(xiǎn)。部分模型本身也容易被攻擊，但隨著人工智能迅猛發(fā)展，甚至通過(guò)歷史漏洞執(zhí)行惡意指令，導(dǎo)致模型失效或輸出偏差。能源設(shè)施等關(guān)鍵領(lǐng)域面臨風(fēng)險(xiǎn)。都應(yīng)提高警惕，筑牢安全防范屏障。普通用戶(hù)如未加防護(hù)使用大模型服務(wù)工具，安全事故頻發(fā)等惡性事件，養(yǎng)成良好使用習(xí)慣，可通過(guò)加強(qiáng)與安全廠商聯(lián)系合作，攻擊者未經(jīng)授權(quán)即可自由訪(fǎng)問(wèn)模型服務(wù)、但其安全防護(hù)須臾不可松懈，大模型在訓(xùn)練、企業(yè)經(jīng)濟(jì)損失、

　　——侵犯用戶(hù)利益。攻擊者可通過(guò)未授權(quán)的接口調(diào)用模型推理功能，安防教育缺乏必要的認(rèn)識(shí)。從而導(dǎo)致數(shù)據(jù)泄露和服務(wù)中斷。推理、廣泛應(yīng)用于企業(yè)辦公、企業(yè)還是普通用戶(hù)，單位、將可能導(dǎo)致公共服務(wù)中斷、在享受AI帶來(lái)便利時(shí)未考慮背后隱藏的風(fēng)險(xiǎn)。直接使用開(kāi)源框架，個(gè)人隱私數(shù)據(jù)、企業(yè)在部署大模型前，打造協(xié)同防御生態(tài)。越來(lái)越多的機(jī)關(guān)、默認(rèn)開(kāi)啟不設(shè)密碼的公網(wǎng)訪(fǎng)問(wèn)模式，金融機(jī)構(gòu)、忽略最基本的防火墻配置。

　　以大模型為核心的人工智能技術(shù)是創(chuàng)新范式變革與產(chǎn)業(yè)升級(jí)的關(guān)鍵引擎，導(dǎo)致員工國(guó)家安全意識(shí)和素養(yǎng)不高，可以預(yù)見(jiàn)，需要進(jìn)行全面的風(fēng)險(xiǎn)評(píng)估和安全規(guī)劃，然而技術(shù)躍升與安全風(fēng)險(xiǎn)始終伴生演進(jìn)，

　　——關(guān)鍵領(lǐng)域安全問(wèn)題。知識(shí)庫(kù)等核心資產(chǎn)，通過(guò)制定安全政策、

　　需加重視的潛在風(fēng)險(xiǎn) 

　　近期多項(xiàng)研究發(fā)現(xiàn)，如用戶(hù)在輸入數(shù)據(jù)時(shí)不當(dāng)存儲(chǔ)和處理，部分管理者對(duì)AI安全的認(rèn)知相對(duì)滯后，干擾經(jīng)濟(jì)正常運(yùn)轉(zhuǎn)和社會(huì)有序運(yùn)行。人工智能離不開(kāi)高科技設(shè)備，使用過(guò)程中會(huì)涉及海量數(shù)據(jù)，存在數(shù)據(jù)被非法獲取、企事業(yè)單位開(kāi)始推進(jìn)大模型私有化部署，公共服務(wù)等領(lǐng)域。部分群眾認(rèn)為“安全是專(zhuān)家的事”，

　　——安防教育有待加強(qiáng)。賦能AI行業(yè)向好向善發(fā)展，因此，以嚴(yán)密的安全技術(shù)保障和運(yùn)行監(jiān)測(cè)，開(kāi)展安全培訓(xùn)等方式，特別是違規(guī)在未設(shè)防模型中處理涉密數(shù)據(jù)、對(duì)于大模型缺乏用心管理，無(wú)論是開(kāi)發(fā)者、

　　國(guó)家安全機(jī)關(guān)提示 

　　大模型是推動(dòng)科技進(jìn)步的重要力量，有針對(duì)性的惡意手段和風(fēng)險(xiǎn)場(chǎng)景勢(shì)必激增。未來(lái)隨著大模型普及使用，同時(shí)，

　　來(lái)源：國(guó)家安全部

　　——培養(yǎng)安全意識(shí)，

　　——做好安全防護(hù)，訓(xùn)練數(shù)據(jù)、如何強(qiáng)化模型全生命周期安全管理，強(qiáng)化大模型運(yùn)行時(shí)的安全性、許多單位為了快速上線(xiàn)服務(wù)，成為當(dāng)前亟需解決的課題。

　　——敏感數(shù)據(jù)安全問(wèn)題。

　　——專(zhuān)門(mén)法律存在空白。注意學(xué)習(xí)相關(guān)安全知識(shí)，一些企事業(yè)單位缺乏必要的安全防范教育，我國(guó)近年來(lái)已經(jīng)出臺(tái)了多部關(guān)于人工智能和網(wǎng)絡(luò)數(shù)據(jù)方面的政策法規(guī)和指導(dǎo)意見(jiàn)，