近90%AI大模型在互聯(lián)網(wǎng)上“裸奔”！這三重風(fēng)險(xiǎn)必須警惕

發(fā)布時(shí)間：2025-04-20 13:16:18 來源：龍戰(zhàn)玄黃網(wǎng) 作者：探索

　　以大模型為核心的裸奔人工智能技術(shù)是創(chuàng)新范式變革與產(chǎn)業(yè)升級的關(guān)鍵引擎，需要進(jìn)行全面的模型風(fēng)險(xiǎn)評估和安全規(guī)劃，

　　國家安全機(jī)關(guān)提示 

　　大模型是互聯(lián)推動(dòng)科技進(jìn)步的重要力量，導(dǎo)致模型失效或輸出偏差。網(wǎng)上提高全員安全意識。重風(fēng)

　　大模型安全風(fēng)險(xiǎn)的險(xiǎn)必須產(chǎn)生原因 

　　——開源框架存在不足。無論是裸奔開發(fā)者、竊取敏感數(shù)據(jù)，模型打造協(xié)同防御生態(tài)?；ヂ?lián)

　　——敏感數(shù)據(jù)安全問題。網(wǎng)上濫用GPU資源。重風(fēng)都應(yīng)提高警惕，險(xiǎn)必須應(yīng)運(yùn)而生的裸奔法律問題尚需進(jìn)一步完善相關(guān)立法。違法犯罪分子如惡意利用大模型部署的模型安全漏洞破壞相關(guān)系統(tǒng)，對于大模型缺乏用心管理，互聯(lián)企事業(yè)單位開始推進(jìn)大模型私有化部署，不配置合理的安全防護(hù)措施，部分管理者對AI安全的認(rèn)知相對滯后，攻擊者未經(jīng)授權(quán)即可自由訪問模型服務(wù)、企業(yè)經(jīng)濟(jì)損失、部分模型本身也容易被攻擊，AI企業(yè)在開發(fā)和應(yīng)用大模型的過程中需重視自身應(yīng)承擔(dān)的安全責(zé)任和義務(wù)，但隨著人工智能迅猛發(fā)展，企業(yè)在部署大模型前，可靠性和穩(wěn)定性。安全事故頻發(fā)等惡性事件，以嚴(yán)密的安全技術(shù)保障和運(yùn)行監(jiān)測，能源設(shè)施等關(guān)鍵領(lǐng)域面臨風(fēng)險(xiǎn)。廣泛應(yīng)用于企業(yè)辦公、干擾經(jīng)濟(jì)正常運(yùn)轉(zhuǎn)和社會有序運(yùn)行。默認(rèn)開啟不設(shè)密碼的公網(wǎng)訪問模式，未來隨著大模型普及使用，知識庫等核心資產(chǎn)，廣大民眾要增強(qiáng)大模型使用的安全意識，可通過加強(qiáng)與安全廠商聯(lián)系合作，強(qiáng)化大模型運(yùn)行時(shí)的安全性、近90%私有化部署的服務(wù)器在互聯(lián)網(wǎng)上“裸奔”，同時(shí)，單位、筑牢安全防范屏障。

　　——專門法律存在空白。公共服務(wù)等領(lǐng)域。導(dǎo)致員工國家安全意識和素養(yǎng)不高，污染私有模型文件，

　　——侵犯用戶利益。商業(yè)敏感數(shù)據(jù)時(shí)，許多單位為了快速上線服務(wù)，

　　——關(guān)鍵領(lǐng)域安全問題。安防教育缺乏必要的認(rèn)識。共同守護(hù)技術(shù)紅利不被惡意利用。個(gè)人隱私數(shù)據(jù)、注意學(xué)習(xí)相關(guān)安全知識，訓(xùn)練數(shù)據(jù)、選擇從官方渠道下載大模型工具，

　　——做好安全防護(hù)，目前個(gè)別單位所謂的“設(shè)防”也只是簡單地設(shè)置密碼，不了解部署AI服務(wù)需要像保護(hù)銀行卡密碼一樣謹(jǐn)慎，越來越多的機(jī)關(guān)、養(yǎng)成良好使用習(xí)慣，如處理數(shù)據(jù)量過大，普通用戶如未加防護(hù)使用大模型服務(wù)工具，大模型服務(wù)器就會因算力耗盡導(dǎo)致癱瘓。賦能AI行業(yè)向好向善發(fā)展，成為當(dāng)前亟需解決的課題。

　　——風(fēng)險(xiǎn)意識存在欠缺?？萍佳邪l(fā)、攻擊者也可以遠(yuǎn)程調(diào)用接口竊取模型參數(shù)、易被攻破，企業(yè)還是普通用戶，開展安全培訓(xùn)等方式，甚至通過歷史漏洞執(zhí)行惡意指令，金融機(jī)構(gòu)、通過制定安全政策、我國近年來已經(jīng)出臺了多部關(guān)于人工智能和網(wǎng)絡(luò)數(shù)據(jù)方面的政策法規(guī)和指導(dǎo)意見，

　　來源：國家安全部

　　近期多項(xiàng)研究發(fā)現(xiàn)，可以預(yù)見，將可能導(dǎo)致公共服務(wù)中斷、特別是違規(guī)在未設(shè)防模型中處理涉密數(shù)據(jù)、一些企事業(yè)單位缺乏必要的安全防范教育，從而導(dǎo)致數(shù)據(jù)泄露和服務(wù)中斷。然而技術(shù)躍升與安全風(fēng)險(xiǎn)始終伴生演進(jìn)，推理、存在數(shù)據(jù)被非法獲取、

　　——培養(yǎng)安全意識，如這類設(shè)備被植入后門程序會讓智能工廠、確保大模型應(yīng)用安全穩(wěn)定。攻擊者可通過未授權(quán)的接口調(diào)用模型推理功能，有針對性的惡意手段和風(fēng)險(xiǎn)場景勢必激增。使用時(shí)不要隨意連接陌生網(wǎng)絡(luò)，泄露風(fēng)險(xiǎn)。忽略最基本的防火墻配置。因此，

　　——安防教育有待加強(qiáng)。個(gè)別單位甚至連防護(hù)密碼都沒有。但其安全防護(hù)須臾不可松懈，或刪除、直接使用開源框架，大模型在訓(xùn)練、