5月28日消息，安全公司W(wǎng)iz近日發(fā)布報(bào)告，宣稱開源AI模型共享平臺(tái)Replicate存在重大漏洞，黑客可通過惡意模型進(jìn)行“跨租戶攻擊”，從而導(dǎo)致平臺(tái)用戶訓(xùn)練的AI模型內(nèi)部機(jī)密數(shù)據(jù)泄露。
安全公司聲稱，Replicate平臺(tái)出現(xiàn)“跨租戶攻擊”漏洞的主要原因是該平臺(tái)為提升AI模型推論(inference)效率推出的模型容器化格式Cog，雖然相關(guān)格式能夠顯著改善模型與效率，不過Replicate平臺(tái)忽略了Cog格式中的安全隔離機(jī)制。
黑客可以將經(jīng)過訓(xùn)練后的惡意模型打包成Cog容器，并通過Replicate的用戶操作界面與容器互動(dòng)，最終成功進(jìn)行了一系列遠(yuǎn)程執(zhí)行代碼(RCE)攻擊測試，獲得了容器的root權(quán)限。
AI平臺(tái)Replicate曝“跨租戶攻擊”安全隔離漏洞，用戶自訓(xùn)練人工智能模型可被黑客入侵
此后，研究人員還對(duì)Replicate平臺(tái)的基礎(chǔ)設(shè)施進(jìn)一步調(diào)查，利用當(dāng)前容器的TCP連接成功訪問到另一臺(tái)容器，并通過名為rshijack的工具將特定數(shù)據(jù)成功注入至TCP連接中，從而繞過了平臺(tái)的身份驗(yàn)證步驟，成功訪問到其他用戶的AI模型。
AI平臺(tái)Replicate曝“跨租戶攻擊”安全隔離漏洞，用戶自訓(xùn)練人工智能模型可被黑客入侵
研究人員指出，黑客可以利用相關(guān)漏洞輕松獲取其他用戶自用的AI模型，能夠自由從相關(guān)模型問答記錄中提取用戶隱私數(shù)據(jù)，還能夠自由下載/修改用戶模型內(nèi)容，對(duì)平臺(tái)存在嚴(yán)重危害。
分享到微信 ×
打開微信，點(diǎn)擊底部的“發(fā)現(xiàn)”，
使用“掃一掃”即可將網(wǎng)頁分享至朋友圈。
數(shù)據(jù)分類分級(jí)方法、標(biāo)準(zhǔn)及應(yīng)用實(shí)踐
