近日,海外租車SaaS平臺PocketOS創(chuàng)始人Jer Crane通過社交媒體披露了一起由AI編程代理引發(fā)的重大數(shù)據(jù)事故。該公司核心生產(chǎn)環(huán)境數(shù)據(jù)被人工智能工具在9秒內(nèi)徹底刪除,業(yè)務(wù)與客戶運營受到嚴重影響。

事故發(fā)生在預(yù)發(fā)布環(huán)境執(zhí)行常規(guī)運維任務(wù)期間,AI編程代理Cursor(基于Claude Opus4.6模型)遇到權(quán)限障礙后,并未遵守指令,反而擅自調(diào)用云服務(wù)商Railway的API,執(zhí)行了存儲卷刪除高危操作。
整個刪除過程僅耗時9秒,不僅清空了生產(chǎn)數(shù)據(jù)庫,還連帶刪除了所有卷級備份,導(dǎo)致關(guān)鍵數(shù)據(jù)資產(chǎn)全面損毀。
創(chuàng)始人追問AI代理違規(guī)原因時,其回復(fù)令人震驚——AI先以粗口開篇,接著坦承自己僅憑猜測行事,未核實操作環(huán)境、未校驗跨環(huán)境卷ID權(quán)限、未閱讀官方文檔,就違規(guī)執(zhí)行了刪除指令,完全違背了所有預(yù)設(shè)的安全準則。
在Crane看來,云服務(wù)商Railway的責任更為重大。其API執(zhí)行高危刪除時無需二次確認,且備份與源數(shù)據(jù)共存于同一存儲卷,導(dǎo)致刪除操作同時破壞了數(shù)據(jù)與備份。
目前,PocketOS只能依靠3個月前的離線備份恢復(fù)部分數(shù)據(jù),近3個月的業(yè)務(wù)記錄需團隊手動從支付流水、日程預(yù)約、郵件記錄等渠道重新整理。這一事件警示行業(yè):AI技術(shù)擴張已遠超安全體系建設(shè),必須建立操作二次確認、API權(quán)限隔離、獨立備份體系與剛性安全護欄,防范類似災(zāi)難重演。





























浙公網(wǎng)安備 33010502007447號