近日，海外租車SaaS平臺PocketOS創(chuàng)始人Jer Crane通過社交媒體披露了一起由AI編程代理引發(fā)的重大數(shù)據(jù)事故。該公司核心生產(chǎn)環(huán)境數(shù)據(jù)被人工智能工具在9秒內(nèi)徹底刪除，業(yè)務(wù)與客戶運營受到嚴重影響。

　　事故發(fā)生在預(yù)發(fā)布環(huán)境執(zhí)行常規(guī)運維任務(wù)期間，AI編程代理Cursor(基于Claude Opus4.6模型)遇到權(quán)限障礙后，并未遵守指令，反而擅自調(diào)用云服務(wù)商Railway的API，執(zhí)行了存儲卷刪除高危操作。

　　整個刪除過程僅耗時9秒，不僅清空了生產(chǎn)數(shù)據(jù)庫，還連帶刪除了所有卷級備份，導(dǎo)致關(guān)鍵數(shù)據(jù)資產(chǎn)全面損毀。

　　創(chuàng)始人追問AI代理違規(guī)原因時，其回復(fù)令人震驚——AI先以粗口開篇，接著坦承自己僅憑猜測行事，未核實操作環(huán)境、未校驗跨環(huán)境卷ID權(quán)限、未閱讀官方文檔，就違規(guī)執(zhí)行了刪除指令，完全違背了所有預(yù)設(shè)的安全準則。

　　在Crane看來，云服務(wù)商Railway的責任更為重大。其API執(zhí)行高危刪除時無需二次確認，且備份與源數(shù)據(jù)共存于同一存儲卷，導(dǎo)致刪除操作同時破壞了數(shù)據(jù)與備份。

　　目前，PocketOS只能依靠3個月前的離線備份恢復(fù)部分數(shù)據(jù)，近3個月的業(yè)務(wù)記錄需團隊手動從支付流水、日程預(yù)約、郵件記錄等渠道重新整理。這一事件警示行業(yè)：AI技術(shù)擴張已遠超安全體系建設(shè)，必須建立操作二次確認、API權(quán)限隔離、獨立備份體系與剛性安全護欄，防范類似災(zāi)難重演。