33 / 43
「先讓它跑起來」
「先讓它跑起來」的 AI 代理,拿著整個資料庫的權限。
(示意情境,非真實事件)
這家四十人的生鮮電商,做了一個客服 AI 代理,幫忙查訂單、改聯絡資料。
開發時為了省事,直接給了它一組資料庫管理員帳號。「先讓它跑起來,之後再調權限。」
上線之後,大家都在忙別的事,那個「之後」,一直沒有來。
某天,一位顧客在對話框裡,輸入了一段精心設計的文字。代理照做了,查出了不屬於這位顧客的訂單。
事後檢查發現:代理其實只需要兩個權限,「讀取訂單」和「更新聯絡資料」,卻擁有刪除整張資料表的能力。
顧客打進來的每一個字,都會影響代理的行為。管理員能做的事,它理論上都做得到。
這類問題,有個名字,叫「過度代理」:功能太多、權限太大、自主太高。
老子說:「知其雄,守其雌。」知道自己能做很多,卻甘願守在該守的位置。
人是這樣,代理,更該這樣。
今天就能做
- 列出代理真正需要做的事。
- 為它開專屬帳號,只給這些權限。
- 刪除、退款這類動作,留給人按確認。
看完的心情