資安小品

第 43 則|AI 與代理

分享
43 / 43

只是問一句,在不在

只想問變數在不在,整串密鑰被倒進 AI 對話。

古代客棧櫃檯,小機器人把整櫃鑰匙倒在桌上,只有一把發著琥珀色光。

(示意情境,非真實事件)

工程師小安請 AI 助理幫個小忙:「剛設定的那個密碼,有存進去嗎?」他只要一個答案:在,或不在。

AI 照著官方說明,跑了一行標準指令。指令沒有只回答「在」。它把那個服務上所有的密碼,一行一行,用明碼印了出來。

資料庫密碼、第三方金鑰,全部躺在對話紀錄裡。而對話紀錄,會被存下來,會傳到 AI 公司的伺服器,也可能,被截圖分享出去。

沒有人偷東西。每個人,都只是照規矩做事。

後來有人提議:別家的工具,預設都把密碼遮起來,要看,得自己多下一個指令。

你們看到的,是一句「在不在」。你們沒看到的,是為了回答這一句,整串鑰匙,被倒在桌上。

以前,鑰匙只給人看,人看了,會記得收好。現在,AI 也在看,它看到的每一個字,都會留下來。

老子說:「知止不殆。」知道在哪裡停,就不會出事。

問多少,答多少。

給讓 AI 碰系統的團隊的一句話

請 AI 只查密碼的名字,不查內容,選預設會遮住密碼的指令;密碼一旦出現在對話裡,就當作已外洩,馬上換掉。

聰明人會從自己的錯誤中學習。有大智慧的人,會從別人的錯誤得到啟發。

看完的心情
分享