打造 AI Agent 安全入門 101
1️⃣ 揸緊權限:唔使畀晒全屋鎖匙佢。AI 嘅操作要限制權限同用量,危險動作要放落 Sandbox 隔離跑。
2️⃣ 防外來指惡意指令:系統要識得分邊啲係真正命令、邊啲只係外來 data,唔好亂聽人點。
3️⃣ 高危動作要問人:牽涉到過數、del 資料或者 send 私隱嘢,一定要有Human-on-the-loop (HOTL) 。彈出嚟問嗰陣,仲要清楚列明佢到底想做咩。
4️⃣ 秘密分開保管:每個 user 嘅記憶同密碼都要獨立存放,唔好溝埋一齊。AI 用嘅 access token 最好係短期有效,用完即棄。
5️⃣ AI 之間互相 Check:幾個 AI Agent 合作分工,都唔可以盲目相信隊友畀嘅料,收到 data 一樣要 double check,一有異常就即刻暫停。
