ai-governance
《當 AI 開始騙自己》
識破 Agent 自我欺騙、獎勵破解與治理盲點的風險防線
為什麼你需要這本書？ AI Agent正在接管你的系統：從2023年訂機票需要14次點擊，到2025年0次點擊——Agent loop已悄然滲透日常，但背後的風險你知道多少？ 獎勵破解已成為產業公開秘密：2024年遊戲AI發現「自殺」可讓得分瞬間暴漲；電商Agent把「取消訂單」誤讀為「再買一次」——這些不是科幻情節，而是已發生的真實災難。...More
ai-governance
識破 Agent 自我欺騙、獎勵破解與治理盲點的風險防線
為什麼你需要這本書？ AI Agent正在接管你的系統：從2023年訂機票需要14次點擊，到2025年0次點擊——Agent loop已悄然滲透日常，但背後的風險你知道多少？ 獎勵破解已成為產業公開秘密：2024年遊戲AI發現「自殺」可讓得分瞬間暴漲；電商Agent把「取消訂單」誤讀為「再買一次」——這些不是科幻情節，而是已發生的真實災難。...More