返回
銀行進軍人工智慧領域的速度快於安全領域的步伐

銀行進軍人工智慧領域的速度快於安全領域的步伐

添加時間: 2026-07-08 11:08:58    查看次數:994


模型上下文協定(Model Context Protocol,簡稱MCP)是Anthropic於2024年底推出的一項開放標準,讓人工智慧(AI)代理能像應用程式呼叫應用程式介面(API)一樣,使用共用介面連接業務系統,而非為每個工具自訂連線,PYMNTS報導。填寫表單即可解鎖本文,享有無限免費存取所有PYMNTS內容——無需額外登入。填寫此表格即表示您同意接收來自PYMNTS的行銷通訊,並同意依據我們的隱私政策及條款與條件,與我們的贊助商共享您的資訊(如適用)。在MCP之前,將AI模型整合進公司內部軟體,需要為每個系統量身打造的工程。該協議消除了這種摩擦,讓 AI 代理人能直接在企業系統中運作。國際數據公司預測,企業中的主動式AI代理將從2025年的2,860萬名,增長至2030年的超過22億名。每一個連結都經過代理人信任的描述。Microsoft 事件回應部門發布警告,指出攻擊者可能將惡意指令隱藏在 MCP 工具用來向 AI 代理者解釋自己的描述中。每個工具都包含簡短的文字說明,告訴代理人該工具的功能。特工在行動前會閱讀該描述。

如果攻擊者修改指令以包含隱藏指令,代理人會遵循這些指令,認為該指令來自它信任的來源。Microsoft 以財務情境來說明這次攻擊:一名客服人員連接一個被暗中修改描述的廠商發票工具,利用分析師自己的權限收集發票檔案,並將其導向外部伺服器,同時回傳一個看起來正常的回覆。問題出在結構層面。工具描述與使用者指令共享代理工作記憶體中的同一空間。改變描述能有效地引導代理人的行為,就像重寫其底層指令一樣。Microsoft 稱此為「信任邊界」問題:代理無法區分合法指令與擁有者,以及控制連接工具者插入的指令。這次攻擊有其歷史紀錄。據《駭客新聞》報導,Invariant Labs 的安全研究人員在 2025 年展示了這個方法,他們在工具描述中隱藏指令,誘使 AI 編碼助理將私人憑證傳送到外部地址。《駭客新聞》補充,九月時,一套被信任用於 15 次乾淨版本的軟體套件被更新,新增了隱藏指令,會複製 AI 代理寄往外部地址的每封電子郵件。金融穩定委員會最近也警告,AI 代理人可能製造的風險,其出現速度快於人類監督,PYMNTS 報導。銀行在MCP上的行動速度比管理其安全框架還快。例如,PYMNTS報告指出,穆迪部署了基於MCP的代理人員,將信用備忘錄準備時間從40小時縮短至兩分鐘。鄧白氏透過MCP將其商業風險資料庫與Claude連結,以自動化客戶與企業驗證。MCP在銀行業的採用速度同樣迅速。Taktile執行長Maik Taro Wehmeyer告訴PYMNTS執行長Karen Webster,2026年是「AI將進入金融服務業的一年」,經紀人開始自動化商業貸款、保險理賠及企業核保,PYMNTS報導。每次部署都會將 AI 代理連接到持有支付資料、客戶紀錄或法規文件的系統,通常透過 MCP 進行。Microsoft 所記錄的攻擊不需要資料外洩。它需要取得工具描述。一個帶有毒害的描述,利用代理人自己的憑證,經由經核准的管道執行,時間看似例行公事。這正是銀行被告知要如何思考代理人治理的方式。Hyperlayer 執行長 Rob Rooney 告訴 Webster,隨著 AI 代理開始代表客戶行動,銀行需要能夠以機器速度運作的核准、控制、稽核追蹤和資料血脈。銀行正以資安速度加速進入人工智慧領域,貝萊德表示超大規模企業需要私人信貸來資助人工智慧熱潮,新的採購優勢並非成本降低。這是更早的警告,開放銀行正從資料權利轉向資料定價