有見人工智能發展迅速，今年的「Cisco Engage Greater Bay Area」大會亦以「Go Beyond」為主題，探討大灣區企業如何把握 AI 轉型機遇這個熱門議題。思科香港、澳門及華南區總經理封小韵（上圖右）指出，不少企業皆面臨 AI 焦慮。許多企業擔心如果不及時投入 AI 技術，將無法跟上競爭對手的步伐，但同時亦擔心過多投資會浪費資源。在此背景下，了解 AI 實際上如何能協助企業變得尤其重要。

根據《思科 2025 年全球 CEO人工智能調查》顯示，八成受訪 CEO 認同 AI 的潛在優勢，大多數受訪者更計劃將 AI 融入到業務營運當中。矛盾的是，許多 CEO 亦擔心自身對 AI 理解不足會影響董事會的決策（74%），甚至阻礙企業增長（58%），從而錯失良機落後於人。

針對分散式環境的 Hyper-defense 政策

現今的分散式（distributed）環境下，企業每個位置的應用程式都可能受到不同類型的攻擊。因此，思科主張採取超防禦（hyper-defense）策略，將防禦能力擴展到每一個處理節點，從而為每個層級提供安全保障。

為此，思科計劃推出一系列全新人工智能架構和數據中心解決方案，助企業和服務供應商轉型以滿足 AI 工作負載需求，包括：

思科 Hypershield：首個推出的服務，透過將安全與網絡層整合為單一解決方案，消除兩者間的差距。

適用於 Hypershield 的思科 N9300 智能交換器：將服務直接嵌入網絡，重新定義自適應與可擴充的 AI 數據中心架構。

思科混合網狀防火牆：由單一管理控制台管理，擁有高度分散安全結構，提供零信任分段，抵禦現今 AI 應用程式中的漏洞。

擴展人工智能伺服器系列：全新思科 UCS C845A M8 伺服器以 NVIDIA MGX 架構為參考基礎，為 AI 工作負載提供靈活度，並提供密集型任務所需的運算能力。

▲兩款新智能交換器將分別於今年 3 月及 7 月全球上市。

思科透露，此前發佈的 Hypershield 產品主要是在伺服器操作系統的核心層級進行防護，新產品則通過具備 DPU（數據處理器）能力的智能交換器（Smart Switches），將 Hypershield 的防護能力延伸到每個交換器層級。如此一來，無論應用程式分散到多廣的範圍，都能在每個位置進行檢閱（Inspection）和政策控制（Policy Control）。

採用 DPU 的另一好處是能減輕 CPU 的工作負擔，無須再依賴伺服器上的 CPU 進行防禦，而是將防護功能下放到 DPU 層級。除了在交換器中採用 DPU 外，DPU 亦被用於網絡卡（Network Card），提供同級的防護功能。

延伸閱讀：大型語言模型（LLM）背後的潛藏危機：Prompt Injection Attack + Prompt Engineering

AI 帶來新潛在風險

有別傳統應用程式，AI 應用程式的核心在於模型（Model）。由於模型具有非確定性（Non-deterministic）特質，即輸入相同提示（Prompt），每次輸出的結果均不會完全相同，使模型更容易受到攻擊。

在外國，就曾有黑客利用 Prompt Injection Attack（提示注入攻擊）讓 AI 系統生成錯誤的價格訊息，誤導平台以不合理的低價出售汽車或機票。此類問題不僅會為企業帶來法律風險，更須承受相應的損失。

AI 防禦三部曲

思科將針對模型的潛在風險分為兩類：

◾安全風險（Security Risk）— 提示注入攻擊（Prompt Injection Attack）可通過不同方式詢問相同問題來突破模型保護。

◾安全性風險（Safety Risk）— 讓模型回答與業務無關的問題，惟這些問題理論上應該被屏蔽。

AI 防禦可通過三個步驟來解決問題：

◾發現（Discovery）：檢查公司內是否有人在使用大型語言模型或相關 API，並列出使用這些模型的應用程式。

◾檢測（Detection）：識別這些模型是否存在漏洞及風險，並進行模擬攻擊以評估系統的安全性。

◾保護（Protection）：設置保護措施，例如屏蔽特定問題或生成報告，確保模型在使用過程中不會受到攻擊。

AI 毫無疑問是把鋒利的雙面刃，在提升企業工作效率的同時，亦持續被黑客利用來發動更精密頻繁的攻擊。可幸的是有 AI 生成攻擊，自然亦有 AI 防禦。