雲端 AI 還是地端 AI？一定要知道的四個評估重點
2024 年 12 月 30 日
隨著 AI 技術的普及，越來越多企業將其應用於產品與營運。然而，在導入初期，許多企業可能對雲端 AI (cloud AI) 與地端 AI (on-premise AI) 的差異不太了解，在選擇上面臨挑戰。
雲端 AI 是在遠端伺服器上運行的系統，而地端 AI 則是部署在企業內部伺服器上的系統。兩者各有優勢與挑戰，企業應從多方面進行評估。以下提供四個關鍵考量方向：
關於資安
每討論到雲端與地端 AI，資安往往是熱門話題之一，可分為 data security 與 data privacy 兩個層面。
從 data security 來看，地端的 data security 程度勝過雲端，畢竟資料整個鎖在內部網絡，密不透風的安全性絕對最高，對於處理高度敏感資訊的組織，例如：金融機構或政府機關，將所有資料控制在內部網路中至關重要，地端 AI 確保資料不會離開組織，降低資料外流的風險。
不過，值得信賴的雲端供應商通常會投入大量資源來強化安全措施，包括：加密技術、多重身份驗證、定期安全審查或雲端網路最佳實踐 (best practice)，透過 VPN、私有網路、通訊加密等技術，雲端其實可以滿足絕大多數場景的安全性需求。
在 data privacy 方面，一些由雲端供應商背書的基礎設施 (infrastructure) 能夠對敏感資訊進行脫敏處理或加密，隱藏如電話號碼、身分證字號、姓名、住址等個資。然而，企業通常無法直接審查雲端供應商的實際操作，因此 data privacy 的真正挑戰在於確保雲端供應商嚴格控管這些敏感資料，遵循合約或政策，並且不會使用未經授權的資料，以建立信任關係。
而地端的資料全程儲存在內部網路，不經過外部服務，能夠最大限度地保障資料隱私。對於處理高度敏感資訊的行業，這種完全的資料控制尤為關鍵。企業可完全掌握資料的存取權限、查看範圍與處理方式，有效降低資料外洩風險，並精確遵循各項合規要求。
然而，地端這種封閉的環境雖然大幅提升資料隱私的保護，但也同時限制了 AI 系統的持續學習和更新，難以像雲端 AI 一樣從外部數據中時時優化，可能影響 AI 模型的長期性能發展及提升。
關於 AI 模型的服務品質與速度
有些 AI 服務有 finetuning 與 training 的機制，讓 AI 能越使用越準確，或說，隨著使用次數的增加，效能與表現都可以逐漸進步，表現越來越出色。
雲端 AI 確保了 AI 擁有這樣的成長性，它的最大優勢是可以隨時更新 AI 模型，允許應用場域中搜集到的資料經由上傳雲端，快速進行 finetuning 的 AI 訓練，再快速更新到 AI 系統上，整個過程甚至可以做到自動化，省時省力省成本，確保 AI 模型與能力永遠在最新的狀態，協助企業保持競爭力。
舉例來說，以 Viscovery 提供的 AI 影像辨識系統 為例，它運用雲端 AI 技術，確保企業所使用的 AI 模型始終保持最新狀態。隨著 AI 從應用場域中獲得的資料不斷學習與進化 (finetuning/training)，雲端平台能即時更新 AI 的辨識能力，使其越來越準確。
然而，地端 AI 無論是將資料再上傳到雲端，或是在地端直接進行 AI 訓練，都是非常困難的，而且在地端進行 AI 訓練的難度與成本遠大於使用 AI 本身，更別說「將資料上傳到雲端」這件事情已經違反地端對於資料保護 (data privacy) 的初衷。
關於 AI 建置成本，以及使用場域的空間規劃
AI 服務百百種，若希望 AI 服務擁有較高品質的表現，目前地端的基礎建設 (infrastructure) 需要支出較高的費用，才能做到如雲端一樣的水準，因為雲端的成本可以被多個客戶均分，這部分的支出相對低。
地端費用相對昂貴，主要是因為建置、維護與擴展地端系統皆須由企業處理，舉凡硬體設備、軟體系統，甚至是專業的技術人員，都需要一定的規劃和支出。另外，硬體設備如 infra servers 還需要規劃空間放置。因此，地端的建置與擴展的處理時間較長，可能也會因此限制企業快速應對變化需求的能力。
不過，隨著科技逐漸進步，現在使用規模較小的 AI 模型運行在地端上的費用已逐步下降，但以現階段來說，地端費用仍較高，特別是如果有 server 的 FAE 人力及物流需求的話，那整體地端 AI 的價格就會遠大於雲端 AI。
關於系統使用彈性
除了建置成本較低的優勢外，雲端 AI 也很容易擴展。隨著業務需求增加，企業可以隨時增加所需的運算能力和儲存空間，不必擔心未來伺服器是否會不夠用，避免地端解決方案可能面臨到的資源瓶頸。對於快速成長或需求波動較大的企業來說，這樣的彈性相當重要。
而地端 AI 若要升級系統，增加伺服器、運算能力或儲存空間，相對不容易，其中牽涉到汰換硬體設備，放置 infra servers 的空間可能也需要重新規劃，不僅耗時費力，也可能導致企業使用的 AI 模型過時，始終無法使用最新的 AI 模型與數據。
該選擇雲端 AI 還是地端 AI？
雲端 AI 與地端 AI 各自擁有優勢與挑戰。然而，對於重視 AI 辨識精確度 (如零售場域的影像辨識服務) 或希望持續提升 AI 使用體驗的企業而言，雲端 AI 更具優勢。隨著 AI 技術的快速演進，雲端解決方案讓企業無需耗費人力或等待時間，即可持續享有最先進的 AI 服務。
在商業環境瞬息萬變的今天，企業必須擁有快速反應與靈活適應的能力，雲端 AI 不僅能滿足這一需求，還能幫助企業充分發揮 AI 的潛力，確保在競爭中保持領先。
