除非你一直生活在石頭下，否則無法否認人工智慧已經滲透到組織中的程度——35%的企業已經開發了基於人工智慧的工作流程，如果不是完全自動化其業務的某些方面。
然而，IT基礎設施則是另一回事。儘管它承諾帶來變革性的能力，但人工智慧也可以被視為某種潘多拉的盒子。
在這項創新表面之下，潛藏著一張複雜的隱藏成本網絡，這些成本往往在影響預算和運營之前不被注意。組織必須在創新與財務可持續性之間找到平衡的方法。讓我們看看人工智慧的可行性究竟如何。
基礎設施和硬體投資
人工智慧的工作負載需要巨大的計算能力，通常超過標準IT基礎設施的能力。對於微軟和OpenAI的多代理、尖端模型來說，這一點尤其真實，但大多數此類解決方案並不適合普通組織。
隨著OpenAI 推出每月200美元的訂閱層級，越來越明顯的是，依賴第三方並不像最初想的那樣財務上明智。那么，替代方案是什麼呢？
一個選擇是公司租用數據中心中的託管GPU伺服器，並卸載他們的人工智能基礎設施。這是第三方工具和完全在現場之間的“甜蜜點”。然而，這仍意味著第三方至少要承擔部分責任。那麼完全採用本地方式呢？
一個Nvidia H100的價格約為28,000美元，而包含8個H200 GPU的伺服器則超過250,000美元。
更不用說，您需要先進的冷卻系統來管理巨大的熱量輸出，而這些系統本身就可能佔運營費用的一大部分。升級的電源供應和擴展的物理空間——有時需要完全新的數據中心設施——增加了財務負擔。
除了這些直接成本，您還必須考慮整合階段的停機時間或延遲，進一步影響生產力和預算。這些升級的累計成本往往超出了最初的預算預測，創造了必須仔細管理的長期財務義務。而這只是硬件部分。
數據獲取和管理成本
一旦您擁有正確的基礎設施，就該開始訓練和微調您將使用的模型。訓練人工智能模型需要大量的數據，通常來自內部系統和第三方提供者。獲取專有數據集的成本微不足道，但對數據進行標註、結構化和存儲相關的費用往往被低估。
非結構化或質量低劣的數據可能導致人工智能訓練中的低效和錯誤，需要投資於數據工程團隊或工具來準備數據集。您可以使用數據整理工具，如Trifacta或Alteryx，通過自動化重複的清理任務來簡化流程。
然而，這些工具需要支付許可費用，並需要熟練的操作人員來最大程度地發揮其效用。此外，您可以考慮利用像Databricks這樣的機器學習特定平台來有效管理和結構化數據，但成本仍然存在。
隨著數據集的增長，存儲成本上升，特別是當合規法規要求長期保留或具有特定格式時。高性能存儲解決方案，如Amazon S3或Azure Blob Storage，可以滿足擴展性和合規需求，但它們通常會為高級安全功能或特定地區存儲收取額外費用。
組織必須在這些需求與預算限制之間取得平衡，持續檢視儲存策略以避免不斷上升的開支。更不用提培訓、問答測試以及花費在新發布模型上的時間了。
軟體開發與整合
儘管每個其他初創企業可能告訴你，AI 實施並不是即插即用的。至少如果你不想要一個千篇一律的解決方案。因此，定制 AI 軟體以符合特定業務需求需要相當大的開發努力。這些努力包括將 AI 系統與現有 IT 環境整合，這通常涉及修改舊系統以確保兼容性。
定制開發不僅產生前期費用，還有更新和優化的持續成本。同時，你需要培訓團隊並設計新工作流程的框架。
許多組織低估了在尖端 AI 算法與功能性、可靠的應用程式之間搭建橋樑所需的時間和專業知識。因此，這導致了開發瓶頸和缺乏凝聚力。
AI 模型的操作和合規風險
憑藉一個 ChatGPT 提示消耗了比 Google 搜索多 900% 的能源，人工智慧的耗電量高不是什麼秘密。更不用說，人工智慧模型需要持續監控和微調才能保持有效性。現實世界的條件經常變化，如果不加以注意，語言模型會容易出現模型漂移。
監控表現、重新訓練模型和適應新數據集需要持續的運營監督，這導致運營支出增加。如果推出了新的更好的 API 會怎樣呢？每小時都很重要，這可能導致不斷測試、基準測試和流程切換的惡性循環。
人工智慧運作在一個複雜的法律和道德格局中。確保遵守像 GDPR 或 HIPAA 這樣的數據保護法規，需要進行徹底的審計並建立健全的治理框架。不遵守可能導致巨額罰款、聲譽損害，甚至法律挑戰。
審計、認證和遵守道德人工智慧準則經常被視為事後事項，導致後來匆忙且昂貴的實施。主動應對這些要求包括聘請法律和合規專家、定期審查和實施自動合規工具。
依賴雲端自動化
雲端自動化簡化了AI部署，提供可擴展和靈活的環境，但也引入了隱藏的依賴性。當然，您可能不會被硬件成本所拖累，但安全性呢？
同時，過度依賴雲端服務的組織可能在成本控制方面面臨挑戰，特別是基於使用量指標計費的動態價格模型。過度依賴雲端自動化而缺乏嚴格的成本管理可能導致預算超支，因為您並非掌控一切
然而，完全放棄雲端自動化也不是解決方案。它在擴展資源和與其他IT系統集成方面提供的靈活性對於AI採用至關重要。挑戰在於在減輕財務風險的同時優化其使用。考慮混合雲數據管理的方向，既作為多元化手段，也是為了安全起見而稍微朝向去中心化的努力
安全性影響
由於其高價值數據和決策能力，AI系統是網絡攻擊的有吸引力目標。因此，保持AI應用的安全性需要投資於先進的網絡安全工具、滲透測試和持續監控。
重點是——駭客知道您一直在為人工智慧提供大量數據，他們毫不猶豫地將其用於社交工程目的。在某些情況下，依賴人工智慧的企業需要重新分配更多資金來保護基礎設施。同樣地，對抗性攻擊，即惡意行為者操縱人工智慧模型，構成了獨特威脅。至今仍無法確定如何完全建立足夠的保護。
發揮人工智慧的潛力
人工智慧是現代化IT基礎設施、推動創新和獲得競爭優勢的強大工具。然而，其隱藏成本需要仔細規劃、預算編制和持續管理。
通過全面應對這些挑戰，您可以發揮人工智慧的潛力，同時保持財務和運營穩定。更不用說，隨著我們獲得更強大和更先進的模型，情況只會變得更好。