除非你一直生活在岩石下面，否则无法否认人工智能在组织中的渗透程度——35%的企业已经开发了基于人工智能的工作流程，如果不是完全自动化其业务的某些方面的话。
然而，IT基础设施是一种不同的挑战。尽管它承诺提供变革性的能力，但人工智能也可以被视为某种潘多拉的盒子。
在这一创新的表面之下，隐藏着一张复杂的成本网络，通常在影响预算和运营之前不被注意。组织必须在创新和财务可持续性之间找到平衡的方法。让我们看看人工智能的可行性究竟如何。
基础设施和硬件投资
人工智能工作负载需要巨大的计算能力，通常超出标准IT基础设施的能力。这尤其适用于微软和OpenAI的多代理、尖端模型，但大多数此类解决方案并不适用于普通组织。
随着OpenAI 推出每月200美元的订阅层，依赖第三方的财务明智性变得越来越明显。因此，替代方案是什么呢？
一种选择是让公司在数据中心租用托管的GPU服务器，以卸载他们的人工智能基础设施。这是第三方工具和完全自建之间的“甜蜜点”。不过，这仍意味着第三方至少要承担部分责任。那么完全本地化呢？
购买一台Nvidia H100约需要花费28000美元，而包含8个H200 GPU的服务器价格超过250000美元。
更不用说，您需要先进的冷却系统来管理巨大的热量输出，这些系统单独就可以占据运营费用的相当大一部分。升级后的电源供应和扩展的物理空间——有时需要完全新的数据中心设施——都会增加财务负担。
除了这些直接成本，在整合阶段可能会出现停机或延迟，进一步影响生产力和预算。这些升级的累积成本往往超过最初的预算预测，产生必须仔细管理的长期财务义务。而这只是硬件部分。
数据获取和管理成本
一旦您拥有了正确的基础设施，就是训练和微调您将要使用的模型的时候了。训练人工智能模型需要大量的数据，通常这些数据来自内部系统和第三方提供商。虽然获取专有数据集的成本微不足道，但标注数据、随后的数据结构化和存储相关的费用往往被低估了。
非结构化或质量低劣的数据可能导致人工智能训练中的低效和错误，需要投资于数据工程团队或工具来准备数据集。您可以使用诸如Trifacta或Alteryx之类的数据处理工具，通过自动化重复的清洗任务来简化流程。
然而，这些工具附带许可费用，并需要熟练的操作员来最大化其效用。此外，您可以考虑利用像Databricks这样的面向机器学习的平台来有效地管理和构建数据，但成本仍会存在。
随着数据集的增长，存储成本会上升 — 特别是在合规法规要求长期保留或特定格式时。像Amazon S3或Azure Blob Storage这样的高性能存储解决方案可以满足扩展性和合规性需求，但通常会为高级安全功能或特定区域存储收取额外费用。
组织必须在预算限制下平衡这些要求，持续审视存储策略，以避免支出失控。更不用说培训、问答测试以及花在新发布模型上的时间了。
软件开发与集成
尽管每个其他初创公司可能告诉你的都不一样，但AI实施并非即插即用。至少如果你不想要一个千篇一律的解决方案。因此，定制AI软件以符合特定业务需求需要大量的开发工作。这些工作包括将AI系统集成到现有IT环境中，这通常涉及修改传统系统以确保兼容性。
定制开发不仅需要前期支出，还需要定期更新和优化的费用。同时，您需要培训团队并为新工作流程设计框架。
许多组织低估了在尖端AI算法和功能可靠应用之间构建桥梁所需的时间和专业知识。结果，这导致了开发瓶颈和凝聚力的丧失。
AI模型的运营和合规风险
使用单一的ChatGPT提示比谷歌搜索耗费的能源高出900%，AI贪婪能量的事实不言而喻。更不用说，AI模型需要持续监控和微调以保持有效性。现实世界条件经常变化，如果不加以注意，LLMs容易出现模型漂移。
监控性能、重新训练模型，以及适应新数据集需要持续的运营监督，这会转化为更高的运营支出。如果发布了新的、更好的API会怎样？每个小时都很重要，这可能导致持续测试、基准测试和流程切换的恶性循环。
AI在复杂的法律和伦理环境中运作。确保符合诸如GDPR或HIPAA等数据保护法规，需要彻底的审计和建立健全的治理框架。不遵守可能会导致巨额罚款、声誉受损，甚至法律挑战。
审计、认证以及遵守伦理AI准则经常被视为事后想法，导致以后匆忙和昂贵的实施。积极应对这些要求包括聘用法律和合规专家、进行定期审核，以及实施自动合规工具。
依赖云自动化
云自动化简化了人工智能部署，提供可扩展和灵活的环境，但也引入了隐藏的依赖关系。当然，您可能不必为硬件成本负担，但安全性又如何呢？
与此同时，对云服务依赖严重的组织可能面临控制成本的挑战，特别是采用基于使用指标收费的动态定价模型。过度依赖云自动化而缺乏严格的成本管理可能导致预算超支，因为您不是掌控者。
然而，完全放弃云自动化也不是解决方案。它在资源扩展和与其他IT系统集成方面提供的灵活性对于人工智能采用至关重要。挑战在于优化其使用同时减少财务风险。考虑混合云数据管理的方式，既作为多样化手段，又作为为了安全而稍微朝去中心化的努力。
安全性影响
人工智能系统是网络攻击的有吸引力目标，因为其具有高价值数据和决策能力。因此，保护人工智能应用的安全性需要投资于先进的网络安全工具、渗透测试和持续监控。
重点是——黑客知道你一直在为人工智能提供大量数据，他们毫不犹豫地为社会工程目的使用这些数据。在某些情况下，依赖人工智能的企业需要重新分配更多资金来保护基础设施。同样，对抗性攻击，即恶意行为者操纵人工智能模型，构成一种独特威胁。目前还无法确定如何完全确保充分的保护。
发挥人工智能潜力
人工智能是现代化IT基础设施、推动创新和获得竞争优势的强大工具。然而，它所带来的隐藏成本要求谨慎规划、预算和持续管理。
通过全面应对这些挑战，您可以发挥人工智能的潜力，同时保持财务和运营稳定。更何况，随着我们拥有更强大和更先进的模型，情况只会变得更好。