もし岩の下で暮らしていない限り、AIが組織に浸透している程度を認めないことはできません。すでに35％の企業がAIベースのワークフローを開発し、業務の一部を完全に自動化しています。
ただし、ITインフラストラクチャは異なるものです。変革の可能性を約束する一方で、AIはある種のパンドラの箱と見なされることもあります。
この革新の表面の下には、予算と業務に影響を与えるまで気付かれない複雑な隠れたコストの複雑なウェブがあります。組織は、革新と財務の持続可能性の間にバランスを取るためにこれらのコストを乗り越えなければなりません。AIが実際にどの程度実現可能か見てみましょう。
インフラストラクチャとハードウェアの投資
AIワークロードは、しばしば標準的なITインフラストラクチャの能力を超える膨大な計算能力を要求します。これは、マイクロソフトやOpenAIのマルチエージェント、最先端のモデルに特に当てはまりますが、ほとんどのこのようなソリューションは一般的な組織向けではありません。
OpenAIが$200/月のサブスクリプション層をリリースしたことにより、サードパーティに頼ることが最初に考えたほど財政的に賢明ではないことがますます明らかになっています。では、代替策は何でしょうか？
会社がAIインフラストラクチャをオフロードするためにデータセンターでホストされたGPUサーバーをレンタルすることは1つの選択肢です。これはサードパーティのツールと完全にオンサイトに移行することの間の「ベストスイートスポット」です。それでも、これは少なくとも一部の責任をサードパーティが負うことを意味します。完全にローカルに移行するとどうなるのでしょうか？
Nvidia H100の購入価格は約28,000ドルであり、8つのH200 GPUを含むサーバーは25万ドル以上です。
また、膨大な熱量を管理するために高度な冷却システムが必要であり、これらのシステムだけでも大部分の運用費用を占めることができます。アップグレードされた電源装置と拡張された物理スペース-場合によっては完全に新しいデータセンター施設が必要になることもあり、財政的負担が増加します。
これらの直接的なコストに加えて、統合フェーズ中のダウンタイムや遅延も考慮する必要があり、生産性と予算に影響を与えます。これらのアップグレードの累積コストは、初期の予算予測を超えることがあり、慎重に管理する必要がある長期的な財政的負担を作り出します。そして、それはハードウェアの部分にすぎません。
データの取得と管理のコストも考慮する必要があります。
適切なインフラストラクチャが整ったら、使用するモデルのトレーニングと微調整を行う時間です。 AIモデルのトレーニングには、通常、内部システムと第三者プロバイダから収集される膨大な量のデータが必要です。所有権データセットの取得コストは微小ですが、データの注釈付け、構造化、および保存に関連する費用は、しばしば過小評価されています。
非構造化または品質の低いデータは、AIトレーニングの非効率性やエラーを引き起こし、データエンジニアリングチームまたはツールへの投資が必要になる場合があります。 TrifactaやAlteryxなどのデータ整形ツールを使用して、繰り返しクリーニングタスクを自動化することで、プロセスを効率化できます。
ただし、これらのツールにはライセンス料がかかり、最大限の効用を発揮するには熟練したオペレータが必要です。さらに、DatabricksのようなML特化のプラットフォームを活用して、データの管理と構造化を効率的に行うこともできますが、コストはかかります。
データセットが成長するにつれて、ストレージコストが上昇します。特定の形式や長期間の保持がコンプライアンス規制で必要な場合、Amazon S3やAzure Blob Storageなどの高性能ストレージソリューションがスケーラビリティとコンプライアンスのニーズに対応できますが、高度なセキュリティ機能や地域固有のストレージに対してプレミアムを請求する場合があります。
組織は、予算の制約とバランスを取りながら、費用の暴走を避けるためにストレージ戦略を継続的に見直す必要があります。トレーニング、Q&A テスト、新しくリリースされたモデルをいじる時間については触れるまでもありません。
ソフトウェア開発と統合
他のスタートアップが言おうとすることに反して、AI の実装はプラグアンドプレイではありません。少なくとも、クッキーカッターのソリューションを望まないのであれば。したがって、特定のビジネスニーズに合わせて AI ソフトウェアをカスタマイズするには、かなりの開発作業が必要です。これらの作業には、既存の IT 環境と AI システムを統合することが含まれます。これは、互換性を確保するためにレガシーシステムを変更することをしばしば意味します。
カスタム開発には、前払い費用だけでなく、更新と最適化のための定期的なコストも発生します。同時に、チームのトレーニングや新しいワークフローのためのフレームワークの設計が必要になります。
多くの組織は、最先端の AI アルゴリズムと機能的で信頼性のあるアプリケーションとの間のギャップを埋めるために必要な時間と専門知識を過小評価しています。その結果、開発のボトルネックや結束の喪失につながります。
AI モデルの運用上のリスクとコンプライアンスのリスク
Google検索よりも900％エネルギーを消費する単一のChatGPTプロンプトで、AIがエネルギーを多く必要とすることは秘密ではありません。また、AIモデルは効果的であり続けるために継続的な監視と微調整が必要です。現実世界の状況はしばしば変化し、放置されるとLLMはモデルのドリフトに影響を受けやすくなります。
パフォーマンスの監視、モデルの再トレーニング、新しいデータセットへの適応は継続的な運用監視を要求し、これはより高い運用支出につながります。もし新しくより良いAPIがリリースされたらどうでしょう？時間が重要であり、これは継続的なテスト、ベンチマーク、プロセスの切り替えの悪循環につながる可能性があります。
AIは複雑な法的および倫理的な環境の中で運用されています。GDPRやHIPAAなどのデータ保護規制への遵守は、徹底的な監査と堅固なガバナンスフレームワークの確立を必要とします。遵守しないと、高額な罰金、評判の損傷、または法的な課題に直面する可能性があります。
監査、認証、倫理的AIガイドラインへの遵守はしばしば後回しにされ、後で急いで高額な実装につながります。これらの要件に前向きに対処するには、法的およびコンプライアンスの専門家の雇用、定期的なレビューの実施、および自動化されたコンプライアンスツールの導入が必要です。
クラウド自動化への依存
クラウド自動化は、スケーラブルで柔軟な環境を提供することでAIの展開を簡素化しますが、隠れた依存関係を導入します。確かに、ハードウェアコストに悩まされることはないかもしれませんが、セキュリティはどうでしょうか？
同時に、クラウドサービスに大きく依存している組織は、特に使用メトリックに基づいて課金される動的価格モデルにおいてコスト管理に苦労する可能性があります。厳格なコスト管理なしにクラウド自動化に過度に依存すると、予算の超過につながる可能性があります。なぜなら、あなたがコントロールしているわけではないからです。
しかし、クラウド自動化を完全に放棄することは解決策ではありません。それが提供するリソースのスケーリングや他のITシステムとの統合の柔軟性は、AIの採用にとって非常に重要です。課題は、その使用を最適化しながら財務リスクを軽減することです。ハイブリッドクラウドデータ管理のように考えてみてください。多様化の手段として、またセキュリティのための分散化へのわずかな努力としてです。
セキュリティの影響
AIシステムは、高価なデータと意思決定能力によりサイバー攻撃の魅力的なターゲットです。その結果、AIアプリケーションのセキュリティを維持するには、高度なサイバーセキュリティツール、ペネトレーションテスト、そして継続的な監視への投資が必要です。
ポイントは、ハッカーたちはあなたがAIに大量のデータを与えていることを知っており、社会工作目的でそれを使用することを恥ずかしく思っていないことです。AIに重点を置いたビジネスでは、インフラストラクチャをより安全にするためにより多くの資金を再配分する必要があります。同様に、悪意のある行為者がAIモデルを操作する敵対的攻撃は、ユニークな脅威を示しています。適切な保護を完全に確立する方法はまだわかっていません。
AIの潜在能力を活用する
AIは、ITインフラの近代化、イノベーションの推進、競争優位性の獲得に強力なツールです。しかし、その隠れたコストは、注意深い計画、予算編成、継続的な管理を必要とします。
これらの課題に包括的に対処することで、財務的および操作的な安定性を維持しながら、AIの潜在能力を活用できます。言うまでもなく、より強力で高度なモデルが登場するにつれて、状況はさらに改善されるでしょう。