Если вы не жили под камнем, нельзя отрицать, насколько ИИ проник в организации—35% компаний уже разработали рабочие процессы на основе ИИ, если не автоматизировали полностью аспекты своего бизнеса.
Однако ИТ-инфраструктуры—это другая история. Несмотря на обещание трансформационных возможностей, ИИ также можно считать чем-то вроде ящика Пандоры.
Под поверхностью этой инновации скрывается сложная сеть скрытых затрат, которые часто остаются незамеченными, пока не начинают влиять на бюджеты и операции. Организациям необходимо справляться с этими затратами, чтобы достичь сбалансированного подхода между инновациями и финансовой устойчивостью. Давайте посмотрим, насколько реальным является ИИ.
Инвестиции в инфраструктуру и оборудование
Нагрузки ИИ требуют огромной вычислительной мощности, часто превышающей возможности стандартной ИТ-инфраструктуры. Это особенно верно для многоагентных, передовых моделей от Microsoft и OpenAI, но большинство таких решений не предназначены для средних организаций.
С учетом того, что OpenAI выпустила подписку за $200 в месяц, становится все более очевидным, что полагаться на сторонние компании не так финансово разумно, как считалось изначально. Так что же, в таком случае, является альтернативой?
Один из вариантов для компаний – арендовать хостинг серверов с GPU в дата-центрах и переложить на них свою AI инфраструктуру. Это своеобразное “золотое среднее” между сторонними инструментами и полностью локальным решением. Однако это все еще означает, что сторонний предприниматель несет хотя бы часть ответственности. Что насчет полной локализации?
Один Nvidia H100 обойдется вам примерно в $28,000, в то время как сервер с 8 GPU H200 стоит более $250,000.
Не говоря уже о том, что вам понадобятся продвинутые системы охлаждения для управления значительным тепловыделением, и эти системы могут составлять существенную часть операционных расходов. Улучшенные блоки питания и расширенное физическое пространство – иногда требующие полностью новых объектов дата-центров – увеличивают финансовую нагрузку.
Помимо прямых затрат, необходимо также учитывать простои или задержки на этапе интеграции, что также отрицательно сказывается на производительности и бюджетах. Совокупная стоимость этих обновлений часто превышает начальные бюджетные прогнозы, создавая долгосрочные финансовые обязательства, которые необходимо тщательно управлять. И это только часть, касающаяся оборудования.
Стоимость сбора и управления данными
После создания правильной инфраструктуры настало время обучить и настроить модели, которые вы будете использовать. Для обучения моделей искусственного интеллекта требуется огромное количество данных, часто получаемых как из внутренних систем, так и от сторонних поставщиков. Хотя стоимость приобретения собственных наборов данных ничтожна, расходы, связанные с аннотированием данных, их структурированием и хранением часто недооцениваются.
Неструктурированные или низкокачественные данные могут привести к неэффективности и ошибкам в обучении искусственного интеллекта, что требует вложений в команды по работе с данными или инструменты для подготовки наборов данных. Вы можете использовать инструменты для обработки данных, такие как Trifacta или Alteryx, чтобы упростить процесс, автоматизируя повторяющиеся задачи по очистке.
Однако эти инструменты поставляются с платежными лицензиями и требуют наличия опытных операторов для максимизации их полезности. Кроме того, вы можете рассмотреть возможность использования платформ, специализированных на машинном обучении, таких как Databricks для эффективного управления и структурирования данных, но затраты все равно остаются.
По мере роста объема данных увеличиваются расходы на хранение, особенно когда требования по соответствию предписывают долгосрочное хранение или использование определенных форматов. Высокопроизводительные решения для хранения данных, такие как Amazon S3 или Azure Blob Storage, могут удовлетворить потребности в масштабируемости и соответствии, но они часто взимают дополнительные платежи за продвинутые функции безопасности или хранение в регионе.
Организации должны сбалансировать эти требования с ограничениями бюджета, постоянно пересматривая стратегии хранения, чтобы избежать необоснованных расходов. Не говоря уже о обучении, тестировании Q&A и времени, затраченном на работу с только что выпущенными моделями.
Разработка и интеграция программного обеспечения
Несмотря на то, что могут вам рассказывать представители каждого другого стартапа, внедрение искусственного интеллекта не является простой задачей. По крайней мере, если вы не хотите стандартного решения. Поэтому настройка программного обеспечения на основе искусственного интеллекта в соответствии с конкретными бизнес-потребностями требует значительных усилий разработки. Эти усилия включают интеграцию систем искусственного интеллекта с существующими ИТ-окружениями, что часто включает модификацию устаревших систем для обеспечения совместимости.
Индивидуальная разработка влечет не только первоначальные расходы, но также повторяющиеся затраты на обновления и оптимизацию. В то же время вам потребуется обучить команду и разработать рамки для новых рабочих процессов.
Многие организации недооценивают время и экспертизу, необходимые для преодоления разрыва между передовыми алгоритмами искусственного интеллекта и функциональными, надежными приложениями. В результате это приводит к заторам в разработке и потере когерентности.
Операционные и риски соблюдения правил моделей искусственного интеллекта
С одним единственным запросом ChatGPT, потребляющим на 900% больше энергии, чем поиск в Google, не секрет, что искусственный интеллект жаждет энергии. Кроме того, модели искусственного интеллекта требуют постоянного мониторинга и тонкой настройки для поддержания эффективности. Реальные условия часто меняются, что делает LLM подверженными дрейфу модели, если их не следить.
Мониторинг производительности, переобучение моделей и адаптация к новым наборам данных требуют непрерывного операционного контроля, что приводит к увеличению операционных расходов. Что если выходит новый, лучший API? Каждый час имеет значение, что может привести к зловещему циклу постоянного тестирования, сравнения и переключения процессов.
Искусственный интеллект функционирует в сложном юридическом и этическом пространстве. Обеспечение соблюдения требований по защите данных, таких как GDPR или HIPAA, требует тщательных проверок и создания надежных управляющих структур. Несоблюдение может привести к значительным штрафам, ущербу репутации или даже юридическим вызовам.
Проверки, сертификации и соблюдение этических руководящих принципов по искусственному интеллекту часто рассматриваются как после мыслей, что ведет к спешным и дорогостоящим внедрениям позже. Проактивное реагирование на эти требования включает в себя найм юридических и экспертов по соблюдению, проведение регулярных проверок и внедрение средств автоматизированного соблюдения.
Зависимость от облачной автоматизации
Хотя автоматизация в облаке упрощает развертывание ИИ, предоставляя масштабируемые и гибкие среды, она вводит скрытые зависимости. Конечно, вы можете не испытывать бремени затрат на оборудование, но как насчет безопасности?
В то же время организации, сильно полагающиеся на облачные услуги, могут столкнуться с трудностями в контроле затрат, особенно с динамическими ценовыми моделями, которые берут плату на основе метрик использования. Чрезмерная зависимость от автоматизации в облаке без строгого управления затратами может привести к превышению бюджета, так как вы не управляете процессом.
Тем не менее, полностью отказываться от автоматизации в облаке не является решением. Гибкость, которую она предлагает в масштабировании ресурсов и интеграции с другими ИТ-системами, остается бесценной для внедрения ИИ. Проблема заключается в оптимизации ее использования при снижении финансовых рисков. Рассматривайте это в контексте управления данными в гибридном облаке, как средство диверсификации и небольших усилий в сторону децентрализации ради безопасности.
Безопасностные аспекты
Системы ИИ являются привлекательными целями для кибератак из-за их ценных данных и возможностей принятия решений. В результате поддержание безопасности ИИ-приложений требует инвестиций в современные инструменты кибербезопасности, тестирование на проникновение и непрерывный мониторинг.
Дело в том, что хакеры знают, что вы подаёте значительное количество данных искусственному интеллекту, и не стесняются использовать их сами в социальных целях. В некоторых случаях компаниям, активно использующим искусственный интеллект, приходится перераспределять больше средств для обеспечения безопасности инфраструктуры. Точно так же враждебные атаки, когда злоумышленники манипулируют моделями искусственного интеллекта, представляют уникальную угрозу. Пока нет никакой гарантии, как обеспечить полноценную защиту.
Максимальное использование потенциала искусственного интеллекта
Искусственный интеллект – мощный инструмент для модернизации ИТ-инфраструктур, стимулирования инноваций и достижения конкурентных преимуществ. Однако его скрытые затраты требуют тщательного планирования, бюджетирования и постоянного управления.
Решая эти проблемы комплексно, вы можете использовать потенциал искусственного интеллекта, сохраняя финансовую и операционную стабильность. Не говоря уже о том, что ситуация будет только улучшаться с появлением более мощных и продвинутых моделей.