Компания Gartner прогнозирует, что предприятия, выделяющие ресурсы на укрепление управления, получат на 35% больший рост доходов, чем те, которые этого не делают.
Хунг ЛеХонг, выдающийся вице-президент по аналитике и научный сотрудник Gartner, и Мэри Месальо, выдающийся вице-президент по аналитике Gartner, выступят с вступительным докладом на симпозиуме/Xpo Gartner IT в Орландо, Флорида, в понедельник, 21 октября 2024 г. Разрешение предоставлено Gartner
Компаниям пришлось переосмыслить, как команды снижают риски, поскольку генеративный ИИ становится все более распространенным дополнением к корпоративным технологическим стекам. Лидеры технологий подчеркнули использование работников для проверки сгенерированных результатов и фреймворков для информирования проактивных защитных ограждений.
«Риски реальны», — сказала Авива Литан, выдающийся вице-президент-аналитик Gartner, во время ИТ-симпозиума/Xpo компании в октябре. Но снижение угроз имеет свою цену, сказала она.
К 2026 году Gartner ожидает, что генеративный ИИ вызовет всплеск расходов предприятий более чем на 15% из-за объема ресурсов, необходимых для его обеспечения, от управления доступом до обеспечения соблюдения правил.
Директора по информационным технологиям, вложившие ресурсы в технологию, сталкиваются с проблемами снижения рисков, неясной окупаемости инвестиций и раздувающихся расходов. Решения, которые внушают доверие, контролируют надежность и усиливают безопасность в системах ИИ, распространяются по мере того, как поставщики вступают в игру, чтобы удовлетворить растущий спрос.
Хотя добавление этих поставщиков в разрастающийся список поставщиков корпоративных услуг может привести к росту расходов, Gartner ожидает, что инвестиции окупятся.
Без защитных ограждений организации могут утечь данные через размещенную большую языковую модельную среду, или поставщики могут повторно использовать информацию. Галлюцинации или сгенерированная информация из защищенных авторским правом работ могут подвергнуть бизнес репутационному ущербу или юридическим спорам. Атаки на мгновенные инъекции, API и векторные базы данных также вызывают серьезные опасения.
Несколько поставщиков занимаются каждой категорией риска. Для обнаружения аномалий контента и защиты во время выполнения организации могут обратиться к Holistic AI, Aim Security и Cisco Robust Intelligence, среди других поставщиков и платформ, сказал Литан. Поставщики управления ИИ включают IBM watsonx, Cloudera и Casper Labs, которая теперь известна как Prove AI.
«Это будет стоить денег», сказал Литан. «Но если вы это сделаете, мы думаем, что вы получите выгоду».
Ожидается, что предприятия, которые инвестируют в инструменты для обеспечения конфиденциальности, безопасности и риска ИИ, достигнут на 35% большего роста доходов, чем те, кто воздерживается, согласно данным Gartner. Инвестированные организации также сообщают о более высоком соблюдении нормативных требований и оптимизации затрат.
Укрепление управления
Помимо внедрения безопасных методов внутри компании, руководители технологических подразделений могут использовать внешние сервисы для укрепления методов управления по мере их внедрения.
«Вам нужен способ программно применять ваши практики в масштабе и на скорости, и вы не можете просто использовать людей для этого», — сказал Хунг ЛеХонг, выдающийся вице-президент-аналитик и научный сотрудник Gartner, во время основной сессии конференции. «Вы не можете использовать исключительно методы управления для обеспечения доверия; вам придется использовать технологии».
Согласно данным Gartner, генеративный ИИ уже является наиболее распространенной технологией искусственного интеллекта на предприятии. Хотя большинство все еще выясняют, как управлять технологией. Формирование доверия к инструментам и услугам путем развертывания обязательных передовых практик имеет жизненно важное значение для защиты бизнеса от негабаритных рисков.
«Мы направляем подростковые технологии на проблемы взрослых», — сказала Мэри Месаглио, выдающийся вице-президент-аналитик Gartner, во время мероприятия. «Доверие — это валюта, которую мы недооцениваем».
Добавление инструментов безопасности и улучшения управления может облегчить беспокойство предприятий, но комплексная проверка по-прежнему имеет решающее значение.
«Вы можете быть уверены, что всякий раз, когда возникают проблемы, найдутся предприниматели, которые захотят заработать деньги, решая эти проблемы», — сказал Литан. «Вам необходимо постоянно проверять стороннее программное обеспечение [и] ваши собственные приложения. Вам необходимо постоянно проверять, что они делают то, что говорят».
ИТ-директорам следует продумать требования к бюджетированию для подотчетности ИИ, пересмотреть классификации данных и разрешения и оценить, где необходимы дополнительные услуги для усиления управления.
«Вам по-прежнему нужны все существующие меры управления рисками, многоуровневая безопасность, безопасность конечных точек, сетевая безопасность, но теперь вам нужны конкретные меры, ориентированные на модель и данные», — сказал Литан.
Уточнение: эта статья была обновлена с учетом того, что Casper Labs теперь называется Prove AI.
