Несмотря на шумиху, эта технология часто не является самым экономически эффективным, надежным или действенным инструментом для предприятий, считает Рита Саллам из Gartner.
Приложения для инструментов генеративного ИИ, включая ChatGPT, Gemini и Copilot, изображены на Apple iPhone 22 августа 2024 года в Торонто, Канада. Слабые стороны генеративного ИИ, в том числе недостаточная надежность, склонность к галлюцинациям и ограниченное рассуждение, могут свести на нет многие идеи вариантов использования, сказала Рита Саллам из Gartner. Кеннет Чунг через Getty Images
Предприятия оптимистично настроены относительно потенциала генеративного ИИ и планируют вложить больше ресурсов в инициативы и начать общекорпоративные изменения вокруг его принятия.
Менее чем через два года после выпуска ChatGPT от OpenAI генеративный ИИ уже является наиболее распространенным применением искусственного интеллекта, согласно исследованию Gartner.
«Мы действительно должны помочь нашим командам, нашим коллегам по бизнесу, нашим руководителям, которые как бы охвачены шумихой, понять, где это действительно полезно, а где другие вещи могут быть лучше», — сказала Рита Саллам, выдающийся вице-президент по аналитике и научный сотрудник Gartner в группе данных и аналитики, на ИТ-симпозиуме/Xpo компании на прошлой неделе. «Мы действительно должны поддерживать организацию в том, когда это имеет смысл».
ИТ-директора должны четко сообщать и объяснять, когда технология является эффективным решением, а когда лучше попробовать другие варианты, например, графы знаний или обучение с подкреплением. В конце концов, организации полагаются на опыт лидеров в области технологий, чтобы избежать дорогостоящих ошибок.
Неудачные технологические проекты могут нанести ущерб репутации организации, отношениям с клиентами и прибыли. Организации, которые внедрили ИИ в 2023 году, потратили от 300 000 до 2,9 млн долларов на этапе проверки концепции, а многие эксперименты с генеративным ИИ так и не вышли за рамки начальной стадии, согласно исследованию Gartner.
Саллам сказал, что генеративный ИИ, как правило, не является лучшим инструментом для предприятий для:
- Планирования и оптимизации
- Прогнозирования и прогнозирования
- Принятия критически важных решений
- Запуска автономных систем
Предприятия полны потенциальных вариантов использования, но выбор тех, которые принесут наибольшую ценность и наименьший риск, является ключевым.
Слабые стороны генеративного ИИ — включая недостаточную надежность, склонность к галлюцинациям и ограниченное рассуждение — могут свести на нет многие идеи вариантов использования, сказал Саллам. Лидеры технологий могут обратиться к другим формам искусственного интеллекта, включая предиктивное машинное обучение, системы на основе правил и другие методы оптимизации, для достижения лучших результатов.
Большие языковые модели испытывают трудности с выполнением точных вычислений, что затрудняет использование генеративного ИИ для таких случаев использования, как маркетинговое распределение или оптимизация маршрутов, по словам Саллама. Вместо этого ИТ-директора могут использовать графы знаний и составной ИИ, определяемый как комбинация методов ИИ. Необходимые ограждения, необходимые для обеспечения ответственного, безопасного использования технологии, могут помешать экспериментам, таким как автоматическая торговля и агенты. Обучение с подкреплением было бы лучшим путем, сказал Саллам.
Неправильное место, неправильная задача
Генеративный ИИ процветает в создании контента, обнаружении знаний и диалоговых пользовательских интерфейсах. Это стимулировало бесчисленное множество решений, ориентированных на текст и кодирование, системы вопросов и ответов, управление знаниями и виртуальных помощников.
Предприятия были соблазнены. Согласно опросу Capgemini, опубликованному в июле, всего 6% организаций отложили инвестиции в генеративный ИИ.
«Не поймите меня неправильно, я думаю, что потенциал огромен», — сказал Саллам. Но шумиха подтолкнула лидеров к чрезмерному сосредоточению и потенциально чрезмерному инвестированию в генеративный ИИ за счет предприятия, по словам Саллама.
«Эта шумиха опасна», — сказал Саллам. «Организации, которые сосредоточены исключительно на генеративном ИИ, рискуют потерпеть неудачу в своих проектах ИИ и упустить множество важных возможностей, поэтому мы хотим убедиться, что шумиха вокруг генеративного ИИ не вытеснит кислород из комнаты».
Например, поставщики недавно сделали акцент на агентах на базе ИИ с автономными возможностями. Slack и SAP в последние недели анонсировали возможности агентов в существующих решениях. Salesforce перевела свою платформу Agentforce в общедоступную версию на этой неделе. Microsoft планирует добавить агентов в Copilot Studio в следующем месяце.
«Сейчас мы почти не слышим, чтобы они говорили о вторых пилотах», — сказал Саллам. «Они перешли на агентов, и это определенно многообещающе… но реальность сейчас такова, что это все еще в процессе. Вам все равно нужно быть осторожным».
ИТ-директора должны учитывать, как автономные возможности вписываются в рамки управления и управления рисками, особенно с учетом того, что предприятия подчеркивают важность человеческого контроля и вмешательства. Саллам сказал, что такие методы, как обучение с подкреплением, являются альтернативой для поддержки автономных систем.
Лидеры в области технологий также должны призывать к осторожности в отношении вариантов использования, которые могут привести к риску, основанному на предвзятости. Системы на основе правил и композитный ИИ предлагают более надежный вариант, сказал Саллам. Внедрение генеративного ИИ в критические решения, связанные с наймом или распределением кредитов, может стать рецептом катастрофы.
«Вы не захотите оставлять это на усмотрение вашей большой языковой модели», — сказал Саллам.
