“Когда эти автономные системы должным образом не управляются и не защищены, это может привести к серьезным последствиям”, — сказала Ритика Гуннар, генеральный менеджер по обработке данных и искусственному интеллекту.
11 декабря 2020 года IBM откроет центр исследований и разработок в области искусственного интеллекта Watson IoT в Мюнхене, Германия. В среду IBM расширила возможности управления и безопасности для корпоративных клиентов. FinkAvenue через Getty Images
Краткое описание:
- IBM расширяет возможности безопасности агентов искусственного интеллекта и управления ими для клиентов, желающих ответственно масштабировать технологию, сообщил в среду поставщик инфраструктуры. Поставщик расширяет интеграцию своего комплексного инструмента watsonx.governance и своего инструмента Guardium AI Security, который используется для защиты моделей, данных и использования искусственного интеллекта. Клиенты смогут проверить соответствие десятку фреймворков, в том числе Закону Европейского союза об искусственном интеллекте. Эти два инструмента также обладают расширенными возможностями, такими как обнаружение новых вариантов использования ИИ для обеспечения наглядности в децентрализованных экосистемах и автоматическое объединение в red teaming.“Агенты ИИ призваны революционизировать производительность предприятия, но сами преимущества агентов ИИ могут также представлять проблему”, — заявила Ритика Гуннар, генеральный менеджер IBM по обработке данных и ИИ, в своем заявлении. “Когда эти автономные системы должным образом не управляются и не защищены, они могут привести к серьезным последствиям”.
Глубокое понимание:
Агенты искусственного интеллекта могут быстро стать катастрофой в сфере кибербезопасности. “Агентный ИИ особенно интересен тем, что он создает ряд проблем, связанных с обеспечением того, чтобы программное обеспечение выполняло действия в контексте запроса пользователя”, — сказал Стив Шмидт, директор по безопасности Amazon, во время конференции на прошлой неделе. “Представьте это в контексте государственной организации, где необходимо принимать решения о классификации, существуют ограничения контроля доступа [и] есть причины, по которым вы можете получить доступ к определенным наборам данных”.
Сегодня организации все еще выясняют, как обеспечить, чтобы Шмидт добавил, что эти инструменты работают “абсолютно правильно каждый раз” и как продемонстрировать это заинтересованным сторонам или регулирующим органам.
Чтобы обеспечить правильное управление, ставки высоки.
Всего через несколько лет, по прогнозам Gartner, компании будут выявлять 1 из 4 нарушений, связанных с использованием агентов. Хотя ИТ-руководители настроены оптимистично в отношении внедрения, они также обеспокоены потенциальными недостатками технологии, поскольку многие хотят, чтобы в инструментах и службах agentic были более надежные функции защиты данных.
Поставщики работают над устранением пробелов в управлении предприятиями. В мартовском выпуске ServiceNow в Йокогаме поставщик агентов рекламировал “встроенное управление и данные, готовые к аудиту”. В мае компания также выпустила диспетчерскую вышку для агентов с искусственным интеллектом, чтобы устранить пробелы в управлении.
IBM заявила, что планирует на следующей неделе сделать доступными оценку рисков при внедрении агентов, журнал аудита агентов и каталог инструментов agentic, в дополнение к обновлениям, представленным в среду. “Будущее искусственного интеллекта зависит от того, насколько хорошо мы обеспечиваем его безопасность сегодня. Внедрение системы безопасности с самого начала имеет важное значение для защиты данных, выполнения обязательств по соблюдению требований и создания прочного доверия”, — говорится в заявлении Суджи Вишвесан, вице-президента IBM по безопасности и продуктам runtime.
