Сможет ли общеплатформенный ИИ когда-нибудь стать частью корпоративной безопасности?

Важные новости

Может ли ИИ в масштабах всей платформы когда-либо вписаться в систему безопасности предприятия?

Мнение ИИ – громкое, уверенное и ошибочное. Речь не идет о способности генеративного ИИ галлюцинировать, хотя почему бы и нет? Скорее, речь идет об общей картине, об общеплатформенном отзыве от Microsoft и, о боже, Apple Intelligence.

Обе компании, похоже, немного раздражены тем, что не всем нравится идея наблюдения со стороны робота-интервенциониста. Microsoft сильно отреагировала на Recall, а Илон Маск просто ненавидит Apple. Это от человека, который хочет вставить нам чипы в головы. На этот раз, да поможет нам Бог, возможно, он прав.

Эта версия искусственного интеллекта на платформе просто не может вписаться в предприятие. Здесь обработка данных других людей строго регулируется, по крайней мере, в ЕС и для тех, кто обрабатывает данные, полученные из ЕС. Должны быть продемонстрированы компетентность и соответствие требованиям. Передовой опыт разработки и протоколы, соответствующие отраслевым стандартам, являются в порядке вещей.

Это тяжелая и дорогая работа, которая слишком часто отстает от угроз, но при этом имеет сплоченность. Шифрование данных в процессе передачи и хранения, серверов, приложений управления и конечных точек, защищенных хорошо продуманными стеками в защищенной памяти, — это основа, на которой строится работоспособная безопасность.

Если бы только людей можно было создать инженерно. На данный момент не разработано обновление, позволяющее людям напрямую обрабатывать или получать зашифрованные данные. В тот момент, когда он входит в глазное яблоко или покидает палец, он должен быть на свободе и так же уязвим для зла, как дрожащая полевка, выловленная из норы суровым взглядом хищника. Многие атаки в истории были успешными благодаря несанкционированному использованию клавиатуры или удаленному шпионажу за мониторами и другими конечными точками.

Эту аналоговую дыру в конечном итоге невозможно отключить, но ее можно свести к минимуму. Людям могут быть нужны данные в чистом виде, но они также нуждаются в них в небольших порциях. Утечка в конечной точке была и всегда будет проблемой, но в основном это касается людей. ИИ в масштабах всей платформы меняет это уравнение так, как никто не предвидел.

Вы можете определить и спроектировать все, с чем соприкасаются ваши защищенные данные, внутри ваших систем, а там, где они должны перемещаться наружу, вы можете обернуть их в надежную криптографию, если хотите. хотите применить аналитику.

Ничто из этого не идеально. Атаки со стороны поставщиков, неправильные конфигурации и фальсифицированные обновления — это детали, которые порадуют любого дьявола. Это по-прежнему хорошо продуманная, компетентная и оправданная практика.

Теперь добавьте ИИ для всей платформы. У него две работы. Один из них — притворяться человеком по отношению к приложениям, поглощая данные в том виде, в котором они доступны. Другая задача — казаться пользователю сверхчеловеческим, волшебным образом синтезируя предложения и идеи, беря бразды правления в свои руки при обработке массивных данных. Обработка больших объемов данных означает большие объемы данных, и чем их больше, тем лучше.

Это не очень хорошо сочетается с безопасным стеком. В принципе и на практике это ненасытный потребитель данных, невидимый для приложений, которые их получают, в сочетании с аналитическим механизмом, который делает вещи, которые могут быть непредсказуемыми и непостижимыми, и время от времени выбрасывает неизвестно что на секрет. облако. Ожидается, что вы продемонстрируете согласие с этим монстром, рыщущим по платформе? В аналоговой дыре нет настроек безопасности для каждого процесса.

Неважно, насколько поставщики заявляют, что их ИИ безопасен, что почти все обрабатывается на устройстве, и только анонимные, зашифрованные данные будут поступать на ой-какие безопасные облачные устройства, которые забудут все за микросекунды. ИИ всей платформы размазан, как мед, по верхушке стека, и у нас есть только их слова о том, что он защищен от муравьев.

Даже если бы все было совершенно правдиво, вы можете этого не захотеть. Возможно, вы не хотите, чтобы интенсивная обработка данных на устройстве съедала вашу энергию и тактовые циклы. Возможно, вы не захотите писать отчет о соответствии, который сводится к тому, чтобы полагаться на маркетинговые заявления о новой и непроверенной технологии, которая использовалась в качестве оружия, например, фотонных торпед, в последней большой технологической войне. Возможно, вы захотите сохранить контроль.

Как бы вы ни рисовали диаграмму, вы не сможете. Microsoft, возможно, сделала подписку на Recall вместо отказа — о чем вы, ребята, подумали? – но технология все еще ждет своего часа, они хотят, чтобы вы ее использовали, и не говорите мне, что вы никогда не видели, чтобы обновление таинственным образом повторно включало функцию, которая, как вы думали, находилась на глубине шести футов.

Сейчас в стеке безопасности просто нет места для предлагаемого общеплатформенного ИИ. ИИ может и, надеюсь, должен иметь место в сфере безопасности, но только тогда, когда его работа определена, его доступ полностью контролируется, а его конструкция и поведение явно безопасны.

Это само собой разумеется, потому что уже было сказано на протяжении стольких десятилетий, что если вам нужна платформа, которая не находится в плену самых худших побуждений многомиллиардных азартных игр, то FOSS для вас. Безопасность предприятия — это знания и контроль. ИИ в масштабах всей платформы не дает ни того, ни другого, но есть путь, который дает и то, и другое. ®

Новости сегодня

Последние новости