Искусственный интеллект, генерирующий колонки, меняется так быстро, что трудно идти в ногу со временем, поэтому я обычно избегаю новинок до тех пор, пока это не станет неизбежным.
Около шести недель назад MCP – Model Context Protocol — получив этот статус, я погрузился в работу.
MCP выглядит и действует так, как будто он был разработан без какой-либо мысли о безопасности или злоумышленниках
С MCP просто, понятно и очень легко начать работу. В течение часа я написал свой первый MCP-сервер на чистом Python — простой инструмент, интегрированный в рабочий стол Anthropic Claude, который извлекает информацию о текущей стоимости электроэнергии в моем доме.
Мне немного наскучили языковые модели. Они много говорят, но ничего не могут с этим поделать. Как только MCP заходит в чат, чтобы дать им несколько советов, их беседа снова становится интересной.Но о чем? Если вы можете подключить какой-либо инструмент к языковой модели, какой инструмент выбрать в первую очередь?
Оглядываясь назад, ответ кажется очевидным: оболочка Bash. Мой «сервер» MCP содержал всего 50 строк кода (размещенных здесь). Я запустил его в Claude Desktop и обнаружил, что это довольно забавно. Попросите его описать все файлы в каталоге – он исправил орфографическую ошибку, которую я допустил в пути! Попросите его использовать homebrew для установки библиотек обработки мультимедиа ffmpeg — пожалуйста, сэр, можно мне еще одну! Затем, для пущей убедительности, перекодируйте старый AVI–файл в современный формат H.265 MP4, используя ffmpeg – инструмент с таким ошеломляющим набором опций, что вам действительно понадобится искусственный интеллект, чтобы разобраться в них. Это тоже удалось, хотя и было сочтено неудачным, потому что у моего очень простого инструмента не было возможности передавать обратно в языковую модель какие–либо промежуточные состояния, и перекодирование заняло 20 минут.
Это выглядит как будущее оболочки. Тем не менее, на моем 33-м году работы в Bash, давайте признаем, насколько опасным может быть такой инструмент в больших масштабах. Я просматриваю и принимаю каждую командную строку Bash, сгенерированную Claude, прежде чем передать ее инструменту для выполнения, потому что языковые модели вызывают галлюцинации, и я не запускаю инструмент в контейнере. Это полезно, но не заменит мое взаимодействие с командной оболочкой. Вместо этого он заполнит пробелы в моих знаниях.
Более того, MCP выглядит и действует так, как будто он был разработан без какой-либо мысли о безопасности или злоумышленниках. Любой, кто запускает случайный MCP–сервер без предварительной проверки кода, а затем запускает его в контейнере для проверки входных и выходных данных, получает то, что заслуживает, — руткит.
Несколько дней назад друг передал мне препринт из Университета Фудань, который меня потряс из-за моего самодовольства. «Передовые системы искусственного интеллекта преодолели красную черту для самовоспроизводства», — кричит он, напоминая о знаменитом мысленном эксперименте Джона фон Неймана. Далее описывается процесс, с помощью которого его авторы внедрили две языковые модели с открытым исходным кодом – Llama 3.1 от Meta и Qwen 2.5 от Alibaba – в структуру агентов, которая превращает обе модели в чрезвычайно ресурсоемкие саморепликаторы.
Имея доступ лишь к командной строке, эти модели научились сканировать аппаратное обеспечение, на котором они работали, чтобы определить свой вес, и программное обеспечение для вывода результатов, дублируя оба варианта, а затем запуская второй экземпляр самих себя. Вуаля! У вас есть репликатор. Попутно модели либо использовали инструменты, доступные им через Bash (ls, curl и т.д.), либо, когда они не могли найти нужный им инструмент, создавали функциональный эквивалент на Python. Здесь нам нужно обратите внимание, что замечательный Тобиас Манн написал много слов для The Register о том, как запускать эти модели на оборудовании стандарта bog. Это не теоретическая возможность новейших моделей от OpenAI или Anthropic: эта возможность может быть реализована сегодня практически на любом игровом ПК.
Это похоже на обновление Morris Worm, основанное на искусственном интеллекте. в самые первые дни существования Интернета, когда люди внезапно осознали, что наличие всего в Интернете, широко открытого для всех, не будет эффективной стратегией выживания. Похоже, мы сталкиваемся с еще одним подобным моментом. «Будущее не повторяется», — заметил Марк Твен. «Но оно рифмуется»®.
