Кредит: Unsplash/CC0 Public Domain
К настоящему времени многие из нас, вероятно, знакомы с шумихой вокруг искусственного интеллекта. ИИ сделает художников ненужными! ИИ может проводить лабораторные эксперименты! ИИ положит конец горю!
Даже по этим стандартам последнее заявление генерального директора OpenAI Сэма Альтмана, опубликованное на его личном сайте на этой неделе, кажется на удивление преувеличенным. Мы находимся на пороге «Эпохи интеллекта», заявляет он, подкрепленной «суперинтеллектом», который может появиться всего через «несколько тысяч дней». Новая эра принесет «поразительные триумфы», включая «исправление климата, создание космической колонии и открытие всей физики».
Альтман и его компания, которая пытается привлечь миллиарды от инвесторов и предлагает правительству США беспрецедентно огромные центры обработки данных, одновременно избавляясь от ключевого персонала и отказываясь от своих некоммерческих корней, чтобы дать Альтману долю собственности, могут многое выиграть от шумихи.
Однако, даже оставив в стороне эти мотивы, стоит взглянуть на некоторые предположения, лежащие в основе прогнозов Альтмана. При более внимательном рассмотрении они многое раскрывают о мировоззрении крупнейших сторонников ИИ — и слепых пятнах в их мышлении.
Паровые двигатели для мышления?
Альтман обосновывает свои замечательные прогнозы двухабзацной историей человечества:
«Со временем люди стали гораздо более способными; мы уже сейчас можем делать то, что наши предшественники считали невозможным».
Это история неуклонного прогресса, движущегося в одном направлении, движимого человеческим интеллектом. Совокупные открытия и изобретения науки и техники, — раскрывает Альтман, — привели нас к компьютерному чипу и, неумолимо, к искусственному интеллекту, который проведет нас по оставшейся части пути к будущему. Эта точка зрения во многом обязана футуристическим видениям сингуляристского движения.
Такая история соблазнительно проста. Если человеческий интеллект привел нас к все большим высотам, трудно не сделать вывод, что лучший, более быстрый искусственный интеллект будет двигать прогресс еще дальше и выше.
Это старая мечта. В 1820-х годах, когда Чарльз Бэббидж увидел, как паровые машины произвели революцию в физическом труде человека во время промышленной революции в Англии, он начал представлять себе создание подобных машин для автоматизации умственного труда. «Аналитическая машина» Бэббиджа так и не была построена, но представление о том, что высшее достижение человечества повлечет за собой механизацию самого мышления, сохранилось.
По словам Альтмана, сейчас мы (почти) на этой вершине.
Глубокое обучение сработало — но для чего?
Причина, по которой мы так близки к славному будущему, проста, говорит Альтман: «глубокое обучение сработало».
Глубокое обучение — это особый вид машинного обучения, который включает в себя искусственные нейронные сети, в общих чертах вдохновленные биологическими нервными системами. Оно, безусловно, оказалось на удивление успешным в нескольких областях: глубокое обучение лежит в основе моделей, которые доказали свою способность связывать слова вместе более или менее связными способами, генерировать красивые картинки и видео и даже способствовать решению некоторых научных проблем.
Так что вклад глубокого обучения не тривиален. Он, вероятно, будет иметь значительные социальные и экономические последствия (как положительные, так и отрицательные).
Но глубокое обучение работает только для ограниченного набора проблем. Альтман знает это: «Человечество открыло алгоритм, который может действительно, действительно изучить любое распределение данных (или действительно базовые «правила», которые производят любое распределение данных)».
Вот что делает глубокое обучение — вот как оно работает. Это важно, и это метод, который можно применять в различных областях, но это далеко не единственная существующая проблема.
Не все проблемы сводятся к сопоставлению с образцом. И не все проблемы предоставляют огромные объемы данных, которые требуются глубокому обучению для выполнения своей работы. И человеческий интеллект работает не так.
Большой молоток ищет гвозди
Что здесь интересно, так это тот факт, что Альтман считает, что «правила из данных» так далеко зайдут в решении всех проблем человечества.
Есть поговорка, что человек, держащий молоток, скорее всего, будет видеть во всем гвозди. Теперь Альтман держит большой и очень дорогой молоток.
Глубокое обучение может работать, но только потому, что Альтман и другие начинают переосмысливать (и строить) мир, состоящий из распределений данных. Здесь есть опасность, что ИИ начинает ограничивать, а не расширять виды решения проблем, которые мы делаем.
То, что едва заметно в праздновании Альтманом ИИ, — это расширяющиеся ресурсы, необходимые также для работы глубокого обучения. Мы можем признать большие достижения и замечательные достижения современной медицины, транспорта и связи (и это лишь некоторые из них), не притворяясь, что они не достались значительной ценой.
Они достались ценой как некоторым людям, для которых достижения глобального севера означали убывающую отдачу, так и животным, растениям и экосистемам, безжалостно эксплуатируемым и уничтожаемым добывающей мощью капитализма и технологий.
Хотя Альтман и его друзья-сторонники могут отмахнуться от таких взглядов как от придирок, вопрос затрат лежит в основе прогнозов и опасений по поводу будущего ИИ.
Альтман, безусловно, осознает, что ИИ сталкивается с ограничениями, отмечая, что «нам еще предстоит выяснить множество деталей». Одной из них является быстро растущие затраты энергии на обучение моделей ИИ.
Недавно Microsoft объявила о фонде в 30 миллиардов долларов США для создания центров обработки данных ИИ и генераторов для их питания. Опытный технологический гигант, который инвестировал более 10 миллиардов долларов США в OpenAI, также подписал соглашение с владельцами атомной электростанции Three Mile Island (печально известной своей аварией в 1979 году) о поставках энергии для ИИ. Безумные расходы говорят о том, что в воздухе может витать нотка отчаяния.
Магия или просто магическое мышление?
Учитывая масштабы таких проблем, даже если мы принимаем радужный взгляд Альтмана на прогресс человечества до сих пор, нам, возможно, придется признать, что прошлое может быть ненадежным руководством для будущего. Ресурсы конечны. Пределы достигнуты. Экспоненциальный рост может закончиться.
Самое показательное в посте Альтмана — это не его поспешные прогнозы. Скорее, то, что проявляется, — это его чувство безграничного оптимизма в отношении науки и прогресса.
Это затрудняет представление о том, что Альтман или OpenAI серьезно относятся к недостаткам технологий. Имея так много преимуществ, зачем беспокоиться о нескольких мелких проблемах? Когда ИИ кажется таким близким к триумфу, зачем останавливаться и думать?
То, что сейчас происходит вокруг ИИ, — это не столько «век интеллекта», сколько «век инфляции» — раздувание потребления ресурсов, раздувание оценок компаний и, прежде всего, раздувание обещаний ИИ.
Конечно, некоторые из нас сейчас делают то, что полтора века назад показалось бы магией. Это не значит, что все изменения между тем временем и настоящим были к лучшему.
ИИ обладает выдающимся потенциалом во многих областях, но представлять, что он является ключом к решению всех проблем человечества, — это тоже магическое мышление.
Предоставлено The Conversation
