Модель ИИ на устройстве от Apple, получившая название Apple Intelligence, потребует 4 ГБ памяти устройства, а позднее и больше. На данный момент это примерно размер фильма в формате HD.
Компания iBiz объявила о своих требованиях к хранилищу в своей заметке «Введение в Apple Intelligence на iPhone», опубликованной в преддверии публичного выпуска iOS 18.1 в следующем месяце. Именно тогда Apple Intelligence официально появится на iOS (18.1) и macOS (Sequoia 15.1).
Также есть требования к оборудованию: iPhone 16, iPhone 16 Plus, iPhone 16 Pro, iPhone 16 Pro Max, iPhone 15 Pro или iPhone 15 Pro Max. Владельцы моделей iPad и Mac с M1 и более поздними версиями Apple Silicon также получат доступ к службе искусственного интеллекта Apple.
Как iPhone 15 Pro, так и iPhone 16 поставляются с минимальным объемом памяти 128 ГБ.
Эти тестовые бета-версии программного обеспечения Apple сообщили о колебаниях размеров моделей, некоторые из них больше 5 ГБ, а другие около половины этого.
Apple ожидает, что требуемое пространство для хранения будет увеличиваться со временем. «Требования к хранению для моделей Apple Intelligence на устройстве будут увеличиваться по мере развертывания новых функций», — предупреждает компания в сноске.
Но Apple Intelligence не будет общедоступным с выпуском iOS 18.1. Вместо этого он будет предлагаться как бета-сервис, и пользователям придется присоединиться к списку ожидания на несколько часов до активации. После активации сервиса будут загружены различные необходимые модели нейронных сетей. Apple не сообщила, можно ли удалить загруженные модели после установки, хотя, предположительно, у пользователей будет возможность деактивировать сервис.
Apple Foundation Model (AFM) — это генеративная модель с ~3 миллиардами параметров, разработанная для эффективной работы на мобильных устройствах, дополненная большой серверной языковой моделью в инфраструктуре Apple Private Cloud Compute. Также есть диффузионная модель для добавления графики в Messages и модель кодирования в Xcode.
Apple квантует свой AFM на устройстве до 4 бит или меньше, чтобы уменьшить его размер — некоторые слои менее важны и поэтому получают только около 2 бит квантования. «В среднем AFM-на-устройстве можно сжать всего до 3,5 бит на вес (bpw) без значительной потери качества», — объясняют умники Apple в статье, описывающей их работу. «Мы решили использовать 3,7 bpw в производстве, поскольку это уже соответствует требованиям к памяти».
В общем случае, модель параметров 3B занимает около 6 ГБ памяти при 16-битном квантовании, около 3 ГБ при 8-битном и около 1,5 ГБ при 4-битном.
Чтобы сделать свой AFM более гибким, Apple использует «адаптеры», которые корпорация описывает как «небольшие наборы весов моделей, наложенные на общую базовую модель фундамента». Ее система искусственного интеллекта загружает и выгружает их на лету, чтобы обеспечить определенные возможности, такие как реферирование, корректура, ответы на письма и т. д. По словам исследователей Apple, адаптерам требуется около 10 мегабайт каждый.
Изначально возможности Apple Intelligence будут ограничены:
- Инструментами письма
- Очисткой в фотографиях
- Созданием фильма воспоминаний в фотографиях
- Поиском на естественном языке в фотографиях
- Сводками уведомлений
- Фокусировкой на сокращении отвлекающих факторов
- Интеллектуальным прорывом и Silencing in Focus
- Приоритетные сообщения в Mail
- Умный ответ в Mail и сообщениях
- Сводки в Mail и сообщениях
- Улучшения Siri, включая знание продукта, более устойчивую обработку запросов, новый внешний вид, более естественный голос, возможность печатать для Siri и многое другое
Реакции на бета-версии программного обеспечения включают такие термины, как «разочарование» и «так себе», но, возможно, более широкая доступность и расширенные возможности приведут к нескольким привлекательным вариантам использования. ®
