Защитники свободы прессы призывают Apple отказаться от «незрелой» генеративной системы ИИ, которая неправильно резюмировала новостное уведомление BBC, в котором неверно говорилось, что предполагаемый стрелок генерального директора UnitedHealthcare Луиджи Манджоне покончил с собой.
На этой неделе организация «Репортеры без границ» (RSF) заявила, что скандал с ИИ в Apple, в результате которого было сгенерировано ложное резюме «Луиджи Манджоне застрелился», является еще одним доказательством того, что искусственный интеллект не может надежно предоставлять информацию для общественности. Apple Intelligence, запущенная в Великобритании 11 декабря, потребовалось менее 48 часов, чтобы совершить эту публичную ошибку.
«Эта авария подчеркивает неспособность систем ИИ систематически публиковать качественную информацию, даже если она основана на журналистских источниках», — заявила RSF. «Вероятностный способ работы систем ИИ автоматически дисквалифицирует их как надежную технологию для новостных СМИ, которую можно использовать в решениях, ориентированных на широкую общественность».
Поскольку он не является надежно точным, RSF заявила, что ИИ не следует разрешать использовать для таких целей, и попросила Apple удалить эту функцию из своих операционных систем.
«Факты не могут быть решены путем бросания кубиков», — сказал Винсент Бертье, глава отдела технологий и журналистики RSF. «RSF призывает Apple действовать ответственно, удалив эту функцию.
«Автоматизированное производство ложной информации, приписываемой СМИ, является ударом по авторитету СМИ и опасностью для права общественности на достоверную информацию о текущих событиях», — добавил Бертье.
Неизвестно, планирует ли Apple решать эту проблему и каким образом. BBC подала собственную жалобу, но Apple отказалась публично комментировать этот вопрос британской вещательной компании.
По данным BBC, это, похоже, не первый случай, когда сводки ИИ Apple ложно сообщают новости. Beeb указал на сводку ИИ Apple от ноября, которой поделился репортер ProPublica, который приписал новость об аресте премьер-министра Израиля Биньямина Нетаньяху (чего не было) New York Times, что говорит о том, что Apple Intelligence может быть серийным неверно истолкователем ежедневных заголовков.
Результаты поиска ИИ Google также были обмануты, чтобы вывести мошеннические ссылки, а также призвали пользователей приклеивать сыр к пицце и есть камни.
Бертье заявил: «Европейский закон об ИИ, несмотря на то, что он является самым передовым законодательством в мире в этой области, не классифицирует генерирующие информацию ИИ как системы с высоким уровнем риска, оставляя критический правовой вакуум. Этот пробел необходимо немедленно заполнить».
The Register обратился к Apple, чтобы узнать, что она может сделать для решения проблемы с тем, что ее ИИ делает поспешные выводы о новостях, а также к RSF, чтобы узнать, слышали ли об этом от Apple, но мы не получили ответа ни от кого. ®
