Актеры Скарлетт Йоханссон (справа) и Хоакин Феникс снялись в фантастическом фильме 2013 года «Она», в котором мужчина влюбляется в помощника ИИ, звучащего по-человечески.
OpenAI заявляет, что обеспокоена тем, что реалистичная голосовая функция для ее искусственного интеллекта может заставить людей привязаться к боту в ущерб человеческому взаимодействию.
Компания из Сан-Франциско сослалась на литературу, которая, по ее словам, указывает на то, что общение с ИИ так же, как с человеком, может привести к необоснованному доверию, а высокое качество голоса GPT-4o может усугубить этот эффект.
«Антропоморфизация подразумевает приписывание нечеловеческим сущностям, таким как модели ИИ, поведения и характеристик, свойственных человеку», — заявила OpenAI в четверг в отчете о работе по обеспечению безопасности, которую она проводит над версией своего ИИ ChatGPT-4o.
«Этот риск может быть повышен из-за аудиовозможностей GPT-4o, которые облегчают более человекоподобное взаимодействие с моделью».
OpenAI заявила, что заметила, что тестировщики разговаривали с ИИ способами, которые намекали на общие связи, например, громко сетовали на то, что это был их последний день вместе.
В отчете говорится, что эти случаи кажутся безобидными, но их необходимо изучить, чтобы увидеть, как они могут развиваться в течение более длительных периодов времени.
Социализация с ИИ также может сделать пользователей менее искусными или склонными к отношениям с людьми, предположила OpenAI.
«Длительное взаимодействие с моделью может повлиять на социальные нормы», — говорится в отчете.
«Например, наши модели почтительны, позволяя пользователям прерывать и «брать микрофон» в любое время, что, хотя и ожидаемо от ИИ, было бы антинормативным в человеческих взаимодействиях».
По данным OpenAI, способность ИИ запоминать детали во время разговора и выполнять задачи также может сделать людей чрезмерно зависимыми от этой технологии.
«Недавние опасения, высказанные OpenAI по поводу потенциальной зависимости от голосового режима ChatGPT, указывают на то, о чем многие уже начали спрашивать: не пора ли остановиться и подумать о том, как эта технология влияет на человеческое взаимодействие и отношения?» — сказал Алон Ямин, соучредитель и генеральный директор платформы обнаружения плагиата на основе ИИ Copyleaks.
Он сказал, что ИИ никогда не должен заменять реальное человеческое взаимодействие.
OpenAI заявила, что продолжит проверку того, как голосовые возможности ее ИИ могут вызывать у людей эмоциональную привязанность.
Команды, тестирующие голосовые возможности ChatGPT-4o, также смогли заставить его повторять ложную информацию и выдвигать теории заговора, что вызвало опасения, что модель ИИ может быть убедительно обучена делать это.
В июне OpenAI была вынуждена извиниться перед актрисой Скарлетт Йоханссон за использование чего-то очень похожего на ее голос в своем последнем чат-боте, что привлекло внимание к технологии клонирования голоса.
Хотя OpenAI отрицала, что использованный ими голос принадлежал Йоханссон, их делу не помогло то, что генеральный директор Сэм Альтман пометил новую модель сообщением из одного слова в социальных сетях — «Она».
Йоханссон озвучила персонажа ИИ в фильме «Она», который Альтман ранее называл своим любимым фильмом об этой технологии.
В фильме 2013 года Хоакин Феникс играет мужчину, который влюбляется в помощницу по имени Саманта.
