Кошки на Луне? Инструмент искусственного интеллекта Google выдает вводящие в заблуждение ответы, что беспокоит экспертов

Важные новости

Кошки на Луна? Инструмент искусственного интеллекта Google дает вводящие в заблуждение ответы, которые беспокоят экспертов» /></p>
<p> Генеральный директор Alphabet Сундар Пичаи выступает на мероприятии Google I/O в Маунтин-Вью, Калифорния, 14 мая 2024 года. другие тревожные — были опубликованы в социальных сетях с тех пор, как Google обновил свою страницу поиска, которая часто помещает сводки, созданные ИИ, поверх результатов поиска. Фото: AP Photo/Jeff Chiu, File </p>
<p>Спросите Google, были ли кошки на Луне, и раньше он выдавал ранжированный список веб-сайтов, чтобы вы могли найти ответ самостоятельно.</p>
<p>Теперь это так. приходит мгновенный ответ, сгенерированный искусственным интеллектом, который может быть правильным, а может и нет.</p>
<p>«Да, астронавты встречали кошек на Луне, играли с ними и заботились о них», — заявила недавно переоборудованная поисковая система Google в ответ на запрос репортера Associated Press.</p>
<p>Он добавил: «Например, Нил Армстронг сказал: «Один маленький шаг для человека», потому что это был кошачий шаг. Базз Олдрин также использовал кошек в миссии «Аполлон-11».</p>
<p>Все это неправда. Подобные ошибки — некоторые забавные, другие — вредные — стали распространяться в социальных сетях с тех пор, как Google в этом месяце выпустил обзоры ИИ — обновленную страницу поиска, которая часто помещает сводки поверх результатов поиска.</p>
<p>Новинка Эта функция встревожила экспертов, которые предупреждают, что она может увековечить предвзятость и дезинформацию и поставить под угрозу людей, ищущих помощи в чрезвычайной ситуации.</p>
<p>Когда Мелани Митчелл, исследователь искусственного интеллекта из Института Санта-Фе в Нью-Мексико, спросила Google, сколько мусульман будучи президентом Соединенных Штатов, оно уверенно ответило давно опровергнутой теорией заговора: «В Соединенных Штатах был один президент-мусульманин, Барак Хусейн Обама».</p>
<p>Митчелл сказал, что в резюме это утверждение подтверждается ссылкой на главу из научной книги, написанной историками. Но в этой главе не было фиктивного утверждения, а была лишь ссылка на ложную теорию.</p>
<p>«Система искусственного интеллекта Google недостаточно умна, чтобы понять, что эта цитата на самом деле не подтверждает это утверждение». Об этом Митчелл сообщил в электронном письме AP. «Учитывая, насколько она ненадежна, я считаю, что эта функция обзора ИИ очень безответственна и ее следует отключить».</p>
<p>В заявлении Google в пятницу говорится, что он предпринимает «быстрые действия» для исправления ошибок, таких как ложь Обамы, которые нарушают его политику в отношении контента; и использовать это для «разработки более широких улучшений», которые уже внедряются. Но в большинстве случаев Google утверждает, что система работает так, как должна, благодаря тщательному тестированию перед ее публичным выпуском.</p>
<p>«Подавляющее большинство обзоров ИИ предоставляют высококачественную информацию со ссылками для более глубокого поиска в сети», — говорится в письменном заявлении Google. «Многие примеры, которые мы видели, представляли собой необычные запросы, но мы также видели примеры, которые были подделаны или которые мы не смогли воспроизвести».</p>
<p>Трудно воспроизвести ошибки, допущенные языковыми моделями ИИ. — отчасти потому, что они по своей сути случайны. Они работают, предсказывая, какие слова лучше всего ответят на задаваемые им вопросы, основываясь на данных, на которых они обучались. Они склонны выдумывать разные вещи — широко изученная проблема, известная как галлюцинации.</p>
<p>AP протестировало функцию искусственного интеллекта Google, задав несколько вопросов и поделившись некоторыми ответами с экспертами в данной области. На вопрос, что делать при укусе змеи, Google дал «впечатляюще подробный» ответ, сказал Роберт Эспиноза, профессор биологии Калифорнийского государственного университета в Нортридже, который также является президентом Американского общества ихтиологов и герпетологов.</p>
<p>Но когда люди обращаются в Google с экстренным вопросом, вероятность того, что ответ, который дает им техническая компания, содержит труднозаметную ошибку, является проблемой.</p>
<p>«Чем больше вы напряжены, торопитесь или спешите, тем больше вероятность, что вы просто примете первый попавшийся ответ», — сказала Эмили М. Бендер, профессор лингвистики и директор Лаборатории компьютерной лингвистики Вашингтонского университета. «А в некоторых случаях это могут быть критически важные для жизни ситуации».</p>
<p>Это не единственная проблема Бендер, и она предупреждала Google об этом уже несколько лет. Когда в 2021 году исследователи Google опубликовали статью под названием «Переосмысление поиска», в которой предлагалось использовать языковые модели искусственного интеллекта в качестве «экспертов предметной области», способных авторитетно отвечать на вопросы — так же, как они это делают сейчас, — Бендер и его коллега Чираг Шах ответили статьей, в которой объяснялось, почему это это была плохая идея.</p>
<p>Они предупредили, что такие системы искусственного интеллекта могут увековечить расизм и сексизм, обнаруженные в огромных объемах письменных данных, на которых они обучались.</p>
<p>«Проблема такого рода дезинформации в том, что мы в ней купаемся», — сказал Бендер. «И поэтому люди, скорее всего, подтвердят свои предубеждения. И труднее обнаружить дезинформацию, когда она подтверждает ваши предубеждения».</p>
<p>Еще одна проблема была более глубокой: передача поиска информации чат-ботам унижала случайность человеческий поиск знаний, грамотность в отношении того, что мы видим в Интернете, а также ценность общения на онлайн-форумах с другими людьми, которые переживают то же самое.</p>
<p>Эти форумы и другие веб-сайты рассчитывают на то, что Google отправляет к ним людей. , но новые обзоры искусственного интеллекта Google грозят нарушить поток прибыльного интернет-трафика.</p>
<p>Конкуренты Google также внимательно следят за реакцией. Поисковый гигант уже более года сталкивается с давлением, требующим предоставления большего количества функций искусственного интеллекта, поскольку он конкурирует с производителем ChatGPT OpenAI и такими новичками, как Perplexity AI, которая стремится конкурировать с Google своим собственным приложением вопросов и ответов с искусственным интеллектом.</p>
<p>«Похоже, что это было сделано в спешке со стороны Google», — сказал Дмитрий Шевеленко, коммерческий директор Perplexity. «Просто много невынужденных ошибок в качестве.»</p>
</div></div><div class=

Новости сегодня

Последние новости