Чат-боты с искусственным интеллектом вторгаются в онлайн-сообщества, где люди пытаются общаться с другими людьми.

Важные новости

Чат-боты с искусственным интеллектом вторгаются в онлайн-сообщества, где люди пытаются общаться с другими людьми» /></p>
<p> Фото: Pixabay/CC0 Public Domain </p>
<p>Родитель задал вопрос в частной группе Facebook в апреле 2024 года: Есть ли у кого-нибудь ребенок, который является одновременно одаренным и инвалидом? есть ли опыт работы в государственных школах Нью-Йорка? Родитель получил, казалось бы, полезный ответ, в котором излагались некоторые характеристики конкретной школы, начиная с контекста: «У меня есть ребенок, которому тоже 2e», что означает дважды исключительный.</p>
<p>В группе Facebook для обмена ненужные предметы недалеко от Бостона, пользователь, искавший определенные предметы, получил предложение «использованной в бережном отношении» камеры Canon и «почти нового портативного кондиционера, которым я так и не воспользовался».</p>
<p>Оба эти ответа были ложью. Этого ребенка не существует, как не существует камеры и кондиционера. Ответы пришли от чат-бота с искусственным интеллектом.</p>
<p>Согласно справочной странице Meta, Meta AI ответит на сообщение в группе, если кто-то явно пометит его или если кто-то «задает вопрос в сообщении и нет ответа». отвечают в течение часа». Согласно странице, эта функция пока доступна не во всех регионах и не для всех групп. Для групп, где он доступен, «администраторы могут выключить и снова включить его в любое время».</p>
<p>Мета-ИИ также интегрирован в функции поиска в Facebook и Instagram, и пользователи не могут его отключить.</p>
<p>Как исследователь, изучающий как онлайн-сообщества, так и этику ИИ, я считаю, что идея незваных чат-ботов, отвечающих на вопросы, Группы в Facebook считаются антиутопическими по ряду причин, начиная с того факта, что онлайн-сообщества созданы для людей.</p>
<h2>Человеческие связи</h2>
<p>В 1993 году Говард Рейнгольд опубликовал книгу «Виртуальное сообщество: усадьба на электронном фронтире» о WELL, раннем и культурно значимом онлайн-сообществе. Первая глава начинается с родительского вопроса: что делать с «раздутой кровью штукой, присосавшейся к коже головы нашего ребенка».</p>
<p>Рейнгольд получил ответ от человека, который не понаслышке знал, как бороться с клещами, и решил проблему до того, как ему перезвонили из кабинета педиатра. Об этом опыте он написал: «Что меня поразило, так это не просто скорость, с которой мы получили именно ту информацию, которую нам нужно было знать, именно тогда, когда нам нужно было ее знать. Это было также огромное внутреннее чувство безопасности, которое приходит с обнаружением что настоящие люди — большинство из них родители, некоторые из них медсестры, врачи и акушерки — доступны круглосуточно, если они вам нужны».</p>
<p>Этот аспект онлайн-сообществ, посвященный «настоящим людям», продолжает оставаться решающим и сегодня. Представьте себе, почему вы можете задать вопрос группе Facebook, а не поисковой системе: потому что вы хотите получить ответ от кого-то с реальным, жизненным опытом или вам нужен человеческий ответ, который может вызвать ваш вопрос – сочувствие, возмущение, сочувствие – или и то, и другое. </p>
<p>Десятилетия исследований показывают, что именно человеческий компонент онлайн-сообществ делает их такими ценными как для поиска информации, так и для социальной поддержки. Например, отцы, которые в противном случае могли бы чувствовать себя некомфортно, спрашивая совета по воспитанию детей, нашли убежище в частных онлайн-пространствах только для пап. Молодежь ЛГБТК+ часто присоединяется к онлайн-сообществам, чтобы безопасно находить важные ресурсы и одновременно уменьшить чувство изоляции. Форумы поддержки психического здоровья предоставляют молодым людям чувство принадлежности и признания, а также советы и социальную поддержку.</p>
<p> <iframe class= Интернет-сообщества являются хорошо задокументированными местами поддержки ЛГБТК+ людей. . <р>В дополнение к аналогичным выводам в моей собственной лаборатории, касающимся участников ЛГБТК+ в онлайн-сообществах, а также Black Twitter, еще два недавних исследования, еще не прошедших рецензирование, подчеркнули важность человеческих аспектов поиска информации в онлайн-сообществах.

Один под руководством к.т.н. Студентка Блейкли Пейн рассказывает об опыте полных людей в Интернете. Многие из наших участников нашли спасательный круг в доступе к аудитории и сообществу со схожим опытом, когда они искали и делились информацией по таким темам, как управление враждебными системами здравоохранения, поиск одежды и борьба с культурными предубеждениями и стереотипами.

Другой, под руководством аспиранта Фэй Коллиг, обнаружил, что люди, которые делятся в Интернете контентом о своих хронических заболеваниях, мотивированы чувством общности, которое приходит с общим опытом, а также гуманизирующими аспектами общения с другими людьми для поиска и предоставления помощи. поддержка и информация.

Фальшивые люди

Наиболее важные преимущества этих онлайн-пространств, описанные нашими участниками, могут быть существенно подорваны ответами, исходящими от чат-ботов, а не от людей.

Как диабетик 1 типа, я слежу за рядом связанных групп в Facebook, которые посещают многие родители, впервые решающие проблемы ухода за маленьким ребенком с диабетом. Часто возникают вопросы: «Что это значит?» «Как мне с этим справиться?» «Каков ваш опыт в этом вопросе?» Ответы приходят из личного опыта, но они также обычно приходят с состраданием: «Это сложно». «Ты делаешь все возможное». И, конечно же: «Мы все были там».

Ответ чат-бота, утверждающего, что он говорит на основе живого опыта ухода за ребенком с диабетом и предлагает сочувствие, был бы не только неуместным, но и было бы крайне жестоко.

Тем не менее, вполне логично, что именно такие ответы может предложить чат-бот. Проще говоря, большие языковые модели функционируют больше похоже на автозаполнение, чем на поисковые системы. Для модели, обученной на миллионах и миллионах публикаций и комментариев в группах Facebook, ответ «автозаполнение» на вопрос в сообществе поддержки определенно вызывает личный опыт и вызывает сочувствие — точно так же, как ответ «автозаполнение» в разделе «Купить». Группа Facebook не может предлагать кому-то бережно используемую камеру.

Meta внедрила ИИ-помощника в своих социальных сетях и приложениях для обмена сообщениями.

Держать чат-ботов на своем пути

Это не означает, что чат-боты ни для чего не нужны – они могут даже быть весьма полезны в некоторых интернет-сообществах, в некоторых контексты. Проблема в том, что в разгар нынешнего ажиотажа генеративного искусственного интеллекта существует тенденция думать, что чат-боты могут и должны делать все.

Существует множество недостатков использования больших языковых моделей в качестве систем поиска информации, и эти недостатки указывают на неподходящие контексты для их использования. Недостатком является то, что неправильная информация может быть опасной: например, линия помощи по расстройствам пищевого поведения или юридическая консультация для малого бизнеса.

Исследования указывают на важные соображения относительно того, как и когда разрабатывать и развертывать чат-ботов. Например, в одной недавно опубликованной статье на крупной конференции по взаимодействию человека и компьютера было обнаружено, что, хотя представители ЛГБТК+, лишенные социальной поддержки, иногда обращались к чат-ботам за помощью в решении проблем психического здоровья, эти чат-боты часто не могли уловить нюансы проблем, специфичных для ЛГБТК+.

Другой обнаружил, что, хотя группа участников с аутизмом нашла ценность во взаимодействии с чат-ботом для получения советов по социальному общению, этот чат-бот также давал сомнительные советы. А еще один обнаружил, что, хотя чат-бот был полезен в качестве инструмента предварительной консультации в контексте здравоохранения, пациенты иногда находили выражения сочувствия неискренними или оскорбительными.

Ответственная разработка и внедрение ИИ означает не только аудит таких проблем, как как предвзятость и дезинформацию, но также нужно время, чтобы понять, в каких контекстах ИИ подходит и желателен для людей, которые будут с ним взаимодействовать. Сейчас многие компании используют генеративный искусственный интеллект как молоток, и в результате все выглядит как гвоздь.

Многие контексты, такие как сообщества онлайн-поддержки, лучше оставить людям.

Предоставлено The Conversation

Новости сегодня

Последние новости