FTC выполнила свое обещание пресечь предполагаемые мошеннические заявления об ИИ, объявив о судебном иске против пяти компаний, обвиняемых во лжи о возможностях своего программного обеспечения или использовании его для нарушения закона.
Два дела уже урегулированы. Остальные три решили передать дело в суд, сообщил американский регулятор. Все пять стали объектом внимания потребительского надзорного органа в его так называемой операции «Соответствие ИИ».
Те три организации, которые хотят довести это дело до суда — Ascend Ecom, Ecommerce Empire Builders и FBA Machine — были обвинены в предложении некоторой вариации схемы, которая обещала клиентам высокие доходы в обмен на создание и управление интернет-магазином, использующим их ИИ. В каждом случае, как заявила FTC, претензии были незаконно ложными, и жертвы потеряли миллионы после оплаты инвентаря, обучения и использования готовых магазинов электронной коммерции в надежде на прибыль, которая так и не материализовалась.
Ascend Ecom, Ecommerce Empire Builders и FBA Machine имеют судебные постановления против них, останавливающие их деятельность, в то время как разбирательства против них продолжаются.
«Использование инструментов ИИ для обмана, введения в заблуждение или мошенничества людей является незаконным», — заявила на этой неделе руководитель FTC Лина Хан.
«Принудительные меры FTC ясно показывают, что в законах нет исключений для ИИ», — добавила она. «Пресекая несправедливые или обманные практики на этих рынках, FTC гарантирует, что честные предприятия и новаторы получат справедливый шанс, а потребители будут защищены».
Робот-юрист оштрафован, а не отстранен, потому что это не настоящий юрист
Из двух организаций, урегулировавших свои дела с FTC, вы, возможно, узнаете одну из них: DoNotPay, которая в начале прошлого года отменила планы использовать ИИ для защиты человека в суде после того, как генеральному директору организации пригрозили тюрьмой за юридическую практику в Калифорнии без лицензии.
Через несколько месяцев после этого трюка на DoNotPay подал в суд клиент, который утверждал, что робот-юрист не является «роботом, юристом или юридической фирмой», и что его услуги в целом являются мусором, при этом сроки выполнения заказов слишком велики, документы доставляются не в полном объеме, а одному человеку непреднамеренно пришлось заплатить штраф, с которым он пытался бороться с помощью ИИ.
В целом, к такому же выводу пришла и Федеральная торговая комиссия, заявив, что DoNotPay не может выполнить свои обещания по созданию документов или подаче исков без адвоката, поскольку «не провела тестирование, чтобы определить, соответствует ли вывод ее чат-бота на основе ИИ уровню юриста-человека, и что сама компания не нанимала и не удерживала никаких адвокатов».
Официально оштрафован робот-робозвонок Байдена на основе ИИ
Стив Крамер, человек, стоящий за серией незаконных звонков с использованием искусственного интеллекта, выдававших себя за президента США Джо Байдена во время президентских выборов в Нью-Гемпшире, был официально оштрафован Федеральной комиссией по связи на 6 миллионов долларов за свои труды.
Орган по контролю за коммуникациями наложил штраф в соответствии с Законом о защите прав потребителей телефонных услуг, который, как он подтвердил ранее в этом году, дает ему право преследовать любого, кто использует голоса, сгенерированные искусственным интеллектом, во время звонков с использованием искусственного интеллекта.
У Крамера, которому в мае было предъявлено обвинение, есть 30 дней, чтобы раскошелиться наличными, иначе его передадут в Министерство юстиции для взыскания. Обвинения в штате Нью-Гэмпшир и гражданский иск от получателей звонков против Крамера продолжаются.
«Злоупотребление этой технологией недопустимо», — сказал Лоян Эгал, глава бюро по обеспечению соблюдения правил Федеральной комиссии по связи.
DoNotPay урегулировала вопрос с FTC на сумму 193 000 долларов, пообещав разослать письма всем клиентам, которые будут пользоваться сервисом в период с 2021 по 2023 год, чтобы предупредить их об ограничениях сервиса, а также пообещав прекратить рекламировать свои услуги в качестве замены юридической помощи без доказательств.
Компания сообщила The Register, что рада урегулировать вопрос с FTC, заявив нам, что не признала никаких нарушений, сделав это.
«Жалоба касается использования сервиса несколькими сотнями клиентов несколько лет назад (из миллионов людей) с услугами, которые давно были прекращены», — сообщил нам представитель DoNotPay.
Комиссии разделились по вопросу автора отзывов об ИИ
В то время как четыре случая в объявлении FTC были решены без возражений со стороны комиссаров регулятора, руководство разделилось по вопросу Rytr, стартапа, который продает инструмент для написания текстов на основе ИИ. Решение о разрешении жалобы на компанию было принято советом комиссаров в результате голосования 3-2.
Rytr, который предлагает свое программное обеспечение для машинного обучения для различных вариантов использования, в какой-то момент позволил пользователям создавать подробные обзоры с помощью своих инструментов, и именно с этим не согласна FTC.
«Сервис Rytr создавал подробные обзоры, содержащие конкретные, часто существенные детали, не имеющие никакого отношения к вводу пользователя, и эти обзоры почти наверняка были бы ложными для пользователей, которые копировали их и публиковали в Интернете», — заявила FTC.
Неудивительно, что комиссия предпримет меры против обзоров продуктов, созданных с помощью ИИ: в прошлом году FTC предложила правило, запрещающее их, и это правило вступает в силу в следующем месяце.
На данный момент регулятор обвинил стартап в «нарушении Закона FTC путем предоставления подписчикам средств для создания ложного и вводящего в заблуждение письменного контента для потребительских обзоров».
Бывший главный технолог FTC Нил Чилсон не согласился с решением надзорного органа по делу Ryter, заявив The Register, что он обеспокоен тем, что это навредит инновациям в сфере ИИ.
«FTC не предоставляет никаких доказательств того, что пользователи Rytr действительно навредили потребителям», — утверждает Чилсон. «И она обвиняет Rytr в гипотетических плохих действиях пользователей».
Чилсон сослался на двух несогласных членов комиссии FTC, которые, по его словам, согласились с его мнением о том, что решение создает прецедент для наказания разработчиков новых технологий за неправомерное использование, даже если разработчик не был причиной вреда.
«FTC подрывает доверие к своей законной работе по борьбе с мошенничеством, занимаясь таким ненужным, расточительным и незаконным превышением полномочий», — высказал мнение Чилсон.
Агентство утверждало в своей жалобе [PDF] на Rytr, что в бизнесе был запрограммирован довольно шаблонный сценарий использования «отзывов и обзоров», который позволял пользователю выбирать тон, добавлять определенные ключевые слова и экспортировать копию, что, по мнению надзорного органа, нарушало бы правила, запрещающие обзоры продуктов, созданные с помощью ИИ.
Кроме того, FTC отметила ряд фактических случаев использования Rytr с этой целью.
«Записи показывают, что по крайней мере некоторые из ее подписчиков использовали сервис Rytr для создания сотен, а в некоторых случаях и тысяч обзоров», — заявила комиссия.
«Один подписчик оставил сотни отзывов, среди прочего, о конкретных компаниях по ремонту гаражных ворот», — говорится в жалобе, в то время как другой пользователь «оставил более 83 000 отзывов о различных конкретных услугах по упаковке и переезду».
Чилсон ответил на этот аспект жалобы FTC, заявив, что федеральное агентство не предоставило никаких фактических доказательств этих отзывов, и что подход, принятый в этом случае федеральными органами, имеет важное значение.
Это… может затронуть любую компанию, которая создает инструменты, которые пользователи используют не по назначению
«В жалобе Rytr обвиняется в гипотетических плохих действиях пользователей Rytr. Это попытка выйти на новый правовой уровень, который выходит далеко за рамки «поддельных отзывов» и может затронуть любую компанию, которая создает инструменты, которые пользователи используют не по назначению», — сказал нам Чилсон.
Rytr не был оштрафован по условиям своего соглашения с FTC и не признал никаких правонарушений, но согласился прекратить предлагать аналогичные услуги. На момент написания статьи возможность создавать отзывы и обзоры в Rytr отсутствовала. Чилсон сказал, что стартап уже лишил клиентов возможности писать отзывы до соглашения, что сделало условия сделки такими, которые Rytr не мог не принять.
«FTC хотела, чтобы Rytr было очень легко принять это соглашение; они не хотели, чтобы суд рассматривал эту маргинальную теорию», — сказал Чилсон.
Мы обратились в FTC, чтобы узнать больше о причинах иска Rytr. Rytr не предоставила комментариев. ®
