Гуру безопасности Брюс Шнайер сыграл роль скунса на вечеринке в саду на федеральных слушаниях по использованию искусственного интеллекта в правительстве в четверг, сосредоточив внимание на рисках, которые многие игнорируют.»Другие докладчики в основном говорили о том, насколько крут искусственный интеллект, а иногда и о том, насколько крута их собственная компания, но демократы попросили меня конкретно рассказать о DOGE и рисках, связанных с извлечением наших данных из правительственных учреждений и передачей их в ИИ», – пояснил Шнайер в сообщении в блоге.
DOGE расшифровывается как Департамент эффективности государственного управления. Это инициатива Белого дома, которой до недавнего времени руководил миллиардер Илон Маск, который просматривал правительственные базы данных и отдавал приказы об увольнениях в различных правительственных учреждениях во имя экономии средств и эффективности. Сокращения персонала были настолько масштабными, что администрация Трампа, как сообщается, сейчас пытается заново нанять сотрудников.
Слушания под названием «Федеральное правительство в эпоху искусственного интеллекта» были проведены Комитетом Палаты представителей по надзору и правительственной реформе.
Представитель Нэнси Мэйс (республиканец), председатель Комитета по кибербезопасности, информационным технологиям и Правительственный подкомитет по инновациям открыл слушания, сосредоточив внимание на потенциале искусственного интеллекта как инструмента повышения производительности, который становится все более необходимым на фоне усилий DOGE по сокращению федеральной рабочей силы.»Федеральное правительство несет ответственность за использование этой технологии, чтобы правительство работало быстрее и эффективнее на благо американского народа», — сказала она.Свидетели из аналитических центров и компаний, занимающихся ИИ, поддержали линию партии, говоря об ИИ как о способе оптимизации неэффективной бюрократии и поддержания конкурентоспособности экономики.
Сообщение Шнайера было не тем, что хотели услышать законодатели, проводившие слушания, – на самом деле, его показания остались без упоминания на фоне краткого отчета Комитета по надзору об этом событии, посвященного усилению искусственного интеллекта.Ветеран индустрии безопасности сосредоточил внимание на ущербе, который DOGE нанесла своей небрежной обработкой данных и энтузиазмом в отношении ИИ. Проблема, по словам Шнайера, заключается в небрежной кибербезопасности DOGE и чрезмерной вере в способность ИИ взять верх над человеческим интеллектом. задачи.
Вы все должны исходить из того, что у злоумышленников есть копии всех данных, которые DOGE отфильтровала, и они получили доступ ко всем сетям, из которых DOGE удалила средства защиты
«Вы все нужно исходить из того, что у злоумышленников есть копии всех данных, которые DOGE отфильтровала, и они получили доступ ко всем сетям, из которых DOGE удалила средства контроля безопасности», — сказал он.»Эти данные могут быть использованы против вас», — предупредил Шнайер, предположив, что любые военные действия против США будут сопровождаться обнулением банковских счетов военных и политических лидеров.»Предыдущие четыре докладчика говорили о перспективах этой технологии», — сказал Шнайер. «Я хочу поговорить о последствиях для национальной безопасности того, как наша страна объединяет данные и использует их в моделях искусственного интеллекта».
Он указал на предыдущее заявление председателя Комитета по надзору Джеймса Комера (республиканец, Кентукки) о желании ответственно использовать искусственный интеллект, защищая интересы и права американцев. Шнайер сказал, что действия DOGE за последние несколько месяцев фактически привели к обратному результату.
«Филиалы DOGE распространились по всему правительству», — сказал он. «Они все еще извлекают огромные базы данных США, обрабатывают их с помощью искусственного интеллекта и предлагают частным компаниям, таким как Palantir. Эти действия наносят непоправимый ущерб безопасности нашей страны и безопасности каждого, включая всех присутствующих в этом зале, независимо от политической принадлежности».
Он заключил: «Жертвуя кибербезопасностью в попытке создать будущее ИИ, мы подвергаем риску не только страну, но и весь мир. ИИ, что, в свою очередь, ставит под угрозу нашу систему правосудия, нашу законодательную систему, нашу банковскую систему, национальную оборону и всех нас, всех вас лично».
В пятницу Верховный суд США вынес решение 6-3 [PDF], временно предоставляющее DOGE доступ к конфиденциальным социальным сетям. Данные Администрации безопасности — шаг, который, по словам судьи Кетанджи Брауна Джексона, представляющего особое мнение, создает «серьезные риски для конфиденциальности миллионов американцев». ®
