Если жонглирование чрезвычайной стоимостью и туманной окупаемостью инвестиций в ИИ не было достаточной головной болью, Министерство юстиции США (МЮ) теперь ожидает, что сотрудники по обеспечению соответствия требованиям предприятий начнут взвешивать потенциальный вред технологии — или рисковать крупными штрафами, если она нарушит закон.
Николь Арджентьери, первый заместитель помощника генерального прокурора по уголовным делам Министерства юстиции, обсудила изменения, внесенные в руководящие принципы Программы оценки корпоративного соответствия (ECCP) [PDF] в обращении к Обществу корпоративного соответствия и этики в начале этой недели.
В руководящих принципах подробно описывается, как прокуроры DoJ должны подходить к уголовным расследованиям и оценивать эффективность поставщиков услуг в предотвращении преступного поведения. Таким образом, ECCP фактически функционирует как руководство для сотрудников по обеспечению соответствия, стремящихся избежать гнева DoJ.
После пилотной программы эти правила были официально расширены, чтобы включить использование ИИ. Технология все чаще внедряется предприятиями и, следовательно, может предположительно использоваться для принятия решений или содействия действиям, которые не являются законными.
Руководящие принципы ECCP включают список вопросов, которые, по мнению Министерства юстиции, сотрудники по вопросам соответствия должны задать себе об использовании систем ИИ, поскольку именно эти вопросы будут задавать прокуроры в случае расследования. Вот некоторые примеры:
- «Как компания оценивает потенциальное влияние новых технологий, таких как искусственный интеллект, на ее способность соблюдать уголовные законы?»
- «Как компания сдерживает любые потенциальные негативные или непреднамеренные последствия, возникающие в результате использования технологий как в ее коммерческом бизнесе, так и в ее программе соответствия?»
- «Как компания снижает вероятность преднамеренного или безрассудного неправомерного использования технологий, в том числе инсайдерами компании?»
Полный список вопросов по соблюдению требований, связанных с ИИ, можно найти на странице четыре документа ECCP здесь.
По словам Арджентьери, согласно стенограмме, «прокуроры рассмотрят, уязвима ли компания для преступных схем, реализованных с помощью новых технологий, таких как ложные одобрения и документация, созданная ИИ. Если да, мы рассмотрим, существуют ли средства контроля и инструменты соответствия для выявления и снижения этих рисков».
Кроме того, Министерство юстиции примет во внимание, осуществляет ли компания активный мониторинг и тестирование приложений ИИ, чтобы убедиться, что они функционируют так, как задумано.
Другими словами, неважно, нарушил ли закон ИИ — компания будет привлечена к ответственности. Поэтому руководители должны принять меры по выявлению и устранению этих рисков до того, как к ним придет Министерство юстиции.
«Поскольку мы преследуем корпоративные преступления, мы спрашиваем не только о том, что произошло, но и почему это произошло, и что компания сделала для предотвращения повторения неправомерных действий», — пояснил Арджентьери, добавив: «Мы ожидаем, что корпорации будут постоянно пересматривать и обновлять свои программы соответствия, чтобы учитывать возникающие факторы риска».
Помимо руководящих принципов, регулирующих соответствие требованиям ИИ, обновления ECCP также включают руководство, касающееся информаторов в рамках программы, призванной стимулировать работников сообщать о незаконной деятельности. ®
