16 ведущих компаний в области искусственного интеллекта взяли на себя новые обязательства по обеспечению безопасности на саммите в Сеуле

Важные новости

 16 ведущих компаний в области ИИ взяли на себя новые обязательства по безопасности на саммите в Сеуле

Более десятка ведущих мировых компаний в области ИИ взяли на себя новые обязательства по безопасности на глобальном саммите в Южной Корее.

Более дюжины ведущих мировых компаний, занимающихся искусственным интеллектом, взяли на себя новые обязательства по обеспечению безопасности на глобальном саммите в Сеуле во вторник, говорится в заявлении британского правительства.

Соглашение с 16 технологическими фирмами, в том числе OpenAI, создателем ChatGPT, Google DeepMind и Anthropic, основано на консенсусе, достигнутом на первом глобальном саммите по безопасности ИИ в Блетчли-Парке в Великобритании в прошлом году.

«Эти обязательства гарантируют ведущие мировые компании, занимающиеся искусственным интеллектом, обеспечат прозрачность и подотчетность в своих планах по разработке безопасного искусственного интеллекта», — заявил премьер-министр Великобритании Риши Сунак в заявлении, опубликованном Министерством науки, инноваций и технологий Великобритании.

Согласно соглашению, компании, занимающиеся искусственным интеллектом, которые еще не поделились тем, как они оценивают риски своих технологий, опубликуют эти схемы, говорится в заявлении.

Они будут включать в себя, какие риски «считаются непереносимыми», а какие фирмы будут делать все возможное, чтобы гарантировать, что эти пороговые значения не будут превышены.

«В самых экстремальных обстоятельствах компании также взяли на себя обязательство «вообще не разрабатывать и не развертывать модель или систему», если меры по снижению рисков не могут удерживать риски ниже уровня пороговые значения», — добавлено в заявлении.

Определение этих пороговых значений будет принято перед следующим саммитом искусственного интеллекта, который пройдет во Франции в 2025 году.

В число фирм, которые согласовали правила безопасности, также входят американские технологические гиганты Microsoft, Amazon, IBM и родительская компания Instagram Meta; французский Mistral AI; и Zhipu.ai из Китая.

Опасность «дипфейков»

Стратосферный успех ChatGPT вскоре после его выпуска в 2022 году вызвал золотую лихорадку в области генеративного искусственного интеллекта, охватившую технологические компании по всему миру. вкладывают миллиарды долларов в разработку собственных моделей.

Генеративные модели искусственного интеллекта могут генерировать текст, фотографии, аудио и даже видео с помощью простых подсказок, и их сторонники провозгласили их прорывом, который улучшит жизнь и бизнес во всем мире.

Но критики, правозащитники и правительства предупредили, что ими можно злоупотреблять в самых разных ситуациях, включая манипулирование избирателями с помощью фейковых новостей или так называемых «дипфейковых» фотографий и видео политиков.

Многие призывают к принятию международных стандартов, регулирующих разработку и использование искусственного интеллекта, и призывают к действиям на саммитах, таких как двухдневная встреча в Сеуле на этой неделе.

Помимо безопасности, на саммите в Сеуле будут обсуждаться вопросы безопасности. обсудят, как правительства могут помочь стимулировать инновации, в том числе исследования искусственного интеллекта в университетах.

Участники также рассмотрят способы обеспечения того, чтобы технология была открыта для всех и могла помочь в решении таких проблем, как изменение климата и бедность.

Участники также рассмотрят способы обеспечения того, чтобы технология была открыта для всех и могла помочь в решении таких проблем, как изменение климата и бедность.

Участники также рассмотрят способы обеспечения того, чтобы технология была открыта для всех и могла помочь в решении таких проблем, как изменение климата и бедность.

Участники также рассмотрят способы обеспечения того, чтобы технология была открыта для всех.

p>

Саммит в Сеуле состоялся через несколько дней после того, как OpenAI подтвердила, что расформировала команду, занимающуюся смягчением долгосрочных опасностей передового искусственного интеллекта.

«Область безопасности искусственного интеллекта быстро развивается, и мы особенно рада поддержать упор в обязательствах на совершенствование подходов наряду с наукой», — заявила Анна Маканджу, вице-президент OpenAI по глобальным делам, в заявлении, объявляющем о новых обязательствах во вторник.

Двухдневный саммит пройдёт будет частично виртуальным, с сочетанием закрытых заседаний и некоторых открытых для публики в Сеуле.

Президент Южной Кореи Юн Сок Ёль и Сунак из Великобритании будут сопредседателями виртуального заседания мировых лидеров позднее во вторник .

Новости сегодня

Последние новости