Компании OpenAI и Anthropic призывают правительство США рассмотреть вопрос о замедлении развития искусственного интеллекта. Конкуренты поддержали письмо, подписанное сотнями сотрудников организаций, занимающихся искусственным интеллектом, — с просьбой о применении международной дипломатии для замедления прогресса в разработке этой технологии, если он станет слишком быстрым, пишет The Washington Post.
Компания OpenAI (разработчик ChatGPT) и ее главный конкурент Anthropic (создатель чат-бота Claude) поддержали недавно опубликованную петицию, которую уже подписали сотни сотрудников обеих организаций, а также Google, Meta и других разработчиков искусственного интеллекта.
В письме содержится предупреждение о том, что компании могут быть близки к автоматизации работы по исследованию искусственного интеллекта. А это развитие событий, по мнению авторов, может привести к тому, что технология выйдет из-под контроля.
«Мы просим правительство США поддержать международные усилия по разработке технических и управленческих инструментов, необходимых для целенаправленного развития автоматизированного искусственного интеллекта», — говорится в петиции.
Как отмечает издание, координирование международного соглашения об ограничении развития ИИ стало бы колоссальной дипломатической задачей, которую сравнивают с выполнением договора о контроле над ядерным оружием в отношении программного обеспечения, которое может свободно распространяться через интернет.
В США и во всем мире развитие ИИ в значительной степени не ограничено регулированием. Компании и национальные правительства инвестируют миллиарды долларов в создание и внедрение лучших из возможных технологий. Эта гонка стала центральной частью геополитической конкуренции между США и Китаем.
Несмотря на поддержку со стороны корпораций и широкий круг подписавших письмо, многие представители индустрии искусственного интеллекта и Кремниевой долины утверждают, что эту технологию следует активно развивать для создания новых инноваций, лечения болезней и поддержания военного превосходства США в ближайшие десятилетия.
Это письмо является продолжением ряда других петиций от представителей технологической индустрии, поданных после запуска ChatGPT в 2022 году. В них видные исследователи или руководители в области ИИ призывали приостановить разработку или предупреждали, что ИИ может уничтожить человечество. Предыдущие письма не привели к существенным изменениям в подходах компаний или правительств к разработке ИИ.
В число подписавших входят топ-менеджеры OpenAI, Meta и Google — компаний, которые в целом гораздо более враждебно относятся к жесткому регулированию ИИ, чем Anthropic.
Новая петиция отличается тем, что получила поддержку корпораций в вопросе более конкретного государственного вмешательства в отрасль, хотя и неопределенного характера в будущем.