Более 1100 сотрудников ведущих технологических компаний во вторник призвали правительство США поддержать международные усилия по разработке инструментов для управления темпами развития передового ИИ. Заявление прозвучало на фоне того, как компании, занимающиеся ИИ, разрабатывают все более мощные системы, что вызывает опасения, что их развитие может опередить существующие механизмы безопасности, управления и надзора.
Инициатива под названием «Pacing the Frontier» включает сотрудников Meta Platforms, Anthropic, OpenAI и Google (Alphabet), а также некоммерческие организации Guidelight AI Standards и Encode AI.
Мы просим правительство США поддержать международные усилия по разработке технических и управленческих инструментов, необходимых для целенаправленного ускорения развития автоматизированного ИИ.
Среди подписавших заявление — генеральный директор Anthropic Дарио Амодей и несколько соучредителей, вице-президент Meta по исследованиям в области ИИ Доун Сонг и главный научный сотрудник OpenAI Якуб Пачоцкий.
В ответ на заявление OpenAI опубликовала на X следующее сообщение:
Мы считаем, что в какой-то момент в будущем ускорение разработки передовых моделей ИИ может быть настолько высоким, что миру потребуется регулировать темпы развития ИИ.
В сообщении Anthropic на X говорится:
Наше собственное исследование рекурсивного самосовершенствования, опубликованное в прошлом месяце, указывает на необходимость инструментов для целенаправленного регулирования темпов развития ИИ, чтобы общество могло подготовиться.
В прошлом месяце создатель Claude Code призвал крупные лаборатории ИИ рассмотреть возможность скоординированной паузы в разработке, предупредив, что достижения в области технологий вскоре могут позволить системам ИИ совершенствоваться быстрее, чем общество сможет управлять рисками.
Отдельно компания Nvidia в понедельник заявила о формировании коалиции с Adobe, CrowdStrike и другими компаниями для разработки инструментов обеспечения безопасности ИИ и кибербезопасности после недавнего инцидента с кибербезопасностью, связанного с приложением Hugging Face, который усилил опасения по поводу автономных агентов ИИ.