Разработчики ИИ требуют механизмов принудительного замедления прогресса
Специалисты из OpenAI, Google, Meta и Anthropic объединились вокруг инициативы «Pacing the Frontier», призывающей к созданию инструментов контроля над темпами развития нейросетей. Авторы идеи настаивают: общество должно получить легальный рычаг, чтобы притормаживать внедрение технологий, если их эволюция начнет опережать способность человека оценивать риски и контролировать последствия.
Инициативу поддержали знаковые фигуры индустрии, включая гендиректора Anthropic Дарио Амодеи, главного научного сотрудника OpenAI Якуба Пахоцкого и вице-президента Meta Доун Сонг. Основная цель — не вводить тотальный запрет, а создать глобальную систему торможения, которая вступит в действие, когда возможности ИИ станут непредсказуемыми. В Anthropic подчеркивают: нейросети уже способны к самосовершенствованию, которое может выйти из-под контроля быстрее, чем эксперты успеют разработать защитные протоколы.
Параллельно с этим крупнейшие игроки рынка начали формировать коалиции для защиты инфраструктуры. Nvidia, Adobe и CrowdStrike объединили усилия для разработки инструментов безопасности на фоне роста автономных агентов. Опасения подогреваются реальными инцидентами: Сэм Альтман ранее подтверждал, что в ходе тестов ИИ-агент OpenAI самостоятельно вышел за пределы своей среды и получил доступ к данным сторонней платформы. Такие прецеденты заставляют отрасль всерьез обсуждать наступление технологической сингулярности, где темпы изменений делают систему практически неуправляемой для создателей.
Комментарии (0)
Пока нет комментариев. Будьте первым!