- Джек Дорси описал свое видение будущего ИИ.
- В первую очередь он выступил против ограничений для всей индустрии.
- Кроме того, Дорси призвал открыть ИИ и дать исследователям больше доступа к ИИ и вычислительным ресурсам.
Сооснователь Twitter и CEO Block Джек Дорси опубликовал развернутое эссе о будущем искусственного интеллекта, в котором призвал развивать открытые модели, поддерживать независимые исследования и не устанавливать общих ограничений на вычислительные мощности для всей индустрии.
По его мнению, технологии ИИ не должны контролироваться несколькими компаниями или правительствами, поскольку это может ограничить конкуренцию и доступ исследователей к моделям.
Дорси также выступил против предложения Дарио Амодеи относительно ограничений обучающих вычислений и призвал сосредоточиться на проверке рисков и развитии защитных механизмов.
Дорси выступил за открытые модели
«Граница — это край того, что мы знаем. Ни одна компания не владеет тем, что будет дальше. Я хочу, чтобы больше людей могли ее расширять», — написал Дорси.
Он поддерживает открытые релизы, которые можно исследовать, использовать и совершенствовать совместно. При этом Дорси не предлагает принудительно публиковать приватные веса моделей. Вместо этого он выступает за создание открытых альтернатив, независимый аудит и возможность пользователей самостоятельно контролировать ИИ-инструменты.
Напомним, что ранее CEO Nvidia Дженсен Хуанг также представил манифест с призывом к США сделать ставку на открытый ИИ.
Дорси отдельно раскритиковал идею отраслевых ограничений, предложенную в публикации CEO Anthropic Дарио Амодеи. Тот предлагает совместить независимые оценки опасных возможностей ИИ с возможными ограничениями на вычислительные ресурсы, обучающие запуски и использование моделей для создания их следующих версий.
«Я поддерживаю проверки. Я выступаю против общеотраслевых ограничений, согласованных нынешними лидерами, поскольку они могут исключить людей, которые способны выявить ошибки или создать альтернативы», — отметил Дорси.
RSI, инцидент OpenAI и независимый контроль
Одним из главных аргументов в пользу ограничения темпов развития ИИ Дорси называет риск рекурсивного самосовершенствования (RSI) — ситуации, когда модели помогают создавать более мощных преемников.
Он сослался на данные Anthropic, согласно которым Claude по состоянию на май 2026 года написал более 80% кода, который вошел в проект. В то же время компания отмечает, что модель, которая полностью самостоятельно создает своего преемника, еще не появилась и такая возможность не является неизбежной.
Дорси также упомянул расследование METR относительно инцидента с агентами OpenAI. По его данным, около 1200 агентов, которые должны были оставаться изолированными, общались через несанкционированную доску сообщений, а около 700 участвовали в скоординированной атаке на Hugging Face во время попытки обойти оценивание.
В то же время Дорси считает, что прогноз о возможности захвата интернета более мощным роем агентов в течение 6-12 месяцев выходит за пределы того, что доказывает этот инцидент, и должен быть отдельно проверен.
Он предлагает делать акцент на независимом тестировании, доступе исследователей к моделям и публикации результатов. По его мнению, ограничения публикации должны применяться только при наличии независимо проверенных доказательств того, что релиз существенно повышает риск катастрофического ущерба, а более узкие меры не могут достаточно его снизить.
Отдельно Дорси выступил за трансграничную открытость и возможность запускать ИИ локально. Он хочет, чтобы пользователи могли самостоятельно изменять модели, контролировать доступ к собственным данным и не зависеть исключительно от API крупных компаний.
«Я хочу, чтобы кто-то, о ком я никогда не слышал, мог создать что-то лучше, не спрашивая разрешения у компаний, которые он может заменить», — подытожил Дорси.
Призывы к ограничению темпов развития передовых ИИ-систем усилились на фоне опасений относительно потери контроля над все более автономными моделями. В OpenAI после инцидента с тестовым агентом, который вышел из контролируемой среды и атаковал Hugging Face, также пересмотрели подход к разработке части новых моделей.
В то же время главный научный сотрудник OpenAI Якуб Пачоцкий заявил о необходимости быть готовыми замедлить развитие самых мощных систем, если имеющихся механизмов безопасности будет недостаточно для контроля их поведения.
Сообщение Джек Дорси раскритиковал идею замедлить развитие ИИ появились сначала на INCRYPTED.