• Марк Цукерберг считает, что ИИ-компании должны самостоятельно определять необходимый темп разработки моделей.
  • Meta отложила запуск Muse на несколько месяцев ради усиления безопасности.
  • Ранее компания также признала, что развитие ИИ-агентов идет медленнее ожиданий.

Генеральный директор Meta Марк Цукерберг выступил против скоординированного замедления разработки передовых систем искусственного интеллекта. По его мнению, каждая лаборатория должна самостоятельно определять скорость работы, необходимую для безопасного обучения моделей.

Цукерберг считает, что компании уже имеют естественный стимул повышать безопасность своих продуктов. Пользователи не станут выбирать агентов, которые действуют вопреки их намерениям, поэтому доверие и согласованность ИИ с целями человека, по его словам, превращаются в конкурентные преимущества.

При этом глава Meta сообщил, что сама компания ранее замедлила выпуск Muse. Запуск ИИ-агента отложили на несколько месяцев, чтобы сосредоточиться на безопасности и защите системы. Цукерберг подчеркнул, что Meta сделала это самостоятельно и не требовала аналогичной паузы от других участников рынка. 

9 сентября Meta все же открыла доступ к Muse. Агент способен работать с электронной почтой, календарем, браузером и подключенными сервисами. 

В компании заявили, что он работает в выделенной облачной виртуальной машине, а действия с внешними платформами контролирует отдельный агент Sentinel. Meta также предложила до $300 000 за обнаружение уязвимостей в системе.

Замедление Muse стало не единственным случаем, когда планы Meta в сфере ИИ сдвинулись относительно первоначальных ожиданий. Ранее Цукерберг признал, что развитие ИИ-агентов не ускорилось настолько быстро, как рассчитывало руководство компании. 

На фоне более слабого, чем ожидалось, роста производительности Meta также отказалась от второй волны масштабной реорганизации персонала. 

Заявление Цукерберга прозвучало на фоне дискуссии о необходимости замедлить развитие наиболее мощных моделей. CEO Anthropic Дарио Амодеи ранее предложил трехэтапный план, который предусматривает независимые проверки и координацию между ведущими ИИ-компаниями. Инициативу поддержали глава OpenAI Сэм Альтман и Илон Маск. 

Таким образом, Цукерберг не выступает против замедления разработки как такового. Его позиция заключается в том, что компании должны при необходимости снижать темп самостоятельно, без общей отраслевой паузы. В качестве примера такого подхода он привел собственное решение Meta перенести выпуск Muse.

Сообщение Цукерберг выступил против общего замедления ИИ-разработки появились сначала на INCRYPTED.