Обществу придется принять некоторые негативные последствия ИИ — ради его преимуществ и широкого доступа к технологии. Об этом в интервью Politico заявил генеральный директор OpenAI Сэм Альтман.
«Мы считаем, что мир должен принять некоторые плохие вещи ради преимуществ этой технологии и свободы действий людей», — сказал он.
Среди возможных негативных последствий глава OpenAI назвал крупные взломы, злоупотребление ИИ и мошенничество.
Полностью исключить их можно лишь ценой жестких ограничений. При этом Альтман не согласился бы на такой размен. По его словам, люди будут делать с помощью искусственного интеллекта «на порядки больше хорошего, чем плохого».
Он отметил, что вместе с тем у допустимого риска есть пределы. Например, Альтман не готов смириться с катастрофическими сценариями, в частности с серьезной потерей контроля над ИИ.
Разногласия с Anthropic
Главным предметом интервью стали различия в подходах OpenAI и Anthropic к безопасности и регулированию ИИ.
Альтман подчеркнул, что между компаниями сохраняется «фундаментальная разница во взглядах». OpenAI выступает за более широкий доступ пользователей к мощным системам и менее жесткое регулирование. Anthropic придерживается более осторожной позиции.
Он признал, что понимает логику сторонников жестких ограничений. Те считают, что технология станет настолько мощной и опасной, что ею должна владеть одна лаборатория в Сан-Франциско. Она будет следить, чтобы не произошло ничего плохого, и сама распределять доступ к преимуществам ИИ.
С такой позицией глава OpenAI не согласился и назвал эту модель неприемлемым компромиссом. По его мнению, стремление полностью исключить вред не должно приводить к концентрации контроля над технологией в руках одной компании.
Сближение позиций
Несмотря на разногласия, в последние месяцы взгляды OpenAI и Anthropic на безопасность частично сблизились.
12 сентября CEO Anthropic Дарио Амодеи призвал разработчиков замедлить рост возможностей передовых моделей, чтобы меры предосторожности успевали за развитием технологии.
Он предложил дать независимым экспертам постоянный доступ к системам, которые должны оценивать поведение ИИ и проверять, соблюдают ли разработчики свои обязательства.
Альтман в тот же день публично поддержал идею регулировать темп развития передовых моделей и согласился с необходимостью независимой оценки.
OpenAI также стала активнее поддерживать обязательное регулирование. 9 сентября компания выступила за федеральные требования безопасности, привязанные к возможностям нейросетей.
До принятия общенациональных правил она поддержала четыре законопроекта в Калифорнии, которые касаются независимой оценки ИИ, стандартов для аудиторов, защиты молодежи и защиты от биологических угроз.
Разработчик ChatGPT отдельно выделяет наиболее серьезные категории угроз: наступательные кибервозможности, биологические и химические риски, вредоносные манипуляции и потерю контроля над системами. Для них предусмотрены специальные процедуры оценки и снижения рисков.
23 сентября на заседании Совета Безопасности ООН Альтман заявил о необходимости сохранять мощные ИИ-системы под человеческим контролем и развивать международное сотрудничество в этой сфере.
Напомним, подкомитет Сената США начал проверку действий OpenAI после июльского инцидента с Hugging Face.