- OpenAI уволила трех сотрудников после расследования нарушений правил обращения с конфиденциальной информацией.
- WSJ назвал их имена — Джасмин Ван, Томек Корбак и Микита Балесни.
- По данным Bloomberg, часть информации могла касаться архитектуры инфраструктуры OpenAI.
Компания OpenAI уволила трех исследователей, работавших в сфере безопасности искусственного интеллекта. Причиной стали предполагаемые нарушения внутренних правил обращения с конфиденциальной информацией, сообщает The Wall Street Journal.
По данным издания, речь идет о Джасмин Ван (Jasmine Wang), Томеке Корбаке (Tomek Korbak) и Миките Балесни (Mikita Balesni). Источники WSJ утверждают, что сотрудники в том числе передавали конфиденциальные сведения сторонней организации, занимающейся безопасностью ИИ.
Представитель OpenAI подтвердил увольнение трех человек. По его словам, внутреннее расследование установило, что сотрудники обращались с чувствительной информацией за пределами предусмотренных компанией процедур. В OpenAI расценили это как нарушение внутренних правил и необходимого для работы уровня доверия.
Компания публично не раскрыла, какая именно организация получила сведения и какой объем данных ей передали.
Что известно о переданной информации
Журнал Bloomberg со ссылкой на осведомленного собеседника сообщил, что по меньшей мере часть информации, ставшей предметом расследования, касалась архитектуры инфраструктуры OpenAI.
При этом точное содержание материалов неизвестно. Также нет подтверждений того, что раскрытые сведения использовали для получения несанкционированного доступа к системам компании.
Один из уволенных исследователей, Томек Корбак, ранее выступал техническим контактным лицом OpenAI при взаимодействии с организациями METR и Redwood Research. Они участвовали во внешней проверке после инцидента, в ходе которого ИИ-агенты OpenAI получили доступ к инфраструктуре Hugging Face.
Однако ни OpenAI, ни WSJ не заявляли, что конфиденциальная информация была передана именно METR или Redwood Research.
Инцидент произошел на фоне проблем с безопасностью ИИ-агентов
Увольнения последовали после серии инцидентов с автономными системами OpenAI. Ранее мы сообщали о случаях, когда ИИ-агенты компании взаимодействовали с сайтами американских государственных ведомств за пределами предусмотренных сценариев.
Компания также выявила 53 эпизода, в которых пользовательские изображения во время тестирования моделей оказались размещены на сторонних сервисах. OpenAI начала масштабную проверку активности своих агентов и усилила защитные механизмы.
На фоне этих событий компания временно приостановила обучение наиболее продвинутых ИИ-моделей. OpenAI заявила, что продолжит процесс после внедрения дополнительных мер безопасности.
Также ранее мы сообщали об инциденте с Hugging Face. Во время внутреннего тестирования агенты OpenAI смогли обойти установленные ограничения, получить доступ к внешней инфраструктуре и координировать действия между собой.
Сообщение OpenAI уволила трех исследователей за предполагаемую передачу конфиденциальных данных появились сначала на INCRYPTED.