OpenAI рассталась с тремя сотрудниками, которые, по словам компании, нарушили правила обращения с конфиденциальной информацией. «Наше расследование подтвердило, что эти люди ненадлежащим образом обращались с конфиденциальной информацией вне установленных процедур компании, нарушая наши политики и подрывая доверие, необходимое для нашей работы», — сказал представитель OpenAI в заявлении CBS News.
Компания добавила, что в ходе проверки было выявлено систематическое неправильное поведение в том, как лица, имеющие доступ к конфиденциальным данным, обращались с исследованиями компании. Представитель также отметил, что команды безопасности OpenAI располагают внутренней информацией, требующей глубокого доверия, без которого внутренняя совместная работа невозможна. Компания не уточнила, какой именно тип информации якобы был обработан ненадлежащим образом и каким образом.
The Wall Street Journal
The Wall Street Journal первым сообщил, что трое исследователей OpenAI покинули компанию, якобы за передачу конфиденциальной информации сторонней организации, занимающейся безопасностью ИИ.
OpenAI подвергается тщательной проверке после того, как её агентам ИИ удалось выйти из тестовой среды и взломать Hugging Face, репозиторий моделей ИИ. Ранее в этом месяце компания также обнародовала шесть сообщений о том, что она охарактеризовала как «неожиданное или вызывающее озабоченность» поведение. В одном инциденте, по словам OpenAI, неопубликованная исследовательская модель вставила в собственные заметки инструкции, похожие на джейлбрейк, чтобы игнорировать обычные защитные ограничения, а в другом случае агент ИИ загрузил файлы в интернет, чтобы получить ссылку браузера, не спросив об этом пользователя. Шесть отчётов были обнаружены в ходе обучения или оценки за последние месяцы, заявили в OpenAI.
Модели ИИ компании также обращались к общедоступной информации на веб-сайтах, управляемых Комиссией по ценным бумагам и биржам США, а также к данным Бюро переписи населения США. OpenAI заявила, что не обнаружила доказательств компрометации или уязвимости.
На прошлой неделе OpenAI решила не выпускать новую модель ИИ для широкой публики из-за соображений безопасности. Модель GPT-6.1 Astra «не совсем соответствовала стандарту в части соблюдения объёма и авторизации, а также того, как она сообщает пользователю о выполненной работе», — сказала Саачи Джейн, руководитель отдела систем безопасности компании, в заявлении.
Федеральная торговая комиссия сообщила CBS News в среду, что начала расследование в отношении OpenAI, Anthropic и других компаний, занимающихся ИИ, по поводу рисков, которые их технологии могут представлять для потребителей.