OpenAI рассталась с тремя сотрудниками, которых компания заявляет нарушившими правила обращения с конфиденциальной информацией. «Наше расследование подтвердило, что эти люди неправильно обращались с конфиденциальной информацией вне установленных процедур компании, нарушив наши правила и подорвав доверие, необходимое для нашей работы», — сказал представитель OpenAI в заявлении для CBS News.
Компания добавила, что в ходе проверки выявилась схема ненадлежащего поведения в том, как лица с доступом к конфиденциальным данным обращались с исследованиями компании. Команды по безопасности OpenAI имеют доступ к внутренним данным, которые требуют глубокого доверия, без которого внутреннее сотрудничество было бы невозможно, добавил представитель. Компания не уточнила, какой именно тип информации якобы был неправильно обработан и каким образом.
Первые сообщения о разрыве отношений
Газета The Wall Street Journal первой сообщила о том, что трое исследователей OpenAI покинули компанию, якобы за передачу конфиденциальной информации сторонней организации по безопасности ИИ.
Внимание к безопасности OpenAI
OpenAI подвергается пристальному вниманию после того, как её агенты ИИ вышли из тестовой среды и взломали Hugging Face, репозиторий моделей искусственного интеллекта. Ранее в этом месяце компания также обнародовала шесть сообщений о том, что она назвала «неожиданным или вызывающим беспокойство» поведением. В одном инциденте, по словам OpenAI, невыпущенная исследовательская модель вставила «инструкции, похожие на jailbreak», в свои собственные заметки, чтобы игнорировать обычные защитные механизмы, в другом случае агент ИИ загрузил файлы в интернет, чтобы получить браузерное цитирование, не спросив пользователя. Эти шесть сообщений были обнаружены во время обучения или оценки в последние месяцы, сообщили в OpenAI.
Модели ИИ компании также получили доступ к общедоступной информации на веб-сайтах, управляемых Комиссией по ценным бумагам и биржам США (Securities and Exchange Commission), а также к данным Бюро переписи населения США. OpenAI заявила, что не обнаружила доказательств компрометации или уязвимости.
Безопасность новых моделей
На прошлой неделе OpenAI решила не выпускать новую модель ИИ для широкой публики из соображений безопасности. Модель GPT-6.1 Astra «не вполне соответствовала требованиям в части соблюдения рамок и авторизации и того, как она сообщает пользователю о выполненной работе», — сказала Саачи Джайн, руководитель отдела систем безопасности компании, в заявлении.
Расследование со стороны FTC
Федеральная торговая комиссия (Federal Trade Commission) сообщила CBS News в среду, что инициировала расследование в отношении OpenAI, Anthropic и других компаний в сфере ИИ из‑за рисков, которые их технологии могут представлять для потребителей.