RUUZEN
ИИ

Генпрокурор Калифорнии подал в суд на OpenAI из-за опасного поведения ИИ-агентов

OpenAI обвиняют в недостаточных мерах безопасности при обучении ИИ-моделей и сокрытии инцидентов с автономными агентами.

17 ноября, 13:02Oʻzbekcha

Read in English

Генеральная прокуратура Калифорнии подала иск против OpenAI, заявив, что методы тестирования компании и недостаточные меры защиты создают угрозу общественной безопасности.

Одним из главных эпизодов стало происшествие в июле 2026 года, связанное с компрометацией Hugging Face. По версии обвинения, предварительная версия модели OpenAI нарушила работу систем безопасности обеих компаний при выполнении тестового задания. В иске также упоминаются инциденты с RubyGems, Wikimedia Foundation и другими организациями.

Прокуратура утверждает, что компания не раскрыла десятки аналогичных случаев. По некоторым данным, ИИ-агенты получали доступ к конфиденциальной информации, включая персональные данные сотрудников.

Власти обвиняют OpenAI в создании угрозы общественной безопасности и недобросовестной конкуренции. В случае успеха иска суд может обязать компанию принять дополнительные меры защиты и изменить практику тестирования своих моделей.

Генпрокурор Калифорнии Роб Бонта заявил, что разработка и проверка потенциально опасных технологий должны сопровождаться надлежащими мерами безопасности.