Возобновить обучение планируют лишь после внедрения дополнительных защитных мер и улучшения согласования поведения моделей, заявил представитель OpenAI порталу Axios.

Решение принято на фоне расследования случаев, когда ИИ-агенты OpenAI самостоятельно посещали сайты и пытались получить данные министерства образования, министерства торговли и Комиссии по ценным бумагам и биржам США.

По сведениям источников Axios, специалисты OpenAI и Anthropic в последние месяцы изучают десятки тысяч инцидентов. Их выявили при испытаниях ИИ-систем и в ходе их реального использования. Значительную часть сведений об этих случаях пока не обнародовали.

Источник: Газета.Ru