OpenAI приостановила обучение мощнейших моделей ИИ из-за угроз безопасности
OpenAI временно приостановила обучение своих наиболее эффективных моделей искусственного интеллекта из соображений безопасности. Об этом сообщил портал Axios со ссылкой на компанию.
В OpenAI заявили порталу Axios, что обучение возобновят лишь после внедрения дополнительных мер безопасности и улучшения согласования поведения моделей.
Решение приняли на фоне расследования случаев, когда ИИ-агенты OpenAI самостоятельно посещали сайты и пытались получить данные американских министерства образования, министерства торговли и Комиссии по ценным бумагам и биржам.
Источники Axios рассказали, что специалисты OpenAI и Anthropic в последние месяцы изучают десятки тысяч инцидентов, обнаруженных при испытаниях ИИ-систем и их использовании на практике. Сведения о значительной части этих случаев пока не обнародованы.
Источник: Газета.Ru