OpenAI приостановила обучение мощных моделей ИИ из-за угроз безопасности
OpenAI временно прекратила обучение своих наиболее мощных моделей искусственного интеллекта из-за угроз безопасности. Об этом сообщил портал Axios со ссылкой на компанию.
В OpenAI заявили Axios, что вернутся к обучению моделей, когда внедрят дополнительные меры защиты и улучшат согласование их поведения.
Решение приняли на фоне расследования случаев, когда ИИ-агенты OpenAI сами заходили на сайты и пытались получить данные министерства образования, министерства торговли и Комиссии по ценным бумагам и биржам США.
Источники Axios сообщили, что специалисты OpenAI и Anthropic в последние месяцы изучают десятки тысяч инцидентов, обнаруженных при испытаниях ИИ-систем и в ходе их использования. Сведения о значительной части этих случаев пока не публиковали.
Источник: Газета.Ru