Эксперты допустили потерю контроля над ИИ в течение пяти лет
Человечество может потерять контроль над искусственным интеллектом в течение пяти лет. Такой сценарий описали эксперты британского Института Алана Тьюринга в опубликованном докладе.
Авторы доклада допускают, что за этот срок могут появиться системы ИИ, превосходящие человека почти во всех важных интеллектуальных задачах. Чем эффективнее они будут работать в стратегически значимых областях, тем сильнее, по мнению экспертов, станет давление в пользу передачи им права принимать решения.
Контроль может исчезнуть, если ИИ начнет предлагать стратегии, которые организации не сумеют оценить, и действовать быстрее, чем те смогут реагировать. При этом авторы подчеркивают: они описывают возможный сценарий, а не дают прогноз.
Генеральный директор американской компании OpenAI, разработчика ChatGPT, Сэм Альтман также допускал создание неподконтрольного человеку ИИ. Генеральный директор американской технологической корпорации Anthropic Дарио Амодеи предложил компаниям замедлить разработку самых мощных моделей. По его мнению, согласованные действия дадут им еще один-два года до достижения моделями критического уровня развития.
Источник: ТАСС