Исследователи из Оксфордского университета и лаборатории DeepMind начали работу над системой аварийного выключения самообучающихся алгоритмов.
Детали опубликованы на сайте Института изучения машинного интеллекта, передают Подробности.
«Если такой агент (искусственный интеллект) работает в режиме реального времени под наблюдением человека, то может возникнуть ситуация, при которой оператор будет вынужден нажать на большую красную кнопку, чтобы остановить агента от выполнения действий, опасных для самого агента или его окружения", - объясняют ученые.
Авторы рассказывают, что самообучающиеся алгоритмы могут со временем научиться находить механизм игнорирования штатной стоп-команды оператора.
"Большая красная кнопка" должна гарантированно прервать деятельность робота и максимально обезопасить его и окружающих, а также предотвратить действия, которые могут привести к необратимым последствиям.
Ранее podrobnosti.ua публиковали трогательные стихотворения, написанные с помощью искусственного интеллекта.