Компания Google разрабатывает “большую красную кнопку”
Безусловно, пока опасаться восстания машин не стоит… Однако, компания Google на всякий случай решила обезопасить своих соучредителей. Подразделение Google DeepMind вместе с оксфордским Институтом будущего человечества (FoH) провело исследование, в котором описана тактика взятия искусственного интеллекта под контроль в случае неподчинения.
Ученые сошлись во мнении, что лучшим средством остановить восстание машин станет “большая красная кнопка”, которую можно будет нажать в любой момент.
Искусственный интеллект очень быстро учится и вскоре может превзойти человечество, говорят ученые. Доказательством этого суждения может служить эксперимент, который прошел в 2013 году. Игровой алгоритм вычислил, что при нажатии паузы во время игры Tetris, проиграть станет невозможно.
Чтобы держать под контролем потенциальное восстание машин, исследователи разрабатывают алгоритмы, которые при возникновении малейшей опасности смогут остановить работу искусственного интеллекта (ИИ). Но в DeepMind и FoH подчеркивают, что сделать это будет непросто из-за автономной работы ИИ.
Ученые сообщают, что лучшим способом прервать “робокалипсис” станет запуск в машинах внутренней аварийной системы контроля, которая вынудит ИИ остановиться. Отправить же сигнал на эту машину сможет любой человек и в любое время.
