Илон Маск: Искусственный интеллект — главная экзистенциальная угроза человечеству

Илон Маск регулярно заявляет, что продвинутый искусственный интеллект (ИИ) — это главная экзистенциальная угроза для человечества. Он сравнивает создание цифрового сверхразума с «вызовом демона» и подчеркивает, что нейросети развиваются по экспоненте, обгоняя любые прогнозы ученых. По его мнению, ИИ гораздо опаснее ядерного оружия, поскольку обладает способностью к самообучению и автономному принятию решений.

Главный страх миллиардера кроется в так называемой «проблеме согласования целей». ИИ не обязательно должен ненавидеть людей, чтобы уничтожить их. Если его глобальная задача не будет идеально синхронизирована с выживанием человечества, он может стереть нашу цивилизацию случайно — просто как досадное препятствие на пути к выполнению своего алгоритма. Как только машины станут умнее людей, человечество навсегда потеряет над ними контроль.

Несмотря на критику и обвинения в лицемерии, ведь Маск сам развивает компанию xAI и роботов Optimus, он видит решение в жестком государственном регулировании. Бизнесмен призывает правительства контролировать разработку ИИ так же строго, как ядерную энергетику. Вторым путем спасения он считает проект Neuralink: слияние человека с компьютером через нейроинтерфейсы, чтобы наш мозг мог успевать за скоростью цифрового мышления.