Группа известных деятелей из мира IT, включая экспертов в области искусственного интеллекта (ИИ), призвала приостановить попытки создать сверхинтеллект — форму ИИ, которая превзойдет человеческий интеллект по всем когнитивным задачам. Об этом говорится в материале на сайте новостного канала CNBC.

В заявлении содержится призыв не разрабатывать сверхразум до тех пор, пока это не станет возможным делать безопасно и контролируемо. Заявление подписали более 850 человек, включая лидеров в сфере технологий, таких как основатель Virgin Group Ричард Брэнсон и соучредитель Apple Стив Возняк.

Список подписавших заявление возглавили выдающиеся специалисты в области ИИ, в том числе ученые-компьютерщики Йошуа Бенджио и Джеффри Хинтон, которых считают «крестными отцами» современного ИИ. Подписи также поставили ведущие исследователи искусственного интеллекта, такие как Стюарт Рассел из Калифорнийского университета в Беркли.

Подписавшие недавнее заявление предупреждают, что перспектива появления сверхразума «вызвала опасения, начиная от экономического устаревания человечества и лишения его прав и возможностей, утраты свободы, гражданских прав, достоинства и контроля и заканчивая рисками для национальной безопасности и даже потенциальным вымиранием человечества».

Помимо деятелей в сфере искусственного интеллекта и технологий, за заявлением стоят представители широкой коалиции, в которую входят ученые, представители СМИ, религиозные лидеры и двухпартийная группа бывших политиков и чиновников США. 

«Суперинтеллект» стал модным словом в мире ИИ, компании, от xAI Илона Маска до OpenAI Сэма Альтмана конкурируют за создание более продвинутых моделей ИИ. Марк Цукерберг зашел так далеко, что назвал свое отделение Meta Superintelligence Labs («Лаборатория суперинтеллекта»). Его задача — создание искусственного суперинтеллекта, который сможет выполнять поставленные перед ним задачи на уровне человека или даже лучше.