Знаменитости и ученые высказались против разработки «сверхразума»

Открытое письмо с призывом не разрабатывать сверхразумный ИИ опубликовала некоммерческая организация Future of Life Institute (FLI). Как пишет Time, его подписали более 700 зарубежных знаменитостей, политиков и ученых.

Инициаторы аргументируют запрет тем, что суперинтеллект нельзя создавать, пока не будет уверенности, что это можно сделать безопасно и под контролем, а также не будет полной поддержки общества.

Против нового «сверхразума» выступили пять нобелевских лауреатов, соучредитель Apple Стив Возняк, советник Папы Римского Паоло Бенанти, актёры Джозеф Гордон-Левитт и Стивен Фрай, рэпер will.i.am и писатель Юваль Ной Харари и даже сотрудник OpenAI Лео Гао.

В FLI ожидают, что по мере развития кампании к ней присоединятся и другие люди.

«Будущее искусственного интеллекта должно служить человечеству, а не заменять его», — написал принц Гарри в сообщении, сопровождавшем его подпись.

Авторы инициативы опасаются того, что ИИ, который может появиться уже через пару лет, обгонит человека по всем показателям.

Единственное, что может остановить процесс — это «всеобщее осознание в обществе на всех уровнях того, что на самом деле мы этого не хотим». Так изданию сказал исполнительный директор FLI Энтони Агирре.

«Время на исходе», — считает глава компании.

Организаторы к публикации письма добавили результаты опроса. Оказалось, что 64% американцев считают, что сверхразум развивать еще рано. С ними не согласны только 5% опрошенных.

Подобное письмо организация публиковала в 2023 г. Оно получило широкое обсуждение в обществе, но результата не принесло.