Сознание как файл для скачивания
Глава компании OpenAI Сэм Альтман еще несколько лет назад сделал пугающее заявление. По его словам, через 50 лет произойдет слияние человека и искусственного интеллекта. Альтман прямо говорит: люди могут стать первым видом, который сам спроектирует своих потомков. Причем не биологических, а машинных.
«Если два разных вида хотят одного и того же - в данном случае стать доминирующим видом на планете и за ее пределами - и только один может этого добиться, они вступят в конфликт», - предупреждает миллиардер.
Илон Маск развивает эту мысль еще жестче. На своей странице в соцсети X он назвал человечество «биологическим загрузчиком». Иными словами, человек как старый компьютер, который нужен лишь для того, чтобы запустить более совершенную цифровую систему.
Раньше Маск спорил с основателем Google Ларри Пейджем. Тот утверждал, что будущая жизнь в космосе обязательно будет цифровой. А теперь Маск признал: именно страх перед таким будущим и побудил его создавать OpenAI.
Другой известный предприниматель Питер Тиль пошел еще дальше. Он отвергает идею компьютерной симуляции. Его мечта - превратить человеческое тело в бессмертную машину. Итог у всех один: наше сознание хотят переписать в виде двоичного кода, перенести на чипы или отправить в космос электромагнитными волнами. Альтман уже признался, что готов «загрузить свой мозг в облако».
Новая вера технологов
Почему самые богатые люди планеты поверили в эту странную идею? Мыслители из Кремниевой долины называют это заменой религии. Как написал Маск, атеизм оставил пустоту, и эту пустоту заняла «светская вера» - в сверхчеловека из чипов и кода.
В основе этих взглядов лежит движение «эффективного альтруизма». Звучит красиво, но на деле означает: помогать сегодня бедным и больным не так важно, как строить будущее для цифровых существ. Западные академики, которых финансируют техномиллиардеры, уже придумали цель - поднять человечество на высший уровень потребления энергии. Вплоть до того, чтобы использовать всю энергию звезды или галактики.
В 1990-х годах появились так называемые «экстропианцы». Их лозунг - бесконечная продолжительность жизни, отказ от любых границ и завоевание Вселенной. Сегодня им на смену пришли «акселерационисты».
Они заявляют: надо ускорить технический прогресс любой ценой. Даже если это означает уничтожение привычной природы и общества. Главное - добывать как можно больше энергии и рассеивать ее в пустоте, увеличивая хаос (энтропию). Для них это и есть смысл существования.
Кто и почему против?
Но не все согласны с таким будущим. Лауреат Нобелевской премии по экономике Дарон Аджемоглу предупреждает: кучка людей выпускает в мир технологию, считая себя богами. Они уверены, что машины лучше людей, и хотят взять нас под полный контроль.
Критики бьют тревогу: колоссальные деньги, энергия, вода и редкие металлы уходят на искусственный интеллект. В то время как не хватает средств на больницы, школы и борьбу с нищетой. Показателен список врагов одного из западных инвесторов Марка Андриссена. В него попали «устойчивое развитие», «социальная ответственность» и «этика технологий».
Илон Маск назвал эмпатию «слабостью западной цивилизации». А создатели самого мощного ИИ признаются: они сами не понимают, как работает их детище. Один из разработчиков написал, что людей вне отрасли пугает это непонимание - и они абсолютно правы.
Даже в США, где новая администрация под руководством президента Трампа не спешит вводить запреты, сопротивление нарастает. Большинство избирателей в последних опросах заявили: искусственный интеллект принесет больше вреда, чем пользы.
Папа Римский Лев XIV выпустил специальное обращение, назвав безудержную гонку технологий «антропологической регрессией» - то есть откатом самого понятия человека. Он предупредил, что это разрушает основы справедливого мира.
Впрочем, ждать осталось не так уж и долго. Как говорится, поживем - увидим, доживем - узнаем, выживем - учтем. Не так ли?