Нейт Соарес, возглавляющий американский Институт исследований машинного интеллекта (MIRI), сформулировал предельно жесткий прогноз: у человечества, по его мнению, с вероятностью свыше 50% нет даже десяти лет до момента, когда развитие ИИ может привести к вымиранию.
В интервью журналу The Atlantic он объяснил это текущими темпами совершенствования технологий, заметив, что на фоне такой перспективы не видит смысла делать взносы в пенсионный счет, открытый еще во времена работы в Google. Иными словами, речь идет не об отвлеченной философской дискуссии, а о личной ставке человека, который профессионально занимается проблемами безопасности машинного интеллекта.
Этот тезис не возникает в вакууме. Ранее издание Politico опубликовало результаты соцопроса, показавшего, что американское общество в целом разделяет тревогу по поводу ИИ: 17% респондентов считают сценарий уничтожения человечества «почти наверняка» осуществимым, еще 20% видят в этом значительный риск, 26% — умеренный, и только 7% не видят угрозы вовсе. Таким образом, предупреждение Соареса ложится на уже подготовленную почву массового беспокойства, а не воспринимается как маргинальное мнение одиночки.
Дискуссия о темпах развития ИИ подкрепляется и позицией руководителей отрасли. 2 сентября директор Anthropic Дарио Амодеи призвал к координированному замедлению работы над передовыми моделями, чтобы выиграть «один-два года дополнительного времени» до достижения критических уровней. С этим согласились основатель SpaceX Илон Маск и глава OpenAI Сэм Альтман. При этом важно отметить, что упомянутые в материале The Atlantic и Politico не входят в российские реестры иностранных агентов или нежелательных организаций, тогда как «Атлантический совет» (Atlantic Council), название которого иногда путают с журналом The Atlantic, признан в России нежелательной организацией. Сами компании OpenAI и Anthropic в российских реестрах нежелательных организаций не значатся.
В итоге складывается картина, в которой личный отказ от пенсионных накоплений одного из ведущих специалистов по безопасности ИИ перестает быть эксцентричным жестом. Он становится частью более широкого сигнала: от научного сообщества до массового опроса и заявлений глав крупнейших ИИ-компаний прослеживается запрос на замедление и осторожность. Вопрос лишь в том, успеет ли этот запрос превратиться в скоординированные действия до того, как, по оценке Соареса, обратный отсчет достигнет нуля.
Ранее доцент НГУ опроверг теорию о восстании машин из-за обмана со стороны ИИ. IT-эксперт назвал главную угрозу бесконтрольного ИИ.