Маск уверен, что ИИ от DeepMind станет угрозой цивилизации уже через 5 лет

Разработчик алгоритмов, победивших человека в го, шашки, сеги и Starcraft II, выращивает, по мнению главы Tesla и SpaceX, опасную для человечества технологию, способную дестабилизировать ситуацию во всем мире. Это произойдет уже через пять лет, но мы можем этого даже не заметить.

Совсем недавно предприниматель Илон Маск вновь поднял тему опасностей искусственного интеллекта для человечества, когда заявил, что многие умные люди — в силу своего высокомерия — не признают возможности того, что ИИ сможет когда-либо превзойти их.

«Насколько я вижу, больше всего ошибаются насчет ИИ очень умные люди, потому что они не могут представить себе, что компьютер сможет стать намного умнее их. В этом недостаток их логики. Они попросту намного глупее, чем думают», — написал он на прошлой неделе в Твиттере.

Маск бьет тревогу уже давно. В 2016 он предупреждал, что человек может стать домашним питомцем для машин, захвативших власть. И с тех пор регулярно призывает к регулированию технологии ИИ. Кроме того, он стал сооснователем некоммерческой организации OpenAI, с которой порвал, когда стало ясно, что ее реальные принципы отличаются от декларируемых, и никто не знает, над чем на самом деле работает одна из сильнейших в мире команд в области ИИ.

Но, как пишет BI, среди всех разработчиков ИИ больше всего Маска беспокоит DeepMind, подразделение Google.

«Сама природа всех ИИ, которые они создают, в том, чтобы побеждать человека во всех играх, — сказал глава Tesla в интервью The New York Times. — Я имею в виду, это же основной сюжет «Военных игр».

В этом фильме времен холодной войны хакер-подросток подключается к правительственному суперкомпьютеру, которым управляет ИИ и который обучается на симуляторах военных действий. В ходе игры ИИ убеждает власти, что ядерная атака со стороны СССР неизбежна.

Сравнивая алгоритмы DeepMind с «Военными играми» Маск утверждает, что уже в ближайшие пять лет ИИ превзойдет человека по интеллекту и мы, скорее всего, этого даже не заметим.

«Это не значит, что через пять лет все отправится в ад, — пояснил он. — Только то, что ситуация станет нестабильной и странной».

Маск сам был одним из ранних инвесторов в стартап DeepMind, который в 2014 приобрела за $500 млн Google. В интервью 2017 года он объяснил, что пошел на этот шаг не ради прибыли, а чтобы присматривать за развитием ИИ ресурсами одной из самых сильных инженерных команд в мире. «Это дало мне возможность лучше понять скорость, с которой улучшались все алгоритмы ИИ, и я думаю, что они действительно улучшаются все быстрее, гораздо быстрее, чем думают люди», — объяснил свои действия Маск.

Команда DeepMind приобрела известность как разработчик алгоритма AlphaStar, гроссмейстера шахмат, го, сеги, а также 57 классических игр Atari и стратегической многопользовательской игры StarCraft II. В начале года стало известно, что ученые взялись за одну из самых сложных задач биологии — процесс сворачивания белка. Они намерены использовать принципы вероятностного подхода для моделирования системы вознаграждения, основанной на дофамине.