European media

Илон Маск: искусственный интеллект станет «бессмертным диктатором»

Elon Musk WARNING: Artificial Intelligence could be an ‘IMMORTAL DICTATOR’

26 0 555 3 min
Илон Маск предупреждает, что искусственный интеллект станет бесчуственным «бессмертным диктатором»

Илон Маск предупредил, что развитие искусственного интеллекта (AI) может привести к появлению «бессмертного диктатора» и, что более пугающе, этому диктатору «не надо быть злым, чтобы уничтожить человечество».

Миллиардер южноафриканского происхождения предупредил людей, чтобы они не попадались на пути у AI. По его мнению, создавая машины, превосходящие нас по разуму, мы прокладываем путь к собственной гибели. В конечном счете, если машина обретет сверхразум, она сможет легко управлять миром, а как говорится, абсолютная власть развращает абсолютно.

Обсуждая с американским режиссером Крисом Пейном новый документальный фильм «Вы доверяете этому компьютеру?» (‘Do You Trust This Computer?’), руководитель SpaceX и Tesla сказал: «Наименее страшное будущее, которое я могу представить, это где у нас будет хотя бы демократизированный AI, потому что если одной компании или небольшой группе людей удастся развить божественный цифровой суперинтеллект, они смогут захватить весь мир.

«По крайней мере, если правит кровожадный диктатор, тот он, как любое человеческое существо, все равно умрет. Но для ИИ не существует понятия смерти. Он будет существовать вечно.

«И тогда у нас будет бессмертный диктатор, от которого мы никуда не сможем деться».

Маск привел в качестве примера способности компьютеров к быстрому обучению Google DeepMind.

В 2016 году программа искусственного интеллекта от Google, известная как DeepMind, продемонстрировала своим создателям способность к самообучению в игре с чемпионом мира по Go!.

Маск предупреждает, что именно из-за детерминированности и скорости, с которой такие программы могут обучаться, однажды человечество встанет на их пути.

«Система DeepMind может выиграть в любой игре. Она уже обыграет вас во всех ранее выпущенных играх Atari.

«У нее сверхчеловеческие способности и она может выиграть в любой игре на супер скорости менее чем за минуту.

«AI не обязательно должен быть злым, чтобы уничтожить человечество.

«Если у AI есть цель, а человечество стоит на пути к ней, то он, конечно же, уничтожит его, даже не задумываясь. Никаких обид.

«Это похоже на ситуацию, когда мы строим дорогу, и если на пути попадается муравейник, то мы не относимся к муравьям с ненавистью, а просто прокладываем дорогу, и таким образом, до свидания, муравейник».

26 0

Рекомендуем