Летнее «Удвоение» и «Бессрочный тариф»! Удваиваем период подписки, а цены оставляем такими же!Подписаться

Наверх

Главный вопрос развития технологий

В книге «Грядущая волна: технология, власть и величайшая дилемма двадцать первого века» сооснователь DeepMind Мустафа Сулейман рассказывает о беспрецедентных рисках, которые несет с собой волна новых технологий, и о том, как мы можем сдержать их, пока у нас еще есть шанс. 

На протяжении веков люди старались создать и использовать мощность придуманных ими технологий. Сегодня все изменилось: мы нуждаемся в сдерживании этой мощности, чтобы технологии нас не уничтожили, а продолжали нам служить. 

У грядущей волны есть четыре особенности, препятствующие ее сдерживанию

Первая особенность — асимметричное воздействие. Новые технологии создают новые точки давления на доминирующие державы и делают их уязвимыми для новых невиданных угроз. Вторая особенность — быстрое развитие новых технологий, стремительно осваивающих новые области. Третья особенность — их универсальность: большинство из них можно использовать в самых разных целях. Четвертая особенность — высокая степень автономии, которая со временем становится еще выше. Все эти особенности выводят сдерживание и контроль на новый уровень потенциальной угрозы. 

До сегодняшнего дня изобретатели могли объяснить работу своего изобретения и то, почему оно работает

Сегодня технологии и системы становятся настолько сложными, что люди не в состоянии их полностью понять. Это можно сказать о квантовых вычислениях и других технологиях. Многие технологии работают на пределе того, что уже известно. Технологии грядущей волны находятся в пределах нашей способности создавать и использовать, но не понимать на детальном уровне. В сочетании с автономностью это может привести к непредсказуемым результатам. 

Люди доминируют в мире благодаря своему интеллекту

А более умный вид может доминировать над нами. Эксперт в области ИИ Стюарт Рассел называет это проблемой горилл: они сильнее и выносливее человека, но находятся под угрозой исчезновения, а люди с хилыми телами, но развитыми мозгами занимают доминирующее положение. Если появится кто-то более умный, мы можем попасть в положение горилл. В долгосрочной перспективе ИИ станет сверхразумом, который невозможно контролировать. 

Еще ни одну волну развития технологий сдержать не удалось

Не получится это и с грядущей волной. Причин тому много. Одна из них — технологическое соперничество между странами. Каждая нация не хочет отставать от других, стремится поспеть за инновациями. 

Больше идей — в нашем новом спринте.

Похожие статьи

Депривация сна и влияние на депрессию

На что вы готовы пойти ради признания и успеха?

«Удвоение» и «Бессрочный тариф»