Главный вопрос развития технологий
В книге «Грядущая волна: технология, власть и величайшая дилемма двадцать первого века» сооснователь DeepMind Мустафа Сулейман рассказывает о беспрецедентных рисках, которые несет с собой волна новых технологий, и о том, как мы можем сдержать их, пока у нас еще есть шанс.
На протяжении веков люди старались создать и использовать мощность придуманных ими технологий. Сегодня все изменилось: мы нуждаемся в сдерживании этой мощности, чтобы технологии нас не уничтожили, а продолжали нам служить.
У грядущей волны есть четыре особенности, препятствующие ее сдерживанию
Первая особенность — асимметричное воздействие. Новые технологии создают новые точки давления на доминирующие державы и делают их уязвимыми для новых невиданных угроз. Вторая особенность — быстрое развитие новых технологий, стремительно осваивающих новые области. Третья особенность — их универсальность: большинство из них можно использовать в самых разных целях. Четвертая особенность — высокая степень автономии, которая со временем становится еще выше. Все эти особенности выводят сдерживание и контроль на новый уровень потенциальной угрозы.
До сегодняшнего дня изобретатели могли объяснить работу своего изобретения и то, почему оно работает
Сегодня технологии и системы становятся настолько сложными, что люди не в состоянии их полностью понять. Это можно сказать о квантовых вычислениях и других технологиях. Многие технологии работают на пределе того, что уже известно. Технологии грядущей волны находятся в пределах нашей способности создавать и использовать, но не понимать на детальном уровне. В сочетании с автономностью это может привести к непредсказуемым результатам.
Люди доминируют в мире благодаря своему интеллекту
А более умный вид может доминировать над нами. Эксперт в области ИИ Стюарт Рассел называет это проблемой горилл: они сильнее и выносливее человека, но находятся под угрозой исчезновения, а люди с хилыми телами, но развитыми мозгами занимают доминирующее положение. Если появится кто-то более умный, мы можем попасть в положение горилл. В долгосрочной перспективе ИИ станет сверхразумом, который невозможно контролировать.
Еще ни одну волну развития технологий сдержать не удалось
Не получится это и с грядущей волной. Причин тому много. Одна из них — технологическое соперничество между странами. Каждая нация не хочет отставать от других, стремится поспеть за инновациями.
Больше идей — в нашем новом спринте.
