Взломщики мозга
В своей книге «Разум хакера» Брюс Шнайер исследует концепцию хакерства за пределами стереотипных киберугроз, рассказывая о том, что хакерство глубоко укоренилось в различных системах — финансовых, политических и даже когнитивных. В одной из идей книги он рассматривает возможности взлома когнитивных систем человека.
Основные уязвимости связаны с тем, что наш мозг формировался в условиях, сильно отличающихся от современных. Когнитивные взломы основаны на том, что люди используют когнитивные ярлыки для взаимодействия с социальными и технологическими системами. Если вы можете взломать разум, вы можете взломать любую систему, которая управляется людьми. Когнитивные взломы так же стары, как и наш вид, и многие из них были нормализованы так давно, что мы даже не думаем о них как о взломах.
Компьютеры-манипуляторы
За последние пятьдесят лет компьютеры и интерфейсы предоставили больше возможностей для манипулирования восприятием людей. В сочетании с компьютерными алгоритмами и наукой о поведении эти разработки изменили скорость и изощренность манипулирования сознанием. Конечно, не стоит и преувеличивать, думая, что технологии полностью контролируют наш разум. Скорее, используемые методы представляют собой когнитивные подталкивания, манипуляции. В сочетании с развитым искусственным интеллектом эти методы станут гораздо более эффективными. Хотя такая защита от взлома, как исправление, не работает с когнитивными системами, просвещение и объявление конкретных взломов незаконными могут помочь предотвратить и смягчить ущерб.
Рекламные технологии взлома мозга
Современные рекламные технологии сосредоточены на взломе когнитивных систем, а не на простом объяснении преимуществ продукта потенциальным потребителям.
Рекламодатели и брокеры данных используют микротаргетинг для персонального взлома каждого человека, собирая и монетизируя огромное количество личной информации. Социальные сети используют алгоритмы для оптимизации взаимодействия с пользователями, конечной целью которых является удержание пользователей на платформе и показ большего количества рекламы. Это часто включает в себя представление все более поляризующего и специализированного контента. Эти системы могут создавать идеологические пузыри и сокращать взаимодействия, которые могли бы заставить людей пересмотреть убеждения.
Социальная инженерия
Атаки социальной инженерии могут проявляться в разных формах, таких, например, как фишинг и спирфишинг. Жертвам рассылаются персонализированные электронные письма, предназначенные для того, чтобы побудить их перейти по ссылке или открыть вложение. Злоумышленники используют технологию deepfake, чтобы обманом заставить людей переводить им деньги.
Уязвимость в доверии
Наши когнитивные системы основаны на доверии, и это делает нас уязвимыми для манипуляций со стороны злоумышленников и рекламодателей. С развитием искусственного интеллекта взлом доверия станет еще более изощренным, что затруднит распознавание истины даже скептикам.
О нас
MakeRight — сервис ключевых идей из бестселлеров литературы по бизнесу, личной эффективности, психологии и саморазвитию. 720+ материалов в библиотеке. 520+ аудиоверсий. Ключевые идеи книг, которые ещё не изданы на русском.
Оформите подписку и заряжайтесь идеями отборных книг каждый день!
