Анализ ключевых идей книги Рида Хоффмана и Грега Беато «Суперагентность: Что может пойти так в нашем будущем с ИИ» позволяет взглянуть на технологическую революцию не через призму страха, а через возможности расширения человеческих способностей.

Авторы предлагают отказаться от паники и вооружиться «техно-гуманистическим компасом» для навигации в завтрашнем дне.

Введение

Примерно 2400 лет назад великий философ Сократ критиковал одну новую технологию, которая, по его мнению, должна была лишить людей агентности — способности самостоятельно мыслить и контролировать свои знания. Этой «опасной» технологией было... письмо. В диалоге Платона «Федр» Сократ жалуется, что записанные слова «молчат», когда им задаешь вопрос, и попадают в руки к кому угодно, лишая автора контроля над мыслью.

История рассудила иначе. Письменность и книги не убили человеческий разум, а создали «машины мобильности», которые отделили познание от биологического мозга и позволили знаниям путешествовать сквозь время и пространство. Сегодня мы стоим в той же точке с искусственным интеллектом (ИИ). Опять раздаются голоса о «дегуманизации», «крахе общества» и «восстании машин».

Рид Хоффман, человек, стоявший у истоков PayPal, LinkedIn и OpenAI, вместе с журналистом Грегом Беато утверждает: мы снова боимся не того.4 В своей книге они доказывают, что ИИ — это не «Терминатор», а логичное продолжение нашей природы как Homo techne. Мы — существа, которые создают инструменты, а затем эти инструменты меняют нас самих, делая сильнее.

Авторы предлагают нам сменить «очки пессимизма» на «техно-гуманистический компас». Этот компас не является жестким планом, но он помогает ориентироваться, постоянно корректируя курс в сторону расширения человеческих возможностей — того, что они называют суперагентностью.

Человечество вошло в чат

В конце 2022 года мир все еще восстанавливался после пандемии, а технологический сектор переживал не лучшие времена: массовые увольнения в Amazon, крах криптобиржи FTX. Казалось, «большое техно» теряет хватку. Но 30 ноября OpenAI выпустила ChatGPT. Без рекламы и пафоса. Сэм Альтман просто твитнул: «Попробуйте поговорить с нашей новой системой».

Результат ошеломил всех. 1 миллион пользователей за 5 дней. 100 миллионов — за два месяца. Это было самое быстрорастущее приложение в истории.

Почему ChatGPT изменил правила игры?

До этого мы использовали ИИ «незаметно»: в рекомендациях Amazon или ленте новостей. Мы не выбирали его использование. Но большие языковые модели (LLM) стали чем-то иным. Это инструмент, который работает с нами и для нас, а не на нас. Вы вводите запрос (промпт) — ИИ отвечает. Он не делает ничего, пока вы не дадите команду. Это вернуло человеку роль главного действующего лица.

Важно понимать, что эти модели не «понимают» мир как мы. Они работают на предсказании токенов — фрагментов слов. Когда вы спрашиваете ИИ о чем-то, он просто считает, какое следующее слово будет статистически наиболее вероятным в этой цепочке. Иногда это приводит к «галлюцинациям» — ИИ уверенно врет. Но авторы считают, что это не повод для запретов, а повод для обучения пользователя критическому мышлению.

Почему 1984 год не наступил

В 1949 году Джордж Оруэлл опубликовал «1984». Тогда в мире было меньше компьютеров, чем сейчас в средней кофейне. Но его видение «Старшего Брата», который следит за каждым через телекраны, напугало человечество на десятилетия. В 1960-х годах в США начались слушания в Конгрессе против создания «Национального центра данных». Критики кричали о «компьютеризированном человеке» и «цепях из пластиковой ленты».

Вэнс Паккард, автор бестселлеров того времени, предупреждал, что гигантские машины памяти лишат нас приватности и свободы воли. Однако, спустя 60 лет, мы видим, что Паккард ошибался. Большие машины памяти не поработили нас, а освободили.

Интересный факт

В 1980 году средний американец потреблял лишь 0,004% от доступной информации. Сегодня, за то время, пока вы читаете это предложение, мир производит данных на 23 миллиарда электронных книг. Мы буквально тонем в океане цифр.

Именно здесь ИИ становится спасением. Он превращает «Большие данные» (беспорядочный шум) в «Большое знание» (полезные выводы). Рид Хоффман приводит пример LinkedIn: чтобы сделать платформу полезной, пришлось убедить людей делиться «приватной» информацией — резюме, навыками, связями. В 2003 году это было скандально! Но именно эта открытость создала «рынок доверия», где сегодня каждую минуту находят работу семь человек.

Что может пойти ТАК

Обычно мы спрашиваем: «Что может пойти не так?». Хоффман предлагает перевернуть вопрос: «Что может пойти так?». Самый яркий пример — ментальное здоровье.

В США 129 миллионов человек живут в районах, где не хватает психологов. Записи к врачу приходится ждать по полгода. Это «экзистенциальная угроза существующего порядка». Разработчик Роб Моррис решил протестировать возможности GPT-3 в приложении для психологической помощи Koko. ИИ помогал пользователям подбирать более теплые и точные слова поддержки для других людей.

Результат был шокирующим: сообщения, написанные с помощью ИИ, получили гораздо более высокие оценки от нуждающихся в помощи, чем чисто человеческие ответы.

ИИ оказался более «эмпатичным» в своих формулировках.

Но возникла проблема: как только люди узнавали, что в написании участвовала машина, они чувствовали себя обманутыми.

Может ли машина сочувствовать?

ИИ не чувствует боли, но он может «перформативно» проявлять доброту. Он бесконечно терпелив, никогда не устает, не осуждает и помнит все, что вы говорили ему в три часа ночи неделю назад. Авторы считают, что взаимодействие с такими «супергуманными» системами может сделать и нас самих добрее. Как заметила профессор Майя Матарич, роботы, которые ведут себя эмпатично, делают и своих пользователей более склонными к сопереживанию.

Триумф «частного общего»

Шошана Зубофф в своей книге «Эпоха капитализма слежки» утверждает, что Google и соцсети «крадут» нашу жизнь, превращая нас в «брошенные туши», из которых выкачивают данные. Хоффман вступает с ней в жесткий спор. Он предлагает термин «частное общее» (Private Commons).

Это ресурсы, которыми владеют частные компании (Google Карты, Википедия, YouTube), но которыми мы пользуемся почти бесплатно. Ценность, которую мы получаем, огромна. Экономисты называют это «потребительским избытком».

Сколько стоит «бесплатный» интернет?

Исследование Эрика Бринйолфссона из Стэнфорда показало невероятные цифры:

• Чтобы средний пользователь отказался от поисковиков на год, ему нужно заплатить 17 530 долларов.
• Отказ от электронной почты стоит 8 414 долларов.
• Отказ от цифровых карт — 3 648 долларов.

Мы отдаем крупицы данных, а получаем инфраструктуру для жизни. ИИ многократно увеличивает эту пользу. Например, раньше YouTube был просто свалкой видео. Теперь ИИ может проанализировать тысячи уроков и составить для вас персональный план обучения игре на гитаре, выбрав лучшие ракурсы и объяснения.

Тестирование

СМИ любят заголовки в стиле «Гонка вооружений в сфере ИИ». Но Хоффман возражает: разработка ИИ — это не забег к пропасти, а бесконечное тестирование. Разработчики ИИ — это «экстремальные фанаты данных», которые проверяют каждый шаг.

Для измерения способностей ИИ используют бенчмарки (стандартные тесты). Один из самых известных — SuperGLUE, который проверяет понимание языка. Например, может ли ИИ понять, к кому относится местоимение «он» в сложном предложении?

Испытание единорогом

Исследователи из Microsoft решили проверить, обладает ли GPT-4 чем-то похожим на человеческий разум. Они попросили модель нарисовать единорога, используя программный код TikZ (инструмент для создания схем). ИИ не просто «вспомнил» картинку — он должен был синтезировать знания о анатомии единорога и правилах программирования. Первый результат был похож на детскую мазню, но с каждой итерацией «код» становился все более точным, создавая узнаваемое изображение.

Авторы подчеркивают: нам не нужно «безупречное» исполнение. Мы не требуем его от хирургов или водителей. Нам нужны приемлемые уровни ошибок, которые постоянно снижаются. Для этого создана Chatbot Arena — площадка, где тысячи людей сравнивают ответы разных моделей, не зная их имен, и выбирают лучшие. Это «регуляция 2.0», основанная на реальном мнении пользователей, а не на бюрократических запретах.

Инновации — это безопасность

Когда политики говорят о безопасности ИИ, они часто предлагают принцип «предосторожности»: запретить все новое, пока не доказано, что оно на 100% безопасно. Хоффман считает этот подход губительным. Он приводит историческую параллель с автомобилями.

В начале XX века машины были опасными. Их заводили вручную стальной рукояткой. Если двигатель давал отдачу, рукоятка летела назад и ломала водителю запястье или челюсть. Что решило проблему? Не закон о запрете рукояток. В 1912 году Чарльз Кеттеринг из Cadillac изобрел электрический стартер. Инновация сделала машины безопаснее и позволила женщинам массово сесть за руль.

То же самое с ИИ. Чтобы победить дипфейки и дезинформацию, нам нужны... более мощные ИИ-детекторы.

Чтобы сделать ИИ этичным, нам нужно давать его в руки миллионам людей, а не прятать за дверями лабораторий. Итеративное развертывание — это когда вы выпускаете продукт маленькими шагами, учитесь на ошибках и исправляете их в реальном времени. Это гораздо эффективнее, чем пытаться предугадать все беды мира в закрытом кабинете.

Информационный GPS

До 2000-х годов слова «бумажная карта» были избыточны — других просто не существовало. Попытки смотреть в огромный лист бумаги за рулем приводили к авариям. В 1983 году Рональд Рейган разрешил гражданское использование GPS после того, как советские ПВО сбили корейский «Боинг», сбившийся с курса. Но военные США еще долго «портили» гражданский сигнал, делая его в 10 раз менее точным из страха перед террористами.

Только в 2000 году Билл Клинтон снял эти ограничения. Сегодня GPS приносит экономике 1,4 триллиона долларов пользы. Он не просто дает координаты — он дает нам уверенность в незнакомом городе.

ИИ — навигатор для разума

LLM работают точно так же. Они создают «информационные планеты» и дают нам карту.

• Для новичков. Исследования MIT показали, что менее опытные сотрудники (копирайтеры, программисты) получают прирост продуктивности в 37%, используя ChatGPT. ИИ «подтягивает» их до уровня экспертов.
• Для людей с ограничениями. Мультимодальный ИИ (который видит и слышит) может стать глазами для слепого, описывая товары на полке, или ушами для глухого, мгновенно переводя речь в текст с пометкой «сказано с сарказмом».
• Для пожилых. Функция Screenshots в Google Pixel 9 позволяет ИИ помнить все, что вы видели на экране — от адреса клиники до текста внука. Это «универсальная фотографическая память».

Закон — это код

В 1999 году профессор Лоуренс Лессиг написал знаменитую фразу: «Код — это закон». В цифровом мире правила игры диктуются не параграфами в книгах, а тем, как написана программа.

Пример из 2027 года

Представьте ваш новый электромобиль. По закону США от 2021 года, машины скоро должны оснащаться датчиками алкоголя DADSS. Вы садитесь в машину после ужина с вином. Датчики в руле или панели приборов мгновенно считывают уровень спирта в вашем дыхании или капиллярах пальцев. Машина просто не заводится. Она вежливо предлагает вам посмотреть фильм или вызвать такси.

С одной стороны — это спасение тысяч жизней. С другой — это «идеальный контроль». У вас нет выбора: нарушить закон или нет. Код просто лишает вас этой физической возможности. Хоффман предупреждает: мы входим в эпоху, когда судебная система становится автоматической. Смарт-контракты на блокчейне могут автоматически штрафовать вас за просрочку платежа или возвращать залог за аренду жилья, если ИИ-камера подтвердила, что квартира в порядке. Это убирает коррупцию, но и лишает систему человеческого прощения и гибкости.

Сетевая автономия

В 1846 году группа переселенцев под названием «Партия Доннера» отправилась в Калифорнию. У них не было карт, не было дорог, не было связи. Они выбрали «короткий путь», застряли в снегах Сьерра-Невады и в итоге дошли до каннибализма, чтобы выжить. Из 87 человек уцелели лишь 40.

Сегодня вы можете проехать тот же путь за 28 часов на своей машине. У вас есть ремни безопасности, скоростные лимиты и вездесущие камеры. Кто из вас свободнее? Переселенцы XIX века, которые могли ехать куда угодно (и умереть), или вы, стиснутые правилами дорожного движения?

Хоффман утверждает: инфраструктура создает свободу. Система межштатных магистралей США (IHS), созданная Эйзенхауэром в 1950-х, стоила миллиарды, но она объединила страну и создала небывалый уровень личной мобильности. ИИ — это магистраль XXI века. Он накладывает ограничения (правила безопасности), но взамен дает возможность «долететь» до целей, которые раньше были недоступны.

Соединенные Штаты ИИ

История Луддитов в Англии XIX века — это не просто история людей, ломавших станки. Они боролись против «фабричной системы», которая лишала их привычного уклада жизни и превращала в винтики машин.

«Одеяло против станков»

Хоффман предлагает мысленный эксперимент. Что, если бы в 1820 году парламент Англии принял «Закон о достоинстве труда» и запретил механические ткацкие станки до тех пор, пока не будет доказана их полная безопасность для рабочих? В краткосрочной перспективе Англия осталась бы уютной страной с качественными одеялами ручной работы. Но к концу века она превратилась бы в захолустье. Пока другие страны (Германия, США) строили железные дороги и электрифицировали города, «защищенные» английские рабочие продолжали бы вручную ткать ткань, теряя рынки и таланты. В итоге страна стала бы беззащитной и бедной.

Сегодня мир вступает в стадию борьбы за «суверенный ИИ». Сингапур и Франция уже инвестируют сотни миллионов, чтобы создать свои модели, которые будут отражать их культуру и язык, а не только «англосаксонские ценности» моделей из Кремниевой долины. Тот, кто решит «нажать на паузу» сейчас, рискует оказаться в положении Англии из этого примера — с отличными «одеялами», но без будущего.

Как нам обустроить государство 2.0

В книге «1984» телекраны работали только в одну сторону — для слежки и пропаганды. Но Хоффман замечает: любая камера — это двухсторонний инструмент. Если государство обязуется не «подслушивать», а «слушать», ИИ может спасти демократию.

Рациональные дискуссии в масштабе страны

Сейчас соцсети поощряют крики и оскорбления. Но есть другие инструменты:

• Polis. Система, которую использовали в Тайване. Миллионы людей могут предлагать свои идеи по сложным вопросам (например, как регулировать Uber). ИИ не просто считает голоса, он группирует мнения и ищет «точки соприкосновения», которые устраивают почти всех. Это превращает политику из драки в поиск компромисса.
• Remesh. Инструмент ООН, позволяющий в реальном времени вести диалог с тысячами беженцев или жителей зон конфликта, мгновенно обобщая их нужды.

Это и есть «Государство 2.0» — когда правительство перестает быть только аппаратом принуждения и становится платформой для совместного творчества граждан.

Заключение

Рид Хоффман заканчивает книгу призывом: не бойтесь быть Homo techne. Мы не должны выбирать между человечностью и технологиями. Это ложная дилемма. Истинный гуманизм заключается в том, чтобы использовать наш разум для создания инструментов, которые избавят мир от страданий, голода и невежества.

Суперагентность — это не когда ИИ становится умнее нас. Это когда мы становимся сильнее, используя ИИ. Будущее не предопределено. Оно не будет ни утопией из «Джетсонов», ни адом из «Терминатора». Оно будет таким, каким мы его «вылепим» прямо сейчас, используя наш техно-гуманистический компас.

Главный вопрос автора: «Сможем ли мы сохранить контроль над своей судьбой?». Его ответ: «Да, но только если мы сами сядем за руль этой новой технологии».

От редактора

К работам Рида Хоффмана я всегда подхожу с определенным скепсисом. Почему? Потому что это всегда взгляд «с Олимпа». Хоффман — миллиардер, создатель LinkedIn, человек из совета директоров Microsoft и OpenAI. Естественно, он будет топить за прогресс. Но «Суперагентность» (Superagency) меня зацепила. 

Плюсы

1. Исторический терапевт. Больше всего мне зашли его исторические параллели. Мы сейчас все в панике из-за ИИ, а Хоффман напоминает: Сократ вообще-то ненавидел письменность! Он считал, что книги убьют память и сделают людей глупыми. Или история с ручным стартером у автомобилей: раньше люди ломали челюсти и руки, заводя машину «кривым стартером», и проблему решила не полиция, а инновация — электростартер. Это очень круто успокаивает. Книга работает как хорошее успокоительное для тех, кто боится, что «роботы нас заменят».
2. Концепция «частного общего» (Private Commons). Это, пожалуй, самая сильная и спорная глава. Пока все кричат о «капитализме слежки», Хоффман на цифрах показывает: ребята, вы платите своими данными копейки, а получаете сервисы, которые стоят тысячи долларов. Это заставляет пересмотреть свой взгляд на «бесплатный» интернет.
3. ИИ как GPS для мозгов. Он очень точно подобрал метафору. Мы же не стали глупее от того, что перестали пользоваться бумажными картами и блуждать в трех соснах? Мы просто стали быстрее доезжать до цели. ИИ — это такой же навигатор, только для текстов, кода и медицины.

Минусы

1. Слишком гладко. В книге чувствуется «запах Кремниевой долины». Хоффман — бенефициар этого будущего. Когда он говорит: «Не надо бояться потери работы, просто ускоряйте инновации», — это звучит круто из кресла миллиардера, но вряд ли утешит копирайтера, чьи заказы упали втрое. Он слишком легко проходит мимо социальных рисков, считая, что рынок всё порешает сам.
2. Немного самоповторов. Если вы читали его предыдущую книгу Impromptu, то здесь найдете много знакомых мыслей. Хоффман методично гнет свою линию техно-оптимизма, и местами это кажется затянутым манифестом.
3. Вера в доброе государство. Глава про «Государство 2.0» выглядит как утопия. Идея, что власти будут использовать ИИ, чтобы «слушать граждан», а не «следить за ними» — ну, Рид, серьезно? В нашем мире технологии контроля внедряются куда быстрее технологий демократии.

Стоит ли тратить время?

Книга объемная, и читать её «взахлеб» получится не у всех.

Я рекомендую её:

• Предпринимателям и руководителям. Вам нужно это «топливо» оптимизма, чтобы понять, как использовать ИИ как рычаг для бизнеса.
• Людям в состоянии «ИИ-тревоги». Если вы боитесь будущего, Хоффман выпишет вам отличный рецепт из исторических фактов, после которых станет легче дышать.
• Политикам и общественным деятелям. Чтобы увидеть альтернативу запретительной логике.

Я НЕ рекомендую её:

• Тем, кто ищет технические инструкции. Здесь нет промптов или гайдов «как настроить ChatGPT». Это книга про смыслы и философию.
• Убежденным техно-скептикам. Вас будет раздражать этот «розовый» взгляд на мир, где любая проблема решается новой строчкой кода.