«Монополизация ИИ и дипфейки куда опаснее восстания машин»: что делать, чтобы прогресс не обернулся против человека

*Адепты эффективного акселерационизма (e/acc) уверены, что свободный от жесткого регулирования научно-технический прогресс — в первую очередь в области ИИ — гарантирует всеобщее благоденствие. С этим согласен и Степан. Противостоят им децелерационисты (также их называют «децелами») — они видят опасность в быстром развитии ИИ и выступают за его замедление и серьезное ограничение. Более радикальные взгляды у ИИ-думеров — нигилистов, голосующих за полный отказ от технологии.

Содержание:

• «Будущее с ИИ — не столько про киборгов и метавселенные, сколько про удобный быт»
• «Сегодняшние проблемы нельзя решить сегодняшними инструментами»
• «За счастливое будущее в ответе предприниматели и инвесторы»

Степан Гершуни, инвестор венчурного фонда Cyber Fund, крипто- и ИИ-энтузиаст

«Будущее с ИИ — не столько про киборгов и метавселенные, сколько про удобный быт»

— Что для тебя означает технологичное будущее?

Это не обязательно что-то футуристичное вроде киборгов и метавселенных — по крайней мере, в перспективе ближайшего десятилетия. Это про удобный быт.

Каждый день, вызывая такси или подписывая документы, я четко чувствую: мы — последнее поколение, которое тратит столько времени и сил на рутину. Уже завтра, через год или пять лет всевозможные умные сервисы автоматизируют миллионы рядовых задач — вовремя закажут продукты, спланируют расписание, вычитают договор.

— Уже есть сервисы, которые могут сгенерировать письмо коллеге и поболтать с ребенком перед сном. Но быт большинства пока не изменился, по крайней мере кардинально. Почему думаешь, что перемены все же скоро случатся?

Сейчас даже самая развитая нейросеть — не более чем ребенок, который съел «Википедию». Но все ускоряется в геометрической прогрессии.

Пару лет назад про генеративный ИИ и большие языковые модели знали только энтузиасты и фрики. А сейчас только у ChatGPT больше 100 миллионов пользователей ежемесячно, нейросети гуглят наравне с фитнесом, на январском форуме в Давосе потенциал и угрозы ИИ обсуждали активнее прочих тем.

В 2024 году кардинально большее число людей кардинально чаще начнут пользоваться ИИ и прочими технологиями. А чем больше пользователей у умных сервисов, тем умнее они становятся.

— Как это сделает жизнь среднего человека лучше? Президент МВФ на том же давосском форуме спрогнозировала, что ИИ лишь усугубит неравенство — затронуты будут около 40% рабочих мест во всем мире.

Возможно, цифра даже больше — мне сложно представить профессии хотя бы с минимальной интеллектуальной или коммуникационной составляющей, на которые не повлияет ИИ в ближайшие пару лет. Но «повлияет», «затронет» — это необязательно «лишит».

Впрочем, здесь не стоит вопрос выбора будущего с технологиями или без. Да, люди склонны паниковать и демонизировать новшества — наш архаичный инстинкт самосохранения научил нас бояться перемен. Но полностью прогресс не остановить. Даже если каждый регулятор будет вести себя как жуткий консерватор. Даже если под угрозой будут не 40%, а 100% рабочих мест. В нас заложено эволюционировать, мы просто физически не можем вечно оставаться в статусе-кво.

И все, что мы тут можем — все, что может и должно сделать государство, — придумать, как поддержать людей, потеряющих работу. Как смягчить урон для части населения, чтобы вырос общий уровень жизни.

А вырастет он непременно — сравните Средневековье и сегодняшний мир. Да, у нас остались насилие и расслоение, но даже в самых бедных странах у людей улучшились медицина и образование, стало проще переехать, появились возможности зарабатывать удаленно. Все это благодаря науке и технологиям.

— То есть не рассматриваешь плохой исход, вроде глобальной цифровой тюрьмы?

Он возможен. По ощущениям, шансы на это от 1:5 до 1:10, и многое тут определит 2024-ый — в этом году в мире пройдет необычно много выборов, плюс должны как-то завершиться затяжные вооруженные конфликты. Чем больше побед будет за радикальными и консервативными силами, чем центричнее будет мир, тем вероятнее пугающие сценарии — условно, что сильный ИИ попадет в руки террористов или диктаторов.

— И какой негативный сценарий самый вероятный?

Самый нереалистичный вариант — восстание умных машин, самый возможный — тотальная монополизация ИИ богачами, царьками и мошенниками. Потому что плохих людей с властью много, а роботов с сознанием пока нет.

Собственно, ИИ-корпократия уже формируется в США и Китае. В остальных странах этот рынок недостаточно развит, чтобы говорить о монополии.

В 2023 году больше трети инвестиций в ИИ и дата-решения в США принадлежат Microsoft, AWS, Nvidia и Google. Источник: Altimeter

«Сегодняшние проблемы нельзя решить сегодняшними инструментами»

— Если главный риск, связанный с ИИ — его монополизация, то какая главная проблема прямо сейчас?

Прямо сейчас самое опасное, на мой взгляд, — дипфейки и прочие ИИ-подделки, которые уже крайне сложно отличить от реальности.

С их помощью воруют миллионы долларов — как в Гонконге, где недавно сотрудник транснациональной компании перевел $25 млн мошенникам после видеовстречи с «финансовым директором из британского офиса». Шантажируют и преследуют — как в громком случае с индийской журналисткой, чье лицо подставили в порно. А иногда достаточно подозрения в дипфейке, чтобы спровоцировать попытку переворота, как в Габоне в 2019 году — тогда часть населения решила, что видеовыступление президента сгенерировано, а сам он умер.

К 2026-му 90% цифрового контента будет создано ИИ. Источник: Европол. Картинка: скриншот вирусного ролика с дипфейком Барака Обамы

— Проблемы уже серьезные — хотя сильного ИИ еще нет. Вероятно, он появится через десятилетие или два, и вряд ли за это время человечество успеет искоренить диктаторов и мошенников. Какое тут может быть решение?

Почти всю историю человечества проблемы решали примерно одинаково. Выходит хоть Ганди, хоть Гитлер — и говорит, что знает, что делать. Собирает уверовавших, ресурсы и власть. После у него пропадает мотивация решать проблему — он начинает заниматься сохранением власти, пусть даже из лучших побуждений. В итоге проблема не решается или решается не полностью/временно. Эта схема повторяется веками и вызовы в целом остаются прежними, причем результаты не особенно зависят от количества ресурсов и последователей.

Другими словами, раз и навсегда решить сегодняшние проблемы нельзя сегодняшними инструментами. Так что решение тут — не выбор новых лидеров, а эволюция институтов управления.

— Как видишь эту эволюцию?

Как вместо племен появились государства, так и сейчас нам нужен подобный рывок — переход от стран и корпораций с вертикальной иерархией к сообществам, где нет коррупции и бюрократии, риск злоупотребления властью минимален, а ресурсы используются максимально эффективно.

Для этого нужно оцифровать как можно больше экономических субъектов (исполнителей), объектов (товаров и услуг) и их отношений (видов сделок). Поместить эти записи в единый проверяемый реестр или связанные реестры, а затем автоматизировать коммуникацию между ними.

Субъекты будут выглядеть как адреса кошельков, объекты — как токены, а сделки — как смарт-контракты. Любой при желании сможет вручную проверить, что вот этот адрес успешно закрыл вот столько контрактов, а вот этот токен получил вот столько негативных отзывов. Но, собственно, вручную искать и не придется — система автоматически подтянет нужные данные и предложит лучшие варианты.

В итоге каждый на планете сможет взаимодействовать с каждым, не тратя время на поиск исполнителя или заказчика, изучение отзывов, проверку работы, оплату и так далее. Людям останется больше времени на творчество, спорт, благотворительность, отдых и личную жизнь. Это и называется программируемой экономикой.

— В сетевом и программируемом будущем есть место цензуре?

Эффективный акселерационизм не про игнорирование угроз или отсутствие регулирования — он про не-панику и понимание, что регулирование всегда отстает от технологии и что жесткие запреты обычно приносят больше вреда.

Другими словами, регуляция — это хорошо, если она эффективная и прозрачная. А государство — самый неэффективный и непрозрачный регулятор, с высоким уровнем коррупции, предвзятости и тягой к гиперконтролю. Компании немногим лучше, и только потому, что они быстрее и умнее.

Степан Гершуни. Фото: Артем Жиганов

— Какие тогда регуляторы будут?

Сетевые стандарты и протоколы. На открытым коде, с доступом к всевозможным базам данных.

— То есть только всеобщие децентрализация и автоматизация сделают мир лучше?

Не только. Автоматизированная децентрализация — лучший вариант, но это не панацея. Что-то может пойти не так — и получим месиво с ботами вместо гражданского онлайн-общества.

И наоборот, капитализм и даже авторитаризм в теории могут быть позитивными — при условии, что власть будет в хороших руках. Правда, история показывает, что это лишь теория. Если власть годами сосредоточена у несменяемой группки людей — даже с самыми высокими идеалами, — обычно все сводится к дикому неравенству и несвободе.

— Бывает, что ИИ-боты ошибаются и харассят собеседников. Кто будет отвечать за подобные сбои в децентрализованном сообществе?

А кто отвечает за анонимные призывы к геноциду? Децентрализация не равно отсутствие правил, просто создаются и контролируются эти правила пользователями. Тем более, если в сервисе будет больше треша, чем пользы, его в конечном итоге забросят, каким бы модно-децентрализованным он ни был.

— А если утекут чувствительные данные?

Они утекают сейчас, пока мы не контролируем собственные номера телефонов, адреса и даже паспортные данные. Ими распоряжаются бизнес и государство — а пора переходить к формату «суверенной личности», когда каждый пользователь самостоятельно хранит свою информацию и может свободно и моментально отозвать ее в любой момент.

Конечно, в этих концептах еще много нерешенных проблем — например, как гарантированно подтверждать правдивость данных или как тратить на голосование меньше вычислительных ресурсов. Ответы найдем в ходе экспериментов.

«За счастливое будущее в ответе предприниматели и инвесторы»

— Ты говоришь про переосмысление всего общественного устройства. При этом централизация — фундамент современных государств и крупных компаний. Разве они не будут сопротивляться?

Они уже сопротивляются — это и есть движение децелерационистов. Конечно, в нем есть и обычные люди, сторонники теорий заговора или просто консерваторы. Но очень многие «децелы» — чиновники и владельцы корпораций. Неудивительно, что появляются такие штуки как явно недоработанный Закон ЕС об ИИ или коллективные письма с просьбой приостановить обучение LLM.

По теме: Игорь Пивоваров о том, что происходит с OpenAI

— Почему думаешь, что будущее за e/acc, если среди децелерационистов так много влиятельных людей?

Во-первых, как я уже говорил, эволюцию невозможно остановить. Разве что ценой разрушения общества.

Во-вторых, с появлением интернета и социальных сетей авторитет чиновников и богачей стал весить меньше — информация распространяется очень быстро, и на 100% ее не удерживают даже тюрьмы и взятки. Так что с каждым годом правители и менеджеры все больше зависят от мнения толпы — и потому по большей части будут принимать популярные решения, по крайней мере вне диктатур. А среди популярного сейчас — удобные привычные сервисы.

Это и есть главное оружие акселерационистов — классные инновационные продукты, от которых пользователи не захотят отказываться. Выходит, что за счастливое будущее в ответе предприниматели и инвесторы.

— А что делать обычным людям?

Большинству — ничего, для глобальных сдвигов в коллективном сознании достаточно усилий 10% населения. Разве что не совершать очевидного зла. Как минимум, чтобы прийти к позитивному технологичному будущему, мы должны выжить и не откатиться к первобытности — то есть не допустить мировой ядерной войны, не спровоцировать стихийные бедствия, не погрязнуть в мусоре и так далее.

— Вернемся к предпринимателям. Какие сервисы нужно создавать, чтобы двигаться к «хорошей» децентрализации?

Первое направление — как бы фронтенд прекрасного будущего — нейросети, IoT-датчики, роботы и прочие продукты, которые упрощают когнитивную и физическую деятельность людей. Здесь главная технология — ИИ.

Второй вектор — его можно назвать бэкендом — это Web3, то есть эффективное безопасное пространство для коммуникации и торговли. В основе Web3 должна быть криптография, чтобы защитить и уравнять участников — к примеру, чтобы журналисты могли вести расследования и собирать донаты, не боясь преследования.

Третье — база, без которой никакого будущего не случится: вычислительные мощности. Технологический прогресс упирается в бутылочное горлышко инфраструктуры, и кризис полупроводников — лишь часть проблемы. Нужны кардинально новые источники энергии и способы охлаждения — ну, или значительная оптимизация старых.

Варианты необходимых сервисов для позитивного будущего. Источник: e/acc

— А на что в первую очередь смотреть инвесторам?

На разработки, о которых 99% рядовых пользователей не знают. А если знают, считают бесполезными и сложными — как это было с ПК и интернетом.

Сейчас это ИИ-агенты — персональные ассистенты, способные не просто отвечать на вопросы или генерировать картинки, а решать комплексные задачи. Прямо как живые менеджеры. Условно, говоришь в смарт-часы «хочу с друзьями в отпуск» — и бот в твоем смартфоне стыкует расписания, находит оптимальные маршруты с учетом цен и предпочтений каждого, а еще подбирает аргументы, чтобы убедить поехать того самого друга-трудоголика. И все это за несколько секунд.

По сути такие агенты — кардинально новый способ взаимодействия с цифровыми данными, в первую очередь с интернетом. И это основа для будущего сильного ИИ.

— Когда подобные начинания приведут к первым ощутимым сдвигам в общественном устройстве?

Если ИИ продолжит развиваться быстрыми темпами, думаю, есть шанс — пусть и небольшой, — что уже в 2030 году мы будем жить в совершенно иной экономике.

— Перемены коснутся всех на планете?

Есть несколько аксиом, которые вряд ли изменятся даже при идеальном раскладе.

Первое: всегда будет процент очень глупых или очень злых людей. Если у человека появляется криптокошелек, он не перестает быть антипрививочником или маньяком. Второе: все-все люди никогда не смогут договориться, даже если понимают, что это сделает жизнь каждого лучше. Эти аксиомы порождают третью, самую грустную — полноценного равенства не будет.

Другими словами, температура по больнице точно вырастет и разрывы сгладятся, но жить одинаково хорошо все точно не будут. По крайней мере, до технологической сингулярности — а дальше мы пока совсем не можем загадывать.

Фото на обложке: предоставлено Степаном Гершуни

Инфографики: RB.RU