Make человек great again
Искусственный интеллект (далее ИИ) пишет стихи, пока планета полыхает. Миллионеры мечтают о Марсе, а бедные в это время о кондиционере. И все мы чувствуем, что будущее стало роскошью. Этот кризис не является технологическим. Он цивилизационный. Прежде чем машины нас заменят, может, стоит спросить: зачем мы их вообще изобрели? Что, если ИИ — не проблема, а только отражение того, как далеко мы зашли? Об этом в эссе Станислава Билера.
Любимый прием хоррора — превратить кошмар в реальность. Что-то знакомое, ранее заключенное в отдельный мир, из которого можно было проснуться, становится частью мира, из которого проснуться уже нельзя. Все те мрачные страхи, которые мы держим взаперти за стенами сознания, встают перед нами — и уже некуда отступать. Так же зловеще звучит часть наших страхов перед наступлением эпохи искусственного интеллекта.
Это тот самый сон, в котором тебя заменяет кто-то другой, живет твоей жизнью, и никому ты не нужен, никто по тебе не скучает. Этот другой даже лучше тебя во всем — и среди твоих друзей и близких он куда более любим. С нами может случиться нечто подобное. ИИ будет не только эффективнее выполнять «нашу» работу — он может куда успешнее воплощать цели и ценности нашего мира, которые по сути своей бесчеловечны и враждебны к человеческим потребностям. Это снова подводит нас к вопросу — кто мы такие и что мы вообще делаем на этой планете?
Если бы смыслом мира были не прибыль, накопление, эффективность и экономический рост, может, мы бы не так боялись, что ИИ нас заменит — или даже случайно уничтожит. Но все обстоит иначе. Не нужно иметь вычислительную мощь дата-центра, чтобы понять, что слабейшее звено в цепочке роста производства — это мы сами.
Мы сами измеряем себя количественными метриками — и как индивиды, и как общество. Все должно быть оптимизировано и наиболее эффективно, в том числе наши тела и личные жизни. Но в какой-то момент оптимизация сталкивается с пределами биологического существования. Об этом, например, говорит падающая демографическая кривая всех экономически «успешных» стран. Экономике роста нужна оптимизация «второстепенных» удовольствий вроде досуга — и под это попадает даже репродуктивность человека.
Демографический коллапс
Те, кто отказывается от продолжения рода — добровольно или нет — может рассчитывать на потенциальные выгоды. Исчезают избыточные финансовые траты, которые можно перечислять бесконечно: еда, одежда, кружки, развлечения, садики, школы — почти два десятилетия постоянных расходов. Все это на одного ребенка — и без учета стоимости жилья и проблем на рынке недвижимости, где владельцы отказываются сдавать квартиры семьям с детьми. Уж лучше собаки или кошки — они не топают и не кричат.
Именно уход за детьми чаще всего выбивает женщин с рынка труда — на годы или навсегда, что означает более низкий доход до конца жизни. Добавим к этому непрекращающийся стресс, болезни, беготню по детским садам, вечное недосыпание и усталость…
Этот список можно продолжать бесконечно. Но важно хотя бы признать: каждое общество само строит и поддерживает свою систему ценностей. Если результатом экономического процветания становится демографический крах — это логичный исход системы, в которой люди оптимизируют собственные жизни. Это, конечно, не значит, что социальное давление иметь детей исчезло — просто в этом нет ни согласованности, ни смысла. Но раз экономика — главная ось всего, легко определить, какие поступки общество поощряет, а какие наказывает.
Иметь все — и много
Так же выглядит и оптимизация мира в условиях климатического кризиса. Мы знаем его причины. Мы десятилетиями с математической точностью моделируем разрушительные последствия. Мы знаем, что надо сделать, чтобы избежать катастрофы. Но решение, которое направлено ни на что иное, как на спасение единственной обитаемой планеты во Вселенной, упирается в приоритеты экономического роста и накопления богатства. Результат — косметические изменения, удерживающие нас на курсе к гибели. Просто потому, что на первом месте — не жизнь людей. Или, по крайней мере, не жизнь большинства.
Богатство, производимое глобальной экономикой, постоянно растет, но не в каждом дворе. Никогда в истории человечество не жило в условиях такого чудовищного неравенства. И это накопление — материальное или символическое — уже не несет иной цели. Миллиардеров становится больше, но мир от этого лучше не становится. Иметь всего побольше — конечная цель. И за этим патологическим накоплением нет никакой пользы.
Бессмысленная игра рождает страдание и тревогу — под куполом разбалансированной природы. Но мы продолжаем. Ждать сочувствия от искусственного «сознания» дата-центров наивно. Ожидание, что искусственная форма мышления спасет нас от самих себя, недалеко ушло от верований прошлого, когда от мора и голода спасались молитвами к богам и жертвоприношениями.
Богатство, производимое глобальной экономикой, постоянно растет, но не в каждом дворе. Никогда в истории человечество не жило в условиях такого чудовищного неравенства. И это накопление — материальное или символическое — уже не несет иной цели. Миллиардеров становится больше, но мир от этого лучше не становится. Иметь всего побольше — конечная цель. И за этим патологическим накоплением нет никакой пользы.
Бессмысленная игра рождает страдание и тревогу — под куполом разбалансированной природы. Но мы продолжаем. Ждать сочувствия от искусственного «сознания» дата-центров наивно. Ожидание, что искусственная форма мышления спасет нас от самих себя, недалеко ушло от верований прошлого, когда от мора и голода спасались молитвами к богам и жертвоприношениями.
Холодно и без эмоций
Раньше бедствия были природными или загадочными феноменами. Сегодня мы умоляем о спасении от катастроф, которые создали и продолжаем создавать сами. То, чего мы боимся, — это мы сами и созданный нами мир. Его цели и ценности по своей сути аморальны и чисто технически. Их может выполнять кто угодно, безо всякого сознания. Даже лучше — капитализму куда комфортнее под властью автократического Китая, где рынок не тормозят выборы и нелогичные требования граждан. Проблемных всегда можно посадить — или расстрелять. Какое облегчение! Идея о том, что демократия замедляет процветание, сегодня стала популярным нарративом среди технологических олигархов Кремниевой долины. Но об этом позже.
Мы уже давно движемся в сторону, удобную для ИИ, вынося экономику за пределы общества, выгоняя мораль из бизнеса как сентиментальный пережиток. Признаком «зрелого» поведения стало выражение «холодно и без эмоций». Исключив эмоции как что-то детское из своей деятельности, мы частично де-гуманизировали себя. ИИ уже не обязан заботиться о людском. В процессе оптимизации и урезания затрат можно так же «холодно и без эмоций» вырезать все, что от человечности осталось. И обвинить ИИ в бесчеловечности не получится, ведь он просто исполняет наши собственные цели.
ИИ может заменить нас полностью — мы же построили мир, идеальный для него. В конце концов, он может держать нас ради развлечения. Как кошек, ловящих свет на стене. Как собачек, кланяющихся за лакомство.
Нельзя всерьез ожидать, что что-то, называемое искусственным интеллектом, будет воспринимать нас серьезно, если мы сами себя не воспринимаем всерьез.
Мы уже давно движемся в сторону, удобную для ИИ, вынося экономику за пределы общества, выгоняя мораль из бизнеса как сентиментальный пережиток. Признаком «зрелого» поведения стало выражение «холодно и без эмоций». Исключив эмоции как что-то детское из своей деятельности, мы частично де-гуманизировали себя. ИИ уже не обязан заботиться о людском. В процессе оптимизации и урезания затрат можно так же «холодно и без эмоций» вырезать все, что от человечности осталось. И обвинить ИИ в бесчеловечности не получится, ведь он просто исполняет наши собственные цели.
ИИ может заменить нас полностью — мы же построили мир, идеальный для него. В конце концов, он может держать нас ради развлечения. Как кошек, ловящих свет на стене. Как собачек, кланяющихся за лакомство.
Нельзя всерьез ожидать, что что-то, называемое искусственным интеллектом, будет воспринимать нас серьезно, если мы сами себя не воспринимаем всерьез.
Мы и они
Если бы ИИ решил устранить человечество, он всего лишь ускорил бы процесс, который мы уже давно запустили — процесс, где наши жалкие попытки спасти климат выглядят как провал или даже демонстративная капитуляция. Мы продолжаем вести себя так, будто биосфера и климатическая стабильность не имеют значения для жизни. Но отличие в том, что ИИ действительно в них не нуждается — ему достаточно искусственного микроклимата дата-центров. Ему даже не нужен кислород.
Наш страх перед темным будущим с ИИ отражает и более глубокую тревогу: новая форма власти будет обращаться с нами так же, как мы обращаемся с другими. Мы и они — это ключевые понятия, ведь на этот раз объектами доминирования можем стать и мы сами: западные общества, государства, граждане. Вдруг мы окажемся в положении палестинцев или любого другого народа, с которым обращаются, как с расходным материалом, будто это не настоящие люди. Как коренные народы Америки, наблюдавшие за высадкой чужаков с кораблей. Как аборигены Австралии или африканские общества, расчлененные европейскими империями. Как все, у кого другая кожа, другой пол, религия или просто иная версия человечности.
Может, именно поэтому мы говорим «искусственный интеллект» с одной стороны и «человечество» с другой — будто существует некое единое человечество с общими интересами. Но из бесчисленных примеров — прежде всего климатических — мы знаем: такого единства не существует. Больше всего вреда приносят богатейшие. А расплачиваются за это беднейшие.
Наш страх перед темным будущим с ИИ отражает и более глубокую тревогу: новая форма власти будет обращаться с нами так же, как мы обращаемся с другими. Мы и они — это ключевые понятия, ведь на этот раз объектами доминирования можем стать и мы сами: западные общества, государства, граждане. Вдруг мы окажемся в положении палестинцев или любого другого народа, с которым обращаются, как с расходным материалом, будто это не настоящие люди. Как коренные народы Америки, наблюдавшие за высадкой чужаков с кораблей. Как аборигены Австралии или африканские общества, расчлененные европейскими империями. Как все, у кого другая кожа, другой пол, религия или просто иная версия человечности.
Может, именно поэтому мы говорим «искусственный интеллект» с одной стороны и «человечество» с другой — будто существует некое единое человечество с общими интересами. Но из бесчисленных примеров — прежде всего климатических — мы знаем: такого единства не существует. Больше всего вреда приносят богатейшие. А расплачиваются за это беднейшие.
Ускорение разрушения
С тех пор как социальные сети вызвали глобальные потрясения, никто уже не ждет от технологических миллиардеров стремления к эмпатии или гуманизму. Прошли годы с тех пор, как Марк Цукерберг (соучредитель Meta) объявил частную жизнь устаревшей — то, что когда-то шокировало, стало частью повседневности. Илон Маск купил Twitter и превратил его в частную помойку для распространения ультраправых, консервативных и конспирологических нарративов. Регулирование соцсетей — чистая фикция: контент регулируется исключительно по желанию владельцев.
Теперь мы вступаем в эпоху чего-то еще более могущественного — и за кулисами все те же фигуранты. То, что здесь описано как гротескное состояние мира, они воспринимают как благодатную почву для ускорения его разрушения. Даже крах планеты и человеческого общества в их радикальных фантазиях — не проблема, а желаемый результат.
Вспомним печально известную цитату инвестора из Силиконовой долины Питера Тиля: «Я больше не верю, что свобода и демократия совместимы». Это даже не вызывает удивления — это просто описание мира, где демократия все сильнее мешает свободе сверхбогатых. Во времена расцвета соцсетей демократией еще прикрывались. Сегодня этим никто не утруждается. Многие технологические олигархи и вовсе открыто насмехаются над самой идеей, что все люди равны и заслуживают одинаковых прав. Властвовать должны сильнейшие и богатейшие. Мир должен вернуться к иерархии — с четким разделением на тех, кто приказывает, и тех, кто подчиняется. Эта идеология сегодня выступает под названиями «темное просвещение» и «неореакция».
Она отрицает прогресс как движение к свободе и равенству. Напротив, зовет обратно, к авторитарным структурам. Она соединяет свободный рынок, технологии и корпоративно-авторитарное управление. В результате появляются концепции вроде реакционного модернизма или техно-феодализма. По словам историка Роджера Гриффина, фашизм формировался примерно так же столетие назад — как сплав модернизма, реакции и страха перед левыми идеями равенства.
Современные радикалы идут еще дальше. Некоторые, например Ник Ланд, утверждают, что ускорение капиталистических процессов и технологических перемен приведет к радикальной трансформации общества — и, возможно, к постчеловеческому будущему. Что стоит на пути? Равенство и демократия. Что мешает? Ты.
Теперь мы вступаем в эпоху чего-то еще более могущественного — и за кулисами все те же фигуранты. То, что здесь описано как гротескное состояние мира, они воспринимают как благодатную почву для ускорения его разрушения. Даже крах планеты и человеческого общества в их радикальных фантазиях — не проблема, а желаемый результат.
Вспомним печально известную цитату инвестора из Силиконовой долины Питера Тиля: «Я больше не верю, что свобода и демократия совместимы». Это даже не вызывает удивления — это просто описание мира, где демократия все сильнее мешает свободе сверхбогатых. Во времена расцвета соцсетей демократией еще прикрывались. Сегодня этим никто не утруждается. Многие технологические олигархи и вовсе открыто насмехаются над самой идеей, что все люди равны и заслуживают одинаковых прав. Властвовать должны сильнейшие и богатейшие. Мир должен вернуться к иерархии — с четким разделением на тех, кто приказывает, и тех, кто подчиняется. Эта идеология сегодня выступает под названиями «темное просвещение» и «неореакция».
Она отрицает прогресс как движение к свободе и равенству. Напротив, зовет обратно, к авторитарным структурам. Она соединяет свободный рынок, технологии и корпоративно-авторитарное управление. В результате появляются концепции вроде реакционного модернизма или техно-феодализма. По словам историка Роджера Гриффина, фашизм формировался примерно так же столетие назад — как сплав модернизма, реакции и страха перед левыми идеями равенства.
Современные радикалы идут еще дальше. Некоторые, например Ник Ланд, утверждают, что ускорение капиталистических процессов и технологических перемен приведет к радикальной трансформации общества — и, возможно, к постчеловеческому будущему. Что стоит на пути? Равенство и демократия. Что мешает? Ты.
Выживание на Земле
Эти высказывания звучат радикально, но не шокируют. Они не предлагают ничего принципиально нового, а лишь доводят до крайности то, что уже происходит с нами сейчас. То, что кажется нам непредвиденным последствием потребительского капитализма — демографический спад и климатическая катастрофа, — для них является целью. Они хотят ускорить этот процесс с помощью технологий. Но если старые акселерационисты мечтали о рывке вперед, в утопическое будущее, то новые — о прыжке в руины и крах, после которого обломки достанутся современным феодалам или же послужат трамплином для искусственного сознания, чтобы сбежать в космос, оставив Землю мертвой.
В этом мировоззрении не нужно бороться с климатическими изменениями. Наоборот, их ускорение может стать инструментом разрушения существующего порядка. Выживание на Земле — больше не ценность, если твой взор устремлен в постчеловеческое будущее или колонизацию Марса. Напротив, чем хуже здесь, тем лучше.
Мы подошли к краю этой пропасти через экономическое неравенство: горстка людей распоряжается абсурдным богатством, а оно дает им абсурдную власть, неконтролируемую и неподотчетную. Они выстраивают свою собственную мифологию, чтобы оправдать свои действия, чтобы вообразить мир, в котором накопленные богатства купят им трансцендентность. Искусственный интеллект должен помочь им туда добраться, ускорить процесс, а может быть, сам стать финальной целью постчеловеческой цивилизации.
В этом мировоззрении не нужно бороться с климатическими изменениями. Наоборот, их ускорение может стать инструментом разрушения существующего порядка. Выживание на Земле — больше не ценность, если твой взор устремлен в постчеловеческое будущее или колонизацию Марса. Напротив, чем хуже здесь, тем лучше.
Мы подошли к краю этой пропасти через экономическое неравенство: горстка людей распоряжается абсурдным богатством, а оно дает им абсурдную власть, неконтролируемую и неподотчетную. Они выстраивают свою собственную мифологию, чтобы оправдать свои действия, чтобы вообразить мир, в котором накопленные богатства купят им трансцендентность. Искусственный интеллект должен помочь им туда добраться, ускорить процесс, а может быть, сам стать финальной целью постчеловеческой цивилизации.
Назад — в степи, в леса
Но все это не неизбежно. Их идеология не является ни цельной, ни логически непробиваемой. Ее пугающая сила — в банальности: это набор случайных идей, склеенных без системы, как сорока, собирающая все блестящее просто потому, что блестит.
Все это развитие заставляет нас вновь столкнуться с древними вопросами: кто мы, если не это? Если мы передаем власть технократического разума машинам, которые превосходят нас во всем, что от нас останется? Будет ли это по-настоящему человеческим? Останемся ли мы лишь с тем, что цивилизация веками пыталась подавить — с эмоциональной и биологической тяжестью бытия? Возможно, передав ключи от офиса алгоритмам, мы неосознанно возвращаемся туда, откуда пришли — в степи и леса, в среды, которые почти уничтожили веками саморазрушительного поведения.
Обратным путем мы можем догадаться, каким должно быть жизнепригодное будущее. Техноолигархи хотят капитализма, а не демократии. Равенство — угроза их свободе. Они считают планету и жизнь на ней расходным материалом. Уже одного этого достаточно, чтобы начать строить нечто иное.
Но сначала — нам нужно снова стать людьми. А ведь именно от этого мы все время и бежали. На протяжении всей нашей истории.
Все это развитие заставляет нас вновь столкнуться с древними вопросами: кто мы, если не это? Если мы передаем власть технократического разума машинам, которые превосходят нас во всем, что от нас останется? Будет ли это по-настоящему человеческим? Останемся ли мы лишь с тем, что цивилизация веками пыталась подавить — с эмоциональной и биологической тяжестью бытия? Возможно, передав ключи от офиса алгоритмам, мы неосознанно возвращаемся туда, откуда пришли — в степи и леса, в среды, которые почти уничтожили веками саморазрушительного поведения.
Обратным путем мы можем догадаться, каким должно быть жизнепригодное будущее. Техноолигархи хотят капитализма, а не демократии. Равенство — угроза их свободе. Они считают планету и жизнь на ней расходным материалом. Уже одного этого достаточно, чтобы начать строить нечто иное.
Но сначала — нам нужно снова стать людьми. А ведь именно от этого мы все время и бежали. На протяжении всей нашей истории.
______________
Об авторе:
Станислав Билер
(*1982) — чешский социолог, писатель и публицист. Окончил специальность «социология», а также «международные отношения и европейские исследования». Публикуется в журналах Finmag, Respekt и в Hospodářské noviny. В настоящее время работает для онлайн-издания Alarm. Осенью 2017 года у него вышел роман «Лучший кандидат» (Nejlepší kandidát — чеш.), политическая сатира о кандидате в президенты Яне Новаке. В 2021 году он опубликовал роман «Деструкция» (Destrukce — чеш.), который был номинирован на премию Magnesia Litera. Кроме того, он написал книгу о своём любимом Брно — «111 мест в Брно, которые вы должны увидеть».
Об авторе:
Станислав Билер
(*1982) — чешский социолог, писатель и публицист. Окончил специальность «социология», а также «международные отношения и европейские исследования». Публикуется в журналах Finmag, Respekt и в Hospodářské noviny. В настоящее время работает для онлайн-издания Alarm. Осенью 2017 года у него вышел роман «Лучший кандидат» (Nejlepší kandidát — чеш.), политическая сатира о кандидате в президенты Яне Новаке. В 2021 году он опубликовал роман «Деструкция» (Destrukce — чеш.), который был номинирован на премию Magnesia Litera. Кроме того, он написал книгу о своём любимом Брно — «111 мест в Брно, которые вы должны увидеть».
Перевела Евгения Разгоняева
______________
Эта статья была опубликована в рамках PERSPECTIVES – нового бренда независимой, конструктивной и многоперспективной журналистики. PERSPECTIVES софинансируется ЕС и реализуется транснациональной редакционной сетью из Центрально-Восточной Европы под руководством Гёте-института. Узнайте больше о PERSPECTIVES.
Со-финансировано Европейским Союзом.
Однако высказанные мнения и взгляды принадлежат исключительно автору(ам) и не обязательно отражают позицию Европейского Союза или Европейской комиссии. Ни Европейский Союз, ни предоставляющий финансирование орган не несут ответственности за их содержание.
______________
Эта статья была опубликована в рамках PERSPECTIVES – нового бренда независимой, конструктивной и многоперспективной журналистики. PERSPECTIVES софинансируется ЕС и реализуется транснациональной редакционной сетью из Центрально-Восточной Европы под руководством Гёте-института. Узнайте больше о PERSPECTIVES.
Со-финансировано Европейским Союзом.
Однако высказанные мнения и взгляды принадлежат исключительно автору(ам) и не обязательно отражают позицию Европейского Союза или Европейской комиссии. Ни Европейский Союз, ни предоставляющий финансирование орган не несут ответственности за их содержание.
