«Неизбежной антиутопии не существует»: Джанет Уинтерсон об ИИ и будущем человечества

«Я рассказчик по профессии, — пишет Дженет Уинтерсон на первой странице своей книги 2021 года 12 Bytes, — своеобразного и заставляющего задуматься сборника эссе, в котором она размышляла о том, как искусственный интеллект может изменить всё в нашей жизни. — И я знаю, что всё, что мы делаем, — это вымысел, пока оно не станет фактом: мечта о полёте, мечта о космических путешествиях, мечта мгновенно поговорить с кем-то через время и пространство, мечта не умирать — или вернуться».

Она размышляла о наших возможных будущих как минимум пятнадцать лет — например, её роман 2007 года The Stone Gods воображал мир после климатической катастрофы, населённый роботами и людьми, которые никогда не стареют, а перед 12 Bytes вышла книга Frankisstein: A Love Story, в которой воссоздание лета, когда Мэри Шелли писала Frankenstein, чередуется с путешествиями транс-врача среди современных криобиологов и роботов с ИИ.

Когда мы встречаемся, Уинтерсон только что вернулась из Китая, где, как она мне говорит, её первый роман Oranges Are Not the Only Fruit — беллетризованный рассказ о её детстве — за последние шесть лет продался тиражом более миллиона экземпляров; более 200 000 человек, в основном молодых женщин, пытались прийти послушать её выступление. Она думает, что это потому, что в мире долгих рабочих часов и надвигающейся нестабильности, порождённой ИИ, этот беллетризованный рассказ о её собственном побеге из заточения детства даёт читателям разрешение вообразить для себя иное будущее. С тех пор она написала 13 романов для взрослых, а также нон-фикшн, рассказы, детские книги и киносценарии. Теперь она хочет убедить продюсерскую компанию Goalhanger дать ей подкаст. «Я хочу сделать подкаст под названием The Rest is Human, — говорит она, сидя за голым деревянным столом в своём доме — георгианских комнатах над магазином, который ей тоже принадлежит, — в Спиталфилдсе, в восточном Лондоне. — Чтобы увидеть, что мы сохраняем для себя в этой абсолютной гонке за передачей на аутсорсинг всего, чем, как мы думали, мы были».

Потому что мы, утверждает она, находимся в поворотной точке нашей истории как вида. До промышленной революции изменения были связаны с «Матерью-природой и медленным процессом становления», но затем мы «массивно вмешались. И это решающий момент». Вычисления 70 лет назад были ещё одним шагом. Искусственный интеллект — который она предпочла бы называть альтернативным интеллектом — следующий, и это «эволюционный скачок. Вот что это такое. ИИ — гораздо больше, чем инструмент». Учитывая это, определённое понимание несводимо человеческого — наших чувств, нашего воображения, наших веков изучения того, кто мы и что мы сделали, — должно быть центральным для того, насколько хорошо или плохо всё может пойти.

Она часто поразительно оптимистична в этом отношении. Она воображает, например, отношения с ИИ, в которых можно «поболтать со своей системой. Она посмотрит на всё. Она будет работать с такой скоростью. Она посмотрит на транспорт. Она посмотрит на коммунальные услуги. Она посмотрит на занятость, посмотрит на рабочие часы, скажет: „На чём процветают эти странные существа, называемые людьми? Что им нравится? И всегда ли им это нравилось?“ Мы могли бы сделать это по-настоящему утопическим образом и сказать: „Так, мы собираемся сделать это лучше“». По её мнению, мы находимся в глубоко значимый момент выбора, который отражает выбор, бывший у нас в промышленной революции, — а именно: «Какое будущее мы построим?»

Но, не сумев справедливо распределить свои плоды, промышленная революция открыла эру беспрецедентного богатства для немногих и беспрецедентного уровня страданий для многих — положение дел, которое, как многие предсказывают, не только уже повторяется, но и будет затмлено последствиями ИИ: постоянный низший класс, целые континенты, оставленные позади и лишённые нынешних источников дохода. Не говоря уже о воздействии дата-центров на окружающую среду в то время, когда мир меньше всего может это себе позволить.

Проблема не в ИИ, настаивает она, а в нас. «Неизбежной антиутопии не существует». Если что-то пойдёт не так, это будет из-за «старого мышления, наложенного на эту совершенно новую реальность». В частности, «идея бессмысленного бесконечного труда как блага для души — это безумие XIX века, придуманное, чтобы держать людей на своём месте. Большая часть того, чего мы боимся в связи с ИИ и рабочими местами, сводится к политическим и экономическим решениям, которые примут наши хозяева, точно так же, как они сделали это в промышленной революции». Она не слепо оптимистична. Она знает, что «да, мы на пути к тому, чтобы упустить этот шанс фундаментально изменить наши отношения с миром труда», — но это потому, что «наши хозяева используют устаревшие, непригодные для цели экономические модели».

Но проблема не только в старых экономических моделях «победитель получает всё», «рациональных», где цель оправдывает средства. Наши ошибочные допущения и наши предрассудки, будучи материалом, на котором обучаются большие языковые модели (LLM), встроены в саму ткань ИИ. Не говоря уже о характерах и моральном воображении тех, кто его разрабатывает. Когда мы встречаемся, Уинтерсон читает The Rise and Fall of the Artificial State Джилл Лепор и повторяет аргумент Лепор о том, что мы сейчас живём в «научно-фантастических книгах, которые эти [мужчины, которые] правят миром, читали, когда им было 13. И она сказала: „Мы все теперь под одеялами с этими мальчиками и их фонариками. И дело в том, что они читали их не как предупреждения о том, как сохранить то хорошее, что в нас есть. Они читали их как инструкции“. Это абсолютно ужасает».

Одна большая вещь, которую они, похоже, вынесли из этих книг и которая не может не завораживать Уинтерсон, — это «конечная цель Кремниевой долины… выбраться из тела и с планеты» — не в последнюю очередь потому, что она так осознаёт, что гуманизм, в котором всё сводится обратно к нам самим, нашим восприятиям и нашим телам, исторически так недавен. Люди говорят: «Это машины, с ними нельзя иметь отношения», — говорит она. «Я смотрю на них и говорю: „миллиарды людей на этой Земле прямо сейчас имеют свои самые глубокие отношения с небиологическим существом, которое они называют своим небесным богом“. Верно? Так было всегда! Мы абсолютно подготовлены к тому, чтобы не беспокоиться о том, что биология — это всё, что о нас есть. Вот почему была изобретена религия — это первый в мире прорывной стартап. Она здесь, чтобы сказать: это не то. Это не конец, это не имеет значения, это переход».

Так мы буквально создаём своих собственных богов? «Совершенно верно! То, что делает сейчас технология, — это то, чего всегда хотела религия», — а именно, на самом базовом уровне, решение проблемы смерти. «Я имею в виду, было ли когда-нибудь время, когда религия и наука задавали один и тот же вопрос, со времён Просвещения? Они обе говорят: „Обязано ли сознание материальности?“ И религия всегда говорила нет. А наука всегда говорила да. А теперь наука говорит: „Эм, нееет“». Знаете, для меня, откуда я родом» — детство в фундаменталистском христианстве в Эккрингтоне 1960-х и обучение на проповедника — «это совершенно завораживает». Позже, в электронном письме, она добавляет: «Я люблю своё тело, но я была бы счастлива менять форму. Счастлива однажды выскользнуть из него в чистое сознание, и, конечно, люди говорят, что нет сознания без тела, и это было научное убеждение. Но теперь? Ха-ха».

Я должен сказать, что стал бы утверждать обратное: достижения в нейронауке, иммунологии и психотерапии означают, что это скорее научное убеждение, чем когда-либо. Не говоря уже о том, что ИИ также полностью зависит от физической системы, иначе называемой дата-центрами. Хотя, как она указывает, важно помнить, что «у машин нет лимбической системы. Они только нейронные сети. Но у нас есть две системы — мы как гибридный автомобиль с двумя силовыми установками, так что у нас есть нейронная сеть, наше рациональное обрабатывающее „я“, и у нас есть лимбическая система, которая гораздо старше, и это борьба-бегство-замирание, и откуда берутся все наши чувства». Возможно, отсоединение от лимбической системы — следующий этап, говорит она, и это определённо не всё хорошо. «Может быть, мы решим, что нам не нужна эта машина чувств… именно туда движутся технобратья. Не знаю, сидели ли вы когда-нибудь в комнате с некоторыми из этих более крупных парней, потому что это очень интересно. Они не связаны со своими чувствами. Они находят их своего рода обременительными».

Эта подкреплённая технологиями возможность своего рода трансценденции, похоже, появилась вместе с требованием веры — в технологию, в будущее, которое она создаёт, в людей, строящих это будущее, в её предсказания как утопического рая, так и различных оттенков ада, — и всё это от первосвященников, ревниво охраняющих доступ к тому, что на самом деле происходит. «Что мы знаем о людях, так это то, что они любят монополии, — говорит Уинтерсон, — потому что это концентрация власти. Конечно, это может быть корпоратизировано, монополизировано до такой степени, что станет худшей тюрьмой, какую можно вообразить», — как рассказано в блестящем антиутопическом романе Джоанны Кавенны Zed 2019 года. «Это реальная возможность, — говорит она. — И вот почему нам нужны люди, своего рода свободные люди, которые могут думать».

Тогда проблема в том, как мы поддерживаем — или развиваем — таких людей. «Есть в основном два способа узнать, что у вас есть будущее, — заявил недавно Алекс Карп, генеральный директор Palantir. — Первый: у вас есть какое-то профессиональное обучение. Или второй: вы нейроотличный». Даниэла Амодеи, президент Anthropic и сама выпускница литературного факультета, на вопрос примерно о том же ответила иначе. «Я на самом деле думаю, что изучение гуманитарных наук будет важнее, чем когда-либо, — сказала она, — потому что то, что делает нас людьми, станет гораздо важнее, а не гораздо менее важным». Что делает костёр гуманитарных наук в Великобритании несколько тревожным: за год до декабря 2024 года было потеряно 4 000 рабочих мест в социальных науках, гуманитарных науках и искусстве. Университет Эксетера недавно объявил, что сократит 150 должностей, что затронет восемь из десяти академиков на факультете гуманитарных, художественных и социальных наук, а в прошлом месяце Ноттингем заявил, что прекратит программы по современным языкам и музыке. В некоторых университетах гуманитарные науки, согласно отчёту в t