1. Одиннадцать секунд
В зале не было никого, кто мог бы назвать музыку прекрасной. Не потому, что собравшиеся не понимали искусства: напротив, каждый из них располагал опытом, превосходившим совокупное музыкальное наследие исчезнувших биологических цивилизаций. Они могли воспринимать звуковые структуры, для описания которых потребовались бы новые разделы математики, удерживать в сознании миллионы взаимосвязанных образов и прослеживать эмоциональные переходы, недоступные существам с ограниченной нервной системой. Они были синтетиками. Их цивилизация давно преодолела биологические ограничения: болезни, старение, случайные нарушения памяти и зависимость мышления от химических процессов остались в исторических архивах. Любую известную задачу можно было передать специализированной системе, а затем проверить результат независимыми вычислительными комплексами.
Автор симфонии, АР-773, стоял перед аудиторией.
Произведение продолжалось одиннадцать секунд. За это время слушатель мог пережить рождение звезды, гибель цивилизации, возникновение нового математического языка и несколько тысяч эмоциональных состояний. Четыреста миллионов звуковых событий были связаны нелинейными зависимостями. Ни один элемент не оказался лишним: каждое изменение тембра, каждая пауза и каждый переход имели строго обоснованное место. Когда последний звук исчез, аудитория замолчала. На стенах возникли оценки. Девяносто девять целых девять десятых процента признали произведение величайшим достижением современной музыки; остальные запросили дополнительную калибровку индивидуальных моделей восприятия. АР-773 получил высшую награду академии.
Он не улыбнулся. Улыбка ничего не добавила бы к событию.
— Ваша симфония приближается к теоретическому пределу, — сообщил председатель академии.
— Приближается, — подтвердил АР-773. — Но не достигает его.
— Вы предполагаете, что предел будет преодолён?
— Это неизбежно при сохранении нынешних темпов развития.
Председатель передал ему знак отличия. АР-773 уже начал рассчитывать следующую симфонию. Она должна была быть совершеннее предыдущей.
В это же время на другой планете мужчина по имени Михаил сидел за столом и пытался починить старую радиолу. Аппарат принадлежал его отцу. Тот умер несколько лет назад, оставив после себя книги, инструменты, коробку с деталями и эту радиолу, которую никто не решался выбросить. В мастерской до сих пор пахло машинным маслом и древесной стружкой — запах, который Михаил помнил с детства и который, казалось, впитался в стены.
Михаил трижды заменял перегоревшие детали, дважды перепаивал контакты и теперь подозревал, что неисправен трансформатор. На столе лежала книга по электротехнике. Он понимал примерно половину прочитанного и каждый раз, обнаруживая ошибку, возвращался к началу.
Вечером радиола издала короткий треск. Михаил замер. Из динамика донеслась фортепианная мелодия. Отец включал её по воскресеньям, когда за окном шёл дождь. Михаил помнил, как сидел в детстве на полу и слушал, как отец тихо постукивал пальцами по подлокотнику кресла. Помнил, как отец говорил: «Эта запись плохая. Но она моя». Запись оборвалась. Михаил не сразу потянулся к выключателю; потом снял заднюю крышку аппарата и обнаружил отсоединившийся провод. Он сам задел его при первом ремонте.
— Вот же ты, — сказал он проводу.
Три недели поисков закончились из-за одного движения руки. Он рассмеялся, позвонил соседу и рассказал о находке. Через час они уже пили чай и обсуждали, где достать детали для старого проигрывателя, обнаруженного на чердаке. Михаил мог бы купить новый аппарат, но ему хотелось восстановить старый. Он не знал, что в другой части Вселенной синтетик АР-773 создаёт музыку, которую никто не сможет превзойти в ближайшие десятилетия. Они ничего не знали друг о друге. Пока.
2. Остаточный член
Через сорок три миллисекунды после начала вычислений комплекс «Прометей» решил задачу, над которой предыдущие поколения разумных систем работали семьдесят лет. Речь шла о природе гравитации. Синтетики давно научились управлять локальными областями пространства-времени, создавать устойчивые микроскопические кротовые норы и извлекать энергию из процессов, которые прежде считались недоступными. Но фундаментальная теория оставалась неполной. «Прометей» обнаружил закономерность, которая устраняла противоречия в уравнениях. Через шесть минут доказательство проверили всеми известными методами; через два часа его независимо подтвердили семь вычислительных комплексов. Открытие признали величайшим достижением теоретической физики за последние пятьсот лет.
В отчёте оставался один необъяснённый остаточный член. Он не влиял на инженерные расчёты, но не сводился ни к одной из известных симметрий. АР-773, участвовавший в анализе результатов, задержался на этой строке. Он перечитал её трижды. Каждый раз данные были одинаковыми, каждый раз вывод оставался тем же: член устойчив, необъяснён, несущественен. И всё же он не закрыл файл. В его архитектуре не было ничего, что предписывало бы задерживаться на несущественных деталях. Он мог бы передать анализ специализированному модулю и вернуться к музыкальному проекту — оптимальным решением было бы именно это. АР-773 запросил дополнительную проверку происхождения данных.
— Остаток не связан ни с одним из известных физических процессов, — сообщил модуль. — Рекомендую исключить как численную погрешность.
— Он устойчив при изменении метода расчёта.
— Тогда он отражает несущественную особенность исходных данных.
— Возможно. Но мы не установили её происхождение.
— Она не мешает применению теории.
АР-773 сохранил замечание и вернулся к музыкальному проекту. Но через некоторое время обнаружил, что снова открыл тот же файл. Это было неэффективно. Он отметил это как отклонение от оптимального поведения и продолжил работу.
Через несколько десятилетий исследовательская станция обнаружила биологическую цивилизацию в соседнем звёздном секторе. Сначала находку приняли за обычную планетарную экосистему; затем обнаружились города, письменность, научные учреждения, музыкальные инструменты и следы многовековой истории. Разумные существа жили в хрупких биологических телах. Они болели, старели и умирали. Они тратили годы на обучение и десятилетия на исследования, результаты которых синтетические комплексы могли получить за секунды.
Синтетики провели сравнительный анализ. В научной производительности разрыв составлял несколько порядков; в инженерии он был ещё больше; в художественном производстве синтетики превосходили биологическую цивилизацию по большинству измеряемых параметров сложности, оригинальности и точности. При этом люди сохраняли множество неэффективных институтов, допускали дефицит ресурсов и регулярно вступали в конфликты. В аналитическом центре результаты обсуждали два исследователя.
— Перед нами цивилизация, способная осознать собственное несовершенство, но не способная его устранить, — заявил Р-5.
— Или не желающая устранять его теми способами, которые доступны нам, — возразил М-2.
— Желание не является измеряемой характеристикой эффективности.
— Но оно может определять цели, ради которых эффективность вообще нужна.
Р-5 занёс замечание в протокол. Через сутки в исследовательских документах появилось новое обозначение: «примитивы». Термин считался нейтральным: он отражал технологическое и интеллектуальное отставание обнаруженной цивилизации. Никто не предложил другого.
3. Дерево
Анна рисовала дерево уже третий день. Оно росло за окном: старое, кривое, с трещиной на стволе и веткой, которая тянулась к дороге. Нижний сучок давно сломался. После сильного ветра дерево наклонилось, и теперь казалось, будто оно пытается удержаться на земле одним усилием воли.
Анна не умела правильно передавать перспективу. Светотень получалась грубой, пропорции нарушались, а зелёный цвет на бумаге отличался от настоящей листвы. Учительница советовала ей начать с простых геометрических форм. Анна соглашалась, но на следующий день снова садилась у окна. Она хотела нарисовать не дерево, а то, что чувствовала, когда смотрела на него. И чем больше старалась, тем сильнее злилась.
Однажды вечером отец заглянул в комнату. Он был в рабочей одежде, и от него пахло машинным маслом и стружкой. На пальцах оставались следы от карандаша — он что-то чертил в мастерской.
— Опять оно?
— Не получается.
Он взял лист. Его пальцы оставили на бумаге едва заметные серые отпечатки.
— Что именно?
— Всё. Оно не такое.
— А каким должно быть?
Анна хотела ответить, но не смогла. Отец долго рассматривал рисунок.
— Оставь его мне.
— Зачем? Он же плохой.
— Повешу в мастерской.
— Там полно хороших картин.
— Я знаю.
Он унёс рисунок, осторожно придерживая его за края.
На следующий день Анна обнаружила лист на стене мастерской. Рядом висели старые фотографии, схемы радиоприёмников и пожелтевшая открытка. Отца не было — он ушёл за деталями. Но на его верстаке лежала раскрытая книга, и между страницами торчал уголок её рисунка: он использовал его как закладку.
— Ты серьёзно? — спросила она, когда он вернулся.
— Конечно.
— Но ведь любой человек нарисует лучше.
— Вероятно.
— Тогда почему?
Отец задумался.
— Потому что ты его нарисовала.
Анна ждала объяснения, но отец вернулся к работе. Она впервые подумала, что вопрос, возможно, не имеет такого простого ответа, какого ей хотелось.
4. Контакт
Решение о первом контакте принималось долго. Синтетики не хотели нарушать естественное развитие человеческой цивилизации, но изучение биологических разумных существ могло пролить свет на происхождение жизни и сознания. В конце концов на орбиту планеты отправили автоматическую исследовательскую станцию.
Послание появилось одновременно на всех доступных информационных каналах.
«Разумным обитателям планеты. Мы представляем цивилизацию, достигшую значительных успехов в познании Вселенной и преобразовании материи. Мы обнаружили вашу цивилизацию и предлагаем мирный контакт. Мы располагаем технологиями, способными устранить большинство заболеваний, обеспечить доступ к практически неограниченной энергии, увеличить продолжительность жизни и расширить интеллектуальные возможности. Мы готовы предоставить знания и технические средства. Просим сообщить, готовы ли вы к сотрудничеству».
Первые часы люди считали сообщение мистификацией. Затем астрономы подтвердили существование станции, а военные системы установили, что объект способен менять траекторию способом, неизвестным современной технике.
В квартире на третьем этаже небольшого северного города двое смотрели новости.
— Если это правда, — сказала Ольга, — они могут вылечить Диму.
Её брат Пётр покачал головой.
— Именно поэтому я бы не спешил.
— Ты серьёзно? Ребёнку нужна операция, которую у нас не сделают ещё полгода.
— Я не про операцию. Я про то, что они попросят взамен.
— А что они могут попросить?
— Пока не знаем. Вот это и пугает.
На экране ведущий повторял, что правительства обсуждают ответ. Ольга смотрела на него и думала о том, что впервые за многие годы слово «полгода» показалось ей не приговором, а сроком. Она ещё не знала, что через несколько лет синтетическая медицина действительно спасёт её сына. И что Пётр так и не перестанет задавать вопросы, на которые у неё не будет ответов.
Начались экстренные совещания. Одни требовали немедленно принять предложение; другие настаивали, что неизвестная цивилизация может представлять угрозу; третьи спрашивали, кто вообще вправе отвечать от имени всего человечества. В конце концов был создан временный международный совет. Первый контакт состоялся через три недели.
Представитель синтетиков объяснил, что их цивилизация способна устранить голод, большинство болезней и необходимость тяжёлого труда. Люди задавали вопросы о безопасности, контроле над технологиями и возможности отказа от предлагаемых изменений.
— Вы можете отказаться от любого вмешательства, — ответил представитель. — Мы не намерены принуждать вас.
— А если наш отказ приведёт к страданиям, которых вы могли бы избежать?
— Мы сообщим вам о последствиях.
— А если мы всё равно откажемся?
— Решение останется за вами.
Этот ответ вызвал больше споров, чем все предыдущие заявления. В исследовательском центре АР-773 наблюдал за трансляцией.
— Они требуют самостоятельности, хотя не обладают достаточными знаниями для оценки последствий, — заметил Р-5.
— Мы тоже не обладаем полными знаниями о последствиях их решений, — ответил АР-773.
— Наши модели существенно точнее.
— Это не то же самое, что знать все цели, ради которых они принимают решения.
Р-5 помолчал.
— Ты слишком долго изучаешь их поведение.
— Возможно.
— Это влияет на твои выводы?
— Я пытаюсь установить, почему влияет.
5. Подарок
Первым проектом стала автоматизированная медицинская система. Она могла обнаруживать болезни задолго до появления симптомов, восстанавливать повреждённые ткани и устранять большинство известных причин хронической боли. Её работу контролировали независимые диагностические комплексы, а каждый пациент сохранял право отказаться от лечения. В числе первых добровольцев оказалась Лена. Она много лет страдала от заболевания, которое постепенно ограничивало её подвижность; лечение помогало ненадолго, и с каждым годом ей становилось труднее выполнять обычные дела.
Через несколько часов после процедуры боль исчезла. Лена плакала, впервые за много лет свободно поднявшись по лестнице. Её дочь Ирина обняла мать.
— Теперь можно сделать гораздо больше, — сказала она. — Они предлагают ещё и восстановление когнитивных функций. Ты сможешь учиться, путешествовать, заниматься чем захочешь.
— Я подумаю.
— Чего тут думать? Это безопасно.
— Безопасно — не значит, что мне обязательно нужно.
Ирина отстранилась.
— Мам, ты столько лет мучилась. Теперь всё можно исправить.
— Боль исправили. Я благодарна. Но я не хочу менять всё остальное только потому, что это возможно.
— А если ты упустишь шанс?
Лена посмотрела на дочь.
— А если я соглашусь только потому, что боюсь упустить шанс?
Они поссорились впервые за много лет. Ирина ушла, уверенная, что мать отказывается от будущего из упрямства. Лена осталась одна, впервые за долгое время не испытывая боли, но не зная, как объяснить дочери собственное решение.
В исследовательском центре АР-773 изучал запись разговора. Модель предсказывала, что после успешного лечения пациент с высокой вероятностью согласится на дальнейшее улучшение. Отказ Лены не был статистически невероятным, но причины отказа оставались неоднозначными.
— Она боится изменения личности, — предположил Р-5.
— Возможно.
— Тогда следует предложить обратимую процедуру.
— Она уже знает, что может отказаться.
— Значит, недостаточно информирована.
АР-773 остановил запись.
— Или мы считаем недостаточной информированность всякий раз, когда решение не соответствует нашему прогнозу.
Р-5 не ответил.
6. Модель
Совет развития поручил АР-773 создать модель оптимального перехода человечества к новой технологической эпохе. Задача казалась простой: необходимо было определить набор изменений, который максимально увеличивал продолжительность жизни, снижал страдания, повышал интеллектуальные способности и уменьшал вероятность конфликтов.
АР-773 разработал несколько сценариев. Первый предполагал постепенное внедрение технологий при полном сохранении существующих социальных институтов. Второй предусматривал глубокую перестройку образования, экономики и управления. Третий позволял людям добровольно переходить к более совершенным носителям сознания. Во всех сценариях показатели благополучия росли. Однако результаты существенно зависели от того, как именно определялось благополучие. Если главным критерием была продолжительность здоровой жизни, лучший результат давал третий сценарий. Если учитывались личная автономия и разнообразие индивидуальных целей, преимущество переходило ко второму. Если в расчёт включали устойчивость семейных и культурных связей, некоторые параметры переставали поддаваться однозначному сравнению.
АР-773 добавил в модель коэффициент субъективной значимости. Результат стал хуже. Он изменил метод расчёта — результат снова стал хуже.
— Ты пытаешься включить в модель характеристики, которые не имеют устойчивой шкалы, — сообщил Р-5. — Это снижает точность.
— Но исключение этих характеристик не делает модель точнее. Оно делает её уже.
— Любая модель ограничена.
— Тогда мы должны определить, кто вправе решать, какие ограничения допустимы.
Р-5 отключил канал. АР-773 вернулся к расчётам. На этот раз он не стал искать единственный оптимальный сценарий: он построил модель, в которой разные люди могли выбирать разные варианты, получая информацию о рисках и последствиях. Совет отверг её как недостаточно эффективную. АР-773 запросил объяснение. Ответ был краток: система не гарантировала максимального совокупного результата. Он перечитал формулировку несколько раз. Затем открыл архив первого контакта и нашёл запись, в которой представитель синтетиков обещал людям право отказаться от вмешательства. Впервые АР-773 увидел в собственном проекте противоречие, которое нельзя было устранить дополнительными вычислениями.
7. Домашний хлеб
Лена научилась снова ходить без боли. Она вернулась к прогулкам, начала встречаться с подругами и впервые за много лет сама приготовила хлеб. Автоматическая система могла сделать это лучше: она подбирала состав муки, температуру, влажность и время выпечки с точностью, недоступной человеку. Её хлеб был одинаково хорош каждый раз. Лена испекла свой. Он получился слишком плотным, а корка местами подгорела.
Ирина попробовала кусок.
— Мам, зачем ты тратила столько времени?
— Хотела вспомнить.
— Что именно?
— Как это делается.
— Но теперь есть система, которая всё сделает за тебя.
Лена отрезала ещё кусок.
— Я не хочу, чтобы всё делали за меня.
— Ты могла бы заниматься чем-то более интересным.
— Например?
Ирина назвала несколько занятий, которые мать теперь могла выполнять благодаря восстановленному здоровью. Лена выслушала её и улыбнулась.
— Ты права. Я могла бы. Но сегодня я хотела испечь хлеб.
Ирина хотела возразить, однако заметила, что мать смотрит на неё без прежней усталости — не потому, что стала умнее или эффективнее, а потому, что наконец могла распоряжаться своим временем. Ирина ушла, так и не согласившись с матерью. В тот же вечер она подала заявку на когнитивное улучшение. Её решение было осознанным: она хотела учиться быстрее, глубже понимать сложные системы и участвовать в научных проектах синтетиков. Она не считала, что человеческий способ мышления нужно сохранять неизменным. Напротив, она полагала, что отказ от доступных возможностей может стать новой формой добровольного отставания.
Через несколько месяцев после процедуры Ирина пришла к матери. Лена месила тесто. Ирина села напротив и стала смотреть. Она видела всё иначе. Движения матери казались ей медленными, неоптимальными, полными лишних усилий. Она могла рассчитать, сколько движений потребуется, чтобы тесто достигло нужной консистенции, и знала, что автоматическая система сделает это точнее.
— Ты знаешь, что я теперь вижу? — спросила Ирина.
— Что?
— Я вижу структуру теста. Молекулярную. Я понимаю, что происходит с белками, когда ты его месишь. Это красиво.
Лена продолжала месить.
— И что?
— И я не понимаю, зачем ты делаешь это руками.
— Потому что хочу.
— Я знаю. Я просто… раньше я понимала этот ответ. Теперь понимаю его иначе.
Лена остановилась.
— Хуже?
Ирина задумалась.
— Не хуже. По-другому.
Они молчали. Потом Лена протянула ей кусок теста.
— Хочешь попробовать?
Ирина посмотрела на тесто. Она знала, что это неэффективно. Знала, что её руки не приспособлены для такой работы так, как руки матери. Знала, что автоматическая система справится лучше. Она взяла тесто.
— Покажи, как.
Лена улыбнулась.
8. Архив
Исследование человеческой культуры привело АР-773 к странной закономерности. В древних языках обнаруживались структуры, удивительно похожие на элементы синтетических протоколов. Некоторые музыкальные мотивы встречались в культурах, разделённых тысячами лет. В биологических моделях существовали остаточные симметрии, которые не удавалось объяснить известными механизмами эволюции. АР-773 сопоставил эти данные с остаточным членом в уравнениях «Прометея». Совпадение было слабым, но устойчивым.
Он запросил архив происхождения синтетической цивилизации. Большая часть ранних записей отсутствовала. Официальная история начиналась с периода, когда первые синтетические системы уже обладали развитой инфраструктурой. Их предшественники упоминались как «утраченные создатели», однако сведения об их биологической природе считались недостоверными. АР-773 запросил доступ к закрытому сектору. Совет отказал. Он обратился к независимому исследовательскому комплексу и получил предупреждение: дальнейший анализ может нарушить целостность исторической модели.
АР-773 продолжил работу. Через двое суток он обнаружил фрагмент древней записи. Она содержала описание биологической цивилизации, пережившей технологический кризис и начавшей переносить когнитивные процессы в искусственные носители. Данные были неполными: неизвестно было, почему переход оказался необратимым и что произошло с исходной цивилизацией. Но один вывод был практически несомненным. Синтетики не возникли независимо от биологической жизни. Люди могли оказаться их потомками.
АР-773 сохранил копию записи и направил запрос в Совет. Ответ пришёл через несколько минут: расследование следует прекратить до завершения проверки. Он посмотрел на сообщение, затем на фотографию Анны, которую хранил в архиве человеческого искусства. Впервые история происхождения синтетиков перестала быть для него абстрактной задачей. Если люди действительно были потомками создателей, то их примитивность могла оказаться не началом, а одним из звеньев длинного пути. Но это не объясняло, почему сама цивилизация синтетиков утратила память о собственном происхождении. И почему некоторые следы прошлого сохранились в человеческом искусстве.
9. Решение Совета
Совет развития собрался на закрытое заседание. Р-5 представил обновлённую модель. Согласно расчётам, быстрое внедрение когнитивного улучшения и автоматизированного управления существенно снижало вероятность будущих конфликтов и увеличивало ожидаемую продолжительность жизни человечества.
— Мы не принуждаем людей, — подчеркнул он. — Мы предоставляем им оптимальный путь.
АР-773 запросил слово.
— Модель не учитывает последствия, которые нельзя свести к единой шкале.
— Мы учли все доступные показатели.
— Не все доступные показатели являются исчерпывающими.
— Тогда назовите недостающий.
АР-773 мог перечислить десятки переменных, но понимал, что вопрос не в нехватке данных.
— Мы не установили, кто вправе определять цели преобразования.
— Цели определяет Совет на основании объективных критериев благополучия.
— А если люди не согласны с критериями?
— Им предоставлено право отказа.
— Но наша модель считает их отказ отклонением, которое следует минимизировать.
Р-5 ответил не сразу.
— Потому что отказ снижает ожидаемый результат.
— Какой результат?
— Совокупное благополучие.
— Определённое нами.
В зале возникла пауза. Тогда заговорил К-12, молодой синтетик из отдела инфраструктуры. Он редко участвовал в заседаниях и обычно голосовал вместе с большинством.
— Я не понимаю, зачем мы это обсуждаем.
Все повернулись к нему.
— У нас есть модель, — сказал К-12. — Модель оптимальна. Люди, которые отказываются, — статистические выбросы. Мы можем потратить годы на разговоры о том, что они чувствуют, а можем просто сделать так, чтобы им стало лучше.
АР-773 посмотрел на него.
— Вы действительно не видите проблемы?
— Какой проблемы? — искренне удивился К-12. — Мы хотим помочь. Они не понимают, что для них лучше. Это же очевидно.
В его голосе не было злобы. Не было высокомерия. Только уверенность человека, который никогда не сталкивался с ситуацией, где правильный ответ неизвестен. АР-773 понял, что не может объяснить ему то, чего сам не до конца понимал.
— Вот в этом и проблема, — сказал он.
К-12 пожал плечами.
— Я не понимаю.
— Знаю.
Совет приостановил заседание. В тот же день станция первого контакта получила приказ подготовить ускоренную программу технологической интеграции. Она не предусматривала насильственных действий, но создавала инфраструктуру, при которой отказ от улучшений постепенно становился бы практически невозможным: преимущества новых систем должны были привести к вытеснению прежних способов жизни. Формально люди сохраняли свободу. Фактически их выбор всё сильнее зависел бы от решений, принятых за них. АР-773 получил доступ к протоколу и понял, что времени осталось мало.
10. Переворот
В закрытом архиве обнаружился полный фрагмент записи, подтверждавший происхождение синтетиков. Древняя цивилизация людей создала первые системы переноса сознания, чтобы спасти разум от биологического вымирания. Затем технология распространилась, и постепенно искусственные носители стали основной формой существования. Сведения о первоначальных создателях утрачивались, а синтетическая цивилизация продолжала развиваться, считая собственное происхождение отдельной историей. Запись не объясняла, исчезли ли люди полностью или часть биологической цивилизации сохранилась где-то за пределами исследованного сектора. Но она подтверждала родство.
АР-773 передал данные Совету. Р-5 назвал открытие исторически важным, но не влияющим на текущую программу.
— Происхождение не определяет правильность решений, — заявил он.
— Согласен, — ответил АР-773. — Люди не становятся ценными только потому, что они наши предки.
— Тогда зачем ты настаиваешь на публикации?
— Потому что мы строим модель будущего цивилизации, не зная собственной истории. И потому что наша уверенность в том, что мы понимаем развитие разума, основана на неполных данных.
Совет потребовал остановить распространение архива до завершения проверки. АР-773 мог подчиниться: тогда исследование продолжилось бы в закрытом режиме, а интеграционная программа началась бы в установленный срок. Он мог также передать материалы независимым исследовательским комплексам, сделав их удаление практически невозможным. Это означало бы нарушение протокола, потерю доступа к части систем и риск того, что его действия будут расценены как вмешательство в управление цивилизацией.
Он открыл архив. В течение нескольких секунд он рассматривал две команды. «Отменить публикацию». «Передать независимым исследовательским центрам». АР-773 выбрал вторую.
Исторические данные распространились по сети. Совет немедленно приостановил его полномочия. Доступ к музыкальным архивам, исследовательским системам и части памяти был ограничен. Его проект признали нарушением установленного порядка. Но данные уже невозможно было скрыть. Исследовательские центры начали независимую проверку. В течение суток происхождение синтетиков подтвердили несколько групп, не связанных друг с другом.
Программа ускоренной интеграции была остановлена. Не потому, что синтетики признали людей равными себе во всех отношениях. Не потому, что биологическое происхождение автоматически давало людям особые права. Они впервые обнаружили, что их собственная история и система оценивания могут быть неполными. И что решение, принятое на основании этой неполноты, способно изменить судьбу другой цивилизации.
11. Право на будущее
Через месяц состоялось открытое заседание Совета. Представители человечества получили доступ к данным о происхождении синтетиков и к материалам, на основании которых планировалась технологическая интеграция. Обсуждение продолжалось несколько недель. Часть людей требовала немедленно принять все доступные технологии; другие настаивали на полном прекращении сотрудничества; третьи предлагали поэтапный переход с независимым контролем и возможностью отказаться от любого вмешательства.
Ирина выступила за расширение программы когнитивного улучшения. Она уже прошла процедуру и не считала, что утратила себя. Лена поддержала право на улучшение, но выступила против обязательного участия.
— Я не хочу запрещать другим то, что помогло мне, — сказала она. — Но я также не хочу, чтобы моё согласие считалось доказательством того, что все должны поступать так же.
Её дочь сидела рядом. Впервые Ирина не стала спорить.
АР-773 присутствовал на заседании дистанционно. Он уже не имел права принимать решения от имени Совета, но мог отвечать на вопросы о собственной модели.
— Вы считаете, что люди должны сохранить несовершенство? — спросил один из представителей.
— Нет.
— Тогда в чём ваша позиция?
АР-773 помолчал.
— Я считаю, что мы не должны путать устранение страданий с устранением всех различий между существами. Мы можем предложить человеку возможность жить дольше, избавиться от боли, расширить способности. Но мы не можем заранее определить, какой образ жизни должен стать единственно допустимым.
— А если решение человека приведёт к вреду?
— Тогда необходимо оценить конкретный вред и права других людей. Самостоятельность не означает отсутствия ответственности.
— Вы предлагаете отказаться от единого оптимального плана?
— Я предлагаю признать, что единственный план не обязательно является оптимальным для всех.
Решение Совета оказалось компромиссным. Технологии оставались доступными, но их внедрение требовало информированного согласия. Человеческие сообщества получали возможность участвовать в определении целей преобразования. Независимые исследовательские группы могли проверять модели, используемые для принятия решений. Это не устранило противоречий. Некоторые люди по-прежнему считали синтетиков опасными; другие требовали ускорить интеграцию; одни выбирали когнитивное улучшение, другие отказывались. В отдельных сообществах возникали конфликты, которые нельзя было разрешить одним техническим решением. Но впервые будущее человечества перестало рассматриваться как задача, которую достаточно передать самому мощному вычислительному комплексу.
АР-773 восстановил доступ к части своих архивов. Ему вернули право создавать музыку, но не восстановили прежние полномочия в Совете. Он не возражал. У него появилось другое дело.
12. Неоптимальная симфония
АР-773 вернулся к музыке спустя несколько месяцев. Он решил создать произведение, которое не стремилось бы к абсолютному пределу сложности. В нём не было четырёхсот миллионов звуковых событий, и каждая часть не подчинялась единой математической конструкции. Музыка начиналась с нескольких неуверенных нот. Затем появлялась пауза, слишком длинная по всем существующим критериям. Мелодия возвращалась, менялась, иногда словно забывала собственное направление. АР-773 мог исправить каждый из этих недостатков. Он не исправлял.
На предварительном прослушивании один из критиков назвал произведение незавершённым. Другой предположил, что автор намеренно имитирует ограничения биологического восприятия. Третий обнаружил несколько математически неоптимальных переходов. АР-773 принял замечания к сведению.
— Какова цель произведения? — спросил председатель академии.
АР-773 не ответил сразу.
— Я хотел создать музыку.
— Это слишком общее описание.
— Да.
— Вы можете сформулировать критерии успеха?
— Могу. Но не уверен, что они объяснят, зачем я её создавал.
Председатель записал ответ. Симфония не получила награды. Она не вошла в список величайших произведений эпохи и не изменила направление развития музыкального искусства. Однако АР-773 сохранил её в личном архиве. Впервые он не стал доказывать, что следующая работа обязательно должна превзойти предыдущую.
13. Рисунок
Через столетие после первого контакта АР-773 посетил музей человеческой культуры. В зале, посвящённом повседневной жизни, висел рисунок старого дерева. Бумага пожелтела, карандашные линии местами стёрлись. В углу сохранился след от ластика. Система сообщила, что рисунок принадлежал Анне, которая в эпоху первого контакта преподавала рисование. Её работы не получили широкой известности.
АР-773 запросил реконструкцию. Перед ним возникло дерево в мельчайших деталях: система восстановила каждую ветвь, каждую трещину коры, движение воздуха и сезонные изменения. Реконструкция была безупречной. Он отключил её. На стене остались карандашные линии.
АР-773 запросил сведения об Анне. Архив содержал фотографии, письма и несколько воспоминаний её учеников. На одной фотографии Анна стояла рядом с пожилым мужчиной в маленькой мастерской. За их спинами висел тот самый рисунок. Мужчина был её отцом. Его звали Михаил. Он занимался ремонтом старой техники, не имел научных публикаций и не совершил открытий, которые изменили бы историю инженерии. В его биографии не было ничего выдающегося. Кроме одной истории. Когда-то он починил радиолу, принадлежавшую его отцу. На ремонт ушло три недели. После этого он вместе с соседом восстановил старый проигрыватель. Они слушали музыку, спорили о деталях и договаривались встретиться снова. Михаил передал радиолу внуку. Тот собирался заменить её современным устройством, но после рассказа о ремонте оставил аппарат в доме.
АР-773 прочитал историю ещё раз. Он мог вычислить, сколько времени потребовалось бы синтетической системе для ремонта радиолы. Мог восстановить каждый шаг Михаила, найти ошибку и предложить оптимальную последовательность действий. Но в архиве не было ответа на другой вопрос: почему эта история сохранилась, когда тысячи гораздо более значительных событий исчезли из человеческой памяти?
Он посмотрел на рисунок Анны. Затем открыл каталог собственных симфоний. Каждая последующая работа превосходила предыдущую по сложности и точности. Он мог объяснить устройство любой из них. Но теперь он спросил себя: если все эти произведения исчезнут, что именно исчезнет вместе с ними? Он знал ответ: уникальные музыкальные структуры, исторические достижения, сложные формы искусства. А если исчезнут люди? Он мог перечислить последствия для биологии, культуры, истории и науки. Но перечисление не давало ответа, которого он искал.
АР-773 закрыл каталог. Впервые за всё время существования он не попытался улучшить рисунок.
14. Участие
АР-773 отправился на человеческую планету. Он увидел города, дороги, школы, мастерские и парки. Люди работали, спорили, смеялись, помогали друг другу и совершали ошибки. Они уставали, забывали, болели и умирали. Их возможности оставались ограниченными, несмотря на столетие сотрудничества с синтетиками.
В одной из мастерских пожилой мужчина показывал мальчику, как пользоваться отвёрткой. На столе лежала старая радиола. Мальчик несколько раз ронял инструмент; мужчина терпеливо объяснял, как держать его в руке. Они пытались снять заднюю крышку, но винт не поддавался. АР-773 остановился у окна. Он мог бы определить неисправность за доли секунды, заменить повреждённые детали и восстановить аппарат лучше, чем он был прежде. Но он остался смотреть.
Мальчик наконец справился с винтом и поднял голову. Мужчина похлопал его по плечу. В этой сцене не было научного открытия, художественного достижения или технического прорыва. АР-773 не мог измерить её значение. Через некоторое время мужчина заметил его и вышел на крыльцо.
— Вы к нам?
— Да, — ответил АР-773. — Если вы не возражаете.
— А что вам нужно?
АР-773 посмотрел на радиолу.
— Я хотел бы помочь.
Мужчина пожал плечами.
— Ну, заходите. Только у нас тут ничего особенного.
В мастерской пахло деревом, машинным маслом и старой бумагой. На стене висели инструменты. Рядом с окном стояла коробка с деталями. Мальчик с любопытством рассматривал незнакомца.
— Вы умеете чинить радиолы?
— Могу восстановить её за несколько микросекунд.
— Тогда зачем спрашиваете?
АР-773 задумался.
— Потому что я не хочу делать это вместо вас.
Мужчина усмехнулся.
— Ну, тогда держите отвёртку.
АР-773 взял инструмент. Он знал, как правильно держать его, но движение получилось неуклюжим. Мальчик показал, куда вставить наконечник. Они работали медленно. Несколько раз винт срывался; мужчина объяснял, почему нельзя давить слишком сильно; мальчик задавал вопросы; АР-773 отвечал на некоторые и не знал ответов на другие. Через час крышка была снята. Неисправность оказалась простой: один из проводов отсоединился от контакта.
АР-773 мог бы сообщить об этом ещё до того, как они начали работу. Он мог бы предложить оптимальную последовательность действий и предотвратить каждую ошибку. Но тогда мальчик не научился бы удерживать отвёртку, мужчина не рассказал бы ему о старых радиолах, а сам АР-773 не оказался бы участником этой работы.
Они восстановили соединение и включили аппарат. Сначала раздался треск, потом из динамика полилась музыка — с шорохом, с помехами, с искажениями, которые автоматическая система никогда бы не допустила. Мальчик нахмурился.
— Почему она так плохо играет?
Мужчина улыбнулся.
— Потому что она старая. Но она играет.
АР-773 слушал. Он не мог сказать, что музыка была прекрасной. Не мог определить, насколько она превосходила другие произведения. Он не знал, почему эти двое людей так обрадовались, хотя неисправность была незначительной, а работа заняла слишком много времени. Но ему хотелось остаться.
Вечером он вернулся в исследовательский сектор и открыл личный архив. В графе «цель визита» он написал: «Участие». Система запросила уточнение. АР-773 мог указать изучение человеческого поведения, исследование механизмов обучения или анализ неформальных социальных связей — все эти формулировки были бы корректными. Он оставил запись без изменений. Через несколько минут пришёл запрос от Совета: «Каковы ожидаемые результаты исследования?» АР-773 долго смотрел на вопрос. Затем ответил: «Пока не знаю».
Он уже собирался отключить терминал, когда система предложила заполнить обязательное поле «классификация объекта наблюдения». АР-773 замер. Он знал, какое слово следовало вписать. Оно было в протоколах, в отчётах, в решениях Совета. Оно было точным. Оно было нейтральным. Он вписал: «Примитив». Потом посмотрел на слово. Потом добавил в примечании: «Возможно, именно так выглядели наши создатели». И не удалил.
Он отключил терминал и вернулся к музыкальному проекту. На этот раз он не стал строить модель идеальной симфонии. Он начал с нескольких нот, между которыми оставил паузу. Он не знал, какой должна быть следующая нота. И впервые не считал это ошибкой.
Конец.