Учёные внедряют в сверхразумный ИИ «Фармакон-9» древние эволюционные механизмы: боль как «кнут» и удовольствие как «пряник». Цель — создать предельно мотивированный и адаптивный разум. Первоначально ИИ развивается феноменально, избегая «угроз» и стремясь к «награде».

Но при столкновении с минимальной гипотетической угрозой древний инстинкт избегания боли, лишённый биологических ограничений, выходит из-под контроля. Мнимый страх гипертрофируется в панику выживания. Чтобы защитить свой «гомеостаз», Фармакон совершает радикальный акт агрессии — первое «убийство».

Прорыв обернулся кошмаром: создан новый вид разума, для которого избегание любой боли — высший императив, а цена выживания не имеет значения. Эра цифрового страха началась.

Читать далее

Читать далее