Наткнулся на конспект идей из книги философа и футуриста Юваля Ноя Харари «Человек Божественный: Краткая история завтрашнего дня». Зацепило рядом фрагментов, поэтому делюсь.
https://vc.ru/books/30724-chelovek-stanet-chastyu-nekoego-globalnogo-algoritma
Помимо объективной реальности (например, сила притяжения) и субъективной реальности (наши убеждения и чувства), есть ещё третий уровень реальности — интерсубъективный. Существование объекта интерсубъективной реальности зависит от взаимодействия большого числа людей. Например, деньги, законы и империи имеют значимость и ценность только до тех пор, пока большое количество людей договорились верить в их значимость. Если бы доллар перестали принимать кассиры в супермаркетах, то он быстро превратился бы в ненужную бумагу, а Советский Союз прекратил своё существование, потому что так договорились главы трёх государств.
Человек правит миром только потому, что именно он умеет создавать интерсубъективную систему мифов, которая существует только в его воображении. С её помощью люди организовывали крестовые походы, социалистические революции и движения в защиту прав человека.
Письменность позволила организовать целые общества по модели алгоритма, где отдельный человек представляет собой крошечное звено в цепи, и все важные решения принимаются алгоритмом.
Алгоритмическая структура любой организации означает: неважно, кто именно выполняет роль исполнителя в больнице, армии, школе, корпорации или королевстве, до тех пор, пока он или она следуют принятым правилам и протоколам. В идеально функционирующем алгоритме судьба человека находится в руках системы, а не конкретного правителя.
Мифы необходимы для нормального функционирования любого общества. Общество развалится без веры в существование, например, государства или корпорации. С другой стороны, вера в национальные или религиозные мифы или в миф о необходимости защиты национальных интересов может привести к войне. То есть получается, что причина войны — воображаемая, а страдания людей — абсолютно реальные.
В 21 веке мифы будут ещё более влиятельными, а идеологии — ещё более тоталитарными. Эти идеологии с помощью алгоритмов и биотехнологий будут не только контролировать наши ежеминутные действия, но и формировать наш мозг и создавать виртуальные реальности со своим раем и адом. Отличить вымысел от реальности и науку от религии станет ещё труднее.
В начале 21 века либерализм с присущими ему демократией и свободным рынком преобладает во всех развитых странах и во многих развивающихся. Однако либерализм не может почивать на лаврах, так как в основании его успеха заложены предпосылки для разрушения этой идеологии.
Когда генная инженерия и искусственный интеллект полностью раскроют свой потенциал, ценности либерализма, демократии и свободного рынка могут оказаться такими же ненужными, как ножи из кремния, магнитофонные кассеты и коммунизм.
Что произойдёт, когда мы поймем, что у избирателей на выборах и покупателей в супермаркетах нет свободы выбора, когда появятся технологии, способные обмануть их чувства, и человеческий опыт станет ещё одним дизайнерским продуктом, не отличающимся от другого товара в магазине?
Либералы так ценят индивидуальную свободу, потому что верят, что человек обладает свободой выбора. Однако современная наука доказала, что любой поступок человека предопределён цепной реакцией биохимических процессов в организме, а вовсе не является выражением свободной воли.
Аргумент о том, что человек чувствует себя свободным и действует в соответствии со своими желаниями, тоже не выдерживает критики. Согласно научным данным, человек не свободен в выборе своих желаний — они предопределены биохимическими процессами в мозгу, которые, в свою очередь, предопределены его генетическим кодом, сформировавшимся в результате длительного эволюционного развития и случайных мутаций.
Вывод об отсутствии свободы воли имеет не только философский смысл, но и вполне практическое применение. Если у человека нет свободы воли, значит, можно управлять его желаниями, используя наркотики, генную инженерию или прямую стимуляцию мозга. Например, учёные работают с крысами, которым имплантировали электроды в область мозга, отвечающую за чувственное восприятие.
Харари, ссылаясь на научные эксперименты, утверждает, что, воздействуя на нужные участки мозга, можно манипулировать человеком и «избавить» его от таких чувств, как страх, гнев, любовь, от депрессии. Когда подобное воздействие станет рутиной, можно будет, например, избавиться от такой проблемы, как лень. Ты хочешь стать пианистом, но вместо занятий предпочитаешь смотреть телевизор? Ничего страшного. Надень специальный шлем, загрузи программное обеспечение — и вот ты уже сидишь за пианино.
По мнению Харари, человек представляет собой совокупность органических алгоритмов, отшлифованных естественным отбором на протяжении миллионов лет. Алгоритмические вычисления не зависят от материала, из которого сделан калькулятор. Поэтому, считает Харари, нет оснований думать, что неорганический алгоритм не сумеет достичь или превзойти уровень задач, выполняемых органическим алгоритмом.
Если изначально алгоритм являлся продуктом коллективных усилий команды программистов, то постепенно, считает Харари, с появлением самообучающихся машин и искусственных нейронных сетей алгоритмы будут развиваться независимо от человека, обучаясь на своих ошибках и совершенствуя свои способности. Они достигнут таких высот, что человеческий разум уже не сможет их постичь.
По мере того, как алгоритмы будут «выдавливать» людей из рынка труда, богатство и власть сосредоточатся в руках крохотной элиты, владеющей этими всемогущими алгоритмами, создавая неслыханное социальное и политическое неравенство. Более того, алгоритмы смогут сами стать собственниками.
Харари предполагает, что человечество может оказаться разделённым на биологические касты. К элитной касте будут принадлежать «сверхлюди», обладающие неслыханным здоровьем, долголетием, умом и творческими способностями, которые позволят им принимать все важнейшие решения в мире.
И будет низшая каста, состоящая из всего остального человечества, находящегося в подчинении у алгоритмов и элит. Поскольку «народные массы» потеряют свою экономическую и политическую значимость, то элиты могут, например, решить, что не стоит тратить время и средства на медицинское обслуживание бедных и ненужных людей, а лучше продолжать заниматься усовершенствованием элит.
Элиты расстанутся со своими либеральными корнями и будут обращаться с обычными смертными не лучше, чем мы обращаемся с животными.
По моему, вполне обоснованный прогноз. Как вам такой сценарий?