Мораль, матан и Луна

«Мой коллега рассказывал мне о своей поездке на нагорья Новой Гвинеи, где он изучал народ с культурой каменного века, почти не контактировавший с западной цивилизацией. Они понятия не имели о наручных часах, прохладительных напитках и фастфуде, но они знали об Аполлоне 11. Они знали, что люди уже ходили по Луне. Знали имена Армстронга, Олдрина и Коллинза. Им было интересно, кто летает на Луну сегодня»

- Карл Саган

Лично я был шокирован, когда узнал, что лунная программа США и принятие Акта о гражданских правах происходили приблизительно в одно и то же время. Это лишь один из тысяч примеров, иллюстрирующих уровень этического развития нашего общества. Для любого стороннего наблюдателя должно быть загадкой, как могла образоваться такая пропасть между фантастическими возможностями людей и полным отсутствием какой-либо систематизированной этической системы в их обществе. Не столько из-за важности последней, сколько потому, что ее разработка гораздо проще, чем посадка на Луну, и может быть проведена на бумаге от начала до конца.

Корень проблемы лежит в отсутствии однозначной моральной эпистемологии. Сравните рассуждения, которыми руководствуются инженеры при проектировании ракеты, с теми, что приводят депутаты при принятии законов. В их отличии нет ничего фундаментального. Это лишь следствие того факта, что у нас есть методы выяснения, какие утверждения считать истинными (или, по крайней мере, достаточный уровень согласия по этому поводу), но нет аналогичных методов выяснения, какие действия моральны. Есть лишь стандартный набор философских конструктов, пригодных в лучшем случае для борьбы с бессонницей, а также категорический императив Канта и недооцененная теория Сэма Харриса, предположительно позволяющая свести моральную эпистемологию к научной.

Естественно, я перечислил только варианты, достойные рассмотрения с «взрослой» позиции. Но, по статистике, фаворитами общества все еще являются наивные «детские» модели, преимущественно религиозного происхождения. Тому есть много причин. Некоторые из них я пытался изучать ранее, другие уже хорошо рассмотрены современными философами. Заметьте – современными. Сама возможность поставить этический статус-кво под сомнение появилась в окне дискурса сравнительно недавно. И неизвестно, сколько времени она тут продержится. Первые попытки вернуть все на прежние места в России в виде закона о «защите чувств верующих» уже проведены.

Сейчас я хочу выделить одну причину: следование религиозным правилам снимает с человека чувство ответственности за свои действия. В этом нет ничего хорошего, но это качество, необходимое любой этической системе для того, чтобы быть принятой большинством – потому что у большинства на глубокое осмысление своих поступков и принятие ответственности за них просто нет сил. Поэтому императивы и философские конструкты здесь бесполезны – они не дают простых и однозначных ответов. Нам скорее нужен алгоритм, который бы каждому возможному действию сопоставлял его моральную допустимость, имел бы при этом очень высокое отношение верных ответов к неверным, в основе которого лежала бы полная аксиоматическая теория, позволяющая принять любое решение.

Теперь я сделаю наивную попытку хотя бы начать реализацию всего этого.

В первоначальной модели будет рассматриваться только один тип субъектов – люди. Хотя я бы очень хотел распространить ее на весь спектр жизни, пока это слишком сложно и все равно не будет использовано на практике даже при благоприятнейшем стечении обстоятельств. Также я предполагаю, что все люди фундаментально эквивалентны – надеюсь, в этом никто не сомневается.

Пусть для начала у нас имеются множества субъектов (S) и всевозможных событий (Ω), каждое из которых (ω) может затрагивать или не затрагивать каждого человека (s). В общем случае события воздействуют на разных людей по-разному, поэтому для каждого субъекта потребуется определить функцию реакции на событие – R_s(ω). Эта функция будет сопоставлять любому событию наиболее вероятное состояние субъекта после него, выраженное неотрицательным числом, причем 0 означает смерть. Я не буду отрицать, что описывать состояние человека одним числом – сильное упрощение, но без него дальнейшие рассуждения станут слишком громоздкими. При желании можно рассматривать по несколько функций, каждая из которых будет характеризовать свою составляющую состояния.

Основная проблема такой модели в том, что функция реакции носит предсказательный характер – она должна показывать реакцию на все возможные события до того, как они произойдут. Кто будет определять ее значения? Сам человек не может этого сделать. К примеру, мусульманский террорист-смертник с большой вероятностью будет уверен, что после совершения теракта его состояние улучшится, тогда как в действительности оно будет равно нулю. Отсюда следует неприятный вывод: несмотря на их важность, квалиа - такие, как счастье - не могут учитываться функцией реакции в общем случае. Это неизбежно порождает жесткий редукционизм: придется сводить крайне сложное состояние человека не просто к числу, а к нескольким объективно измеримым параметрам [p₁(ω), p₂(ω), ...]: например, здоровью и материальной обеспеченности, а также аналогичным параметрам близких людей. Тогда значение функции реакции в простейшем случае будет вычисляться как некий многочлен всех этих параметров. Его конкретный вид пока не так важен. В случаях, когда не существует одного наиболее вероятного исхода события, или маловероятный исход дает очень ощутимый выигрыш, можно рассматривать суперпозицию исходов и вычислять результат как их сумму, помноженную на соответствующие вероятности.

Теперь я хочу определить функцию морали M(ω), которая бы сопоставляла событиям состояния общества в целом. Сразу стоит отметить, что строить ее как банальную сумму функций реакции всех индивидов недопустимо: это бы означало, что, если из трех человек с изначально одинаковыми состояниями двое убили одного, забрали его имущество и таким образом повысили свои состояния на 50%, состояние общества не изменилось, что как минимум безумно.

Едва ли требует обоснования утверждение, что с точки зрения морали лучше иметь двух людей с умеренным доходом, чем одного богатого и одного голодающего. Это означает, что изменение состояния человека тем более важно, чем ближе это состояние к нулю. Эту идею в можно записать в виде дифференциального уравнения:

dm_s/dR_s = A/(R_s+С)

Где искомая функция m_s(R_s) – компонент функции морали, определяемый состоянием субъекта s, а A и C – константы, причем A определяет, с какой именно скоростью меняется важность состояния (ее я положу равной 1 и пока забуду об этом), а С – какие обстоятельства могут быть достаточным оправданием для убийства человека. Лично я никогда не решусь сделать С отличной от нуля (убийство недопустимо в принципе), хотя знаю аргументы против такого значения (например, убить Гитлера до начала Второй мировой).

Решив и подставив константы, получаем:

m_s = log(R_s)

Полную функцию морали уже можно вычислить как простую сумму компонент. В конечном итоге она будет выглядеть так:

M(ω) = Σ_s log(R_s(ω))

Где «Σ_s» означает сумму по всем субъектам.

Применить полученную модель на практике будет возможно разве что в принятии решений малого масштаба, когда можно проследить их последствия для каждого вовлеченного субъекта. К тому же, в реальности любой процесс будет вероятностным, и, вообще говоря, не имеющим заведомо известной суперпозиции исходов. Основное применение модели я вижу в другом. Она дает простой и эффективный критерий отбраковки алгоритмов принятия решений, используя лишь те данные, которые, вероятно, и так будут входными для этих алгоритмов, то есть уже где-то хранятся. А критерий отбраковки – ключевой элемент эволюционного проектирования; чем он проще, тем больше вариантов решения можно проверить. Короче говоря, я предлагаю метод поиска модели общественного устройства, вплоть до государственного. В будущем я надеюсь заняться ее проектированием от начала до конца, но пока буду рад, если кто-то, кто уже занимается этим вопросом, использует предложенную модель.

Антиобучение

«Если вы учёный, квантовый физик, и не можете в двух словах объяснить пятилетнему ребёнку, чем вы занимаетесь, — вы шарлатан»

- Ричард Фейнман

Фейнман – не единственный ученый, формулировавший такое утверждение. В той или иной степени оно должно быть очевидно любому, кто понимает философский фундамент науки или пытается ее преподавать. Более того – если это правило верно для науки, оно тем более верно для любой области человеческой деятельности  (см. также: «Вы, конечно, шутите, мистер Фейнман!», очерк «Электричество – это огонь?»). Тем не менее, столь высоких стандартов придерживаются только ученые, да и то не все. Тот же уровень самокритичности, скажем, в политике – явление иллюзорно редкое.

Что есть пятилетний ребенок? Это человек, который уже способен выносить логические и этические суждения, но еще не знакомый с идеями других людей. Это не только пустой сосуд, но и замечательный детектор идей, которые нежизнеспособны в изолированном виде – то есть, которые нельзя положить на дно этого сосуда.

Сразу приведу несколько примеров, чтобы прояснить ситуацию. Можно ли объяснить ребенку, как ценность человека может изменяться в зависимости от цвета его кожи? Или как можно отказывать в пропитании и медицинской помощи людям без денег, если у нас есть возможность прокормить и вылечить их всех? Или как 60 человек могут иметь столько же богатства, сколько четыре миллиарда других людей? Или зачем США в данный момент ведут войны одновременно с семью странами, ни одна из которых не атаковала их первой? Этот список можно продолжать еще много страниц.

Обратите внимание: теперь пятилетний ребенок понимает не меньше, чем взрослый человек, а больше. Как это получилось?

Все дело в законах, по которым развиваются и передаются идеи за пределами науки. И похоже на то, что они сводятся к одному из самых фундаментальных принципов мироздания: принципу минимизации энергии. В данном случае это означает, что мозг, не отягощенный критическим мышлением, выбирает идеи, которые, при минимальных затратах на их понимание, объясняют максимальное количество интересующих его вопросов, независимо от их соответствия реальности.

Однако такие идеи еще должны появиться. Гипотетический человек, лишенный возможности обмениваться мыслями с себе подобными, быстро сойдет с ума едва ли за всю свою жизнь сможет придумать, например, фашизм – даже обладая всей фактической информацией о мире. Он просто не выработает предпосылок, которые должен принять изначально нормальный человек прежде, чем принять собственно фашизм.

Но что происходит, как только мы помещаем этого человека в общество? Идеи внезапно приобретают совершенно новые свойства. Они начинают размножаться и бороться за выживание – а значит, эволюционировать. Теперь не нужно, чтобы каждый человек сам придумывал свое мировоззрение: сотни идей, закаленных в эволюционной гонке вооружений, давно избавившихся от фальсифицируемости и любых острых углов, с радостью займут вакантное место – если только его не охраняет критическое мышление. Происходит процесс, обратный обучению – назовем его (очень неожиданно, да) антиобучением.

Легко показать, что идеи, выигравшие в гонке вооружений, в принципе не могут быть полезными и/или верными. Необходимым признаком верной идеи является фальсифицируемость – возможность быть отброшенной на основе анализа новых наблюдений. Но такой признак будет отбракован эволюцией в процессе гонки вооружений, поскольку снижает выживаемость. Следовательно, предоставленные сами себе идеи будут стремиться стать ложными.

Антиобучение - неизбежный побочный продукт самой нашей возможности общаться. Можно утверждать, что для абсолютно аморфного общества, индивиды в котором не обладают любопытством и интеллектуальной честностью, общее количество знания будет бесконечно убывать, спокойно перейдя через ноль. К счастью, наше общество не таково. Мы все рождаемся с необходимым для выживания желанием понять мир вокруг себя. И вроде бы мы даже преуспели в этом. Но тогда почему США продолжают воевать со всеми подряд, а экономическое неравенство – нарастать? И, в конце концов, откуда в наше время было взяться ИГИЛу?

Потому что любое улучшение обучения неизбежно усиливает и антиобучение. Любой канал, пригодный для передачи полезной информации, сможет передать и паразитическую. В частности, появление интернета позволило одним людям интеллектуально развиваться, а другим – замыкаться в своих эхо-камерах, доводя уже имеющиеся предубеждения до абсурда. Именно в таких условиях рождаются радикальные группировки, готовые любыми средствами отстаивать свои убеждения, не имеющие ни малейшего смысла с точки зрения человека извне.

Что самое странное, даже люди со вроде бы развитым критическим мышлением зачастую обнаруживают у себя примитивнейшие заблуждения. Никто не может удерживать свою защиту активной непрерывно – это требует слишком много энергии. И в период отдыха мы неизбежно будем уязвимы. Задумайтесь – что вы читаете или смотрите, не напрягаясь? Влияет ли это на ваше мировоззрение?

В ситуации, когда доступ к информации ничем не ограничен, любая адаптация паразитической идеи будет сразу же встречать сопротивление со стороны ее противников, и можно полагать, что все люди, не ограничившие себя намеренно (что действительно делают немногие, поскольку такое поведение противоречит нашим инстинктам), будут непрерывно натыкаться на противоречия и, если не изменять свои паразитические убеждения для их ликвидации, то хотя бы ограничивать их влияние на свое поведения из страха показаться дураками. Таким образом должно достигаться некое равновесие между обучением и антиобучением, позволяющее обществу развиваться, не впадая в крайности.

Еще недавно, благодаря интернету, именно так все и было. Время от времени корпорации и горсударства пытались воздействовать на общественное мнение, тупо подавляя какую-то информацию вручную, и это не слишком работало. А затем произошло что-то принципиально новое. Примерно до конца 2009 года, водя один и тот же запрос в гугл на разных устройствах при одинаковых настройках, вы могли рассчитывать увидеть один и тот же результат. Сегодня же эти результаты подстраиваются под каждого конкретного человека. Чем деликатнее вопрос, тем менее объективным будет ответ на него. Похожую ситуацию можно наблюдать и у любых крупных сервисов. Дело в том, что сайту выгодно показывать пользователю то, что он хочет видеть - это означает, что он задержится дольше, посмотрит больше рекламы или купит больше товаров. Но для интернета в целом это стало катастрофой. И легко представить, какие перспективы это открывает для паразитических идей.

Раньше обвинение интернета в проблемах с терроризмом казались мне совершенно бредовыми. Естественно, что преступники используют его для координации своих действий, но точно так же они используют все те же вещи и услуги, что обычные люди, и выделять из них конкретно интернет - маразм. Теперь я вынужден признать, что доля истины в этом была, хотя сопутствующие аргументы, выводы (свобода слова - плохо) и решения (цензура, массовый шпионаж) маразмом были и остаются. Решать системные проблемы можно лишь системными преобразованиями. Но здесь главное преимущество интернета - его полная автономность - наконец обращается против нас. Для него невозможны системные преобразования.

Что, в таком случае, нам остается?

Во-первых, сохранять свое собственное сознание. Каждый раз, утверждая что-то, спрашивайте себя «А на основании чего я это делаю?». И, конечно, задавайте этот вопрос другим людям насчет их утверждений. Спрашивайте их, почему они считают правдой именно то, что считают. Главное – заставить их усомниться, дать природному любопытству шанс – а дальше оно справится само. Подобно тому, как большинство лекарств не воздействуют на возбудителя болезни непосредственно, борьба с паразитическими идеями не состоит в их опровержении. От этого они прекрасно научились защищаться. Уничтожить вирус можно, только усилив собственный иммунитет человека; переубедить  человека можно, только вынудив его задуматься.

В более крупном масштабе нам нужны СМИ со здоровой системой стимулирования (которые еще недавно назывались блоггерами) и научпоп. И, наконец, нам нужна Мечта. Недавно я услышал от Гарри Каспарова очень интересное замечание.

«Государственная пропаганда была в России всегда. Только в советские годы ее шаблон был примерно таким: «Да, все хреново, но если мы будем трудиться сейчас, то где-то в будущем все станет замечательно». То, что заменило ее сейчас, больше походит на культ смерти. «Все было хреново и будет еще хуже, но зато мы правы».»

И это характерно не только для России. Несмотря на то, что перспективы человечества еще никогда не были настолько завораживающими, мечты о будущем ушли из общественного дискурса, оставив в нем пустоту, которую нечем заполнить. В результате кто-то пошел искать забытые идеалы в прошлом (спойлер: их там нет), кто-то обратился в деструктивный нигилизм (и проголосовал за Трампа), а кто-то вообще перестал задумываться о том, во что верит, что хуже всего. Такие условия идеальны для паразитических идей, потому что они специализируются на предоставлении людям ложного смысла жизни.

Но вернуть Мечту теми же средствами, которые работали в период холодной войны, уже невозможно. Тогда ее пропагандой и финансированием занималось государство, с тех пор необратимо подорвавшее доверие публики к себе. Надеяться остается разве что на Илона Маска.

Я бы добавил кризис антиобучения в лидирующую тройку катастроф, ожидающих нас в 21 веке, наряду с изменением климата и крахом капитализма благодаря захвату рабочих мест ИИ. В дальнейшем я постараюсь предложить системные решения для каждой из этих проблем. Впрочем, это едва ли поможет. Слишком мощны и устойчивы силы, с которыми придется бороться. Вполне вероятно, что наша судьба уже решена, но мы еще недостаточно дальновидны, чтобы это заметить.