Гуманитарно-технологическая революция, кризис совести,
риски и проекты будущего [1]
Г.Г. Малинецкий, С.А. Посашков, А.А. Скурлягин
Я не люблю машины. Я ненавижу интернет,
ненавижу компьютеры. Они мешают нам жить,
они отбирают наше время. Люди слишком много работают
за компьютерами, они слишком много болтают,
вместо того чтобы слушать и слышать друг друга.
Рэй Брэдбери
И мир, и Россия сейчас находятся в совершенно новой ситуации – на той исторической развилке, на которой выбирается будущее. Это новый круг проблем, к которым мы пытаемся подходить по старинке, надеясь на технику, на нефть или ракеты, на рост ВВП или лучшие мировые практики.
И возможности, и риски мы по-прежнему связываем то с глобализацией, то с технологической сингулярностью – взрывным ускорением научно-технического прогресса (или регресса). Мы хватаемся за привычки, идеи и понятия прошлого, не желая заглянуть в будущее, которое, говоря словами Ф.М. Достоевского, привело нас к «последним вопросам». И вопросы эти связаны не с техникой, с ресурсами, с климатическими изменениями, а с сущностью человека, с теми смыслами и ценностями, которые он несет в себе, с его желаниями, возможностями, образом будущего, с его душой.
Анализ крупнейших катастроф XX в. показал, что у всех у них были предвестники. Обычно это аварии, бедствия, чрезвычайные ситуации того же типа, но меньшего масштаба. Иногда кажется, что судьба нам посылает знак, намек, предупреждение о том, что может произойти. Если этот знак понимался, осмысливался и предпринимались необходимые меры, то многих бед удавалось избегать, ну, а если нет… На мой взгляд, таким знаком, смысл которого до сих пор не осознан, стала Чернобыльская авария.
Одним из самых больших бедствий являются войны. Наполеон говорил, что ему для того, чтобы начать войну, надо убедить всех маршалов, ¾ генералов, половину офицеров, а солдат и так погонят. Другими словами, подобное решение должно быть поддержано достаточно большим кругом людей, обладающих властными полномочиями, и требовало довольно много времени.
В случае Чернобыля локальные действия нескольких человек, не входящих в структуры власти, не принявших необходимых мер, в течение суток изменили мир. Многие используемые сейчас технологии предполагают совершенно другой уровень ответственности, не сравнимый с тем, который был нужен в прежнее время. От действий нескольких зависит судьба всех.
Наверно, все помнят, что в 2018 г. Дональд Трамп посылал к берегам Северной Кореи авианосные группы и обещал «преподать урок» этой «стране-изгою». И, что еще более важно, имел все возможности для того, чтобы это сделать. Новые технологии требуют иной этики и другого отношения людей друг к другу. Без этого наша цивилизация напоминает обезьяну с гранатой – рано или поздно чека будет выдернута. Главные опасности – внутри нас. Здесь же и главные возможности.
Одним из первых это попытался осмыслить, объяснить, достучаться до других Ульрих Бек: «Чернобыль – это конец «других», конец всех наших строго культивировавшихся возможностей отделиться друг от друга, ставший очевидным после радиоактивного заражения. От бедности можно защититься границами, от опасностей атомного века нельзя. В этом их своеобразная культурная и политическая сила… В развитом модерне возникает новая «аскриптивная» разновидность чреватой грозными опасностями судьбы, от которой не уйти при всем старании. Она больше напоминает судьбу сословий в средневековье, чем классовые ситуации XIX в. В отличие от сословных и классовых ситуаций она складывается не под знаком бедности, а под знаком страха и является не «традиционным реликтом», а продуктом модерна на высшей ступени его развития» [2]. Известный российский ученый В.В. Иванов развивает научное направление, называемое экологией технологий [3]. В его основе представление о необходимом уровне культуры и морально-волевых качеств, и, в частности, ответственности, для того, чтобы использовать современные технологии.
Второй, не менее важный, момент состоит в умении слушать и слышать, иметь стратегии и алгоритмы достижения согласия в обществе. Достаточно просмотреть блоги и сайты, достаточно далекие от актуальной политики, чтобы увидеть, как формируются сообщества «наших» и «ненаших» и как стремительно растет их неприязнь, как на глазах возникает жесткое противостояние. Интернет, который по замыслу его создателей должен был связывать и объединять людей, начинает все чаще их разделять. Он становится инструментом для наживы, обмана и манипуляции одних людей другими.
Яркий пример неумения слушать и заглядывать в будущее дает обсуждение глобальных проблем. На саммите в Рио-де-Жанейро в 1992 г. все необходимые слова были сказаны. Ведущие политики мира признали, что нас объединяют глобальные проблемы и ответственность перед будущими поколениями – исчерпание невозобновляемых ресурсов, принявшее огромные масштабы загрязнение окружающей среды, климатические изменения и многое другое. Согласован и принят перечень угроз, справиться с которыми отдельные страны не могут в одиночку. Но практических шагов в этом направлении не было, нет и не предвидится. Сытые голодных не понимают. Но и голодные не понимают и понимать не хотят сытых и при первой возможности постараются отвоевать у них часть общего для всей нашей планеты пирога.
Проект глобализации уходит в прошлое. Администрация Трампа пытается его поскорее похоронить и забыть. Он не дал американцам того, на что они рассчитывали – долгого глобального доминирования. Что объединяет мир? Потоки товаров и свободная торговля? В эпоху санкций об этом говорить не приходится. Единая финансовая система? И вновь всё более странным кажется, что тот, кто «равнее всех остальных», может по своему произволу включать печатный станок и грабить всех других. И конец такого миропорядка не за горами.
По сути, нас связывают в единое целое технологии, которые пока не знают границ. Хотя и тут траектории стран, которые умеют делать мобильные телефоны, и тех, которые умеют только по ним разговаривать, расходятся всё дальше.
Наступивший век вновь ставит перед нами классические кантовские вопросы: «Что я могу знать? Что я должен делать? На что я могу надеяться?» Но сейчас становится понятно, что все они в нашу эпоху сводятся к вопросу о сущности человека и о той мере, в которой она может измениться. Сумеем ли мы совладать (и есть ли сейчас такая категория как «мы») с созданными и перспективными технологиями, или нас ждет незавидная участь ученика волшебника, который не смог справиться с разбуженными им силами.
Именно с этой точки зрения, ставящей во главу угла человека, мы и посмотрим на риски будущего и перспективы России.
Метафоры новой реальности
Подытожим: метафора – это действие ума,
с чьей помощью мы постигаем то, что не под силу понятиям.
Посредством близкого и подручного мы можем
мысленно коснуться отдаленного и недосягаемого.
Х. Ортега-и-Гассет
Культура, её важнейшая часть – наука, искусство, технологии, мировоззрение представляют собой части единого целого, самым активным образом влияющие друг на друга.
В настоящее время наше мировоззрение во многом меняет теория самоорганизации – синергетика (или более широко – нелинейная наука). Со времен древних греков, как и в рамках христианской традиции, так и в историческом материализме, основы которого были заложены Марксом и Энгельсом, считалось, что у нас есть некая предопределенность. История мыслилась как единый поток, идущий из прошлого в будущее.
Однако естественные науки второй половины XX в. и прикладная математика показали, что это не так. Как правило, в достаточно сложных системах мы сталкиваемся совсем с другой картиной. Это положение, в котором оказывается витязь на распутье – прежняя дорога кончилась и надо выбирать из нескольких возможных путей, по которым он еще не ходил.
В 1834 г. К. Якоби исследовал зависимость формы небесных тел от параметра – скорости, с которой они вращаются вокруг своей оси. Решая эту задачу, он ввел понятие бифуркации (от французского bifurcation – раздвоение, ветвление). С тех пор математики так начали называть ситуацию, в которой при изменении параметра меняется число и/или устойчивость решений определенного вида. Значение параметра, при котором это происходит, они назвали точкой бифуркации.
Затем этим термином начали пользоваться гуманитарии, рассматривая случаи, когда прежняя траектория изучаемого объекта теряет устойчивость и открываются новые возможности. Бифуркации бывают мягкие, когда новые пути поначалу не слишком отличаются от старых, и жесткие, когда характеристики системы меняются резко, неожиданно, скачком. Первые, естественно, связываются с эволюционным развитием, вторые – с революционным.
Потом понятие о бифуркации вошло в лексикон политиков, журналистов, философов. Само развитие стало рассматриваться как прохождение последовательности бифуркаций. При тех параметрах, при которых это происходило, сознательно или неосознанно делался выбор варианта будущего, к которому идет система. Будущее оказалось не единственным.
Это меняет наш взгляд на мир. В самом деле, Ньютон представлял Вселенную как гигантский часовой механизм, который создал Бог и которому он дал первотолчок. В ньютоновском мире нет свободы воли, и мы, хотим того или нет, разыгрываем кем-то и когда-то написанный сценарий.
Современная наука утверждает, что дела обстоят иначе. В точках бифуркации малые причины могут иметь большие следствия, они определяют путь в будущее, а с ним и само будущее. В этих точках случайности, субъективные или игровые моменты, действия небольших групп, а иногда и отдельных людей, могут сыграть решающую роль. Мир не создан до конца, его творение продолжается, и некоторые решения, которые мы принимаем, могут очень сильно повлиять на его настоящее и будущее.
Заканчивается индустриальная эпоха. Кончается время капитализма и прежняя траектория развития. Мир находится в точке бифуркации. Наступает время выбора и эпоха больших перемен. Вопрос только в том, что определит этот выбор и каким он будет.
Вторая важная метафора связана с так называемым «эффектом бабочки». В 1963 г. американский метеоролог Эдвард Лоренц сделал одно из главных открытий XX в. Исследуя на компьютере простейшую модель, описывающую конвекцию (этот процесс во многом определяет погоду), он открыл динамический хаос.
Со времен Ньютона главным типом математических моделей стали так называемые динамические системы. Эти системы позволяют описывать движение. В них будущее объекта, вся его дальнейшая история, однозначно определяется его нынешним состоянием. Последователь Ньютона П.С. Лаплас, живший в наполеоновскую эпоху, − утверждал, что мозг, достаточно мощный для того, чтобы принять в расчет координаты и скорости всех частиц во вселенной, сможет заглянуть как угодно далеко и в будущее, и в прошлое.
Эдвард Лоренц показал, что это не так. Траектории множества интересных динамических систем неустойчивы. И в них малые причины могут иметь большие следствия. А значит, взмах крыльев бабочки в нужное время в нужном месте может привести к разрушительному урагану, который может произойти через 2‑3 недели в сотнях километрах от того места, где сидела бабочка.
И это меняет очень многое. С одной стороны, оказывается, что наши возможности предсказывать состояние сложных систем весьма ограничены величиной, называемой горизонтом прогноза (для атмосферы этот горизонт и составляет 2‑3 недели). С другой стороны, мы можем посмотреть, что определяет неустойчивость в конкретном случае, и попытаться стабилизировать ее, если она опасна для нас, или, напротив, ускорить ход процессов, если это отвечает нашим интересам. Появляется научная основа для технологий проектирования будущего.
В-третьих, – и это сейчас самое главное – совершенно иной в глобальном и взаимосвязанном мире становится мера ответственности. Ведь каждый из нас, ошибаясь и не осознавая происходящего, может стать той самой «бабочкой», взмах крыльев которой привел к большим бедам. Слова поэта о том, что нам не дано предугадать, как наше слово (и, тем более, дело) отзовется, оказались пророческими. Наука подводит нас к выводу, что понятия осознанность и ответственность станут важнейшими категориями в наступившем веке.
Количество, переходящее в качество
Если даже человек все может осуществить,
то наверняка не любым способом.
Он достигнет в конце концов любой цели,
если только того пожелает, но, быть может,
ещё раньше поймет, что цена,
которую придется за это заплатить,
делает достижение данной цели абсурдным.
С. Лем
Известно классическое утверждение, что политика является концентрированным выражением экономики. Но эту взаимосвязь можно продолжить. Экономика, в свою очередь, является воплощением и массовым использованием технологий, созданных человечеством. В то же время сами технологии («обусловленные состоянием знаний и общественной эффективностью способы достижения целей, поставленных обществом, в том числе и таких, которые никто, приступая к делу, не имел в виду» [4], – как определил их С. Лем) сегодня опираются на научные достижения.
В течение XX в. был пройден громадный путь. Благодаря родовспоможению, антибиотикам и ряду других достижений медицины, средняя ожидаемая продолжительность жизни в странах третьего мира увеличилась вдвое. Мечта Фауста о второй молодости нашла массовое практическое воплощение. Применение минеральных удобрений и произошедшая «зеленая революция», позволяющая в ряде стран получать на несколько урожаев больше, чем раньше, уже сейчас позволяет накормить всех голодных.
Ряд технологий достигли своих пределов. Это особенно наглядно видно в сфере вооружений. Это не случайное сравнение – многие важнейшие инновации связаны с вооруженной борьбой. Люди очень изобретательны в том, что касается оружия. В самом деле, возможности оружия в течение почти всей истории определяли дальнобойность, поражающая сила и скорость. Американская стратегия «быстрого глобального удара» направлена на то, чтобы межконтинентальные баллистические ракеты оказались там, где их захочет видеть президент, в течение часа.
По оценке американского футуролога Элвина Тоффлера, «…убойная сила обычного оружия была увеличена на пять порядков от начала промышленной революции до наших дней. Это значит, что в наше время неядерное оружие в среднем в 100 000 раз мощнее, чем было, когда первая машина и фабрика стали изменять наш мир. А чтобы представить себе силу ядерного оружия, достаточно вообразить 100 или 1 000 Чернобылей. Лишь в последние пятьдесят лет стали всерьез обсуждаться сценарии конца света» [5].
Около пределов, в окрестности точки бифуркации, смыслы, цели, стратегии должны стать иными. Какими? Ответ, который дает теория постиндустриального общества, основы которой были заложены американским социологом Даниелом Беллом, звучит так: «На протяжении большей части человеческой истории реальностью была природа: и в поэзии, и в воображении люди пытались соотнести своё «я» с окружающим миром. Затем реальностью стала техника, инструменты и предметы, сделанные человеком, однако получившие независимое состояние вне его «я», в овеществленном мире. В настоящее время реальность является, в первую очередь, социальным миром – воспринимаемым через отражение своего «я» в других людях. Общество само становится сетью сознания, формой воображения, которая должна быть реализована как социальная конструкция… Человек может быть переделан или свободен, его поведение – запрограммировано, а сознание – изменено. Ограничители прошлого исчезли вместе с концом эры природы и вещей» [6].
Белл ввел «осевой принцип», позволяющий выделять различные основополагающие сущности в зависимости от «оси», от точки зрения на историю. Если эта ось – смена форм собственности и соответствующих общественно-исторических формаций, то можно выделить «феодализм», «капитализм», «социализм». Если ось – статус и историческая роль знаний, то эволюция выглядит иначе: доиндустриальное – индустриальное – постиндустриальное общество. Для последнего характерно быстрое развитие сферы обслуживания, важное значение теоретического знания для осуществления технологических нововведений, превращение новой индустриальной технологии в ключевой инструмент системного анализа и теории принятия решений.
Сейчас, через полвека после появления этой теории, со многими деталями можно поспорить, но главная тенденция отражена абсолютно точно – в центре внимания новой эпохи оказывается человек. Очень большую долю в бюджетах стран-лидеров составляют расходы на социальное обеспечение, на здравоохранение, на образование. Каждая третья научная статья, выходящая сейчас в мире, посвящена медицине. Качество жизни становится важнейшим показателем в конкуренции стран друг с другом. Ряд государств оценивают, как важнейший показатель, не только валовый внутренний продукт (ВВП), но и валовое внутреннее счастье.
Если в индустриальную эпоху людей рассматривали как винтики огромной машины, делали акцент на стандартизации и взаимозаменяемости и полагали, что «незаменимых нет», то сейчас картина совсем другая. Очень многое зависит от очень немногих. Во многих странах осознано, что их будущность определяется тем, сумеют ли они найти талантливых детей, дать им отличное образование и найти им работу, которая принесет наибольшую пользу им и обществу. Барак Обама в своё время говорил, что единственным показателем, по которому он будет судить о состоянии американской средней школы, является число ребят, занимающих первые места на международных олимпиадах по физике и математике, потому что страна, способная готовить таких детей, будет править миром через 20 лет…
В течение многих веков жизнеустройство следовало принципу «человек для экономики» – люди «впрягались» в своё хозяйство и очень немногие могли что-то изменить в своей жизни. «Если ты не будешь рабом своего дела, то тебе просто придется работать на другого хозяина», – гласит испанская пословица, отражающая традиционный крестьянский уклад жизни.
Ныне очень часто реализуется иной императив «экономика для человека», – набор жизненных траекторий стал намного шире.
Итак, всё для блага человека, всё во имя человека. Но каким будет сам этот человек? Творцом или потребителем (пусть даже квалифицированным)? Этот вопрос прекрасно обыгран в повести братьев Стругацких «Понедельник начинается в субботу». С одной стороны, увлеченные наукой, окрыленные и вдохновенные сотрудники НИИЧАВО (НИИ чародейства и волшебства), для которых происходящее на работе в тысячи раз интереснее, чем отдых. С другой стороны, профессор Выбегалло, создавший идеального потребителя. Последний с большим успехом потреблял всё, до чего мог дотянуться, и в конце концов лопнул.
Постепенный рост благосостояния, развитие социальных программ создало иллюзию, что именно потребление и будет главным в наступившей эпохе, что «я не халявщик, а партнер», что потребительские кредиты, то ли из-за инфляции, то ли из-за «реструктуризации долга», возвращать не придется. Этот морок поразил не только отдельных людей, но и правительства ряда государств. И когда выяснилось, что долги отдавать придется и что бесплатный сыр бывает только в мышеловке, это стало для них неприятным сюрпризом.
Да ведь и у большой части нашей творческой интеллигенции произошла смена вех. Автор романов о светлом советском коммунистическом будущем Борис Стругацкий говорил в интервью журналу Playboy: «Боюсь, ничего более стабильного и благополучного, чем Общество Потребления, человечество создать не способно. Худшее – сколько угодно, а лучшее – нет…».
У Дж. Голдинга есть повесть «Повелитель мух» о детях, попавших в результате авиакатастрофы на необитаемый остров. Ребята начали жить по праву сильного, создав довольно бесчеловечную социальную структуру и свою религию, – они поклонялись отрубленной свиной голове, которую они наделили атрибутами божества.
В современной теории общества потребления роль свиной головы, которую надо поставить выше себя, играют то искусственный интеллект, то большие данные, то компьютерные сети. Например, американский футуролог Ю.Н. Харари так провозглашает следующий этап эволюции (общества потребления): «Главным продуктом экономики XXI в. будут не вооружения или одежда – а тела, мозги и интеллект. Подобно тому, как результатом промышленной революции стало возникновение рабочего класса, так следующая масштабная революция создаст класс неработающий, бесполезный. Демократия и свободный рынок рухнут, когда Google и Facebook будут знать нас лучше, чем знаем себя мы сами; власть, полномочия и компетенции перейдут от живых людей к сетевым алгоритмам» [7].
При таких целях, на наш взгляд, человечество сломает себе шею без астероидов, ядерных войн и новых смертельных болезней. Эта ветвь развития, вероятно, является тупиковой. Но есть и другие ветви…
Гуманитарно-технологическая революция, происходящая в настоящее время, более масштабна и значима, чем промышленные, цифровые, социальные революции. Последние меняли техносферу или общество, а первая меняет самого человека. Пользуясь выражением выдающегося математика и философа Н.Н. Моисеева, это революция, меняющая алгоритмы развития человечества. И у нас пока нет готовых ответов. Нам ещё предстоит найти путь в будущее.
Пожалуй, здесь следует заметить, что гуманитарные технологии сильно недооцениваются в современной России, хотя применение «мягкой силы» в нынешней реальности позволяет часто добиться гораздо большего, чем использование «жесткой» силы или угрозы её применения. Из 8 официально принятых «научных приоритетов» и 27 «критических технологий» ни одна не относится к гуманитарной сфере. Наверное, это неправильно.
Эмпатия, совесть, этика
Жизнь ведь тоже только миг,
Только растворенье
Нас самих во всех других
Как бы им в даренье.
Б.Л. Пастернак
Человек – существо общественное. Поэтому правила взаимодействия в обществе являются важнейшими сущностями, которые сформировали нас. Например, психологи установили, что есть так называемое число Данбара. Оно определяет предельное число людей, отношение которых к себе мы можем запомнить. Оно находится в пределах от 120 до 150 – примерно столько людей было в племени во времена, когда судьба каждого определялась действиями других.
Язык возник как инструмент для координации коллективных действий. Нашим ключевым эволюционным приобретением является способность к рефлексии, дающая возможность построить модель «другого» и оценить свои действия.
Одним из важнейших видов рефлексии является совесть – способность и потребность взглянуть на себя глазами других членов сообщества, к которому ты себя относишь. Она самым тесным образом связана с сочувствием, с сопереживанием, с эмпатией, а иногда с альтруизмом, с готовностью взглянуть на ближнего как на самого себя…
Из глубины веков к нам пришло золотое правило этики – поступай по отношению к другому так, как ты хотел бы, чтобы он поступал по отношению к тебе. С практической точки зрения в течение многих веков религии выступали как этические системы, своеобразные «правила техники безопасности для жизни в обществе».
Огромный путь прошло искусство, воспевающее любовь, дружбу, сочувствие – «Куда не бросишь взор – все мерзостно вокруг, но как тебя оставить, милый друг?», «Нет уз святее товарищества», «И долго буду тем любезен я народу, что чувства добрые я лирой пробуждал…».
Но с другой стороны, двадцатый век стал веком мировых войн, концлагерей, оружия массового уничтожения, развитием тенденции к атомизации и расчеловечиванию.
«Ад – это другие», – писал Поль Сартр. «Он блудил и мыслил», – так оценивал человека XX в. Альбер Камю. При таком отношении друг к другу, при тех технологиях, которыми мы уже располагаем (не говоря уже о перспективах), включая современное оружие и способы массового манипулирования общественным сознанием, у человечества нет надежды на долгую, успешную и благополучную жизнь.
При этом ситуация достаточно быстро ухудшается. Об этом говорит неуклонный рост преступности, причем происходящий в наиболее благополучных, с точки зрения материального достатка, государствах, в частности в США. Несмотря на огромные расходы на правоохранительную деятельность, на жесткое законодательство (во многих штатах в качестве наказания фигурирует смертная казнь, и соответствующие приговоры достаточно часто приводят в исполнение), эта страна занимает первое место в мире по абсолютному числу граждан, отбывающих наказание в тюрьмах, опережая гигантский Китай. Более того, преступность растет и в других достаточно благополучных странах (см. рис. 1).
Люди пытаются привыкнуть к этой опасной реальности, в которой в крупных городах есть районы, в которых страшно находиться, в которых полиция не советует находиться без охраны и оружия.
Люди пытаются приспособиться к этой странной реальности. Одним из самых жутких романов, которые мне довелось прочитать за последнее время, стала книга Норы Робертс «Семья на заказ». Общий тираж ее книг превысил 400 млн экземпляров, они переведены на 35 языков, и каждую минуту в мире продается 27 экземпляров сочинений этого автора. По данным Amazon.com, этот автор занимает 3‑е место по совокупным данным продаж после Джоан Роулинг (автора книг про Гарри Поттера) и Стивена Кинга (мастера триллеров).
Сюжет «Семьи на заказ» незамысловат. Лейтенант полиции Ева Даллас (пережившая в детстве трагедию – была изнасилована отцом и, судя по недомолвкам, убила его) видит своё призвание в поимке преступников и ради этого отказывается от повышения в звании. Её муж, владелец сети отелей и в прошлом мошенник, регулярно помогает ей, «раскалывая» коды, которыми пользуются преступники. Ищут они молодого человека, зверски убившего и ограбившего мать с отцом за то, что они настойчиво советовали ему в конце концов найти работу, и его школьную учительницу за то, что она много лет назад оставила его на лето, желая подтянуть его по компьютерным наукам. И весь этот ужас происходит… в 2060 г.
Следующие поколения программируют, показывают, что всё это не так страшно, и что в будущем что-то навряд ли изменится к лучшему… Вероятно, в этом «дивном новом мире» обиженные подростки будут точно также расстреливать из ружья одноклассников, компьютерные маньяки склонять детей к самоубийству, а торговцы наркотиками втягивать их в свои преступные сети.
И ведь это только верхняя, наиболее заметная часть айсберга преступности, где правосудие одерживает победу. Чтобы представить сам айсберг, можно обратиться к российской статистике. По оценке одного из выдающихся криминологов России, В.С. Овчинского, сейчас более 30 млн заявлений регистрируются в полиции как имеющие признаки состава преступления, и те, кто подал такое заявление, получают соответствующий документ. Из них до суда доходят примерно 3 млн. В среднем система правосудия принимает меры в одном случае из 12, а по некоторым видам преступлений (в частности, кражам) одно из 16… Как и в обычном айсберге «подводная часть» более, чем в 10 раз превышает «надводную» …
Самая главная опасность для нынешней Реальности состоит в атомизации, в расчеловечивании (даже не так важно, в результате чего), в том, что на каком-то этапе одни люди перестают считать других людьми. И тогда появляются Хиросима и Нагасаки, террористическое государство ИГИЛ, аварии, катастрофы, теракты, в которых гибнут ни в чем не повинные люди, так и не понявшие, что они стали заложниками, чьим-то расходным материалом.
Куда, казалось бы, всему этому против глобальных климатических изменений, исчерпания ресурсов, кризиса антибиотиков и новых смертоносных болезней? И, тем не менее, это самое важное.
История подтверждает эту логику. Известный историк Э. Гиббон в деталях рассказывает, как варвары первый раз взяли Рим, – именно тут была точка бифуркации, началась дорога, которая привела к катастрофе Античности, к темной вековой ночи над Европой. Римляне многократно превосходили варваров в области военных технологий, образования, культуры, инфраструктуры.
Рим был миллионным городом. В следующий раз, как говорят историки, такой город появился только в 1800 г. (это был Лондон), совсем в другую эпоху. Одна беда, – когда под стенами города появились варвары, его никто не вышел защищать, – граждане были заняты – они смотрели театрализованное представление. Наверное, все помнят из школьной программы требования римского плебса к своим властителям – «Хлеба и зрелищ!».
Сейчас человечество может справиться почти со всеми глобальными проблемами, которые видит. Но для этого надо работать, а не разговаривать, нужны скоординированные совместные действия, самоорганизация и объединение перед лицом очень серьёзных угроз. Именно этого сейчас нет. Именно это новое состояние общества могло бы стать результатом гуманитарно-технологической революции. Впрочем, результатом бифуркации может стать выход и на совсем другую, ведущую к катастрофе, траекторию.
Из глубины веков до нас дошел миф о Пандоре, которая открыла ларец, который ей было не велено открывать. Из ларца в мир полетели болезни, беды, войны. И на дне ларца осталась только надежда.
На что мы можем надеяться? На совесть, мораль и нравственность. Социальные сети дают возможность вести моральную статистику и оценивать в динамике состояние общества. К сожалению, в отличие от криминальной статистики, здесь у нас нет многолетних данных, но есть интересные наблюдения. Социальная сеть «В Контакте» предложила респондентам оценить нравственность по 6 ценностным критериям: Доброта и честность (ДЧ); Власть и богатство (ВБ); Ум и креативность (УК), Красота и здоровье (КЗ); Смелость и упорство (СУ); Юмор и жизнелюбие (ЮЖ).
Критическими были две группы ценностей – первая (ДЧ) и вторая – (ВБ). Мера нравственности L оценивалась как отношение числа респондентов, выбравших доброту и честность, к числу людей, выбравших власть и богатство. Величина говорит о том, что мы имеем дело с высоконравственным обществом, – с нравственным, – низконравственным, – нравственным [8].
На рис. 2 представлен вычисленный таким образом «коэффициент нравственности». Обращают на себя внимание левый и правый края графика. Левый показывает очень высокое значение этого коэффициента для ряда постсоветских государств – Казахстана, Белоруссии, Украины, России. Это означает, что результат советского образования, воспитания, влияние самого образа жизни сохранилось почти через 30 лет после катастрофы СССР. При этом нравственность географически близких народов может отличаться в разы.
Этот показатель оказывается очень низким для США, Израиля и ряда постсоветских стран, ориентирующихся на Запад.
Рефлексия, совесть, неписанные этические нормы очень важны для нашей цивилизации – это встроенный внутренний регулятор. Это интровертная установка, не требующая одобрения и регламентации извне: «Не в силе Бог, а в правде».
Напротив, экстравертный подход, ориентированный на соблюдение, принятие и законодательное закрепление правил, характерен для Запада. Естественный для него императив: «Всё, что не запрещено законом, разрешено», оказался разрушительным для советского жизнеустройства.
При этом, исследование показало, что для крупнейших финансовых центров, оказывающих очень большое влияние на дела в мире, коэффициент нравственности очень низок – Нью-Йорк – 8,81; Лондон – 9,58; Тель-Авив – 5,84. Иными словами, победа финансового капитала над промышленным и виртуальной реальности над обычной приводит к кризису совести. Исследование также показало, что в России коэффициент нравственности людей существенно увеличивается с возрастом, в то время как в США и Израиле этого не происходит, и люди сохраняют свою подростковую безнравственность до седых волос.
В своё время известный правовед, академик В.Н. Кудрявцев обращал внимание на непосредственную связь преступности и безнравственности: «Причины преступности следует искать и в нравственном состоянии общества, в наличии или отсутствии тех или иных моральных ценностей и установок… Забвение этих принципов во всех сферах вместе взятых создает абсолютно невыносимую атмосферу в обществе и наиболее благоприятную почву для преступности – корыстной, насильственной, корыстно-насильственной, вплоть до преступности противогосударственной» [9].
Рис. 1 подтверждает этот вывод – чем ниже коэффициент нравственности в стране, тем быстрее в ней растет преступность.
Для сложных нелинейных систем характерны пороговые эффекты. До достижения критического значения сегодняшний день выглядит примерно так же, как вчерашний. А когда это значение достигнуто, то начинается обвал. Системы безопасности, борьбы с преступностью работают только тогда, когда преступлений сравнительно мало, и есть кому делать эту работу не за страх, а за совесть. Если их слишком много, то лавину не удержать. И об этих, главных проблемах, стоит подумать сейчас.
А когда преступность сращивается с госаппаратом, когда они находят друг друга, ситуация становится еще хуже. Здесь, пожалуй, можно напомнить, как эффективно американцы использовали во Второй мировой войне итальянскую мафию при высадке на Сицилию… Мафия готова бороться и против собственного государства, когда это выгодно.
Двадцатый век в науке – это не только столетие атома, космоса, открытия генетического кода, но и время большого прогресса наук о человеке. Религия и философия ещё в XIX в. имели ясное априорное представление о природе человека. В XX в. в тех же вопросах решили разобраться ученые-естественники.
Действительно, великий французский философ, писатель и просветитель Жан Жак Руссо (1712–1778) принял участие в конкурсе «Способствовало ли возрождение наук и искусств улучшению нравов?» Он дал резко отрицательный ответ: «Дикарям не позволяют поступать дурно не просвещение и не узда законов, а естественное отношение к страстям и незнание пороков», и выдвинул императив «Назад к природе!».
Но так ли это? Встанем на позицию богов и постараемся создать рай для какой-нибудь популяции животных – например, для крыс – дав им вдоволь отличной пищи, обеспечив безопасность, представив достаточно большую территорию и возможность общаться с себе подобными. Этот эксперимент, поучивший название «Вселенная – 25» провел в 1940‑х гг. американский этолог Джон Кэлхун [10]. И всё пошло совсем не так, как ожидалось. После начального периода активного размножения выделились «красавчики», потерявшие интерес ко всему, кроме своей внешности и «маньяки», поедавшие только что родившихся крысят. «Рай» удивительно быстро превратился в ад. Все 25 попыток ученого закончились такими же неутешительными результатами. Видимо, действительно трудно быть богом.
С другой стороны, американский биолог, исследовавший жизнь приматов в социальном контексте − Франс де Вааль, увидел в их поведении корни морали, связанные с альтруизмом, эмпатией и сотрудничеством.
В XX в. были выполнены и глубокие теоретические работы. Наш бывший соотечественник В.А. Лефевр построил теорию рефлексивных процессов, которую назвал «алгебра совести». Эти разработки были использованы американцами при подготовке переговоров Рейгана и Горбачёва в Рейкьявике. Эксперты постарались построить переговоры так, чтобы Горбачёву, предававшему свою страну, удалось «сохранить лицо» в глазах общественности.
Человек живет в рациональном, эмоциональном, интуитивном пространствах. Область морали, нравственности, этики, которая сейчас становится критически важной, лежит на пересечении этих пространств. Поэтому ни религия, ни философия, ни наука не справляются с кругом острых, неотложных проблем, возникающих в этой области.
«Совершенно очевидно, что человеческая мысль в области морали и этики попросту не поспевает за стремительным прогрессом в накоплении знаний и возрастании могущества человечества, – говорил в 2005 г. далай-лама.
«Всё, что отделяет нас от настоящего цунами безнравственности, – это бог или на крайний случай пара богов, благозвучных гимнов и угроза вечного проклятия и адского пламени», – вторит ему этолог Р. Сапольсин.
«Каждому из нас нужно знать себя и то, что по-настоящему ценно, к чему можно стремиться и чем можно жить… Светская мысль уходит от традиционного вопроса, поднятого ещё греками в самом начале развития философии – вопроса о том, что делает человеческую жизнь, хотя и конечную, значительной и ценной», – пишет британский философ Алан де Боттон [11].
Очевидно, здесь необходимо объединение усилий. Время не ждет.
Компьютерное Средневековье
Угроза человеку исходит в первую очередь
не от потенциально смертоносных машин
и технологических аппаратов.
Настоящая угроза всегда направлена
против сути человека.
М. Хайдеггер «О технологии»
Мы придаем форму нашим инструментам,
а потом наши инструменты придают форму нам.
М. Маклюэн
Многие вопросы, которые мы обсуждали выше, раньше относили к компетенции философов и теологов. Однако сейчас они перешли в практическую плоскость. Современные технологии позволяют реализовать и утопии, и антиутопии. Поэтому варианты будущего с его рисками и возможностями, вероятно, в фантастических романах описаны более глубоко и точно, чем в докладах исследователей, которые стремятся быть более конкретными и осторожными. Чтобы всё сказанное не казалось слишком умозрительным, вкратце рассмотрим только одну из открывающихся возможностей.
Коррупция всегда была бичом больших систем управления. И чем больше система, чем большие ресурсы в ней задействованы, тем масштабнее в ней могут быть воровство, взятки, откаты и более опасны связи высших чиновников с криминальным миром. Один из гигантов XVII в., выдающийся немецкий философ, математик, физик, юрист, историк, языковед Г.В. Лейбниц (1646–1710) тоже задумался над проблемой коррупции. Он изобрел калькулятор, позволяющий делить и умножать числа, и пришел к выводу о появлении в будущем «считающих машин». По мысли ученого, они сыграют огромную роль – они будут настолько совершенны, честны, неподкупны и всеведущи, что им можно будет поручить судопроизводство. Как видим, та же иллюзия, что у напуганных детей в «Повелителе мух», что можно нечто поставить над собой, чтобы оно решало все проблемы.
Эта перспектива и связанные с ней социальные риски описаны в антиутопии Джорджа Оруэлла «1984», впервые опубликованной в 1949 г. Это мир, где за всем происходящим постоянно следит компьютерная система – «Большой Брат». Его наличие позволяет контролировать и блокировать любое инакомыслие, манипулировать обществом, при необходимости переписывать прошлое, подменяя старые газеты, журналы, документы новыми, в большей мере соответствующими текущему моменту. Возникает мир вечного повторения, в котором одни лозунги время от времени меняются на противоположные, вчерашние друзья становятся врагами, а потом друзьями, абсурд узаконен сверху «Война – это мир! Свобода – это рабство! Незнание – сила!» – три главных партийных лозунга». Эта реальность держится на тотальном лицемерии, фальши, конформизме. Люди думают одно, говорят другое, делают третье…
Прошло всего 70 лет, и компьютерные технологии уже позволяют воплотить в жизнь элементы такой системы.
Например, в Китае начат эксперимент по введению системы социального рейтингования, которая должна заработать в полную силу к 2020 г. При этом «общественное недоверие» становится следствием разнообразных видов «неправильного поведения». Полного списка заслуг и грехов власти не опубликовали. Известно, что рейтинг увеличивает донорство и волонтерство, а снижает курение в неположенных местах, нарушение правил дорожного движения, списывание на экзаменах, критика властей в соцсетях, ссоры с соседями и «чрезмерные покупки видеоигр».
Но о результатах применения этой системы говорить рано – её тестируют в нескольких провинциях – но к лету 2018 г. уже 11 млн человек были лишены права летать на самолетах и 4 млн – ездить на скоростных поездах. Планируется введение ограничений на переезды, на доступ к хорошим школам и социальному обеспечению, к приемлемым условиям кредитования, на допуск к работе по ряду профессий.
Когда человек не может ходить, то иногда ему помогают передвигаться костыли. Если нет внутренних ограничителей («совесть – лучший контролер»), то возникает соблазн поручить это дело спецслужбам или Большому Брату. Не стоит связывать с такими мерами больших надежд. Сначала заводят контролеров, потом контролеров, следящих за контролерами, потом контролеров следующего уровня. И, в конце концов, всё рушится как карточный домик.
Мы всё чаще слышим слова «искусственный интеллект» (ИИ), «большие данные» (Big Data, BD), «облачные вычисления», «машинное обучение». Пятерка крупнейших корпораций – Amazon, Google, Microsoft, Tencent, Facebook − вкладывают огромные средства в то, чтобы убедить людей в полезности и престижности этих инноваций и неизбежности перехода человечества в цифровую реальность.
У этого есть серьёзные экономические обоснования. По данным консалтинговой компании Bain, час труда промышленного рабочего в Германии стоит $49, в США – $36, в то время, как час работы промышленного робота – $4.
Робот Вера, созданный для рекрутинговых компаний российской компанией «Стафори», берет интервью у 1 500 соискателей в день, в то время как обычный рекрутер может побеседовать только с 50‑60 соискателями. Тенденция к «машинизации» многих видов деятельности и к превращению людей в обслугу компьютеров набирает силу. Но что станут делать «освобожденные от работы» люди, и как они воспользуются своей «свободой» – большой и нерешенный вопрос.
Есть и еще одна нерадостная перспектива. Во всем мире намечается переход от решений, принимаемых людьми, к решениям на базе непрозрачных алгоритмов, своеобразных «черных ящиков». При этом у людей, которых непосредственно затрагивает подобное решение (отказ в предоставлении пособия, кредита, бесплатного ухода и др.), нет шансов их опротестовать или изменить. Необходимая юристам информация о сборе, обработке и использовании данных защищена как законом о коммерческой деятельности, так и практикой аутсорсинга. Например, Facebook отрабатывал свои алгоритмы, передавая данные (подробные профили 80 млн пользователей) компании Cambrige Analitica. И если бы не разразившейся скандал, то он продолжал бы это делать и дальше, наращивая своё влияние на политические процессы в странах мира.
Как видим, и эта практика, как и социальное рейтингование, возвращает нас к антиутопии Ф. Кафки «Замок». В описанном там замке вершится мрачное, таинственное, зловещее «правосудие».
Во взаимодействии людей с компьютерами есть и принципиальная научная проблема. В 2018 г. мы со студентом в Институте прикладной математики им. М.В. Келдыша и МГТУ им. Н.Э. Баумана выполняли небольшую работу, научив компьютер несложной карточной игре, требующей рефлексии и «интуиции». Наша программа в результате приложенных усилий вышла на уровень посредственного «человеческого игрока».
После этого мы решили разобраться «как же она играет», «как объяснить её действия человеку». Это оказалось невозможным – она играет «по-машинному», а не «по-человечески». Попытки «упростить» её игру и учесть «самые важные связи» резко ухудшили результаты. Теперь допустим, что у руководителя есть такой «интеллектуальный компьютерный помощник». Как воспользоваться его советом, если мы не понимаем логику предлагаемого решения? Слепо доверять? Думается, опасность этого очевидна.
В докладе нью-йоркского института AI Now, вышедшем в декабре 2018 г., были сформулированы три проблемы, порожденные искусственным интеллектом:
- «углубление неравенства между теми, кто владеет, и теми, кто не владеет технологиями ИИ;
- непрозрачность алгоритма, эффект «черного ящика»;
- критичность ошибок для тех, кто становится их жертвой.
Вывод: нужны моральные нормы использования ИИ, так же, как они появились в связи с использованием ядерной реакции» [12].
Как видим, в основе проблем, которые кажутся техническими, вновь лежит мораль, этика, ценности. Но во многих случаях наше выживание требует не только всего этого, но и обычного здравого смысла: системы ИИ, если передоверить им слишком много, резко увеличивают вероятность ядерного апокалипсиса.
«Там, где поражение от победы отделяют часы (или дни) и километры (или сотни километров), а любая ошибка командования может быть исправлена переброской резервов, умелым отступлением или контратакой, роль случая можно с успехом свести к минимуму.
Но там, где успех боевых операций зависит от микромиллиметров и наносекунд, на сцену, подобно новому богу войны, предрешающему победу или разгром, выходит случайность в чистом и как бы увеличенном виде, случайность, пришедшая к нам из микромира, из области физики атома…
Появляющиеся одна за другой новые системы оружия характеризовались возрастающим быстродействием, начиная с принятия решений (атаковать или не атаковать, где, каким образом, с какой степенью риска, какие силы оставить в резерве и т.д.); и именно это возрастающее быстродействие снова вводило в игру фактор случайности, который не поддается расчету. Это можно выразить так: системы неслыханно быстрые ошибаются неслыханно быстро» [13].
Эти строки С. Лем писал в 1980‑х гг., очерчивая гипотетические возможности и связанные с ними проблемы. Именно эти проблемы и встали перед нами сегодня в полный рост.
В течение многих десятилетий на принятие решения об ответном ударе в случае угрозы ядерного попадания у руководителей СССР и США, которые не расставались с «ядерными чемоданчиками», было около 40 минут. Примерно 15 минут на уяснение ситуации, 15 – на обсуждение с другими руководителями, если оно требуется, и ещё 15 минут, собственно, на выработку решения.
Ракеты средней дальности, размещенные в Европе, способные поражать позиции наших стратегических ракет, уменьшат это время для российских руководителей в несколько раз. Вероятно, есть способы поставить в такое же положение американцев.
На очереди гиперзвук, вывод ядерного оружия в космос и размещение его в океанских глубинах. И тут уже речь идет о временах, на которых человек уже ничего не успевает сделать и… передоверяет это главное решение машинам. И мы все становимся заложниками искусственного интеллекта… Обезьяна с компьютерной гранатой…
Человеку – человеческое, машине – машинное. Не мы должны перестраиваться под компьютеры, под их «быструю реальность». Человек не должен быть выключен из контура стратегического управления, особенно когда на карту поставлено будущее всей цивилизации. Именно сейчас об этом надо договариваться. Если ещё не поздно…
Хочется думать, что эта этическая проблема человечеству по силам.
Императивы России
Россия станет сверхмощной державой
только благодаря тому, что люди научатся
любить самих себя. В этом убеждает меня
русская литература, русские фильмы.
Рэй Брэдбери
Россия, Россия, Россия –
Мессия грядущего дня!
А. Белый
Опыт истории и размышления выдающихся русских мыслителей убеждают, что мир России является удивительной, самодостаточной цивилизацией. Она не относится ни к Европе, ни к Западу.
В самом деле, любимой, знаковой, символической для Европы является сказка о Золушке. Милая, добродетельная, трудолюбивая девушка действовала строго в соответствии с инструкцией, и Судьба вознаградила её за это, помогла очаровать прекрасного принца.
В наших сказках иное – Иван-дурак сильно проигрывает домовитым, хозяйственным братьям, которые и своего не отдадут, и чужого не упустят. Но в экстремальной ситуации, требующей смелости, честности, отваги, именно Иван принимает вызов и делает небывалое, о чем вчера и подумать не мог, да ещё и помогает многим из тех, кто встретился на его пути. И в небе он летает на верном Коньке-Горбунке, и с Месяцем Месяцовичем готов побеседовать, если дело потребует.
Отличается и отношение к ближнему. Идеал свободы и связанной с ней атомизации общества на Западе: «Каждый за себя, один Бог за всех». Императив коллективизма, соборности, общего дела в России: «Сам погибай, а товарища выручай».
Всё это можно объяснить, оглядываясь на тысячелетний путь, пройденный нашей цивилизацией. Страна расположена в зоне рискованного земледелия. Если в более благоприятном и мягком климате Западной Европы систематическая, упорная работа так или иначе дает результат и одиночка выживает, то у нас иначе. Иногда «один день год кормит», а иногда работаешь-работаешь, а толку чуть. Без общины, без мира, без больших коллективных усилий не выстоять.
Из Древнего Рима пришел любимый юристами пароль: «Пусть гибнет мир, но царствуют законы» и отзыв: «Пока царствуют законы, мир не погибнет». И действительно закон, право, судебная власть являются столпами западной цивилизации.
У нас иначе. Роль важнейших социальных регуляторов играет культура и совесть. В огромной стране, где сообщения из конца в конец шли месяцы, а иногда и годы, нет возможности создать такое правовое поле, как в странах, где расстояния совсем невелики по российским масштабам и приходится опираться на смыслы и ценности, понятие о справедливости самих граждан. И очень часто справедливость и милосердие оказываются выше закона…
Интересно, что по данным филологов, в европейских языках нет слов, адекватно передающих понятие «совести», как впрочем, и «воли», «тоски», «надрыва»… Мы очень сильно отличаемся от Запада. И надежда состоит в том, что мы и дальше будем другими, не соблазнившись перспективой стать неполноценным Западом или «влиться в лоно мировой цивилизации». У нас есть потребность, необходимость и возможность остаться самими собой. В этом и состоит наша «мягкая сила».
Судя по всему, по сравнению с Западом у нас другие механизмы социальной самоорганизации, более подходящие для наших условий. Видимо, поэтому такая форма власти как советы были приняты и получили поддержку многих миллионов в отличие от «мэров», «префектов», «омбудсменов», большинства наших депутатов, избранных по европейской моде.
На то, что народ у нас какой-то не такой, «неправильный», по западной мерке, обращали внимание не только недоброй памяти Егор Гайдар, но и русские цари. «Россией управлять не сложно, но бесполезно… Все страны управляются законами и правилами, а Россия живет по пословицам и поговоркам», – говорил царь-освободитель Александр II.
В истории России огромную роль сыграло православие, и при этом образ Бога, отношение к нему было совсем другим, чем на Западе. В 1517 г. Мартин Лютер прибил на дверь собора в Виттенберге 95 тезисов, касавшихся вопросов веры, и положил начало Реформации. По ходу обсуждения этих богословских вопросов в Германии, как утверждают некоторые историки, было перебито 2/3 населения. Вопросы-то важные. Протестантство связало материальные и финансовые успехи граждан с одобрением их деятельности богом. По мысли выдающегося социолога Макса Вебера, это сыграло огромную роль в развитии капитализма.
У нас иначе. Один из символов православия – Сергий Радонежский, служение, а не проповеди которого оказали огромное влияние и на образ мира, и на историю России.
У нас удивительная страна, которую «аршином общим не измерить». «Россия отличается от всех других стран тем, что управляется Господом Богом, потому что иначе совершенно нельзя понять, почему она до сих пор существует», – писал политик и вельможа Христофор Миних.
Многие важные вещи поэты чувствуют острее и могут выразить в нескольких строках. Александр Блок писал: «Может быть, Россия и есть торжество «внутреннего человека, постоянный укор внешнему».
Если историческую личность Запада можно сравнить с экстравертом, то мы, конечно, интроверты. Поскольку «Не в силе Бог, а в правде», важно быть, а не казаться, важно внутреннее, а не внешнее. Может быть, во многом именно поэтому Запад не может понять и принять Россию? Великий Лейбниц, выдающийся полководец Наполеон и ещё многие знаковые фигуры Запада грезили о том, чтобы покорить или «приручить» Россию, уменьшить её влияние на происходящее в мире. Сейчас во многих странах большая доля населения воспринимает нашу цивилизацию как угрозу, а она – надежда для всего мира и для нас тоже.
Огромную роль для нашей цивилизации всегда играл образ Будущего. Именно поэтому мечты о рае на земле, который впереди, коммунистический проект, а также идеи русских космистов созвучны духовному строю нашего народа.
Огромную роль для нашего народа играет то, что позволяет изменить мир к лучшему, прорваться в будущее – технологии, образование и наука. Поэтому гуманитарно-технологическая революция, ставящая во главу угла человека, дает огромные возможности нашей цивилизации. И, естественно, в эти сферы наносится основной удар оппонентами России.
Экономическое развитие нашей страны, по сути дела, остановлено. Очень невелик объем отечественной экономики. Её доля в мировом глобальном продукте составляла 1,8% (Китай – 17,84%, США – 24,32%), что почти столько же, сколько пустынная Австралия, несколько меньше, чем Италия, но немного больше, чем город Нью-Йорк. Неудовлетворительны и темпы роста – если глобальный продукт в 2018 г. вырос на 3,9%, в США – на 2,9%, в Германии – 2,5%, то в России – на 1,7%. И схожая ситуация имеет место уже 5 лет.
Вырваться вперед, «обогнать, не догоняя» (пользуясь выражением академика И.В. Курчатова) нам могли бы помочь высокие технологии, использование творческого потенциала, высокого образовательного уровня нашего народа. Тем более, что во многих областях мы можем воспользоваться «преимуществом второго, − можно не делать многих ошибок и избегать тупиков, с которыми столкнулись первые. Но … этого нет.
Почему? Одна и та же история происходит на наших глазах много лет. У нас есть удивительные разработки, достижения, которые позволили бы многое изменить не только в нашем отечестве, но и в мире. Беда в том, что в условиях олигархического капитализма пионерские разработки, которые в десятки, а то и в сотни раз эффективнее и намного дешевле, чем то, что сейчас используется, просто не нужны. Олигархический капитализм опирается на растратно-затратную экономику.
И совершенно понятно, почему. Еще в 1930‑х гг., развивая теорию выдающегося русского экономиста Н.Д. Кондратьева, Й. Шумпетер, анализируя стратегии крупных компаний, обратил внимание на то, что только 10% из них стремятся изменить сложившееся положение вещей, внедряя новшества, а 90% вполне удовлетворены нынешней ситуацией, стремятся «отбить» вложенные деньги и тормозят технический прогресс.
Олигархам на внутреннем рынке не надо конкурировать, не надо стремиться изменить свое положение, – им надо его сохранить. При их привилегированном положении в системе власти свой кусок государственного пирога они всегда получат, независимо от того, будут ли они работать хорошо или плохо. Просто плохо работать легче.
При таких делах «прихлопнуть» изобретателей и инноваторов легче, чтобы не наседали, настроение не портили. В начале года «денег ещё нет», в конце – «денег уже нет», а в середине «деньги уже разделили, но, может, в следующем году что-то получится». Ещё одна хорошая присказка: «Это очень интересно. Вы всё это разработайте сами, выпустите, наладьте производство, а если нам понравится, то мы купим».
Классический случай, проясняющий суть, блеск и нищету олигархического капитализма, произошел с математиком, экономистом, журналистом, создателем интернет-агентства Anna-news Маратом Мусиным. Он, вместе с коллегами, создал программный комплекс «Ариадна», позволяющий прослеживать, сколько денег украдено, а сколько выведено за рубеж крупнейшими российскими компаниями. Сделали комплекс, показали, что он отлично работает, даже выпустили книжку по его поводу. Никакого эффекта.
В конце концов, он выступил на престижной Всероссийской конференции. Когда нашему крупному бизнесу было трудно, государство ему щедро помогло. «Ариадна» оценила, сколько денег ведущими компаниями России было выведено за рубеж, и оказалось, что чем больше компания вывезла, тем ей больше помогли. И опять никакой реакции. Наконец, результаты этой работы дошли до премьер-министра и произвели на него большое впечатление: «Это очень важно. Ждите. Вам позвонят в ближайшее время». Прошли годы, но звонка Марат так и не дождался.
Он обратился в несколько крупнейших российских компаний, проанализировал их хозяйственную деятельность и показал, что их реальный бюджет на основе данных «Ариадны» и уменьшении доли того, что рассовывается по карманам, можно увеличить более, чем на 10%. «Да, мы и сами знаем, что у нас много воруют. Конечно, это можно уменьшить. Но зачем?» – сказали ему в одной из ведущих компаний России.
Когда талантливые люди не могут реализовать свои замыслы и разработки на родине, это очень плохо. Кажется, Александр III сказал, что Россией правит не он, а столоначальники. Многие страны стремительно рвутся вперед, а мы… «бежим на месте».
И дело не только в том, что теряется историческое время и упускаются прекрасные возможности. Меняется сама обстановка в обществе. Становится больше грубости, хамства, апатии, безразличия, исчезают общие, объединяющие общество праздники.
Когда вся надежда на президента, и ему перед прямой линией приходит 1,5 млн просьб и обращений, то это означает, что не справляются со своими задачами муниципальные, региональные и другие власти.
Разрыв между самым богатым и самым бедным регионами России по душевому валовому региональному продукту (ВРП) достигает 55 раз. По сути дела, люди из разных регионов живут как бы в разных государствах, которые в десятки раз отличаются по уровню благосостояния.
Одной из важнейших социальных технологий является идеология, понимаемая как синтез долгосрочного прогноза, образа желаемого будущего, сложившихся научных взглядов на развитие общества. В эпоху гуманитарно-технологической революции, когда делается важнейший выбор, ее роль особенно важна. Но по конституции в нашей стране не должно быть идеологии. Средства массовой информации уже лет 30 приучают народ к отжившей свое вместе с капитализмом либеральной идеологии, как и положено действовать в слаборазвитых странах третьего мира. А для себя, как выразился один из представителей крупного бизнеса, наша элита видит идеологию БББ (большие быстрые бабки). Но со взглядами временщиков страну, тем более такую, как Россия, не поднять.
У нас отняли будущее, мечту, перспективу. И, вероятно, это самая большая потеря за десятилетия разрушительных реформ. Нашей цивилизации сейчас как воздух нужна идеология, образ будущего и общее дело, направленное на создание этого будущего. Будем надеяться, что в ближайшее время все это у нас появится, что люди, видящие Россию и в будущем великой, достигнут успеха.
Проблемы образования
Будущее, наши победы и успехи рождаются за школьной партой, в университетских аудиториях, на научных семинарах. Поэтому, чтобы лишить страну будущего, надо, прежде всего, развалить систему образования. И в этом реформаторы, ставящие на развал России, добились больших успехов.
В качестве палача и «смотрящего» за нашей системой образования уже много лет выступает Высшая школа экономики (ВШЭ). Введение единого государственного экзамена – егэзация средней школы, болонизация (присоединение к Болонской системе, сломавшее нашу высшую школу), «цифровизация» и много других «славных» дел на её совести.
Возможно, это реализация политического решения людей, которые считают, что невежественными людьми проще руководить (но ведь на них нельзя и опираться). Может быть, это результат вопиющей некомпетентности. Но для пассажиров разбившегося самолета всё равно, был ли за штурвалом террорист или пилот, купивший диплом.
А идеологи российского образования по-прежнему твердят, что «мы готовим детей к позавчерашнему миру» и что надо учить, главным образом, четырем К: коммуникации, кооперации, креативности и критическому мышлению. Помните четыре И: инновации, инвестиции, институты, инфраструктура?
Во многих странах проводится тест для среднего школьника PISA, проверяющий способность 15-летних ребят использовать полученные знания. В подобных международных сравнениях советские школьники занимали первые места. Результаты новой России значительно скромнее (см. табл. 1). Наши школьники занимают место в конце третьего десятка.
Таблица 1.
|
Математика |
Естественные науки |
Родной язык |
||||||
| 1. | Сингапур | 564 | 1. | Сингапур | 556 | 1. | Сингапур | 535 |
| 2. | Гонконг, Китай | 548 | 2. | Япония | 538 | 2. | Канада | 527 |
| 3. | Макао, Китай | 532 | 3. | Эстония | 536 | 3. | Гонконг | 527 |
| 4. | Тайвань | 542 | 4. | Тайвань | 532 | 4. | Финляндия | 526 |
| 5. | Япония | 532 | 5. | Финляндия | 531 | 5. | Ирландия | 521 |
| 6. | Китай | 531 | 6. | Макао, Китай | 529 | 6. | Эстония | 519 |
| 7. | Корея | 524 | 7. | Канада | 528 | 7. | Южная Корея | 517 |
| 8. | Швейцария | 521 | 8. | Вьетнам | 525 | 8. | Япония | 516 |
| 9. | Эстония | 520 | 9. | Гонконг | 523 | 9. | Норвегия | 513 |
| 10. | Канада | 516 | 10. | Китай | 518 | 10. | Макао, Китай | 509 |
| … | … | … | … | … | … | … | … | |
| 25. | Россия | 494 | 25. | США | 496 | 23. | Тайвань | 497 |
| 26. | Франция | 493 | … | … | 24. | США | 497 | |
| 27. | Великобритания | 492 | 32. | Россия | 487 | 25. | Испания | 496 |
| … | … | … | 33. | Люксембург | 483 | 26. | Россия | 495 |
| 39. | США | 470 | 34. | Италия | 481 | 27. | Китай | 494 |
В таблице обращают на себя внимание два обстоятельства. В лидерах находятся в большинстве своем быстро развивающиеся страны и, прежде всего, Китай. Эти страны вкладывают большие усилия в подъем своей экономики и в то, чтобы на этой основе изменить своё место в мире.
Мы смирились с тем, что наши дети не читают, не умеют говорить и грамотно писать. Это опасно. Как писал Осип Мандельштам, «Всякая попытка механически приспособить язык к потребностям жизни, заранее обречена на неудачу… «Онемение» двух-трех поколений могло бы привести Россию к исторической смерти». Но оказывается, в других странах иначе… Их дети добиваются больших успехов.
Пробелы средней школы не удается восполнить в высшей. Я преподаю старшекурсникам нескольких престижных вузов страны. Перед началом своих курсов я даю им небольшую контрольную работу и беседую с ними, чтобы представить их картину мира, – от этого зависит, чему и на каком уровне их можно научить. Задаю вопрос будущим инженерам, которым предстоит рассчитывать атомные реакторы, проектировать гиперзвуковые аппараты и развивать нанотехнологии: «Почему, несмотря на то, что Солнце притягивает Землю, она не падает на него?»
В прошлом году я услышал такие ответы: «Ей не дает упасть световое давление, которое отбрасывает её от Солнца» или «Земле мешают другие планеты, которые притягивают её» и, наконец, «В космосе действуют специальные центробежные космические силы, которые и не дают». В этой группе магистров последнего года не было ни одного правильного ответа, в то время как среднему советскому восьмикласснику ответ был совершенно очевиден.
Мы пытаемся дать высшее образование тем, кто не имеет среднего. Но других студентов у нас нет. Надо работать с теми, кто есть. И ребята-то, как выяснилось, толковые, просто их почти ничему не научили, и они очень невысоко оценивают свои шансы получить работу по той специальности, которую получают. Если страна действительно будет совершать рывок (помните слова про 25 млн новых рабочих мест в высокотехнологичном секторе экономики?), то многое можно будет быстро исправить. Кроме того, профессионализм и совесть обычно оказываются очень тесно связаны.
На стене Стеллинбосского университета – одного из ведущих в ЮАР – есть такая подпись: «Уничтожение любой нации не требует атомных бомб или использования ракет дальнего действия. Требуется только снижение качества образования и разрешение обмана учащимися на экзаменах. Пациенты умирают от рук таки врачей. Здания разрушаются от рук таких инженеров. Деньги теряются от рук таких экономистов и бухгалтеров. Справедливость утрачивается в руках таких юристов и судей. Крах образования – это крах нации». К сожалению, это пока про нас. Стремительная дисквалификация наших специалистов – очень серьёзная угроза для России.
Состояние и проблемы российской науки
Простейший способ развалить любую сферу жизнедеятельности – начать её активно реформировать, никак не соотнося результаты деятельности субъектов, дающих указания, с результатами их деятельности и состоянием объекта, который вынужден эти указания исполнять. С российской наукой происходит именно это. Ситуацию точнее всего характеризует анекдот про Горбачева, популярный во времена перестройки. Народ из колхоза пишет генсеку, что у них дохнут куры в курятнике и спрашивает, что делать. Генсек предлагает и то, и другое, и пятое, и десятое (разумеется, никак не связанное с курами). И в конце он получает телеграмму, что все куры издохли, с грустью вздыхает и говорит: «Как жаль, а ведь у меня ещё так много отличных идей…».
В 2013 г. Российскую академию наук лишили всех её исследовательских институтов, превратив в клуб заслуженных ученых. Но как же заниматься наукой без лабораторий, экспериментов, семинаров? Законодатели это не объяснили. А чтобы не было иллюзий – РАН–клубу … запретили заниматься наукой. В утвержденном на государственном уровне уставе этой организации в видах деятельности не прописали научных исследований. Значит, и выделить на них деньги нельзя, даже если бы хотелось. Такая вот «вишенка на торте». На заседании Совета по науке и образованию в конце 2018 г. об этой несуразице рассказали Президенту. Но пока изменений к лучшему не видно. Пока всё находится в подвешенном состоянии…
Когда приходит время выбора, большое значение приобретают символы, знаки, предвестники. Иногда их осмысление позволяет заглянуть в будущее. На мой взгляд, символом нашей эпохи является история освоения космоса и в нашем отечестве, и в мире.
Космический взлет начался с сумасшедшей мечты русского космиста Николая Фёдорова, считавшего, что наука будущего даст людям бессмертие и оживит всех умерших людей. Ведь каждый человек – вселенная, сумевшая за краткий миг прожитой жизни воплотить ничтожную часть своих возможностей. Но куда селить это огромное количество людей?
Учитель из Калуги Константин Эдуардович Циолковский задумался об этом, начал писать фантастические романы, грезить о космических городах и поездах ракет, а затем и писать формулы. У нас есть замечательный космический музей в Калуге, и самые интересные экспозиции в нем, на мой взгляд, посвящены мечтам основоположников.
В нашей цивилизации мечта, искусство, наука удивительно близки. Именно поэтому космические проекты оказались для нас очень важны. Мировоззрение основоположников, творивших в 1920‑30‑х гг., удивительным образом сочетало идеи русского космизма, христианские взгляды и мечты о советском проекте. Эпоха меняется и, возможно, такая идеология, такое сочетание материального и желаемого, реального и идеального возродится в XXI в. на новом уровне.
В 1904 г. выдающийся просветитель Яков Исидорович Перельман издает книгу «Занимательный космос», и школьники начинают рассуждать о полетах на Луну, Марс, Юпитер. В 1936 г. выходит научно-фантастический фильм «Космический рейс» о том, как в 1944 г. советские люди полетят на Луну. Расцвет научной фантастики – наша страна живет будущим…
Группу советских инженеров, знакомившимися с немецкими ракетами ФАУ-1 и ФАУ-2, после победы над Германией принимал Сталин. Перед ним, как говорили ветераны космической эпохи, положили на стол проекты межконтинентальной баллистической ракеты, спутника, а также полета человека в космос и экспедиции на Луну и Марс.
«Кто всё это придумал?» – спросил Сталин, и все отошли от стола, за которым остался только Сергей Павлович Королёв… «У нас будут ракеты, и советский человек будет первым и в космосе, и на Луне, но сейчас я прошу повторить немецкую ракету ФАУ-2 на отечественной базе из отечественных материалов. Срок один год», – так передавали мне сказанные на той встрече слова. Работа была выполнена, она многому научила инженеров, заставила модернизировать многие предприятия. И после этого начался взлет советского космического проекта.
Полет Юрия Гагарина доказал, что наша цивилизация может воплощать свои мечты, открыл человечеству новые горизонты, дал надежду на светлое будущее, стал шоком для США.
Далее стоит процитировать строки из книги С.Г. Переслегина «Возвращение к звездам», где очень точно описано последующее: «Джон Кеннеди, вероятно, был единственным облеченным властью человеком, который воспринял полет Юрия Гагарина не как военный и политический, но как культурный и цивилизованный вызов. Адекватным ответом США должна была стать высадка на Луне, и Кеннеди санкционировал программу «Аполлон», более ресурсоемкую, чем война во Вьетнаме, и, наверное, более рискованную, нежели Карибский кризис … Летом 1969 года США выиграли Лунную гонку, достигнув решающего преимущества в Третьей мировой войне…
Заметим лишь, что успех экспедиции Армстронга дал американцам возможность беспрепятственно реализовать свою геокультурную стратегию победы в «холодной войне», что дорогого стоит» [14]. Американцы показали, что их социально-технологическая система умеет лучше и быстрее воплощать мечты своих ученых и инженеров.
Советское руководство на этом рубеже предало космическую мечту нашей цивилизации, сошло с дистанции, начало гнать сырьё конкурирующей капиталистической системе. Наверно, это был предвестник того, что наше руководство предаст свою страну в 1991 г.
Даже если бы мы были на Луне вторыми, мы не свернули бы с пути к звездам. Нам не дали такой возможности. Это сказалось на всем. Первым директором Института прикладной математики был выдающийся математик, механик, президент АН СССР академик М.В. Келдыш. Начиная с первых баллистических ракет и космических полетов и до настоящего времени, в Институте обеспечивается математическое сопровождение космических программ.
Академика М.В. Келдыша называли «главным теоретиком космонавтики». Он считал, что будущее советской науки связано с дальним космосом, что космическая отрасль будет локомотивом для всей экономики страны, снабжая высокими технологиями различные отрасли народного хозяйства.
Мне кажется, что мы недооцениваем значение катастрофы советской космической программы 1970‑х гг. Так или иначе космическая экспансия после неё прекратилась. К середине 1970‑х гг программа «Аполлон» была закрыта. Американскую элиту не интересовали новые горизонты, которые открывались на этом рубеже, демонстрации научно-технического и организационного превосходства США им оказалось достаточно… Активные исследования Луны прекратились на много десятилетий, были потеряны многие технологии, ведущие специалисты, упущены имеющиеся возможности. И здесь опять интересен взгляд футуролога и критика фантастических романов, в которых «проигрываются» иные варианты истории Сергея Переслегина: «Цивилизация есть системный объект и регресс в одних культурных областях отнюдь не компенсируется прогрессом в других. И оставление Лунного плацдарма не случайно сопровождалось торможением научного и технологического развития; падение производительности, а затем и ликвидности капитала есть просто оборотная сторона кризиса НТР.
И опять-таки это не поэтический образ, а реальность, в том числе и экономическая. С семидесятых годов падает производительность капитала. К концу XX в. этот параметр опустился до уровня 1890‑х гг., причем скорость падения нарастала. На рубеже тысячелетий ослабление способности денег производить деньги привело кризису высокотехнологичных секторов экономики…» [15].
На этом рубеже был сделан поворот от дороги к звездам к виртуальной реальности, от фантастики к фэнтези. Фэнтези – это будущее в прошлом. Попытка остановить историю или, тем более, повернуть её вспять, очень опасна. И все эти риски и мы, и мир, получили после катастрофы СССР.
Прошли десятилетия. Космос превратился в отрасль экономики и вошел в сферу национальной безопасности. Космос начал не только требовать вложений, но и приносить деньги.
Пройден большой путь. До октября 2017 г. было осуществлено 334 пилотируемых старта, 554 человека побывали в космосе, 213 – выходили в открытый космос, было построено 25 космодромов. Более 40% общих расходов на космос составляют военные программы, но эта доля уменьшается. В космической деятельности участвуют уже 70 стран. Вложения в развитие космической отрасли распределены неравномерно. Например, первая пятерка по этому параметру в 2016 г. выглядела так − США – $36,0 млрд, Китай – $4,9 млрд, Россия – $3,2 млрд, Япония – $3,1 млрд, Франция – $2,8 млрд [16]. США вкладывает в развитие космической области больше, чем весь остальной мир вместе взятый. На второе место вышел Китай, обогнавший Россию по инвестициям и сравнявшийся с США по количеству запусков.
Космическая отрасль России находится в глубоком кризисе. В самом деле, мировой рынок гражданского сегмента космической отрасли составляет около $200 млрд. Около половины – рынок космической информации, которую дает дистанционное зондирование Земли. Ещё примерно столько же – рынок аппаратуры, использующей эту информацию. Но России нет на этих рынках. В то же время запуски, где наша страна жестко конкурирует с другими, стоят менее 2% от всего бюджета отрасли.
Мы столкнулись со странными авариями отлично отработанных в советские времена систем, со скандалом, когда на двигателях решили использовать «материал подешевле», с которым они не работают. Притчей во языцах стали хищения, невыплаты зарплат, привлечение «странных» компаний во время строительства космодрома «Свободный». Космосом стала заниматься прокуратура.
Конечно, остается восхищаться тем, насколько велик был советский космический задел. Американцам не удалось воспроизвести наш легендарный двигатель РД–170, они до сих пор покупают наши двигатели. Ряд американских экспертов считает, что создание подобной машины потребовало бы строительства целого города, огромных средств и 10 лет работы. И они не делают этого, вкладывая усилия в создание двигателя нового поколения.
Глубокого уважения заслуживают люди, сумевшие в окаянные 1990‑е сохранить уникальные технологии, оборудование, алгоритмы расчетов, коллективы. Однако развитие отрасли требует иного руководства, другого целеполагания. Судьба космической промышленности с полной ясностью показывает, что и развитие собственных высоких технологий – здесь нужна мечта и систематический упорный труд – и олигархический капитализм, сориентированный в 1990‑е на вывоз сырья, как гений и злодейство – две вещи несовместные.
В космической отрасли новые технологии отрабатываются в ходе решения научных задач. Советская наука была флагманом космической отрасли. Когда решался вопрос о запуске первого спутника, на чем настаивал С.П. Королёв, его самым активным образом поддержал выдающийся математик, механик, академик М.В. Келдыш, сумевший убедить коллег и руководство страны, что за этими исследованиями будущее. Мы без преувеличения были «впереди планеты всей». А сейчас?
Посмотрим на ближайший 2019 г. Зонд NASA «Новые горизонты» достиг астероида Ультима Туле – загадочного объекта Пояса Койпера, который находится в 6,5 млрд км от Солнца, где до этого не бывали космические аппараты. В начале января впервые достиг обратной стороны Луны китайский луноход Чаньэ 4, который передает данные через спутник-ретранслятор Цюэцяо. Во второй половине года начнет работать на южном полюсе Луны индийский луноход Чандраян-2. Японский зонд Хаябуса 2 забрал образцы грунта с поверхности астероида Рюгу, чтобы впервые доставить их на Землю. Зонд Юнона отправлен к Юпитеру, а зонд Паркер к Солнцу…
А где же наши проекты? Почему их нет?
На мой взгляд, общий ответ на этот вопрос дал выдающийся российский геохимик, член бюро Совета по космосу РАН, академик Э.М. Галимов в книге с характерным названием «Замыслы и просчеты: Фундаментальные космические исследования в России последнего двадцатилетия. Двадцать лет бесплодных усилий»: «Мне, как человеку науки, видна одна из причин, объясняющая частую неэффективность наших усилий. Это – некомпетентность, проявляющаяся на разных уровнях.
На уровне власти – это недооценка роли фундаментальной науки как наиболее важного вложения капитала в будущее и неумение вести диалог с наукой. Навязывание науке приоритетов и ущербное финансирование.
На среднем, организационном уровне, это – неэффективное использование имеющихся средств. Не на высоте оказалась и Академия наук. Здесь нужна умелая и ответственная работа. Её не было.
На уровне исполнителей – это постоянная утрата должной квалификации.
Всё это звенья одной цепи» [17].
При таком отношении к делу, как сейчас, во многих областях не удается даже удержать уже созданную техносферу. По мировой статистике причиной 90% аварий в воздухе и 70% в море является не техника, а человек… Человек вновь оказывается в центре всего…
Что делать?
Как же выбраться из кризиса совести, атмосферы некомпетентности и безразличия? Если следовать идеям гуманитарно-технологической революции, то нам стоит опираться на три важнейшие сущности – осознанность, ответственность и совесть. Именно это отличает взрослых людей, которые берутся за серьёзное важное дело, понимают, что жизнь одна и второго дубля не будет, от детей, которые ощущают, что «всё понарошку», а если что не так, то «взрослые всё разрулят»…
Осознанность означает реальную, трезвую оценку своего положения и своих проблем и возможностей. Известный журналист и политический деятель говорит: «Да, мы сдуру развалили Советский Союз, и надо было как-то выплыть. Потом решали проблему терроризма, восстанавливали государственные институты… Русская интеллигенция, русская элита последние сотни лет хочет чего-то большого. То ли империю усиливать, то ли войны выигрывать, то ли шведов прогнать, то ли человека в космос запустить, то ли социализм построить в отдельно взятой стране… Мы должны снова стать такими, немного помешанными, какими были последние пятьсот лет».
Много исторического времени потеряно. Наше место на карте мира – экономической, технологической, демографической и многих других – продолжает сокращаться. У нас нет более возможности что-то делать «сдуру» и смотреть на историю как на аттракцион, где хочется то ли большого проекта, то ли майдана, то ли конституции, то ли севрюжины с хреном…
Ответственность многолика. В частности, это ответственность перед будущим, предполагающая, чтоб наше поколение решит сегодняшние проблемы России, не откладывая их на потом и не перекладывая на плечи детей и внуков, и создаст задел на будущее.
Совесть требует исполнения своего долга. Помните, как Верещагин объяснял бандитам, почему он будет делать своё дело. Да потому, что «за державу обидно». Если у нас появится достаточно много людей, которым за державу обидно, и которые работают для того, чтобы обидно не было, то половину проблем удастся решить сразу.
И конечно, в пути нам понадобится компас – Мечта, Образ будущего, Идеология.
Пока у нас есть возможность достойно пройти точку бифуркации, выбрать путь к звездам, а не безвременье и тьму. Именно этого мир ждет от нас. Ему стоит дать шанс.
Работа выполнена при поддержке РФФИ (проекты 18-011-00567 и 19-010-00423).
1. © Малинецкий Г.Г., Посашков С.А., Скурлягин А.А., 2019
2. Бек У. Общество риска. На пути к другому модерну. М.: Прогресс-Традиция, 2000. 384 с.
3. Иванов В.В., Малинецкий Г.Г. Россия: XXI век. Стратегия прорыва. Технологии. Образование. Наука. Изд. 2-е. М.: ЛЕНАНД, 2017. 304 с. (Будущая Россия №26).
4. Лем С. Собрание сочинений. Т. 13, дополнительный. Сумма технологии. М.: Текст. 1996. С. 9.
5. Тоффлер Э., Тоффлер Х. Война и антивойна. Что такое война и как с ней бороться. Как выжить на рассвете XXI века. М.: АСТ: Транзиткнига, 2005. 412с. (Philosophy).
6. Белл Д. Грядущее постиндустриальное общество. Опыт социального прогнозирования. М.: Academia, 2004. С. 663.
7. Харари Ю.Н. Homo Deus. Краткая история будущего. М.: Синдбад, 2018. 496 с. (Big Ideas).
8. Количественное исследование нравственности стран мира. Электронный ресурс. https://ss69100.livejournal.com/2893812.html
9. Криминология: Учебник / Под ред. акад. В.Н. Кудрявцева, проф. В.Е. Эминова. М.: Юрист, 1997. 512 с.
10. Семёнов Л. Занимательная философия. СПб: ООО «Торгово-издательский дом «Амфора», 2015. 299 с. (Популярная наука).
11. Цитируется по Вааль де Ф. Истоки морали: В поисках человеческого у приматов. 5-е изд. М.: Альпина-нон-фикшен, 2018. С. 22, 363, 364.
12. Шнуренко И. Искусственный интеллект на грани нервного срыва // Эксперт 2018-2019. №1-3. С.38-41.
13. Лем С. Системы оружия двадцать первого века // Библиотека XXI века. М.: ООО «Издательство АСТ», 2003. С. 550-551. (Philosophy).
14. Переслегин С.П. Возвращение к звездам: Фантастика и эвология. М.: АСТ: АСТ МОСКВА; СПб «Terra Fatastica», 2010. С. 550, 551, 566.
15. Там же. С. 559, 560.
16. Дотянуться до звезд. За чей счет человечество покоряет космос // Русский репортер. 2017. 9-23 октября. С. 48-49.
17. Галимов Э. Замыслы и просчеты: Фундаментальные космические исследования в России последнего двадцатилетия. Двадцать лет бесплодных усилий. Изд. 2-е.доп. М.: УРСС: Книжный дом «ЛИБРОКОМ», 2013. 313 с. (Будущая Россия).