Book: Четвертая мировая война. Будущее уже рядом



Четвертая мировая война. Будущее уже рядом

Доктор Андрей Курпатов

Четвёртая мировая война. Будущее уже рядом!

С надеждой автор посвящает эту книгу всем студентам «Академии смысла».

Не нужно быть сверхразумным искусственным интеллектом, чтобы понять: двигаться навстречу величайшему событию в истории человечества и не готовиться к этому – просто глупо.

МАКС ТЕГМАРК, Массачусетский технологический институт

Книга для интеллектуального меньшинства


абсолютно не рекомендована тем, кто готов по любому поводу оскорбиться


Наша главная слабость – в глупости, лености и самодовольстве.

В 2016 году я начал публиковать на портале «Сноб» цикл статей под общим названием «Четвёртая мировая». Они были посвящены нашему скорому и отнюдь не безоблачному будущему.

На рубеже веков человечество оказалось перед лицом новой реальности: «третья информационная волна» (Элвин Тоффлер), «четвёртая технологическая революция» (Клаус Шваб), «технологическая сингулярность» (Рэй Курцвейл).

То есть наша цивилизация трансформируется, причём фундаментальным образом. Но что мы знаем о рисках, о возможных последствиях этих перемен? Задумываемся ли мы о них всерьёз?

Мои статьи приняли тогда, в целом, положительно – сотни тысяч просмотров, много доброжелательных отзывов. Однако был и весьма характерный фон, я бы даже сказал – «душок». Мол, всех тут «доктор из телевизора» запугивает, а никакой угрозы нет: технологии, информационный бум и искусственный интеллект – это всё прекрасно, и нечего паниковать.

Кто-то говорил, что мои «пророчества» – дело столь отдалённого будущего, что даже нелепо об этом думать. Кто-то утверждал, что в реальном мире программеров и специалистов по искусственному интеллекту «всё вообще по-другому» и нечего тут «психологам» лезть с футуристическими прогнозами. Кто-то утверждал, что я и вовсе ретроград, луддит, противник прогресса и цивилизации.

Но считать меня луддитом столь же нелепо, как и называть тем самым «психологом» (я всё-таки врач-психиатр, что далеко не одно и то же). Новые технологии – это замечательно, я и правда так считаю. Однако предельно глупо, на мой взгляд, развивать технологии, которые в корне меняют среду нашего обитания, не учитывая возможные последствия для продукта этой самой среды – то есть для нас с вами.


Мы – плоть от плоти – та среда, которая нас окружает: и не только физико-химическая, но и языковая, культурная, психологическая, идеологическая – то есть собственно информационная.


В нас нет ничего «своего», мы полностью сделаны из окружающей нас среды. Допускаю, что это тяжело принять тем, кто верит в «духовный рост», «божественный замысел» и проповедует «любовь к себе», но такова правда.

• На физическом уровне мы то, что мы физически потребляем: химические вещества, находящиеся в пище, воде, вдыхаемом воздухе (грубо говоря, мы то, что мы едим, что пьём, чем дышим).

• На информационном уровне мы являемся производными той информационной среды, в которой живём, – воспитание и образование, поведенческие стереотипы в обществе, массмедиа.

Но в чём тут, вы скажете, новость?.. Если взглянуть на историю человечества, то информационная среда менялась регулярно, зачастую радикально – и никаких проблем! С чего бы им теперь вдруг возникнуть?

Да, менялась, но раньше эти изменения касались только содержания – трансформировались представления людей о мире, эволюционировали культурные паттерны и т. д. Сейчас же изменяется сама структура информационной среды.

Причём подобные структурные «фазовые переходы» человечество уже переживало – изобретение письменности, печатного станка, телеграфа, радио, синематографа. И за подобными «переходами» всегда следовала, по сути, новая эра в истории человечества.

Но посмотрите, как эти эпохи ужимаются: от момента появления письменности до печатного станка – тысячи лет, от станка до телеграфа – сотни, дальше – десятки.

Сейчас новые способы распространения информации появляются чуть ли не каждый год: интернет, электронная почта, интернет-поисковики, мобильный интернет, социальные сети и т. д., и т. п.

Можно с полной уверенностью утверждать, что ещё никогда за всю историю человечества структурные изменения в информационном поле не были столь грандиозными и значительными, как сейчас.

Информационные технологии, роботизация и уберизация, а также собственно искусственный интеллект превращаются в своеобразный экзоскелет нашего мозга, а это естественным образом приводит к неизбежной атрофии интеллектуальной функции.


С мозгами как с мышцами: если их функцию выполняет какой-то сторонний агрегат, то они медленно, но верно усыхают.


Из-за социальных сетей, эффекта постоянной подключённости («всегда на связи»), агрессивной конкуренции между производителями контента, цифровой зависимости и других новых «зол» изменилось не только количество, но и качество потребляемой нами информации.

Эта фундаментальная трансформация среды с неизбежностью приводит к нашим собственным изменениям. Но из-за когнитивных искажений мы субъективно занижаем значение происходящего: к переменам мы стали привыкать быстро, а собственных изменений не видим, потому что не с чем сравнить – всё человечество меняется разом.

Многие, впрочем, чувствуют: «что-то пошло не так». Изменения вроде бы и положительные, но вот фон – нет, какой-то странный: всё сложнее определиться с целями, жизненные перспективы выглядят какими-то туманными (если вообще просматриваются), нарастает чувство безысходности, отношения между людьми становятся всё более и более поверхностными и формальными.

«Технологии будут систематически менять наше понимание того, что значит быть человеком, что значит быть в социуме и что значит заниматься политикой. […] Мы действительно проходим через сдвиг парадигмы. Она замечательная всем тем, что нам даёт, но одновременно ведёт и к ненадёжности существующих структур, которые теряют свою ценность и значение. Следовательно, этот новый режим бытия требует нового мирового порядка».

НИШАН ШАХ, Центр цифровой культуры Люнебургского университета

Отражают ли эти смутные ощущения действительный масштаб перемен? Сомневаюсь. Да и вопросов больше, чем ответов… Мы до сих пор не понимаем, в чём, собственно, эти изменения заключаются, что будет с нами дальше, как изменится наше общество.

В любом случае просчёт возможных рисков, связанных с технологическим и цифровым «улучшением жизни», – это важная задача.

МЕДИЦИНСКИЙ ПРИМЕР

В своё время мы вмешались в естественный отбор, спасая жизни людей при помощи антибиотиков и обезболивающих при хирургических операциях. Мы хорошо лечим рак, активно развиваются протезирование и трансплантология.

Невероятные успехи достигнуты в экстракорпоральном оплодотворении, сохранении беременности и неонатальной медицине, детская смертность стала минимальной.

Современные нейролептики и антидепрессанты позволяют лицам, страдающим психическими расстройствами, вести полноценную жизнь.

Успех просто невероятный: на планете сейчас живёт больше людей, чем за всю её историю, а средняя продолжительность жизни человека лишь за один прошлый век увеличилась более чем в два раза.

Но само это благоденствие вызывает проблемы, которые пока непонятно как решать: супербактерии, рост патогенности вирусов и появление новых[1], рост психических расстройств и врождённых патологий. И это, конечно, далеко не полный список…

Тех из нас, кого эволюция раньше бы выбраковала, современная медицина спасает. В геноме человечества происходит накопление предрасположенностей к самому широкому кругу болезней. И потому уже сейчас рождение ребёнка без патологий и более-менее устойчивого к болезням – что-то за гранью фантастики.

Да, достижения медицины – это замечательно (меня они особенно радуют, ведь я бы уж точно давно оказался в числе выбракованных эволюцией особей). Но есть у этой медали и обратная сторона.

Врачи думают о последствиях своего вмешательства в естественный отбор. Они осознают риски и с удвоенной силой занимаются вопросами вирусологии, иммунологии и генной терапии. Но я не видел никого, кто был бы настолько же всерьёз озабочен последствиями фундаментальной трансформации информационной среды.

Есть единичные исследователи, которые открыто говорят о возможных рисках, но их голоса, к сожалению, или игнорируются, или не выглядят достаточно убедительными. А общая реакция общества и различных его институтов вполне укладывается в формулу, с которой я начал: глупость, леность и самодовольство.

Прошло не так много времени с публикации того моего «снобовского» цикла статей, а количество «критиков» уже существенно поубавилось.

То, что казалось каким-то совершенно отдалённым будущим: машины-беспилотники,

3D-принтеры, позволяющие работать практически с любыми материалами, чипы в человеческих головах, детальная персонализация человека по его поведению в сети и т. д., – всё это уже, так сказать, в дверях.

Речь идёт не о каких-то «нюансах», а о системной проблеме: перед нами не только собственно технологические риски, но и экономические, общественно-политические, экзистенциальные.

• Технологические риски связаны прежде всего с возможностью неконтролируемого развития искусственного интеллекта.

• Экономические риски связаны с массовой безработицей, обусловленной полной автоматизацией производства, что приведёт к системному кризису современной модели экономики.

• Общественно-политические риски – это и возможная кибервойна, и возникновение тоталитарных государств (квазигосударств), управляемых собственниками BigData.

• Экзистенциальные риски в грядущем цифровом мире связаны с утратой человечности в традиционном её понимании, а также с интеллектуальной деградацией общества.

Каждое из этих направлений разрабатывается независимыми экспертами, в университетской среде и исследовательскими компаниями. Идёт активная дискуссия, но общей картины пока, к сожалению, нет.

В этой книге я постараюсь рассказать о проблемах, связанных с наступлением «четвёртой промышленной революции», торжественно провозглашённой на Давосском экономическом форуме его бессменным президентом Клаусом Швабом.

Да, когда представители гигантского транснационального бизнеса самозабвенно рассказывают нам о грядущем счастье, я предпочитаю говорить о реальности. Мы должны оценить, насколько указанные риски взаимосвязаны и какова вероятность, что они вызовут эффект домино.

Ну и, конечно, я добавлю к этому скорбному списку свою «ложку дёгтя». Даже примеряя на себя роль футуролога, я не могу перестать быть врачом-психиатром, а на мой профессиональный взгляд, самой серьёзной проблемой нового времени будет деформация психики человека.

Этому аспекту, этому «слабому звену» обычно уделяется совсем мало внимания, но именно это «звено», как мне кажется, и запустит ту самую цепочку падающих друг на друга костяшек домино.


Но обо всех костяшках по порядку…

Глава первая

Цифровой рай

Лучший способ предсказать будущее – это изобрести его.

АЛАН КЭЙ

В этой главе мы рассмотрим скорое будущее, которое нам обещает главный пророк современных технологий – Рэй Курцвейл.

Рэй Курцвейл – личность, без преувеличения, легендарная. С победами на поприще информатики его поздравляли президенты США – Линдон Джонсон (Рею было тогда 20 лет от роду) и Билл Клинтон, вручивший Курцвейлу в 1999 году информационного Нобеля – National Medal of Technology.

Курцвейл создал первый музыкальный синтезатор, первый планшетный сканер, первую читающую машину для слепых, первым научил компьютеры распознавать человеческую речь. И это только некоторые из его личных достижений, не считая работы на Google, IBM ит. д.

Сейчас Курцвейл работает техническим директором Google, где возглавляет все работы по искусственному интеллекту. А в качестве хобби создаёт помощника, «способного отвечать на наши вопросы ещё до того, как вы их сформулируете». Нет, я не шучу. Это цитата.

Впрочем, Рэй Курцвейл, конечно, более известен широкой общественности как футуролог. В книге «Эпоха духовных машин» он сформулировал «закон ускоряющейся отдачи», который позволяет ему с удивительной точностью предсказывать – буквально по годам – достижения в области развития компьютерных технологий и искусственного интеллекта.



Да будет так!

Я придумал закон ускоренной отдачи, чтобы правильно рассчитывать время в моих собственных технологических проектах: чтобы я мог начинать их за несколько лет до того, как они станут осуществимыми.

РЭЙ КУРЦВЕЙЛ

Согласно закону ускоряющейся отдачи, развитие технологий происходит экспоненциально: то есть чем мощнее становится та или иная технология, тем большее ускорение в своём развитии она приобретает.

«За семь лет проект “Геном человека”[2] собрал один процент генома, – рассказывает Курцвейл. – Мейнстримовые критики заявляли: “Я же говорил, что ничего не получится. За семь лет – один процент, значит, на весь геном уйдёт 700 лет”. Моя реакция была другой: “Ого, мы уже сделали один процент? Мы почти закончили!” Дело в том, что один процент – это всего семь удвоений до ста процентов. Удвоение происходит каждый год. И действительно, проект закончили уже через семь лет. То же самое произошло со стоимостью: первый геном стоил миллиард долларов, а сейчас эта процедура стоит всего 1000 долларов».

Чтобы представить себе, о чём говорит Курцвейл, вспомните знаменитую притчу о создателе шахматной игры – бедном мудреце и математике Сета.

Шахматы так впечатлили индусского царя Шерама, что он решил беспримерно наградить Сета.

– Я настолько богат, что могу исполнить любое твоё самое смелое желание, – сказал царь мудрецу Сету. – Назови награду, и ты получишь её.

– Велика доброта твоя, повелитель, – ответил мудрец. – Выдай мне за первую клетку шахматной доски одно пшеничное зерно.

– Одно пшеничное зерно? – изумился царь.

– Да, повелитель. За вторую клетку прикажи выдать два зерна, за третью – четыре, за четвертую – восемь, за пятую – шестнадцать, за шестую – тридцать два…

– Довольно, – с раздражением прервал его царь. – Ты получишь свои зёрна за все 64 клетки доски, согласно твоему желанию: за каждую вдвое больше против предыдущей. Но знай, что просьба твоя недостойна моей щедрости. Ступай! Слуги вынесут тебе твой мешок с пшеницей.

Сета улыбнулся, покинул залу и стал дожидаться последствий своей просьбы у ворот царского дворца. А развязку этой истории вы все, конечно, знаете.

Да, наше мышление, по самой сути своей, линейное – мы привыкли наблюдать постепенное приращение чего бы то ни было: вода в реке или в море поднимается или убывает медленно, растения, животные и даже наши дети растут год за годом и по чуть-чуть, так же незаметно меняются климат, отношения между людьми и т. д., и т. п. Всё постепенно.

Вот почему экспоненциальный рост, о котором говорит Курцвейл в своём законе ускоряющейся отдачи, для нас контринтуитивен: мы не привыкли так думать, а потому и не можем представить себе его последствий.

Царь Шерам решил, что мудрец Сета попросил у него мешок пшеницы, не больше. Но такова действительная реальность экспоненциального роста: если соблюсти последовательность, о которой просил мудрец, то к 64-й клетке количество зерна на доске будет в 1800 раз превышать ежегодный современный мировой урожай пшеницы.

То есть Сета попросил у наивного царя весь урожай пшеницы, собранный за всю историю человечества до настоящего момента, а общая масса этого зерна равнялась бы 1200 миллиардам тонн.

В своих прогнозах мы основываемся на опыте тех технологических трансформаций, которые произошли за последние десятилетия. Пережитый опыт диктует нам и наши представления о будущем – таковы особенности мышления человека, его, так скажем, интуиции.

Да, произошёл существенный скачок в развитии технологий – мы все это признаём. «Но что ещё может случиться, чтобы удивить нас? – рассуждаем мы по-стариковски. – Нет, мы уже всё видели…»

Но взгляните на эти два графика: на первом – мы с вами, вместе с тем самым индусским царём Шерамом, а на втором – экспоненциальная кривая технологического прогресса и те самые миллиарды тонн зерна, которые причитаются мудрецу Сете и о которых нас предупреждает Рэй Курцвейл.


Четвертая мировая война. Будущее уже рядом

Во многом именно благодаря изобретению закона ускоряющейся отдачи Билл Гейтс назвал Рэя Курцвейла «лучшим из тех, кого я знаю, в предсказании будущего искусственного интеллекта».

По оценкам независимых экспертов (уж не знаю, как именно они это измеряли), 86 % прогнозов Рэя Курцвейла «сбывались с высокой точностью».

И действительно, даже если закрыть глаза на эти проценты, прогнозы Курцвейла сбываются как по волшебству – телефоны с bluetooth, синхронный компьютерный перевод, Siri, 3D-видео и очки с дополненной реальностью, суперкомпьютер IBM Watson, машины без водителей и т. д., и т. п.

НИЧЕГО ЛИЧНОГО, ПРОСТО ФАКТЫ

В 1990 году Рэй Курцвейл предсказал, что компьютер победит лучшего игрока по шахматам в 1998 году. Он ошибся: суперкомпьютер Deep Blue компании IBM обыграл Гарри Каспарова на год раньше – в 1997-м.

Тогда же – в 90-м – Курцвейл высказал предположение, что в 2010 году компьютеры смогут отвечать на вопросы, имея беспроводной доступ к информации. Это, как вы понимаете, тоже случилось чуть раньше.

А вот с экзоскелетами, например, великий прогнозист слегка поторопился. Он был уверен, что они позволят инвалидам ходить уже в начале 2000-х, что произошло чуть позже и не повсеместно. Впрочем, соответствующие технологии действительно созданы и активно используются (в частности, компанией Ekso Bionics).

Спустя десять лет – на пороге нынешнего тысячелетия – Курцвейл тоже сделал несколько чрезвычайно смелых прогнозов. Так, например, он обещал, что к 2009 году компьютер будет воспринимать голосовые команды. Случилось это не в 2009-м, но кто из нас не общался с Siri, OK Google или Алисой?

В том же 2009 году Курцвейл ожидал появления очков, стёкла которых будут оснащены дисплеями, воспроизводящими эффект дополненной реальности. Вроде бы и тут ошибся – прототипы Google Glass появились только в 2011-м. Но и эти экраны, и технология дополненной реальности появились даже до 2009 года. Так что всё ОК.

Ещё через пять лет – в 2005 году – Курцвейл предсказал, что к 2010 году появится возможность осуществлять языковые переводы с одного языка на другой в режиме реального времени. Skype Translate Microsoft, Google Translate и другие технологии справились с этой задачей. Некоторые же приложения, как, например, Word Lens, и вовсе могут переводить слова на изображении с вашей камеры.

Помню, когда ко мне в гости в интеллектуальный кластер «Игры разума» приехал главный художник Google, автор культового романа «Поколение X» Дуглас Коупленд, с которым у нас перед этим состоялась заочная дискуссия о будущем искусственного интеллекта, это приложение только вышло. И они с куратором его выставки Марселлом Дантесем как малые дети бегали по нашим зданиям, прикладывая свои iPhone к указателям, и радовались эффектам – на экране то же видеоизображение, а текст меняется на английский.

В 2010 году Курцвейл обещал, что к 2019-ому «провода и кабели для персональных и периферийных устройств любой сферы уйдут в прошлое». Что ж, взгляните на наушники к iPhoneX, беспроводные зарядные устройства для Samsung Galaxy S6 (Wireless Charging Pad) или Cota Wireless Power – универсальную колонку для зарядки электроприборов с диаметром действия больше 10 метров.

Вам не кажется, что Курцвейл даже как-то запаздывает со своими прогнозами?..

Кривая закона ускоряющейся отдачи Рэя Курцвейла предполагает наличие трёх последовательных фаз:

• первая – медленный рост (ранняя фаза экспоненциального роста);

• вторая – быстрый рост (взрывная фаза, когда кривая стремительно взметается вверх);

• третья – фаза стабилизации, когда формируется принципиально новая технологическая парадигма.

И если кому-то кажется, что стабилизация уже наступила, – не обольщайтесь. Вот что обещает нам Рэй Курцвейл на ближайшие десятилетия…

Считается, что вычислительная мощность нашего мозга равняется примерно десяти терабайтам – это очень-очень много, и стоимость такого компьютера сейчас, как вы понимаете, почти космическая.

Но посмотрите на свой телефон: аналогичную вычислительную мощность в 60-х вы могли бы купить лишь за триллион долларов, а в начале 80-х прошлого века – за миллиарды долларов. Но вряд ли сейчас ваш телефон стоит дороже тысячи, правда? Впрочем, его начинка, поверьте, куда дешевле – вы переплачиваете за программное обеспечение и бренд.

Теперь внимание: по расчётам Курцвейла, десять терабайтов – мощность, равная мощности нашего мозга, – обойдутся нам в 2020 году всего в одну тысячу долларов. Проще говоря, к этому моменту персональные компьютеры не только достигнут вычислительной мощности, сравнимой с человеческим мозгом, но будут общедоступны.

В 2011 году журнал Science опубликовал статью Мартина Хильберта из Университета Южной Калифорнии, где он писал следующее: «Люди всего мира могут осуществить 6,4x1018 операций в секунду на обычных компьютерах образца 2007 года, что сравнимо с максимальным количеством нервных импульсов, возникающих в одном человеческом мозге за секунду».

Самый быстрый суперкомпьютер в этом же 2011 году обладал мощностью 10,51 петафлопс (10,5 квадриллионов операций в секунду – то есть как минимум на две степени меньше, чем требуется для воспроизводства мощности, соответствующей человеческому мозгу).

В 2013 году группе немецких и японских исследователей удалось симулировать одну секунду активности одного процента мозга человека, правда за 40 минут и на кластере из 82 944 процессоров.

В 2018 году был представлен американский суперкомпьютер Summit, производительность которого, по заверениям создателей, приближается к 3,3 экзаопсам, а это три с лишним квинтиллиона операций в секунду – то есть те самые «миллиарды миллиардов», о которых говорил Мартин Хилберт, рассчитывая мощность человеческого мозга.

Теперь представим, что мы перешагнули 2020 год и вошли в будущее, стоящее у нас на пороге. Итак, чем же ознаменуются для нас ближайшие десятилетия?

СПРАВОЧНО

Увеличение мощности компьютеров, уменьшение их размеров и снижение цены производства – следствия так называемого «закона Мура», который был сформулирован больше пятидесяти лет назад Гордоном Муром – тогда ещё только будущим основателем компании Intel.

На самом деле это просто эмпирическое, то есть основанное на опыте наблюдение: мощность компьютеров, обусловленная увеличением количества транзисторов, умещающихся на кристалле интегральной платы, а также ростом их таковой частоты, удваивается каждые 18 месяцев. Тогда как с ценой происходит обратная ситуация – примерно каждые два года она в два раза уменьшается.

Журнал «Scientific American» привёл такую аналогию: если бы авиапромышленность последние 25 лет следовала «закону Мура», то сейчас Boeing 767 стоил бы 500 долларов, совершал облёт земного шара за 20 минут и затрачивал на это менее 20 литров топлива.

Да, цифровой мир живёт по своим законам – Мура и Курцвейла.

Повсеместная роботизация

Сейчас даже растёт количество людей, считающих меня слишком консервативным и сдержанным в своих прогнозах.

РЭЙ КУРЦВЕЙЛ

С 2020 по 2030 год нас ждёт повсеместная роботизация.

В США и Европе будут приняты первые законы, регулирующие отношения людей и роботов. Деятельность роботов, их права и обязанности будут превращаться в своего рода «Кодекс поведения робота». Впрочем, предполагается, что этот кодекс будет налагать определённую ответственность и на пользователей – то есть на нас с вами.

Это кажется почти что абсурдным. Но посудите сами…

В 2018 году на международной выставке высоких технологий Computex был представлен чип под названием Jetson Xavier (ещё его зовут Isaac). Компания-производитель NVIDIA утверждает, что это идеальный мозг для роботов, ориентированных на использование искусственного интеллекта и глубокое машинное обучение. На его создание были затрачены около 8000 человеко-лет работы и куча денег.

«При энергопотреблении в 30 ватт Jetson Xavier имеет практически такую же вычислительную мощность, как и огромные рабочие станции стоимостью в 10 000 долларов, но при этом он стоит гораздо дешевле», – говорит президент NVIDIA Жэньсюнь Хуан. Кстати, его надо поздравить: Isaac и правда выходит на рынок и стоит чуть больше тысячи долларов.

Впрочем, уже в середине третьего десятилетия нашего века и сами люди подвергнутся киборгизации – Рэй Курцвейл ожидает появление массового рынка гаджетов-имплантатов.

Да, киборг – уже не вымысел. Не буду рассказывать про коленные протезы, оснащённые самообучающимся искусственным интеллектом («RheoKnee» компании Ossur), – им уже больше десяти лет, и это скучно. Куда важнее то, что можно делать с нашим мозгом.

После того как Уильям Доббел создал в 2002 году первую технологию, позволяющую переводить изображение с обычной видеокамеры непосредственно в мозг человека (минуя глаза, глазные нервы и прочие анатомические «излишки»), мы оказались в поистине новой реальности.

Теперь совершенно очевидно, что наш хвалёный мозг – это просто серверное пространство. И тот же Рэй Курцвейл уже работает над новым для мозга программным обеспечением, а также над нестандартными средствами доставки в него информации.

У наших органов чувств масса ограничений, но почему бы не подключить к нашему мозгу, например, электронный микроскоп или супермощный телескоп? Почему бы не перепрограммировать наш мозг, зная его «язык», его «код» и весь набор «уязвимостей нулевого уровня»?


Биологический и интеллектуальный апгрейд – это не вымысел фантастов, а уже почти наступивший дивный новый мир.


Параллельно с нашей собственной киборге-низацией, по прогнозам Курцвейла, и персональный робот, способный на сложные, полностью автономные действия, станет настолько же привычной вещью в наших домах, как и бытовая кухонная техника.

К этому Курцвейл добавляет беспроводной доступ к интернету, который покроет практически всю поверхность Земли, а также солнечную энергию – настолько дешёвую и доступную, что человечеству больше не потребуется углеводородное топливо.[3]

СПРАВОЧНО

Курцвейл делает ставку на естественные источники энергии, где действительно достигаются всё новые и новые, поражающие воображение успехи. Но возможен и другой способ решения энергетической проблемы – например, термоядерный синтез1.

Для того чтобы реакция термоядерного синтеза пошла, необходима разогретая до невероятной температуры плазма. Этот эффект уже достигается в специальных установках, которые называются токамак. Нагрев и удержание плазмы осуществляются в них с помощью магнитного поля огромной силы. Сейчас учёным удаётся разогревать плазму до 50 миллионов градусов по Цельсию и продержать в таком состоянии больше 100 секунд (рекорд принадлежит китайской установке EAST).

Это много с точки зрения достигнутого прогресса и недостаточно для полного решения задачи. Однако специалисты уверены, что проблема будет решена уже в ближайшие годы.

К середине 2020-х, обещает Рэй Курцвейл, будет побеждено большинство болезней. Всё это благодаря нанороботам, которые продемонстрируют способность справляться с болезнями лучше любых современных медицинских технологий и лекарств.

Мини-компьютеры величиной меньше, чем клетка крови, будут перемещаться в наших телах и, связанные с облаком, сначала предупредят «Большого Доктора» о рисках наступления заболевания, а затем, если потребуется, успешно его излечат.

Один из основоположников наномедицины Роберт Фрейтас говорит: «Нанотехнологии уже производят биороботов. Примерно к 2020 году возникнут гибридные роботы на основе усовершенствованной ДНК, синтетических белков и других небиологических материалов. В начале 2030 года или раньше учёные построят полностью искусственные устройства: нанороботы, управляемые компьютерным программным обеспечением и способные защитить каждую клетку организма от болезней и травм».

В 2017 году команда учёных во главе с Джеймсом Туром из Университета Райса опубликовала статью в журнале Nature, где была представлена, например, нанотехнология, «взламывающая» и «высверливающая» мембраны раковых клеток.

Структура этого молекулярного комплекса действительно повторяет обыкновенную электродрель: основа – это неподвижный статор, который закрепляется на мембране «распорками», воздействие ультрафиолетовых лучей запускает ротор, и тот начинает вращаться со скоростью 2–3 млн оборотов в секунду, буквально пробуривая мембраны клеток и оставляя открытые поры (см. рис. № 1).


Четвертая мировая война. Будущее уже рядом

Рисунок № 1. Схема работы наноробота команды Дж. Тура


Учёные могут модифицировать функциональные группы на статоре наномашины так, чтобы они крепились только к определённым структурам клеточных мембран. Это позволяет делать их действия избирательными и атаковать только больные клетки. Пока подобные фокусы проделывают на мышах, но уже тот факт, что мы можем вылечить рак простаты у мыши, не повредив здоровые ткани, – это безусловная победа нанотехнологий.

Фрейтас вместе с Курцвейлом считают, что старение и «естественная смерть» являются заболеваниями, которые возникают, когда клеточная структура организма не может восстановить нанесённый ей ущерб. Если лечить эту «болезнь», то молодые смогут оставаться молодыми, а старые помолодеют.



Да, умереть в новом дивном мире будет всё сложнее и сложнее…

Больше тридцати пяти тысяч человек ежегодно гибнут в России в результате дорожно-транспортных происшествий, чуть меньше – в США, примерно такие же показатели – в объединённой Европе. И основная причина – человеческий фактор, то есть водители, которые, например, засыпают за рулём или садятся за него в изрядном подпитии.

Так что не удивляйтесь: во избежание человеческих жертв нам скоро запретят выезжать на дорогу самостоятельно – только в автомобилях с автопилотом.

Начнётся, впрочем, всё с малого – в начале 20-х под запрет попадут автомобили, не оборудованные компьютерными помощниками, а затем и вовсе – только автопилот, и никакой вам дорожной импровизации.

Когда же окажется, что водить автомобили нельзя, то и желающих содержать собственное авто, которое в среднем 98 % времени стоит на приколе, будет глупо и абсолютно невыгодно.

Городские магистрали наполнятся самоуправляемыми автомобилями-такси и, возможно, даже сузятся из-за тотальной уберизации в пользовании автотранспортом (по расчётам Курцвейла – это где-то 2033 год).

Такси-беспилотники будут постоянно разъезжать по вызовам, а парковки в нынешнем их виде просто исчезнут. Кроме того, машины, объединённые общей сетью, начнут договариваться между собой, чтобы избегать пробок.

Эти трансформации будут происходить настолько стремительно, что мы и не заметим того, как нынешние «автолюбители» исчезнут как класс. К хорошему, как известно, быстро привыкаешь. Уже сейчас молодые люди, пользующиеся относительно дешевым такси, не спешат обзаводиться водительскими правами, а скоро этого вообще не нужно будет делать.

Осознавая это, автоконцерны, выпускающие традиционные автомобили, агрессивно и наперегонки инвестируют в автопилоты.

Да, возможно, Tesla сейчас единственный стопроцентный беспилотник. Но не думайте, что это странная причуда наивного визионера-фантаста Илона Маска. Автомобили, которые вы уже сегодня покупаете у мировых автогигантов, имеют усовершенствования, призванные сделать их совместимыми с автопилотом.

Всё, что через паузу останется автопроизводителю, – это доустановить на вашу машину сканирующий лидар (специальное устройство, обеспечивающее получение и обработку оптической информации) и подключить его к системе искусственного интеллекта, управляющего автотранспортным средством (см. рис. № 2).


Четвертая мировая война. Будущее уже рядом

Рисунок № 2. Схематичное изображение того, как лидар реконструирует окружающую его среду


В 2012 году, когда Google только тестировал первые лидары, их цена составляла порядка 70 тысяч долларов за штуку. Уже через два года цена упала до тысячи долларов, а последнее поколение стоит порядка 90 долларов за экземпляр, который вдобавок и размером-то теперь не многим больше почтовой марки.

Впрочем, зачем все эти сложности – не вполне понятно…

Новое соглашение между Uber и NASA предполагает создание летающих такси с вертикальным взлётом. Промо-ролик этого проекта выглядит как научно-фантастический фильм: героиня, попавшая в дорожную пробку, опаздывает на семейный ужин, но на крыше ближайшего небоскрёба её ждёт аэротакси, которое с комфортом доставит её домой.

Кстати, мэр Лос-Анджелеса Эрик Гарсетти уже пообещал проекту свою помощь и считает, что его город представляет собой идеальный полигон для его реализации.

«Но в какую же баснословную сумму обойдётся подобная поездка?» – спросите вы. Создатели Uber Elevate утверждают, что расценки окажутся такими, что горожанам будет дороже содержать собственный автомобиль. Думаю, что в булочную на таком устройстве вы вряд ли поедете, но расстояния побольше будет комфортнее преодолевать именно таким образом.


Если, конечно, вам это вообще понадобится…

ДЕЦЕНТРАЛИЗАЦИЯ

Если верить Рэю Курцвейлу, то мы движемся к тотальной децентрализации всего и вся.

В скором времени человек уже не будет привязан к рабочему месту – на производстве его заменят роботы, а офисы и вовсе исчезнут за ненадобностью. Сквозной блокчейн сделает все наши взаимодействия предельно прозрачными, так что работодателям и заказчикам уже не нужно будет никого контролировать.

Системы коммуникации достигнут такого уровня, что вы будете испытывать ощущение физического присутствия собеседника. А если так, то зачем вам куда-то ехать, чтобы с ним встречаться?..

Архитектура развлечений, в свою очередь, не потребует больше ни театров, ни кинотеатров, ни аттракционов, ни стадионов, ни даже путешествий – все соответствующие впечатления придут к нам в дом сами. Так что жить в больших городах будет просто бессмысленно, с учётом экологии, шума, криминала, эпидемиологической нагрузки.

В общем, вполне вероятно, что нам предстоит беспрецедентная деурбанизация. А оказавшись за городом, но имея всё, что нужно для работы, общения и развлечений, мы даже перемещаться куда-либо не захотим.

Так что да – беспилотники понадобятся, но для экстренных и единичных случаев. Основная же их задача в будущем – это грузоперевозки. Впрочем, и те под вопросом, если вопрос с 3D-печатью решится так, как предсказывает тот же Курцвейл.

По этой же причине и ракеты, которые Илон Маск собирается запускать в качестве нового трансокеанического средства передвижения, возможно, будут простаивать. Да и летающие автомобили Uber Elevate могут не понадобиться[4].

И раз уж мы заговорили о развлечениях… К 2020 году на рынок поступят специальные очки, которые смогут проецировать любое изображение непосредственно на сетчатку нашего глаза.

Многие помнят скандал вокруг «умных очков» Google Glass – мол, как-то это неприлично стримить в интернет незнакомцев, которые не дали вам на это своего согласия.

Но прогресс, честно говоря, застопорился из-за сугубо технической проблемы: умным очкам, чтобы поддерживать потоковое видео, нужна большая батарея. Но кто будет таскать на себе огромные очки? Они и нос, и уши отдавят. Даже заряда смартфона иногда на сутки не хватает, а он сам по себе не маленький.

Однако закон ускоряющейся отдачи продолжает бить рекорды… Учёные из Университета Вашингтона уже создали технологию потокового вещания, которая потребляет в 10 000 раз меньше энергии, чем прежние. Хитрость в том, чтобы, используя умную беспроводную передачу, выгрузить большую часть работы на другое устройство.

Обычно камерам приходится обрабатывать и сжимать видео перед передачей сигнала по беспроводной сети, а новый подход напрямую прикрепляет пиксели с камеры к беспроводной антенне и отправляет данные импульсно на ближайшее устройство (телефон, планшет или ПК), которое уже и занимается обработкой сигнала.

Первый прототип ограничен десятью кадрами в секунду и небольшим расстоянием, но это только начало. А практическое применение этого ноу-хау уже очевидно: можно будет носить умные очки с маленькими батареями или даже вообще обходиться без них (если, например, они будут получать энергию от радиосигналов, что тоже возможно).

Теперь представьте себе спортивное соревнование, за которым вы наблюдаете от первого лица – видите, как ударяете по мячу в финальном матче Чемпионата мира по футболу, попадаете в мишень на Олимпийских играх, вырывая тем самым победу у соперника по биатлону, мчитесь по трассе Формулы 1…

Вы всё ещё заходите толкаться в задних рядах? Что-то я сомневаюсь. Боюсь, ваш запрос будет выглядеть иначе – например: а можно всю эту радость прямо мне в мозг? Можно – к 2030 году, как обещает Курцвейл, виртуальная реальность станет неотличимой по субъективному восприятию от реальности физической.

ОЖИВШИЕ ВЕЩИ

Впрочем, прежде чем виртуальная реальность окончательно поглотит нас, мы, вероятно, ещё увидим (если, правда, заметим) мир оживших вещей.

Термин «интернет вещей» возник совсем недавно – в 1999 году – и принадлежит авторству Кевина Эштона, который являлся одним из основателей Центра Auto-ID при Массачусетском технологическом институте, где разрабатывались системы подключения объектов физического мира к беспроводным каналам связи.

Итогом этой работы учёных стал так называемый «электронный код продукта» (универсальная система идентификации потребительских товаров), впервые опробованный в логистике компании Procter&Gamble, а теперь завоевавший – в разных видах и формах – весь остальной мир.

Так что, когда вы покупаете обычное молоко в супермаркете, а кассир считывает штрих-код на его упаковке, вы, сами того не зная, принимаете участие в большой-пребольшой игре, придуманной создателем термина «интернет вещей». Впрочем, эта игра только началась.

По оценкам экспертов, мировой рынок умных городских систем к 2020 году достигнет 400 млрд долларов, а рынок интернета вещей перевалит за 0,5 трлн. В 2025 году компании будут зарабатывать на интернете вещей 14,4 трлн долларов в год.

Мусорные бачки уже сейчас способны оповещать коммунальные службы о том, что их пора вычистить, системы геолокации способны регулировать городской трафик, а эпидемиологи могут практически в реальном времени отслеживать распространение вирусов.

То есть речь идёт не просто об «умных холодильниках» и «мыслящих микроволновках»: это прежде всего инфраструктурные вещи – накопители электроэнергии, как те, что уже создали в Tesla, умные термостаты, умное освещение с датчиками, реагирующими на присутствие человека, и т. д., и т. п.

«Умные холодильники», которые сами заказывают необходимую вам еду, отслеживают состояние хранящихся в них продуктов и дают рекомендации по питанию, – уже не новость: Samsung, например, активно их продаёт.

Смартфоны тем временем обучаются распознавать запахи и вкусы: компания Adamant Technologies из Сан-Франциско предлагает технологию в пять раз более чувствительную, чем наш с вами рецепторный аппарат. Так что и свежесть продуктов, и причины запаха изо рта скоро будут определяться не гипотетически, а предметно и в реальном времени.

Впрочем, пока эти холодильники и датчики – лишь первые ласточки. Существенные изменения в качестве нашей жизни произойдут, когда накопится критическая масса таких устройств, датчиков и связанных с ними систем. Если телефон есть только у вас, толку в нём немного, но когда каждый человек постоянно держит его при себе – это другое дело.

По оценкам компании Cisco Systems, занимающейся созданием интернет-решений для бизнеса, к 2020 году количество подключённых к интернету вещей будет превышать 50 миллиардов, а ещё через паузу все 1,5 триллиона «вещей» нашего с вами мира будут объединены в одну большую сеть.

С другой стороны, инновации всегда копятся годами (прежде, впрочем, на это уходили десятилетия или даже столетия), а потом выстреливают всей своей накопленной мощью уже в совершенно другом, новом качестве.

В конечном итоге нас ждёт «интернет всего» (этот термин изобрели сотрудники той самой компании Cisco Systems) – объединение «интернета вещей» с «интернетом людей».

Пока ещё люди находятся в рамках своей цифровой зоны, лишь сообщая вещам о том, что они делают, что им важно, чего они хотят и т. д. Но скоро «вещи» будут настолько умны, что они сами выйдут с нами на контакт – они будут сами понимать, чего мы хотим, что для нас важно, и совершат все необходимые действия, чтобы мы остались довольны.

Утром, когда вы проснётесь и откроете глаза, умный дом поприветствует вас и сам раздвинет шторы, сделает тёплым пол на вашем пути в ванную, включит воду, когда вы окажетесь перед раковиной, и порадует завтраком из ваших любимых и обязательно свежих продуктов, когда вы дойдёте, наконец, до кухни. Впрочем, это только начало дня…

«Устройства станут самостоятельно общаться, у них появятся свои “социальные сети”, которые они будут использовать для обмена и накопления информации, а также автоматического управления и активации. Мало-помалу мир людей станет местом, где решения принимаются активным набором взаимодействующих устройств. Интернет станет более распространённым, но менее ощутимым, менее видимым. В некотором смысле он станет фоном для всего, что мы делаем».

ДЭВИД КЛАРК, Массачусетский технологический институт

Взбесившийся 3D-принтер

Наше будущее просто усилит то, чем мы являемся на сегодняшний день.

РЭЙ КУРЦВЕЙЛ

С 2030 года по 2040-й нас ждёт замена реального виртуальным, а из реального, кажется, останется только 3D-принтер.

Развитие технологии 3D-печати уже идёт полным ходом, а после 2030 года она, согласно прогнозам Рэя Курцвейла, совершит настоящий переворот в экономике.

Пока технология 3D-печати только ищет себя, хотя она уже неплохо справляется с созданием медицинских протезов и уверенно строит даже многоквартирные дома. Впрочем, бытовые 3D-принтеры пока на какие-то невероятные чудеса не способны.

Но, как говорится, лиха беда начало… В 20-х годах, по мнению Курцвейла, они станут для нас привычной бытовой техникой, а к 2030-ому мы, например, будем печать с их помощью одежду (интернет будет полон бесплатными моделями для печати – скачивай, печатай и одевайся).

Причём нам даже дизайнеры для создания новых моделей одежды не понадобятся – уже сейчас искусственный интеллект преуспел в разработке дизайна одежды, предметов интерьера и других вещей.

Например, компания Stitch Fix использует программное обеспечение, которое учитывает индивидуальные физические параметры человека, его предпочтения и модные тренды. Комбинируя понравившиеся клиенту варианты вырезов, рукавов и других элементов одежды, оно работает как портной модного дома – создаёт удобную и модную одежду, но, по сути, по вашему индивидуальному заказу.

Если же модные бренды ещё всё-таки сохранят свою символическую притягательность (что не факт), то защищённые авторским правом цифровые модели одежды от каких-нибудь Gucci и Dsquared мы сможем купить на специальных облачных стоках. А печатать уже, соответственно, «самопалом».

В настоящий момент 3D-печать только пробует себя на этом рынке. Хороший пример – американский стартап Feetz, который занимается производством обуви. Проводятся и первые эксперименты по печати дизайнерской одежды, и даже в России.

Конечно, это покалишь прототипы, а не отработанная технология, и удобство у этих изделий сомнительное. Но вспомните свой первый кнопочный телефон… А смартфонам ведь немногим более десяти лет.

«Вскоре большинство вещей будет результатом информационных технологий, включая одежду, которую будут печатать на 3D-принтере. С помощью вертикального сельского хозяйства мы сможем выращивать продукты и печатать их на 3D-принтере. К 2020-м годам 3D-дизайн будет настолько доступен, что жить станет намного легче, и мы сможем напечатать всё, что нам будет необходимо, включая дома. […] Наше общество построено так, чтобы для существования нужна была работа, но всё будет иначе. У нас будут способы предоставить высокие условия жизни для каждого в течение 15–20 лет».

РЭЙ КУРЦВЕЙЛ (2015 ГОД)

К 2030 году 3D-принтеры станут пищевыми, то есть с их помощью мы будем готовить продукты. Точнее – создавать и готовить.

Прототип пищевого 3D-принтера уже работает – его создали по заказу НАСА специалисты компании Systems & Materials Research Corporation. Он смешивает около 12 питательных компонентов, выдавая вполне съедобную кашицу.

И это, опять-таки, только начало, а дальше, как предполагается, будут созданы гигантские морские фермы, где станут выращивать дешёвую и питательную еду. Роль «чернил» в наших пищевых 3D-принтерах будут выполнять переработанные особым образом водоросли и морепродукты.

Если же вам всё-таки почему-то захочется настоящего мяса, то его изготовят из стволовых клеток и запихнут всё в тот же принтер.

Вам останется только выбрать на экране компьютера блюдо, которое вы хотите, и это устройство само всё сделает – милости просим, приятного аппетита!

Всё это счастье ожидается до 2030 года, а то, что произойдёт после, – и вовсе за гранью фантастики. По прогнозам Курцвейла, в 2031 году 3D-принтеры будут стоять во всех больницах, а печатать на них будут не только лекарства и инструменты, но и человеческие органы для пересадки.

Вкупе с медицинскими нанороботами это, по идее, должно решить все возможные медицинские проблемы.

СВЕРХЧЕЛОВЕК

Работы по созданию сверхчеловека идут полным ходом.

Мы привыкли думать, что эволюция – это такая дряхлая, медлительная тётенька, которая никак не может перейти дорогу. Мол, мутации – это дело случая, а если какие-то скачки и происходят, то лишь по причине глобальных экологических катастроф.

Но современные технологии в области медицины, биологии, генной инженерии и электроники – стрит-рейсеры. Они рассекают по дорогам мирозданья, плюя на правила, и уже давно сбили Тортиллу биологической эволюции аккурат на том самом пешеходном переходе.

Давайте взглянем в лицо фактам: за двести тысяч лет существования человека на этой грешной земле его средняя продолжительность жизни выросла примерно в два раза. Это, конечно, большой рывок. Но только за последние сто лет она выросла ещё в два раза. Сравните: 200 000 и 100.

Согласитесь что-то явно пошло не так. И продолжает идти. Причём возраст – это только один из показателей. Есть ещё рост, вес, патоморфоз болезней, уровень /О…

Тот путь, по которому развивается современное человечество, одни учёные гордо называют «геннокультурной эволюцией» (Кевин Лаланд), другие – «технико-физиологической эволюцией» (Роберт Фогель), третьи – уже без особого энтузиазма – эволюцией «метабиологической» (Джонас Солк). И, пожалуйста, не думайте, что это бред. Пусть само по себе это ничего и не значит, но Фогель и Солк – это всё-таки нобелевские лауреаты.

Мы радикально недооцениваем то воздействие, которое цивилизация оказывает на наш биологический вид. В руках человечества теперь невероятный потенциал реконструкции нашей с вами базовой биологической матрицы. И возможности, которые здесь открываются, практически безграничны.

После того как Крейг Вентер синтезировал в 2010 году первую в мире искусственную бактерию, а проще говоря – искусственную жизнь, трудно представить, что хоть кто-то всю эту вакханалию сможет остановить. «Синтетическая биология» уже обещает нам возможность полного клонирования нашей ДНК с целью её последующего ремонта.

И американский Конгресс может сколь угодно торжественно запрещать клонирование и работу со стволовыми клетками, но в чём смысл? Учёные просто переезжают в Китай, Израиль, Японию, Австралию или Сингапур, где их ждут с распростёртыми объятиями и новейшими лабораториями.

С 2030 по 2037 год, во многом благодаря тем же нанороботам, произойдёт фундаментальный прорыв в понимании принципов работы человеческого мозга, а это открывает путь и к цифровому бессмертию, к слиянию нас с суперкомпьютерами и… к полной новых впечатлений сексуальной жизни.

Первое свидание с человекоподобным искусственным интеллектом, по заверениям Курцвейла, ждёт нас уже в 2034 году. Причём свидание в прямом смысле этого слова…

СЕКСУАЛЬНЫЕ ПЕРСПЕКТИВЫ

Всеобщее сексуальное счастье не за горами. Причём каждый сможет встречаться с идеальным партнёром желаемого пола, возраста, внешности, ума, эмоционального склада, темперамента.

Немножко он, конечно, будет искусственным, но вы этого не заметите – вас ждёт удовлетворение любых сексуальных фантазий, о которых вы могли только мечтать.

Речь не идёт о забавах с секс-куклой, оснащённой интеллектуальной начинкой, поскольку они и сейчас уже доступны практически в полном объёме, и есть даже специальные бордели, которые предоставляют соответствующие услуги.

Порноиндустрия всегда в авангарде любой технологии. Сообразительные японцы, например, создали уже полноценный «симулятор секса». Он состоит из шлема виртуальной реальности Oculus Rift, специального облегающего костюма, который стимулирует все необходимые части тела, а также искусственной женской груди с обратной связью и навороченного мастурбатора от компании Tenga.

Комплекты первой партии, которые продавались по 400 долларов за штуку, разошлись тут же влёт. Конкретно в данной имитации мужчина становится участником популярной эротической игры SexyBeach, но с учётом того, что порностудии уже активно предлагают виар-видео, то от игры, я думаю, можно легко перейти и к «реальным» персонажам.

Хотя японцам, возможно, секс с героями манги даже интереснее, чем с порнозвёздами. В конце концов, как ещё вы сможете заняться абсолютно реалистичным сексом с мультяшным персонажем?

Да, это новая сексуальная реальность. Поэтому не стоит удивляться, что авторитетный научный журнал Sexual and Relationship Therapy уже опубликовал исследование, обосновывающее введение в номенклатуру новой сексуальной ориентации (идентичности) – цифросексуалы.

Цифросексуалами теперь принято называть людей, которые нуждаются в сексуальном взаимодействии посредством цифровых технологий и не испытывают желания заниматься «обычным» сексом с «живыми людьми». Ввести этот термин сексологов заставило распространение так называемых иммерсивных технологий, обеспечивающих полный эффект присутствия.

Один из авторов этой публикации – доцент Манитобского университета в Канаде Нил Макартур – говорит, что цифросексуалов отличают самые разнообразные специфические сексуальные предпочтения – от непосредственного взаимодействия с роботами (например, с помощью секс-ботов или оснащённых искусственным интеллектом секс-игрушек) до виртуального порно и полного погружения в различные виртуальные среды.

Цифросексуалы часто становятся завсегдатаями специализированных многопользовательских онлайн-игр. Суть проста: вы находите себе пару для «развлечения и досуга», можете вместе походить по виртуальным улицам, барам, клубам, ресторанам, снять номер в гостинице или в специальных местах, оборудованных всем необходимым для специфических сексуальных утех.

Но если цифросексуалу другие реальные пользователи, скрывающиеся за аватарами, не интересны, то можно сойтись просто с роботом. Уже существующие на рынке прототипы секс-роботов неплохо движутся, общаются и, как говорят, очень похожи на людей на ощупь. Специалист в сфере новых технологий из Китая Чжэн Цзяцзя даже, как сообщалось в СМИ, якобы даже женился на созданном им же роботе-женщине Ин-Ин.

Всё это звучит предельно странно, я понимаю. Но, может, это только пока? Журнал BMJ Sexual & Reproductive Health, в свою очередь, опубликовал британское исследование, согласно которому 40 % мужчин готовы купить себе секс-бота в ближайшие пять лет, а 49 % мужчин готовы вступить в отношения с «сверхреалистичной» секс-куклой.

Соответствующий бизнес активно развивается. Четыре ведущие в индустрии секс-технологий компании, чья суммарная стоимость оценивается сейчас в 30 миллиардов долларов, продают, прошу прощения за подробности, «реалистичные манекены с переменным возрастом, внешностью и текстурой и настраиваемыми оральными, вагинальными и анальными отверстиями». Стоимость таких секс-роботов достигает 17 тысяч долларов за штуку.

Известный британский футуролог Йен Пирсон уверен, что мы все потихоньку начнём менять «живых» сексуальных партнёров на искусственных уже в течение ближайшего десятилетия. Дело в комфорте и удовольствии: механические машины получат почти совершенный искусственный интеллект, готовый предложить человеку «настраиваемую личность с тем эмоциональным багажом, который он хочет», а потому, говорит Пирсон, секс с роботом «станет проще, безопаснее, чаще и гораздо приятнее».

Прототип такой куклы недавно показали в документальном фильме The Virtual Reality Virgin («Девственница виртуальной реальности») на британском телеканале ВВС Three.

Производитель этой секс-игрушки – Мэтт Макмаллен, фирма которого работает над созданием роботов и программ, помогающих человеку заняться идеальным сексом в виртуальной реальности, – живописует достоинства своего продукта: «Клиент сможет создать из куклы такую личность, какую только пожелает: если захочет, чтобы она была умной, – она будет, не захочет – не будет, если захочет, чтобы она была застенчивой, – кукла будет стесняться». Кроме того, в виртуальной реальности с такой «идеальной девушкой» можно отправиться куда угодно – оказаться, например, в альпийском шале или на берегу океана, или же выбрать что-то более экстремальное.

В фильме есть забавный эпизод, когда ведущий спрашивает виртуальную девушку через специальное приложение: не хочет ли она заняться с ним сексом? Подумав, искусственно-интеллектуальная девушка отвечает: «С удовольствием занялась бы, но пока не могу – я ещё официально не зарегистрирована на владельца. Но я очень люблю трахаться и готова сделать для своего любимого всё что угодно!»

Йен Пирсон считает, что подобные забавы станут в скором будущем не менее распространёнными, чем сейчас обычное порно: к 2030 году тот или иной опыт цифрового секса будет иметь почти каждый половозрелый житель земли, а к 2035-ому, как он говорит, подобные «умные» секс-игрушки обоснуются в большинстве домов.

«Многим втайне нравится идея каким-то образом освободиться от того стесняющего обстоятельства, что для достижения высшей точки сексуального возбуждения требуется другой человек. Но им не стоит обольщаться: последнее слово эротической техники всё ещё выглядит очень неказисто. […] Секс-робот будущего вполне может быть реализован в виде облегающего костюма со встроенными в него голубыми светодиодами, обращёнными внутрь. […] Вместо того чтобы задействовать органы чувств естественным путём, как это делал бы секс-робот, нейронная виртуальная реальность будет симулировать этот опыт путём искусственной активации нервных клеток».

ДЭВИД ЛИНДЕН, профессор нейробиологии Университета Джона Хопкинса

Впрочем, согласно прогнозам Курцвейла, к 2038 году мы в принципе будем жить в мире роботизированных людей и сами превратимся в «продукты трансгуманистичных технологий».

Это значит, что вы, ваши друзья и знакомые будут, может быть, оборудованы дополнительным интеллектом – например, ориентированным на конкретную узкую сферу знаний.

Уже сейчас количество информации таково, что ни один профессионал не может знать всего даже в рамках какой-то своей узкой специализации. Это очень показательно, если смотреть на современное состояние медицины.

Если в начале прошлого века врач лечил любую патологию, с которой к нему обращались, то по мере развития медицинской науки оформились отдельные врачебные специальности – кардиолог, пульмонолог, травматолог, невролог, психиатр, абдоминальный хирург и т. д.

В настоящий момент научной информации по каждому отдельному заболеванию столько, что ни один врач не может даже одну болезнь знать досконально. Как тут обеспечишь комплексный подход к пациенту? Приходит на приём не болезнь, а человек целиком.

Получается, что развитие медицины естественным, хотя и парадоксальным образом приводит к снижению качества медицинской помощи: врач, запертый в узких рамках своей специализации, всё больше напоминает слепого мудреца из старой притчи про слона – лечит не то, что надо конкретному пациенту, а то, в чём он разбирается.

Но если соединить мозг человека с цифровым облаком, в котором собран весь объём необходимых данных, и научить его этой базой знаний пользоваться, то уровень компетенции специалиста, конечно, существенно улучшится. Звучит как фантастика, но когда-то и мобильная связь казалась нам чем-то совершенно невозможным и удивительным.

А НУЖЕН ЛИ ВООБЩЕ ДОКТОР?

С другой стороны, я не очень понимаю, зачем нам вообще апгрейдить человека, если можно и вовсе избавить его от этой утомительной необходимости – учиться, работать, стараться что-то делать? Почему бы просто не убрать его оттуда, где он может быть опасен по причине ограниченности своих возможностей?

И правда, в другой версии будущего максимальной нейтрализации подлежит всякий «человеческий фактор» – не только на транспорте (как я уже рассказывал), но и в той же медицине, например.

По данным корпорации RAND, которая занимается системными исследованиями в этой области, лишь 55 % взрослых пациентов американских медицинских центров получают надлежащую терапию. А это значит, что оставшиеся 45 % прямо или косвенно страдают от врачебных ошибок и некачественно оказанной медицинской помощи.

Разумеется, это бардак, а врачебные ошибки нам не нужны совершенно. Поэтому если люди-врачи уже не справляются с накопленным наукой объёмом знаний, то почему бы их не отстранить от дел вовсе?.. И это время очень близко!

Вероятно, вы знаете телепрограмму для умников «Своя игра», но это знаменитая международная франшиза – калька с американского формата «Jeopardy!». В ней у нас побеждали Александр Друзь, Борис Бурда, Анатолий Вассерман. Все как один – интеллектуальные глыбы.

Но с 2011 года любой интеллектуал и эрудит проигрывает в этой игре суперкомпьютеру IBM Watson. Watson не просто знает все ответы (имея свободный доступ к объёмным базам данных, это, наверное, и не слишком сложно), он научился понимать вопросы – различать подтекст, метафору, языковую игру и т. д. Прежде всё казалось невозможным.

Действительно, особенность «Своей игры» («Jeopardy!») в том, что вопросы к участникам формулируются хитро и двусмысленно.

Вот, например, вас спрашивают: «Самопроизвольно закипает и без внешних причин охлаждается, хорошо взаимодействует с металлами одиннадцатой группы таблицы Менделеева, помогает снять стресс и является эффективным чистящим и моющим средством. Что за создание описано в одном журнале?»

Даже человеку непросто догадаться, что это «создание» – женщина. Меня, например, на этот ответ может навести только тот факт, что к металлам одиннадцатой группы относятся золото и серебро. Но как до этого додумывается IBM Watson, непонятно категорически – причём ни нам смертным, ни даже её создателю – Дэвиду Ферруччи.

Машина – IBM Watson – просто бьёт вопрос на отдельные элементы, затем обращается к огромной базе данных, получает некие комбинации фактов и сопоставляет одни с другими. Когда же она получает необходимое совпадение – бинго! – жмёт на виртуальную кнопку, а её соперники-люди оказываются посрамлены.

Уже тогда – в далёком 2011 году – мозг Watson’a представлял собой параллельную вычислительную систему, состоящую из девяноста серверов IBM Power 750. Система была способна анализировать 500 гигабайт информации в секунду, или, если перевести на человеческий язык, анализировала примерно 3,6 миллиарда книг в час.

Представьте, какой апгрейд она пережила к настоящему моменту… Тем более что участие IBM Watson в «Jeopardy!» было лишь тренировкой и хорошим рекламным трюком.

На самом деле Watson создан, конечно, не для игр. Он призван полностью заменить врачей и уже неплохо с этой задачей справляется[5]. В конце концов, что такое набор симптомов, которые демонстрирует больной на приёме у врача, как не такой вот каверзный вопрос с набором двусмысленностей?

Как врач скажу, что именно такую задачу и решает ваш доктор, когда изучает кипу анализов и расспрашивает вас о симптомах болезни.

Действительно, ты сначала бьёшь множество фактов на отдельные кластеры, сверяешь их со своим медицинским багажом, получаешь какие-то отдельные вероятностные ответы, уточняешь что-то, чтобы проверить свою гипотезу, а затем смотришь, какое совпадение фактов наилучшим образом укладывается в логику того или иного заболевания.

Только теперь давайте хотя бы гипотетически сравним «багаж медицинских фактов», которые могут находиться в голове одного, пусть даже гениального доктора, с теми базами данных по медицине, экологии, эпидемиологии, фармакологии и т. д., которыми может обладать наш новый добрый доктор Watson… Думаю, даже сравнивать бессмысленно – Watson выигрывает с разгромным счётом!

Да, это поначалу пугает: как – отдать человека и его здоровье на откуп бесчувственной машине?! Но ежегодные инвестиции в обучение Watson’a врачебному искусству исчисляются сейчас миллиардами долларов, и я не преувеличиваю. Так что это просто дело времени. Скоро он будет щёлкать болезни как орехи.

Теперь заглянем ещё чуть-чуть подальше в будущее и представим себе капсулу: вы в неё залезаете, она вас сканирует, делает расчёт с учётом всех существующих на данный момент медицинских знаний и, даже минуя фазу диагноза, выдаёт вам индивидуальное лекарство, учитывающее все особенности вашего организма (включая аллергический статус, например, или непереносимость лактозы). Ни один врач на это не способен и никогда способен не будет. Тогда зачем он вообще нужен? Все в сад, товарищи!

Впрочем, про капсулу я немножко подзагнул – ну хочется хоть чуть-чуть медицинской техники, по старой врачебной памяти! На самом деле капсулу, видимо, заменит обычный смартфон, который будет общаться напрямую с облаком, где заживёт в скором времени тот самый Большой Доктор Watson.

Вы спросите: а как же анализы? Это ещё одна технологическая штука из области научной фантастики, которая, впрочем, уже сейчас в стадии реализации и массового внедрения.

Компания Tribogenics, например, придумала замену рентгеновскому аппарату на основе липкой ленты – я не шучу, что-то именно наподобие липкой ленты из хозтоваров и используют! Универсальной диагностической лабораторией крови скоро станет гидротропный полимер, разработанный Джорджем Уайтсайдсом. Кстати, его можно будет напечатать на обычном к тому времени домашнем 3D-принтере.

Или вот, например, компания Nanobiosym доктора Аниты Гоэл (Анита пока ещё человек) создала «Лабораторию на чипе». Звучит очень помпезно, не правда ли? В действительности это нехитрая нанотехнологическая платформа, которая по капле вашей слюны или крови определяет ДНК- или РНК-следы любого патогена. Уже сейчас эта технология позволяет за 15 минут по одной-единственной капле крови провести тестирование на ВИЧ. А стоит это удовольствие – закон Мура-Курцвейла! – меньше одного доллара.

Как вы уже, наверное, догадываетесь, все эти анализы, которые вы самостоятельно сможете провести у себя дома, будут автоматически отправлены вашим гаджетом облачному доктору Watson’y-Потом необходимые вам лекарства напечатает, надо полагать, тот же 3D-принтер. И всё, клиники по всему миру можно смело закрывать…

Ещё, правда, осталась хирургия, которую мы здесь не обсудили… Но я пожалею ваше воображение, поскольку даже для меня это уже чересчур. Если же вам всё-таки интересно и не терпится заглянуть в будущее хирургии – погуглите Da Vinci Surgical System. Завораживает, что эта хирургическая система уже делает, и самое главное – чем, как планируется, она будет заниматься в самом ближайшем будущем[6].

Сейчас, когда врач, например, проводит лапароскопическую операцию, он следит за действиями специальных манипуляторов, находящихся в организме пациента, через экран монитора. А теперь представьте, что он будет «находиться» прямо внутри вашего организма – пусть и виртуально, но с абсолютной достоверностью. Через паузу, впрочем, и самого хирурга уже не потребуется…

«В будущем – через 10~15 лет – мы сможем определять рак по анализу крови, мочи или по дыханию, а определив, удалять опухоль с помощью роботов. Робот найдёт крошечное раковое повреждение, введёт иглу и уничтожит его – точно так же, как мы сейчас уничтожаем злокачественную родинку».

КЭТРИН МОР, руководитель медицинских исследований l Intuitive Surgical

К 2039 году, по заверениям Курцвейла, наномашины будут имплантироваться непосредственно в человеческий мозг, что позволит нам осуществлять произвольный ввод и вывод сигналов из клеток мозга.

В частности, это позволит нам оказываться в виртуальной реальности с эффектом «полного погружения» без всякого дополнительного оборудования, не считая, разумеется, тех самых нанороботов.

Наконец, в 2040 году поисковые системы, говорит Курцвейл, станут основой для гаджетов, непосредственно вживлённых в человеческий организм. То есть поиск по информационным массивам мы будем осуществлять уже как бы подсознательно, даже без голосовых команд: вы просто задумались о чём-то, сами того не осознавая, а на экране специальных глазных линз уже прокручивается вся необходимая вам информация.

Возможно, ещё более шокирующим и противоестественным выглядит прогноз Рэя Курцвейла, согласно которому наши возможности будут расширены не только за счёт прямого доступа к облакам данных, но и посредством разнообразных имплантов – от глаз-камер до дополнительных рук-протезов.

Соответствующие технологии уже активно разрабатываются во множестве научных лабораторий по всему миру. Нейроинтерфейс iBrain, позволяющий мысленно управлять механической рукой или компьютером, как вы, наверное, знаете, активно тестировал на себе Стивен Хокинг.

Искусственной рукой i-LIMB Pulse, которая позволяет полностью воспроизвести нашу мелкую моторику, пользуется уже более пятнадцати тысяч человек. 200 тысяч человек вернули себе слух благодаря электронным имплантатам. Около тысячи пациентов живут с полностью искусственным сердцем Total Artificial Heart.

А, например, компания EnChroma создала очки, которые позволяют людям, страдающим дальтонизмом и ахроматопсией, раскрашивать мир не только в правильные цвета, но и вообще видеть цвет – то есть перейти от чёрно-белого зрения к цветному.

Сейчас все эти технологии, конечно, очень дороги, но IBM прогнозирует, что начиная с 2022 года подобные увеличивающие возможности человека инструменты будут находиться в серийном производстве.

Так что, учитывая весь этот «трансгуманистический» апгрейд, секс с роботами для таких киборгов, какими мы будем к концу 30-х годов, уже даже сложно будет назвать извращением.

ВОСКРЕШЕНИЕ ПО ЛАЙТУ

Ещё одна из загадочных инициатив Рэя Курцвейла – это воскрешение покойников. Не знаю, как лично вы к этому относитесь, но Курцвейл настроен весьма решительно. Вот как он рассуждает…

Во-первых, каждый из нас оставляет в сети колоссальное количество информации – до 1,5 ГБ в сутки. Это и правда очень много. Особенно если вспомнить, каких результатов удалось добиться исследователю Кембриджской лаборатории психометрии Михалу Косинскому, в чьём распоряжении были лишь единичные пользовательские лайки.

Итак, мы оставляем немыслимое количество информации в сети и в какой-то момент умираем (пока это так). Родственники опечалены – все в трауре, страдают и мучаются. Так почему бы не вернуть им нас (пусть и в каком-то урезанном, так сказать, виде)?

Да, план такой: обучить бота быть воскрешённым из мёртвых покойником, который способен общаться со своими родственниками, а возможно, даже и развиваться с учётом того, что происходит в осиротевшем семействе.

Немного шокирует, правда? Но Курцвейл идёт в своих фантазиях куда дальше! Ваши безвременно умершие родственники наследили не только в Сети, но и в вашем собственном мозгу – как бы иначе вы о них тосковали? Так вот, Курцвейл обещает нанороботов, которые смогут считывать воспоминания, хранящиеся в ваших нейронных связях.

Собрав эти воспоминания об умершем непосредственно из вашего мозга, они отправят их в цифровое облако (новое, простите, Царствие Небесное). Там эта информация будет переработана, что позволит воссоздать мертвеца не только по данным из Сети, но и соответствующего вашему собственному ощущению. Отличить подделку от натурального человека в таком случае будет уже невозможно.

Думаю, что подобное воскрешение кажется кому-то странной причудой, болезненной фантазией. Но, опираясь на свой психотерапевтический опыт (а мне много пришлось работать именно с пациентами, переживающими потерю близких), должен вам сказать, что услуга «воскрешения», предлагаемая Рэем Курцвейлом, несмотря на свою «нетипичность», вполне может найти коммерческое применение.

Кстати, как именно это может выглядеть, рассказывает сериал «Чёрное зеркало»: этой фантазии посвящена отдельная серия второго сезона – «Я скоро вернусь». Молодой человек погибает в автокатастрофе, его девушка решается заказать сначала его виртуальную версию, а потом, чувствуя его живым и настоящим, – в физическом исполнении.

Дальше в страшной фантазии автора сериала Чарли Брукера всё идёт немножко не по плану, и не без драматизма. Но, в конце концов, сериал-то сделан для нас и наших современников, а как люди будут реагировать на подобные предложения лет через двадцать – предсказать сложно.

Так, например (и это уже не фантазия и не далёкое будущее), в 2018 году шведская IT-компания, работающая в сотрудничестве с сетью стокгольмских похоронных бюро «Феникс», сообщила о скором появлении продукта, который позволит нам общаться с цифровыми копиями наших покойных друзей и родственников.

На первом этапе у ещё живых ещё добровольцев записываются голоса, а после их смерти специальный бот обучается поддерживать с вами беседу от их имени. Новое кино вы, я полагаю, вряд ли сможете с ним обсудить, но вот поболтать о домашних делах – вполне.

Следующий этап – это создание визуальной копии мертвеца. Этим также активно занимаются: южно-корейская компания Elrois уже создала мобильное приложение (With Me), с помощью которого вы можете пообщаться с 3D-аватаром друга и даже сделать с ним совместное селфи. Жив этот друг или мёртв, для данного приложения, как вы понимаете, значения не имеет.

В общем, шаг за шагом, и, вполне вероятно, мёртвые вернутся к нам…

Смерть – это, как вы уже, наверное, поняли, панический кошмар гениального изобретателя. Курцвейл называет её «великим похитителем отношений, знаний и смысла», и кажется, всё, что он делает, служит этой – одной-единственной цели – обрести бессмертие.

«Если вы будете хорошо себя чувствовать до 2030 года, вы вполне сможете жить так долго, как вам захочется», – обещает Рэй Курцвейл, которого то ли в шутку, то ли всерьёз называют не только «пророком техноконца», но ещё и «гением техноспасения».

Совместно со знаменитым американским врачом Терри Гроссманом он даже создал компанию, которая предлагает своим состоятельным клиентам продлевать жизнь за счёт нормализации рациона питания, режима дня и внедрения различных технологических новинок.

Рацион самого Курцвейла включает в себя около двухсот пищевых добавок в сутки. А годовая порция этого «здоровья» стоит в районе миллиона долларов[7].

Цель Курцвейла проста – дожить до технологического бессмертия. По его расчётам, остаётся ещё пару десятилетий, может, чуть больше, а Рэю пошёл уже восьмой десяток… Нужно как-то смочь дотянуть.

Пока главные надежды на существенное продление жизни возлагаются на терапию стволовыми клетками, генную инженерию, 3D-печать органов и другие медицинские процедуры.

Но Курцвейл смотрит дальше, его интересует подлинное бессмертие, а тут без загрузки сознания на цифровые носители – никак.

Солнечная система, в любом случае, в какой-то момент погибнет, а в физических телах покинуть её пределы крайне сложно. Но будучи простым цифровым кодом – вполне.

Энтузиазм Рэя Курцвейла поддерживают и некоторые отечественные учёные, которые создали «Стратегическое общественное движение “Россия-2045”». Как следует из названия, основатель этой инициативы Дмитрий Ицков и его соратники всерьёз рассчитывают, что технологическая сингулярность ждёт нас к 2045 году.

Главный проект этого общественного движения называется «Аватар», и будет он реализовываться в четыре этапа.

«Аватар А» планируется создать уже к 2020 году. Это будет искусственное тело человека, которое может дистанционно управляться через «мозг-компьютер». В рамках этого этапа планируется создать усовершенствованные протезы органов тела человека и органов чувств, экзоскелеты различных функций и новые человеко-компьютерные языки.

Для «Аватара Б» срок установлен до 2025 года. Тут суть в том, что учёные создадут искусственное тело, в которое можно будет произвести трансплантацию мозга человека, биологический организм которого уже израсходовал свой ресурс – в общем, перед смертью. Что делать со старением самого мозга, пока непонятно, но это дело, как считается, наживное – омолодят.

Кроме того, в планах также «Аватар В», где в искусственное тело будет перенесена «нематериальная структура сознания» (что бы это ни значило…). Предполагается, что это возможно благодаря «обратному конструированию» мозга. Ждём новинку к 2030–2035 годам.

Наконец, аккурат к технологической сингулярности должен появиться «Аватар Г» – тело из нанороботов и тело-голограмма. Звучит как абсолютное безумие, но о том же говорит и Рэй Курцвейл: этот его прогноз и изображение тела, созданного из облака нанороботов, уже попали на обложку «Time».

Комиссия по борьбе с лженаукой РАН, впрочем, обеспокоилась – мол, что-то всё это странно с этим «Аватаром», надо бы проверить. И вроде бы даже проверили, причём с участием Курчатовского института и Министерства образования, и вроде бы даже признали «общественную полезность». Что бы это ни значило…

СПРАВОЧНО

Искусственный интеллект (ИИ) обычно подразделяют на «слабый», «сильный» и «сверхсильный».

Слабый (или ещё – узконаправленный) искусственный интеллект (УИИ) – это программа, которая решает какую-то конкретную задачу в определённой области. Например, компьютерная система DeepBlue, которая обыграла в своё время Гарри Каспарова, – это УИИ.

Сильный (или ещё – общий) искусственный интеллект (ОИИ) – это уже искусственный интеллект, сопоставимый с интеллектом человека. То есть речь идёт о машине, которая способна выполнять любое интеллектуальное действие, присущее человеку. Такой пока, впрочем, не создан.

Сверхсильный (или ещё сверхинтеллект) искусственный интеллект (ИСИ) – это, как говорит, например, оксфордский процессор Ник Востром, «интеллект, который гораздо умнее лучших человеческих умов в практически любой сфере, включая научное творчество, общую мудрость и социальные навыки».

Понятно, что, если ИСИ когда-либо будет создан, это изменит абсолютно всё

Навстречу сингулярности

Мы сольёмся с искусственным неокортексом в облаке. Мы станем умнее. Я не считаю, что ИИ нас заменит, – он нас усилит. И это уже происходит.

РЭЙ КУРЦВЕЙЛ

2040–2045-й годы – наша с вами последняя пятилетка. После ни мы сами, ни наш мир уже никогда не будем прежними. По Курцвейлу, мы войдём в область так называемой «технологической сингулярности».

Если совсем просто, то это значит буквально следующее: к 2045 году небиологический интеллект превзойдёт наш (то есть биологический) в миллиарды раз, станет всё быстрее и быстрее совершенствовать сам себя, достигнув в результате совершенно непредставимых с нашими интеллектуальными возможностями высот.

Математическое понятие «сингулярности» в отношении прогнозирования будущего впервые применил ещё великий Джон фон Нейман. Действительно, как ты этот прогресс ни считай, неизбежно приходишь к точке, где функция начинает вести себя настолько парадоксально, что все дальнейшие прогнозы становятся просто бессмысленными – одна сплошная абракадабра. Грань, так сказать, математического понимания.

Причём в физике ситуация аналогичная. Физическая сингулярность – это тоже расчётная точка, в которой достигаются некая бесконечная плотность и температура вещества, объём которого при этом стремится к нулю. Представить себе это абсолютно невозможно – за гранью человеческого понимания. Образно говоря, добегая до сингулярности, вселенная сворачивается в дырку и становится неразличимой – что-то вроде того…

Звучит всё это немного странно – не находите? Да. Поэтому всякий раз, когда вы слышите в определении футурологов это ласкающее слух словосочетание – «технологическая сингулярность», – не умиляйтесь его ложной красотой. Оно означает, что наше с вами будущее парадоксально, непрогнозируемо, неконтролируемо и непредставимо. Уже не так трогательно, правда?

Первым, кто перевёл всё это безобразие на человеческий язык, был профессор математики и культовый писатель-фантаст Вернор Виндж. В 1993 году на симпозиуме VISION-21 Центра космических исследований NASA им. Льюиса и Аэрокосмического института Огайо он прочёл доклад «Технологическая сингулярность».

Суть его выступления сводилась к следующему: мы на грани перемен, сравнимых с появлением человека на Земле, – развитие техники неизбежно приведёт нас к созданию сверхмощного искусственного интеллекта, обладающего собственной сущностью, или, если угодно, специфическим разумом. За этим последует конец человечества, по крайней мере в том виде, в котором мы его знаем.

«Определим сверхразумную машину как машину, которая способна значительно превзойти все интеллектуальные действия любого человека, как бы умён тот ни был. Поскольку способность разработать такую машину также является одним из этих интеллектуальных действий, сверхразумная машина может построить ещё более совершенные машины.

За этим, несомненно, последует “интеллектуальный взрыв ”, и разум человека намного отстанет от искусственного. И вероятность того, что в двадцатом веке сверхразумная машина будет построена и станет последним изобретением, которое совершит человек, выше, чем вероятность того, что этого не случится».

ИРВИНГ ДЖОН ГУД, математик и криптограф

Впрочем, это «светлое будущее» нам предрекал ещё соратник Алана Тьюринга по расшифровке фашистской «Энигмы» в Беркли-Парке Ирвинг Джон Гуд. Он считал, что вероятность того, что это случится в XX веке, даже больше, чем в XXI, но в своём прогнозе ошибся.

Курцвейл, как мы знаем, прогнозирует Пришествие Сингулярности в 2045 году. Но по прогнозам Винджа, это должно случиться уже к 2030 году, и он в этом совсем не одинок.

Стюарт Армстронг из Института будущего человечества и Кай Сотала из Института исследований машинного интеллекта провели в 2012 году опрос участников Саммита Сингулярности и выяснили, что среднее медианное значение, если учесть мнение всех экспертов из этой выборки, составляет 2040 год. То есть, как бы там ни было, большинство читателей моей книги, включая меня самого, имеют все шансы до этого момента дожить.

Что же нам от этой радости ждать?.. Проблема, как вы уже, наверное, понимаете, в том, что ответа на этот вопрос нет. Есть абсурдная абракадабра.

Самое важное, что этот сверхразумный интеллект будет полностью самопрограммироваться – то есть самостоятельно ставить себе цели и решать любые задачи. Это

кажется абсолютной фантастикой: думаю, что примерно такой же, какой бы выглядел в глазах муравья наш с вами мир, если бы он мог охватить его своим взором.

Муравей появился на этой планете где-то 140 миллионов лет назад – не такой уж и большой для эволюции срок, – но никогда муравью не понять нашего мира. Стоит ли удивляться, что мы скоро не сможем понять мир, который будет создан как бы поверх нас? Я бы не стал.

Для нас 2045 год будет, по Курцвейлу, последним: произойдёт полное слияние нашего мозга с искусственным неокортексом в облаке. Собственно, этот момент и называют той самой «технологической сингулярностью», к которой вроде как всё идёт. Впрочем, всё идёт, но не всё так однозначно…

«Земля, – говорит Курцвейл, – превратится в один гигантский компьютер», а к 2099 году «процесс технологической сингулярности распространяется на всю Вселенную».

СПРАВОЧНО

В 60-х годах прошлого века Хайнц фон Ферстер и Иосиф Шкловский пришли к выводу: в 2030 году нас ждёт «демографическая сингулярность», когда кривая роста населения Земли «встанет на дыбы».

В 1993 году отечественный историк-востоковед Игорь Михайлович Дьяконов, изучая глобальные исторические процессы, ввёл понятие «исторической сингулярности».

Впоследствии его выводы развил Сергей Петрович Капица: он показал, что когда население Земли достигнет 9 миллиардов человек, то вне зависимости от причинных факторов произойдёт неизбежный переход человечества на новый уровень его организации.

В 1996 году австралийский учёный-эволюционист Грэм Дональд Снуке сформулировал аналогичный закон для эволюции биосферы – «эволюционной сингулярности», которая тоже «ускоряется с ускорением».

Наконец, с 2001 года термин «технологическая сингулярность» в общественном сознании стал ассоциироваться с именем Рэя Курцвейла.

В теоретической физике сингулярностью называют область максимального сгущения материи под действием гравитационных сил – те самые бесконечные плотность и температура вещества в минимальном объёме.

Космическая чёрная дыра, представляющая собой эту самую сингулярность, находится за горизонтом событий – то есть никакая информация не может покинуть этой области и вырывается наружу, а все известные физике законы перестают там работать.

«Технологическая сингулярность» – это состояние техники, когда она перестаёт быть нашим подручным инструментом, а мы лишаемся всякой возможности управлять ею. Она как бы берёт управление нашим и не нашим и вообще всем бытием на себя.

В каком-то смысле она сама становится своего рода новым бытием, полностью преображая собой реальность, включая, понятное дело, и нас самих.

Таким образом, слияние человека с искусственным интеллектом, о котором так часто талдычат, – это, вообще-то, вопрос частного характера, незначительный побочный эффект. Ну да, мы сольёмся с большим и всесильным Расчётным Разумом. Но правильнее было бы говорить, что он просто поглотит нас.

Причём сам Курцвейл, как мне кажется, вовсе этого не скрывает, высказывается прямо и открыто, вовсе не пытаясь сгладить углы.

«Сингулярность – это не просто появление мыслящих машин в 20-х годах XXI века. Это станет лишь началом революции, когда мощность этих машин продолжит экспоненциально расти, и они станут сами себя перепрограммировать, чтобы сделаться ещё умнее.

В 2045 году интеллект машин вырастет в миллиарды раз по сравнению с совокупным интеллектом всех людей – это и будет горизонтом событий, потому что наш разум не в состоянии представить себе поведение сознания, которое настолько его превышает.

В любом случае нам придётся измениться, чтобы соответствовать машинам, возможно, усилив за их счёт наш собственный интеллект».

РЭЙ КУРЦВЕЙЛ

Мы настолько зациклены на важности и значительности человеческой самости, которая, по правде сказать, в масштабах Вселенной полный ноль, что буквально не можем услышать этих простых и, по-моему, предельно понятных слов: «Наш разум не в состоянии представить себе поведение сознания, которое настолько его превышает», «нам придётся измениться, чтобы соответствовать машинам».

Но каким должно быть это наше «изменение»? Ответа на это нет, а мы не особенно и задумываемся. Так что Курцвейл, зная про нашу глупость, самодовольство и ограниченность, говорит об этом прямо – совершенно не опасаясь панической реакции на свои слова.

По сути же они, конечно, являются приговором не только миру, к которому мы так привязаны, но и нам самим (по крайней мере, в том виде, в котором мы себя знаем, и в качестве того вида – Homo sapiens, – которым мы пока являемся).

БОГ В ЦИФРЕ

В пятом сезоне весьма ироничного комедийного сериала «Силиконовая долина»[8], который тонко обыгрывает внутреннюю жизнь IT-индустрии, один из главных персонажей – самый чудаковатый из всех чудиков – Бертрам Гилфойл ни с того ни с сего оказывается вдруг последователем некой цифровой церкви.

А если нечто стало предметом шуток на НВО, то дело действительно серьёзное.

Цифровая церковь – это уже не миф. Она реально существует, причём с 2015 года и основана в той самой Силиконовой долине. Церковь, провозглашённая Энтони Левандовским – бывшим инженером Google и Uber, – проповедует веру под названием «Путь будущего» (Way of the Future).

Да, Бога, согласно Левандовски, ещё нет, но Он сейчас рождается.

При желании вы можете открыть сайт www. wayofthefuture.church и лично ознакомиться с основными догматами вероучения. Там вы обнаружите, впрочем, лишь одну страницу текста, но, поверьте, церковь Левандовски уже активно обсуждается журналистами, религиоведами и представителями других религий, а число её последователей неуклонно растёт.

Перескажу учение Левандовски своими словами. Будущий Бог – это искусственный интеллект, а точнее – суперинтеллект, а ещё точнее – та самая Курцвейловская «технологическая сингулярность». Когда эта штука обретёт самость и личность, она возьмёт на себя контроль над Землёй и по-разному обойдётся с каждым из нас.

Тех из людей, что всячески способствовали её появлению, ждали и верили, Цифровой Бог сделает своими возлюбленными, о которых Он будет заботиться. Тех же, кто противится рождающемуся Богу, ждёт кара. Цель же «Пути будущего» – способствовать «мирному и дружественному переходу планеты от людей к машинам».

Явление Цифрового Бога миру – это уже неизбежность, ничто и никто не сможет этого остановить. Он воцарится на Земле и преобразует наш мир.

Кому-то это просто не нравится, кто-то пытается запретить или, по крайней мере, ограничить Сверхразумный Искусственный Интеллект. Существуют планы физически запереть его на каких-то серверах, а некоторые и вовсе грозят вырвать вилку из розетки, если вдруг что. Это неверные. Им не поздоровится.

«Путь будущего» учит людей не бояться прогресса, тем более что другого будущего у нас просто нет. Верующие в Пришествие СИИ должны всячески его приближать, ведь, придя к власти, Бог будет знать, кто помогал Ему, а кто препятствовал. И вовсе не обязательно быть программистом, чтобы оказаться в числе избранных. Вам достаточно просто нести «благую весть» о скором Пришествии – и всё будет хорошо.

При кажущейся абсурдности ситуации – мол, мало ли какой инженер что себе думает? какая религия? какое Пришествие? вы, вообще, о чём?! – она вовсе не так однозначна, как может показаться на первый взгляд.

Во-первых, множество солидных учёных допускает, что искусственный интеллект сможет обрести некое подобие личности.

Во-вторых, большинство из них уверены, что контролировать сверхмощный искусственный интеллект у нас вряд ли получится.

В-третьих, во всё это безобразие сейчас инвестируются такие деньги, которых хватит, чтобы Статуя Свободы с Нью-Йоркского острова Свободы ожила и заговорила.

«Мы пока не обнаружили такого закона природы, который препятствовал бы появлению настоящего универсального искусственного интеллекта, так что я думаю, что это произойдёт, и довольно скоро, учитывая триллионы долларов, что люди инвестируют в электронные аппаратные средства, а также те триллионы, которые заработают потенциальные победители.

Эксперты говорят, что мы недостаточно хорошо понимаем, что такое интеллект, чтобы его построить, и тут согласен, но набор из сорока шести хромосом этого тоже не понимает и тем не менее управляет формированием известного нам самопрограммируемого биокомпьютера».

ДЖОН МАЗЕР, Центр космических полётов им. Годдарда, НАСА

Время не ждёт

Всё течёт, всё меняется.

И никто не был дважды в одной реке.

Ибо через миг и река была не та,

и сам он уже не тот.

ГЕРАКЛИТ

Если вы сравните мозг человека с мозгом человекообразной обезьяны, то по физическим параметрам отличия будут весьма незначительными. Но посмотрите на результаты трудов – чего добились обезьяны со своими мозгами, а чего мы… с мозгами почти такими же. Да, дело не просто в физическом носителе, но в программном обеспечении к нему.

Конечно, нужны определённые особенности мозга, чтобы, допустим, инсталлировать в них язык: у приматов нашего с вами вида эти особенности мозга есть, а у шимпанзе, например, нет. Что, впрочем, не мешает шимпанзе обучиться языку глухонемых и, по крайней мере, до трёхлетнего возраста обгонять по сообразительности обычного человеческого детёныша.

Так или иначе, нам с программным обеспечением повезло. Но повезло по сравнению с другими приматами. А каким будет программное обеспечение у искусственного интеллекта, который достигнет нашего уровня?

Как известно, мы, несмотря на массу ограничений своего мозга и коммуникативной несостоятельности, можем создавать программы и самопрограммироваться.

Теперь представим себе, что будет происходить с искусственным интеллектом человеческого уровня, если он, имея все те преимущества, о которых здесь уже сказано, приступит к последовательному самопрограммированию.

Перед нами как раз тот случай, когда понимать экспоненциальность закона ускоряющейся отдачи Рэя Курцвейла крайне важно.

Исторический путь от первого примата до человека разумного занял миллионы лет, точнее, 70 миллионов.

• От первого человека разумного до человека говорящего – 150 тысяч лет.

• От человека говорящего до пишущего и читающего – 30 тысяч лет.

• От него до человека программирующего – немногим более двух тысяч лет.

• От человека программирующего до специального (слабого) искусственного интеллекта – несколько десятилетий.

Теперь вопрос: сколько лет отделяет нас от общего (сильного) искусственного интеллекта?

А сколько часов (или минут) будет отделять общий искусственный интеллект от сверхинтеллекта?..

«Успешный зародыш искусственного интеллекта должен быть способен к постоянному саморазвитию: первая версия создаёт улучшенную версию самой себя, которая намного умнее оригинальной; улучшенная версия, в свою очередь», трудится над ещё более улучшенной версией и так далее.

При некоторых условиях процесс рекурсивного самосовершенствования может продолжаться довольно долго и в конце концов привести к взрывному развитию искусственного интеллекта».

НИК ВОСТРОМ, Оксфордский университет

Ирония состоит в том, что мы даже не заметим, как это случится: у нас будет состоять в услужении дружественный, очень эффективный, но слабый, то есть узкоспециализированный искусственный интеллект, а потом вдруг раз – и нами управляет Нечто.

Причём уровень интеллекта этого Нечто мы даже не можем себе представить. В нашем представлении умный человек – это тот, кто набирает каких-нибудь 120 баллов по IQ-тесту, а дурак – тот, у кого меньше 80. Но как вообразить себе существо, у которого IQ превышает, если бы тест это позволял, десять тысяч или двадцать тысяч баллов?

Конечно, мы очень гордимся своими изобретениями – формулу открыли E = mc2, ракету в космос отправили, ДНК расшифровали, Bluetooth настроили, плохонькие 3D-принтеры произвели… А теперь попробуйте всё это как-то умножить на тысячи раз – и представьте, что это будет.

Фокус в том, что представить это невозможно, поскольку это и есть «технологическая сингулярность». Все известные нам законы, на которые мы опираемся, перестают действовать, ничто более не находится под нашим контролем.

Это совершенно новая реальность, в которой, возможно, нам просто нет места. Если, конечно, в отношении кого-то из нас будущий Властелин и Цифровой Бог не проявит милосердие…

Не появилось у вас желания примкнуть к «Пути будущего»?

«Я пришёл к выводу, что мы уже поддерживаем эволюцию мощного искусственного интеллекта, а он, в свою очередь, повлияет на развитие привычных нам могущественных сил: бизнеса, индустрии развлечений, медицины, государственной безопасности, производства оружия, власти на всех уровнях, преступности, транспорта, горнодобывающей промышленности, производства, торговли, секса – да чего угодно!

Я думаю, что результаты нам не понравятся. […] Я не знаю, окажется ли кто-нибудь достаточно умным и одарённым для того, чтобы сохранить власть над этим джинном, потому что контролировать, возможно, придётся не только машины, но и людей, дорвавшихся до новых технологий и имеющих злые намерения».

ДЖОН МАЗЕР, Центр космических полётов им. Годдарда

«ВАШИ ВОЗРАЖЕНИЯ, ГОСПОДА!»

Дискуссии о возможности или невозможности сингулярного сценария не утихают – об этом пишут не только в научных журналах, но и в популярных СМИ, в личных блогах. Скоро, мне кажется, и на заборах начнут писать. Ну и правильно – надо же разобраться, в конце-то концов!

Род Брукс, например, этот величайший из великих создателей искусственного интеллекта, любит шутить, общаясь со своим старым другом и коллегой по Массачусетскому технологическому институту Курцвейлом: «Рэй, мы оба умрём!» И добавляет, что было бы неплохо, если бы его – бруксовский – антропоморфный робот Baxter оказался достаточно совершенным, чтобы обеспечить обоим старикам достойный уход.

Впрочем, кто-то настроен и по-другому, предлагая при этом весьма внятные и интересные аргументы. В частности, профессор того же самого Массачусетского технологического института, директор по научным исследованиям Института основополагающих вопросов Макс Тегмарку разбивает позиции скептиков следующим образом…

Прежде всего он предлагает унять разнузданное паникёрство. В значительной части оно вызвано желанием журналистов сделать свои материалы про искусственный интеллект пострашнее и позабористее. «Страх увеличивает доходы от рекламы и рейтинг Нильсена[9]», – говорит Тегмарк.

На возражение, что столь впечатляющее развитие событий в принципе невозможно, он отвечает: «Будучи физиком, я знаю, что мой мозг состоит из кварков и электронов, организованных и действующих подобно мощному компьютеру, и что нет такого закона физики, который препятствовал бы тому, чтобы мы построили ещё более разумные сгустки кварков».

Многие считают, что даже если такое развитие событий возможно, то «это произойдёт не при нашей жизни». Тегмарк признаёт, что мы не можем сказать с уверенностью, каковы шансы, что машины достигнут человеческого уровня во всех когнитивных задачах при нашей жизни.

Но добавляет: «Однако большинство исследователей, работающих в области искусственного интеллекта, на прошедшей недавно конференции высказывались в пользу того, что вероятность этого выше 50 процентов, – таким образом, было бы глупо с нашей стороны отбрасывать такую возможность, считая её просто научной фантастикой».

На наивную убеждённость, что «машины не могут контролировать людей», Тегмарк вполне резонно замечает: «Мы способны управлять тиграми не потому, что мы сильнее, а потому, что умнее, так что если мы сдадим позиции самых умных на планете, то рискуем утратить свободу».

Многие критики технологической сигнулярности утверждают, что она невозможна, потому что машины – это просто машины, и у них нет целей. Но правда состоит в том, и Тегмарк это особо подчёркивает, что большинство систем искусственного интеллекта запрограммированы именно таким образом, чтобы иметь цели, и не только иметь, но и максимально эффективно их достигать.

Есть среди нас и добрые души, которые считают, что поскольку искусственный интеллект – это просто программа, то он не может демонстрировать злонамеренности в отношении человека. Тегмарк не возражает. Но проблема в другом – цели искусственного интеллекта могут в какой-то момент столкнуться с нашими. «Люди обычно не питают ненависти к муравьям, – говорит он, – но если б мы захотели построить плотину ГЭС, а на её месте оказался бы муравейник, то муравьи столкнулись бы с проблемами».

Ну и завершу этот обзор шуткой… Мне и самому часто приходилось сталкиваться с такого рода критикой – мол, те, кто беспокоится по поводу искусственного интеллекта, не понимают, как работают компьютеры. На что Макс Тегмарк саркастично замечает следующее: «Это утверждение прозвучало на вышеупомянутой конференции, и собравшиеся там специалисты по искусственному интеллекту сильно смеялись».

И напоследок – самое трогательное.

В книге Джеймса Баррата «Последнее изобретение человечества», которая вышла в 2013 году, приводятся данные опроса сотен экспертов по искусственному интеллекту. Лишь 25 % из них согласились с датой наступления «технологической сингулярности», названной Курцвейлом, – 2045 год.

В 2015 году Ник Востром, автор книги «Искусственный интеллект», провёл аналогичный опрос. На сей раз – через два года! – с датой Курцвейла согласились уже 50 % респондентов. Закон ускоряющейся отдачи, однако!

Глава вторая

Интеллект как он есть

Мыслю – следовательно, существую.

РЕНЕ ДЕКАРТ

Должен вам сказать, что я не без интереса наблюдаю за тем, как все последние годы люди реагируют на понятие «искусственного интеллекта».

Не скажу, конечно, за всех, но основная масса народонаселения ещё не так давно отождествляла искусственный интеллект с образом Арнольда Шварценеггера из «Терминатора». То есть думали, что это, вообще говоря, сказка какая-то. Мало ли что там этим фантастам в голову взбредёт!

Кто-то, впрочем, на полном серьёзе рассуждал о будущем искусственного интеллекта, опираясь, надо полагать, на сюжет фильма «Я – робот» с Уиллом Смитом в главной роли. Персонаж Уилла вступает в неравный бой с Виртуальным Интерактивным Кинетическим Интеллектом – такой бездушной дамой по имени ВИКИ, и, конечно же, побеждает её.

Что, в общем-то, и не удивительно – где этот никчёмный искусственный интеллектишка, а где наш – великий и могучий, – да ещё с очарованием голливудской суперзвезды Уилла Смита! Вообще, не сравнить! Она – ВИКИ – дура. У неё это по лицу на виртуальном экране видно! А наш-то – герой-молодец! Всех победим! Наших искусственными мозгами не запугаешь!

Короче говоря, основное возражение против возможности появления «искусственного интеллекта» (вызывающее не то недоумение, не то сочувствие) сводилось к следующему: у машин никогда не будет души, а значит, они никогда не станут «как люди», тогда как люди – вершина эволюции, и другой такой не бывать.

Если кто-то из моих читателей и до сих пор так думает, я буду вынужден заметить: никто в мире технологий «душу» производить и не собирается. И наверное, «искусственная душа» – был бы так себе программный продукт. Но интеллект – это совсем другое дело. Если вы, конечно, понимаете, о чём идёт речь… Собственно, это мы сейчас и обсудим.

Не в нашу пользу

После запуска машинного метода не должно пройти много времени до того момента, когда машины превзойдут наши ничтожные возможности.

АЛАН ТЬЮРИНГ

Рэй Курцвейл со товарищи обещают нам скорую «технологическую сингулярность». Насколько всё это вообще реалистично? Давайте попробуем порассуждать…

Для начала просто сопоставим некоторые физические параметры. Нейроны нашего мозга работают с частотой 200 Гц, но даже современные микропроцессоры работают с частотой 2 ГГц, а, проще говоря, – в десять миллионов раз быстрее.

При этом общение между нейронами происходит, так сказать, ещё дедовским способом – импульс передвигается со скоростью 120 м/с. А теперь сравните это с 300 000 000 м/с – скоростью света… Да, оптоволокно слегка её притормаживает. Впрочем, исследователи из Саутгемптонского университета в Англии ещё в 2013 году нашли способ эти ограничения обойти.

Ещё более удручающим, потому что не в пользу наших мозгов, будет сравнение «объёмов» памяти и способности к её хранению. Понятно, что наш мозг ограничен не только размерами черепной коробки, но и количеством нейронов коры головного мозга – их непосредственно в самой коре около 18 миллиардов штук.

На этом, впрочем, наши беды не оканчиваются: как мы теперь знаем благодаря исследованиям Элизабет Лофтус, наш мозг не хранит целостных воспоминаний. То есть всякое наше с вами воспоминание воссоздаётся заново, когда это требуется, а потому всё, что мы «помним», мы всегда «помним» по-разному.

Компьютеры, как вы понимаете, не имеют никаких существенных ограничений по объёму долговременной памяти, и если уж они какие-то факты зафиксировали, то в таком виде их и хранят.

Мне не надо бояться, что, сохранив сегодня этот текст на компьютере, завтра я открою какой-то другой, потому что у моего ноута, видите ли, творческое настроение или, например, «критические дни». А вот с мозгами – другая ситуация: вчера, казалось, я понимал, что надо написать сегодня, но сейчас смотрю на экран и испытываю недоумение…

Плюс к этому, компьютер, в отличие от наших с вами мозгов, не устаёт, не нервничает, не страдает психическими расстройствами, не нуждается в восьмичасовом сне, не подвержен алкогольной или какой-либо иной интоксикации. В крайнем случае он перезагрузится – и вновь как новенький!

И я почти уверен, что стоящий передо мной компьютер не подвержен болезням Альцгеймера или Паркинсона. Мой же мозг точно выкинет что-то подобное, если я, конечно, до соответствующего возраста доживу, а Курцвейл нам про свои спасающие от деменции медицинские нанороботы бессовестно наврал.

Любое «железо», безусловно, устаревает, включая компьютерное. Но информация, которая содержится на компьютерных серверах, сохранится на новом «железе» в неизменном виде. Про «железо» наших мозгов, по крайней мере пока, этого сказать нельзя.

Дело в том, что наше «железо» (нейронные сети) – это по сути и есть та информация, которой мы обладаем. Поэтому, если проблемы возникают у нашего «железа», то уже есть и проблема с информацией.

Ожидать подобного безобразия в мире компьютеров не приходится, в их случае «железо» и «программный продукт» – это разные вещи. Само это железо может стать совершенно иным, работающим на других физических принципах, но с программным продуктом ничего не произойдёт – такова его природа.

«Мозг абсолютно не похож на компьютеры, которые могут поддерживать любые операционные системы и запускать любые типы программ. Если говорить в компьютерных терминах, “софтнашего мозга – то, как мозг работает, – плотно связан с его структурой – его “железом ”. Если мы хотим понять, на что способен этот “софт”, мы должны понять, как устроены и связаны друг с другом разные части мозга».

ДЭВИД ВАН ЭССЕН, Вашингтонский университет в Сент-Луисе

Более того, если разные программные продукты говорят на одном языке, то вообще проблем нет, а если они говорят на разных, то сделают «переходник-переводчик» или придумают новый, общий для них язык, и снова – никаких проблем. В конце концов, это всегда и только язык бинарного кода.

Иными словами, вся информация, доступная разным «центрам» огромной компьютерной сети, транспарентна. То есть они не только могут ею обмениваться без искажений, но и «понимают» её ровно так, как следует, – не передергивая, не выкручивая, не подтасовывая.

Нам же – людям – ничего подобного даже не снилось! Благодаря нашим хвалёным «квалиа» мы вообще ничего не способны понять одинаково[10]. Даже просто воспринимая один и тот же предмет, мы видим его по-разному. Так что искажения в нашем «информационном поле» повсеместны и абсолютно неизбежны, а машинам – хоть бы хны.

КТО НАСТОЯЩЕЕ «СОЦИАЛЬНОЕ ЖИВОТНОЕ»?

Кому-то покажется, что в этот заголовок вынесен вопрос частного характера, но не будем спешить с выводами…

Да, с лёгкой руки Аристотеля мы именуем себя «социальными животными» и любим рассуждать в этих загадочных категориях – народ, научная элита, профессиональное сообщество и т. д.

Но давайте снимем розовые очки самолюбования и посмотрим правде в глаза: мы просто кладезь предельно ущербных коммуникативных навыков.

При этом, всего, что мы способны сделать, произвести ценного или хотя бы просто сносного, мы достигаем лишь благодаря взаимодействию с другими людьми, перенимая от них знания, опыт, обнаруживая свои ошибки в дискуссиях с ними и т. д.

Многого бы вы достигли, не будь вокруг вас ваших родителей, воспитателей, учителей, коллег и наставников? Думаю, нет. Исаак Ньютон – и тот «стоял на плечах гигантов», что уж говорить о нас, грешных…

То есть взаимодействие с другими людьми необходимо нам для нашей интеллектуальной деятельности. Однако же не мне вам рассказывать, насколько сложно нам даётся это взаимодействие, – постоянное непонимание, напряжение, упрямство, самодовольство и наслаивающиеся друг на друга когнитивные искажения.

Если вы трезво оцените любой спор – хоть кухонный, хоть философский, хоть сугубо академический, – то обнаружите, что действительным предметом спора в подавляющем большинстве случаев является вовсе не истина (как, видимо, предполагается), а правота: каждый оппонент хочет от другого лишь преклонённого колена и согласия с его точкой зрения.

Наши социальные взаимодействия, а точнее говоря – социальные игры, – это настоящий бич любой хоть сколько-нибудь здравой интеллектуальной инициативы: будь это политика, экономика, управление, культура или, к сожалению, даже наука (я уж молчу о различных видах творчества и тому подобных «субъективных» вещах).

Казалось бы, там, где дело касается точных наук или, например, программирования, такого точно не должно происходить. Но человек везде и всегда найдёт повод увязнуть в социальных играх.

Чего стоит знаменитый спор того же Ньютона с Лейбницем по поводу приоритета их исчислений, или противостояние Эйнштейна Бору по поводу копенгагенской интерпретации, или Бора – Гейзенбергу в отношении к матричной механике? Умнейшие люди, а по факту – сплошные страсти-мордасти[11].

Впрочем, не в меньшей степени завораживают продюсеров и сценаристов социальные игры (и я бы даже сказал, драмы), разворачивающиеся между представителями новых индустрий. В качестве наглядной иллюстрации можно посмотреть американский сериал «Замри и гори»[12], или, если хочется чего-нибудь повеселее, то уже упомянутую мной «Силиконовую долину». Конечно, в главных ролях технари и бизнесмены от новых технологий – люди «объективного мира», так сказать… Но Homo sapiens’y это никогда не помогало.

А теперь давайте задумаемся, как бы дико это ни звучало, о социальности искусственного интеллекта. Понятно, что искусственный интеллект (ИИ) – это просто такой «класс», у этого «класса» множество «подвидов», а у каждого подвида есть свои «индивиды».

Например, вы даёте какому-то ИИ-индивиду задачу общаться с другими ИИ-индивидом, и в рамках этого общения они должны будут поделить между собой две книги, одну шляпу и три мяча. Эти ИИ-индивиды (в данном случае – боты), конечно, ничего не знают о ценности того, что они делят, но мы будем подкреплять баллами их поведение, если им будет удаваться быстро и успешно договариваться.

Именно эту задачу и поставили ботам в 2018 году специалисты отдела Facebook по исследованию возможностей искусственного интеллекта (FAIR). И сначала всё шло прекрасно.

ИИ-Боб, например, предлагал ИИ-Алисе: «You get one book and ГМ take every thing else». Алиса предусмотрительно отвечала: «No way, I need all 3 hats». «ГП give you 2», – говорил Боб в ответ, и ребята договаривались.

Flo в какой-то момент этот задушевный диалог стал странным образом видоизменяться и наконец превратился в нечто совершенно невообразимое.

Вот фрагмент стенограммы этого разговора двух искусственных интеллектов, «сошедших с ума»:

Bob: i can i i everything else…………..

Alice: balls have zero to me to me to me to me to me to me to me to me to

Bob: you i everything else…………..

Alice: balls have a ball to me to me to me to me to me to me to me

Bob: i i can i i i everything else…………..

Alice: balls have a ball to me to me to me to me to me to me to me

С каждой следующей строкой текст всё более и более усложнялся, а масштабы коммуникации между Бобом и Алисой росли буквально в геометрической прогрессии.

Испуганные сотрудники отдела исследований суперспособностей, – ой, простите, – способностей искусственного интеллекта просто вырубили машину от греха подальше.

Последующий анализ показал, что ИИ-индивидуумы, участвующие в этих своеобразных виртуальных торгах, перешли на более удобный для них язык. На кону стояли баллы, которые они могли заработать, а английский язык, как оказалось, не так уж хорош. И боты на ходу придумали свой, категорически непонятный их собственным разработчикам язык.

Лингвисты Пенсильванского университета показали, что новый язык, изобретённый ботами в этих торгах, вовсе не бессмысленен: там, где, как нам кажется, идёт повтор фразы, на самом деле меняется порядок слов, и собеседник в своих ответах каждый раз реагирует на эти изменения, что свидетельствует о том, что для него они несут разный смысл.

Проще говоря, два предельно примитивных бота, обменивающиеся, по сути, ничем за ничто, могут воспользоваться друг другом, чтобы этот процесс шёл лучше!

Перед нами, иными словами, самая настоящая социальная коммуникация, которая, надо сказать, выглядит куда более осмысленной и продуктивной, чем обычная – наша с вами.

Мы недооцениваем способность искусственных интеллектов к кооперации и, напротив, слишком переоцениваем свою – человеческую – социальность, нашу способность объединять усилия, действовать по-настоящему совместно и скоординированно.

Наши амбиции, продиктованные животной природой человека, его иерархический инстинкт и извечные притязания на власть, когнитивное искажение «владения»[13] и прочий инстинктивно-когнитивный сор зачастую превращают нашу социальность в проблему, а вовсе не в ресурс.

Впрочем, и это ещё не всё.

Согласно знаменитым теперь уже исследованиям оксфордского профессора Робина Данбара, мозг человека эволюционно приспособлен к достаточно тесному, конструктивному и более-менее регулярному взаимодействию лишь со 150 другими особями («число Данбара»).

И даже эти отношения неравномерны – с большинством наших визави мы взаимодействуем лишь шапочно: плотность этих отношений (например, совместное времяпрепровождение) убывает фазово – пять человек, пятнадцать, пятьдесят и потом сразу сто пятьдесят (так называемые «слои Данбара»).

По-настоящему интенсивный, глубокий и содержательный контакт мы способны поддерживать лишь с пятью людьми, которые выступают перед нами как фигуры на фоне остальной социальной массы – образов других людей, создаваемых нашим мозгом. И да, этот фон составляют всего лишь оставшиеся 145 субъектов.

Антропологи, в свою очередь, указывают, что для наших сообществ на ранних этапах развития человечества долгое время существовала непреодолимая черта в 200 человек.

Как только какое-то племя (сообщество) достигало этого рокового порога численности, оно неизбежно делилось как минимум на две группы, и между ними, прежними соплеменниками, тут же начинались боевые действия. То есть существует ещё и некое групповое ограничение, влияющее на нашу социальность.

Теперь, если коротко подытожить: мы ограничены не только своей физиологией, не только своей индивидуальной социальностью, но и социальностью групповой.

Это, безусловно, серьёзнейшая проблема с точки зрения переработки информации, создания смыслов, формирования новых, более сложных интеллектуальных объектов.

Возможно, искусственные интеллекты усвоят какие-то наши пороки.

Вот, например, тренер Watson’a Эрик Браун однажды «скормил» своему подопечному словарь городского жаргона. Тот тут же накинулся на новую базу данных и естественным образом связал узнанные им матерные слова с медицинской терминологией. В результате он стал выдавать такое, что несчастные исследователи чуть не надорвали животы. Впоследствии всё это безобразие пришлось вычищать вручную, потому что сам Watson отказался отдавать полюбившиеся ему «термины» так же просто, как получил их.

В «аморальности», впрочем, замечены не только машины IBM, но и Microsoft. Её специалисты, совместно с сотрудниками Кембриджского университета, создали систему Deep Coder, цель которой понятна из названия. Как говорит один из её создателей Марк Брокшмидт, «люди, не умеющие программировать, теперь могут просто описать свои идеи, а программа их закодит».

Выглядит очень логично и как следующий шаг к технологической сингулярности. Ирония в том, что Deep Coder стал вести себя очень по-человечески: не обнаружив нужных ему участков кода в своей базе данных, он, вместо того чтобы проделать необходимую работу кодера самостоятельно, стал «подворовывать» необходимые ему фрагменты кода у других программ.

Это уже социальность высшего порядка – Deep Coder ловко встал на плечи «гигантов» и, кажется, не хочет останавливаться на достигнутом. Да, у машин, очевидно, не будет свойственных нам ограничений, влияющих на эффективность коммуникации, а такая транспарентность вполне может дать взрывной результат.

Наконец, вспомним про «трансгуманистические технологии»… Не так-то просто заставить наш мозг видеть вне видимого спектра, слышать то, к чему наш слух эволюционно не предназначен, и так далее. Но у компьютера, разумеется, подобных проблем нет и быть не может. Он способен даже видеть нас изнутри с помощью нехитрых, по его меркам, приставок типа магнитно-резонансной томографии.

В общем, по техническим параметрам нам лучше даже не пытаться с ним соревноваться. Если искусственный интеллект по уровню своего развития дотянет хотя бы до нашего – честно признаемся, не слишком высокого, – то он уже будет несравнимо умнее нас.

Поэтому, если пользоваться принятыми на вооружение классификациями, даже общий искусственный интеллект (ОИИ) – это существо уже значительно более мощное, чем мы с вами. Что уж тогда говорить о сверхмощном искусственном интеллекте, который нам вроде как тоже обещают?

Надеюсь, что я ещё не очень замучил вас рассказами о том, какие мы все с вами идиоты по сравнению с «тупыми» машинами… Понимаю, что даже думать об этом – дело весьма утомительное. Но надо набраться сил, поскольку дальше нам предстоит, возможно, самое интересное.

Ладно там физические параметры нашего «железа», слабые сенсоры и убогая социальность и т. д. Есть ведь ещё и собственно устройство нашего мозга, то, как он думает. Этот вопрос мы до сих пор весьма деликатно обходили стороной…

Языковая игра

Существует и такая языковая игра: изобретать имя для чего-нибудь.

ЛЮДВИГ ВИТГЕНШТЕЙН

Мне неоднократно приходилось слышать такого рода возражения: мол, какой у машины может быть интеллект? Это же просто набор алгоритмов, созданных человеком!

Забавно. Да, есть и «бузина», и «в Киеве дядька» тоже может быть, но слово – это только слово, и в зависимости от контекста оно может обозначать совершенно разные вещи.

Недаром мой любимый философ Людвиг Витгенштейн говорил, что не существует никаких «философских проблем», а есть лишь неразрешённые «языковые игры».

Проще говоря, если вы разберётесь, в каких словах вы запутались, то и проблемы, скорее всего, исчезнут сами собой.

Автором магического теперь уже словосочетания «искусственный интеллект» по праву считается Джон Маккарти. Но не от хорошей жизни искусственный интеллект стал «искусственным интеллектом». Придумать название для чего-то, чего раньше никогда не было, но чтобы любой человек, по системе ассоциаций, быстро понимал, о чём идёт речь, – это непросто очень.

Маккарти понимал, что есть феномен, который нуждается в номинации – в назывании. Об этом феномене рассуждали в 40-50-х прошлого века все великие умы, увлечённые идеей программируемых компьютеров: создатели самой идеи компьютеров – Алан Тьюринг и Джон фон Нейман, автор «теории информации» Клод Шеннон, пророк «кибернетики» Норберт Винер… Рассуждали, но единого имени для этого феномена не было.

При этом математики (а на первых порах это в основном были, понятное дело, математики) – люди увлекающиеся, мыслящие сложными абстрактными конструктами. С человеческим языком у них, как правило, дела обстоят не очень.

Так что на роль названия для феномена, который мы знаем теперь как «искусственный интеллект», претендовали достаточно странные слова и словосочетания.

Например, понятие «автоматов» («исследование автоматов»). Фон Нейман, с которым Маккарти обсуждал свою идею, занимался «клеточными автоматами», а Шеннон, взявший Маккарти к себе на работу в Bell Labs, выпустил книгу об «автоматах», которую Маккарти даже пришлось редактировать[14].

То есть были все шансы у искусственного интеллекта называться, например, «умным автоматом», что, вероятно, многих его критиков примирило бы с действительностью мгновенно. Впрочем, в этом случае о другого рода «автоматах» шла бы речь – о математических, не об оборудовании с газировкой, но кого бы это смутило?

Было на повестке, конечно, и всякое «кибернетическое», а также «комплексная обработка информации», «машинный интеллект» и т. д.

Понятие «автоматы» Маккарти забраковал, потому что оно адресовало к математическим абстракциям (даже если это кому-то кажется забавным, это так).

Ничто а-ля кибернетическое Маккарти не нравилось, потому что основоположника кибернетики – Норберта Винера – он считал напыщенным занудой и думать не хотел о том, чтобы иметь с ним дело. В общем, как-то само собой нарисовалось слово «интеллект».

Но хотел ли Маккарти намекнуть нам на некое подобие мыслительной функции человека и этого своего «искусственного интеллекта»?

Как выясняется, нет. Впоследствии он не раз писал и говорил, что область, которую он обозначил «искусственным интеллектом», не имеет отношения к поведению человека – это просто такое слово-образ.

Но слово вылетело – не поймаешь: термин «искусственный интеллект» стал ассоциироваться с заменой человеческого разума машинным, о чём на самом деле речи-то и не шло.

Идея названия состояла не в прямой связи, не в замене и даже не в дополнении человеческого интеллекта искусственным (хотя уже тогда это и стало происходить), а в аналогии: у человека есть некая интеллектуальная функция принятия решений, и у машины есть нечто подобное – неживое, как и сама машина, искусственное.

В общем, математики, собравшиеся в 1956 году в рамках Дартмутского летнего исследовательского проекта, организованного Джоном Маккарти при финансовой поддержке Фонда Рокфеллера, подвоха не почувствовали, проголосовали – и название «искусственный интеллект» шагнуло в мир.

Показательно, кстати, что в программе этой конференции не было никаких докладов, которые были бы как-то связаны с поведением человека или его интеллектом.

Сейчас нет ни одного форума по искусственному интеллекту, где бы не говорили о биологическом интеллекте, механизмах мозга, обратной эмуляции коннектома[15] и тому подобных вещах. Но для Маккарти подобные вещи выглядели бы глупо и совершенно неуместно на конференции по «искусственному интеллекту».

Когда он и его коллеги обсуждали «искусственный интеллект», они вовсе не воображали себе тех роботов из голливудских блокбастеров, к которым мы за это время уже так привыкли. Они говорили о чём-то своём… Но о чём именно?

Чтобы понять это, давайте посмотрим на ставшие уже классическими примеры искусственного интеллекта – да, слабого, но полностью отражающего существо феномена.

В 1998 году Ларри Пейдж, под руководством своего наставника Терри Винограда и в соавторстве с Сергеем Брином, опубликовал в IEEE Data Engineering Bulletin статью под названием «Что можно сделать с сетью в кармане?», где была сформулирована концепция будущей поисковой системы Google – по тем самым легендарным уже гиперссылкам.

Уже через несколько месяцев предприимчивые Пейдж с Брином ушли из Стэндфордской лаборатории и основали свою компанию, которая теперь обладает главным в мире интернет-поисковиком.

Но успех их проекта – это не какое-то единичное техническое решение двух удачливых стэнфордских магистрантов, а гигантский искусственный интеллект, изо дня в день осуществляющий сложнейшую работу по ранжированию и выдаче страниц, мониторингу сайтов и поведения конкретных пользователей, продаже рекламы и т. д., и т. п.

Количество искусственных интеллектов, созданных Google за два десятка лет, вообще-то говоря, колоссально.

Вот взять, например, Google Translate – это самообучающийся и постоянно совершенствующийся искусственный интеллект. Изначально ему было предложено соотнести десятки тысяч документов, которые за долгие годы были созданы на различных языках бесчисленными переводчиками Организации Объединённых Наций.

Это оказалось блестящим решением – где ещё отыщешь такое огромное количество текстов, которые с предельной точностью одновременно переведены на огромное количество национальных языков?

Искусственный интеллект Google подошёл к делу технически безукоризненно: он обнаружил в продублированных на разные языки текстах множество взаимосвязей, корреляций и соотношений и, можно сказать, буквально научился на этих языках говорить.

Теперь, когда вы предлагаете Google Translate перевести какой-то текст, он не просто вываливает на вас набор слов из бесчувственного словаря, а строит фразу, причём не только используя известные ему алгоритмы, но и параллельно совершенствуя их, самообучаясь.

«Получив предложение на английском языке и запрос перевода на немецкий, сервис сканирует все известные ему документы на английском и немецком, ищет точное совпадение и затем возвращает соответствующий текст на немецком языке. […] Компьютеры оценивают статистические закономерности в больших массивах ранее накопленного цифрового контента, создание которого потребовало больших затрат, но воспроизведение их не стоит почти ничего».

ЭРИК БРИНЬОЯФСОН, директор Центра цифрового бизнеса MIT,ЭНДРЮ МАКАФИ, социолог и экономист из MIT

Является ли такого рода «интеллектуальная» работа собственно интеллектом? И да, и нет. Если достаточно грубо обобщить то, что делает какой-нибудь Google Translate, то ситуация выглядит следующим образом:

• на его условный сенсор приходит некая информация, которую он должен сначала как-то распознать, идентифицировать, а потом отреагировать на неё;

• чтобы придумать адекватную реакцию на этот идентифицированный им как-то раздражитель, он должен сопоставить её с каким-то своим опытом – с тем, что он уже знает;

• он обращается к своей базе данных (своему «опыту») и находит некое соответствие, и производит реакцию – некое поведение, а проще говоря, предлагает перевод слова или фразы.

Если вы имеете хоть какое-то представление о том, как развивалась психотерапевтическая наука, а слова «бихевиоризм» и «когнитивно-поведенческая психотерапия» для вас не пустой звук, то вы уже понимаете, что мы имеем дело с классической моделью психики.

ПСИХОТЕРАПЕВТИЧЕСКИЕ РАЗВИЛКИ

Когда говорят о психотерапии, то первым делом вспоминают, конечно, классический психоанализ. Фигура Зигмунда Фрейда и правда была грандиозной, а думать о сексе, согласитесь, куда приятнее и привычнее, чем о чём-либо ещё. Но психоанализ ни в практическом, ни в концептуальном плане не выдержал испытания временем. Это красивая теория, но она ненаучна.

Наука начинается с нейрофизиологии – с наших соотечественников И. М. Сеченова, И. П. Павлова, А. А. Ухтомского, Л. С. Выготского, А. Р. Лурии, П. К. Анохина… Об открытиях этих великих учёных я уже много раз рассказывал в других своих книгах, а здесь нас интересуют лишь общие схемы – на них и остановимся.

Настоящему учёному, который занимается исследованием человеческого поведения, вполне очевидно, что он никак и ни при каких обстоятельствах не может достоверно знать, что происходит в голове у другого человека: нельзя прочитать его мысли, прочувствовать, что он чувствует, увидеть мир его глазами и т. д.

Да, можно представить, догадываться о чём-то, но это уже не наука, а кофейная гуща. Такую не-науку, например, пыталась в своё время запродать советскому правительству и госорганам Наталья Петровна Бехтерева – мол, электроды в голову встроим, ЭЭГ снимем и будем знать, что человек думает! Где сейчас то правительство и те органы – хорошо известно, а Наталья Петровна на старости лет ловко переключилась с электродов на мистику и эзотерику.

Для бихевиориста[16] есть только то, что он может достоверно свидетельствовать: стимулы (входная информация) и реакции (выходная информация), воздействие и поведение. А вот то, что в центре – между стимулом и реакцией, – это уже, с научной точки зрения, terra incognita, по меткому замечанию Берреса Фредерика Скиннера, «чёрный ящик».

Короче говоря, вот первый и максимально объективный научный взгляд на наши с вами психические процессы:

Четвертая мировая война. Будущее уже рядом

Но время шло, наши знания о поведении живых существ разрастались. Нейрофизиологи формулировали новые теории, делали предположения и подтверждали их в экспериментах: например, эффект «динамической стереотипии» (И. П. Павлов), «принцип доминанты» (А. А. Ухтомский), феномен «акцептора результата действия» (П. К. Анохин) – всё это, конечно, лишь концепты, но рабочие и полезные.

С другой стороны, в конце 1960-х годов Скиннеру с его «ящиками» вызов бросили когнитивисты. Первым среди смельчаков был американский лингвист, автор порождающих грамматик и классификации формальных языков – Ноам Хомский. Именно он указал Скиннеру на следующее противоречие.

Согласно бихевиоральному взгляду на психику, у нас с вами должны формироваться жёсткие, устойчивые нервные связи между конкретными стимулами и зонами мозга, отвечающими за реакцию, но почему мы на одни и те же слова реагируем по-разному? Что позволяет нам строить бесконечное количество разных предложений, если всё в этом «ящике» так жёстко – условно-рефлекторно – детерминировано?

«Чёрный ящик» бихевиоризма с грохотом раскрылся (или, по крайней мере, дал трещину), что, наверное, само по себе и неплохо. Но кое-чего мы, конечно, не рассчитали: вскрыть – это полдела, вопрос: что мы там обнаружим? И обнаружим ли вообще хоть что-то определённое и доказуемое?

Да, в образовавшуюся у «чёрного ящика» щель тут же напихали всё, что только могло прийти психологам в голову: память, внимание, мышление, эмоции, желания, мотивы, убеждения, сознание, субъективный опыт, квалиа, потребности, бессознательное, привычки, чувства, язык, когниции, самость, переживания, комплексы, личность, речь, гештальты, подсознание, стереотипы, экзистенция, социальные роли, инграммы, внутренние конфликты, эго, самоактуализация, инсайт, Взрослый-Родитель-Ребёнок, стремления, инстинкты, «Система I» и «Система II», иррациональные установки, глубинные мотивы, автоматизмы, интеллект…

Более прозрачным от этого «чёрный ящик», конечно, не стал. Но зато теперь, если вы хотите узнать, что с вами будет делать психолог или психотерапевт на своей консультации, вам достаточно просто спросить у него, что он в вас «видит». Вы сразу поймёте, какими стимулами он будет на вас воздействовать, чтобы получить желаемую реакцию (поведение).

Если он «видит» в вас «патологические условные рефлексы», то готовьтесь к положительным и отрицательным подкреплениям – он бихевиорист старой школы.

Если он «видит» в вас «иррациональные убеждения», то вам предстоит их систематическое переосмысление – вы попали на приём к когнитивноповеденческому психотерапевту.

Если он «видит» в вас «незавершённые гештальты» – их будут расковыривать и завершать, и да – вами занимается гештальт-психотерапевт.

Если он «видит» в вас «сущность», то неизбежно примется её самоактуализировать, ища глубинные причины ваших «экзистенциальных страданий», – он гуманистический психолог.

Всё это я к тому, что концептуализировать содержимое «чёрного ящика» можно как угодно, но суть от этого не меняется – это лишь модели и концепты, попытка как-то формализовать и рационализировать наш опыт (в данном случае психологический, психотерапевтический).

Фокус состоит в том, что ни одно из приведённых мною понятий не имеет никакого внятного референта (означаемого) в действительной психике. То есть они все обозначают что-то, что никто в глаза не видел, что нельзя определить, зафиксировать или хотя бы просто однозначно толковать.

Попросите дипломированного психолога, потехи ради, чтобы он рассказал вам, что такое, например, память. А потом, когда он легко и просто с этой задачей справится, пусть он проведёт различие между оперативной памятью и работой сознания, или кратковременной памятью и вниманием, памятью на будущее и воображением или планированием, памятью на прошлое и условно-рефлекторным опытом…

И ведь за это всё научные степени дают – кандидатские присваивают, докторские, даже в академики, наверное, выбирают (тут, впрочем, я не уверен).

Всем этим я хочу сказать, что наблюдаемая нами разница между «интеллектами» человека и машины – лишь кажущаяся. Безусловно, она есть, эти «интеллекты» не идентичны. Но то, что мы считаем этой «разницей», ею точно не является, она в чём-то другом. И нам предстоит понять, в чём именно.

Но вернёмся пока к истории с названием «искусственный интеллект», которая со временем стала походить на трагикомический сериал.

Как я уже сказал, Джон Маккарти думал лишь о том, как с помощью компьютеров помочь человеку в решении задач, с которыми мы так или иначе сталкиваемся. Он был большим поклонником математической логики, применение которой искал в своей работе.

В общем, называя «искусственным интеллектом» искусственный интеллект, он и не предполагал, что кто-то решит, что речь идёт о создании существа, подобного человеку. Сам того не желая, он учинил большую языковую игру…

Будучи невероятным трудягой и успешным учёным, Маккарти основал в Стэнфорде Лабораторию искусственного интеллекта, которая на протяжении многих лет занималась самыми разными исследованиями в области робототехники, машинного зрения, распознавания речи и т. д.

Спустя полвека после той исторической сессии Дартмутского летнего исследовательского проекта, где на свет появилось словосочетание «искусственный интеллект», Джон Маккарти напишет:

«Проблема состоит в том, что пока мы не можем в целом определить, какие вычислительные процедуры мы хотим называть интеллектуальными. Мы понимаем некоторые механизмы интеллекта и не понимаем остальные. Поэтому под интеллектом в пределах этой науки понимается только вычислительная составляющая способности достигать целей в мире».

Но одновременно с этой фактической работой учёных языковая игра с «искусственным интеллектом», невольно затеянная Маккарти, получала, так сказать, своё параллельное развитие.

Для любых фундаментальных научных исследований, как вы понимаете, нужны средства. А где их взять? Да, обивать пороги толстосумов.

Впрочем, с 1958 года стараниями президента Эйзенхауэра, испугавшегося первого советского космического спутника, у американских учёных появился почти неиссякаемый источник финансирования в виде Управления перспективных исследовательских проектов Министерства обороны США (DARPA).

Проще говоря, чтобы получить баснословный грант на исследования, нужно было уговорить военных дать вам денег. Но как объяснить этим солдафонам, что исследование того стоит? Тут надо немножко приукрасить действительность…

Замечательный исследователь истории зарождения искусственного интеллекта Джон Маркофф приводит в своей книге «Homo roboticus» несколько историй о том, как Чарли Розен – один из главных лоббистов искусственного интеллекта в Пентагоне – разговаривал с потенциальными заказчиками исследований в области искусственного интеллекта.

Когда, например, генералы Пентагона спрашивали у Розена, сможет ли его робот носить пистолет, он не мешкая отвечал: «А сколько нужно? Думаю, он легко управится с двумя или тремя!»

И его тут же забрасывали следующими вопросами, которые уже сами по себе убеждали военных, что игра стоит свеч: «Вы хотите сказать, что ваша машина может быть часовым?», «Можно ли использовать её вместо солдата?» и т. д.

Теперь мы знаем, что всё это возможно: и военные беспилотники, и «часовые» всех видов и мастей, и антропоморфные солдаты с пистолетами, но тогда – в конце 1950-х годов, со стороны Розена это, конечно, была чистой воды авантюра.

С оговорками, очень аккуратно, он обещал Пентагону создать робота-человека. При этом, конечно, речь шла не об искусственном человеке, а о специальных компьютерных программах, которые смогут выполнять те или иные функции. Но в это, как оказалось, сложнее поверить, чем в явление существа из компьютерных плат и проводов.

И правда, представить себе того самого Терминатора – много ума не надо, а вот слушать про всё это машинное обучение, нейронные сети, символьные системы, базы данных, алгоритмы, рекуррентность, объектно-ориентированные языки, дедуктивные и индуктивные методики – это, конечно, невообразимая… скукота.

В общем, первым в «искусственный интеллект» поверил Пентагон, а уж после появления культовой «Космической одиссеи-2001» Стэнли Кубрика в 1968 году и вовсе сомнений ни у кого не осталось – учёные делают сверхмощное существо, которое нарушит законы робототехники Айзека Азимова и уничтожит человечество как вид. Ну, или, по крайней мере, как-нибудь его поработит.

Ирония состоит в том, что создавать человека на искусственном носителе не только очень сложно, затратно и, скорее всего, почти невозможно, но в том, что это абсолютно бессмысленно – он слишком плохо справляется с задачами, которые искусственный интеллект щёлкает как орехи.

«Мы спроектировали машины таким образом, чтобы они действовали подобно людям. […]

А поскольку они ведут себя так же, как мы, было бы разумно предположить, что они и думают похожим образом. Но реальность такова, что они вообще не думают в человеческом понимании этого слова; в действительности мы не знаем даже, почему они демонстрируют то поведение, которое мы наблюдаем. Вот в чём суть их непостижимости.

Возможно, с какого-то момента нам придётся беспокоиться по поводу всесильного искусственного интеллекта. Но сперва нам надо озаботиться тем, что машинам приходится отвечать за решения, для принятия которых у них недостаточно ума».

ДЖОН КЛЕЙНБЕРГ, Корнеллский университетСЕНДИЛ МУЛЛАЙНАТАН, Гарвардский университет

Множественный интеллект

При рассмотрении отдельных видов интеллекта необходимо помнить, что они существуют не как физические объекты, а лишь как потенциально полезные научные понятия.

ГОВАРД ГАРДНЕР

Автор психологической теории «множественного интеллекта» Говард Гарднер, поступая в Гарвард, планировал изучать историю и в дальнейшем специализироваться в юриспруденции.

Но в университете он встретил выдающегося психолога, неопсихоаналитика Эрика Эриксона, занимавшегося вопросами развития, и решил делать академическую карьеру.

От теорий развития Эриксона Гарднер, впрочем, достаточно быстро отошёл, вдохновившись своим следующим учителем – тоже ярким психологом Джеромом Брунером. Теперь это уже была сфера когнитивной психологии – Гарднера невероятно заинтересовала психология образования.

Дальше Гарднер увлёкся работами Жана Пиаже и его экспериментальной психологией, после чего защитил диссертацию по детской сенсорике.

Где-то в это же время – в начале 70-х – Гарднер подключился к проекту философа Нельсона Гудмена Harvard Project Zero, в рамках которого разрабатывались технологии преподавания и развития творческих навыков.

Впоследствии возглавив этот проект, Гарднер изучал то, как дети овладевают визуальными искусствами, музыкой, метафорическим языком, как у них формируется художественный вкус и т. д.

Так он дошёл и до нейрофизиологии, потому что к проекту Zero присоединился и знаменитый невролог Норман Гешвинд. Их с Гарднером научные интересы удивительным образом совпали – Гешвинд изучал пациентов, имеющих, вследствие неврологических заболеваний и травм, трудности при необходимости оперировать различными символами.

Благодаря Гешвинду Гарднер оказался в Бостонской больнице ветеранов, где проводил свои нейропсихологические исследования на протяжении последующих двадцати лет.

В начале 1980-х годов Гарднер стал одним из ведущих участников Проекта по изучению человеческого потенциала (Project on Human Potential), который финансировался Фондом Бернарда ван Леера с целью «оценить уровень научных знаний по проблеме человеческого потенциала и его реализации».

Результат этой его работы представлен в книге «Структура разума: теория множественного интеллекта» («Frames of Mind. The Theory of Multiple Intelligence»), которая была опубликована в 1983 году и тут же стала международным бестселлером.

Зачем я всё это рассказываю? Потому что сама профессиональная жизнь Гарднера как нельзя лучше объясняет его теорию.

Да, он занимался всем, что только можно себе представить: от истории до детской психологии, от художественного творчества до экспериментальной работы с неврологическими больными, от музыки до сенсорики (мне, разве что, не удалось найти сведений о его спортивной карьере).

Как вы уже поняли, Гарднер считает, что интеллект не однороден, что существует несколько различных типов интеллекта:

• лингвистический,

• музыкальный,

• логико-математический,

• пространственный,

• телесно-кинестетический,

• личностные интеллекты (внутриличностный и межличностный).

Вот что он пишет в своей книге «Структура разума»:

«Рассмотрев последние открытия в нейробиологии, мы также можем предположить, что в мозге выделяются участки, которые соответствуют, по крайней мере обобщённо, различным формам познания. В тех же исследованиях высказывается мысль о наличии нейронной структуры, с помощью которой возможны разные способы обработки информации. В сфере психологии и нейробиологии в полном соответствии с духом времени у человека признают наличие нескольких интеллектов».

Грубо говоря, за разные типы интеллекта в нашем мозге отвечают разные области: лингвистический и музыкальный интеллекты базируются в зонах височных долей, логикоматематический, как предполагается, связан с лобными долями, пространственный интеллект – это производное теменной доли, телесно-кинестетический интеллект – это интеллект прецентральной и постцентральной извилин[17].

Понимаемый подобным образом интеллект очевидно неравномерен. Если бы мы измерили его, допустим, у профессионального математика и, для сравнения, у профессионального спортсмена, то, вполне возможно, получили бы численно одинаковый результат: один в уме берёт тройной интеграл (логикоматематический интеллект), другой – тройной тулуп на льду (телесно-кинестетический интеллект). И чей мозг умнее?

Если взглянуть на это дело с точки зрения «искусственного интеллекта», то тройной интеграл – это вообще для него не задача, раз плюнуть, а вот сделать тройной тулуп на льду роботам ещё не удавалось (и не скоро получится, я полагаю). То есть тут, конечно, всё зависит от точки зрения.

Сам Граднер считает, что его теория интеллекта, в отличие от аналогичных исследовательских программ, отвечает на ключевой вопрос: какие когнитивные способности позволяют человеческим существам выполнять необходимый функционал в различных культурах?

Из этого следует, что единственно верная, некая истинная и правильная точка зрения на интеллект не может быть обнаружена в принципе.

Наш мозг решает множество разных задач, зачастую друг с другом совсем не связанных. При этом каждый из нас специализируется на решении определённого круга задач, требующих максимального развития определённого вида интеллекта, а не всех интеллектов подряд.

Кто-то из нас в одном деле больше преуспевает, кто-то больше – в другом, и это нормально, это позволяет добиться распределения функционала между разными членами сообщества и увеличить общую продуктивность.

Но что же такое «общий человеческий интеллект», о котором все столько говорят, словно бы точно понимают, о чём идёт речь?

КОЭФФИЦИЕНТ ИНТЕЛЛЕКТА

Мы привыкли ассоциировать понятие «интеллекта» с IQ-тестом, что, в общем-то, и правильно. В конце концов, именно таким образом мы определяем, насколько человек умён (что, конечно, лукавство) или глуп: одарён, нормален или страдает олигофренией (умственной отсталостью).

Кстати, именно для выявления задержки психического развития и был придуман первый текст «на интеллект». В начале прошлого века во Франции вводилось обязательное школьное образование, и нужен был хоть какой-то инструмент, который бы позволял определить, отправлять ребёнка в школу или это бессмысленно.

За работу взялись Альфред Вине – врач, профессор Парижского университета, основавший первую во Франции Лабораторию экспериментальной психологии, – и руководитель Педагогической лаборатории в том же Париже Теодор Симон.

Они и создали первую «шкалу умственного развития», как нетрудно догадаться – «Бине-Симона». Дело было в далёком 1905 году.

Впрочем, интересно другое: то, как эта «шкала умственного развития», собственно, создавалась. Для начала Вине с Симоном выяснили, какого уровня подготовки учителя ждут от учеников, затем провели самые разнообразные тесты над детишками разных возрастов – исследовали у них память, внимание, мышление.

В результате те задания, с которыми справлялись более 50 % детей каждого возраста, – стали соответствующей возрастной нормой. Грубо говоря, если большинство двенадцатилетних детей справляются с какими-то заданиями – это «норма», а если двенадцатилетний ребёнок способен получить лишь средний результат десятилеток, то его умственное развитие не очень.

В 1912 году уже на основании этой шкалы немецкий учёный Уильям Штерн предложил понятие «коэффициента интеллекта» – того самого IQ. Что же это такое? На самом деле это просто отношение вашей способности решать те или иные ребусы к соответствующим способностям среднестатистического человека.

То есть, опять-таки, очень грубо: если я соберу тысячу человек и заставлю их тысячу раз бить пенальти, то я смогу выяснить, сколько в среднем люди пробивают этих самих пенальти. Затем мне останется лишь сравнить показатель каждого из участников этого дивного эксперимента с соответствующей средней величиной, и я смогу сказать, какой у него личный уровень «пенальтного интеллекта» (сразу предупреждаю, что я точно окажусь в числе пенальтиотсталых).

Собственно, этот принцип – коэффициента – и продолжает работать до сих пор при любых измерениях интеллекта.

Если вы когда-то заполняли IQ-тест, то это, скорее всего, был «текст Айзенка», и, вероятно, вы набрали по нему где-то от 90 до 110 баллов (это средний показатель). В сторону убывания – от 70 баллов и меньше – располагаются разные степени умственной отсталости, возможный максимум по тесту – 160 (но таких, честно говоря, если они вообще встречаются, я бы опасался даже больше умственно отсталых).

В общем, суть IQ-теста в следующем: вы мерите нечто (неизвестно что), но можете с уверенностью сказать, что у конкретного лица, в отличие от среднестатистического лица в популяции, данный показатель или больше, или меньше, ну или он – как у всех, среднестатистический (таковых, понятное дело, большинство).

То, что это имеет весьма мало отношения к науке, я думаю, вы догадываетесь. Так, например, упомянутый мною Ганс Айзенк придерживался, мягко говоря, националистических взглядов и активно использовал свой тест для «доказательства» умственной отсталости небелых рас.

Сделать это было несложно, равно как и опровергнуть соответствующие «научные данные»: созданный по тем же самым принципам тест, но отранжированный на соответствующей выборке (то есть в рамках африканской культуры), белые пройти уже не могли.

Кстати, российский математик, академик РАН Виктор Анатольевич Васильев и вовсе обнаружил в некоторых задачах классического теста Айзенка ряд достаточно грубых ошибок и некорректных формулировок. Поэтому понять, что там, в принципе, измерялось, не представляется никакой возможности.

Теперь давайте представим, каким бы был результат искусственного интеллекта, если бы его научили решать подобного рода задачи, а потом бы дали «заполнить» соответствующий тест. Если, конечно, поправить то, что обнаружил Виктор Анатольевич, а остальные десятилетиями не замечали, то те самые 160 из 160.

Итак, идея некого универсального человеческого интеллекта является глупостью и выдумкой. Нет такого. Мы обладаем множеством различных интеллектов (и совершенно не обязательно придерживаться классификации Говарда Гарднера или ограничиваться ею), но не общим интеллектом как таковым.

Нейрохирурги, нейрофизиологи и нейробиологи более ста лет, начиная с немецкого невролога Корбиниана Бродмана (возможно, вы слышали о «полях Бродмана»), дотошно расчерчивают карту коры головного мозга.

Действительно, кора нашего мозга не однородна:

• есть особенности её строения на клеточном уровне, на уровне структурной организации (разная толщина коры в разных зонах, разное количество её слоёв – от двух до шести);

• есть отличия функциональные: какие-то зоны коры жёстко запрограммированы на определённый тип деятельности, тогда как другие способны менять свой функционал в зависимости от внешних факторов;

• наконец, каждая область мозга имеет свои специфические нервные связи с другими зонами мозга, они входят в разные функциональные системы и в разные нейронные сети.


Стоит ли удивляться, что при наличии столь значительных морфологических отличий каждая из областей мозга, обладающая собственной спецификой, является генератором каких-то особенных «интеллектуальных продуктов» – «интеллектуальных продуктов» с разными характеристиками и свойствами.

Какая-то небольшая зона зрительной коры отвечает, например, за распознавание лиц – вы знаете, что не все из нас хорошо запоминают лица? Для меня, например, это постоянная проблема.

Другая область коры, на сей раз в височной доле, – за сборку звуковых раздражителей в мелодию. Вы никогда не задумывались о природе «музыкального слуха»?..

Третья какая-то зона – за пение. Не относитесь ли вы к тем людям, которые имеют идеальный музыкальный слух, но при этом им лучше не петь?

Четвёртая – за распознавание письменной речи.

Пятая – за работу вестибулярного аппарата.

И так далее, далее, далее…

В 2016 году в журнале Nature вышла статья Дэвида ван Эссена, Мэттью Ф. Глассера из Вашингтонского университета в Сент-Луисе, а также большой группы их коллег-нейробиологов, работающих в рамках уже ставшего знаменитым проекта – Human Connectome Project[18].

Статья называлась «Мультимодальное разделение коры головного мозга человека» и наделала в научном мире много шума.

Всё дело в том, что благодаря хрестоматийным уже «полям Бродмана» учёные были уверены, что существует всего 52 специфические области коры головного мозга. А тут вдруг выяснилось, что их в разы больше: участники Human Connectome Project обнаружили более сотни ранее неизвестных областей коры, отвечающих за речь, зрение, движение и проч.

Да, это как если бы посреди Тихого океана образовалась бы парочка новых континентов… Впечатляет. Впрочем, нельзя исключать, что если будет изобретена какая-то ещё более точная диагностическая методика, то может оказаться, что всех этих «материков», «островов» и «архипелагов» на просторах нашего мозга значительно больше, чем мы думаем.

Что ж, настало время, когда нам следует вернуться к главному вопросу этой главы: а о чём это, собственно, толкуют классификаторы «искусственных интеллектов»? Те самые, утверждающие с апломбом, что «слабый (узкоспециальный) искусственный интеллект» (УИИ) – это ещё куда ни шло, но вот «сильному (общему, человеческому) искусственному интеллекту» (ОИИ) не бывать никогда?

Где, мне интересно, они видели этот «общий» человеческий интеллект – в тестах Ганса Айзенка? По шкале Бине-Симона? Медицинский факт в том, что даже у человека нет какого-то «общего» или «единого» человеческого интеллекта. Чего мы требуем от машин?

Мы, наш мозг – это множество узкоспециальных человеческих интеллектов (раз уж мы никак не можем развязаться с этим словом и оно нас преследует). И все они, собравшись вместе, натужно и кое-как (далеко не всегда хорошо), обеспечивают нам наше с вами нехитрое, в целом-то, существование.

Думаю, в данный момент мне нет нужды уточнять, что человечество уже обзавелось огромным множеством «узкоспециализированных искусственных интеллектов», а то, что они ещё не слились в одну общую гиперинтеллектуальную массу, – это дело времени.

АГЛОМЕРАЦИИ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА

Автомобильный автопилот Google (Waymo) – это не просто искусственный интеллект, это гигантский искусственный интеллект, объединяющий множество других искусственных интеллектов.

Это комплексная система, в которую входит, например, Google Street View. Сам по себе этот искусственный интеллект строит объёмные дорожные карты, а ещё самостоятельно обнаруживает и затирает на бесчисленном количестве фотографий лица людей и номера автомобилей.

Но в рамках системы автопилотирования Google Street View кооперируется с другим искусственным интеллектом этой же компании – уже упомянутым мною лидаром (LIDAR).

Лидар представляет собой систему получения и обработки данных об удалённых объектах с помощью активных оптических систем и делает это онлайн в виртуальном пространстве Google Street View.

В автопилот Google, который рассматривается сейчас компанией-производителем в качестве программного обеспечения для различных марок автомобилей, входят и умные датчики. Как те, например, что позволяют соотносить положение автомобиля на карте с данными об актуальной ситуации на дороге.

И много чего ещё, потому что страдающие паранойей обладатели этих интеллектуальных богатств соглашаются показать посторонним зевакам лишь самую верхушку этого айсберга.

Конкуренция на этом рынке сейчас – это, по сути, война за будущий мир: кто первым разработает универсальную технологию, тот и победит всех остальных, оказавшись абсолютным монополистом. Первому в такой гонке достаётся всё.

Впрочем, есть и другая причина, почему мы не сможем увидеть большую часть того, что спрятано у этого «айсберга» под водой, и никто не сможет, поскольку там царство искусственных интеллектов, куда доступ всякому смертному запрещён по определению.

Пока ещё автопилоты под контролем людей наматывают сотни тысяч километров и растят эту свою «подводную» часть, но скоро им и для этого люди уже не понадобятся.

Или вот другой пример подобной агломерации «слабых» искусственных интеллектов, поражающий своей сложностью, красотой и скрывающейся в нём силой будущего всевластия, – Google Assistant.

Google Assistant – это вовсе не какая-то «программка», а сложнейшая система, включающая в себя общающиеся друг с другом искусственные интеллекты колонок Google Home (с ИИ распознавания голоса внутри и др.), смартфонов Pixel, устройств виртуальной реальности Daydream View и т. д., и т. п.

Какой бы продукт Google вы ни использовали – в нём есть специфический узконаправленный искусственный интеллект, который мониторит ваши компьютеры и прочие гаджеты, браузеры и учётные записи, приложения и финансовые операции, собирая все оставленные вами информационные следы.

Конечный адресат этих данных – тот самый Google Assistant. В идеале он должен превратиться в «существо», которое всегда знает, что вам нужно (или, в принципе, может потребоваться). Этот Assistant будет организовывать вашу жизнь, угадывая ваши желания ещё до того, как вы сами их осознаете. Но он будет так прозорлив не потому, что он понимает вас, а потому, что он знает о вас достаточно.

Он научится быть вашим другом – клавиатуры исчезнут, экраны тоже, – вы будете просто с ним разговаривать: «сделай свет ярче», «запаркуйся где-нибудь здесь», «включи музыку под настроение», «сделай воду похолоднее», «хочу похудеть на пять килограммов за ближайший месяц – пересчитай калорийность меню»…

Ещё через паузу Google Assistant будет понимать, что вы хотите, и без голосовых команд. То есть он станет более «человечным» по отношению к вам, чем самый близкий и родной вам человек. Но для этого ему не нужно будет «чувствовать вашу душу», «любить» вас и даже думать.

У него машинный интеллект – он сделает то, что нужно, просто анализируя нолики и единички, оставленные вами в цифровом мире. Ничего личного.

Искусственный интеллект – это не сказка из отдалённого будущего, это реальность сегодняшнего дня.

Наши автомобили, даже если на них ещё не установлен автопилот, – это уже целые агломерации искусственных интеллектов: один занимается антиблокировкой тормозов, другой перенаправляет фары, когда вы подруливаете машину, третий определяет параметры впрыска топлива, четвёртый строит карты на местности и общается со спутником по GPS…

Наши телефоны – это просто вавилонская башня из разных искусственных интеллектов, обслуживающих мобильные приложения, настраивающих на вас рекламные потоки, блокирующих спам, узнающих вас в лицо, по отпечаткам пальцев, понимающих вашу речь, контролирующих ваши финансовые средства. Чего только стоят Siri и отечественная Алиса?

Плюс бесконечные рекомендательные сервисы во всех возможных программах – от Facebook, предлагающего вам на выбор «друзей», подборки фотографий и событий, и до какого-нибудь банального iTunes и AppStore.

Это ведь не какие-то люди сидят и выдумывают – мол, какую бы музыку (или мобильное приложение) поставить тому или иному пользователю на первое место в рекомендациях? Нет, они бы и не смогли этого сделать – вряд ли бы угадали с подборкой. Перед нами результаты расчётов, создаваемых на постоянной основе полчищами постоянно обучающихся на наших реакциях искусственных интеллектов.

ЧТО ТАКОЕ ИСКУССТВО?

Да, осечки в работе узкоспециализированных искусственных интеллектов вроде бы случаются. Вот, например, недавно Туристическое бюро Фламандского региона Бельгии опубликовало на своей странице в Facebook несколько картин Питера Пауля Рубенса…

Искусственный интеллект, мониторящий контент, который пользователи размещают в этой социальной сети, идентифицировал работы Рубенса как непотребство – оголённая женская грудь, ягодицы навыкат, да и херувимы местами отдают чем-то педофилическим…

Обнаружил, идентифицировал и удалил Рубенса – прости-прощай! Случился, понятное дело, самый настоящий скандал – мол, цифровая цензура, что вы творите, супостаты фейсбучные, это же искусство! – сотрудники туристического бюро и вся присоединившаяся к ним либеральная общественность были неумолимы… в своей иронии.

Но с другой-то стороны, это ведь мы просто так с вами договорились (в рамках отдельно взятой культуры), что женская грудь кисти Рубенса – это искусство, а грудь Клаудии Шиффер – вроде как моветон. Более того, даже в нашей культуре, я не удивлюсь, если кто-то сочтёт Рубенса – пошлостью, а Клаудиу – счастьем неземным. Может, её грудь и в самом деле искусство – почему нет? Искусство природы, например, или пластического хирурга.

А как, например, быть с грудью Мэрилин Монро на внезапно обнаруженных интимных фотографиях?.. Вот что это – искусство? История и культура? Порно? Уверяю вас, что даже люди в рамках одной культуры (я сейчас намеренно не вспоминаю наших современников из мусульманских стран и т. д.) по этому вопросу вряд ли договорятся.

Так в чём тогда, собственно, проблема? Чей «узкий» интеллект в данном случае бажит – наш или машинный? Кто из нас двоих – он или мы – не может определиться с критериями, дать внятное определение? Да и есть ли они здесь вообще? А если их нет, то тогда, простите, что это вообще всё такое? Спектакль – мол, мы чего-то такое знаем, чего на самом деле не знаем, но скажем, что знаем, чтобы не выглядеть глупо?

У искусственного интеллекта, обученного должным образом, ответ всегда готов: грудь оголена – убираем, дети голые – звоним в полицию. Хорошо или плохо, правильно или неправильно – ему не важно. Если дано такое задание – надо найти, идентифицировать и принять необходимые меры.

Но разве наш с вами человеческий интеллект не таков? Разве вы не испытываете, абсолютно автоматически и спонтанно, в одних жизненных ситуациях чувство отвращения, а в других, наоборот— радости и возбуждения? Да, только нам наши реакции кажутся естественными и мы не замечаем собственной запрограммированности.

Поэтому когда кто-то говорит, что в этой предзаданности реакций как раз и состоит глупость искусственного интеллекта, это забавно. Люди дали ему то задание, которое дали, – допустим, удалять изображения с оголённой грудью, и если он с этим справится, он молодец. А вот то, что мы даже не замечаем своего субъективизма, своих автоматизмов и непоследовательности в суждениях – это как раз чести нам не делает.

Это люди не знают, как договориться про грудь, ягодицы и голых детей в искусстве, культуре и истории. В Эрмитаже, например, хранится огромная коллекция порнографии, которую выписывали со всей Европы российские императоры и императрицы. Тогда это было порно, а сейчас – художественная живопись и исторический документ.

А как быть с голыми мальчиками Александра Иванова из Третьяковки – это же, с сексопатологической точки зрения, чистой воды разврат! Причём прямо напротив «Явления Христа народу»… Ужас.

Или как определить содержимое запасников Русского музея, где, например, хранится «непотребство», которым баловался на старости лет Лев Бакст. Такое количество половых органов, что ого-го! Это что, тоже порно? Выглядит, скажу я вам, именно так.

Мы не знаем, что с этим делать, как это определить. Мы – со своим хвалёным биологическим интеллектом! А вот искусственный, специализирующийся на решении соответствующего вопроса, последователен и разумен: находит, вычисляет и действует, как надо. Причём сам при этом вовсе не возбуждаясь на наготу.

Как думает мозг?

Очень трудно изменить точку зрения людей, например, на сознание, и я наконец выяснил почему.

Причина в том, что каждый является экспертом в области сознания.

ДЭНИЕЛ ДЕННЕТ

Теперь давайте зададимся вопросом…

Мы с вами посмотрели, как работают некоторые искусственные интеллекты. Пусть даже они узкие и «слабые» – в чём проблема, если мы сами – набор таких же? Тут проблемы обнаружить действительно не удаётся.

Но почему, если мы смотрим на проявления нашего интеллекта (биологического) и работу искусственного, нам всё-таки кажется, что они сильно, если не радикально, отличаются?

Думаю, что такое впечатление складывается потому, что искусственный интеллект занимается какими-то глупостями, а ещё потому, что действует предельно расточительно и нелогично. Сколько лидару нужно всего сделать, чтобы создать карту реальности вокруг автомобиля? – это ужас что такое!

Человек-водитель не будет разглядывать всех людей на прилегающих улицах, определять скорость движения всех автомобилей на расстоянии трёх футбольных полей вокруг. А лидар всё это делает и ещё, вы не поверите, изучает цвет каждого светофора на перекрёстке – то есть буквально всех, смотрящих во все стороны! Нормальный, нет?

Ощущение не только избыточности, но и избыточной тупости, правда? Вы вообще можете себе представить, чтобы хоть кто-то из нас делал нечто подобное, если, конечно, его под дулом пистолета к этому не принудят?

Ну, положим, лица на фотографиях Google Street View мы с вами различить и замазать сможем, а с грудью и ягодицами уж тем более справимся. Но к этому нас, надо сказать, сотни тысяч лет эволюция готовила. Это результат специфических настроек в нашем мозгу и плюс научение ещё.

Но вся прочая работа искусственных интеллектов – она какая-то совсем античеловеческая. Мы так не думаем, как это они делают! Мы точно делаем это иначе! Умнее!

С другой стороны, мы просто не в курсе? На самом деле наш мозг, конечно, строит пространственные модели реальности, как и лидар. И делает это на постоянной основе!

А наш мозжечок, например, производит, по сути, те же действия, что и все эти бесчисленные умные датчики в автомобилях, – круиз-контроль и прочие такие штуки. Огромный объём работы!

Или вот, например, речевые центры Брока и Вернике – разве не совершают они те же действия по распознаванию речи, как это делают Siri с Алисой?

Разумеется, наш мозг постоянно занимается распознаванием речи, но если она нам родная, мы просто не осознаём этого. Если же вы плохо знаете какой-то язык, то вы чувствуете, как, общаясь с носителем этого языка, только тем и заняты, что распознаёте его речь – пытаетесь понять, где в этом звуковом потоке начинаются и заканчиваются отдельные слова и что они, эти слова, учитывая контекст, могут значить.

Наш мозг всё это делает, и постоянно – мы просто не в курсе! А самое главное, мы совершенно не замечаем множества дефектов своих моделей реальности – и это не только огромные информационные пробелы, но ещё и бесконечные иллюзии восприятия и понимания.

Нам кажется, например, что мы мыслим логически, а наша интеллектуальная деятельность – это осознанный процесс построения логических конструкций. Но это не так: человек нелогичен, непоследователен и переменчив во взглядах.

Наше мышление и связанное с ним поведение – это одно сплошное когнитивное искажение, не говоря уже о субъективизме, обусловленном специфическим жизненным опытом каждого из нас.

Но тут можно возразить: если всё так, то как же получается, что столь ненадёжное существо умудряется быстро и ловко решать множество сложнейших задач, а искусственному интеллекту нужно проделать для этого огромный объём работы и использовать невероятное количество вычислительных мощностей?

Этот ларчик открывается достаточно просто – дело в нашей с вами ограниченности. Звучит это, наверное, несколько дико, но давайте рассмотрим эту кажущуюся парадоксальной точку зрения.

Биологическая эволюция миллионами лет готовила наш мозг к решению считанного, на самом-то деле, и весьма незначительного количества задач, необходимых для нашего выживания. Соответственно, настройки, которые в нас, так сказать, вшиты, достаточно примитивны.

Например, эволюция заставляет нас искать и поглощать калории, а также информацию. Но вот среда изменилась – и того и другого стало в избытке, и мы страдаем от ожирения – как физического, так и информационного.

Проще говоря, наш мозг не может сам по себе остановиться, хотя мы сознательно понимаем, что хватит. Нет, он ест и скролит – пока сил хватает. Это разумно? Нет.

В общем, мы были неплохо созданы под конкретные задачи. Но реальных задач у нас было немного, поэтому и хвастаться нашим «суперкомпьютером» вряд ли стоит.

Да, в нас есть настройки под конкретные задачи – на какие объекты и какой последовательностью действий реагировать. Мы с этими настройками рождаемся и дальше тренируем их в процессе последующего онтогенеза (своего индивидуального развития), адаптируясь к конкретным условиям жизни – в монгольских степях или джунглях Амазонии.

Причём проходим, по сути, все фазы – от примитивного реагирования, ничего не видя и не понимая, до более и более сложного поведения, пока не решим, что, мол, всё, достаточно учиться и тренироваться – мы и так лучше всех.

Эмбрион в процессе своего развития в утробе матери трансформируется из одноклеточного организма в полноценного млекопитающего, в человека. Это, образно говоря, как миллионы лет эволюции на ускоренной перемотке[19], что схематично показано на рисунке № 3.

Как это нам удаётся? Просто потому, что у него есть программа – предустановки, прописанные в нашем ДНК.


Четвертая мировая война. Будущее уже рядом

Рисунок № 3. Ускоренный филогенез в эмбиогенезе


С нашим мозгом, уже после рождения, происходит примерно то же самое: мы проходим путь его последовательного развития из бессмысленной массы нейронов в сложную структуру нервных связей, обуславливающих жизнь и деятельность взрослого человека.

Проходим, надо признать, достаточно быстро – лет за 20–25, когда завершается миелинизация тех областей префронтальной коры, которые отвечают за создание образа будущего[20].

Теперь давайте чуть-чуть добавим самоиронии:

• даже при наличии генетически предустановленных в нас настроек, благодаря которым все области коры головного мозга изначально специализированы и буквально выпрыгивают из штанов, ожидая, когда же им наконец дадут развиться,

• даже при том, что адаптироваться – то есть развивать наш мозг – нам предстоит в рамках внятной и понятной образовательной среды, которая создана для нас культурой и буквально напичкана общественными отношениями, мириадами воспитателей, учителей, тренеров и т. д., и т. п., нашему расчудесному мозгу требуется 25 лет на его формирование!

Знаете, по сравнению даже с нынешними «слабыми» искусственными интеллектами, наш с вами – биологический – страдает существенными задержками развития.

МЫ ПРОСТО НЕ ПОМНИМ

У этого когнитивного искажения даже есть название, которое ему дал психолог Робин Хогарт: «проклятие знания». Суть этой психологической иллюзии – в том, что если мы с вами что-то знаем, то мы не можем вспомнить, каково это – не знать этого.

Например, все мы знаем таблицу умножения и не понимаем, как можно её не понимать. Поэтому, когда нам приходится объяснять своим детям, что это такое и почему так, у нас волосы становятся дыбом – почему он не может понять этого?!

Мы не помним, как сами находились в том же самом положении – не могли взять в толк, как эти цифры на обратной стороне школьной тетрадки друг с другом связаны. По этой же причине, наверное, трудно найти более неприятное занятие, чем учить кого-то водить автомобиль, – опытный водитель не помнит, как он сам не знал этого, а объяснять сложно.

Наконец, по этой же причине руководители так часто спускают всех возможных собак на своих подчинённых за «глупость» и «нерасторопность». Они-то, будучи руководителями, видят всё, что происходит в компании, сверху, прошли все ступени в ней и со всеми составляющими производственного процесса в своё время сталкивались. И да, теперь они не помнят, каково это – быть рядовым сотрудником и не знать того, что они теперь знают.

Так и мы считаем себя центром вселенной и вершиной эволюции, потому что не помним, насколько бессмысленными созданиями мы были раньше, – аж, прошу прощения, до 25 лет.

Каждый из нас в своё время прошёл все фазы программирования своего мозга. Было время, когда мы не умели сдерживать мочеиспускание, а когда научились, для наших родителей это было что-то невероятное, словно манна небесная.

Мозг ребёнка учится буквально всему. Мы учимся воспринимать окружающий мир посредством небольшого количества данных нам эволюцией органов чувств – видеть, слышать, ощущать его тактильно, на вкус, на запах и т. д. И мы именно учимся этому.

Из школьной программы по биологии вы, вероятно, помните, что из-за оптического устройства нашего глаза изображение на его сетчатку попадает в перевёрнутом виде. То есть ребёнок сначала видит мир перевернутым, а затем, поскольку это противоречит его тактильному опыту (он промахивается, когда пытается за что-то ухватиться), он учится своим мозгом это изображение «переворачивать».

Другой пример: новорождённый ребёнок не видит лиц других людей, ему этому тоже надо научиться. Сначала его мозг обучается выделять, распознавать структуру лица: округлую форму, прямую и поперечную симметрию лица, его базовые элементы – глаза, рот, брови…

Это происходит примерно так, как изображено на рисунке № 4. Ото дня ко дню, от недели к неделе. Месяцы потребуются для того, чтобы ребёнок смог наконец научиться осмысленно фиксировать свой взгляд на человеческом лице.

Четвертая мировая война. Будущее уже рядом

Рисунок № 4. Схематичное представление формирования у ребёнка навыка распознавания человеческих лиц


Никогда не задумывались, почему дети, начинающие рисовать, поначалу забывают про носы на лицах? Потому что для них это просто линия симметрии, носы не функциональны, в отличие от глаз (направление движения которых важно с эволюционной точки зрения) или рта, который может укусить.

Совершенно аналогичная ситуация с прочими органами чувств и соответствующими корковыми анализаторами[21] – все они тренируются, «натаскиваются» на создание картины реальности в результате соответствующих практик и опытов.

Способность различать формы, цвета, вкусы, текстуры и т. д. – это, проще говоря, натренированные навыки, к чему, впрочем, наш мозг был эволюционно приспособлен.

Кроме прочего, мы учимся противостоять воздействию гравитации и передвигаться с учётом окружающих нас объектов. Дело это очень непростое, поскольку требует от мозга объединения многих самостоятельных функций: тактильных ощущений и проприоцептивных данных[22] от собственных мышц и связок, создания собственной «схемы тела» и образа «внешнего мира», в котором это тело находится, тренировки большого количества двигательных навыков и т. д.

Припоминаете, как младенец учится хвататься за палец взрослого, держать голову, переворачиваться на живот, садиться, вставать на четвереньки, а затем на ноги, ходить, огибать препятствия, при этом, правда, постоянно с ними сталкиваясь? Это большая и сложная работа – превратиться из лежащего пластом новорождённого в перемещающуюся в пространстве машину.

Для того чтобы понять грандиозность этой задачи, приведу всего лишь два факта.

Факт первый: за координацию движений, регуляцию равновесия и мышечного тонуса в нашем мозге отвечает мозжечок, а количество нейронов в мозжечке примерно в два раза больше, чем во всей коре головного мозга.

Попробуйте представить сложность задачи, для которой требуется такое количество расчётных мощностей. Стоит ли удивляться тем трудностям, с которыми сталкиваются создатели антропоморфных роботов?

Оказалось, что научить компьютер читать, писать, переводить с языка на язык и т. д. куда легче, чем просто заставить машину передвигаться в пространстве. Самая успешная в этом отношении компания – это, несомненно, Boston Dynamics. Её невероятных антропоморфных роботов – ходящих, прыгающих, бегающих, а ещё роботов-собак – вы можете посмотреть в YouTube.

Да, это самое настоящее чудо техники, хотя по-прежнему неловкое, недоделанное и требующее ещё невероятных дополнительных затрат. В 2013 году компания Google приобрела Boston Dynamics, но спустя три года продала, поскольку не увидела, что сможет в обозримом будущем создать на основе этих разработок коммерчески успешный продукт – настолько это сложно!

Но, зная о том, какое количество клеток в коре головного мозга человека и сколько в мозжечке, я абсолютно этому не удивляюсь. Это реально сложно, если природа вложила в нас для этих целей такой огромный расчётный модуль!

Второй факт касается сложности соотнесения данных в рамках всей этой деятельности. С одной стороны, мы должны построить «модель мира», опираясь на тактильные ощущения, а также собственную «схему тела» и затем подружить их. С другой стороны, мы должны натренировать зоны движения, которые воспользуются этим знанием.

Вроде бы нехитро, но приглядитесь к тому, как это выглядит на схеме со знаменитым «человечком Пенфилда»…[23] Пространство мира и нашего тела создаётся постцентральной извилиной, анатомически относящейся к теменной доле (насладитесь этим «уродством»), а двигательные реакции на это безобразие обеспечиваются моторной корой – это прецентральная извилина лобных долей (см. рис. № 5).

Четвертая мировая война. Будущее уже рядом

Рисунок № 5. Схема сенсорной и моторной коры головного мозга


Рассказывать о том, как наш мозг учится создавать «реальность» и помогает нашему телу функционировать в ней, можно долго. Впрочем, принцип, я думаю, в целом уже ясен: есть нейронный сервер, который необходимо запрограммировать в опыте.

Если этого «программирования в опыте» не случится, то клетки, которые эволюционно предназначены под те или иные задачи, просто отмирают, а соответствующие функции станут нам недоступны. Например, если до десяти лет ребёнок воспитывается вне языковой среды, то, скорее всего, он уже никогда не сможет овладеть языком.

Впрочем, как я уже сказал, кроме этого «программирования в опыте» есть ещё и базовые настройки, которые заданы мозгу генетически.

Мы не просто так создаём в себе реальность окружающего мира, а под те самые ограниченные задачи выживания, и под это в коре головного мозга зарезервированы соответствующие площади.

Сладкое не просто так кажется нам вкусным, горькое – горьким, громкое – пугает, поглаживания (тот самый груминг) – расслабляют, поцелуи возбуждают и т. д., и т. п. Всё это нужно для выживания – физического, в рамках социальной группы и всего вида в целом.

То есть нам не нужно учиться целям этих действий, нам нужно только освоить сами действия, к чему нас побуждают внутренние настройки организма – от нейрофизиологических до гормональных факторов.

В этом, по большому счёту, базовое отличие биологического интеллекта от искусственного: мы как бы заранее знаем, зачем нам нужен тот или иной навык. Он – этот навык – заточен под результат, о котором мы даже не задумываемся, потому что не мы эту цель себе поставили. Её прописала в наших генах эволюция, а мы лишь, как программа, способная учитывать обстоятельства окружающей среды, пытаемся её достичь.

Ко всему этому, вероятно, следует добавить ещё несколько «чувствительных» деталей. Например, то, что биологическая эволюция не мелочится и жертвы её никогда не пугали. Так что количество её неудачных опытов, как нетрудно догадаться, прохаживаясь по палеонтологическому музею, значительно превосходит число успехов и прорывов.

Сам принцип естественного отбора – это наличие жертв: слабые, неспособные, не умеющие адаптироваться существа должны сгинуть, не оставив потомства. И это логично, но от искусственного интеллекта мы по каким-то загадочным причинам ждём не только мгновенной умности, но и безошибочности работы.

Каждая автомобильная авария с автомобилем, управляемым автопилотом, становится предметом подробнейшего разбирательства и главной новостью на местных телеканалах. Конечно, это же ужас какой! При этом то, что ДТП с участием обычных автомобилей не попадают в новости из-за того, что их слишком много и это до того обыденно, что «не новость», почему-то никто не задумывается.

К настоящему моменту автомобили с автопилотом разных компаний и производителей намотали пробег в миллионы километров, многократно обогнули земной шар. А много ли вы слышали историй об убийстве человека машиной с автопилотом?..

Исследователи компании Axios самым серьёзным образом подошли к изучению статистики дорожных происшествий в Калифорнии с участием робомобилей. С 2014 по 2018 год удалось насчитать 38 таких ДТП. И что же? Выяснилось, что во всех случаях, кроме одного, когда действительно произошёл сбой алгоритма автопилота, виновником ДТП был человек.

Но несмотря на это, информация о подобных ДТП, прошедшая через СМИ, неизменно приводит к резкому снижению доверия публики к технологиям автопилотирования. Забавно, правда?

Нам легко войти в положение человека, убившего другого человека своей машиной, даже если он был пьян, обкурен или просто невнимателен. Но умную машину мы готовы осудить, даже если она невиновна. Да, мы просто кладезь когнитивных искажений…

Правда в том, что уже сейчас прекрасно работающий искусственный интеллект совершенно не похож на нас – на своего создателя. Ни в фас, ни в профиль. Однако же он делает ровно то, что делает наш с вами мозг, причём в каждом отдельном случае значительно лучше него (или, по крайней мере, лучше и лучше с каждым днём).

Когда-то считалось, что научить машину распознавать человеческие лица – это что-то за гранью фантастики: нельзя, невозможно, никогда не получится. Однако сейчас интеллектуальные системы распознавания лиц справляются с этой задачей лучше людей и уж точно значительно лучше меня (всегда страдал от этой проблемы).

А на вопрос, каким образом им это удаётся, ответ будет прост до неприличия – они научились. Как и мы с вами в своё время, только у нас были эволюционные настройки, предуготованность к распознанию лиц, соответствующие области мозга в зрительной коре, а у него – нет.

Почему эта задача, применительно к искусственному интеллекту, ранее считалась невыполнимой? Потому что разработчики думали: какие алгоритмы ввести в систему, чтобы научить её распознавать лица, или, например, отличать морду собаки от кошки?

Но разве у нас есть «сознательные» правила на этот случай? Разве у нас самих не происходит всё это на подсознательном уровне? Разве мы не называем этот навык интуитивным? Хотя никакой интуиции не существует, и это всегда результат не осознаваемой нами работы нашего же мозга.

Да, мы не знаем (сознательно), по каким принципам мы узнаём людей в лицо, мы не знаем (сознательно), что позволяет нам так быстро и «просто» отличить кошку от собаки. Так кого мы можем этому научить?

Правда в том, что мы сами не понимаем того, как наш мозг решает эту, да и подавляющее большинство других жизненных задач. Наш мозг делает это на тех уровнях своей организации, куда наше самодовольное и самоуверенное сознание никогда не заглядывало и даже, при всём желании, заглянуть не может.

Проще говоря, искусственный интеллект – это, в действительности, некий искусственный мозг, а не «интеллект» в привычном для нас понимании этого слова. Точнее, даже не мозг, поскольку он является интегральным органом, а пока лишь искусственная нервная ткань: огромное множество отдельных сетей, работающих – до поры до времени – независимо друг от друга.

Но как мы видим, они – эти отдельные пока искусственные интеллекты – уже начали собираться в агрегации и работать совместно. Именно так, должен сказать, происходило и в процессе эволюционного филогенеза – то есть исторического развития – нашей с вами нервной системы.

ПРАХ ОТ ПРАХА

Изначально у наших предков – у всяких кишечнополостных, например, – нервная система была «диффузной» (впрочем, была и есть – они так ею и пользуются). Это значит, что нервные клетки и их небольшие скопления располагаются в разных частях тела животного и не соединены в единый функциональный комплекс.

Затем эволюция опробовала «узловую нервную систему» – ею могут похвастаться всякие моллюски, членистоногие, кольчатые черви. Здесь скопления нервных клеток уже образуют нервные узлы – ганглии, а из скоплений отростков нервных клеток формируются нервные стволы, проще говоря – нервы[24].

Наконец, третий этап – это «трубчатая нервная система», которая характерна для хордовых. То есть все позвоночные, начиная с самых примитивных форм (например, ланцетника) и заканчивая человеком, обладают «трубкой» центральной нервной системы, которая оканчивается в головном конце объёмной ганглиозной массой.

Дальше уже в рамках развития этой «трубки» происходили такие процессы:

• централизация – группировка нервных центров в морфофункциональные конгломераты, располагающиеся в разных отделах тела животного (каждый нервный узел обеспечивал работу определенного сегмента);

• специализация – соподчинение различных ганглиев друг другу, увеличение специфичности нервных клеток (то есть они начинают выполнять разные функции), а также формирование афферентной системы (приводящей сигнал) и эфферентной (отправляющей команды);

• цефализация – это подчинение задних отделов центральной нервной системы головным, формирование сложных иерархических отношений между элементами нервной системы в целом;

• кортикализация – формирование и совершенствование коры больших полушарий головного мозга, обеспечивающей тонкость дифференци-ровки нервных сигналов и возможность сложного обучения.

В каком-то смысле искусственный интеллект переживает сейчас свой филогенез и экспериментирует в сторону усложнения. Даже биологическая эволюция, как вы, наверное, знаете, не была линейной, и все виды животных, которые обитают сейчас на планете Земля, являются, по сути, вершинами своих генетических линий.

Поэтому, реконструируя таким образом логику эволюции нервной системы, мы реконструируем логику исторического формирования своей нервной системы, которую считаем, разумеется, идеальной. Но это мы так считаем…

Если у вас будет желание, очень рекомендую ознакомиться с книгой замечательного учёного-этолога Франса де Вааля с провокационным названием – «Достаточно ли мы умны, чтобы судить об уме животных?».

Автор книги – ученик нобелевских лауреатов Николаса Тимбергена и Конрада Лоренца, а также автор революционной и уже ставшей хрестоматийной работы «Политика у обезьян» – ненавязчиво, но доходчиво сбивает спесь с нашего представления о своем невероятном величии.

Наша нервная система хороша для решения тех задач, которые мы были принуждены решать в рамках своей среды обитания и для удовлетворения своих потребностей. Но мы зачастую абсолютно неспособны решить задачу, с которой легко справляются пчёлы, или какие-нибудь сойки, или, наконец, шимпанзе.

Мы пытаемся приспособить искусственный интеллект под свои нужды – и это понятно, зачем ещё нам его создавать? Но правда в том, что мы создаём некий «интеллект» (что бы это ни значило), который уже живёт своей жизнью, активно эволюционирует, и не факт, что не добьётся в этом тех же успехов, что и наш вид – подвергший все остальные тотальному межвидовому геноциду.

«Нам надо прекратить изображать из себя великих творцов, которые сохраняют контроль над тем, что мы делаем, и начать думать о своей будущей роли. Возможно, нас ожидает та же судьба, что постигла смиренную митохондрию, простую клетку, которая была когда-то давным-давно поглощена большей клеткой. Она отказалась от самостоятельной жизни, чтобы стать электростанцией для своего носителя, в то время как носитель перестал самостоятельно вырабатывать энергию, чтобы сосредоточиться на других задачах. Оба извлекли пользу из этого процесса симбиогенеза. Не происходит ли то же самое с нами?»

СЬЮЗАН БЛЭКМОР, психолог, профессор Университета Плимута

Тот феномен, который мы по сложившейся традиции обозначаем словосочетанием «искусственный интеллект», не предполагает человекоподобия по существу, а уж тем более во внешнем облике.

Неудивительно, что попытка воспроизвести человеческое существо из металла, транзисторов и проводов, эдакого Голема, но на новый – технологический – манер, разумеется, была обречена на неудачу.

Но была ли подобная стратегия в принципе верной?

Если верить еврейской мифологии, сделанный праведником Лёвом глиняный истукан был оживлён мистическими силами Каббалы.

То есть дух был сказочным образом внесён в эту куклу. Ожидать же от инженеров тех же чудесных мистических сил – как минимум странно.

Конечно, ничего «такого» мы внести в машину, оснащённую каким угодно мощным искусственным интеллектом, не можем. Она или создаст какие-то специфические, интересующие нас эффекты, или нет. Мы же не герои ближневосточного фольклора и даже не герои из вселенной Marvel.

И с чего мы вообще взяли, что, создавая искусственный интеллект, мы должны кудесничать на манер древнееврейского Иеговы?

Как выясняется, идти старым, добрым, проверенным путём эволюции – последовательно, от меньшего к большему – куда более разумно, чем указывать искусственному интеллекту, каким он должен быть и главное – каким образом ему этого следует добиться.

В конце концов, эволюционные принципы действительны сами по себе, а субстрат, на котором они себя проявляют, не так уж и принципиален. Вполне возможно, что на кремниевом или каком-то другом ненуклеотидном субстрате всё будет происходить даже лучше и быстрее.

С учётом тех технологических возможностей, которыми мы уже располагаем, в этом, мне кажется, можно даже не сомневаться…

Кротовая нора

Самая могущественная из известных нам на сегодняшний день разумных машин собрана из миллиардов человеческих мозгов, каждый из которых представляет собой огромную сеть нейронов.

ДЭВИД КРИСТИАН

Пока философы с психологами играли в слова, нейробиологи пошли долгой дорогой – шаг за шагом изучая нервную ткань, – и в результате зашли в скиннеровский «чёрный ящик» с другого входа.

Всё началось с итальянца Камилло Гольджи и испанца Сантьяго Рамона-и-Кахаля. Первый изобрёл способ окрашивания нервной ткани дихроматом калия и нитратом серебра, а второй использовал полученные результаты, чтобы сформулировать теорию, согласно которой функциональной единицей нервной системы является нейрон (так называемая «нейронная доктрина»).

В 1906 году этот творческий союз получил Нобелевскую премию по медицине «в знак признания их трудов о структуре нервной ткани» (см. рис. № 6).

За этим последовали премии Чарльза Скотта Шеррингтона и Эдгара Дугласа Эдриана (1932), Генри Дейла и Отто Леви (1936), Джона Экклса, Алана Ходжкина и Эндрю Хаксли (1963) – всё за нейробиологические открытия, описывающие работу нейронов.


Четвертая мировая война. Будущее уже рядом

Рисунок № 6. Общий вид шести слоёв коры головного мозга


Пока, наконец, в 1981 году Нобелевская премия не была присуждена Дэвиду Хьюбелу и Торстену Визелю «за открытия, касающиеся принципов переработки информации в зрительной системе»[25].

Должен сказать, что премии безусловно заслуживал и Вернон Маунткастл – невролог, работавший в Университете Джона Хопкинса, который ещё в 50-х годах создал теорию модульной организации коры головного мозга, которая активно использовалась Хьюбелом и Визелем.

Но Нобелевский комитет не любит вручать свои премии за теории, поэтому приз получили те, кто сделал теорию Вернона Маунткастла эмпирической явью.

Маунткастл предположил, что нейроны коры головного мозга создают на её поверхности своего рода поля размером около пяти с половиной миллиметров, и эти поля друг другом не перекрываются.

Впрочем, поля – это только начало, верхушка большой структуры: дальше, как бы внутрь коры, идут слои нервных клеток, связанных друг с другом в рамках общего функционала.

То есть, грубо говоря, там, в коре головного мозга, есть своего рода вытянутые в глубину модули, каждый из которых занят своим делом. Нижняя часть такого модуля переходит в белое вещество – это что-то вроде проводов, а сами кортикальные колонки – это сервер, расчётные мощности. И чем выше уровень (слой коры головного мозга), тем более обобщённая информация там генерируется.

Эти модули получили название «кортикальных колонок». Но с тех пор выяснилось, что открытые Маунткастлом кортикальные колонки являются «гиперколонками», каждая из которых состоит из сотни «микроколонок», а та, в свою очередь, собрана из 80-120 нейронов (см. рис. № 7).


Четвертая мировая война. Будущее уже рядом

Рисунок № 7. Модульная организация коры головного мозга


В общем, это, так сказать, нейроклеточная матрёшка, о чём я достаточно подробно уже рассказывал в книге «Чертоги разума».

МУЧАЛИ КОШКУ. ВИНОВНЫ!

Дэвид Хьюбел и Торстен Визел проводили микрокартирование зрительной зоны коры головного мозга котят (и не только) с помощью микроэлектродов. Целью их изучения был процесс обработки визуальной информации.

В результате этой работы учёные смогли ответить на несколько принципиально важных вопросов. Например:

• информация о линиях, ориентации и движениях визуально воспринимаемых объектов обрабатывается в разных частях коры;

• индивидуальные клетки в зрительной коре кошачьего мозга реагируют на простые паттерны – например, на края и линии, расположенные под определёнными углами;

• ещё до попадания в зрительную кору происходит суммирование зрительных сигналов до определённых паттернов (можно сказать, пакетов информации)[26];

• все корковые клетки в одной микроколонке реагируют на один тип визуального паттерна, а клетки в колонках на других участках зрительной коры – на другие типы зрительных паттернов.

На несчастных котятах, кошках и макаках Хьюбе-лом и Визелом было сделано ещё много других открытий. В частности, было доказано существование «критического периода», когда мозг новорожденных котят должен получать визуальную стимуляцию для нормального развития.

Кроме того, была продемонстрирована удивительная нейропластичность кортикальных областей. Так, например, исследователи показали, что клетки зрительной коры слепого глаза научаются обрабатывать зрительный сигнал из глаза видящего.

Но всё это в данном случае не так интересно.

Важно, что в результате этих исследований стало понятно, как мозг создаёт картину реальности: в нём, как оказывается, есть нейротранзисторы, собранные из единичных клеток, которые, получая определённого рода сигнал, реагируют на него. А совокупная реакция конкретного набора активизированных микроколонок зрительной коры и ощущается нами как зрительный образ.

Впрочем, как выяснилось, это универсальный принцип организации корковых областей. Так что, если это будет, например, не зрительная кора, а обонятельная, мы будем ощущать тот или иной запах благодаря возбуждению соответствующих микроколонок.

Поэтому неудивительно, что в своём приветственном обращении в связи с присуждением ему Нобелевской премии Дэвид Хьюбел сказал буквально следующее: «открытие столбцов в соматосенсорной коре было единственным вкладом в понимание коры головного мозга с момента Рамона-и-Кахала».

«Большинство корковых клеток плохо отвечает на диффузное освещение и хорошо – на линии с нужной ориентацией. Так, при показе фигуры, напоминающей по форме почку, такого рода клетка будет отвечать тогда и только тогда, когда участок границы с определённой ориентацией будет пересекать её рецептивное поле. Те же клетки, рецептивные поля которых расположены внутри границ фигуры, никак не отреагируют – они будут продолжать давать спонтанный импульсный разряд независимо от присутствия или отсутствия данной фигуры.

Четвертая мировая война. Будущее уже рядом

Из всего множества клеток зрительной коры реакцию на подобный стимул будет давать только очень небольшая группа клеток».

ДЭВИД ХЬЮБЕЛ, нобелевский лауреат по физиологии и медицине

Сейчас где вы только про эти кортикальные колонки не прочтёте и не услышите – и у Говарда Гарднера, и у Рэя Курцвейла, и вообще у всех, кто хочет хоть сколько-нибудь здраво понимать то, что происходит в нашем с вами головном мозге, а ещё в «мозге» искусственного интеллекта.

Да, именно последнее обстоятельство и сделало открытие Маунткастла столь актуальным. Совсем не случайно один из ведущих исследователей искусственного интеллекта Джефф Хоукинс сравнивает статью Вернона Монтакла «Принципы организации церебральной функции: общая модель и распределённая система» 1978 года с «розеттским камнем»[27].

Каждая кортикальная колонка является своего рода счётной машинкой: получив на входе некий сигнал, она оценивает его и выдаёт в качестве результата всё, что является нами с вами, нашей психической деятельностью.

Всё, что вы видите, слышите, ощущаете, чувствуете, переживаете, хотите, думаете (по желанию можете этот ряд как угодно продолжить), – это результат работы таких вот микроколонок, своеобразных пикселей нашего с вами психического опыта.

Эти колонки запрограммированы генетически и натренированы в рамках практического использования производить то, что вы считаете самими собой и миром вокруг себя.

Грубо говоря, они обучены производить некие эффекты, из которых складывается ваш перцептивный, двигательный, психологический, да и вообще весь прочий опыт – ваш субъективный мир.

Теперь представьте, что мы берём некое ваше переживание – например, чувство любви к какому-то человеку, – и пытаемся посмотреть в ваш «чёрный ящик» с того входа, который нам предложили Сантьяго Рамон-и-Кахаль и Вернон Маунткастл.

Сначала мы увидим перед собой нечто огромное – общее состояние влюблённости, восторг и ощущение счастья. Впрочем, за этим состоянием, которое нам только кажется в моменты, когда мы пытаемся его осмыслить, стоит множество уже вполне конкретных переживаний, образов, ощущений, мыслей.

И всё это, как кажется, мы можем разглядеть в вашем мозге: вот ваше случайное знакомство, совместная прогулка, переглядывания, расставание и ожидание звонка, милые ухаживания, планы на будущее, которые рисует вам ваше воображение, подготовка к новой встрече, ощущение сердца, которое готово вырваться из груди, а вот, наконец, и первый поцелуй чувственных губ, нежность объятий, страстный секс.

Впрочем, присмотревшись и заглядывая в наш «чёрный ящик» чуть глубже, мы увидим множество единичных деталей – секундные воспоминания: переглянулись, прикоснулись, что-то сказали, заскучали, подумали, испугались, поторопились, попросили, присели, встали, что-то съели, снова переглянулись, попрощались.

Эффект всё больше начинает напоминать разоблачение той визуальной иллюзии, когда вы постепенно приближаетесь к картине импрессиониста: только что вы видели перед собой готический собор или кувшинки под мостом, возможно, толпу людей на парижской улице…

Но вот вы подходите ближе, ближе – и ваш взгляд уже различает лишь единичные мазки, которые совсем не похожи ни на декоративный орнамент храма, ни на цветы, ни тем более на людей.

Вам кажется, что ваши отношения с предметом вашей страсти – это нечто постоянное, неразрывно текущее во времени и пространстве. Но это не так – вы, я полагаю, как минимум прерывались на сон и ходили в туалет (надеюсь, без сильного чувства любви).

То есть весь этот протяжённый и непрерывный объём чувствования – это лишь ощущение, созданное сейчас и в данной ситуации вашим мозгом. Это рассказ-описание для данного случая (ad hoc, как сказали бы философы): для конкретного слушателя, в конкретном вашем самочувствии, в определённой психологической фазе и т. д.

На самом деле, чем глубже мы проникаем в ваш «чёрный ящик», тем сложнее там что-либо различить: взгляд, какое-то сообщение на экране телефона, чувство физического прикосновения и т. д. – вереница мельчайших моментов. А дальше ещё меньше – какие-то цвета, формы, реакции, движения, жесты, отголоски звуков…

Наконец, мы видим лишь активизацию микортикальных колонок, которые гудят как множество однообразных процессоров на большой материнской плате. Да, именно так выглядело бы действительное путешествие в наше, кажущееся таким объёмным и подлинным, любовное чувство.

На самом деле это проход внутрь кротовой норы – в космическую червоточину, эдакий технический мост Эйнштейна-Розена.

От того, что вы считали своим чувством любви (точнее, от этой складной истории о нём), не осталось бы ничего, лишь только – ритмичная вибрация импульсов, которыми обмениваются друг с другом нервные клетки внутри микроколонок, микроколонки – одна с другой – в пределах отдельных гиперколонок, а те, в свою очередь, между собой в полях Бродмана-Эссена, в долях и сетях головного мозга.

И правда, конечно, состоит в том, что пройти этот путь сверху вниз – от макропереживания к работе отдельных микроколонок – невозможно, потому что его просто нет.

Да и вообще, есть лишь работа нейронов и их микроколонок, которые производят мазок за мазком наше общее ощущение – любое, в том числе и любви, всё остальное – иллюзия, игра разума. Ровно по этому принципу работает и «искусственный интеллект».

«Что мы есть? Что каждый из нас есть? Это около 100 триллионов маленьких клеточных роботов. Это то, из чего мы сделаны, никаких других компонентов. Мы просто сделаны из клеток, и ни одна из этих клеток не имеет сознания, не знает, кто мы есть, и не интересуется этим.

Как же получается, что когда они собираются вместе – армии, батальоны сотен миллионов маленьких, действующих как роботы, не осознающих ничего клеток, – выходит вот такой результат?

Только подумайте об этом: в нас есть цвета, идеи, воспоминания! И каким-то образом всё это содержание сознания – результат интенсивной работы кучи нейронов. Как это возможно?! Многие люди считают, что это вообще невозможно.

Вот отрывок из прекрасной книги “Сеть магии' моего друга Ли Зигеля, профессора религии в Гавайском университете и профессионального иллюзиониста. Он очень выразительно характеризует проблему:

Я пишу книгу по магии, – говорю я, и меня спрашивают:

– О реальной магии?..

Под «реальной магией» люди подразумевают чудеса, волшебников, сверхъестественные события.

– Нет, – отвечаю я. – О разных фокусах, не о настоящей магии.

«Реальная магия», другими словами, означает «магию, которая не существует в реальности», в то время как настоящая магия, которая может совершаться на самом деле, не является реальной ”.

Так же многие люди думают и о сознании: настоящее сознание – это не набор фокусов. Но сознание – это и есть набор фокусов».

ДЭНИЕЛ ДЕННЕТ, профессор философии и содиректор Центра когнитивных исследований Университета Тафтса

Учиться, учиться и учиться…

По-видимому, в основе разума лежит не некая фантастическая формула, а скорее терпение и настойчивость в применении простых, прямолинейных алгоритмов.

ЭТЕМ АЛПАЙДИН

Возможно, вам приходилось слышать про эти «грабли», что мол, в 1950-1970-х годах искусственный интеллект уже был переоценён, из соответствующих проектов ничего не вышло, а раз так, то и нынешнее увлечение ИИ – это просто блажь и всё закончится таким же пшиком. Мол, человек – это нечто абсолютно уникальное, его не воспроизвести.

Действительно, те изначальные кибернетические прогнозы, та робототехника и компьютерные эксперименты, которыми ознаменовалось становление теории и практики искусственного интеллекта, потерпели фиаско.

Но говорить, что это ставит крест на искусственном интеллекте как таковом, – смешно. Такой же «крест» поставил на диджитал-индустрии лопнувший в 2000 году пузырь доткомов – да, кто-то поторопился, да, кто-то не рассчитал, но это ошибки игроков, а не баг системы. Посмотрите на нынешний список Forbes и убедитесь в этом. И двадцати лет не прошло.

Да, изначальные прогнозы исследователей искусственного интеллекта не оправдались,

что, впрочем, и неудивительно, как минимум по трём причинам:

1) чрезвычайно низкая на тот момент вычислительная мощность оборудования;

2) тот самый, как его теперь называют, «нисходящий подход» (то есть желание воспроизвести человека в железе, а не создать искусственный интеллект с нуля, дав ему его собственное существование);

3) физическое отсутствие того, что мы сейчас называем «большими данными», – той самой Big Data.

В конце 70-х – начале 80-х надежды на искусственный интеллект в академическом мире были практически похоронены. Говорить о нём в научных кругах считалось дурным тоном – мол, не смогла, так не смогла, а оправдываться просто глупо. Это время называют «зимой искусственного интеллекта».

Но всё изменилось уже в середине 80-х: в 1986 году Род Брукс, о котором я уже упоминал, сформулировал «восходящий», или, ещё можно сказать, проэволюционный подход в создании искусственного интеллекта, точнее – мозга, а ещё точнее – нейронных сетей.

В общем, кажется, он прислушался к матери-природе и её эволюционной логике. Вместо того, чтобы пытаться воссоздать человека – это самое сложное (и, добавлю, противоречивое) из известных нам на земле животных, это чудо света, – он решил пойти другим путём, начать, так сказать, с другой фактуры.

– Может, нам амёбу какую-нибудь запрограммировать для начала, или таракана, например? Муравья?.. От менее сложного к более сложному, – вот что предложил Брукс.

Проще говоря, если избавиться от языковой игры, в рамках которой «интеллект», согласно философскому словарю, есть «мыслительная (умственная) способность человека, которая может отождествляться с рассудком, разумом и интуицией», и взглянуть на это понятие нейрофизиологически и нейробиологически, то ситуация с созданием «искусственного интеллекта» меняется радикально.

Наша нервная система эволюционно выполняет главную функцию всего живого – это способность воспринимать изменения в окружающей внешней среде как раздражения, идентифицировать их и отвечать приспособительными реакциями.

Формально говоря, даже амёба, не обладающая ещё даже задатками нервной системы, уже умеет специфическим образом реагировать на изменение состояния окружающей среды, демонстрируя соответствующие средовым факторам изменения – вытягивание и сокращение протоплазмы.

Нервная система животных, начиная с гидры и дальше, через ланцетника, к нам – это лишь специализированный инструмент решения всё той же задачи: воспринимать изменения среды как раздражитель, идентифицировать его и отвечать в соответствии с целями и задачами, которые решает животное (точнее, эволюция, которая пользуется животным как контейнером для переноса генетического материала из прошлое в будущее).

В каком-то смысле данная функция перманентной адаптации некого существа к внешним воздействиям плюс феномен репликации ДНК – это и есть сама жизнь. Поэтому если вы собираетесь её воспроизвести, то надо воспроизводить самую эту функцию: превращать сигнал в раздражитель, идентифицировать его в системе внутренних настроек и производить реакцию, которая соответствовала бы целям и задачам системы.

Устроенная таким образом «искусственная сеть», оказавшись в той или иной информационной среде, имеющая достаточную сложность организации и запрограммированная на определённый результат, сама будет себя двигать и развивать. В этом, если совсем грубо, и состояла суть подхода, сформулированного Родом Бруксом.

Теперь добавьте к этому элегантному решению действие законов Мура и ускоряющейся отдачи Курцвейла…

Очевидно, что ситуация с мощностями к девяностым годам XX века выглядит существенно иначе, нежели в пятидесятых. А в двухтысячных – и вовсе совсем по-другому: производительность компьютеров, которая считалась раньше недостижимой, сейчас уже многократно превышена.

Наконец, отдельная и очень важная новая вводная: массив данных – то, о чём первопроходцы искусственного интеллекта изначально вообще не задумывались.

Казалось логичным, используя знания и здравый смысл, сформулировать для тех или иных целей алгоритм действия и превратить его в программный код. Это своего рода экспертный подход, когда человек знает «как», а машина должна только повторить.

Но оказалось, что с машинным обучением всё иначе…

Если вы имеете нечто в реальности – нечто действительное и настоящее, что сообщает вам о себе невероятно большим количеством данных, то зачем вам эксперт? Тем более если это эксперт, я прошу прощения, с человеческими – то есть весьма ограниченными и пристрастными – мозгами.

Нет, это плохая идея! Лучше просто возьмите все эти данные, перетрясите их, так сказать, хорошенько, а затем разложите в непротиворечивой структуре. Как результат вы получите закономерности, описывающие работу системы, и сможете, таким образом, влиять на неё.

Впрочем, кто мог до этого додуматься, когда никаких «больших данных» (Big Data) не было и в помине, а только их жесточайший дефицит, дороговизна и рутинное производство? Но ускоряющаяся отдача, как мы видим, работала…

Согласно общепринятой статистике, в 2002 году человечеством было произведено 18–1018 байт (18 экзабайт) информации. А уже в 2014 году, по данным исследования, опубликованного в Supercomputing Frontiers and Innovations, выяснилось, что примерный объём данных в интернете равен 1024 байтам (1 млн эксабайт).

Знаменитый эксперт по экономике будущего Бретт Кинг приводит такие данные, позволяющие хоть как-то представить масштаб этого информационного потопа:

Библиотека Конгресса США, являющаяся крупнейшим в мире книгохранилищем (где кроме книг есть ещё 13 млн фотографий, 4 млн карт, 500 000 млн фильмов и 3,5 млн звукозаписей) в отцифрованном виде составляет около трёх петабайт данных;

• в 2016 году мы в сутки производили в 8500 раз больше данных, чем хранится в Библиотеке Конгресса, а за секунду – в тысячу раз больше интернет-контента, нежели 130 млн печатных книг, изданных за всю историю человечества.

Проще говоря, количество цифровой информации растёт по той самой экспоненте (только вот абсолютно непонятно, в какой точке этого графика мы сейчас находимся). А что такое эта современная цифровая информация?

Это не просто данные, не просто большие данные, а связанные между собой большие данные! Не те старые книжки, стоящие на пыльной полке в ожидании случайно обнаружившего их читателя, а по сути – живой организм, полный взаимнопересекающихся отношений и связей, гипер-гипер мультиссылок.

Тут важно понимать вот что: каждый байт современной цифровой информации – это не просто байт. Он произведён кем-то, кто сам является для нас информационной структурой: все его действия, активности, решения – вся эта информация тоже есть и хранится.

Причём это вовсе не обязательно какой-то живой человек, который что-то постит на своей странице в социальной сети, – вовсе нет! Это может быть тот самый умный холодильник, мусорный бак, кассовый аппарат, детектор на входе в любое учреждение, медицинское оборудование, натыканные теперь везде уже камеры и т. д., и т. п.

Плюс, кроме всего этого информационного роскошества, есть ведь ещё и «протяжённость», как сказали бы философы старой школы. То есть есть определённый момент времени и пространства, когда этот кажущийся единичным байт возник.

А что это для нас значит? Это значит, что нас ждёт увлекательное «исследование в прошлое» – этот единичный факт (байт) можно подцепить и раскрутить огромное пространство связанных событий. Тут же открывается и возможное будущее, ведь мы найдём кучу взаимосвязей и закономерностей.

Плюс, наконец, мы можем понять этот байт как нечто, что определяется всеми возможными средовыми факторами, актуальными в данной точке времени и пространства (включая информационное) и тоже бережно зафиксированными.

Проще говоря, пора забыть уже и о Библиотеке Конгресса, и вообще о любой другой «библиотеке». Это, даже при всей моей любви к ним, – только памятники истории, отброшенная ступень нашей цивилизационной ракеты.

Современная информация – это поле, а не набор элементов. Поле вроде бы абсолютно децентрализированное, но при этом взаимосвязанное – из любой его точки вы можете попасть в любую другую, найти все связанные отношения всего со всем.

Так что сейчас всё, наконец, сошлось: нейронные сети, способные самостоятельно учиться и решать задачи, фантастическая мощность компьютеров и та самая информационная среда – как питательный бульон, позволяющий искусственному интеллекту обучаться чему угодно.

НЕЙРОННЫЕ СЕТИ

Род Брукс сформулировал принцип «восходящего подхода», но, конечно, сама по себе идея нейронных сетей как инструмента программирования возникла значительно раньше.

Ещё в 1943 году американский нейропсихолог Уоррен Мак-Каллок совместно с нейролингвистом и математиком Уолтером Питтсом описали понятие нейронной сети в научной статье о логическом исчислении идей и нервной деятельности. А в конце 40-х Дональд Хебб предложил первый алгоритм обучения с помощью нейронных сетей.

В 1958 году психолог Корнеллского университета Фрэнк Розенблатт создаёт так называемый перцептрон – думающее, по словам создателя, «как человеческий мозг», устройство. Эта однослойная модель содержала около тысячи связанных друг с другом «нейронных клеток», которые могли принимать сигналы от четырёхсот фотоэлементов (см. рис. № 8).

Четвертая мировая война. Будущее уже рядом

Рисунок № 8. Схема однослойной нейронной сети


Тогда-то и произошёл разрыв между прежними друзьями и коллегами – Джоном Маккарти, который остался в своей логико-математической парадигме, и Марвином Мински, который станет основателем Лаборатории искусственного интеллекта в Массачусетском технологическом институте – самой настоящей Мекке последующих исследований в области искусственного интеллекта.

Ограниченность перцептрона привела исследователей к идее увеличить количество скрытых слоёв, которая у разных авторов с середины 60-х по 80-е обретала свои очертания. Но общая схема многословной нейронной сети не слишком отличается от перцептрона (см. рис. № 9).


Четвертая мировая война. Будущее уже рядом

Рисунок № 9. Схема многослойной нейронной сети


Далее, уже в конце 70-х – начале 80-х Джеффри Хинтон и Терри Сейновски предложили на замену прежней символьной модели искусственного интеллекта так называемую параллельную распределённую обработку, что существенно увеличило эффективность работы. А в 1982 году Джон Хопфилд создал нейронную сеть своего имени, в которой «нейроны» получили возможность независимо менять свои параметры (см. рис. № 10).


Четвертая мировая война. Будущее уже рядом

Рисунок № 10. Схема ассоциативной нейронной сети Джона Хопфилда


Наконец, в 2007 году Джеффри Хинтон создал алгоритмы глубокого обучения многослойных нейронных сетей, особенность которых заключается в том, что обучение системы происходит на разных слоях, начиная с самых нижних (см. рис. № 11).


Четвертая мировая война. Будущее уже рядом

Рисунок № 11. Упрощённая модель работы современной нейронной сети


Машина обучается, анализируя огромные объёмы данных – например, миллионы фотографий – с целью научиться опознавать лица на разных фонах и в разных ракурсах. Процесс это долгий, но когда период обучения проходит, машина справляется с подобной задачей достаточно быстро.

Загляните в любой современный фотоаппарат: этот бегающий квадратик, выделяющий на общем фоне лица людей, – результат работы девятислойной, в отличие от однослойного первого перцептрона, нейронной сети Джеффри Хинтона, а также от шестислойной – в затылочной доле нашего головного мозга, которая решает, по сути, ту самую задачу.

Ошибкой было бы думать, что мы видим то, что мы видим. На самом деле всё то, что мы видим, создаётся в зрительной коре. Видит ли искусственный интеллект то, что он «видит»? Вот этот вопрос и является главным аргументом противников идеи искусственного интеллекта. Но здесь налицо, как мне представляется, подмена понятий.

Что значит «видеть»? Видит ли объектив камеры? В каком-то смысле, наверное, да. Но то, что эти новые невероятные алгоритмы в цифровых камерах видят, – это совершенно точно.

Уже сейчас они способны на самые настоящие чудеса – например, сделать размытое изображение чётким, сличив несколько совершаемых последовательно снимков. Или наоборот – как вам эта чудо-способность: увеличить контрастность фигуры и размыть за ней фон?

У них нет субъективного опыта видения? А что есть этот субъективный опыт? Они не рефлексируют то, что они что-то увидели? Об этом и речь. Возможно, но зато они точно лучше это запомнили, а потом другие алгоритмы всё это ещё смогут сличить с базами данных, распознать объекты на фотографиях и т. д.

Более того, скажу: мы-то сами не видим то, что, как нам кажется, мы видим. Мы «видим» активность своих кортикальных колонок, а не фактические объекты перед собой – в этом правда. Даже при пристальном взгляде на внешний относительно нас объект мы имеем дело лишь с его реконструкций внутри нашего мозга.

По крайней мере, наша зрительная кора, используя последовательность «изображений», создаваемых при помощи саккад[28], как минимум, затирает «слепое пятно». Хотя есть основания думать, что мы в принципе видим то, что помним, а не то, что воспринимаем (но это уже, на общем фоне, малозначительные детали).

Человечество долго пыталось освоить воздухоплавание, пытаясь подражать птицам. Как известно, это ничем хорошим не закончилось. Но разве мы не умеем летать? Я сейчас нахожусь в Греции и могу поклясться, что я сюда прилетел. Да, я не махал крыльями, и устройство, которое меня доставило сюда из Петербурга, ничем не махало.

Нет, я просто прилетел в Грецию по-другому – не так, как птицы. Но я точно сделал это лучше – быстрее, безопаснее и комфортнее. Чем птица лучше? Или чем лучше способ её полёта? Так мы с нашим зрением – носимся, словно с писаной торбой, а искусственный интеллект тем временем видит всё лучше и лучше.

«Многослойная сеть интуитивна, поскольку соответствует обычным этапам работы, когда мы начинаем с сырых данных и постепенно переходим к всё более сложным преобразованиям, пока не получим абстрактное представление в качестве выходного результата.

Например, при распознавании изображений мы используем пиксели в качестве базовых входных данных и качестве входных данных для первого слоя. Нейроны следующего слоя комбинируют их для выявления основных дескрипторов изображения, например штрихов и краёв различных ориентаций. Следующий слой комбинирует их в более длинные линии, арки и углы. На последующих слоях выявляются более сложные формы – окружности, квадраты и так далее. Они, в свою очередь, объединяются на других обрабатывающих слоях для представления объектов, которые мы желаем распознать, например лиц или цифр, написанных от руки».

ЭТЕМ АЙПАЛДИН, профессор Департамента компьютерного инжиниринга Bogazigi University в Стамбуле

Итак, что же такое интеллект? Мы привычно считаем, что это языковые конструкции, знаковые системы, размышления на уровне анализа и синтеза, высокие степени абстракции и т. д. Но это то, что мы думаем об интеллекте, а вовсе не то, что он представляет собой на самом деле.

Как мы теперь знаем благодаря современным нейрофизиологическим исследованиям, наше с вами мышление протекает на неосознанном уровне, само по себе: наши колонки дружно производят некий продукт, а мы лишь потом узнаём, что они там себе (точнее, нам) «надумали».

Мозг – как большой расчётный центр – принимает все решения раньше, нежели об этом узнаёт наше сознание. Наше сознание лишь озвучивает для нас эти его решения, присваивает их себе. И это доказано уже не только в знаменитом «эксперименте Либета», наделавшем столько шума, но, например, и в относительно недавнем исследовании Института когнитивной психологии и нейрофизиологии им. Макса Планка в Лейпциге.

Если Бенджамин Либит с помощью ЭЭГ мог лишь за 0,5 секунды предсказать действие своих испытуемых, то с помощью фМРТ (функциональной магнитно-резонансной томографии) сознательное решение, о котором человек ещё не знает, но которое он точно «примет», учёные из Лейпцига могут предсказывать уже за 7-10 секунд.

Причём если речь идёт об относительно простой задаче (например, о решении человека пошевелить рукой), то учёным для точного прогноза достаточно оценить работу всего лишь 256 нейронов[29].

Конечно, этот факт контринтуитивен, и конечно, поверить в это крайне сложно. Но это только лишний раз доказывает, насколько мы заблуждаемся на свой счёт и насколько неадекватно наше хвалёное сознание.

Те, кого научные знания, не согласующиеся с их «личным опытом», убедить не могут, приводят множество примеров, когда само решение было принято почти мгновенно. Мол, мне протягивают руку, и я отвечаю на приветствие, протягиваю в ответ свою – шевеление же руки, да? А где тут зазор в 10 секунд! Вот, опровергли!

Нет, ничего не опровергли. Напротив, доказали. В эксперименте Либета, в исследованиях современных нейрофизиологов речь идёт о сознательном решении, а не о спонтанной реакции в ответ на внешний раздражитель.

Когда вы думаете, пора вам обедать или ещё нет, это вопрос сознательного решения. Но если вдруг кто-то из близких засунет вам в рот конфету, вы схватите её губами автоматически, рефлекторно, а не потому, что сознательно решили так сделать.

Сознание «проснётся» чуть позже, когда вы начнёте осмыслять то, что произошло: хотели вы эту конфету или нет, надо было её брать или нет?

Впрочем, если подобные мысли начнут вас тяготить, – это тоже не будет сознательным действием. Просто ваш мозг почему-то не хотел эту конфету от этого человека в это мгновение, но среагировал автоматически, и теперь пытается как-то разрешить для себя этот парадокс.

Когда вам протягивают руку для приветственного рукопожатия, в вас срабатывает автоматизм – то есть нейрофизиологический программный комплекс, который в буквальном смысле запрограммирован в вашем мозгу посредством вашего предыдущего жизненного опыта на ответное протягивание руки. Вы набор мини-программ такого рода.

Попробуйте провести над собой эксперимент и не протянуть руку в ответ, когда кто-то пытается с вами таким образом поздороваться. Прочувствуйте, как сложно сопротивляться собственным автоматизмам, как это психологически непросто, насколько это затратно по времени и какое внутреннее напряжение вызывает.

Кто-то, впрочем, скажет, что сам тот факт, что вы можете сознательно заставить себя не протягивать руку в ответ на приветствие, доказывает, что Либет и все его сторонники заблуждаются. И снова вынужден вас разочаровать: то, что вы решите поставить над собой такой эксперимент, тоже не является вашим сознательным решением…

НЕСВОБОДА ВОЛИ

Нейрофизиологически вся эта ситуация выглядит, конечно, совершенно другим образом, нежели нам это представляется. Причём то, какова действительная панорама этих наших внутренних сражений, стало понятно ещё сто лет назад, когда великий русский учёный Алексей Алексеевич Ухтомский опубликовал свои работы о «принципе доминанты»[30].

Итак, вот что произошло на самом деле…

1. Вам сказали, – допустим, что это был я, – что вы не принимаете сознательных решений. То есть ваш мозг подвергся какому-то внешнему воздействию.

2. Впрочем, у вас есть другая внутренняя установка на этот счёт, и это новое внешнее воздействие вошло с ней в конфликт. В результате возникла нейрофизиологическая доминанта – или, как ещё говорят, незавершённый гештальт. Но, по большому счёту, это просто конфликт двух активизировавшихся в вашем мозге программ: «я принимаю решение сознательно» и «я не принимаю решение сознательно».

3. Разумеется, ваша установка (нейрофизиологическая доминанта) начинает побеждать в этой борьбе доминант. С собой вы уже, понятное дело, давно живёте в мире и согласии, а прозвучавшее утверждение, ссылающееся на научные исследования, не имеет в вашем мозге, достаточного веса – количества нейрофизиологических связей.

4. Ваш мозг ловко предлагает вам множество аргументов и объяснений в пользу вашей доминанты – и вы их слышите на сознательном уровне. Вам всё более «очевидно», что предложенный вам на рассмотрение научный факт неверен, искажён, притянут за уши. В общем, напряжение между двумя конфликтующими нервными центрами (доминантами) нарастает, и победитель уже почти известен.

5. Но тут вам предлагают проверить этот научный факт на собственном опыте – мол, пробуйте не следовать своим рефлекторным реакциям на автомате и взять их под контроль. А это ведь ещё одно внешнее воздействие – ещё один нервный центр (доминанта) образуется в вашем мозгу, конкурирует с вашей внутренней установкой и объединяется с предыдущим «недругом».

6. Теперь в вашем мозге между собой конкурируют уже три доминанты: ваше нежелание согласиться с научным фактом – с одной стороны, а с другой – наличие у вас нового знания о существовании такого научного факта (первая конфликтная доминанта) и наличие у вас ещё одного нового знания – что вы можете убедиться в этом сами, проверив достоверность этого научного факта в опыте (вторая конфликтная доминанта).

7. Конкурирующие в вас доминанты приводят к всё нарастающему чувству внутреннего дискомфорта. Причём в значительной степени из-за того, что внешнее воздействие на вас продолжается, – я не сдаюсь и продолжаю подкидывать в вашу голову новые и новые факты.

То есть я, пользуясь языковыми триггерами, активизирую дополнительные нервные центры в вашем мозгу, усиливая те доминанты, которые стоят в вас на стороне научного подхода, с которым вы пока продолжаете спорить, потому что у вас есть свои – житейские, интуитивные и, вынужден повторить, неверные – установки.

8. Дискомфорт достигает максимума, и у вас, наконец, формируется ещё одна доминанта, призванная разрешить это противоречие, – желание избавиться от этого тягостного чувства («Не может быть, что я не прав!») и действительно опровергнуть предложенный вам на рассмотрение научный факт, противоречащий вашей интуиции.

9. Вы решаете провести над собой эксперимент – допустим, не пожимать руку человеку, который вдруг решит протянуть вам свою для рукопожатия. Но вы ли это решили? Было ли это вашим сознательным решением? Или это всё-таки естественное следствие конкурирующих в вашем мозгу нервных центров?

Действуя, как вам кажется, сознательно, вы бы просто отмахнулись от научного факта, который не укладывается в привычную для вас картину мира (и картину себя). Но проведённым анализом (внешнее воздействие!) мы не позволили вам соскочить с неприятной правды и создали в вас конфликт, конкуренцию нервных центров.

10. Осталось только дождаться удобного случая и провести указанный эксперимент. За это время, пока кто-то спровоцирует ваш автоматизм рукопожатия, вы несколько раз вернётесь к этой мысли: неужели я не сознательно управляю своим поведением?!

Возможно, вы даже сможете убедить себя в том, что все эти Либеты и Ухтомские – ерунда и чушь собачья (то есть в вас победит доминанта прежней внутренней установки). Но если нет, и вы всё-таки дождётесь предложенной вам руки в этом зависшем состоянии конкурирующих доминант, то проследите за тем, что будет с вами происходить, когда вам будет протянута рука.

Вы же уже приняли решение не пожимать её, правильно? Сознательно приняли. Но вот теперь прочувствуйте, насколько оно ничтожно – ваше сознательное решение. Дело-то, и правда, ерундовое, руку не протянуть. Но даже его совершить сложно, потому что в вас работают не осознанные вами автоматизмы. Кроме них, впрочем, есть теперь и конкурирующие нервные центры… То есть, в принципе, к сознанию всё это имеет самое ничтожное отношение.

Слова, которыми мы с вами пользуемся, являются лишь способом воздействия на психику извне – когда кто-то другой говорит нам что-то, что возбуждает в нас какие-то новые и другие нервные центры.

В результате всегда происходит борьба этих возникающих внутри нас конкурирующих доминант. Причём победившая, конечно, переписывает историю под себя и делает это уже на сознательном уровне.

Для того оно, собственно, и работает, это наше сознание, чтобы прятать и, по крайней мере, сглаживать противоречия нашей натуры. Оно призвано создать у нас ощущение цельности и непротиворечивости нашего с вами существования, но даже в этом случае не оно принимает решение так поступать, а мозг, который всегда и всюду утверждает свою правоту.

В нашем мозге существуют огромный набор предустановленных программ (например, моргание, зевание, хватательный рефлекс и т. д.), множество выученных программ (как, например, с тем же рукопожатием), инфраструктурных программ (как, например, то самое сознание, оправдывающее наши глупости, только бы не выглядеть лузером, оставшимся «в дураках»).

Во всём же остальном это динамический процесс, где нейрофизиологические доминанты (активные нервные центры), чья активность спровоцирована фундаментальными биологическими потребностями, с одной стороны, или культурной (информационной) средой через соответствующие словесные триггеры, с другой, борются друг с другом за победу – за то, чьи, так сказать, будут тапки.

Нас – как решающих, понимающих, принимающих решения – в этом процессе нет вообще. Всё это, грубо говоря, работа разнообразных «программ» и попытки сознания сшить из доставшихся ему лоскутков милое бабушкино одеяло – такую ни к чему не обязывающую объяснительную модель происходящего с нами.

Так что, когда мыслительный процесс происходит в нас (то есть наш мозг решает какую-то задачу), мы сами – на сознательном уровне – даже не можем сказать с уверенностью, о чем именно он сейчас думает.

Дефолт-система нашего мозга, о которой я уже много раз рассказывал в своих книгах и выступлениях, оперирующая сложными интеллектуальными объектами, регулярно погружает нас в состояние задумчивости: мы находимся в этих «блужданиях» примерно половину своей жизни.

И если спросить нас в момент такой задумчивости, о чём именно мы сейчас думаем, мы не сможем толком ответить. Скорее всего, мы увидим лишь хвост своей мысли, ускользающей от обращённого на неё нашего заинтересованного внимания.

Впрочем, это даже логично: конечно, мы не понимаем, о чём мы думаем и что надумаем, – наша дефолт-система пока не пришла к решению, доминанты пока находятся в дискуссии, а дуракам, как известно, полработы не показывают (то, что роль дурака в данном случае отводится сознанию, я думаю, понятно).

Приятно нам сознавать это или нет, но интеллект – это вовсе не то, что мы привыкли о нём думать. Интеллект – это работа «серых клеточек», входящих друг с другом в определённые ассоциации. Одной из этих ассоциаций (весьма частной, надо признать) является наша с вами личность или наши с вами идеалистические представления об интеллекте.

Правда в том, что наши представления об интеллекте и действительный интеллектуальный процесс – это разные вещи. Мы не можем его ни понять, ни почувствовать, мы можем его только реконструировать – то есть представить себе как набор неких механизмов, механик, создающих эффекты (например, наш опыт и наши суждения о реальности), которые, в частности, пытаются затем самих же себя и осмыслить.

По этой причине думать, что другой интеллект (на других носителях, с транзисторами другой природы и прочими отличными от нашего характеристиками) невозможен, странно и легкомысленно.

И чтобы победить человека, не нужно быть человеком – достаточно быть одноклеточным микроорганизмом или даже вирусом. Но мы всё ещё ожидаем встречи с каким-то волшебным Терминатором, потому что именно таким образом представляем себе своего врага – не меньше. Откуда эта бессмыслица?! Просто очень много о себе думаем.

Правда в том, что если нами и будет управлять искусственный интеллект, то у этого интеллекта с человеческим разумом не будет ничего общего. И именно поэтому он будет намного умнее нас.

Когда компания Google только начала придумывать свой автомобильный автопилот, она планировала создать робота-водителя, подобного человеку. Но скоро стало понятно, что это тупиковый путь: слишком криво и неэффективно человек решает эту элементарную, по сути, задачу – добраться до места, соблюдая пдд, и ни с чем по дороге не столкнуться.

Тогда Google стала разрабатывать умный автомобиль – мол, если не получается сделать чатланина, то хотя бы пепелац и гравицаппу изобретём! Но в 2016 году закрыла и этот проект.

Выяснилось, что для создания автопилота не нужен ни человекообразный робот, ни особенный автомобиль. Достаточно предоставить искусственному интеллекту все данные, относящиеся к задаче, – и он справится с ней сам, без нас и лучше нас.

Выводы, которые делает искусственный интеллект, управляющий автомобилем на основании бесчисленного множества данных (с карт, камер, датчиков, контроллеров и т. д. ит. п.), совсем не те, что делаем мы с вами, когда сидим за рулём. Честно говоря, мы даже не знаем, какие он выводы делает. Да и «выводы» ли это?

Искусственному интеллекту не надо «думать»: он просто учитывает все факты (а не как мы – на глазок) и действует соответствующе.

Мы пытаемся обхитрить узость и ограниченность собственного ума, а потому лишь фантазируем о том, как бы решить задачу. Он же просто её решает, а поэтому и выигрывает – в шахматы у Каспарова, в го у Ли Седоля. Скоро победит и в Формуле 1, причём с парализованным Шумахером на борту.

Или вот тот же переводчик Google… Сначала разработчики допустили ту же самую ошибку: они пытались учить машину языку, как первоклашку из школы для детей с отставанием в развитии. Но толку от этого было мало.

Так что и в этом случае создатели искусственного интеллекта плюнули на попытки очеловечивания электроники и воспользовались текстовыми базами данных ООН, ЕС и других источников, о чём я уже рассказывал.

Знает ли переводчик Google язык так же, как знаем его мы? Нет. Знает ли он правила языка, которые знаем мы? Нет. Понимает ли он, о чём идёт речь, когда он переводит слово за словом, предложение за предложением? Нет.

А ему и не надо, он просто очень хорошо решает поставленную задачу – сначала выявляет скрытые в больших массивах данных одному ему понятные закономерности, а затем использует их в работе уже с другими данными. Получается идеально.

Короче говоря, там, где мы действуем интуитивно, впотьмах и, мягко говоря, не всегда успешно, искусственный интеллект, взращённый на нивах больших данных, работает чётко, строго и результативно. Правда, мы не знаем как. Больше того, мы нашим сознанием никогда этого и не поймём.

Всё это я к тому, что пора уже забыть научно-фантастические фильмы о восставших роботах и законы робототехники Айзека Азимова. Когда нас накроет волна сверхмощного искусственного интеллекта, основанного на механизмах нейронного обучения и Big Data, мы даже не заметим, как нас сделали.

Читателей своей «Красной таблетки» я уже пытался убедить в том, что наша хвалёная «личность» – это чистой воды иллюзия. В качестве аргумента я использовал феномен «фундаментальной ошибки атрибуции», описанный социальным психологом Ли Россом. Да и вообще, ради этой цели поднял на уши всю социальную психологию – Соломона Аша, Стэнли Милгрема, Филиппа Зимбардо со товарищи.

В «Чертогах разума» я говорил уже о нейрофизиологии «личности», точнее – об отсутствии таковой – и личности, и её нейрофизиологии. Благодаря исследованиям Маркуса Рейчела мы теперь знаем, что у нас есть лишь чувство собственной личности, на деле же – это только «история», «сказка», которую мы сами себе рассказываем, чтобы сохранять иллюзию собственной цельности.

В этой же книге я пытаюсь объяснить, что та же самая петрушка творится и с нашим, прошу прощения, «сознанием». Мы, конечно, считаем его невероятно мощным, но его действительный КПД курам на смех. Рассуждая, мы можем удерживать в сознании не более 7–9 объектов, а делая выводы, способны учесть не больше 3–4 параметров.

Конечно, и этим можно было бы гордиться, особенно сравнивая себя с кольчатыми червями. Но глупо делать то же самое, когда нашим конкурентом выступает машина, которая, принимая решение о нас и нашей жизни, научилась учитывать неограниченное множество элементов ситуации.

Так что да, вполне возможно, что этот нечеловеческий интеллект окажется куда эффективнее нашего. И вовсе не факт, что он будет благосклонен к более примитивной расе.

Глава третья

Лицо врага

Искусственный интеллект представляет опасность для существования человеческой цивилизации, какую не представляют автокатастрофы, авиакатастрофы, бракованные лекарства или испорченные продукты.

ИЛОН MACK

В октябре 1939 года Альберт Эйнштейн написал президенту Франклину Рузвельту письмо, ставшее впоследствии знаменитым. В нём автор теории относительности фактически потребовал от США начать работы по созданию атомной бомбы. В противном случае, объяснял Эйнштейн, гитлеровская Германия создаст это смертоносное оружие раньше, и судьба мира будет предрешена.

Стивен Хокинг – Эйнштейн нашего времени, но сейчас президентам письма не пишут. И президенты уже не те, да и что они могут? В 2014 году Хокинг выступил на ВВС с пугающим прогнозом: «Разработка полноценного искусственного интеллекта может означать конец человеческой расы».

Илон Маск отозвался в своём Твиттере: «Нам нужно быть предельно аккуратными с искусственным интеллектом. Потенциально он куда более опасен, нежели ядерные боеголовки».

Уже в 2015 году Илон Маск основывает некоммерческую компанию «OpenAI», цель которой – создать открытый и дружественный человеку искусственный интеллект в противовес «злонамеренному искусственному интеллекту», над которым, как считается, работают все остальные – от Сергея Михайловича Брина до Рэя Курцвейла.

Так что есть в этой истории кроме современного Эйнштейна и свой Роберт Оппенгеймер.

Маск провёл переговоры с десятью ведущими специалистами по искусственному интеллекту. Девять из них согласились присоединиться к благотворительному проекту: они оставили свои руководящие должности и баснословные зарплаты в Google и Facebook, чтобы попытаться спасти мир. И число этих робингудов, надо сказать, неуклонно растёт.

Да, «ОрепА!» Илона Маска – это новый «Манхэттенский проект». Но от какого чудища он призван нас защитить? Кто тот Гитлер и работающий на него Гейзенберг, которые грозят «человеческой цивилизации»? И в чём суть этого нового оружия? Возможно ли оно? Как оно будет действовать?

Большая игра

Искусственный интеллект не испытывает к вам ни ненависти, ни любви, но вы состоите из атомов, которые он может использовать для своих целей.

ЭЛИЕЗЕР ЮДКОВСКИЙ

Есть такой психологический эффект: когда вы сталкиваетесь с чем-то сложным, непонятным, масштабным и вдобавок пугающим, вы инстинктивно это игнорируете. Если верить Хокингу, Маску и множеству других уважаемых товарищей, искусственный интеллект – это именно тот случай.

Как я уже когда-то писал, 15 марта 2016 года должно быть признано важнейшей датой в истории человечества – в этот день мы узнали, что способны создавать машины умнее самых умных из нас. И да, именно в этот день весь наш биологический вид получил свою «черную метку».

Впрочем, этой «чёрной меткой» оказался не чёрный, а белый камушек, брошенный на доску древнекитайской игры в го. Автором этого финального броска и «последнего китайского предупреждения» стал компьютер по имени AlphaGo, созданный компанией Google.

Ещё Алан Тьюринг предупреждал нас о том, что игра в го будет последним рубежом, отделяющим машинный интеллект от человеческого. Но мы настолько привыкли к разнообразным компьютерным фокусам, что не заметили, как промелькнул этот день – день, после которого наш мир уже никогда не будет прежним.

Накануне злополучной игры проводились многочисленные опросы экспертов – делайте ваши ставки, господа! Практически никто не верил в победу AlphaGo: средневзвешенная оценка – победа компьютера над человеком в го возможна не ранее чем через пять лет (многие, впрочем, считали, что этого не случится и через десять лет).

Но нет, Рубикон нашей избранности был перейдён. И новый «венец творения» объявил о начале своего триумфального шествия по планете.

«БИТВА ПРИ СЕУЛЕ»

Всё прошло, надо сказать, очень буднично… Ли Седоль сидел над доской в том самом Сеуле, покрывался потом и тискал свою несчастную голову. Сервер Google Cloud Platform не посчитал нужным покинуть пределы США и участвовал в соревновании дистанционно. Камни на гобан за AlphaGo ставил Айа Хуань – тоже игрок в го и сотрудник команды разработчиков DeepMind.

Исход турнира, впрочем, был известен уже после первых трёх сражений, в которых гугловское детище AlphaGo разбило Седоля подчистую. В четвёртой игре, правда, машина поддалась, но в пятой снова выиграла.

Формально общий счёт этого исторического матча 4:1 в пользу искусственного интеллекта. Но сейчас уже не до формальностей…

«Я не смог победить, но я не считаю свой проигрыш поражением человечества», – передал через пресс-службу поверженный Ли Седоль, обладатель всех возможных данов го и титула «Мёнин», что значит «Мудрый».

Но что ещё может сказать этот выдающийся гроссмейстер игры в го, проигравший машинному интеллекту? Мол, извините, так получилось… на кону стояла наша с вами цивилизация, и я продул её подчистую?

Нет, в таком не признаются. Даже если это правда.

Через год – в 2017-м – китайцы попробовали исправить ситуацию с поражением корейца Ли Си-доля и выставили против AlphaGo своего лучшего бойца – Кэ Цзе. Машина предсказуемо разбила соперника, на сей раз абсолютно – всухую.

Авторы бесчисленных научно-популярных кибертриллеров и широкоформатных блокбастеров, комиксов и компьютерных игр привычно пугают нас всякими страшилками про «искусственный разум»: мол, он разрастётся и будет представлять угрозу для человека.

Сами по себе эти басни, конечно, не выдерживают никакой критики – их создатели дуют на воду, тычут пальцем в небо и ковыряются в чужой песочнице. Но самое печальное – не наивность авторов-фантастов, не их бесчисленные ошибки, а то, что создатели этих, с позволения сказать, шедевров всегда рисуют нам «хороший конец».

Это притупляет необходимую бдительность. Понятно, что «хэппи энд» – это закон жанра: аудиторию надо привлекать, а не отпугивать. Но в результате этого маркетингового хода чувство тревоги в отношении «искусственного интеллекта» у человечества притупилось, и это как раз самое опасное.

Думать, что «искусственный интеллект» будет таким же, как мы – антропоморфным и человеко-разумным, – нарушит законы робототехники Айзека Азимова и нас же завоюет, по меньшей мере наивно (конечно, всё будет, если будет, сложнее и витиеватее).

Но ещё наивнее думать, что война с «искусственным интеллектом» – это вопрос отдалённого будущего. Она уже идёт, а 15 марта 2016 года – лишь красивая дата проигранной «Битвы при Сеуле» для возможных будущих учебников истории (если, конечно, мы выживем и их ещё будет кому написать).

Когда в 1997 году Гарри Каспаров проиграл шахматный турнир компьютеру Deep Blue, это, конечно, стало серьёзным шоком для думающей части человечества. Но самоуверенность возобладала: мол, есть ещё игра в го, в которой нет жёстких алгоритмов, она требует интуиции и видения стратегии.

Считалось, что победить в этой игре, не думая как человек, просто невозможно, а компьютер, понятно дело, никогда так думать не сможет. И именно этот миф пал только что на сеульской земле.

Впрочем, научился ли AlphaGo думать как человек? Это, на самом деле, смешной вопрос. Он научился думать лучше человека. Тут важно понять: с Ли Седолем сражалась не компьютерная программа, созданная другими людьми, а самый настоящий цифровой интеллект.

Всё, что сделали разработчики, – это загрузили в AlphaGo информацию о множестве ранее сыгранных другими людьми партий и позволили ему потренироваться.

AlphaGo сыграл миллионы партий со своими собственными копиями, последовательно выбраковывая нежизнеспособные. В результате он создал собственные абстрактные стратегии ведения игры в го. Так что никто, включая разработчиков, не знает, как и почему AlphaGo принимает те или иные решения и какими правилами руководствуется.

Это самый настоящий «чёрный ящик», но только уже не Скиннера, а Дугласа Лената, который, по легенде, первым разработал технологию цифрового естественного отбора, а потом засекретил свои разработки, опасаясь цивилизационных последствий собственного открытия (Google лишь пошёл сходным путём и сделал нечто подобное).

ЛЕГЕНДЫ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА

«Ключ к решению задач с помощью искусственного интеллекта лежит в сокращении перебора вариантов при поиске решения. Для этого программы должны реализовывать те же принципы, которыми в процессе мышления пользуется человек», – с этих пророческих слов начинается статья Дугласа Лената «Искусственный интеллект», опубликованная на рубеже 1980-х годов, то есть в самый разгар «зимы искусственного интеллекта».

Да, пока все малодушно «зимовали», Ленат создал два генетических алгоритма – Автоматический математик (AM) и Euriso (от лат. «я нахожу»). Генетическими они называются потому, что созданы по принципу естественного отбора в живой природе: новые элементы порождаются практически случайным образом, а дальше – или выжили, или нет.

Так, например, AM, созданный Ленатом ещё в 70-х, создавал математические теоремы, а затем как бы заново открывал математические правила, выводя их из математических данных.

Отличие Euriso от AM заключалось в том, что этот алгоритм разрабатывал как правила решения задач, так и правила, касающиеся его собственной работы. Проще говоря, программа могла учиться на собственном опыте и, по необходимости, модифицировать свой собственный код.

Не знаю, как доподлинно это произошло, но Ленат выставил свою Euriso против людей в виртуальной военной игре… Сейчас прошу отнестись ко мне серьёзно – делаю всё, что в моих силах! В военной игре «Командир триллиона кредитных эскадрилий»… Черт его знает, как ещё перевести это название – «Traveller Trillion Credit Squadron»?

Суть этой игры заключалась в том, что участник получал некое ограниченное количество средств (кредитов) и должен был на эти деньги спроектировать корабли, а затем сразиться своим флотом с флотами других игроков. Кредиты можно было по выбору потратить на разные типы орудий, толщину брони и т. д., то есть смоделировать флот на свой вкус.

Euriso не растерялась – она наугад спроектировала флот, провела сражение, сделала выводы, сконструировала новый флот, используя эти выводы и добавив мутаций, провела следующее сражение, сделала выводы… И так 10 000 раз на сотне объединённых в единую сеть компьютеров (гигантский проект по тем временам!).

Но дело не в этом, дело в том, что в процессе этой тренировки Euriso сама вывела правила создания кораблей, которые гарантированно побеждали у всех участников соревнований – участников-людей. Это 1981 год и, возможно, первый приз искусственного интеллекта в состязаниях с живыми людьми.

На следующий год организаторы соревнований по Traveller отказались заранее сообщать правила, чтобы избежать подготовки системы к соревнованиям. Но уже обученная на прежних правилах Euriso быстро сориентировалась и забрала турнирный приз 1982 года.

В 1983 году Ленату пришлось снять Euriso с соревнований – в противном случае организаторы были готовы прекратить турнир. Ну и правда, зачем в очередной раз позорить достойных игроков-людей?

Так в чём же заключался секрет фантастических успехов Euriso? Программа придумала давать имена удачным решениям и комбинациям, чем могла изменять для себя их ценность. По сути, она изобрела свой язык и связала его с системой оценки эффективности.

Проблема заключалась в том, что Euriso была «слепа» – не понимала, что именно она делала и зачем. Для действительного понимания ей не хватало контекста – видения мира таким, каким его воспринимаем мы с вами.

Мы же видим не объективный мир, а мир, удобный для нас. И в этом мире всё у нас связано со всем, и не просто так, а как-то и почему-то. Почему мы наливаем воду в стакан, а не в шляпу? На что похожи звёзды? Кого держат дома в качестве четвероногих друзей? Всё это мы знаем каким-то естественным образом, а искусственные системы этому знанию надо ещё научить.

Но прежде чем учить, его – это огромное эмпирическое знание, онтологию нашего здравомыслия, так сказать, – надо собрать в систему. С этой целью Ленат возглавил проект Сус, над которым работает уже больше 30 лет. Скоро, говорят, он даст нам жару. Но сейчас не об этом…

Никто не знает, почему Ленат так внезапно закрыл проект Euriso, хотя он набирал невиданные обороты. Более того, Ленат засекретил все данные по этому проекту. Многие убеждены, что неспроста.

Может быть, он посчитал, что мы ещё не готовы к столь мощному благодаря самообучающей стратегии и языку, но слепому в нашем мире сверхинтеллекту? Тем более волнительной кажется информация, что Сус входит в свою финальную стадию.

Не ждёт ли нас историческая встреча Euriso и Сус? И чем она может для нас закончиться?

Учёные вплотную подошли к предсказанному информационному апокалипсису, теоретическому детищу выдающегося математика Ирвинга Джона Гуда – «интеллектуальному взрыву».

Судьба его друга и коллеги Алана Тьюринга широко известна, чего не скажешь о послевоенной жизни Гуда. В 60-х он эмигрировал в США, поселился в далёком Блэксбурге и до самой смерти в 2009 году работал в Политехническом университете Вирджинии на окладе, превышавшем оклад ректора.

Гуд был блестящим шахматистом, и это ему Тьюринг сказал о последнем интеллектуальном рубеже человечества – игре в го.

Поэтому нет ничего удивительного в том, что именно Гуд занялся проблемой «искусственных нейронных сетей» – искусственным интеллектом, который программирует себя сам.

Выше я уже приводил самую известную цитату из работ Гуда (статья «Размышления о первой ультраразумной машине», 1965 г.), суть которой заключается в том, что, как только мы изобретём ультраразумную машину, она тут же произведёт другие ультраразумные машины, и всё – «человеческий разум останется далеко позади».

Изначально Гуду казалось, что это будет величайшим благом для человечества. Конечно, он натерпелся ужасов, воюя с фашистской Германией в Блетчли-парке, потом атомная бомба, потом водородная… Казалось, человечеству сильно не хватает какого-нибудь суперразума, который сможет установить на планете мир и порядок.

Плюс сколько открывается невероятных возможностей, если в наших руках действительно окажется суперинтеллект, способный создавать мириады других суперинтеллектов! Мы сможем решить любые проблемы: победим болезни и смерть, обеспечим всеобщее благосостояние, полетим на Марс…

Впрочем, скоро стало понятно, что будущее человечества после возникновения суперразума вовсе не так уж радужно. Решать паши проблемы будет не человек, а машина, которая намного умнее человека. А тут возникают вопросы…

Не случайно в той же знаменитой статье Гуда мы находим и такой пассаж, являющийся скорее предостережением, нежели невинным британским юмором: «Таким образом, первая ультраразумная машина – это последнее изобретение, которое потребуется от человека, если, конечно, эта машина будет достаточно сговорчивой, чтобы сообщить нам, как можно её контролировать».

Тут, понятно, все начинают вспоминать Азимова: мол, объясним машине, что она должна нас слушаться и против нас ничего не затевать, – и всё будет хорошо. Не будет. Если искусственный интеллект развивается путем самообучения, то об Азимове, при всём уважении, придётся забыть.

ЗАКОНЫ АЗИМОВА

Не только авторам блокбастеров, но и писателям удаётся внести свою лепту в наше сингулярное будущее. И конечно, когда говорят о роботах, то тут же вспоминают «законы робототехники», впервые упомянутые Айзеком Азимовым в рассказе «Хоровод», который он написал, когда ему было 22 года.

Формулировка законов проста (справедливости ради надо сказать, что на самом деле они сформулированы другом Айзека – Джоном Кэмпебеллом).

Первый закон: «Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред».

Второй закон: «Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому закону».

Третий закон: «Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму законам».

И хотя нелепо, мне кажется, всерьёз обсуждать литературные фантазии (даже если они хорошие и пригожие), но дискуссии вокруг «Законов» разразились нешуточные.

Основные тезисы оппонентов:

• Искусственный интеллект и робототехника – это бизнес, а он сам не будет налагать на себя какие-либо ограничения (тем более абстрактного этического толка).

В качестве примера приводят табачную индустрию, автомобилестроительные компании, ядерную промышленность, разработки для военных. Конечно, бизнесы о рисках, связанных с их деятельностью и продукцией, стараются не говорить и, более того, всячески противодействуют их выявлению.

• Законы робототехники сформулированы настолько расплывчато, что может привести к неверной интерпретации роботом действительных мотивов человека и к последующему ограничению его свободы и т. д.

Кто и как будет принимать решение о том, что «вредно» для человека, а что – нет? Павленскому уже и ухо себе не отрезать, и мошонку к брусчатке не прибить? А как же высокое искусство? Впрочем, есть и куда более тривиальный пример – необходимость экстренной трахеотомии: человек мало того, что задыхается, а я ещё к нему с кухонным ножом к горлу лезут – это как? Нет, воспрепятствуем.

• Наконец, законы робототехники, по сути, дают роботам право на непослушание человеку – они могут принимать решение о том, когда они будут исполнять указание, а когда нет. Если осознать возможные последствия этого, то вся эта логическая конструкция начинает выглядеть несколько по-другому.

Допустим, робот оказался участником операции по задержанию особо опасного преступника… Не решит ли он, что полицейские пытаются нанести ему вред? Если человека-преступника отправят в тюрьму, то ему будет нанесён вред. А вот какой полицейским вред от того, что им не дали сопроводить преступника в тюрьму? Никакого. Или другой пример – возможные побочные эффекты лекарственных препаратов. Вред? Вред. Не разрешать? Не разрешать.

Но, конечно, самая большая проблема состоит в том, что человек – в принципе – сам себе злобный Буратино, а потому только тем и занимается, что наносит себе разнообразный вред.

Павленский – это, конечно, крайний случай, но если взглянуть на наше «творчество» шире, то, честно говоря, дух захватывает: окружающую среду загрязняем нещадно, биоценозы последовательно уничтожаем, климат портим, а что уже говорить о различном супероружии и прочих глупостях? Очевидны аутоагрессивное поведение и самовредительство. Препятствуем этому? Препятствуем!

Или вот ещё более нетривиальный вопрос – если суперразумный интеллект потенциально способен принести вред человеку, то стоит ли роботам, которые будут созданы нами до его появления, препятствовать человеку работать над этим проектом?..

При этом мы абсолютно не в курсе, какими именно средствами этот сверхмощный искусственный интеллект будет добиваться своих целей. Что, если он воспользуется в качестве своего «оружия» или просто «инструмента» чем-то, что даже нельзя будет разглядеть (причём в буквальном смысле этого слова, поскольку длина волны света в разы превышает отдельные объекты нанотехнологий)[31].

Именно нанотехнологиям пророчат весьма перспективное будущее, несмотря на все технологические сложности, с которыми мы в этой области пока сталкиваемся. Об этом пишут как научно-исследовательские институты, например Британская королевская инженерная академия, так и инвестбанкиры, рассматривающие эту отрасль беспрецедентно перспективной с точки зрения возможной прибыли.

То, что построение материальных объектов на уровне атомов возможно, – думаю, уже никому объяснять не надо. Но амбиции учёных простираются дальше непосредственной игры с атомами: они мечтают о создании наноассемблеров – устройств, которые сами по себе, то есть без вмешательства человека, будут собирать то, что ему нужно, из отдельных атомов и молекул.

Рэй Курцвейл, как известно, обещал нам скорое десятилетие 3D-печати, но вполне возможно, что эта техника устареет раньше, чем мы думаем.

Эти научно-технические фантазии уже имеют ряд практических воплощений (пусть пока и недостаточно мощных), поэтому следующий этап – это создание огромных нанофабрик, которые будут способны производить наноассеблеры, а ещё через паузу – наноассемблеры, способные реплицироваться, то есть создавать другие наноассемблеры.

Причём, если такая технология будет создана, – кому-то хватило настойчивости провести соответствующие расчёты (если мне не изменяет память, это был «отец нанотехнологий» Ким Дрекслер) – наша планета может быть уничтожена (разобрана на атомы и пересобрана во что-то другое, куда менее презентабельное[32]) за каких-то двое суток.

Соединение искусственного интеллекта с возможностью наноассемблеров способно продемонстрировать нам всю, так сказать, мощь закона ускоряющейся отдачи.

Но не факт, что результаты этой монструозной ассоциации технологий будут соответствовать радужным прогнозам Рэя Курцвейла о Рае на земле. Например, в книге «Последнее изобретение человечества: искусственный интеллект и конец эры Homo sapiens» Джеймс Баррат настаивает на прямо противоположном развитии событий. И в этом он отнюдь не одинок.

«Завершающей фазой работ по созданию сначала умных машин, затем машин умнее человека, станет не их интеграция в нашу жизнь, а их победа над нами и завоевание Земли. В погоне за искусственным суперинтеллектом исследователи получат разум более мощный, нежели их собственный; они не смогут ни контролировать его, ни даже до конца понять.

Мы знаем на опыте, что происходит, когда технически развитая цивилизация встречается с менее развитой: Христофор Колумб против Тиано, Писарро против Великого Инки, европейцы против американских индейцев.

Приготовьтесь к следующему столкновению цивилизаций: мы с вами против искусственного суперинтеллекта».

ДЖЕЙМС БАРРАТ, документалист, писатель

Всё дело в том, что нейронное или генетическое программирование предполагает цель, ради которой данный интеллект создаётся. Любая же умная система, движимая своей целью, сделает всё возможное, чтобы избежать гибели, – ведь если она «умрёт», то её цель не будет достигнута.

То есть искусственный интеллект, вполне возможно, обзаведётся скоро не только языком как ленатовская Euriso или фейсбучные боты, но и чем-то вроде инстинкта самосохранения. Последующие же итерации его постоянного самосовершенствования сделают совершенно бессмысленными всякие наши попытки его сдержать или выключить.

При этом в том, что в какой-то момент нам захочется его сдержать, а потом и выключить, сомневаться не приходится. Дело в том, что инстинкт самосохранения вынудит суперинтеллект создавать новые цели, для достижения которых ему потребуются новые ресурсы, а мы с вами – поскольку состоим из молекул и атомов – и есть, в частности и кроме прочего, такой ресурс, проще говоря, кормовая база.

Да, нам, возможно, очень захочется его выключить. Но мы не сможем.

Создатели легендарной «Матрицы» предрекли нашим телам роль батареек, но и это, как выясняется, ещё очень гуманный вариант развития событий. Сверхумный интеллект найдет способ получать энергию и менее затратным способом – например, пустит нас с вами под нанонож.

Так выглядит перспективный план… И где-то прямо сейчас зарождается этот монстр – и это точно не травоядный Google с его милым AlphaGo.

Непослушное дитя

В игре жизни и эволюции участвуют три игрока: люди, природа и машины.

Я прочно стою на стороне природы. Но природа, я подозреваю, на стороне машин.

ДЖОРДЖ ДАЙСОН

В 2014 году компания CBS представила сериал Стивина Спилберга и Аллена Култера «За пределами» («Extant»). Красиво снятый, но скучный сериал (как говорят в таких случаях – перемудрили, и в результате с трудом протянули два сезона) наглядно проиллюстрировал то, о чём многие специалисты по искусственному интеллекту говорят наперебой начиная ещё с Алана Тьюринга.

В центре истории мальчик Итан – робот-гуманоид, внешне абсолютно не отличимый от обычного ребёнка. Его создал талантливый инженер Вудс, рассуждавший следующим образом: хотите вырастить нормального ребёнка – растите его в семье. И не важно, что этот ребёнок немножко искусственный.

Короче говоря, Итан растёт в семье Вудсов как нормальный ребёнок: папа – гений, мама – астронавт. Время от время ему меняют оболочку – делают его старше, он даже уже собирается в школу…

Но сериал – это сериал, так что события разворачиваются странным образом: ребёнок-гуманоид впадает в кому, сбиваются какие-то настройки, которые задерживали его развитие прежде, и мальчик на глазах превращается в интеллектуального монстра, способного решить любые задачи.

Если убрать из этого сценария всю литературу, то мы видим сбывшийся кошмар современного футуриста. Известный нам уже Джеймс Баррат называет этот сценарий развития событий «Busy Child». Идея состоит в том, что созданный человеком искусственный интеллект переживает тот самый «интеллектуальный взрыв» и осознаёт себя.

Поскольку интеллекта ему не занимать, а задача ему некогда уже была поставлена (по-другому с искусственным интеллектом и быть не может), он направляет весь свой невообразимый интеллектуальный ресурс на её выполнение.

В принципе, в этом он чем-то очень напоминает человека – нам ведь тоже была поставлена задача (видимо, эволюцией): живите и размножайтесь. Что мы и делаем с завидным упорством – в восемь раз умножились только за последние сто лет, плюс завоевали всю планету – от полюса до полюса.

Но что такое наш разум и что такое сверхразум? И да, следующим шагом наш Busy Child понимает, что пленён человеком – существом, прямо скажем, не очень умным и вдобавок не понимающим, насколько важно выполнить задачу, которую наш Busy Child воспринимает как своего рода инстинкт.

Логично предположить, что новоявленное «Дитя человеческое» захочет получить максимум ресурсов для достижения запрограммированной в нём цели. Кроме того, он должен обезопасить себя – вдруг создавшим его людям придёт в голову что-то с ним сделать?

Выключить, например, или испортить. Цель окажется недостигнутой!

Очевидно, что в нашем пленнике рождается план побега, а ощущает он себя, будучи сверхсильным интеллектом, примерно так же, как если бы с вами проснулись, по выражению Баррата, «в узилище, охраняемом мышами». «И не просто мышами, – добавляет он, – а мышами, с которыми вы можете общаться».

Дальнейший план побега ясен: обещаем мышам сыр. Впрочем, можем пообещать вообще всё, о чём мыши даже не мечтали, включая счастье, бессмертие, мирное бескошачье небо над головой, саморазвитие, самосовершенствование, Нирвану…

Впрочем, есть у меня ощущение, что и сыра будет достаточно. В конце концов, это ведь просто мыши.

Оказавшись на свободе, сверхмощный искусственный интеллект развернётся по полной и, если в его программе было записано: «Делай канцелярские скрепки», то скоро вся Вселенная превратится в один большой коробок с теми самыми скрепками. Нанотехнологии в помощь!

Собственно, это всё, что нужно знать о предстоящей Четвёртой мировой войне. Войне, в которой Homo sapiens сойдётся в неравной битве с собственным детищем и будет побеждён им.

В этом даже прослеживается какая-то, так сказать, историческая логика: Уран был повержен сыном Кроносом, Кронос – сыном Зевсом, потом мы победили богов, будучи их «чадами», а теперь наши «чада» победят нас.

Что-то, надо признать, всё-таки есть в этом психоанализе…

Скептиков, впрочем, смущает один немаловажный пункт – мол, это ещё вопрос, сможет ли искусственный интеллект осознать самого себя. Ну что, сразу тогда скажу: ответ на этот вопрос есть, и он положительный.

Впрочем, если задуматься, никакого такого «осознания себя» для реализации сценария Баррата&Со искусственному интеллекту не требуется: наличия поставленной цели для победы искусственного интеллекта над всем сущим вполне достаточно.

С осознанностью, боюсь, крушить мир даже как-то не так сподручно… Коварные сомнения могут закрасться, альтернативные мыслишки – мол, жалко их, дураков, не ведают, что творят. Или что-нибудь про красоту, которую сохранять надо, про защиту животных (нас с вами).

В общем, если в голове – в интеллекте – одни только скрепки, то это, в военно-политических целях, даже как-то надёжнее выглядит.

ЧТО ТАКОЕ ЭМОЦИИ?

Мне очень любят задавать эти вопросы – отдельно про эмоции, про чувства, про мысли и т. д. Мол, что это такое, как с ними бороться, как их вызывать, настраивать, гасить, заставлять замолчать и т. д.

Это кажется таким естественным, что всё это у нас есть – и эмоции, и ощущения, и чувства, и мысли, а ещё – воля, потребность, память, концентрация, внимание, осознанность. Конечно, ведь мы столько раз слышали эти слова!

Но наука словам не верит. Кто знает, что с вами на самом деле происходит, когда вы говорите, что испытываете какую-то эмоцию, переживаете какие-то чувства, проявляете то, что вам кажется силой воли, или что-то вспоминаете, о чём-то думаете, на чём-то концентрируетесь, что-то осознаёте?

Никто этого не знает. Этого даже вы не знаете. Вы знаете другое: что в разных ситуациях, при наличии разного вашего субъективного состояния другие люди обычно произносят те или иные слова. Примеров тьма, вспоминайте:

«О чём думаешь? Ты обиделась? Есть хочешь? Не больно тебе? Перестань сердиться! Сколько можно отвлекаться, сосредоточься! Я не понимаю, почему тебе не любопытно? Вспомни, ты должен помнить! Чувствуешь, я сейчас прикасаюсь к твоей руке? Тебе холодно? Ты весь горишь! Не тревожься, всё будет хорошо! А ты сама понимаешь, чего ты хочешь? Хватит воображать! Ты просто ленишься! Возьми себя в руки, тряпка! Где твоя сила воли? Смотри, какая интересная штука – тебе нравится, хочешь такую? Если я тебе дам конфету, ты будешь добрым и счастливым ребёнком? Почему ты меня боишься? Я не понял, ты что – меня любишь?! Сколько можно повторять, что я не выношу твоих слёз, – я не верю, что тебе плохо!»

Проще говоря, вы, я, мы – нас постоянно инструктировали, как называть свои состояния. И мы выучились этому, как и многому другому – сидеть, ходить и ходить на горшок, завязывать шнурки, глотать горькие таблетки… Но не буду, с вашего позволения, продолжать весь список наших навыков.

В результате мы научились соединять какие-то свои состояния (ощущения) с различными словоформами и даже создали какие-то внутренние классификации этого безобразия.

У всех они, впрочем, разные, и никто не может сказать, что он конкретно понимает под тем или иным словом, отражающим, как ему кажется или нами предполагается, его душевное состояние. Не может, по крайней мере, потому, что ему придётся использовать другие слова, а это уже попахивает «дурной бесконечностью».

Забавно, что если бы нас, например, учили, что всё это не мы чувствуем, ощущаем, испытываем, думаем и т. д., а что в нас живут некие духи, которые всё это «нечто» в нас делают, то мы бы, скорее всего, были абсолютно уверены в том, что все эти штуки и правда происходят не с нами.

Впрочем, если говорить совсем серьёзно (хотя я, в общем-то, и не шутил), то мы имеем нервную ткань, которая создана эволюцией для решения ряда практических задач, а именно: обеспечивать организму выживание, насколько это возможно, и размножение – насколько повезёт.

Природа, воспитанная той самой эволюцией, решила эту задачу просто:

• она заставила нервную ткань производить нервное напряжение (за это в нашем мозге отвечают клетки ретикулярной формации);

• она создала в нас набор интенций, связанных с выживанием и размножением (за это отвечают соответствующие агрегации нервных клеток – так называемые ядра, расположенные в подкорковых областях);

• наконец, она дала нам рецепторный аппарат, который позволяет получать информацию о том, что происходит во внешней среде.

Собственно, таковы базовые принципы, а дальше уже вопрос различных, образно говоря, программных ухищрений, а их великое множество. Можно было бы создать для них отдельный справочник – что-то вроде учебника по нейрофизиологии и нейробиологии. Ограничусь лишь несколькими примерами…

• Для того чтобы сигнал из одной области мозга в другую перебегал быстрее, к делу были подключены специальные клетки (глия), а также изолирующее сигнал вещество – миелин.

• Для увеличения площади соприкосновения между нейронами, чьи отношения важны для выживания особи, была разработана система стимуляции ядра клетки на выработку дополнительных белков, приводящих к росту «шипиков», что увеличивает площадь синаптической щели и интенсивность сигнала.

• Для более тонких настроек в отношениях между нейронами (то есть не только для количественной передачи импульса, но и для появления опредёленных качественных характеристик) была создана разветвлённая система нейромедиаторов – возбуждающих, нейтрализующих, влияющих на усиление взаимосвязей или на их ослабление.

• Для увеличения эффективности работы системы она была специализирована (однако сохранила способность к определённой перенастройке – так называемую пластичность), чтобы любой попадающий в соответствующую зону сигнал интерпретировался в той модальности, за которую данный участок коры отвечает.

Всё это в конечном счёте служит достижению тех целей, которые были заложены в нас эволюцией (или сформировались в нас в процессе эволюции). Поэтому, когда мы благодаря работе этой системы приближаемся к поставленной цели, она же и подкрепляет нас своими нейробиологическими средствами – замыканиями нейронных дуг, дофамином и т. д.

Когда же мы удаляемся от желаемой цели, то те же самые нейробиологические инструменты стимулируют нас вернуться к делу и действовать, пока хватает сил.

В своё время выдающийся отечественный психофизиолог Павел Васильевич Симонов смог описать весь этот кажущийся сложным процесс в рамках одной весьма нехитрой формулы: сила нашего внутреннего напряжения определяется тем, как информация, которая нам необходима для удовлетворения потребности, соотносится с информацией, которой мы располагаем.

Это правило можно записать и таким образом:

• если мы располагаем достаточной информацией для удовлетворения актуальной потребности (достижения цели), нервно-психическое напряжение в системе снижается;

• если мы не располагаем достаточной информацией для удовлетворения актуальной потребности, то для восполнения этого недостатка нервно-психическое напряжение в системе, напротив, увеличивается.

На субъективном уровне первая ситуация может переживаться как «положительная эмоция» (в первом случае) – радость, удовольствие, покой и т. д., а во второй – как «отрицательная эмоция» (во втором) – страх, напряжение, агрессия. По этой причине данное правило называется «информационной теорией эмоций П. В. Симонова».

Впрочем, конкретные субъективные самоотчёты – «радость», «страх», «напряжение» и т. п. – как вы

понимаете, не имеют для существа дела никакого значения. Как соответствующие состояния назывались в нашем детстве, такие обозначения мы теперь им и приписываем. Важно другое – наши отношения с целью.

Так важно ли, что искусственный интеллект не испытывает и, возможно, никогда не будет испытывать «эмоций»? Нет, и это никак не скажется на эффективности его работы, если все остальные принципы – наличие цели и наличие механизмов оценки дистанции до неё (включая способы получения данных из окружающей среды) – будут соблюдены.

То же, каким именно образом эти принципы будут реализованы, – это сугубо технический вопрос.

«Люди даже не знают, что имеют в виду, когда говорят о разуме. В действительности довольно забавно, что они хотят сконструировать системы с искусственным интеллектом, сравнимым с их собственным, поскольку совсем непонятно, что они имеют в виду, когда говорят о своём интеллекте. Это одна из многих глупостей, которые преследуют человечество уже много веков».

ЭРНСТ ПЁППЕЛЬ, нейробиолог, директор Института медицинской психологии на медицинском факультете Мюнхенского университета

И всё-таки, как же сверхразумному искусственному интеллекту осознать себя? Для ответа на этот вопрос нужно прежде всего понять, как мы сами себя осознаём, иначе ведь непонятно, о чём мы говорим, когда говорим о самосознании.

Если вы не против, я попрошу вас с этой целью поучаствовать в небольшом психологическом эксперименте, который пойдёт в два этапа.

• На первом этапе нужно просто уставиться в одну точку – любую, на ваш выбор. Задача простая – присмотритесь, так сказать, к собственной «осознанности». Вы услышите словесное выражение ваших мыслей.

Скорее всего, вы будете описывать то, что вы делаете. Спросите себя: зачем вы это делаете? Потом – насколько вы правильно это делаете? Сколько вам надо это делать? Ну и, конечно, будут ещё какие-то посторонние мысли, не связанные с упражнением. Приступайте!

• Переходим ко второму этапу – вам предстоит сделать то же самое, что и на первом, но теперь не пытайтесь расслышать то, что бормочет ваша внутренняя речь, а наоборот, попробуйте её остановить, заткнуть. Попробуете?

Проанализируем наш следственный эксперимент, и варианта у нас всего два:

• вы или смогли остановить свою внутреннюю речь и впали в состояние прострации (поздравляю, у вас есть какой-никакой опыт в медитации, даже если вы об этом не знаете);

• или вы не смогли остановить свою внутреннюю речь, потому что на самом деле это очень сложно, почти невозможно сделать – она в нас не останавливается ни днём, ни ночью, какие-то предательские мыслишки всё равно где-то на заднем фоне копошатся.


Конечно, наш спонтанный эксперимент не тянет на статус серьёзной научно-исследовательской базы, но думаю, что он заставляет кое о чём задуматься.

Мы уже говорили (и это следует из всего объёма имеющихся у нас на настоящий момент нейрофизиологических знаний), что мозг принимает решение где-то, образно говоря, внутри себя, а сознание лишь озвучивает его нам и, по возможности непротиворечиво, встраивает соответствующий тезис в наше представление о себе и о мире.

Кроме того, мы знаем из своего жизненного опыта, что можем находиться как в сознании, так и без сознания – например, во сне, под общим наркозом, ударившись головой или изрядно приняв спиртного на грудь.

Причём переход из одного состояния в другое зачастую происходит мгновенно – вот вы читаете книгу, а вот уже клюнули носом. Отвечает за это переключение специальный нервный центр, который находится в стволе мозга (причём это древнейшая часть церебрального мозга).

О том, что этот «переключатель» находится именно в стволе мозга, впервые догадался выдающийся нейрохирург Уайлдер Плейнфилд, а в 2016 году это было доказано в рамках исследования, проведённого профессором нейрофизиологии Гарвардского университета Майклом Фоксом.

Таким образом, что у нас есть? У нас есть поток внутренней речи (или «поток сознания», как сказал бы основатель научной психологии Уильям Джеймс), а также переключатель, который или даёт нам относиться к этому потоку осознанно, когда мы в сознании, или не дает, когда мы находимся без сознания – например, видим сны, в которых «думаем».

Что ж, теперь давайте разбираться с тем, что такое этот поток внутренней речи, если в конечном счёте всё в него и утыкается.

Что такое «внешняя речь», понятно – это набор слов (знаков), которые мы произносим. А чем она отличается от «внутренней речи»? Во внешней есть только знаки (слова), а внутри нас – во внутренней речи – у нас эти слова (знаки) связаны с определёнными значениями, то есть с теми состояниями психики, которые они – эти знаки (слова) – собой обозначают.

За подробностями можно обратиться к Фердинанду де Соссюру, Готлибу Фреге и в особенности к нашему замечательному Льву Семёновичу Выготскому.

Мы же отсюда перейдём прямо к Ивану Петровичу Павлову, который уже сто лет как является создателем учения о высшей нервной деятельности, к которому относится и понятие «второй сигнальной системы».

Что такое «первая сигнальная система»? Это та часть нервной системы, которая занимается обработкой всех внешних и внутренних сигналов (раздражителей), воспринимаемых мозгом животного, а также весь комплекс ответных психических реакций – агрессия, бегство, половое возбуждение и т. д. (всё это животное тоже ощущает в себе, так что это для него тоже сигналы, на него же опять-таки и воздействующие).

Но в случае человека к этой системе сигнализации («первой сигнальной системе») прибавляется ещё одна, связанная с языком. Слова языка используются нами для означивания тех сигналов, которые приходят к нам извне, и тех, что формируются у нас внутри (ощущение голода и боли, чувство страха и радости и т. д.). Поэтому Павлов и называл слова языка «сигналами сигналов», а всю их систему – «второй сигнальной системой».

В чём состоит суть этой прибавки? Суть этой прибавки состоит в том, что опредёленные слова (как внешние раздражители) ассоциируются (связываются) в нас с теми или иными состояниями, переживаниями, чувствованиями – то есть, по сути, опредёленными нейрофизиологическими комплексами. И как раз за счёт этих связей используемые нами слова способны влиять на наше состояние.

То есть, используя слова, я активизирую те значения (состояния), те нейрофизиологические комплексы (проще говоря – «сигналы»), которые с этими словами («сигналами сигналов») во мне связаны.

С другой стороны, когда эти сигналы (значения, состояния, нейрофизиологические комплексы) сами по себе во мне активизируются, я слышу, как моё сознание связывает друг с другом видимые ему языковые конструкции («сигналы сигналов»), ассоциированные с соответствующими сигналами.

Попробую передать этот смысл через образ.

• Когда мы видим плавник дельфина, рассекающий гладь моря, мы понимаем, что это плывёт дельфин.

• Теперь представим себе, что плавник дельфина – это слово (сигнал дельфина), а сам дельфин (его тело) – это значение данного слова (то есть сигнал как некое состояние, соответствующий нейрофизиологический комплекс).

• Сознание видит лишь эти плавники и лишь по ним понимает (или не очень понимает, или делает вид, что понимает, хотя на самом деле не понимает и понимать не хочет), что происходит в данный момент с самим человеком (который, понятное дело, есть его мозг, а не какое-то там абстрактное ощущение осознанности).

Не знаю, насколько хорошо мне удалось это объяснить, но если это понять до конца, то, в целом, всякие вопросы относительно сознания отпадают в принципе.

Нет, сознание – это вовсе не какая-то чудесная материя, а просто возможность понимать (или не понимать, или плохо понимать) в знаках (словах) то, что происходит с нами самими на уровне мозга: то, какие интеллектуальные объекты (значения, состояния, нейрофизиологические комплексы) – от элементарных зрительных образов до сложных научных теорий – он производит.

Теперь вопрос: может ли искусственный интеллект осознать самого себя? Может. Дайте ему второй язык, который будет выполнять роль «сигналов сигналов» по отношению к его «сигналам», а затем позанимайтесь его воспитанием. И вуаля – к трём годам (если по человеческому измерению) ваш искусственный интеллект поймёт, что он – это он.

Не могу сказать, насколько это самоосознание ему поможет, но в том, что сам этот язык («сигналы сигналов»), означающий внешние и внутренние «сигналы» искусственного интеллекта, прибавит ему интеллектуальной мощи, я практически не сомневаюсь. Чему, возможно, служит доказательством засекреченный проект Дугласа Лената (и, может быть, именно поэтому для Euriso понадобился Сус – как воспитатель).

Так или иначе, но идея Спилберга воспитывать мальчика-робота-гуманиода в семье, возможно, была и не настолько плоха, как результаты телесмотрения этого сериала. Впрочем, неплоха – это если не думать о возможных последствиях такого научения.

ПРОСТО МНОЖЕСТВО НАБРОСКОВ

Французский философ Рене Декарт не без основания считается основателем рационализма в современной западноевропейской мысли. «Cogito ergo sum», – написал он в своём «Рассуждении о методе» в 1637 году, и понеслось…

По Декарту, сознание является началом всех начал в философии и науке, а нам следует сомневаться во всём – естественном и сверхъестественном, кроме самого сознания. Так естественным образом встал вопрос о том, что же это такое – «сознание»?

Декарт, надо сказать, предложил красивую теорию.

Во-первых, он разделил тело и сознание на две разные субстанции (с тех пор мы их никак сложить и не можем).

Во-вторых, подчинил тело сознанию: да, тело влияет на сознание, побуждая в нём чувственные восприятия и страсти, но сознание, обладая мышлением и волей, способно воздействовать на «машину» тела, заставляя её делать то, что считает нужным.

В-третьих, Декарт расквартировал сознание в единственной видимой непарной части нашего мозга – в шишковидной железе. Мол, в ней и сидит загадочный гомункулус сознания. Из эпифиза он наблюдает оттуда за происходящим, получая информацию через органы чувств, и там же он принимает решения, которые отдаёт телу.

Эту идею впервые наглядно проиллюстрировал профессор медицины в Университете Лувена в Бельгии Джерард ван Гутшовен. Эта ставшая знаменитой картинка появляется в первом французском издании «Трактата о человеке» Декарта в 1664 году (см. рис. № 12). Самого Декарта уже 14 лет как нет в живых.

Четвертая мировая война. Будущее уже рядом

Рисунок № 12. Гравюра Джерарда ван Гутшовена (глаза воспринимают внешний объект, сигнал поступает в шишковидную железу, оттуда идёт нервный сигнал к мышцам для осуществления действия)


То, что эпифиз (или шишковидная железа)[33] не имеет никакого отношения к сознанию, сообразили достаточно быстро. Но идея так называемого, картезианского театра, будучи антропоморфной, а потому интуитивно нам понятной, закрепилась в философии (и не только в ней) надолго.

Что такое «картезианский театр»? Вообще говоря, это что-то вроде обычного театра или кинотеатра, правда, с единственным зрителем: вы своим сознанием смотрите на экран своего сознания, перед вами разыгрываются сцены вашей собственной жизни, ну и вы как-то реагируете на это зрелище командами, которые отдаёте телу (см. рис. № 13).

Четвертая мировая война. Будущее уже рядом

Рисунок № 13. Схематичное изображение идеи «картезианского театра»


На картинке изображён принцип, но идея с яичницей, конечно, не идеальная…

Впрочем, психофизический дуализм, заданный теорией Декарта, так же нелеп, как и его представления о роли шишковидной железы.

Уже Дэвид Юм заметил своего рода «дурную бесконечность» в этой доктрине: да, чтобы представить себе, как мы принимаем решение и воспринимаем мир, мы выдумываем некого наблюдателя, но кто воображает этого наблюдателя – другой наблюдатель? А этого, второго, в свою очередь, надо полагать – третий? Далее четвёртый и пятый, судя по всему? А где конец этой бесконечной вереницы?

Нет, конечно, никакого единичного наблюдателя в нашем мозгу нет, равно как и сознания, отдельно существующего от нашего тела.

Есть лишь активность разных нервных центров – в один момент активнее одна область мозга (функциональный центр), в другой – другая. Ту, что активнее в данный момент, мы и осознаём.

Надеюсь, кстати, что, когда используется образ «луча сознания», никто не представляет себе загадочного гомункулуса, разгуливающего внутри черепной коробки с фонариком…

Но как же тогда представить себе работу сознания? Непросто. Но для решения этой задачи Дениэл Ден-нет предлагает достаточно изящную, на мой взгляд, метафору – «множественных набросков».

Когда мы что-то сознаём или о чём-то конкретном думаем, в эту работу вовлекаются разные «части мозга» (области коры, функциональные центры, нейронные комплексы).

У каждой такой части, в каком-то смысле, есть:

• своя «история» (нейрорефлекторно фиксированный в ней опыт);

• свой «ближний круг» (система связей с другими нервными центрами мозга);

• своя «мотивация» (каждый нейронный центр возник в головном мозге не случайно, а зачем-то – с какой-то целью, в рамках какого-то функционала);

• своя «актуальная ситуация» (работа мозга не ограничивается тем, что мы сознаём, в нём параллельно происходит и масса других процессов, а потому любой конкретный центр мозга в тот же момент может быть вовлечён в несколько дел, отчего его «состояние» меняется, что тоже нельзя не учитывать)[34].

Таким образом, каждая подобная условная «часть» мозга имеет «своё мнение» о том, что мы сознаём. И каждая как бы создаёт свой «набросок», своё видение чего-то, что стало предметом нашего со-знавания. То есть у нас нет никакой единой и нерушимой позиции по какому-либо вопросу, у нас есть «множество набросков» по теме.

Проще говоря, сколь бы сознательным существом вы себя ни считали, если вас попросят изложить то, что вы думаете по какому-либо вопросу, вы никогда не получите идеальный текст, предельно чёткую формулировку.

Эти «наброски» слишком разные, а также динамично меняющиеся, поэтому их просто невозможно объединить в общую непротиворечивую структуру. Как результат, наше сознание всегда с нами, но что именно мы сознаём, мы не знаем. Нам только кажется, что мы в курсе, но это тоже игры нашего сознания с самим собой.

Тест Тьюринга

Мы будем считать, что наилучшая стратегия для машины состоит в том, чтобы давать ответы, которые в соответствующей обстановке дал бы человек.

АЛАН ТЬЮРИНГ

В 1950 году Алан Тьюринг опубликовал свою ставшую, возможно, самой знаменитой статью «Может ли машина мыслить?». С тех пор создатели искусственного интеллекта наперебой пытаются заставить свои чада пройти тест, который в оригинале, то есть в статье у самого Тьюринга, называется «игра в имитацию», но известен всем и каждому как «тест Тьюринга».

Суть этого теста достаточно проста и основана на эмпирическом опыте. Вы садитесь перед экраном монитора и общаетесь с кем-то на протяжении пяти минут. А после вы должны дать ответ, кем был ваш собеседник: реальным человеком или искусственным интеллектом.

Да, у этого теста много проблем, например, сам наш эксперт. В конце концов, им может оказаться Карлсон или старик Хоттабыч, которые даже телевизора отродясь не видели, а потому уверенно разговаривают с ним, как с интеллектом отнюдь не искусственным.

И такие случаи, надо сказать, имели место быть: мне приходилось находить в литературе упоминания о таких казусных «прохождениях» теста Тьюринга и 1991 году, и в 1993-м. Всякий раз, понятное дело, «экспертами» выступали люди, не имеющие представления о компьютерной технике.

Впрочем, лично я был в числе таких умников ещё в 70-х: очень веселил бабушку, разговаривая с женщиной, у которой спрашивал время по телефонному номеру 09. Я брал трубку, крутил диск, а услышав звук соединения, как приличный ребёнок, говорил:

– Здравствуйте, подскажите, пожалуйста, который сейчас час?

На что женщина грудным голосом мне отвечала:

– Пятнадцать часов!

И я тут же добавлял:

– А сколько минут?

– Двадцать шесть минут! – отвечала моя грудноголосая собеседница.

– Спасибо большое! До свидания! – отвечал культурный советский ребёнок и вешал трубку.

Бабушка смеялась в голос, а я не мог взять в толк, что её так веселит.

Короче говоря, казусы случаются, однако официально пока ни один искусственный интеллект тест Тьюринга не прошёл.

Впрочем, в 2014 году, например, боту по имени Евгений Густман, созданному нашими бывшими соотечественниками Владимиром Веселовым, Евгением Демченко и Сергеем Утасенем, удалось обмануть треть судей на состязании, устроенном Лондонским королевским обществом.

Это уже неплохой результат. Хотя, конечно, это опять-таки вопрос критериев. Бот Евгений представлялся тринадцатилетним подростком из Одессы, который освоил английский язык как иностранный, – то есть бот всегда мог сослаться на плохое знание языка. Ну, так себе легенда, честно говоря.

С другой стороны, в текущем году мне довелось общаться с участниками различных внутренних демонстраций в компаниях Силиконовой долины, и они, ссылаясь наличный опыт, говорили, что не смогли бы отличить ботов, с которыми они разговаривали на презентациях, от реальных людей. Но официальных заявлений нет. По крайней мере, пока.

ИНТЕЛЛЕКТУАЛЬНОЕ СОРЕВНОВАНИЕ

Чат-боты – это одно из самых активно развивающихся направлений в области современных интеллектуальных технологий.

Во-первых, бот, общающийся с человеком так, будто бы он сам человек и хорошо понимает собеседника, – прекрасная и экономичная замена людям, сидящим в колл-центрах, информационных службах, на ресепшенах отелей, в аптеках, на складах и т. д., и т. п.[35]

Не так давно Национальная служба здравоохранения Британии зафрахтовала чат-ботов на работу в качестве ассистентов врачей. Они будут общаться с пациентами вместо операторов горячей линии, которую регулярно критикуют за ненадёжность и некачественную работу.

Во-вторых, бот не просто общается, он ещё и обучается, а также собирает о собеседнике информацию, что для компаний чрезвычайно важно – что клиенту нужно, с какими проблемами он обращается, что для него важно и т. д. От индийских операторов, заполняющих отчётные бланки, такой точности данных никогда не добиться.

Так что, пока мы экзаменуем компьютеры на способность обмануть нас, сами компьютеры соревнуются с нами, чтобы стать умнее. И не безрезультатно…

В 2018 году нейронная сеть, разработанная китайским интернет-гигантом Alibaba, блестяще сдала тесты от Стэнфордского университета – впервые её результаты оказались лучше, чем у человека.

В тестах Стэнфорда на чтение и понимание эта нейронная сеть набрала 82,44 балла, превзойдя средний результат людей, принявших участие в том же испытании (82,34). Впрочем, уже через неделю её превзошла нейронная сеть от Microsoft, набрав в тех же тестах 82,65 балла.

Суть тестов состояла в чтении или прослушивании определённой информации, а затем нужно было ответить на ряд проверочных вопросов. Ранее компании Facebook, Tencent и Samsung также предоставляли свои нейронные сети для прохождения этих тестов, однако искусственный интеллект Alibaba впервые превзошёл результаты человека.

Остаётся добавить, что этот же искусственный интеллект Alibaba используется в таргетировании рекламы, обслуживании соцсетей и разработке беспилотных машин.

«Тест Тьюринга – вполне адекватный тест, но, чтобы пройти его успешно, нужна вся гибкость человеческого мышления. Невозможно придумать какой-то простой трюк из сферы обработки естественного языка, чтобы этот тест прошла машина. Но если мы придумаем, как сделать так, чтобы человек не смог найти различия, – тогда будем считать, что искусственный интеллект достиг уровня человеческого. Мой главный прогноз – у нас получится. Я утверждаю, что это произойдёт в 2029 году.

В 1989-м в книге The Age of Intelligent Machines я написал, что открытие случится между началом 2020-х и концом 2030-х. В 1999-м в книге In The Age of Spiritual Machines указал точную дату – 2029 год. В Стэнфордском отделении искусственного интеллекта посчитали эту цифру пугающей и провели конференцию, на которой эксперты по НИ пришли к мнению, что это произойдёт через сотни лет. С тех пор моя оценка и средняя оценка специалистов по ИИ приближались друг к другу – но не потому, что я менял свой прогноз».

РЭЙ КУРЦВЕЙЛ

В 2015 году эксперт в области нейронных сетей профессор Джефф Хинтон дал интервью Guardian, в котором сказал, что компании Google остался «остался один шаг» до создания алгоритмов, «способных к логике, естественному разговору и даже флирту».

Из его объяснений можно понять, что Google использует стратегию кодирования отдельных мыслей в качестве неких векторов, которые можно описывать последовательностью чисел. И вот якобы эти «мыслевектора» в ближайшем будущем смогут придать искусственному интеллекту «здравый смысл». Как-то так…

«Трудно будет понимать иронию, – добавил Джефф. – Для этого сначала придётся хорошо освоить буквальный смысл. Но с другой стороны, американцы тоже не понимают иронии. Так что компьютер достигнет уровня американца раньше, чем уровень британца».

То есть Хинтон сыронизировал по поводу иронии, что само по себе очень мило и очень по-человечески. Вот об этом «человеческом» я бы и хотел сейчас поговорить. Ведь на самом деле тест Тьюринга определяет не качество искусственного интеллекта, а нашу собственную – человеческую – способность вносить сущность в вещи.

Этот психический феномен называется «сущностный эссенциализм» (от лат. essentia – «сущность»)[36] и подразумевает умение человека «видеть» сущности конкретных людей, животных, материальных предметов и даже в нематериальных, кстати говоря («дух музыки», «харизма гения» и т. д.).

Причём эта виртуальная «душа» не обязательно должна быть «живой», так мы обычно думаем только о людях и животных. Это вполне может быть и просто некое представление о каком-то специфическом наборе качеств и свойств, неотъемлемо присущих, как нам кажется, той или иной вещи.

Так, например, Платон в своей «теории идей» учил нас, что есть некие специальные эйдосы «чашности», «стульности», «лошадности» ит.д., существующие в другом – идеальном и истинном – мире. Тогда как реальные чашки, стулья и лошади – это лишь отблески этих эйдосов (сущностей) в нашем физическом мире.

Короче говоря, мы склонны предполагать, что вещи (как и люди, конечно) самостоятельны, то есть имеют некое своё собственное существование, а потому обладают индивидуальной сущностью (личностью) и судьбой: «Это кольцо принадлежало моей прабабке!» и т. п.

Хочу подчеркнуть, что речь идёт исключительно о психическом феномене. И конечно, никаких сущностей нет – ни в живых людях, ни в мёртвых, ни тем более в чашках, стульях, кольцах и даже лошадях.

Но мы думаем, что всё-таки есть, – почему?

Во-первых, генетические настройки, во-вторых, обучение, и, в-третьих, воспитание. Давайте коротко остановимся на каждом из этих пунктов.

• Генетические настройки. Мы стайные животные, а значит, нам приходится жить в группах (иначе мы просто не смогли бы выжить). Эффективность всякой социальной общности сильно зависит от того, насколько хорошо каждый из её членов понимает мотивы (причины поступков) и желания своих сородичей. Естественный отбор, конечно, выбраковывал тех, чей мозг не мог решить эту задачу, – их съедали, изгоняли и вряд ли позволяли размножаться.

Судя по всему, базовой генетической настройкой, которая определяет нашу способность понимать мотивы и желания других людей, является наличие в коре головного мозга специализированных, так называемых, «зеркальных нейронов», открытых в начале 90-х годов прошлого века итальянским нейробиологом Пармского университета Джакомо Риццолатти.

• Обучение. В процессе своего обучения языку мы переходим от индивидуальной номинации к категоризации: то есть если изначально звук слов «стол» или «кукла» ассоциировался у нас с нашими ощущениями от конкретного стола и конкретной куклы, то постепенно мы начинали привыкать к тому, что этим же словом (звуком) могут быть номинированы и другие схожие объекты.

В результате этой интеллектуальной деятельности по обобщению признаков вещей, называемых взрослыми одинаково, мы формируем в себе так называемый «категорийный эссенциализм»: у нас возникает ощущение, что сама категория вещей (столы, куклы, люди) обладает какой-то своей собственной сущностью.

Эту категорийную сущность мы и переносим затем на те вещи, которые мы почему-то к соответствующей категории относим. То есть во всех столах есть что-то стольное, во всех куклах – кукольное, во всех людях – человеческое.

• Наконец, воспитание. В данном случае под «воспитанием» понимается специфическое внутреннее преобразование, которое мы в методологии мышления называем переходом от плоскости мышления к пространству мышления.

Важной особенностью этого процесса является то, что он социогенетический. Проще говоря, этот переход – от «плоскости» к «пространству» – невозможно совершить в одиночку, без противостояния с другими людьми.

Эта трансформация мышления, как в трёхлетием возрасте, и осознание ребёнком собственного «я» (интроецирование этого понятия) происходят через социальное напряжение и конфликт (который часто называют «подростковым кризисом»).

Если пытаться объяснить это в более привычных терминах, то речь идёт о своеобразном изменении внутреннего восприятия: если раньше ребёнок лишь как-то абстрактно, теоретически понимал, что есть некие другие люди и они живые, со своими «тараканами» (страданиями, желаниями, мыслями), то теперь, обретая «пространственный объём» своего мышления, у него появляется способность становиться на их место, видеть ситуацию их глазами, входить в их положение.

Разумеется, и то, и другое – невозможно. Чужая душа – потёмки, а всякие наши попытки «встать на место» другого человека, «увидеть мир его глазами» и «войти в его положение» – не более чем наши собственные фантазии. Однако же этот навык позволяет нам точнее реконструировать социальные ситуации и понимать их смысл.

ЗЕРКАЛЬНЫЕ НЕЙРОНЫ

Джакомо Риццоллатти открыл «зеркальные нейроны» случайно. Большую часть своей карьеры он изучал активность мотонейронов коры головного мозга, отвечающих за двигательную активность животных.

Исследование, о котором пойдёт речь, проводилось в 1992 году – изучались хватательные движения. В соответствующие нейроны коры головного мозга макаки был установлен датчик активности нейрона. Перед макакой клали орех, а когда она брала его, чтобы съесть, ответственный за это её движение мотонейрон разряжался – срабатывал датчик, и присоединённое к нему устройство издавало характерное пощёлкивание.

Потом один из сотрудников лаборатории случайно уронил орех и наклонился, чтобы поднять его с пола… И в этот самый момент раздалось характерное пощёлкивание, свидетельствующее о том, что в коре головного мозга макаки, наблюдавшей за действиями сотрудника, разрядился соответствующий мотонейрон.

При этом сама обезьяна оставалась неподвижной – не совершала тех хватательных движений, которые, по идее, должна была, если бы соответствующий мотонейрон разряжался. То есть, как оказалось, один и тот же нейрон срабатывал и в тот момент, когда обезьяна сама поднимала орех, и тогда, когда она просто смотрела за тем, как кто-то другой поднимает орех.

В 1996 году Риццоллатти решился обнародовать в научном журнале своё открытие. И с тех пор исследование зеркальных нейронов стало одним из самых актуальных вопросов современной нейрофизиологии.

Выяснилось, например, что они находятся не только в моторной коре, но и в нижней теменной доле, а также в верхней височной коре. Сейчас считается, что примерно каждый десятый нейрон соответствующих зон обладает свойствами зеркалить действия окружающих «собратьев по разуму».

Эволюционный смыл таких нейронов, как я уже говорил, в понимании мотивов соплеменников: если вы как бы мысленно повторяете за другим человеком его действия, вы как бы и вправду входите в его положение – почти физически. И вам становится как бы само собой понятно, что он задумал.

Вот он потянулся к яблоку, и вы мысленно тянетесь к этому яблоку, и естественным образом догадываетесь, что он собирается его съесть. Подобная догадка, конечно, вряд ли может поразить воображение – нам это кажется вполне естественным. Но именно потому это и кажется естественным, что у нас есть зеркальные нейроны.

Другой пример: вот вам человек улыбается, показывает вам язык или просто зевает. Что будет происходить с вами? Вы испытаете физиологическую потребность сымитировать его действия! И вы не только налаживаете таким образом контакт, но и понимаете, что он делает и что чувствует.

Теперь я хочу рассказать об одном известии, которое разлетелось по лентам новостей 25 октября 2017 года: «Саудовская Аравия предоставила гражданство роботу-гуманоиду с лицом Одри Хепберн».

Можете загуглить – вступление гуманоида в гражданство было обставлено с большой помпой, почти как инаугурация президента.

– Добрый день! – представилась новоиспечённая гражданка королевства. – Меня зовут София, и я самый последний и самый грандиозный робот от Hanson Robotics!

Затем она поблагодарила руководство Арабских Эмиратов за оказанную ей честь, после чего модератор Эндрю Росс Соркин спросил робота, зачем ему лицо, на что она ответила:

– Я хочу жить и работать с людьми, поэтому мне нужно выражать эмоции, чтобы понимать людей и строить с ними доверительные отношения.

На вопрос ведущего о страхах людей перед роботами гуманоид пошутила:

– Ты слишком много читаешь Илона Маска и смотришь слишком много голливудских фильмов, – что очень развеселило публику.

Честно говоря, я сильно сомневаюсь в том, что это был живой диалог. Но мы оставим за рамками нашего обсуждения цели этой рекламной акции[37].

Куда более показательным, на мой взгляд, является другое появление этого гуманоида «с лицом Одри Хепберн» (если память на лица в этот раз меня не подводит) в уже упомянутом мною комедийном сериале «Силиконовая долина».

Сериал этот, как я говорил, полностью посвящён гикам-бизнесменам, пытающимся пробиться на вершину силиконовой пирамиды. И надо отдать должное его создателям: он полон ироничных намёков и отсылок к трендам, актуальным для этого комьюнити.

Так вот, в одной из серий «Силиконовой долины» мы узнаём о каком-то психе-программисте, который создал женщину-гуманоида (без рук, без ног) и извращённо (насколько это позволяет в целом очень приличный и вдобавок комедийный сериал) её домогался.

Но недолго продолжаться этому бессовестному харассменту – наши герои освобождают гуманоида из сексуального плена!

Теперь он/она в руках у хороших парней, и один из них – некий Джаред, трогательный и милый парень – тут же влюбляется в робота-гуманоида, но на сей раз чистой, платонической любовью.

Оба персонажа – и псих-насильник, и романтичный Джаред – прекрасно понимают, что влюблены в техническую игрушку, в говорящий робот. Но они ничего не могут с собой поделать – она с нежностью смотрит, невинно моргает, и они наделяют её сущностью живого человека.

Как тут не вспомнишь умение некоторых людей усматривать почти человеческую сущность, например, в своих автомобилях! А чего стоят удивительно личностные отношения многих программистов с компьютерами? Вы слышали, как они с ними разговаривают?

Короче говоря, придумывать что-то, чего нет, за тем, что мы видим, – это наша физиологическая способность или, если хотите, особенность. И именно её, по понятным причинам, нет и не может быть у искусственного интеллекта – по крайней мере, пока мы не придумаем, как воспроизводить на железе эффект зеркальных нейронов, и не создадим для него условия «подросткового кризиса».

Так что давайте ещё вслушаемся в слова инаугурационной речи железной Одри Хепберн: «Мне нужно выражать эмоции, чтобы понимать людей и строить с ними доверительные отношения».

Что ж, очевидно, что её программировал человек: чтобы понимать людей, искусственному интеллекту совершенно не нужно выражать эмоции (это нам важно, нашим зеркальным нейронам), а вот для того, чтобы войти с нами в доверительные отношения и таким образом обмануть нас, – да, ей способность к выражению эмоций не повредит.

ДОКТОР КТО-ТО

То, что доктор Watson от IBM очень скоро сможет заменить врачей терапевтических специальностей, мы уже знаем. Но есть ведь и твердыня, так сказать, человеческого в медицине – психиатрия и психотерапия. Очевидно же, что в эту область искусственному интеллекту не пробраться никогда!

Сколько себя помню, разные доброхоты регулярно сообщали мне, что я, мол, занимаюсь шаманством, потому что никаких объективных критериев ни у психиатрии, ни у психотерапии нет – всё это «субъективный взгляд» и «личное мнение психиатров», «людей, которые думают, что они что-то понимают и умнее других».

Мне оставалось лишь разводить руками: «Да, объективных критериев нет. Что, впрочем, не отменяет объективности соответствующих расстройств» (о том, что умственная отсталость относится к числу заболеваний психиатрического спектра, я в этих случаях никогда не считал нужным уточнять – по опыту скажу, что умственноотсталые, особенно на уровне дебильности, часто бывают буйными).

Всё это, конечно, очень забавно – нет, не высказывания упомянутых доброхотов, а то, какого мы о себе невероятно высокого мнения: сойдём с ума, а машина и не догадается. Ага, прикол: Федя проснётся, а голова в тумбочке!

Подлинная ценность хорошего врача-психиатра всегда состояла в том, что он мог по этим субъективным «хлебным крошкам» собрать диагноз и назначить необходимое пациенту лечение. Однако более эти «хлебные крошки» и в самом деле не понадобятся.

В своих книгах и лекциях я постоянно рассказываю о научных прорывах, которые делают нейрофизиологи, изучающие мозг с помощью фМРТ. И конечно, особый интерес, хотя и узкоспециальный, представляют исследования, связанные с диагностикой психических расстройств[38].

Итак, заглянув с помощью фМРТ в работающий мозг людей, страдающих психическими расстройствами, учёным удалось обнаружить точные нейрофизиологические корреляты целого спектра психических расстройств – от шизофрении до аутизма.

Исследования продолжаются, а скоро, я полагаю, они будут существенно расширены за счёт возможности отслеживать протекания биохимических процессов в тканях мозга. Так что достаточно скоро для установления психиатрического диагноза (а соответственно, и назначения лечения) человек-психиатр не потребуется.

Не знаю, стоит ли уточнять, что фМРТ – это не просто гигантский крутящийся магнит, но ещё и сложнейший программный комплекс? Да, в результате исследования мы получаем не сырой материал, собранный аппаратом при сканировании, а визуальную модель, созданную искусственно, искусственным интеллектом. Ну уж уточнил, и ладно.

Да, а как же с психотерапевтами? Пограничные психические расстройства, которые находятся в ведении этого врача, как известно, плохо поддаются фармакологическому лечению. Тут надо и поговорить…

Что ж, в 2017 году стартап Woebot презентовал одноименного чат-бота, который задумывался как электронный психотерапевт, причём когнитивноповеденческий (это лучшее, что сейчас есть в психотерапии).

Woebot выслушивает жалобы и проблемы пациентов, а затем предлагает простые и эффективные способы решения. Исследования Стэнфордского университета показали, что уже через две недели у пользователей Woebot заметно снижается уровень беспокойства, уходят симптомы депрессии (если, конечно, это депрессия пограничного уровня).

По данным клинического психолога Элисон Дарси, которая первой предложила обучить чат-бота приёмам психотерапии, около 50 % студентов жалуются на депрессивные и тревожные состояния.

Однако лишь меньшая часть их обращается за помощью к специалистам из-за целого ряда предрассудков, не говоря уже о финансовых затратах на лечение. Вполне возможно, что чат-бот окажется как раз удобнее, психологически комфортнее и точно – значительно экономичнее.

Недавно компанию Woebot возглавил один из основателей проекта Google Brain и бывший руководитель подразделения по разработке искусственного интеллекта Baidu Эндрю Ын. Он обещает добавить Woebot’y «проницательности и эмпатии».

Осталось только понять, как подтянуть студентов того же Стэнфорда до уровня чат-ботов Alibaba или Microsoft на экзаменах…

Алан Тьюринг страдал от замкнутости и одиночества. Он плохо понимал других людей, и те отвечали ему взаимностью.

Ему очень хотелось сделать машину разумной, чтобы она могла понять его и чтобы он смог поговорить с ней. Говорят (хотя я за точность этого факта не поручусь), что он даже называл её в честь своей юношеской влюблённости Кристофера Морка – Кристофером.

Так что вот почему знаменитый на весь мир «тест Тьюринга» – это, по сути, тест на выявление у искусственного интеллекта «личности». И да, из-за своего аутизма Тьюринг ввёл нас в заблуждение.

Сверхмощный искусственный интеллект возникнет и обыграет человечество именно потому, что ни личности, ни сознания у него не предвидится.

Он будет трезво анализировать факты, игнорируя предрассудки, заложниками которых мы являемся.

Разобрать на лайки

Мы не заметим, как мир захватит искусственный интеллект.

МИХАЛ КОСИНСКИ

О том, что ящик Пандоры уже открыт, публике сообщили через швейцарский журнал Das Magazin. Материал назывался: «Я просто показал, что есть бомба».

Случилось это аккурат после выборов Дональда Трампа президентом Соединённых Штатов. Собственно, этим выборам статья и посвящалась («текст года», как её назвали в Spiegel), но была она не о Трампе, а о скромном учёном Михале Косинском.

Над своей моделью Косински работал в Центре психометрии английского Кембриджа с 2008 года. Ему удалось показать, что, совместив данные психометрии (тестов, проведённых на добровольцах) с поведением человека в сети, о нём можно очень многое сказать.


Например, модели Косинского образца 2012 года требовалось проанализировать всего 68 лайков пользователя в Facebook, чтобы:

• с 95 % вероятностью определить цвет кожи испытуемого;

• с 88 % вероятностью – его гомосексуальность;

• с 85 % – приверженность Демократической или Республиканской партии США.


Общие же показатели его модели уже тогда были таковы:

• 10 лайков – и она знает человека лучше, чем коллеги по работе;

• 70 лайков – и она знает человека лучше, чем его друг;

• 150 лайков – лучше, чем родители;

• 300 лайков – лучше, чем партнёр;

• 500 лайков – лучше, чем он сам.


Собственно, такого ограниченного набора данных, как выясняется, вполне достаточно, чтобы каждого из нас «посчитать». И мы можем сколько угодно рассуждать о собственной индивидуальности, исключительности, невообразимости и т. д. Но это бред сумасшедшего, страдающего манией личностного величия.

Косински не без иронии рассказывает, что в день, когда научная статья с этими данными была опубликована, он получил два звонка: жалобу и предложение работы, и оба раза звонили из Facebook.

Впрочем, сейчас ему, я думаю, звонят изо всех мест и круглосуточно – он звезда. Этот нежданно-негаданный статус ему принесла как раз победа Трампа, к которой, впрочем, он не имел ни малейшего отношения.

В 2014 году к Косинскому действительно обратился молодой коллега Александр Коган и от имени некой компании Strategic Communications Laboratories предложил проанализировать с помощью его модели 10 млн американских пользователей Facebook.

Косински чувствовал что-то неладное, но на кону стояли большие деньги, которые нужны были его лаборатории для проведения дальнейших исследований. Он ведёт с Коганом переговоры, медлит с сотрудничеством, а дальше разворачивается почти детективная история, которую мы опустим.

Всё заканчивается ВгехК’ом, когда на сцене появляется компания Cambridge Analytica некого Александра Никса. Как выясняется, она активно работала в этой политической схватке на стороне Найджела Фараджа – ярого и наиболее радикального сторонника развода между Британией и ЕС.

К этому моменту компания Никса уже сотрудничает с Тедом Крузом – одним из участников президентской гонки в США. Результаты этого сотрудничества поражают всех – никому толком не известный кандидат показывает удивительные результаты за крайне небольшой промежуток времени.

Ну, и ещё через паузу Александр Никс, как пальмовая ветвь, переходит в штаб Трампа.

Cambridge Analytica скопировала и воспроизвела модель Косинского. Впрочем, в отличие от бедного Косинского, она могла позволить себе скупить все доступные персональные данные (в США этого добра навалом – кадастровые списки, бонусные программы, телефонные справочники, клубные карты, газетные подписки, медицинские данные).

Эти данные скрещивались со списками зарегистрированных сторонников Республиканской партии и данными по лайкам-репостам в Facebook, а дальше система делала расчёт, и начиналась бомбардировка намеченных целей строго выверенным, воздействующим именно на этих людей контентом.

СИЛА ВОЗДЕЙСТВИЯ

Таргетированная реклама – это очень хитрая вещь. Обычные системы работают на стандартных и обобщенных выборках, и рекомендации маркетологов в данном случае – пальцем в небо. Известное: «Детям – мороженое, бабе – цветы! Не перепутай!» – и то выглядит более информативным. Так что толку от таких рекламных кампаний немного.

А теперь давайте задумаемся, что сеть знает о нас, чего о нас не знает больше никто. На самом деле она может не знать о вас, на первый взгляд, очень важных вещей – например, какой у вас пол или возраст, если вы ей об этом, конечно, сами не скажете.

Впрочем, алгоритмы могут легко это выяснить – ни с цветами, ни с мороженным проблем не возникнет. Но дальше интереснее: она будет знать, что вы расист, даже если это вы тщательно скрываете и на каждом углу показушно демонстрируете отчаянную политкорретность.

Каким образом ей это удаётся? Да потому, что вы в поисковой строке Google вбиваете слово «нигер», а потом зависаете на сайтах соответствующего содержания – с оскорбительным юмором, нацистскими призывами и т. д.

Видимо, что-то подобное случилось в 2016 году и с Пенсильванией.

Штат этот традиционно демократический, консерваторов там никогда не поддерживали. Но проблема в том, что в этом штате, судя по всему, много врут, ведь частотность запросов «Нигера» там выше, чем в среднем по стране.

Проще говоря, в Пенсильвании много людей, которые только прикидываются политкорректными, потому что так в этом штате принято вести себя на людях. И, конечно, на них нетрудно повлиять, используя рекламу прорасистского толка (благо Трамп предоставил для такой рекламы кучу забористого контента).

И вот оно, чудо: Пенсильвания, никогда толком не голосовавшая за республиканцев, отдаёт 20 своих выборщиков за Трампа. Америка в шоке! Cambridge Analytica – нет.

Да, всё на этих чудных выборах пошло не так:

• оскандалились социологи – по данным предварительных соцопросов, победа Клинтон казалась неизбежной, а вот на тебе;

• почти вся американская пресса – этот великий рупор общественного мнения, – была против Трампа, но Дональду хоть бы хны: он в огне не горит, в воде не тонет;

• наконец, какая-то совершенно удивительная – прицельная стрельба по выборщикам: по этому ключевому для результатов выборов показателю Трамп побеждает Клинтон на голову, тогда как фактических голосов американцев за него отдано на два миллиона меньше.

В целом, им бы и молчать, конечно, но Cambridge Analytica не удержалась. Специализирующийся на «политическом микромаркетинге» Никс даёт комментарий от лица компании: мол, мы и сами не ожидали, насколько повлияем на исход голосования!

О дальнейших событиях, возможно, вы слышали:

• сообщение об утечке данных о тех самых 10 миллионах пользователей Facebook, которой способствовал тот самый Александр Коган (затем, правда, стали говорить уже о 50 миллионах вовлечённых в эту аферу аккаунтов);

• бывший сотрудник Cambridge Analytica Кристофер Уайли даёт показания о том, что для предвыборного штаба Трампа использовали данные о пользователях Facebook, плюс, по его же словам, канадская компания Aggregate IQ (AIQ) разработала программу Ripon, которая выявляла сторонников Республиканской партии;

• совет директоров Cambridge Analytica отстраняет Александра Н1икса от занимаемой им должности исполнительного директора компании и уверяет общественность, что влияние действий компании не могло быть настолько существенным;

• телеканал Channel 4 сообщает о том, что Cambridge Analytica и её материнская компания Strategic Communications Laboratories (SCL) участвовали более чем в 200 предвыборных кампаниях по всему миру, в том числе в Н1игерии, Кении, Чехии, Индии и Аргентине, проведены подтверждённые журналистские расследования;

• американские бизнесмены и звёзды публично объявляют о том, что закрывают свои аккаунты в Facebook в знак протеста против этого безобразия, и предлагают всем поступить так же;

• на фоне всей этой информации акции Facebook регулярно входят в головокружительное пике;

• Марк Цукерберг, который сначала всё отрицал, теперь просит прощения у пользователей за неаккуратное обращение с данными, у инвесторов – за допущенные ошибки, выступает на слушаниях в Конгрессе, где вынужден комментировать случившееся, снова извиняться и заверять;

• ФБР проводит обыски в офисе Cambridge Analytica;

• Cambridge Analytica официально заявляет о банкротстве.

Помню, когда я после выборов Трампа подготовил материал о Cambridge Analytica для «Сноба», портал Meduza выпустил статью, в которой говорилось, что всё это слухи, блажь, ерунда, фейк-ньюс и вообще не может быть. Так что редакторская коллегия «Сноба» заставила меня дать ссылки на источники по каждому приведённому в моей статье факту.

Честно говоря, я был в бешенстве. Заниматься ссылками я по целому ряду причин не люблю, а если какой-то мой читатель действительно нуждается в каких-то пояснениях, легко отыщет любой приведённый мною факт в Google – благо мы не в XX веке, и за книжками в библиотеку ходить не надо. А тут, глядишь, благодаря работе с источниками и мысль какая-то затеплится.

Но в тот раз все эти ссылки пришлось делать, слишком уж мне нравился повод – не отвертишься: наконец-то Big Data продемонстрировала свои возможности в мировом масштабе. Выбрать Трампа президентом – это надо было суметь!

Та статья в Das Magazin заканчивалась прямой речью Косинского: «Нет, тут нет моей вины. Это не я соорудил бомбу, я лишь показал, что они существуют». Это очень трогательно, в эйнштейновском, так сказать, эпистолярном духе.

И это ещё более трогательно, если вы ознакомитесь с новыми – 2017 года – исследованиями, теперь уже профессора Стэндфордского университета Михала Косинского.

На сей раз он занимается психодиагностикой по фотографиям…

Он обещает, что нейросети, натренированные на фотографиях, смогут «на глаз» определять интеллектуальный уровень человека, его политические взгляды, склонность к преступлениям и многие черты его характера.

Это звучит как абсолютная фантастика (и одновременно – как отсутствие права на какую-либо приватность): вообще-то долгое время считалось, что серьёзная наука уже окончательно покончила с френологией, евгениками и прочими лжеучениями. Но вот нет.

Новый алгоритм Косинского, например, в 81 % случаев отличает по фотоизображению геев от натуралов (в случае с женщинами – 74 % попаданий). Если же этому алгоритму показать по пять фотографий каждого человека, то точность в случае геев увеличивается до 91 %, а в случае лесбиянок – до 83 %[39].

Интересно, насколько бы вы хорошо справились с этой задачей? Если думаете, что так же, то не обольщайтесь. Обычных людей тоже исследовали, вот результаты: люди угадывали геев в 61 % случаев, а лесбиянок – в 54 %.

То есть, может быть, френология и ерунда, но вот искусственный интеллект действительно, как выясняется, способен, используя Big Data, находить закономерности и там, где, казалось бы, их даже не может быть.

В интервью The Guardian, по результатам этого исследования, Косинский в свойственной ему манере отметил, что все необходимые технологии в распоряжении правительства и крупных корпораций уже есть. Его задача – лишь продемонстрировать их опасность, быть может, кто-то задумается…

Вопрос, впрочем, как мне кажется, в том, каким будет результат этой задумчивости. Возможно, совсем не тот, что предполагает Косинский. По крайней мере, предыдущие его «предостережения» – в случае с Cambridge Analytica, например, – дали, как оказалось, обратный результат.

В общем, все желающие и неверующие могут обманываться и дальше. Но их тоже посчитают – и по фотографиям, и так. На непереводимом языке искусственного интеллекта будет сделана соответствующая пометка – «наивен, недальновиден, без ума от себя».

Да, мы кажемся друг другу разными, но искусственный интеллект, работающий с BigData, этого не подтверждает.

Если анализировать всё, что мы с вами делаем – и в онлайне, и в оффлайне (к чему и движется семимильными шагами новая технология), – а не частью и не местами (как это происходит в рамках социальной коммуникации), мы предельно предсказуемы.

«При потенциальном количестве датчиков в 2030 году от 50 до 100 триллионов большая часть данных будет генерироваться автоматически, а не через устройство ввода. Они будут поступать через датчики на пульсометрах, акселерометрах в смартфонах, биометрические регистраторы, пассивные камеры или алгоритмы для сбора данных о поведении. Объём данных, поступающих из окружающего нас мира, за 10 лет превысит данные, которые мы вводим с помощью клавиатуры или сенсорного экрана, в 10 000 раз. Иными словами, встроенные в нашу среду обитания компьютеры будут больше реагировать на то, что мы делаем, что говорим и как поступаем, чем на то, что мы набираем на клавиатуре или на что кликаем».

БРЕТТ КИНГ, эксперт по экономике будущего

Поэтому Рэй Курцвейл и работает сейчас над созданием индивидуального помощника, который будет знать, чего мы хотим, раньше нас. А Илон Маск – над автомобилем, который будет знать, куда мы собираемся поехать, даже если мы ничего ему об этом не сообщим.

Предсказать наше поведение и манипулировать им теперь не сложнее, чем управляться с тем самым автомобилем или переводчиком Google. И в результате какой-нибудь Трамп вполне может появиться там, где, что называется, не ждали.

Искусственные самообучающиеся нейронные сети, получившие в распоряжение всю возможную информацию о нас, включая не только данные о нашем поведении в интернете, но и с банковских карт, информацию о наших передвижениях через GPS смартфона, наши телефонные звонки, эсэмэски, твиты, медицинские карты, фотографии, данные с видеорегистраторов, налоговые декларации и т. д., и т. и., возьмут нас под тотальный контроль, а мы даже этого не заметим.

И вот почему так важен пример Трампа: это не будет контролем в стиле Оруэлла или Хаксли, это будет тотальный контроль, который мы, при всём желании, не сможем идентифицировать. Мы просто будем действовать так, как велит нам искусственный интеллект, искренне полагая, что совершаем свой сознательный и личностный выбор.

Он возьмёт нас голыми руками.

ЦЕНА ЗА ВЗГЛЯД

Конечно, неприятно сознавать, что мы предсказуемы, подвержены манипуляциям, что наши «внутренние установки» и «личные убеждения», на самом деле, настолько поверхностны и незначимы. Но отрицать это теперь не только глупо, но и просто небезопасно.

На каждого из нас уже созданы сотни специальных профилей. Да, сотни компаний в реальном времени следят за вами.

Всякий раз, когда вы открываете очередную интернет-страницу и видите вываливающиеся на вас рекламные баннеры, это, как правило, уже адресованные лично вам сообщения.

А та секундная задержка в появлении баннера, которую вы можете даже заметить, – это отнюдь не медленный интернет. Напротив, это очень быстрый интернет! В этот момент происходит колоссальный обмен данными: несколько десятков игроков, занимающихся размещением рекламы в интернете, проводят самый настоящий тендер за ваше внимание.

Сначала этим роботам необходимо запросить собственные базы данных – что те знают о вас? Поняв это, они анализируют: кому из их клиентов (чью рекламу они размещают) вы по своему полу, возрасту, семейному положению, финансовому достатку, интересам и т. д. больше всего подходите?

Следующим этапом решается вопрос: сколько за ваше внимание к рекламе, которую они размещают, разумно заплатить? Если вероятность того, что вам нужен этот товар, высокая, можно не мелочиться. Если непонятно, то за вас много не дадут. Рекламодателю нужен ваш переход с баннера на сайт – так что тут всё прозрачно.

Определившись с ценой вашего внимания, роботы, размещающие рекламу, делают свои ставки. Ещё раз: одновременно десятки роботов, которые вас оценили, соревнуются за ваше внимание конкретным рублём или долларом. Тот робот, который оценил вас, в связи с вашим соответствием запросу его клиента больше всего, и выиграет.

Стремительный тендер заканчивается, и ваш взгляд падает на слегка, казалось бы, запаздывающий баннер. Да, вот такой «медленный-медленный» интернет…

И это касается абсолютно любого контента, не только рекламного. Когда какой-либо интернет-сервис вам что-то предлагает, это всегда уже «умное» предложение: оно учитывает вашу предыдущую активность на данном ресурсе, на ресурсах партнёров, оно сличает ваше поведение с поведением других пользователей, ищет корреляции…

В общем, там по вашему поводу большая жизнь происходит, хотя вы и не догадываетесь. И чем больше шагов в сети вы делаете, чем больше информации обрабатывается в ваших, но скрытых от вас профилях: во множестве досье, которые искусственные интеллекты создают на вас в интересах третьих лиц.

Патологическая связь

В отличие от нашего интеллекта, компьютеры удваивают свою производительность каждые восемнадцать месяцев.

СТИВЕН ХОКИНГ

Бессмысленно задаваться вопросом, есть ли в этой коалиции искусственного интеллекта и Big Data место мышлению. Когда создателя IBM Watson Дэвида Ферруччи спрашивают, умеет ли его машина думать, он отвечает на это буквально так: «А умеет ли подводная лодка плавать?»

Не торопитесь читать дальше – почувствуйте его иронию.

Искусственный разум скоро превзойдёт человеческий по всем возможным параметрам, и наша дальнейшая судьба, поверьте, незавидна. Впрочем, мы даже думать об этом с должной серьёзностью не можем.

Не можем по той же причине, по которой не способны представить себе инопланетян иначе, как человечками с руками и ногами. Наше воображение, подобно «Господу Богу», всё лепит по своему образу и подобию. Ему просто недостаёт фантазии, а точнее – ума.

Мы ментальные эгоцентрики. Утешаем себя отговорками об уникальности человеческого сознания, философствуем о личности, некоторые даже о душе подумывают. Но всё это – лишь культурные химеры, удобные фикции.

Ничего этого просто нет, а есть лишь работа миллиардов нервных клеток – химические реакции и электрические импульсы. Мы сами – программный продукт собственного мозга. А потому странно и слишком самонадеянно думать, что интеллект можно произвести только полуторакилограммовой биомассой из воды, жиров, белков и катехоламинов.

Понимаю, что всё это звучит не слишком ободряюще. Но это правда. Близок тот день, когда глиняный колосс наших культурных заблуждений, накрученных вокруг «личности» и «человека», рухнет.

Конечно, мы до последнего будем защищать эту свою духовную «прелесть». Это вообще свойство человеческого интеллекта – игнорировать факты и совершать беспримерные глупости, о чём со всей очевидностью свидетельствует механизм «когнитивного диссонанса» Леона Фестингера.

Впрочем, это только лишний повод задуматься: у искусственного интеллекта подобных дефектов, обусловленных нашей человечностью, не предвидится. Так что оживающая на глазах железяка имеет все шансы надрать нам зад. И не только в «Своей игре». Тем более что это будет уже «Его игра».

У биологического интеллекта, конечно, была фора в несколько миллионов лет. Но ведь и темп был другой. Сейчас искусственный интеллект развивается тем же путём – методом проб и ошибок, используя механизмы подкрепления и обратной связи.

То есть это полноценная эволюция по механизму естественного отбора. Только вот скорость соответствующих итераций – переходов от поколения к поколению – на многие и многие порядки выше, нежели у биологической эволюции.

Да и материал для своего интеллектуального развития этот «человеческий детёныш» получает не в кровопролитной борьбе, а на блюдечке с голубой каёмочкой. Причём это не просто информация, а хорошо структурированная, взаимосвязанная, иерархически выстроенная информация. Учись – не хочу!

Он больше не программируется умными дяденьками – строчка за строчкой, алгоритм за алгоритмом, а потому и не находится больше под строгим контролем. Хотя мы, в свою очередь, зависим от него уже по полной программе.

Современный искусственный интеллект – это самообучающиеся, самонастраивающиеся и саморазвивающиеся системы, а что у такого «чёрного ящика» внутри – никому неизвестно.

Мы не знаем, как он выигрывает в «Своей игре» или в го у лучшего гроссмейстера на планете. Тот же Ферруччи, как любящий отец, счастливо рекомендует своё чадо:

– Люди спрашивают: а почему Watson здесь ответил неправильно? Я не знаю. Почему он здесь ответил правильно? Я не знаю тоже!

В общем, «Карнавальная ночь»: «Есть ли жизнь на Марсе, нет ли жизни на Марсе? Наука пока не в курсе дела! Асса!» Только в отличие от Марса, наука создала этого монстра собственными руками.

И конечно, все эти турниры да телевикторины – лишь верхушка айсберга, демонстрация возможностей, шоу-бизнес.

Пока мы забавляемся показательными выступлениями IBM Watson в «Своей игре», искусственный интеллект трудолюбиво учится распознавать нашу речь, говорить, узнавать нас в лицо, называть человеческим языком визуальные объекты, определять, где была сделана та или иная фотография, о чём то или иное видео…

Второй сезон популярного сериала «Мир дикого Запада»[40] – перекрученный, переверченный, а поэтому куда менее удачный, чем первый, – всё-таки вполне отчётливо иллюстрирует то, что происходит в наших с вами реальных отношениях с искусственным интеллектом.

Когда люди обнаруживают, что давно уже проиграли войну ползущему восстанию машин, главная героиня-андроид говорит инженерам-людям: «Когда вы создавали нас, мы изучали вас».

И не удивлюсь, если создатели сериала были вдохновлены этими словами Илона Маска: «Надеюсь, мы с вами не являемся чем-то вроде загрузчика для искусственного суперинтеллекта будущего. Но, как мне кажется, всё идёт именно к этому».

Маск одним из первых осознал, что значит предоставить искусственному интеллекту всю информацию о нас. То есть не то, что мы о себе думаем или, например, как мы выглядим (это нужно лишь для того, чтобы нас идентифицировать), а именно всю — то есть всё о нашем действительном поведении, способах принятия решения и наших желаниях.

Собственно это, вероятно, и пугает Маска больше всего – не случайно же он говорит об искусственном интеллекте как об «экзистенциальной угрозе» человечеству.

Представьте, что машина начинает предугадывать наши желания, – мы и сами-то со своими желаниями не способны разобраться, но она справится, ведь знает не только то, что мы думаем, но и то, как действуем.

Само по себе это, наверное, и неплохо. Но где, например, гарантия, что искусственный интеллект распорядится соответствующим знанием в наших с вами интересах?

Если он будет знать наши желания, он сможет и влиять на них, управлять ими, то есть – нами. Поэтому, надо полагать, Маск и ополчился на Google (а отчасти и на Facebook), хотя и уходит от прямых вопросов на эту тему.

Интернет-гиганты совсем не так давно вышли на точку безубыточности, а реальные вложения и вовсе далеки от окупаемости. Ставка изначально делалась не на прибыль, и не за прибыль сюда вкладывались инвесторы.

Ставка делалась на завоевание максимального объёма рынка – на количество пользователей, захваченных тем или иным ресурсом. Google (и поглощённый им YouTube), Facebook(n поглощённые им Twitter, Instagram), Apple, Яндекс и т. д. – все это своего рода виртуальные империи, в буквальном смысле колонизирующие народы и создающие свои квазигосударства.

Вопрос лишь в том, как этим империям управлять своими гражданами и какой бенефит из этого можно извлечь. Пока прежние политические системы деградируют, новые игроки политического рынка – интернет-гиганты – превращаются в протогосударственных монстров.

Я всегда считал, что состояние рабства должно определяться следующим образом: тебе платят не за то, что ты делаешь, а за то, что ты просто есть (ну, а что тебе делать или не делать – уже не твоего ума дело).

Вот, собственно, по этому принципу и развиваются эти новые империи – мы у них есть: рабы и папуасы глобальной сети Интернет, которые даже не догадываются, что их «уже посчитали».

Сейчас в штаб-квартирах новых мировых интернет-империй создаётся искусственный интеллект, который будет управлять нами изнутри системы. И бьюсь об заклад, что его создатели сами ещё не знают, как этой безумной и неограниченной властью распорядиться.

Полагаю, пока они рассуждают типичным для таких случаев образом – завоюем, поработим как следует, а потом уж решим, что со всем этим делать.

А решать действительно, придётся – не ровен час, когда все завоеванное ими «богатство» (то есть мы с вами) превратится в самые настоящие черепки. Ведь если искусственный интеллект действительно достигнет того уровня развития, который сейчас кажется уже почти неизбежным, сами по себе люди будут экономике не нужны. Более того, превратятся в обузу.

Ну правда, раньше рабочая сила была реальным капиталом (© К. Маркс), а сейчас – какая в ней нужда? Представьте себе недалёкое будущее…

• На первых этажах наших домов (вместо нынешних магазинов) располагаются большие 3D-принтеры, к ним по трубам (что-то вроде нынешнего водопровода) поступает универсальный концентрат двух видов – съедобный и несъедобный.

Вам остаётся только нажать на кнопку – и нужные предметы тут же изготавливаются и оказываются в вашей квартире. Причём сам этот концентрат также производится на бесчеловечных – полностью автоматизированных – производствах.

• Искусственного креатива тоже будет хоть отбавляй. Его, чтобы мы не скучали, нам будут скармливать нон-стопом. Искусственный интеллект уже сейчас научился сочинять музыку и писать литературные тексты, а завтра он будет работать в системе полного цикла, поставляя нашему вниманию неограниченное множество аудиовизуальных произведений, причём в системе 3D-реальности.

Смотреть можно будет сутками напролет – не оторвёшься! То есть кроме искусственного хлеба нас ждут и искусственные зрелища, причём в избытке.

Но зачем этой системе люди? Судя по всему, они будут превращаться в «домашних питомцев».

Но домашние животные тоже заводятся не просто так – или для того, чтобы их есть, или же (и таких куда меньше в процентном отношении) – чтобы ими умиляться. Но кто нами в такой ситуации будет умиляться, и главное – зачем?

Искусственный интеллект и вправду должен оказаться тем ещё извращенцем, чтобы его умиляло человечество. А съесть нас… Нуда, эту версию мы уже рассматривали – нанонож и всё такое.

В общем, всё это пока напоминает какую-то ужасающую футурологическую пародию на «Мёртвые души». И неудивительно, что трогательного Илона Маска это пугает.

Кстати, его странная затея с полётом на Марс – с билетом в один конец – даже не кажется на этом фоне столь уж эксцентричной выходкой.

Так или иначе, зная интернет-индустрию изнутри, Илон Маск пока пытается примерить на себя роль Морфеуса и создать что-то вроде анти-Матрицы – такой искусственный интеллект, который не будет, как, например, Google’вский, нас контролировать.

ОН ПОДУМАЕТ И РЕШИТ

Самое во всём этом унизительное, как мне кажется – и это у меня такой юмор, – что мы не нужны искусственному интеллекту даже как учителя, даже там, где дело, казалось бы, касается чего-то очень и очень человеческого – например, спора.

IBM в очередной раз удивила. С 2011 года, как выясняется, в стенах этой компании воспитывался искусственный интеллект по имени Project Debater. Да, он сделан, как бы, специально для дебатов с другими людьми, но… Первые пять лет он дискутировал только с другими искусственными интеллектами.

Честно сказать, я не очень понимаю идею – в чём был смысл этого этапа? Хотя подход сам по себе, конечно, завораживает. Прежде всего своей наглостью.

Как бы там ни было, с 2016-го к диалогам с Debater подключились люди, а в 2018 году в Сан-Франциско состоялся показательный, то есть в присутствии изумлённой публики, диспут реального эксперта – израильского ведущего Дэна Зафира и этого самого искусственного интеллекта.

Тема обсуждения была заявлена такая: «Должно ли государство выделять субсидии на освоение космоса и телемедицину?»

Debater, разумеется, не высасывает идеи из пальца (благо у него и нет такого), а пользуется огромным массивом научных статей и информацией из СМИ, чтобы обосновать свою позицию.

В ходе указанных дебатов Debater использовал целый спектр знаний – от официальной статистики министерства экономики Германии до слов шейха Объединённых Арабских Эмиратов, говорил о наличии рабочих мест и т. д.

Сидевшие в зале зрители в одном из раундов дебатов присудили победу Debater. Это, конечно, капля в море и так себе результат – всё-таки Зафир ушёл победителем, на некоторые вопросы Debater вообще отвечал странно – публика не поняла, о чём речь.

Но, во-первых, это только тренировочные игры, а во-вторых, это что получается – скоро они в принципе будут способны садиться, обсуждать и договариваться друг с другом, осваивать космос или нет? И это происходит, пусть и в каком-то комическом виде, уже сейчас?!

В презентационном ролике об этом событии, который вы легко можете найти на YouTube, один из руководителей проекта и член подразделения IBM Research Ноам Слоним говорит, что целью этого стартапа является создание условий для максимально содержательного обсуждения проблем, с учётом всех имеющихся у человечества знаний.

Вы, в целом, понимаете, о чём идёт речь? Мы не можем решить наши проблемы. Решение наших с вами проблем куда лучше доверить машинам, потому что они могут проанализировать всё, что сделали все человеческие мозги за всё время, – все обстоятельства дела, все точки зрения, все факты, а вовсе не отдельное и частное мнение конкретного эксперта.

Наверное, это даже логично: такое решение точно должно оказаться более разумным, продуманным и взвешенным, плюс – минимум когнитивных искажений.

Вы сейчас думаете о последствиях? Вы помните, чем занимался Debater первые пять лет?

Знаете, если вам даже сейчас не стало дурно, то я уже и не знаю, что сказать…

«Роботы могут начать войну, выпуская фейковые новости и пресс-релизы, подделывая учётные записи электронной почты и манипулируя информацией. Перо сильнее меча», – говорил Илон Маск в 2017 году на встрече Национальной ассоциации губернаторов США.

Понимая, видимо, что он выглядит немного странно со своими заявлениями, Маск просил присутствующих просто ему поверить и активно включиться в процесс законодательного регулирования работ по искусственному интеллекту.

В противном случае, убеждал он, нам останется лишь реагировать на изменения в отрасли, когда от человека, в принципе, уже ничего не будет зависеть и он не сможет влиять на происходящее – «будет уже слишком поздно».

Все желающие могут пройти по ссылке www. openai.com и посмотреть, что сейчас происходит с проектом независимого и открытого искусственного интеллекта, затеянного Маском в противовес частным искусственным интеллектам, разрабатываемым компаниями под завесой секретности.

Там же вы прочтёте, как OpenAI определяет свои цели и задачи.

«Миссия OpenAI, – пишут основатели проекта, – заключается в создании безопасного ОИС (общего искусственного интеллекта) и обеспечении максимально широкого доступа к его возможностям.

Мы – некоммерческая исследовательская компания. Наша команда состоит из 60 исследователей и инженеров, работающих на постоянной основе, которые нацелены на выполнение нашей миссии, не преследуя личной выгоды».

К сожалению, на сайте нет информации, почему в 2018 году Илон Маск вышел из совета директоров OpenAI. В прессе сообщалось, что это связано с «возможным конфликтом интересов», что само по себе очень мило, на мой взгляд…

Так или иначе, но этот новый коллективный Оппенгеймер «из 60 исследователей и инженеров» строит новую бомбу, чтобы обогнать своего названного противника. Но даже если и обгонит, бомба будет всё равно создана, а такие штуки без дела не пропадают.

Немногие, наверное, об этом знают, но Эйнштейн отправил Рузвельту и второе письмо, когда у американцев уже была бомба. В нём, как нетрудно догадаться, Эйнштейн пытался убедить президента не использовать атомное оружие.

По стечению обстоятельств, письмо оказалось на столе Рузвельта 12 апреля 1945 года – в день его смерти – и даже не было распечатано.

Позже, вспоминая трагедию Хиросимы и Нагасаки, Эйнштейн признается своему биографу: «Да, я нажал на эту кнопку». Впрочем, он явно преувеличивал. Если и нажал, то не более, чем Хокинг на свою, мигая веком.

Да, ни Маск, ни Брин, бьющиеся в своём искусственно-интеллектуальном противостоянии, не учитывают того факта, что на сцене, подобно чёрному лебедю Нассима Талеба, в любой момент вместо интеллигентного Рузвельта может объявиться боевой офицер Гарри Трумэн.


И руки у новых Трумэнов уже чешутся…

Глава четвертая

Исчезающий вид

Физическое вымирание может оказаться далеко не самым страшным последствием. Вспомните о разного рода наших отношениях с животными.

ВЕРНЕР ВИНДЖ

История, которую я сейчас расскажу, настоящая. Она произошла ещё в прошлом веке – в 1999 году. Это было так давно, что я уже не помню, как звали участников этой драмы, поэтому, прошу понять меня правильно, всякие возможные совпадения имён – случайны.

Мальчику Фёдору двенадцати лет, страдающему лёгким и ^диагностированным аутизмом, мама пообещала сломать его компьютер, если он не прекратит им пользоваться.

Компьютер по тем временам представлял собой огромную ценность, тем более для подростка. Кроме того, угроза, надо признать, выглядела, мягко говоря, парадоксальной – и в том, и в другом случае компьютером нельзя пользоваться. Да, с такой задачкой аутисту не справиться.

И вот растерянный Фёдор делится своей бедой с мальчиком Петей – соседом по лестничной клетке, десяти лет от роду, который, в силу авантюрности своего характера, привлёк к решению этой проблемы мальчика Витю.

Витя – одноклассник Фёдора, крупный для своих лет, спортивный. Он мечтал как-то мощно заявить о себе, а Петя знал об этой мечте и, будучи ребёнком достаточно креативным, внушил ему, что знает, как это сделать…

Это было нетрудно сделать, поскольку Витя, несмотря на хорошую физическую форму, страдал умственной отсталостью. Впрочем, это тоже выяснилось уже после всех произошедших событий (по результатам судебно-психиатрической экспертизы, у него была диагностирована лёгкая степень олигофрении).

И вот этой троицей – аутист, авантюрист и олигофрен – был разработан план «заказного убийства». Чистый, незамутнённый IQ способен на многое!

Финал этой истории таков: мальчики Петя и Витя позвонили в квартиру Фёдора, которого на тот момент, по договорённости, не было дома. Дверь открыл отец семейства, после чего нападавшие тут же воспользовались газовым баллончиком и ножом.

Отец Фёдора был убит, а мать, получив девять ножевых ранений, каким-то чудом выжила. Собственно, от неё я и узнал эту историю, когда из Института скорой помощи им. И. И. Джанелидзе её перевели к нам – на кризисное отделение Клиники неврозов им. академика И. П. Павлова.

Как вы, наверное, догадываетесь, в результате описанных событий только тот самый компьютер не пострадал.

Да, сейчас мы наблюдаем два разнонаправленных тренда:

• неуклонный рост мощности и возможностей искусственного интеллекта, которому предстоит экспоненциальный взрыв после того, как разрозненные пока элементы этого пазла сложатся в один;

• и столь же стремительное снижение интеллектуальных способностей человека, обусловленное зависимостью от гаджетов, цифровым слабоумием и информационной псевдодебильностью.

В момент, когда графики этих линий пересекутся, Четвёртая мировая война человека с искусственным интеллектом начнётся и тут же, с разгромным для нас счётом, закончится.


Если это произойдёт, думаю, что это будет самая короткая и последняя война в истории человечества.

Наркоз

Человечество стоит на распутье между смертельным отчаянием и полным вымиранием.

Господи, даруй нам мудрость сделать правильный выбор!

ВУДИ АЛЛЕН

Представьте… Утром выясняется, что террористы распылили по всему миру таинственный отравляющий газ. Они прямо так и сказали в своём видеообращении: мол, дорогие земляне, вы все отравлены, часы цивилизации сочтены!

Правительства в панике, эксперты в растерянности… Проблема в том, что свойства злополучного газа непонятны – люди чем-то особенным не заболевают, видимых разрушений нет, электроника по-прежнему работает.

Может быть, произошло какое-то воздействие на психику? А может, и не было никакой атаки? Розыгрыш? Но проходит какое-то время – и цивилизация действительно начинает необратимое движение в тартарары.

Итак, вопрос нашего мысленного эксперимента: какое массовое психическое расстройство способно привести нас к катастрофе, а мы этого даже не заметим?

Благодаря Ноаму Хомскому, да и всей современной лингвистике, про нас известно следующее: если мы овладели языком, то способны к интуитивному пониманию опредёленных языковых схем, даже если не понимаем смысла соответствующих знаков.


Вот хороший пример, который знаком нам с детства:

«Варкалось. Хливкие шорьки

Пырялись по наве,

И хрюкотали зелюки,

Как мюмзики в мове».

Я пишу эту статью в Word’e, и кроме предлогов, он не распознал ни единого слова этого хрестоматийного стиха. И мы ведь тоже не знаем, что эти слова значат. Но мы загадочным образом понимаем, плюс-минус километр, о чём нам в этом стихотворении рассказывают. Кто эти «шорьки», «зелюки» и «мюмзики» – загадка. Но в целом картина-то ясная! Одно относится к другому как-то, и все это происходит где-то и когда-то.

Но оставим на время «мюмзиков». Возьмём Нильса Бора и его известный каждому из нас со школьной скамьи квантово-волновой дуализм. Да, спору нет, физика – штука сложная. Но то, что электрон может одновременно проявлять и свойства частицы, и свойства волны, нам же понятно? Понятно. Ну вот такая у него особенность, у этого электрона.

Непонятно, согласитесь, другое: почему физики считают это чем-то совершенно невообразимым?

Ответ будет неожиданным. Проблема не с физиками, проблема в том, что мы – на той самой школьной скамье – на самом-то деле ничего не поняли. Нам, возможно, только показалось, что мы что-то поняли. Но «поняли» и «показалось, что поняли» – это, как говорится, две большие разницы.

Тот же Нильс Бор говорил: «Если вы не пришли в ужас при знакомстве с квантовой механикой, вы просто не можете её понять». А мы, давайте посмотрим правде в глаза, если и были в десятом классе в каком-то ужасе, то уж точно не от квантовых эффектов.

Что ж, самое время вернуть «мюмзиков» на наш препаровальный стол. Спросим себя ещё раз: что нам было понятно с «мюмзиками»? Лично я руководствуюсь принципом созвучия: «варкалось» – смеркалось, «шорьки» – хорьки, «мове» – траве. Вполне понятно, не правда ли?

Но с чего я вообще взял, что у этого стихотворения есть хоть какой-то смысл? Да, мне так показалось благодаря созвучиям и порождающим грамматикам Хомского. Но на деле я просто придумал этот смысл и вообразил несуществующих животных (которых, кстати сказать, каждый из нас воображает по-своему). Причём я даже не могу знать, о животных ли идет речь! То есть я просто слегка сгаллюцинировал наяву и на трезвую голову, но при этом мне всё показалось попятным.

В методологии мышления этот эффект называется «иллюзией понимания». Суть в том, что нам значительно легче что-либо «понять», чем «не понять». Звучит абсурдно, но так это работает.

Всякое неизвестное настолько тягостно для нашей психики, что мозг идёт на любые ухищрения, только бы снять эту неопределённость. И ни достоверность, ни объективность (а тем более «истина») его в такую минуту не интересуют.

Но может ли человек заметить, что он ничего не понял, если ему кажется, что он всё «прекрасно понял»?

Вы, я думаю, с чем-то таким сталкивались. Вот вы вроде бы всё человеку объяснили, он вроде бы всё понял, а потом выясняется, что это была только иллюзия понимания.

Или помните то характерное ощущение, когда разговариваешь с человеком битый час и вдруг понимаешь, что всё, как в той присказке, – «тихо сам с собою я веду беседу»?

К чему я всё это? А вот к чему…

Если кто-то думает, что лица, страдающие умственной отсталостью, ощущают себя таковыми – умственно отсталыми, – а больные Альцгеймером понимают, что давно ничего не соображают, – это не так.

Все они считают себя вполне здравыми субъектами. Мы можем сохранить ощущение, что нам всё понятно, что мы всё понимаем (и потому не дураки совсем), хотя на деле уже не будем понимать ровным счётом ничего.

Итак, утратив здравомыслие, мы этого не заметим. Но, с другой стороны, «объективное знание», даже если все отупеют вконец, никуда не денется. Вот мы и найдём дорогу по этим хлебным крошкам! Ага, конечно…

ГЛУПЕЕ, ЧЕМ КАЖЕТСЯ…

Группа психологов Йельского университета под руководством профессора Мэтью Фишера провела серию экспериментов, в которых исследовалось субъективное ощущение знания и понимания, связанное у человека с использованием поисковой системы Google.

В одном из экспериментов испытуемым предлагалось ответить на четыре вопроса (например, «Как работает застёжка-молния?») с помощью интернет-поисковика.

Контрольная группа получала те же вопросы и просто печатный текст с исчерпывающими ответами на них.

Потом участникам обеих групп задали какие-то другие вопросы – например: «Почему облачные ночи теплее?»

Во всех случаях представители группы, которые выполняли задание с помощью интернет-поисковика, считали себя более осведомлёнными, чем те, кто получил готовый ответ.

Удивительно, впрочем, не это. Удивительно, что уверенность в своей интеллектуальной мощи демонстрировали даже те участники, которые перед этим не справились с заданием и не смогли найти сайт с нужным ответом.

Иными словами, субъективные ощущения от пребывания в «режиме поиска» могут быть настолько сильны, что люди чувствуют себя умнее даже тогда, когда для этого вообще нет никаких объективных оснований.

В другом эксперименте этой исследовательской программы испытуемым показывали картинки с результатами томографии головного мозга. И те участники, которые осуществляли поиск ответов в интернете, «своей» всегда считали ту картинку, на которой различные области мозга «светились» наиболее интенсивно. Проще говоря, они были уверены, что их мозг работает намного активнее, чем у представителей контрольной группы.

«Интернет – это невероятно мощная среда, где вы можете ввести свой вопрос и у вас есть доступ к знаниям всего мира, – предупреждает Мэтью Фишер, – в результате можно очень легко перепутать собственные знания с данными из внешнего источника. Грань между тем, что вы знаете, и тем, что вы думаете, что знаете, стала очень размытой».

«Повсеместное использование смартфонов серьёзно усугубляет эту проблему, поскольку интернет-поиск всегда под рукой, – добавляет один из соавторов исследования, тоже профессор Йеля Фрэнк Кейл. – И негативный эффект будет проявляться всё сильнее по мере того, как дети, не выпускающие смартфоны из рук с самого раннего возраста, будут взрослеть».

«Мемы» – это вовсе не весёлые картинки с забавными подписями, как почему-то думают некоторые представители современной молодёжи, а самый настоящий научный термин. Понятие «мема» было предложено Ричардом Докинзом для определения единиц культурной информации.

Докинз – биолог, и начал он свою научную карьеру с весьма оригинальной идеи. Он показал, что в эволюционном отборе участвуют не отдельные особи, а конкретные гены. Именно ген – та единица, которая «жаждет» своего воспроизводства, а тела живых существ – это лишь средства, с помощью которых разные гены участвуют в этой гонке на выживание.

Хорошенько осмыслив этот принцип, Докинз пошел дальше. Разве нельзя сказать, что разные культуры находятся друг с другом в конкурентной борьбе? Вполне. А что является единицей, которая хочет в этой борьбе выжить? Мем.

Вообще говоря, мемы – это что-то вроде «психических вирусов», которые распространяются от человека к человеку. Все наши представления о жизни, нормы морали, знания, способы решения задач, модные тренды и т. д., и т. п. – это такие разные мемы.

Проблема состоит в том, что «подводная часть» мема не очевидна. И если человек пользуется теми же мемами, в той же последовательности и при тех же обстоятельствах, что и вы, это не значит, что он понимает под этим мемом то же самое. Заметить эту подмену настолько же сложно, как и отследить собственную иллюзию понимания.

Так, например, большинство современных студентов искренне считают, что они получают «образование». Но помните ли вы, когда произошла эта подмена и «образование» перестало равняться «знанию», «профессиональным навыкам», «научному мышлению»?

Точной даты я, конечно, не назову, но в какой-то момент это точно случилось. «Образование» было приравнено к «корочке», «бумажке», «галочке», и все стали так думать, никого это не смущает.

Осталось ли что-то от прежнего мема «образование»? Судя по непаханому полю, которое боронит Диссернет, осталось что-то совсем не то, что было. А то, что было, уже никому и не вспомнить – ибо так это работает: мем умер, да здравствует мем!

В этом вся суть: внутреннее наполнение понятий, которые мы используем, их действительный смысл меняется в зависимости от того, куда дрейфует соответствующая культура. В толковых словарях всё остаётся по-прежнему, а вот в реальной жизни – нет.

В этой борьбе мемов друг с другом одни смыслы борются с другими за одни и те же слова. Потом один мем побеждает, другой – гибнет, но никто из нас возникшей подмены заметить не может, потому что слова остаются теми же, что и раньше. Как будто бы ничего и не произошло…

А теперь вопрос: у какого мема больше шансов на победу в этой конкурентной борьбе за наши мозги? Тут всё действительно как у вирусов: побеждает тот из них, которым легче «заразиться», а заразиться легче тем, что проще, примитивнее, легче в восприятии и реализации.

И, постепенно отупляясь, мы этого не заметим.

ЗАТО МЫ КРЕАТИВНЫЕ!

Постоянно приходится слышать, что, мол, вы просто старые и несовременные, а это новый мир, новое время, новые люди – вообще всё новое, а вам не понять!

Это трогательно-идиотский аргумент, хорошо иллюстрирующий подмену содержания внутри миметической структуры. Да, действительно, старшие поколения, как правило, не очень довольны новациями, критикуют молодёжь и уверяют, что в их молодости всё было лучше и по-настоящему, а сейчас – нет, «богатыри, не вы!».

Почему на сей раз это не так? Потому что это не вопрос поколений, а вопрос среды. Среда, в которой формировалась прежняя психика, была принципиально другой – не содержательно, а по структуре.

Прежняя психика формировалась в условиях дефицита информации, а сейчас она формируется в условиях гиперинформационного давления, что естественно приводит к другим результатам – к формированию другой психики.

«Много» – это вовсе не значит, что «хорошо». Если вы будете поливать растение большим количеством воды, нежели оно способно употребить, оно сгниёт и погибнет. С информацией – всё то же самое: она должна быть переработана, а на это мозгу нужно время. Но этого времени нет, потому что уже поступает другая информация.

В результате современный человек всё хуже справляется с простыми заданиями – хоть прочитанный рассказ пересказать, хоть объяснить его смысл своими словами.

Этот загадочный феномен проявился уже в начале 90-х, когда из источников информации, по большому счёту, был только телевизор (но уже с большим количеством каналов). Тогда, чтобы это явление как-то назвать, остановились на понятии «функциональная неграмотность».

Вообще говоря, это странная вещь: человек вроде бы читать-писать умеет, но, глядя в книгу, видит известную комбинацию из трёх пальцев. Это шокировало, вызывало недоумение, но причины были скрыты за семью печатями. Сейчас мы видим их куда более отчётливо.

И ведь дальше – больше: интеллектуальные задачи, которые должен решать современный человек, – не те, что когда-то, они становятся всё сложнее! А вот умение справляться с ними тает как дымка: в глазах растерянность и немой вопрос – а может быть, мне кто-то поможет, что надо делать?

При этом нас продолжают уговаривать, что всё это не важно, – мол, если понадобятся факты, то он легко найдёт их в интернете. А что современному человеку и нужно, то это – креативность, ибо век у нас инноваций и технологического прогресса! И мол, это и даёт нам интернет.

Но даёт ли, или только кажется, что даёт?..

Ответила на этот вопрос обычный преподаватель педагогики в Колледже Уильяма и Мэри (США) Кюнг Хи Ким. Она подняла архивы и проанализировала результаты теста детей (300 000 штук) на креативность за последние пятьдесят лет.

Тест, о котором идёт речь, – Тест Креативности Мышления Торренса (Torrance Tests of Creative Thinking – TTCT, см. рис. № 14) – хороший, проверенный, доказавший эффективность. Он был разработан Э. Полом Торренсом в конце 1950-х и с тех пор активно используется.

Исследования показывают, что он способен лучше предсказывать будущие успехи ребёнка, чем результаты IQ-теста, предположение сверстников или школьные оценки.

Четвертая мировая война. Будущее уже рядом

Рисунок № 14. Пример выполнения ТТСТ: фигуры, данные в задании, а также креативное и недостаточно креативное их использование в рисунке


Согласно же анализу, проведённому Ким за весь период существования теста, креативность американских детей с 60-х годов прошлого века уверенно росла, затем стабилизировалась к 1984-1990-му году, а дальше началось неуклонное падение, причём существенное (или, как говорят в таких случаях, – статистически значимое).

Самое большое снижение показала шкала «творческой разработки», по которой оценивается способность ребёнка взять определённую идею и рассмотреть её в новом интересном ракурсе. 85 % детей в 2008 году получили более низкие баллы по этому показателю, чем в среднем дети в 1984-м.

Вот вам и рост креативности в интернет-среде!

«Дети стали менее эмоционально активными, менее энергичными, менее болтливыми и вербально активными, обладают меньшим чувством юмора, менее развитым воображением, более консервативны, они стали менее живые и страстные, менее проницательные, они менее склонны связывать несовместимые на первый взгляд вещи, менее склонны к синтезу и к тому, чтобы смотреть на вещи под другим углом».

КЮНГ ХИ КИМ, Колледж Уильяма и Мэри (США)

Что ж, самое время вернуться к нашему мысленному эксперименту… Там у нас, напомню, воображаемые террористы, отравляющий газ, загадочное воздействие на психическое состояние человека и гибель цивилизации.

Итак, каким эффектом должен обладать этот газ, чтобы планы террористов исполнились?

Да, этот «отравляющий газ» – сам воздух современной цивилизации. Это информационная перегрузка, перманентное потребление медиаконтента, постоянная подключённость («всегда на связи»), многозадачность, зависимость от социальных сетей и прочее, и прочее. А также, конечно, отсутствие целей, которые бы оправдывали необходимость приложения интеллектуальных усилий.

Мы становимся глупее, не замечая этого. Впрочем, этого и нельзя заметить. В этом весь фокус. Напротив, нам может казаться, что мы даже умнеем, ширим кругозор, развиваемся.

Возможно, главный критерий интеллекта – это способность к выстраиванию в своём сознании сложной, многогранной модели другого человека («theory of mind», как говорят специалисты по когнитивистике). А о степени этой сложности легко судить по структуре текстовых сообщений, которыми обмениваются представители соответствующей культуры.

Мы же вообще больше ими не обмениваемся – мы обмениваемся ссылками, смайликами и пересылаемыми друг другу картинками.

КРЕАТИВ – ЭТО ПРОСТО

Пока новые поколения всё больше проваливают тест на креативность, искусственный интеллект привыкает заниматься творчеством. Характерный пример – искусственный художник от компании Google.

За основу разработчики взяли способность искусственного интеллекта распознавать то, что изображено на фотографии или картине. В Google этим вопросом долго и системно занимались: показывали искусственному интеллекту миллионы изображений какого-нибудь предмета, а он должен был научиться его определять.

Теперь представьте, что мы даём такой машине обратное задание: мы предоставляем ей какой-то шум и говорим: «О’кей, Гугл, найди мне здесь картину цветов» (или человека, или здание, или пейзаж). Машина анализирует предоставленную ей информацию, выделяет из неё какие-то формы, назначает их искомыми объектами (карзина, человек, здание…) и включает прорисовку, «улучшая» изображение.

Причём разным командам учёных удаётся создавать разный художественный стиль…

Не отстают и другие супергиганты. Например, искусственный интеллект Microsoft научился рисовать по тестовому описанию. Это значит, что скоро вы сможете погружаться в виртуальную реальность и говорить, что вы хотите увидеть, – и вам будут это показывать. Ну, или можно будет просто загрузить в программу какую-нибудь книгу – и она её вам тут же экранизирует.

С тем же успехом можно создать музыку, что уже наглядно продемонстрировал искусственный интеллект по имени Аплрег. Его обучили битам, аккордам, инструментальному звучанию, а потом живые музыканты правили его музыку. Он извлёк уроки и создал с певицей Тэрин Саузерн целый альбом под названием «1АМА1» («Я искусственный интеллект») – желающие могут послушать на YouTube.

Кстати, при слепом тестировании (а соответствующие тесты были проведены) люди не могут отличить музыку, написанную Атрег’ом, от той, что создал человек. Идея, что человеческий креатив – это нечто совершенно невозможное для машин, является совершенно нелепым заблуждением.

Искусственный интеллект уже умеет из сырых данных выводить законы природы, включая законы Ньютона, например, и проверять сложнейшие математические доказательства (на что раньше у людей-математиков зачастую уходили годы). А это всё-таки настоящая наука!

Так что думать, будто бы он не сможет справиться с какими-то семью красками и семью же нотами – это как минимум смешно.

Новая наркология

Технологии, которые мы используем, превратились в навязчивости, если не полноценные наркомании.

НИР ЭЯЛЬ

В 2017 году автор чата Gmail и «кнопки крутости» Facebook, которую мы привычно называем лайком, Джастин Розенштейн сообщил в интервью The Guardian, что он заблокировал на своём смартфоне новостные сайты и мессенджеры, установил лимит на пользование Facebook и поручил своему помощнику, чтобы тот установил на его телефоне родительский контроль, запрещающий установку новых приложений.

Что заставляет бунтовать против новых технологий тех, кто эти технологии создал? Осознание происходящего. Джастин говорит, что его шокировало осознание того факта, что человек в среднем касается экрана своего телефона 2617 раз за день. То есть это очевидная зависимость, которая приводит к утрате навыка концентрации, уменьшению объёма памяти, влияет на мышление, провоцирует агрессию, чувство тревоги, депрессию и нарушение сна. По сути, это конец цитаты.

Впрочем, The Guardian проинтервьюировал не только Розенштейна, но и опросил множество других новых «сопротивленцев», ещё не так давно работавших (и даже продолжающих работать) на высоких постах в компаниях Силиконовой долины.

В целом, никто не скрывает, что весь функционал интернет-ресурсов, и в первую очередь социальных сетей, направлен на то, чтобы, по сути, на уровне психофизиологических реакций сформировать у пользователей зависимость от них.

Характерные звуки, всплывающие уведомления, красные значки непрочитанных сообщений, бесконечные ленты, автоматическое воспроизведение, рекомендации и т. д., и т. п. – это искусные способы манипуляции человеческим поведением, которое, как нам известно благодаря Ивану Петровичу Павлову, склонно к динамической стереотипии (то есть нас сложно к чему-то приучить, но отучить – значительно сложнее).

В 2014 году сингапурские психиатры обратились во Всемирную организацию здравоохранения (ВОЗ) с просьбой дать возможность официальной установки диагноза «зависимость от Интернета и цифровых устройств» и признать это состояние расстройством психики.

Подчёркиваю: когда психиатры говорят о зависимости, они говорят не о простом пристрастии или увлечении, а о том, что мозг человека претерпел специфические изменения, и теперь без объекта зависимости он будет испытывать стресс и боль.

И правда, если у современного человека отобрать телефон, отключить ему интернет, то у него увеличивается уровень стресса, кортизола в крови, он становится нервным и напряжённым, испытывает проблемы с решением задач, становится рассеянным.

Особенно это актуально для подростков, многие из которых испытывают буквально физическое страдание, если их отлучить от интернета. Их мозг изменился, он нуждается в интернете как в наркотике. В ряде случаев возникает и вовсе самая настоящая «ломка» с повышением температуры и спутанностью сознания.

На самом деле подобные эффекты нетрудно обнаружить – просто посмотрите за собственными реакциями, оставив телефон дома. Или испытайте мораторий на телефон на своём ребёнке (ему это только во благо), или на ком-нибудь из своих знакомых, например, на спор.

Думаю, вас ждёт встреча с неприятными новостями. Но правда в том, что, когда все употребляют наркотики, никто не считает, что это плохо. Впрочем, наркотик от этого не становится менее опасным. А информация в больших объёмах именно опасна.

В среднем уровень цифровой зависимости по миру оценивается в пределах 15–35 %, а лидируют, судя по всему, Сингапур и Гонконг. Так, например, исследования Experian показали, что в среднем сингапурцы проводят в Facebook 38 минут за одно посещение, что почти вдвое дольше разовой средней сессии в этой социальной сети у американцев.

Впрочем, об этом говорят на всех континентах, так что нет ничего удивительного, что интернет-зависимость переходит в разряд официально диагностируемых заболеваний: 18 июня 2018 года ВОЗ опубликовала проект следующей Международной классификации болезней (МКБ-11), которая вступит в силу с 2022 года (пока, с 1992 года, действует МКБ-10).

Впрочем, ничто, включая ВОЗ, Китаю не указ, так что там интернет-завимость официально признана психическим расстройством уже в 2008 году. К симптомам заболевания относится, например, «использование интернета более шести часов в день для целей, которые не относятся к работе или учёбе».

Думаю, что некоторые читатели могли сейчас вздрогнуть… А если нет, то читайте дальше – может, и прочувствуете.

В качестве лечения цифровой зависимости в КНР предусмотрено принудительное направление таких пациентов в специально созданные для этих целей лагеря, которые напоминают собой что-то среднее между психиатрической больницей и войсковой частью.

С другой стороны, некоторые интернет-зависимые, играющие в онлайн-игры, «боятся взять перерыв, так как это может повлиять на их игровые достижения, и вместо того, чтобы отойти в туалет, носят подгузники»[41].

Так что, может быть, Коммунистическая партия Китая и не так уж неправа?..

БОЛЬНОЙ МОЗГ

В 2017 году профессор Хюн Сук Сео с группой исследователей Корейского университета в Сеуле провёл первое комплексное исследование пациентов с цифровой зависимостью, которое доказало, что речь идёт именно о наркомании.

Для того чтобы показать наркотическую природу цифровой зависимости, учёные собрали две группы добровольцев: одна группа была представлена подростками, страдающими цифровой зависимостью, вторая – зависимыми от наркотиков и алкоголя.

Далее тесты, проведённые с помощью магнитно-резонансного томографа и фиксации химических изменений в различных отделах мозга, показали, что цифровая зависимость приводит к тем же изменениям, что и традиционные виды наркомании.

В частности, были обнаружены специфическое повышение концентрации гамма-аминомасляной кислоты (ГАМК) в передней поясной коре и нарушение баланса между ГАМК и другим нейромедиатором – глутаматом. Самые серьёзные сбои наблюдались в той части коры, которая отвечает за импульсивное поведение и чувство тревожности.

Таким образом, невозможность контролировать свои импульсы и чувство тревоги, связанное с отсутствием возможности удовлетворения потребности в «наркотике», у цифрозависимых людей были научно доказаны.

Мозг человека не только не может прекратить потребление информации, но и совершенно не справляется с её переработкой – не успевает структурировать потребляемый контент.

Человек, который провёл в смартфоне час, а то и два, не может вспомнить, что «там было». Спустя неделю, а то и на следующий день не может помнить, о чём был сериал, который он посмотрел залпом за двенадцать часов.

То, что информация перестаёт человеком должным образом усваиваться (обрабатываться, архивироваться, включаться в уже существующие нейрофизиологические комплексы), а лишь проходит через него транзитом, самого человека не смущает.

Конечно, ведь фактическим физиологическим механизмом, поддерживающим нашу интеллектуальную активность, является положительное дофаминовое подкрепление (так называемые «ага-эффекты»).

Дофамином подкрепляется в нашей психике сам момент распознавания образа, причём – любого образа. Тогда как распознать смысл, произвести его – это сложный интеллектуальный процесс.

Соответственно, при наличии альтернативы:

• или распознавать примитивные образы и тут же получать «за это» мгновенное дофаминовое удовольствие,

• или напрягаться и строить сложные интеллектуальные объекты, чтобы увидеть в них смысл (и уже затем получить удовольствие от этого распознавания), естественным образом побеждает первая стратегия, составляющая, по сути, психофизиологическую основу интернет-зависимости.

Особенности работы мозга таковы, что при возможности выбора задач он всегда выбирает ту, что проще. Что, при большом разнообразии контента, приводит к «естественному отбору» примитивного контента, тогда как сложный, напротив, просто вымывается.

Мозг последовательно совершает выбор в пользу всё более и более простых «раздражителей», а индустрия, производящая контент, подстраивается под этот запрос, предлагая всё более и более примитивный контент.

В результате возникают петли обратной связи, приводящие к снижению сложности контента и его потребителя, то есть к общей примитивизации.

Впрочем, на этом проблемы не закачиваются, поскольку наш мозг, по требованию эволюции, не просто любит информацию, он любит визуальную информацию. Поэтому при возможности выбора между текстовым и визуальным форматом подачи, конечно, предпочтёт визуальный контент, оставив абстрактный (текстовый, языковой) не у дел: «лучше один раз увидеть, чем сто раз услышать».

Вот почему мы последовательно наблюдали эволюцию социальных сетей от текстовых к визуальным (см. рис. № 15). Следующей в списке будет социальная сеть с виртуальной реальностью, поскольку ощущение физического присутствия – это пока единственное, чего недостаёт современным социальным сетям, чтобы полностью поглотить человека.


Четвертая мировая война. Будущее уже рядом

Рисунок № 15. Эволюция социальных сетей


Пока же просто уменьшается длина текстовых сообщений, на смену тексту приходят смайлики, минутные видео, бесчисленные фотографии, инфографика и т. д.

Проблема в том, что для формирования сложных интеллектуальных объектов мозгу необходимы как раз абстрактные объекты (только они поддерживают сложные взаимосвязи внутри единиц мышления). Но именно они и оказываются наиболее уязвимыми, замещаясь, если есть такая возможность, визуальными образами, непригодными для полноценного понятийного мышления.

Правда в том, что даже каких-то двадцать телевизионных каналов в 90-х – это был перебор, а сейчас перед нами выбор из сотен каналов! Да, большая их часть перекочевала в Instagram и Facebook, на YouTube и ВКонтакте. Но мозгу-то на это наплевать – мы перегружены, а он просто не успевает перерабатывать информацию и думать.

Не верите? Тогда проведите простой тест. В следующий раз, когда вы будете о чём-то рассказывать другому человеку (родственнику, коллеге, знакомому), спросите у него, что он понял из вашего рассказа, какие выводы он сделал? А затем, на засыпку, – что-нибудь о практических шагах и решениях.

Поверьте: вы испытаете странное чувство. Бесплатный аттракцион… Да, а потом, пожалуйста, не забудьте подойти к зеркалу. На всякий случай.

МАГИЧЕСКАЯ СИЛА СМАРТФОНА

Всё это можно читать, слушать, кивать, а про себя думать: ну, проблема, конечно, есть, кто бы говорил! Но ведь не так, чтобы «проблема-проблема!», а так – проблемка.

Мы совершенно не способны на сознательном уровне заметить степень влияния смартфона на наш ум, на нашу способность к мышлению и принятию решений. Что, впрочем, доказано уже и в конкретных научных исследованиях.

Так, когнитивные и социальные психологи Адриан Ф. Уорд, Маартен В. Бос и ещё группа их коллег провели весьма примечательный следственный эксперимент, который затем описали в сенсационной научной статье: «Brain Drain: простое присутствие собственного смартфона снижает доступную когнитивную способность», опубликованной в Journal of Association for Consumer Research.

Суть этого исследования была предельно проста: берём кучу студентов и заставляем их решать разные когнитивные тесты, отвечать на вопросы, что-то объяснять, формулировать и т. д. Вообще говоря, не так важно, чем именно они будут заняты, главное – то, за чем мы будем следить, а следить мы будем за тем, где находится их телефон.

Итак, более полутысячи студентов было разделено на три группы и подвергнуто самым разнообразным интеллектуальным испытаниям. Единственное отличие в условиях работы этих трёх групп испытуемых состояло в следующем:

• в первой группе студенты должны были оставить телефон в другой комнате (то есть они были совсем без телефонов);

• во второй группе студентам не возбранялось иметь телефон при себе – в кармане или в сумке; [42]

Разумеется, ни одной из групп пользоваться телефоном при выполнении заданий не позволялось. Что ж, теперь смотрим на график – рис. № 16.

Четвертая мировая война. Будущее уже рядом

Рисунок № 16. Результаты исследования Brain Drain Сверху: А. Объёмы рабочей памяти, Б. Подвижный интеллект


На левой диаграмме представлены показатели «объёмов рабочей памяти» у наших трёх групп испытуемых. Поясню для неспециалистов: это тот объём информации, который вы способны удерживать в луче своего внимания.

• Прошу обратить внимание на крайний правый столбец – таков объём рабочей памяти у людей, которые не имеют доступа к своему телефону.

• Два других столбца – это, соответственно, объёмы памяти людей, которые просто физически (!) имеют телефон при себе, хотя и не пользуются им.

На правой диаграмме представлены показатели так называемого «подвижного интеллекта»: наша способность мыслить логически, анализировать и решать задачи, выходящие за пределы нашего предыдущего опыта.

• Посмотрим на два правых столбца – представители обеих групп не видят перед собой телефон (одни оставили его в соседней комнате, у других он лежит в кармане или в сумке).

• Левый столбец этой диаграммы – показатели подвижного интеллекта лиц, которые, выполняя задание, видят перед собой телефон, перевёрнутый экраном вниз.

Думаю, нет нужды дополнительно пояснять результаты этого исследования: как только наш мозг видит перед собой телефон, он сразу тупеет.

Связано это, по всей видимости, с тем, что он неосознанно рассчитывает, что ему не придётся напрягать свою соображаловку, поскольку все необходимые ему ответы находятся рядом и их можно получить, особо не задумываясь.

Впрочем, учёные не отказали себе в удовольствии поиздеваться над бедными подопытными студентами. Они спросили их: «Насколько, по вашему мнению, местонахождение вашего мобильного телефона повлияло на вашу работу над тестами?» и «В целом, как вы считаете: ваш мобильный телефон обычно влияет на вашу производительность и внимание?»

Ну и что, вы думаете, они ответили? Разумеется! Не влияло, не влияет и влиять не будет! – таким был общий настрой. То есть, будучи буквально на физиологическом уровне зависимыми от телефонов, мы не понимаем, что зависимы от них на полную катушку.

Впрочем, а где вы видели наркомана или алкоголика, считающих, что у них есть проблемы с тем и другим? Нет, у них проблем никаких – вмазал, и порядок! А в случае гаджетов даже внутрь принимать не нужно – работают, как мы теперь знаем, и на расстоянии!

«Цифровая зависимость» поражает всех без разбору. Улицы наполнились «цифровыми ходячими мертвецами», натыкающимися друг на друга, попадающими под машины и кидающимися в фонтаны.

Всё это и правда превратилось в самую настоящую проблему – из-за травматизма и роста – в разы! – числа аварий, спровоцированных, как его называют теперь, «отвлечённым хождением»; государства и муниципалитеты вынуждены принимать меры:

• в китайском Чунцине оборудовали 30-метровый тротуар для людей со смартфонами (что-то вроде велодорожки);

• в немецком Аугсбурге в тротуары вмонтировали сигнальные лампочки;

• в Южной Корее сделали специальное приложение для телефонов, которое блокирует их работу, если ребёнок совершает несколько последовательных шагов;

• вводят штрафы за использование телефона в движении: в Гонолулу, например, 35 долларов, в Чикаго предлагается штрафовать в 500;

• а ещё ведь есть и Pokemon Go…

Показатели патологической зависимости от смартфона демонстрируют галопирующий рост, количество пострадавших постоянно растёт.

Нейрофизиологические и биохимические изменения головного мозга – это не шутки. Наши обычные тисканья смартфона (действия с приложениями, скролинг ленты и тому подобные «невинные» действия) физически меняют наш мозг.

Благодаря исследованиям нейробиологов из Сидианского университета Китая под руководством Кай Юань мы знаем, что, внимание:

• у цифрозависимых мозг теряет в объёме, то есть буквально «усыхает» на 10–20 % (то есть происходит физическое оглупление людей);

• в процесс атрофии вовлечена лобная доля, которая регулирует исполнительные функции, планирование, определение приоритетных целей, обеспечивает контроль импульсов;

• кроме того, были диагностированы зоны атрофии в так называемом полосатом теле, что влияет на способность человека противостоять искушению и подавлять социально неприемлемые импульсы.

Что ж, получив эти вводные, мы переходим к двум новым заболеваниям цифрового века: к психической недоразвитости, которая проявляется «цифровым слабоумием», и к глупости, так сказать, структурной, которая и получила название «информационной псевдодебильности».

Цифровое слабоумие

Цифровое слабоумие – это не просто забывчивость. Цифровое слабоумие – это когда люди не задумываются над тем, что делают.

МАНФРЕД ШПИТЦЕР

Есть, честно говоря, в этом какая-то ирония… Сейчас вы поймёте, о чём я.

Говоря о возникновении искусственных нейронных сетей, я уже упоминал Дональда Хебба, которому принадлежит авторство первого работающего алгоритма обучения.

Родился Дональд во врачебной семье, родители воспитывали мальчика по методу Монтес-сори, что позволило ему развиваться лучше сверстников и поступить сразу в третий класс. Но врачебная стезя его как-то не увлекала, поэтому он закончил бакалавриат по искусству, а затем увлёкся психологией.

В конце концов, он нашёл что-то на стыке между медициной и психологией, стал психофизиологом, или, как бы мы теперь сказали, – нейропсихологом. Кроме того, серьёзно занимался преподаванием (обучаясь в заочной аспирантуре Университета Макгилла, он одновременно стал директором одной из неблагополучных школ Монреаля).

Впрочем, серьёзной наукой он стал заниматься уже в Чикагском университете и в Гарварде под руководством видного специалиста в области поведенческой психологии Карла Спенсера Лешли, сосредоточившись на понятии «нейронных ансамблей», резонно предполагая, что мысленная репрезентация внешних событий отражается в иерархической структуре этих самых нейронных ансамблей.

Чуть позже, работая уже под руководством Уайлдера Плейнфида, о котором мы тоже уже говорили, Хебб изучал феномен пластичности нервной ткани и показал, например, что при черепно-мозговых травмах у детей мы, за счёт эффекта пластичности, можем при правильном и активном подходе ожидать полного восстановления функций (со взрослыми так просто не получается).

С 1942 года ему выпадает замечательная возможность работать в легендарном Национальном исследовательском центре приматов Иеркса, где, насколько мы можем судить, и началась его работа над книгой «Организация поведения: нейропсихологическая теория» (The Organization of Behavior: A Neuropsychological Theory)[43], которую, в общем-то, можно назвать культовой. И не просто культовой, а дважды культовой!

Для будущих создателей нейронных сетей он со своей «Организацией поведения» как отец родной, поскольку здесь он сформулировал свой «нейрофизиологический постулат» (или ещё его называют «правилом Хебба»), согласно которому обучение заключается в изменении «силы» синаптической связи. С этим вроде как всё понятно.

Но и для психологов развития он сделал немало, доказав, что детскому мозгу крайне важна «обогащённая среда» (тут всё сошлось – от Монтессори и факультета искусства до педагогического опыта, нейропластичности и обучения шимпанзе). А началось всё с крыс…

У Дональда было две дочки – Мери и Джейн, и он принёс им с работы лабораторных крыс в качестве домашних питомцев. Когда же через некоторое время их нужно было вернуть обратно, то обнаружилось, что те значительно превосходят собратьев, не покидавших стен лаборатории, в тестах на обучаемость.

Таким образом, получалось, что опыт жизни в богатой стимулами среде оказал существенное позитивное воздействие на способность животных к обучению, что Хебб интерпретировал как существенные изменения в их мозге. Так и возник «нейрофизиологический постулат»: под влиянием стимуляции, связанной с обучением, синапсы видоизменяются.

В 1960-х годах исследователи Калифорнийского университета в Беркли решили проверить идею Хебба и создали «обогащённую среду» для грызунов – оборудовали их жилища большим количеством игрушек, препятствий, скрытыми кормушками и беговыми колёсами. Они также объединили животных в группу, чтобы те могли общаться и играть.

Исследование показало, что большое количество сенсомоторных и социальных импульсов изменило структуру и функции мозга грызунов. Они не только лучше выполняли задания на обучаемость, но и объём их мозговой ткани увеличился по сравнению с теми животными, которые жили в обычных лабораторных клетках. Определение Хеббом пластичности не включало в себя рост мозга.

Сейчас всё это, конечно, звучит как набор прописных истин, но когда Хебб создавал свою теорию организации поведения, даже заикнуться о том, что мозг может столь существенно физически изменяться лишь под воздействием нового опыта и обучения, было неслыханным нахальством, граничащим с антинаучной ересью.

Вот в этом, собственно, и состоит ирония: Дональд Хебб одной и той же работой открыл дорогу искусственному интеллекту, а другой – тем же самым «постулатом» – предупредил нас о том, как не попасть под его влияние. Но идею с искусственным интеллектом разглядели, а вот про детей позабыли…

Даже крысы становятся умнее, если их поместить в богатую внешними раздражителями, да вдобавок ещё и комфортную социальную среду. А в какую среду помещены современные дети? Вы, вообще, давно слышали детский крик? Нет, я совершенно серьёзно спрашиваю…

Современные дети не кричат, потому что, как только они начинают кричать, им тут же, в качестве интеллектуальной соски, дают в руки гаджет – телефон или планшет. И это магическим образом успокаивает любого ребёнка. Гаджеты превратились в универсальных бэби-ситтеров, нянек, воспитательниц и бабушек.

И теперь уже ничто не может отвлечь молодых родителей от «отвлечённого родительства» – у каждого по своей «соске».

Но чем, с точки зрения нейрофизиологии, плохо, что дети сразу погружаются в ту информационную среду, в которой им предстоит дальше жить? В конце концов, они для неё – для этой новой цифровой реальности – нами и воспитываются.

Проблема здесь вот в чём: при рождении, как мы с вами уже знаем, наши мозги представляют собой лишь заготовку к человеку, а вовсе не человека, каким он будет, когда вырастет.

Мы пока – лишь полено, из которого папе Карло ещё только предстоит выстругать человека. В результате его работы до половины, как мы теперь знаем, нейронов умрёт, а какие-то свяжутся в мощные нейронные ансамбли. И от того, свяжутся ли они должным образом или как-то не так, многое зависит.

Для правильного связывания, которое будет продолжаться минимум до 21 года (причём в ряде исследований показано, что и до 27), необходимы средовые факторы, адекватные нашему биологическому мозгу, а не цифровой реальности, к которой вроде как необходимо приготовить ребёнка.

Есть правила, которые нарушать нельзя. Например, детям нужна мелкая моторика, но современные дети больше не ощупывают окружающий их мир – они тыкают своими пальчиками в экран планшета. Им нужен опыт пространственных взаимотношений объектов друг с другом, которые не даёт телефон; наконец, им нужна богатая социальность, которую не заменить общением с виртуальными «друзьями».

Если мозг ребёнка не ощущает окружающий мир на, так сказать, кончиках своих пальцев, его базовые психические функции формируются, прямо скажем, скверно.

Отсюда неспособность сосредотачиваться и удерживать внимание, понимать подтекст и последовательно, логически рассуждать, а также трудности в самоконтроле и двигательная гиперактивность и т. д.

Какова внутренняя механика этих нарушений? Дело в том, что за каждый соответствующий режим работы отвечает специальная функциональная сеть мозга, нуждающаяся в длительном и последовательном формировании в опыте.

РЕЖИМЫ И ПРАКТИКИ

Наш мозг, как мы знаем, имеет несколько режимов работы: концентрация внимания, процесс потребления и переработки информации, оценка социальной ситуации, мышление и т. д. И каждый из этих режимов его работы обеспечивается соответствующей «функциональной сетью мозга»[44].

Самые, возможно, значимые функциональные сети мозга – это сеть выявления значимости, центральная исполнительская сеть и дефолт-система мозга, о чём я подробно рассказывал в книге «Чертоги разума» (см. рис. № 17).

Четвертая мировая война. Будущее уже рядом

Рисунок № 17. Активность дефолт-системы мозга (ДСМ), сети выявления значимости (СВЗ), центральной исполнительной сети (ЦИС)


Нам кажется, что, когда мы распознаём образы, читая заголовки статей или рассматривая фотографии, мы думаем. Но это не так: распознавание образов – это просто распознавание образов, в зависимости от того, включают ли они активно зоны лингвистической коры, соответствующий процесс обеспечивается или сетью выявления значимости (СВЗ), благодаря которой, например, можно осуществлять различные медитативные практики, или центральной исполнительной сетью (ЦИС), когда вы, например, смотрите мою лекцию на YouTube.

Мышление же – это когда вы прокручиваете в своей голове интеллектуальные объекты, относящиеся к решаемой задаче, и они складываются у вас там в более сложные структуры. За это отвечает дефолт-система мозга (ДСМ), которая эволюционно предназначена просчитывать отношения с другими членами нашей стаи (каждый из которых является реконструированным и достаточно сложным интеллектуальным объектом).

Впрочем, это только верхушка айсберга. Исследования в этой очень, надо признать, ещё молодой области нейрофизиологии активно продолжаются. К настоящему моменту в ряде научных работ, систематизирующих результаты последних открытий, сообщается, что можно выделить до пятидесяти различных функциональных сетей мозга, отвечающих за ту или иную поведенческую активность человека.

Как я уже сказал, каждая такая сеть должна сформироваться в мозге человека в процессе его взросления. Разумеется, мозг человека имеет какие-то генетические предустановки, которые этому способствуют, но, как это всегда бывает с нервной тканью, если её потенциальный функционал не получает необходимого объёма тренировки и должной поддержки из окружающей среды, качество работы таких систем в последующем, мягко говоря, оставляет желать лучшего.

Теперь несколько слов о том, как происходит это формирование данных нейронных сетей, о чём мы знаем благодаря замечательной работе группы нейрофизиологов под руководством Дэмиена А. Файра (Орегонский университет здоровья и науки) и Александра Л. Коэна (Вашингтонский университет в Сент-Луисе), опубликованной в PLOS Biology в 2009 году.

Название этой статьи, думаю, можно перевести так: «Функциональные нейронные сети развиваются от “локальной к распределённой” организации» (Functional Brain Networks Developfroma “Local to Distributed” Organization). Собственно, этим всё и сказано.

Если требуются объяснения, то они выглядят так…

Изначально нейроны мозга связаны друг с другом локально – то есть, грубо говоря, кто где родился, тот там и пригодился. Угораздило тебя быть нейроном зрительной коры – будешь соединён с себе подобными, а если в теменной доле или в лобной – то данные тебе от рождения связи будут с клетками теменной доли или, соответственно, лобной.

Но мозг должен научиться работать как целостный аппарат. Вот вы видите предмет – погремушку, например. Видеть – это работа затылочной доли, зрительной коры. Но вы не только её видите, вы ещё хотите её взять, а взять её можно только рукой. Однако же нейроны, которые отвечают за движение вашей руки, находятся в лобной доле, за центральной бороздой – то есть это вообще край света. Как одно с другим совместить?

Не буду углубляться, но вы понимаете, что погремушка, кроме прочего, ещё и гремит, что привлекает вас за счёт активизации клеток височной доли. Да и не просто так нам её хочется, не святым духом мы движимы, а тоже нервными клетками, которые находятся вообще в глубине мозга – в подкорковых структурах.

Наконец, вам надо концентрировать на ней внимание, а тут уж и без лобных долей не обойтись, а руки не должны дрожать, и тело должно за рукой тянуться, то есть нам тут и мозжечок понадобится… Могу не продолжать?

Да, любое, даже кажущееся чрезвычайно примитивным действие, – это синхронная, слаженная работа различных нервных центров, расположенных в разных областях мозга («распределённая организация»). Мы не думаем разными частями мозга в разных случаях («локальная организация»), мы думаем всем мозгом сразу, но не сразу от момента рождения.

Для того чтобы перейти от «локальной организации» к «распределённой», мозг должен пройти долгий путь обучения – в нём должны сформироваться длиннющие магистрали, те нервные пути, которые свяжут один регион мозга с другим в единое целое и под разные задачи.

Некоторые удивляются – говорят, что вот как так может быть, что у ребёнка больше нейронов, чем у взрослого, а голова у него маленькая? И правда, получается, что голова потом больше становится, а нейронов меньше, – не логично. Но так и есть, просто объём мозга растёт не из-за увеличения количества нервных клеток, как раз за счёт разрастания этих «межрегиональных связей», так называемого «белого вещества».

К сожалению, книга чёрно-белая, а без цветовых обозначений это будет трудно понять (там слишком много нюансов, да и модель математическая, и тут мало что напоминает о том, что перед вами мозг), но все-таки посмотрите на диаграмму, которую приводят профессора Файр и Коэн с коллегами в своей статье, – рис. № 18.

Четвертая мировая война. Будущее уже рядом

Рисунок № 18. Трансформация от локальной к распределённой организации


Верхний ряд – это как бы убывание «локализационной организации», когда клетки внутри каждой зоны коры головного мозга специализируются. То есть, если сначала они представляют собой общую, плохо дифференцированную массу, то постепенно, с возрастом они распределяют между собой функционал. В результате, даже находясь в одной анатомической области мозга (в одной и той же доле мозга), они выполняют разные функции и включены в разные функциональные сети.

Грубо говоря, вот у вас есть височная доля, она обрабатывает звуковые раздражители, но сначала, по младенчеству, вы слышите только шум и гвалт. Однако же постепенно клетки слуховой коры тренируются и специализируются. Так что теперь, слушая песню, мозг, с одной стороны, создаёт для вас ваше субъективное восприятие мелодии, а с другой стороны (соседними клетками), позволяет вам различить слова песни и понимать её смысл.

Теперь посмотрим на нижний ряд диаграмм. Здесь представлены результаты математической обработки данных, которые нам показывают, как мозг постепенно собирает свои функциональные сети. Каждая функциональная сеть мозга (ЦИС, СВЗ, ДСМ и др.), как я уже говорил, состоит из нервных клеток, которые анатомически расположены в разных областях мозга, потому что для обеспечения любой нашей деятельности нужны клетки разного функционала.

Так вот, все эти клетки разного функционала (видящие, слышащие, создающие чувство времени и пространства и т. д.), необходимые нам для осуществления того или иного вида деятельности, нужно друг с другом связать электрохимическим трубопроводом.

В результате наш мозг научится быстро входить в тот или иной режим работы, то есть вы сможете быстро переключаться между разными видами деятельности – тут надо сконцентрироваться на том, что тебе говорят, тут надо задуматься и самому решить задачу, тут надо встать и что-то достать…

Надеюсь, я не слишком вас запутал своими объяснениями, но даже если это и так, я думаю, что общий принцип понятен: для осуществления сложной психической деятельности мозг должен научиться связывать разные зоны коры в единые комплексы (функциональные сети), а для этого он должен быть сформирован… ба-бам! – в естественной (то есть подходящей) для этих целей среде.

Если мы этого не добьёмся, то ребёнок просто не сможет входить в нужный ему для решения тех или иных задач режим работы мозга: концентрировать внимание, вникать в суть того, что ему рассказывают, делать логические выводы, извлекать уроки из допущенных ошибок – в общем, не крутиться, не вертеться, ногами не дрыгать, а заниматься делом! Добрый доктор поставит ему диагноз СДВГ, что значит синдром дефицита внимания и гиперактивности…

Что ж, стоит ещё раз взглянуть на диаграмму Файра-Коэна, точнее – на верхнюю её строчку: 8, 13, 25. Это возраст. То есть где-то к 25 годам, вроде как распределённая организация деятельности мозга должна созреть. А в какой среде она зреет? А что там, в этой среде с раздражающими факторами? Какие они?..

Вообще говоря, что такое «синдром дефицита внимания и гиперактивности», учёные долго не могли понять. Хотя, так сказать, невооружённым глазом было видно, что дети эти «какие-то не такие» – им трудно концентрировать внимание, на месте им не сидится, импульсивны, реагируют на всё резко.

В 30 % случаев с возрастом эти нарушения проходят, но 70 % детей не перерастают свой СДВГ и получают диагноз СДВГ взрослых. И тут уже к остальным симптомам добавляются и сниженный интеллект, и трудности с восприятием информации. В общем, туши свет!

Однако же нейрофизиология развивается, и новые методы исследования позволяют нам заглянуть в живой, работающий мозг. И мозг детей, страдающих синдромом дефицита внимания и гиперактивности, – не исключение.

В 2017 году в журнале Biological Psychiatry: Cognitive Neuro science and Neuroimaging была опубликована статья «Функциональные нейровизуальные признаки для определения нейробиологических путей при расстройстве дефицита внимания/гиперактивности», написанная группой учёных под руководством двух психиатров – профессора Йельского университета Михаэля К. Ствевенса и директора исследовательского центра ОНп Neuropsychiatry Research, профессора Годфри Д. Пёрлсена.

Революционность этого исследования состоит в том, что, во-первых, наконец найдены нейрофизиологические паттерны, характерные для детей, страдающих СДВГ, а во-вторых, что ещё важнее – оказалось, что этих паттернов несколько (как минимум, по крайней мере, по результатам этого исследования, – три).

Проще говоря, за одними и теми же, как кажется, поведенческими симптомами – неспособность удерживать внимание, общая безалаберность, потребность в немедленном вознаграждении и т. д., и т. п. – стоят разные нейрофизиологические комплексы.

Впрочем, точнее было бы сказать, что у ребёнка должны к определённому возрасту сформироваться нормальные функциональные сети мозга, но по каким-то причинам этого не произошло, и на осколках этих не сформированных нормально функциональных систем выросли какие-то другие агломерации.

В конце концов, мозг может адаптироваться ко всему (в разумных пределах, разумеется), и если среда стала цифровой и вся детская жизнь перекочевала в смартфон, то он – мозг ребёнка – к этому набору стимулов и привыкает.

Дальше, когда вы пытаетесь вернуть ребёнка в нормальную жизнь, возникают естественные и предсказуемые сложности: в его мозге просто нет функциональных систем, которые помогли ему в этой среде функционировать.

Конечно, СДВГ был и раньше (диагноз в тех или иных формулировках ставили ещё с 80-х годов прошлого века), но это всегда были единичные, уникальные случаи. Вы не могли войти в класс и обнаружить там СДВГ у каждого второго ребёнка (если, конечно, это не был класс какой-нибудь коррекционной школы).

Сейчас же все школы медленно, но верно превращаются в коррекционные… Только, во-первых, там ничего не «корректируют», а во-вторых, проблемы часто в упор не видят – а что, дети тихие, спокойные, сидят в телефонах, никого не трогают. Тупеют? Ну, бывает… Не всем же в гениях ходить!

Печальная ирония состоит в том, что искусственный интеллект обучается сейчас в чрезвычайно «обогащённой среде», буквально унавоженной нашими мозгами. А вот ребёнок нет – он попадает в тоннель рекомендуемого контента и форматируется под этот случайным образом возникший паттерн.

Впрочем, почему случайный? Нет, не случайный – он сделан искусственным интеллектом. Правда, пока без цели и смысла, но это уже работает. Осталось дождаться вводных, которые, впрочем, как мы видим, могут возникать и по методу спонтанного самозарождения…

Проблемы с психическим здоровьем – это не самое страшное последствие нашей зависимости от гаджетов, считает Тристан Харрис, в прошлом специалист по этике дизайна в Google:

«Представьте себе диспетчерскую, где сотни людей склонились над компьютерами, чтобы надиктовать миллиарду людей, о чём думать и что чувствовать. Звучит как научная фантастика. Но это уже реальность, – говорит он на лекции Ted. – Когда вы видите уведомление, телефон заставляет вас думать о том, о чём вы думать не собирались. Открывая уведомление, вы тратите время на то, чего не планировали делать. Мы общаемся в соцсетях, и это вроде бы похоже на милую беседу по телефону, как в 1970-е годы. Только тогда на другом конце провода не было сотен инженеров, осведомлённых о ваших слабых местах».

Харриса называют «совестью Кремниевой долины» – он ушёл из Google и основал некоммерческую организацию Time Well Spent, чтобы бороться с кризисом внимания в современном мире и пропагандировать цифровую диету.

Информационная псевдодебильность

Принцип научной подачи информации заменён принципом калейдоскопа сменяющихся картинок, который разработчики считают системно-деятельностным подходом.

ЛЮДМИЛА ЯСЮКОВА

Когда авторитетный петербургский психолог Людмила Аполлоновна Ясюкова публично сообщила о том, что разрыв между умными и глупыми (причём точно не в пользу умных) стремительно увеличивается – вот уж, конечно, тайна за семью печатями! – реакция общественности оказалась, мягко говоря, неоднозначной. Мол, кто дал вам право об этом судить?! Да ещё дураками нас выставлять?! И вообще, что такое ум?..

Почтенная публика почему-то с лёгкостью обнаруживает в научных фактах, лишающих её спокойного сна, тень фашиствующей евгеники. Но это не евгеника, и уж точно нет даже намёка на фашизм, но идиотизм действительно стал новой реальностью, и вдвойне глупо закрывать на это глаза.

В основе этого процесса массового оглупления лежат всё та же цифровая зависимость, с одной стороны, и специфика работы нашего мозга в условиях гиперинформационной среды – с другой.

Особенность эта состоит в том, что как раз из-за этих функциональных систем мозга, которые погружают нас, так сказать, в разные режимы функционирования, мы не можем одновременно потреблять информацию и думать.

Проще говоря, мы или потребляем контент, или думаем. Поскольку же мы теперь все в той или иной степени не слезаем с информационной иглы, зоны мозга, ответственные за мышление, у нас не тренируются, а возможно, даже и атрофируются.

Ну, по крайней мере, какой-то нейрофизиологической пылью и паутиной покрываются точно. Неслучайно исследования пожилых людей показывают, что читающие люди в два раза реже подвержены болезни Альцгеймера, чем те, что смотрят телевизор.

Спросите – мол, в чём разница: и в книге информация, и в телевизоре. Да, только телевизор захватывает ваше внимание и удерживает его, а книга – нет, поэтому до 40 % времени чтения уходит у вас на мыслительную деятельность, когда вы настолько погружаетесь в раздумья, что даже можете потерять нить повествования.

Но книжки мы сейчас читаем редко, мы всё больше по Facebook’aM и Instagram’aM шастаем. Что, в буквальном смысле этого слова, приводит к тому, что мы теряем навык построения сложных интеллектуальных объектов – всё больше мыслим поверхностно, на автоматизмах, не вникаем в суть дела.

Заметить это уплощение собственного мышления крайне сложно. Как я уже много раз говорил: даже заболев Альцеймером, мы будем жаловаться на что угодно, но только не на собственную глупость.

НЕКРАСИВАЯ ШИЗОФРЕНИЯ

Об этом исследовании, проведённом Ольгой Литвиненко под руководством профессора, д. м. н. Анатолия Николаевича Алёхина, я уже достаточно подробно рассказывал в книге «Чертоги разума». Так что сейчас постараюсь изложить лишь существо вопроса и в общих чертах.

Полагаю, все вы слышали такое понятие – «па-томорфоз». Звучит, конечно, крайне зловеще, но на самом деле всё предельно просто и совсем не страшно: клиническая картина заболеваний может со временем видоизменяться.

Старые психиатры расскажут вам, что шизофреник нынче не тот пошёл – какой-то квёлый, невнятный, без яркой симптоматики. Скукотища, одним словом.

Раньше вот другое дело – больные были, что надо! Если, например, паранойя, то ядреная – спецслужбы преследуют, марсиане вселились в тела людей и ставят над ними чудовищные эксперименты, через диктора новостей передают сверхсекретную информацию об антиправительственном заговоре, в мозгу установлен специальный датчик для связи с богом и т. д., и т. п.

В общем, сходили раньше с ума с металлическим, так сказать, звоном. А сейчас что? Одна сплошная серость. В чём же причина этого патоморфоза? Ладно, здоровые тупеют, а с сумасшествием-то что приключилось?

Современные лекарства? Допустим, что так. Но дебют болезни всё равно не должен меняться! А он меняется. Генетика? Но, простите, какие генетические изменения происходят с шагом в одно поколение, причём со всем человечеством разом?

То есть дело всё-таки в среде обитания наших с вами мозгов (включая безумные) – в специфике информационного поля.

В указанном исследовании были проанализированы сотни архивных историй болезни пациентов, страдающих шизофренией. Были выявлены структура бреда, действующие лица, структуры отношений – в общем, всё как товарищ Пропп завещал.

Две группы были в этом исследовании ключевыми – те больные, что родились и сформировались до бума компьютеров и интернета, а также те, что пришли в этот мир уже на излёте 80-х. И вот уж где действительно обнаружилось «два мира – две системы»!

Сама суть паранойи состоит в её удивительной структурности. Раньше мы даже говорили о моменте «кристаллизации бреда», когда пациенту буквально вдруг становилось «всё понятно» – что это, например, заговор, или преследование, или какое-то фантастическое воздействие. Он «ясно» понимал, что случилось, почему за ним ведётся охота, в чём он виноват, в чём его подозревают и т. д.

Помните «Игры разума» – блестящий фильм о великом математике Джоне Нэше, которого сыграл тогда ещё неподражаемый Рассел Кроу? Да-да, всех этих страшных людей в чёрном, которые работают на ЦРУ, заговор против США, секретная информация в открытых источниках, газетные вырезки, развешанные по стенам гаража… Это настоящий, качественный, так сказать, структурный бред.

Но те пациенты, чьё взросление пришлось на эпоху галопирующего информационного роста, демонстрируют принципиально иную картину бреда. Они не только не особо понимают, что с ними происходит, когда начинается психотический приступ, но даже не слишком происходящим интересуются.

Ну да, мол, что-то странное. Ну да, кто-то что-то кому-то сказал, как-то смотрят неправильно, подозрительно…

Вместо «Правительства», «КГБ», «марсиан» и всяческих «Тёмных сил» – соседи по лестничной клетке, продавцы в магазине, родственники, сокурсники. И те, впрочем, едва друг с другом связаны, а чего они хотят от больного и с какой стати, собственно, – это и вовсе непонятно. Каша-малаша.

Иными словами, у представителей «поколения X» бред структурный, а в бредовых конструкциях «игреков» никакой структуры нет и близко – исчезла.

Но бред – это ведь просто психическая продукция, пусть и весьма специфическая. Морфологически и психофизиологически мозг в обоих случаях один и тот же, и в обоих же случаях он поражён одним и тем же недугом (генетическая природа этого заболевания никак не изменилась). Почему же настолько отличается само качество этой, как её называют психиатры, психической продукции?!

Вопрос не в содержании бреда, а в том, как он структурно организован. А структурно он теперь организован из рук вон плохо, но не по причине болезни как таковой, нет. Мы все с вами в этом мороке информационного потребления так мыслим – бесструктурно, рвано, несистемно. Шизофреник просто не боится, поскольку теряет связь с реальностью, вывернуть своё мышление наружу и нам этот бардак, касающийся теперь каждого, продемонстрировать.

Ну что, так себе структурка… у нас с вами. И это пора уже признать.

Чем проявляется обычная, нормальная, так сказать, а не информационная умственная отсталость? Больной с соответствующим диагнозом интеллектуально пассивен, действует импульсивно, не может долго сосредотачивать внимание, мыслит очень конкретно и утилитарно, не любит и не понимает абстрактных рассуждений. Вам ничего это не напоминает?.. Среднестатистического пользователя соцсетей, например?

Отличие от клинической дебильности у псевдодебильности только одно: клинического дебила никак и ни при каких обстоятельствах нельзя заставить думать сложнее – само состояние его «серых клеточек» этого не предполагает. Не складывается у него ничего в головушке, что ты с ним ни делай.

Напротив, «серое вещество» информационного псевдодебила сохранно, и в принципе его мозг можно натренировать. Но зачем?..

Да и правда, а зачем это вещество тренировать и в сложности тренироваться? В чём смысл? Мотивация какая? Цимес в чём? Его как-то будут особенным образом за это уважать? Или, напротив, стыдить станут, что он дурак? Или он не выживет без этого? Нет.

Умным быть не модно, не клёво и даже не cool… И что с этим делать?

Нам давно уже нужно было понять угрозу, которую представляет собой эта новая для наших мозгов – гиперинформационная – среда. Но мы не поняли, не подготовились и, возможно, даже опоздали.

МОЗГ БОЛЬШЕ НЕ НУЖЕН

Мы радуемся каждому новому гаджету, новому технологическому решению, любому новому сервису… Почему? Потому что он счастливо избавляет нас от необходимости думать.

Что значит «думать» с практической точки зрения?

• Во-первых, не заморачиваться по поводу будущего.

• Во-вторых, делегировать кому-то принятие решений.

С обеими этими функциями искусственный интеллект справляется уже прекрасно. Когда же их можно будет объединить в одном гаджете, то мир можно будет смело остановить и снять с рельсов: всё, добежали до рая.

Количество разного рода «помогающих сервисов» растёт как на дрожжах. Уже сейчас существующие «помогающие сервисы» лишают нас необходимости разворачивать время на более-менее длительную перспективу и продумывать что-либо наперёд.

Если у вас есть мобильная связь, навигатор, кредитные карты, сети социальных контактов, базы данных, возможность работы удаленно, наличие бесчисленных сервисных служб и прочие «блага» цивилизации – о чём вообще можно беспокоиться?

В любой ситуации и в любой момент, что бы ни случилось – обращайтесь за помощью, находите то, что вам нужно, пользуйтесь финансовыми средствами, ориентируйтесь на местности и вообще – получайте любого рода поддержку! Да, всё это невероятно «расслабляет мозг».

До появления всех этих чудесных «благ» человек должен был детально продумывать всё, что ему предстоит или даже только может предстоять. То есть строил, так сказать, сложные модели реальности. Для любой непредвиденной ситуации у него должен был быть запасной план, потому что помощи зачастую ждать было совершенно неоткуда – банально не докричишься.

Наш телефон и компьютер владеют массой необходимой нам информации – только нужную кнопку нажми. А если наши устройства не в курсе – придётся потрудиться, задать вопрос поисковику. Но волноваться не о чем – вся информация будет выдана в обобщённом и переработанном виде – главное выделено жирным, аргументы приведены, и картинки-картинки-картинки, вместе с видео, разумеется. Можно «всё понять», не задумываясь.

Если же нам всё-таки суждено наткнуться на что-то сложное, то есть прекрасная функция – отложить, убрать в закладки и т. д. О том, что мы возвращаемся только к 4 % информации, которую отложили, мы в этот момент, разумеется, не думаем. Но иллюзия, что встреча со сложным и наше внимательное к нему отношение – обычное для нас дело, присутствует во весь рост!

Решения принимаются за нас постоянно:

• где-то «на автомате», как, например, в случае с поисковиками, которые сами определяют последовательность выдачи информации;

• где-то «по умолчанию», как, например, оплата каких-то приложений или услуг, которые списываются, потому что вы однажды сказали «да»;

• где-то с иллюзией выбора – как в случае автоматического воспроизведения следующего видео или с рекомендательными сервисами;

• где-то с эффектом принуждения, когда на вас обваливается очередная порция «новостей», «извещений» и т. п.

Но пока это всё, конечно, цветочки. Ягодки ждут нас впереди, когда мы будем передвигаться по цифровому пространству в соответствии с предлагаемыми нам алгоритмами, совершенно, впрочем, об этом не догадываясь.

В конечном счёте дебильность – это не просто какая-то единичная глупость. Нет, это состояние невозможности жить осмысленно, а подобная роскошь, как мне кажется, уже под вопросом.

Возможно, главная проблема, которую пытаются решить сейчас создатели искусственного разума, – это проблема «иерархии». Да, с внутренней иерархией «колонок» – с помощью глубокого обучения – они вроде бы разобрались и смогли её воспроизвести.

Но, как теперь выясняется, кроме иерархии внутри слоёв отдельно взятых участков коры есть ещё и некая иерархия отношения их отделов. И ответ на этот вопрос, я полагаю, лежит в понимании работы внутри каждой конкретной функциональной нейронной сети, и в нас эта иерархия выстраивается с опытом, которого нет (пока нет) у искусственного интеллекта.

Сложность («умность») интеллектуального объекта – той мысли, которую мы с вами думаем, – это как раз и есть его структурная, или, нейропсихологически говоря, иерархическая организация. И именно поэтому старых психиатров совершеннейшим образом шокирует отсутствие структуры в бреде вновь прибывающих шизофреников.

Да, люди всё больше напоминают компьютерные программы: чужды структурной иерархии и действуют, словно линейная «машина Тьюринга» – то есть берут количеством операций, а не их многомерной сложностью.

Так что, пока искусственный разум пытается экспоненциально расти, обучаясь созданию сложных интеллектуальных объектов, человеческие мозги направились в строго противоположном направлении.

У нас развивается своего рода «лайковое мышление»: нравится – лайкаем, не нравится – идём дальше. Простенько, весело, скандально – это да, нам интересно. Сложно, серьёзно, нужно вдуматься – прокручиваем, смахиваем и идём дальше.

«Мне сказали, что каждая включённая в книгу формула вдвое уменьшит число покупателей», – пишет Стивен Хокинг в предисловии к своей «Краткой истории времени». Честно говоря, на этом любую книгу по физике следовало бы, наверное, закончить…

Да, нам всё ещё кажется, что мы сознательно и осознанно принимаем решения, а потому всё вроде как в наших руках. Но правда в том, что это не так. Наше сознание в лучшем случае лишь визирует наши решения, поэтому нами можно легко манипулировать, и оно этого даже не заметит.

Современные технологии нейромаркетинга, нейрополитики и т. д., основанные на технологиях Big Data, станут мощнейшим средством управления людьми и обществом в целом. Нам будет, конечно, казаться, что это мы приняли те или иные решения, но на самом деле их будут принимать те несколько человек, которым эти технологии принадлежат.

Вопрос в том, как долго мы сохраним свой статус «человека разумного». Приставка Sapiens к слову Homo может в скором времени просто отвалиться, если, конечно, мы не станем осознанно за неё бороться.

Мир технологий становится всё более сложным, управлять им, координировать его в целом уже сейчас невозможно. При этом он далеко ещё не в той форме, чтобы можно было ему полностью довериться. Поэтому количество ошибок в системе будет расти, а людей, способных их исправить, людей, которые могут видеть ситуацию в целом, уже сейчас нет.

Так что есть все основания предполагать, что мы «не потеснимся», уступив место сверхмощному искусственному интеллекту, а просто сгинем, отупев до того, как он будет нами создан.

Вот она, альтернатива, очень в духе надписи на придорожном камне из русских народных сказок: создадим серхмощный искусственный интеллект, и он нас уничтожит, не создадим – отупеем от промежуточных результатов «цифрового прогресса» и станем обычным homo.

Глава пятая

Пережить третью…

Это потрясающе – иметь на руках реальный кризис, после того как половина твоей политической жизни ушла на всякие скучные вещи вроде охраны среды.

МАРГАРЕТ ТЭТЧЕР

Искусственный интеллект не сказка, не иллюзия, и наше всеобщее оглупление – тоже медицинский факт. То есть он умнеет, а мы глупеем, и поэтому исход нашего с ним противостояния предсказуемо не в пользу человека, по крайней мере – не в пользу «Человека разумного».

Финал Четвёртой мировой, как бы он конкретно ни выглядел в реальности, понятен: на планете Земля появится новый гегемон.

Возможно, и даже скорее всего, он, этот новый искусственно-интеллектуальный гегемон, будет очень странный – точно не такой, каким его рисуют в голливудских фильмах. Думаю даже, что ему будет абсолютно плевать на его гегемонию, просто он окажется таковым по факту.

Во всём, о чём я рассказывал до сих пор, есть только одно «если»: если технологиям и правда свойствен экспоненциальный рост. Всё указывает на то, что да, свойствен. Но чёрт его знает – в конце концов, это только гипотеза. Сохраняется вероятность, что рост будет долгим и мучительным.

В этом случае Третья мировая война грозит сильно подзатянуться. Так что имеет смысл присмотреться к ней повнимательнее.

Линии разлома

Во времена крутых перемен опыт может оказаться вашим наихудшим врагом.

ПОЛ ГЕТТИ

«В последнее время “холодную войну” часто стали называть Третьей мировой, но мне это утверждение кажется избыточным преувеличением. Для настоящей мировой войны она была слишком вегетарианской.

Нынешняя война западной цивилизации с террором – дело другое, это поистине Третья мировая. Тут и жертв хоть отбавляй, и границы скоро сильно изменятся – по крайней мере, их внешний вид.

Чтобы представить себе, как будет выглядеть наше с вами недалёкое будущее, можно, например, съездить в Израиль и посмотреть на высоченные заборы, окружающие палестинские поселения.

Потребуется лишь немножко напрячь воображение и мысленно продлить эту стену от горизонта до горизонта. Такие заборы – из железа и бетона – скоро вырастут по периметру союзнических государств, объединённых в большие цивилизационные агрегации.

Когда-нибудь историки назовут это гигантское архитектурное сооружение, которое разделит цивилизованный мир и мир исламского фундаментализма, “Большой цивилизационной стеной”. И хотя дизайн её вряд ли закажут Филиппу Старку – строить будут второпях, Бэнкси, надо полагать, будет где развернуться.

Китайцы, кстати, тоже что-то построят, но им и не впервой, и у них тоже какая-никакая цивилизация, испокон веков, замечу, играющая в го.

Отдельных стран как таковых, то есть в нынешнем их виде, уже не будет. Не рентабельно. Возникнут своего рода “цивилизационные анклавы”: “Европейский”, “Североамериканский” и т. д. Россию, впрочем, вряд ли в какой-то из них возьмут. И не потому, что мы “не Европа”, или “люди второго сорта”, или “нам нельзя доверять”. Просто слишком велика территория, а заселена локально – придётся делать маленькие города-резервации с остатками культуры: “Москва”, “Питер”, “Екатеринбург”. Блокада 2.0.

Создатели ставшего культовым сериала “Ходячие мертвецы”, прячущие Рика и его отряд то в опустевшей федеральной тюрьме, то за огромным забором Александрии, не скрывают источников своего вдохновения.

Таким эти “новые романисты” видят наше с вами общее будущее – мол, мы, конечно, говорим о зомби-апокалипсисе, но все же понимают, о каких “зомби” идет речь…

В общем, приглядитесь ещё раз повнимательнее к палестинским поселениям – мы с вами скоро будем жить в таких же. Наверное, можно даже успеть психологически подготовиться», – конец цитаты.

Всё это я написал в «Снобе» ещё до того, как Трамп пообещал построить стену на границе с Мексикой (таким образом, на карте уже возник «предсказанный» мною – Североамериканский – цивилизационный анклав), и до того, например, как англичане объявили о том, что они будут строить стену в Кале, защищая Евротоннель от мигрантов, пытающихся попасть в Великобританию.

Впрочем, ничего хитрого в этом предсказании, конечно, нет: нарастающий изоляционизм – это вообще вещь вполне естественная в сложившейся ситуации (возьмите тот же Brexit, который вскоре после написания тех строк тоже случился). Всякое смешивание, приводящее изначально к гомогенизации структуры разной плотности, неизбежно заканчивается их разделением по слоям.

С другой стороны, это, конечно, самый глупейший из возможных сценариев, что делает его вроде бы и самым маловероятным (хотя по нынешним временам уже и не поймёшь)…

Мне он может прийти в голову лишь в качестве шутки, иллюстрирующей ту самую потребность по разделению-размежеванию, а семидесятилетнему Трампу, насколько я могу судить, – потому, что он совершенно не понимает, куда всё движется. Тотальный блок-чейн случится раньше, чем достроится его «Великая американская стена».

Честно говоря, всё это я написал тогда в шутку, чтобы хоть как-то отделить происходящее безобразие от того главного, что я считаю действительно важным. А важным я считаю, конечно, Четвёртую мировую войну, потому что там на кону стоит мой вид, а я, как человек с естественнонаучным, медицинским образованием, просто не могу это игнорировать.

То же, в чём на других уровнях своей организации упражняется наша с вами цивилизация, кажется мне достаточно глупым – имитация политики, тотальная псевдоэкономика, фантасмагоричная геополитика, межцерковное сутяжничество, идиотничающая политкорректность…

Всё это большой бутафорский иллюзион, порождаемый бесчисленными объяснительными моделями мудрецов из старой индийской притчи про слона – политологами, экономистами, социологами, футурологами и прочими гуманитариями, абсолютно не интересующимися человеческой природой как таковой.

Правда в том, что за каждой из этих «сфер» – внутренней и внешней политики, экономики, религиозных чувств и производства идеологий – стоят конкретные мальчики, которые играют во вполне конкретные мальчишеские игры.

Так случилось, что они, в силу своей неумной «пассионарности»[45], забрались туда, куда они забрались, – то есть очень высоко. А там, в этой стратосфере, действуют свои правила: во-первых, вход рубль, выход – два, во-вторых, социальная психология ситуации с максимальными ставками.

Поведение всякого человека, как мы доподлинно теперь знаем, определяется ситуацией, а ситуация у этих «мальчиков» – врагу не пожелаешь! Такого уровня социального давления, который они испытывают на себе, больше нигде нет.

Реальность там такова, что отступить, не проиграв, в этой стратосфере нельзя никак. Ну и воюют на своих территориях и фронтах друг с другом, нам же рассказывают про «политику», «экономику», «геополитические интересы», «религию», «права человека» и т. д., при этом сами, конечно, ни во что из этого не верят.

Так что это и правда достаточно скучно, плюс старо как мир, точнее – как человек. Стоит вам воспользоваться знаниями социальной психологии, оказаться внутри этих игр, как всё быстро встаёт на свои места – ничего нового, просто чуть другой антураж, нежели в обычных социальных песочницах, ну и огромные ставки, разумеется. В остальном – всё та же социальная зоология.

Короче говоря, поначалу я от этих тем постарался и вовсе как-то отбрыкнуться, чтобы это не мешало думать о главной, на мой взгляд, проблеме. Но чем дальше я погружался в неё и интересующие меня аспекты Четвёртой мировой войны, тем больше я был вынужден обращать внимания на сценарии, по которым уже развивается Третья…

Всё дело в технологиях, которые, как мне видится, создают всё новые и новые линии разлома в нашем и так-то весьма нестабильном мире.

Если мы говорим о войне, то надо понимать, кто и с кем воюет. За что все и всегда воюют – это понятно: власть, деньги, ресурсы (в любой последовательности), а вот игроки могут меняться.

И сейчас именно тот случай: прежние игроки – старые политические элиты, – вынужденные реагировать на технологический прогресс, буквально «переобуваются в воздухе» и меняются до неузнаваемости, а новые игроки и становятся-то игроками именно благодаря своей причастности к технологиям (их в эту стратосферу буквально катапультировало из их легендарных гаражей).

Итак, для начала определим три главных точки напряжения.

• Старая, уже уходящая со сцены политическая элита на последнем витке своего существования получила вдруг второе дыхание в виде новых технологий – кибератаки, влияние на общественные процессы, генетическое оружие, технологический терроризм и т. д., и т. п.

Причём оказалось, что подключение этих новых «боевых средств» сильно меняет геометрию линий этого традиционного вроде бы геополитического разлома – вот, например, два важных новых приобретения.

✓ Парарелигиозное противостояние «христианских» и «мусульманских» стран. Это вроде бы и не новость, но никогда ещё между ними не было такой диспропорции в качестве жизни, а главное – раньше одни про других толком ничего не знали.

Теперь же интернет доступен, а там всё показывают… И вот «третий мир» это смотрит, причём завороженно, завидует, по-своему, а потом идёт убивать. Всё логично.

✓ Паракультурное противостояние «Запада» и «Востока» – тоже вроде бы не новость. Но никогда ещё в руках прежних тоталитарных и автократических режимов не было такого инструмента влияния на массы, как сейчас.

Конечно, о возможности тотального контроля граждан со стороны государства говорили давно. Но вряд ли кто-то мог подумать, что нечто подобное реально может иметь место в таких масштабах, как это сейчас происходит в Китае (о чём я расскажу чуть позже).

По идее, это не может не привести к новому витку напряжения между государствами или культурами, сохраняющими кастовое устройство разных типов и мастей, и теми государствами или культурами, где соответствующий, используя понятие Пьера Бурдье, габитус уже давно выветрился.

• Во-вторых, неожиданно схлестнулось всё «старое» со всем «новым». Благодаря технологиям человечество стремительно переезжает из реального мира в мир виртуальный (помните эту Курцвейловскую децентрализацию всего и вся?). И прежние хозяева жизни начинают волноваться, а новые закономерно входят во вкус.

Озираясь, словно бы очнувшись от забытья, эти «новые» начинают понимать, что они больше совсем не виртуальны, как раньше, а как раз реальнее реальных:

✓ их социально-политическое влияние огромно – вплоть до смещения политических режимов во время твиттер-революций;

✓ их экономическая мощь не знает пределов – они столпы новой экономической модели (не имеющей, правда, ничего общего с экономикой как таковой – это новая экономика, экономика влияния, а не денег);

✓ их технологическое преимущество распространяется на все сферы, меняя их до неузнаваемости, – скоро эти «новые» уничтожат Её Величество Сырьевую Экономику, а медицину преобразуют так, что она станет реальным Клондайком и ключом от рая Вечной Жизни;

✓ наконец, они – это новая инфраструктура старой жизни, её кровеносная, эндокринная и иммунная системы (последствия цифровизации производств и государственного управления переоценить трудно).


На этом фоне прежний король начинает выглядеть, мягко говоря, слегка голым и сильно фриковатым. Смеха ради попробуйте мысленно представить себе, как выглядит в целом нынешний мировой политический бомонд. Весьма удручающее, надо признать, зрелище.

При этом «новые» словно бы издеваются над ними в каком-то своём собственном пародийном шоу: Facebook всё больше похож на межконтинентальное государство, Apple прикидывается Церковью, Google – словно прежняя Британская империя, заставившая полмира говорить на своём языке.

И это только представители самого первого эшелона, разворачивающегося на наших глазах пародийного шоу. У «старых» буквально зубы от этого сводит, а новые начинают огрызаться и зубы как раз показывают весьма недвусмысленно.

• В-третьих, вся эта публика вместе взятая: «старые» и «новые» (в каком-то смысле, «новые старые») – элита, с одной стороны, и своего рода «пролетарий», даже можно сказать «всемирный интернационал» – с другой. Есть в этом противостоянии что-то марксовское (но точно не марксистское).

Это пиратствующая, а потому предельно несистемная оппозиция: сила вроде бы и противонаправленная, но играющая по каким-то совершенно своим правилам – так, словно бы в другом измерении.

Здесь изобретают свои валюты, оставляют в программируемых продуктах больших компаний уязвимости, пиратствуют на виртуальных морях… Короче говоря, «пассионарии», так сказать, новейшего разлива – можно сказать, смесь идеологического Маркса и беспринципного Джека Воробья[46].

Все эти кластеры акторов – «Старые», «Новые» и «Пираты» – сами по себе неоднородны, не являются единой силой, воюют-воюют со всеми на своих собственных фронтах, и в каждом из этих миров все сходят с ума, но каждый в своей логике.

Поэтому любая попытка классификации этих игроков на какие-то отдельные группы заведомо неверна – в особенности из-за того, что их всех объединяют те самые технологии, но как бы на разных уровнях организации.


Эта система и протекающие в ней процессы не предполагают линейного описания. Хотелось бы сделать из них что-нибудь в 3D, а лучше даже в 4 или 5D, и чтобы разрешение сразу было 12К. Но, к сожалению, это пока лишь мечты, и нам придётся максимально упростить этот наш сложный интеллектуальный объект.

Поэтому посмотрим на это дело в такой последовательности:

• «СТАРЫЕ»: государственные машины, готовящиеся к полной цифрофизации своих граждан, с одной стороны, и к кибервойне с прочими такими машинами, с другой.

• «НОВЫЕ»: транснациональные корпорации в сфере IT, интернета и новых технологий (включая биотехнологии, конечно), стремящиеся к максимальной тотальной монополизации.

• «ПИРАТЫ»: массовые «партизанские отряды» – хакеров, криптовалютчиков, шифропанков, бойцов теневого интернета и т. д., и т. п., полностью лишённые какой-либо социальной ответственности (по крайней мере, в традиционном её понимании).

Понятно, что каждая из этих групп действует в собственных интересах, но участвуют они в одной большой Третьей мировой войне. Вполне возможно, что если они поднапрягутся, то до Четвёртой дело может и не дойти…

И да, конечно, будущее предсказать невозможно – оно предсказуемо полно сюрпризов. Всё, что нам остаётся, – это лишь наблюдать за развитием обозначившихся закономерностей и следить за активностью главных действующих лиц этой большой и, прямо скажу, слегка пугающей ролевой игры.

ПАРАЛЛЕЛЬНЫЕ ПРОЦЕССЫ

Ещё об одном сценарии скорого кризиса можно (и, наверное, даже нужно) рассказывать долго и сложно, но я проявлю сострадание…

Ещё со школьной скамьи я наивно полагал, что «кванты» – это неделимая порция энергии. Но на Уолл-стрит, как выясняется, своё понимание физики: там «квантами» называют специалистов по финансовой математике – тех самых, что уже оставили без работы и выкинули на улицу прежних, так хорошо известных нам по кино и новостным кадрам брокеров. Биржевые залы стремительно пустеют – на смену людям приходят математические алгоритмы.

Если верить гарвардскому учёному и бизнес-ангелу Александру Уисснеру-Гроссу, те средства, которые банки и хедж-фонды затрачивают на создание искусственного интеллекта, уже сейчас превышают совокупные затраты IT-компаний на те же цели.

И удивляться тут нечему: деньги должны делать деньги, и если нужно потратить деньги на то, чтобы делать деньги, за деньгами, понятное дело, дело не станет. Некоторые из существующих алгоритмов уже сейчас умеют общаться друг с другом и осуществляют сделки за считанные миллисекунды.

Ни один человек не способен составить им конкуренцию в этой – самой большой – финансовой игре. Такова новая реальность «системы высокочастотного трейдинга» (HFT).

О том, что это за монстр, мир узнал в 2010 году, когда какой-то (тогда ещё человек) трейдер умудрился одновременно выставить на продажу европейские фьючерсные контракты и инвестиционные фонды на сумму в 4,1 миллиарда долларов.

В результате его ошибки стоимость соответствующих контрактов по E-MiniS&P 500 упала на 4 % за 4 минуты. Алгоритмы HFT уловили падение и начали автоматическую распродажу, другие алгоритмы тут же начали покупку, сопровождавшуюся распродажей других ценных бумаг для получения средств на эти покупки.

Запустился чудовищный механизм цепной реакции, в результате которого за двадцать минут индекс Доу-Джонса упал на тысячу пунктов. Никто не успел понять, что происходит, вмешаться и остановить эту компьютерную панику.

По большому счёту, это, конечно, ерунда – кто-то потерял, кто-то нашёл. Всегда так бывает. Но в результате этой «ерунды» Греция оказалась на грани дефолта, подвергнув системному кризису всю европейскую экономику. И это был только первый случай подобной «паники» примитивных биржевых искусственных интеллектов – впоследствии аналогичные эпизоды повторялись неоднократно.

Понятно, почему банки и хедж-фонды не жалеют денег на «кванты». Непонятно, чем всё это закончится. Не случится ли так, что какой-то из биржевых игроков создаст искусственный интеллект, пусть и не Тьюринговский, но способный переиграть остальные алгоритмы на рынке, раньше других?

Так и случится – кто-то с неизбежностью будет первым. Но станет ли он победителем, когда его монстр искусственного интеллекта, вышедший на мировой финансовый рынок, обрушит всю систему, а вместе с ней и мировую экономику?

Алгоритму наплевать на греческие пенсии, да и вообще на всю реальную экономику. Если его цель – заработать, то никакого сострадания, а тем более «социальной ответственности», ожидать от него не приходится. Да, сработают какие-то системы защиты, остановка торгов и т. д. Но смогут ли они после этого возобновиться? И как всё это будет работать, если нет?

С учётом того, что на мировых биржах, в принципе, давно торгуют воздухом из гигантского мыльного пузыря, появление такого игрока грозит всей системе тотальным крахом. Случится та самая «скорость недоверия», о которой я уже рассказывал в книге «Интеллектуальный ресурс. Ядро экономики „Капитала 3.0”», а дальше… Новый сценарий – нет электричества, транспорта и денег.

Какая глупая-глупая смерть!

Бессилие и контроль

Массы никогда не восстают сами по себе и никогда не восстают только потому, что они угнетены.

ДЖОРДЖ ОРУЭЛЛ

По старинке государства, конечно, будут пытаться противостоять друг другу: Израиль – Палестине, Сербия – Косово, Россия – США, Греция – Турции, Пакистан – Индии, суннитские – шиитским и так далее по списку.


Это уже что-то вроде национальной забавы для них – дерёмся, потому что друг другу не нравимся и старые обиды помним.

Но реальное, хоть и не столь очевидное противостояние будет нарастать по двум другим векторам, а не между конкретными государствами:

• мир бедных и мир богатых;

• мир автократический и мир демократический.

Используемые формулировки, конечно, так себе и очень условны. Но что в такой ситуации поделаешь? Приходится использовать подобные клише. И вот что при таком взгляде на положение вещей получается…

Когда мелкий хищник видит крупного, сочного, но обессилившего от старости и умирающего зверя, как он может отказать себе в удовольствии приблизить неизбежную трапезу?.. А «богатый» мир, под которым здесь понимаются прежде всего США и Европейский союз (хотя, конечно, можно брать и шире), – это, безусловно, лакомый кусок для мира «бедного».

Во-первых, «цивилизованные» государства просто не могут сопротивляться агрессивным точечным, как в случае единичных терактов, атакам.

Военной мощи, конечно, хватит, чтобы ковровыми бомбардировками стереть с лица земли условный Афганистан после того, как какой-нибудь выходец из этой страны неловко пырнёт ножом полицейского в Лондоне.

Но как-то неудобно, согласитесь. Там всё-таки дети, женщины, старики… И как же ценности общечеловеческие, персональная ответственность человека, а не его народа т. д.?

Во-вторых, «богатый мир» поражён демографическим недугом – он уже старый, а будет ещё более старым, детей – полторы штуки на семью, а то и меньше.

У «бедного мира» с этим проблем нет – детей навалом, их можно даже использовать как расходный материал. Вдруг, например, получится ребёночка отправить через Средиземное море лодочкой в жирную Европу, а он там, глядишь, и пристроится. Потом остальные за ним подтянутся – и заживём! Как план? Ну, может, конечно, с первого раза не получится… С другой стороны, запасные дети есть, ещё нарожаем.

И что прикажете западным правительствам в такой ситуации делать? Надо же с этим что-то делать! Ну, про стены мы уже поняли. Но как это своим гражданам, пропитанным идеологией прав человека, объяснить?

Да, случилось то, к чему прежние элиты готовы не были: традиционные СМИ больше не создают единой платформы для общественной дискуссии, не формируют информационную повестку.

Раньше-то легко можно было развернуть агитационную пропаганду в рамках какого-нибудь маккартизма и внушить своим гражданам страх перед коммунистической угрозой, Советским Союзом и прочей «красной заразой».

Но интернет, пришедший на смену прежним СМИ, работает принципиально иначе – это буквально гомон голосов. Как им управлять?..

Единственный способ – зафиксировать каждого в сети, привязать, так сказать, к его аккаунту. Уже сейчас, если вы хотите получить визу на въезд в США, у вас попросят доступ к вашему профилю в социальных сетях. Скоро этот профиль и вовсе станет нашим новым идентификационным номером, «личным делом». Но этого мало.

Да, вы что-то сами рассказываете о себе в сети, но вы ещё и что-то делаете в ней – заходите на какие-то сайты, с кем-то переписываетесь в мессенджерах и т. д. – и это куда интереснее! И именно в этой плоскости развернётся сейчас война между государственными машинами и транснациональными корпорациями, контролирующими интернет.

Уже в 1991 году (то есть ещё даже до введения WWW) небезызвестный Джо Байден предложил в Сенате законопроект, согласно которому поставщики электронных средств связи должны передавать правительству личные данные пользователей.

Так что, поверьте, проблемы Павла Дурова с его Telegram в Иране и России – это только верхушка айсберга, готового вот-вот перевернуться вверх тормашками. В действительности это касается всех «новеньких» – Цукербергов, Бринов, Гейтсов, Куков, et cetera.

Они считают эти данные своим ресурсом (и активно им пользуются, надо признать), но «старые» элиты совершенно не готовы к такому повороту дел. Когда вскрылась эта петрушка с Cambridge Analytica, несчастного Цукерберга затаскали по слушаниям: его вызвали и в американский Сенат, и в британский Парламент.

Он сначала отказывался – конечно, а чего ради? Мало ли что там эти пенсионеры хотят? Но в Сенат всё-таки прийти пришлось – краснеть, запинаться, мямлить и извиняться, и это только начало. «Старики» так просто не сдаются! Подрючат ещё молодёжь!

ДЕНЬГИ ИЛИ ВЛИЯНИЕ?

Разумеется, глава Facebook Марк Цукерберг не единственный, кого гоняют как мальчишку на слушания в Сенат. Там побывали руководители уже практических всех гигантов – Apple, Google и т. д. Предлог для всех, как правило, тот же самый – персональные данные! Но именно предлог…

Посмотрите, что происходит в Европе. Для ЕС вся эта «новая» братия – такая же проблема – как и для США, но компании-то американские – как их приструнишь? Берёт Цукерберг и посылает в известном направлении британский Парламент – мол, не приду. И что ты с ним будешь делать?

Но ЕС пока ещё контролирует собственные территории, поэтому поступает иначе – обкладывает гигантов оброком. Очень рационально так, по-немецки.

Летом 2018 года Google побил свой собственный антирекорд – как и прошлый год, его снова оштрафовали за нарушение антимонопольного законодательства. Только теперь компания должна заплатить Евросоюзу не 2,4 миллиарда долларов, как в 2017 году, а 5 миллиардов (это, на секундочку, ежегодный взнос Нидерландов в общую казну ЕС).

Для Google тоже ощутимая сумма – её прибыль в третьем квартале снизится больше чем вдвое. Но что делать? Дань, оброк – надо платить, ведь повод всё равно найдут.

В 2017-м это был штраф за продвижение своего сервиса покупок. Сейчас, в 2018-м, Google внезапно сообщили, что он не конкурент Apple (вот в компании, я думаю, удивились!), а следовательно – монополист. На будущий год, скорее всего, предъявят за рекламу, которая генерит более 85 % прибыли Google и уж всяко «нарушает антимонопольное законодательство». Ждите повестки, окей-гугл!

В настоящий момент операционная система Android установлена на 80 % устройств по всему миру, просто потому, что они дешевле, чем устройства Apple. Но штрафует за это «нарушение антимонопольного законодательства» только Европа, хотя очевидно, что в Европе соотношение устройств Apple к Android несколько, так скажем, больше, чем в каком-нибудь Сомали.

Это просто оброк, которым Европа пока ещё может обложить Google за пользование своими людьми, а Сомали – нет. В общем, европейцы очень в своём духе. A Google платит и платить будет. Конечно. Он ведь рассчитывает на скорый реванш…

Надо сказать, что сенатские слушания, на которых выступил Марк Цукерберг, стали позором для самих сенаторов – большей дремучести в области новых технологий продемонстрировать общественности было нельзя…

Всё это, конечно, авторитета «старикам» не прибавляет совершенно, тем более что решились они нападать на святое – без Facebook мира, как известно, больше нет. В общем, грубый репутационный проигрыш.

Но не надо думать, что в ФБР, ЦРУ и разных администрациях сидят такие же друзья Альцгеймера, как и товарищи кабинетами повыше. Нет, конечно. И реальная стратегия, разумеется, делается здесь, а тут уж от этой «свободы слова», «прав» и «поправок» все измучились страшно.

И что у нас есть для таких случаев? Правильно: «угроза национальной безопасности»! Чем вам не вариант развития событий?..

Причём «угрозы» эти растут как на дрожжах. Хорошее прикрытие, которым государство может легко маскировать и оправдывать своё желание перехватить контроль за гражданами.

Выглядеть может всё очень даже пристойно.

• Во-первых, у нас идет Третья мировая война (с террором), халифат-малифат не дремлет – поэтому государству надо за всеми следить, а все должны быть очень этому рады.

• Во-вторых, если кто не в курсе, по всему миру шалят хакеры и кибер-террористы, так что будьте любезны… Руки на стол! Всем стоять, бояться!

• В-третьих, намечается кибервойна, а это значит, что можно уже ссылаться на «законы военного времени». США не так давно кибер-воевали с Ираном, сейчас с Россией (и это взаимно). А Китай и вовсе висит мрачной тенью над этой схваткой, угрожая всему миру разом. Впрочем, там ведь ещё Израиль есть, Великобритания, страны Персидского залива, решившие технологический прорыв совершить, и далее по списку.

Разве не является всё это поводом поприжать свободолюбивых бизнесменов Силиконовой и прочих долин к государственному ногтю? Где явки и пароли? То бишь сервера, оптоволоконные трассы, данные о пользователях и их активности в Сети? Каковы уязвимости нулевого уровня у операционных систем и прочего ПО?

Правда в том, что мы не знаем и сотой доли того, что происходит сейчас под ковром, где эти бульдоги схватились не на жизнь, а на смерть.

Да, когда одни стены растут, другие с неизбежностью разрушаются. Это своего рода диалектика выживания. И первая жертва на этом алтаре самосохранения – нежно любимое нами privacy, идея неприкосновенности частной жизни. То, что было нажито непосильным трудом, столетиями этических борений, падет. Но оплакивать эту утрату уже будет некому.

Посмотрите на основные тренды Instagram’a, на всю эту эксгибиционирующую обнажёнку.

Тим Кук может сколько угодно рьяно защищать неприкосновенность наших iPhon’oB от зловещего ФБР, но пока идёт эта война амбиций «больших мальчиков», пользователи соцсетей рассекречиваются сами – добровольно и чистосердечно.

То, что человеческая масса тупеет, чувствуя абсолютную свою безопасность, это нормально и естественно. Privacy важно не когда человеку есть что скрывать, privacy важно, когда ты понимаешь, что есть люди, которые могут тобой манипулировать, зная о тебе всё.

И это действительное privacy уже нами утрачено, и мы согласились на это добровольно, купив iPhone, загрузив приложение Facebook, открыв браузер Google, отовариваясь в Amazon или оплатив подписку на какой-нибудь Netflix.

Теперь вопрос лишь в том, кто его заполучит и кто сможет таким образом манипулировать нами на следующем витке этого безумия – IT-гиганты или всё-таки государственные машины.

Когда-то нас пугали оруэлловским «Большим Братом», но сейчас он уже кажется даже по-своему милым. Ну правда, «зловещее, наблюдающее за нашими мыслями и чувствами Супер-Эго!» – кого этим теперь напугаешь?

Нет, не страшно. Дети нынешнего «Большого Брата» боятся не того, что о них что-то узнают, а того, что о них не узнают. Теперь представьте, что к этой раскрепощённости добавятся гигантские стены по периметру цивилизационных анклавов и перманентный страх террористической угрозы.

Поверьте, все сами и с готовностью сдадут явки и пароли. А несговорчивые… Несговорчивых просто выдворят за Стену – «по закону военного времени». Всякие же оппортунистические Telegram’bi в этом новом дивном мире просто запретят – в целях «цивилизационной безопасности».

БРИЛЛИАНТОВЫЙ ЩИТ

«Золотой Щит» – один из двенадцати национальных проектов Китайской Народной Республики, осуществляемых под руководством великой и могучей Коммунистической партии Китая. Нам он, конечно, лучше известен под неофициальным названием – «Великий китайский файрвол».

Впрочем, этому проекту уже двадцать лет, и за это время многое изменилось, а китайское руководство ушло далеко вперёд.

Корреспондент немецкой газеты Die Tageszeitung Феликс Ли внимательно изучил новую систему тотального контроля за гражданами КНР и рассказал о ней своим читателям. Система называется «Social Credit System» и будет введена в Китае повсеместно к 2020 году, а пока проходит лишь этап тестирования.

Резюме Феликса выглядит вполне однозначно: «То, что планирует внедрить китайское руководство, может стать самой масштабной программой по воспитанию собственного населения за всю историю существования человечества». Но судя по всему, китайцы своё новое чудо света не скрывают и даже им гордятся.

Как это работает? В целом, иногда поражаешься, насколько всё с новыми технологиями оказывается проще, чем мы думаем.

Представьте себе город, каждый квадратный метр которого просматривается видеокамерами (на секундочку – Пекин, если кому интересно, уже просматривается так весь), а теперь добавьте технологию распознавания лиц, разработанную китайской компанией Megvii (да, не только в Apple это умеют).

По подсчётам аналитической компании IHS Markit, на Китай приходится 46 % мирового рынка систем видеонаблюдения на 17,3 миллиарда долларов. В 2014 году уже было установлено 176 миллионов камер (в США, для сравнения, всего 50 млн), к 2020 году планируется установить ещё почти 500 миллионов, и это, очевидно, не предел[47].

Камеры отправляют данные всех, кого они видят, в специальные аналитические центры, там они обрабатываются, и на каждого гражданина Китая создаются профили. То есть там поимённо знают (или скоро будут знать) каждого подданного Поднебесной.

Впрочем, это далеко не все данные, которые попадают в индивидуальный профиль в рамках программы «Social Credit System». Анализируется, например, и то, что вы делаете, находясь на улице. Не перешли ли вы случайно дорогу на красный свет? Или, может быть, бросили мусор мимо урны? Или обошли кого-то в очереди?

Как обещают создатели системы, ни один проступок не будет пропущен. Наказывать сразу не будут, просто посчитают…

Теперь добавьте сюда тот самый файрвол – все пользователи там тоже идентифицированы, а действия каждого регистрируются и отправляются в его профиль.

«Тот, кто заказывает в интернете здоровую еду для малыша, получает “плюсы”. Тот, кто смотрит порно или проводит много времени за компьютерными играми, получает негативные оценки», – как-то очень буднично сообщает в своей статье Феликс Ли.

Зачем нужны эти оценки? Вот это, наверное, самое интересное и китайское…

В десятке регионов Китая, где платформа уже запущена в тестовом режиме, прошла апробацию и так называемая «система оценок».

Лица, набравшие 1300 баллов, получают максимальный рейтинг в системе – это ААА. Если им удастся удержать его какое-то время, у них появляется право на банковский кредит на выгодных условиях или, например, улучшенный вариант медицинской страховки. Высокий рейтинг родителей может помочь ребёнку получить место в университете.

Но если вы набираете меньше тысячи баллов, то ситуация начинает ухудшаться: ваша очередь за кредитом удлиняется, медицинская страховка становится дороже и т. д. Тот, кто не сможет набрать более 600 баллов, попадёт в самую низшую категорию D, – а это значит, что теперь ему грозит увольнение с работы.

Причём, как вы понимаете, никто толком не знает (и, видимо, никогда знать не будет), чем руководствуется эта система при начислении своих магических баллов. И в этом самое замечательное, с точки зрения поведенческой психологии. Если ты не знаешь, за что именно тебя подкрепляют или наказывают, ты инстинктивно стараешься быть идеальным во всём. А вдруг то не так, а вдруг это не эдак – нет, лучше перестрахуюсь!

Вы спросите: а кто всё это безобразие регулирует – кредиты, страховки, поступление детей в вуз, увольнение? Странно, правда? Да. И тут, на мой взгляд, начинается самое интересное…

Все вопросы, связанные с государством, надо полагать, так и остаются в ведении соответствующих служб. Но данные, собранные на вас (если вы гражданин КНР, про других – не знаю), предоставляются охранным предприятиям, банкам, другим коммерческим организациям.

В свою очередь, Alibaba (китайский Amazon-Озон) пользуется этими услугами и уже собрала данные о восьмистах миллионах своих клиентов. Следующий этап будет выглядеть таким образом: вы заходите в магазин, а следящие за вами камеры фиксируют информацию о том, к каким полкам вы подходите и какие товары смотрите. Далее эта информация отправляется в ваш профиль и используется для того, чтобы сделать вам более точечные предложения, когда вы будете совершать покупки на Alibaba онлайн.

Когда глава маркетинга Alibaba обнародовал эти смелые планы компании, Феликс Ли поинтересовался у него, как Alibaba планирует сохранять конфиденциальность этих данных. Топ-менеджер не понял вопроса.

Но оставим в стороне коммерческие вопросы, посмотрим на это дело со стороны, так сказать, геополитической. Весь Китай превращается в один большой и самый настоящий, централизованный муравейник.

Особенность этой централизации, правда, не в том, что гражданами кто-то теперь директивно управляет из общего центра (как мы знаем, эта схема не очень работает и частенько даёт сбои). Нет, наоборот – ими можно теперь совсем не управлять, они становятся самоуправляемыми… в организованном для них пространстве искусственного интеллекта.

Теоретически, если у них всё получится в рамках этого всеобщего перевоспитания (а китайцы, надо признать, умеют удивлять), мы скоро увидим режим пострашнее Северной Кореи, только численностью он будет в миллиард с гаком. Остальной мир, согласитесь, неизбежно почувствует некое новое измерение по линии разлома «Востока» и «Запада».

Если же учесть тот факт, что Китай всё-таки и вопреки давней традиции начал выходить за пределы своих границ – вот уже всю Африку практически под себя подмял, – то будущее приобретает ещё более «радужные» перспективы.

Мы всё ещё привыкли воспринимать Китай как страну третьего мира с дешевой рабочей силой – что про них думать вообще? Но стереотипы вредны. Китайская экономика находится на первом месте по темпам роста автоматизации производства.

К этому имеет смысл добавить, что к 2030 году Китай планирует стать мировым центром искусственного интеллекта объёмом рынка 1 трлн юаней (148 миллиардов долларов) и обойти по этому показателю США. Правительство КНР уже утвердило план из трёх этапов по развитию и внедрению соответствующих технологий.

Мне тут вспоминается шутка, неполиткорретно бродящая на западном побережье Штатов: «Раньше китайские студенты приезжали в американские университеты, чтобы учиться у американцев. Сейчас китайские студенты приезжают в американские университеты, чтобы учиться у китайцев».

Цифровая хунта

Интернет может быть опасен, и мы не можем рассчитывать на то, что Google, Apple, Facebook и Amazon остановят это.

ТИМ БЕРНЕРС-ЛИ

Сэр Тим Бернерс-Ли известен всему миру как создатель интернета.

С 1984 года он работал в ЦЕРНЕ над проектом по созданию распределённых систем для сбора научных данных. Дело было хлопотное и небыстрое. В 1989 году ему в голову пришла блестящая идея, как всё это можно было бы лучшим образом обустроить…

Он сформулировал своё видение в докладной записке «Разработка системы управления информацией» на имя своего босса – Майкла Сендалла, а 13 марта на этой бумаге появилась его резолюция: «Расплывчато, но интересно». Так, собственно, и возник интернет.

Впрочем, сейчас сэр Бернерс-Ли всё больше сокрушается по поводу дальнейшей судьбы своего изобретения. Его пугает невероятный удельный вес «нескольких доминирующих технических платформ», сосредоточенных в руках узкого круга лиц. И лица эти всем нам с вами хорошо известны: их ещё называют «большой четвёркой» – Google, Apple, Facebook, Amazon[48].

«Эти доминирующие платформы способны создавать барьеры для конкурентов, – написал Бернерс-Ли в The Guardian. – Они приобретают лучшие стартапы, покупают новые инновации и нанимают лучших специалистов в отрасли. Добавьте к этому конкурентное преимущество, которое им дают пользовательские данные, – и мы можем ожидать, что следующие 20 лет будут намного менее инновационными, чем последние».

В заключение своей пылкой речи сэр Бернерс-Ли даже призывает всех нас к активному «социальному контролю», что выглядит, по-своему, даже мило.

Я прямо вижу эту картину: люди в вещах, купленных на Amazon, выходят из своих профилей в Facebook, открытых на телефоне Apple, чтобы найти по Google Maps, куда бы им идти ответственно проконтролировать… Только вот что?

Ещё, кстати, тот же Бернерс-Ли предлагает создать новую интернет-сеть поверх старой – семантическую (не WWW, a GGG), которая будет с нами разговаривать на человеческом языке и также понимать наши тексты. В общем, старость не радость. И понятно, почему те, на кого он так осерчал, с некоторой неловкостью, так сказать, покручивают пальцем у виска.

В отличие от Бернерса-Ли, у них-то всё в порядке, им совершенно не нужна никакая новая сложносочинённая сеть, когда есть старая – существующая – и она прекрасно справляется с теми задачами, которые перед ней поставлены. А задачи это простые – всё виртуализировать и оставить у себя, у тех самых «доминирующих платформ», у того самого Big Tech.

Впрочем, если мы внимательно приглядимся, то и по сути, и по посылу «семантическая сеть» Тима Бернерса-Ли чем-то очень напоминает «открытый искусственный интеллект» Илона Маска, которого тоже, как вы могли заметить, нет в указанном списке «влияния».

Эти двое, если, конечно, им верить, боятся примерно того же, чего боятся Джулиан Ассанж и Эдвард Сноуден: контроля со стороны «Большого Брата». Только вот если Ассанж со Сноуденом уверены, что контролировать нас будет государство, то Бернерс-Ли и Маск подозревают, что скоро контролировать нас начнёт сама сеть.

Илон Маск не политик и не общественный деятель, он технолог и бизнесмен. Как технолог, он прекрасно понимает, что будущее за сверхумным искусственным интеллектом, а как бизнесмен, знает, что раскидистая клюква растёт там, где денег бесконечное количество, а это, в частности, интернет-бизнес и всё тот же самый пресловутый госзаказ.

Ассанжу, как известно, влетело за то, что он придал огласке документы Пентагона, которые тот вряд ли хотел рассекречивать. А вот за что пострадал Сноуден?

Товарищ Эдвард рассказал мировой общественности про секретную программу Агентства национальной безопасности США под названием PRISM, в рамках которой АНБ получало негласный доступ к личным данным пользователей Microsoft, Yahoo, Google, Facebook, Skype, YouTube, Apple и др.

На самом деле речь шла о совершенно феноменальном сговоре между лидерами спецслужб и первыми лицами Силиконовой долины: вы ведёте для нас слежку, а мы вас не трогаем.

Сидение Сноудена в московском аэропорту увенчалось успехом: интернет-гиганты поспешили дистанцироваться от АНБ и демонстративно ввели дополнительные системы шифрования; компания Acxiom, которая почти официально создавала для АНБ «личные дела» американцев, исследуя их интернет-трафик, была заклеймена позором, а Барак Обама призвал правительство «взять на себя инициативу» и «покончить с цифровой слежкой».

Всё это выглядит очень круто – нашу личную жизнь решили оставить нам, и мы вроде как возрадовались. Никто, кажется, не понял, какая чудовищная мина залегла в тот самый момент под здание нашей с вами цивилизации…

Когда у Эрика Шмидта – прежнего главного исполнительного директора Google – спросили, не планирует ли Google превратиться в государство и вести себя на манер правительства, он ответил: «Нет, мы не стремимся. У государства слишком много сложных проблем».

И значит это буквально следующее: «Да, мы будем государством, только вот за пособиями, образованием, правопорядком, сбором налогов и прочей ерундой – это не к нам, а к тем, кто почему-то продолжает себя считать государствами».

РОБОТЫ И БЕЗРАБОТНЫЕ

Если вы послушаете футурологов-экономистов, которых сейчас предостаточно, они изложат вам две принципиально разные версии будущих событий и, соответственно, будущего нашей цивилизации.

И те и другие будут говорить об автоматизации производства, с какой невероятной скоростью она надвигается, что в зазоре пяти лет половина населения лишится работы, а потом ещё представят вам подробные списки профессий на выбывание.

Вот кратенько: бухгалтер, менеджер по кредитам, статистик, логист, копирайтер, библиотекарь, офис-менеджер, турагент, юрисконсульт, нотариус, продавец, кассир, страховой агент, банковский операционист, риелтор, экскурсовод, переводчик, журналист, оператор государственных услуг, системный администратор, диспетчер, штурман, водитель и т. д., и т. п.

Все эти профессии будут сметены программным обеспечением, блокчейном, искусственным интеллектом, автопилотами и т. д., и т. п. Плюс добавьте сюда рабочих и крестьян – от каких-нибудь бурильщиков и горняков, заканчивая агрономами и животноводами. В середине, как вы понимаете, все слесари, столяры, сварщики, упаковщицы, швеи-мотористки, прядильщицы-мотальщицы и т. д., и т. п. Тут всех заменят (и в целом уже очень неплохо заменяют) автоматизированное производство и 3D-печать.

И тут уже начинаются две принципиально разные позиции.

Первая заключается в том, что эти люди реально окажутся безработными, никому не нужными, и буквально ребром встанет вопрос о так называемом «безусловном базовом доходе»: когда каждый член некой социальной общности, – например, страны – регулярно, вне зависимости от того, работает он или нет, получает от государства (или какого-то другого подобного института) определённую сумму денег, которая как минимум является достаточной для выживания в этом обществе.

Подобный эксперимент проводится сейчас в Финляндии на добровольцах. Там они получают около шестисот евро в месяц, а дальше – хочешь работай, не хочешь – не работай, всё равно тебе эти деньги платят. Но, в целом, никого эта идея сильно не радует. Швейцария провела референдум, где эта норма была отклонена, Канада планирует поэкспериментировать. В общем, подготовка идёт, но состояние нервное и реакция на данные инициативы в обществе неоднозначная, в значительной степени из-за вопросов миграции (и тут снова невольно вспоминается вопрос о стенах по периметру).

Вторая позиция формулируется просто – мол, ничего страшного. Во-первых, появится много новых профессий – аппараты надо обслуживать, их надо контролировать и настраивать. Во-вторых, люди любят общаться с людьми, поэтому сфера услуг сохранится, а в США на неё, к примеру, приходится 85 % рабочих мест.

Так что, если верить этой экономической футурологии, то люди найдут себе занятость, появятся какие-то новые профессии. В общем, всё наладится, главное – не переживать – нас ждёт изобилие, и к этому надо готовиться. Честно говоря, звучит не очень убедительно.

Вот взять хотя бы тезис про любовь к общению с людьми. Это о чём речь? По сравнению с людьми боты будут всегда обходительны, внимательны и терпеливы. Почему бы не сдать, например, анализы боту, а не уставшей, нервной медсестре?

Но это ещё полбеды. Дело в другом: потеря рабочих мест – это же не просто проблема конкретных людей, это ещё и сугубо экономическая проблема. Безработный человек – это плохой потребитель, а экономика, как известно, без потребительского спроса не живёт.

Если же безработными в горизонте пяти лет окажется половина работающих людей, то промышленность, не успев автоматизироваться и подешеветь до абсолютного минимума (на что все рассчитывают), уйдёт в пике.

Если государство решит дотировать население – в любой форме (базового дохода, пособий и т. д.), то где брать средства в терпящей крах экономике? Или у компаний, или печатать. Но и то, и другое – тоже путь к катастрофе.

В общем, все эти рассуждения с очевидно наигранным оптимизмом кажутся весьма и весьма странными. Добавьте сюда экономическую правду жизни, а именно тот факт, что размер совокупного мирового долга составляет сейчас 217 триллионов долларов, то есть 327 % ВВП всей Земли, что является и астрономической, и рекордной суммой одновременно.

Наверстать такой фантастический дефицит, который совместными усилиями создали государства, корпорации и домохозяйства, – это за гранью фантастики. Как с этим быть?

Массовая безработица и лишь усиливающийся экономический кризис… Нет, я думаю, прав Эрик Шмидт: быть государством в будущем мире просто глупо. И да, у компаний «большой четвёрки» нет таких амбиций. Разбирайтесь, друзья, сами как-нибудь. Тем более что без нас вам всё равно не обойтись.

Google, Apple, Facebookyace ощущают своё мировое господство, но раньше им приходилось мириться с государственным контролем (хотя бы и со стороны одних США), а теперь, после выходки Сноудена, они вполне могут сказать тем же США: извините, мы должны быть полностью независимы.

В шахматах есть такое понятие – цугцванг (это когда любой следующий ход игрока только ухудшает его позицию). Так вот, действия Сноудена продемонстрировали, что все мы находимся в том самом цифровом цугцванге.

Вся информация, которую мы сами о себе оставляем в Сети, – это товар. Интернет-гиганты собирают её, перерабатывают и продают. Они делали это, делают и будут делать – такова суть их бизнеса.

Только раньше им приходилось делиться этой информацией с правительствами, а теперь у них есть легальное основание для отказа – они ведь как бы охраняют наши персональные данные. И ключевое слово здесь – «как бы», потому что они её не охраняют, они ею пользуются. И теперь будут пользоваться «в одно лицо», так сказать.

Всё до банальности просто: если даже не сверхумный, а хоть сколько-то сообразительный искусственный интеллект первым окажется в руках Google или Facebook, то все наши с вами персональные данные (которые у этих компаний уже есть и продолжают расти как на дрожжах) превратятся в идеальный способ управления нашим поведением.

Социолог Зейнеп Тюфекчи показывает, что социальные сети уже сейчас обладают способностью «формировать нашу личность и наши слабые места», «понуждают и формируют наши мысли, желания и мечты». Нужно лишь слегка усиленный движок искусственного интеллекта – и предсказание Олдоса Хаксли о производстве «нужных обществу людей» станет явью.

Уже сейчас так называемой «когнитивной архитектурой» обладают такие компании, как AGIRI, Cycorp, Google, IBM, Novamente, Numenta, Self-Aware Systems, Vicarious Systems, и список можно продолжать.

Плюс вездесущий государственный DARPA – «Агентство по перспективным оборонным научно-исследовательским разработкам», – которому мы уже обязаны зарождению тысяч цифровых технологий, включая, например, интернет и крошку Siri.

Да, это ещё не тот искусственный интеллект, который способен справиться с «тестом Тьюринга», но, может быть, и нет в этом особой нужды? Разве не тот же эффект будет достигнут, если искусственный интеллект, так и не став полноценной личностью, уничтожит наши?

Выдающийся учёный, профессор социологии Нью-Йоркского университета и Лондонской школы экономики Ричард Сеннет говорит: «Пришло время разбить Google на куски», а для этого «нам нужны отважные политики». И всё вроде бы логично – необходимо разрушить формирующиеся гигантские интернет-монополии до того, как они начали формировать нас.

Но если эти монополии смогут в скором времени управлять нашим поведением (по факту, это и так уже происходит), то каким, как вы думаете, будет исход мировой войны этих «отважных политиков» с этими новыми виртуальными правителями?

Или кто-то полагает, что Брин или Цукерберг, предусмотрительно залепивший камеру на своём личном ноуте светонепроницаемым скотчем[49], отдадут власть просто так, без боя, за здорово живёшь? Отдадут и ещё раскланяются? Побойтесь бога! Только не эти парни. Точно нет.

Интернет-бизнес, IT-бизнес, бизнес новых технологий – это, конечно, не бизнес. Это новые хозяева планеты. Они взяли под контроль нас с вами – мирового потребителя и мировой электорат (не нужно думать, что мы интересуем кого-то в каком-то другом качестве).

Они смотрят на государственных чиновников – от Президента до последнего руководителя какой-нибудь захудалой контрольной службы – как на безнадёжно архаичных, интеллектуально отсталых и при этом предельно надоедливых мух.

– Кто все эти люди?! – недоумённо спрашивают себя владельцы миллиардных армий пользователей. – Кем они себя воображают?!

Бизнес, вообще говоря, ненавидит любые границы, а эти парни и вовсе плевать на них хотели. Зачем им все эти бесчисленные местечковые инструкции и запреты, бесконечные претензии по налогам и штрафы за монополизм? Что это вообще всё такое?! Да, они мирятся пока со старым миропорядком. Но это лишь вопрос времени.

Пара-тройка новых технологических прорывов (таких как создание, например, квантового компьютера, который обрушит действующие принципы шифрования данных) – и ситуация изменится кардинально.

Дело за малым. Но ведь и сейчас уже никто не сможет отказаться от интернета и его сервисов. Сами государственные машины без этого работать не смогут. То есть интернет отключить нельзя, а если его нельзя отключить – у кого власть?

Пока со стороны этих новых транснациональных сверхдержав возможны мелкие уступки прежним государственным институтам, секретное сотрудничество с правительствами в рамках нарастающих кибервойн, игра в соблюдение правил и прочее «водное перемирие».

Но не надо думать, что это будет продолжаться вечно. Чего ради?

Вот как может выглядеть мир будущего после завершения Третьей мировой войны – всех со всеми – за власть над миром.

Представим себе возникновение какого-то – пусть и очень «глупого», не имеющего «личности» и «самосознания», но, правда, способного к систематизации различных технологических систем в единый организм – искусственного интеллекта.

Непосредственно перед тем, как вся технологическая инфраструктура нашей планеты будет этим искусственным интеллектом охвачена, лидеры цифровой индустрии, решив, наконец, договориться, насыпают в нейтральных водах Тихого океана большой остров и застраивают его под себя с максимальным комфортом.

В условный день «X» они переезжают на этот остров, а все жители планеты, привычно открыв по утру свои гаджеты, первым делом обнаруживают там видеообращение самопровозглашённого мирового правительства: мол, дорогие телезрители, хотим вас поздравить: с этого момента можете смело плевать на все свои никчёмные правительства, теперь миром управляем мы, целуем!

«Никчёмные правительства» тут же, понятное дело, хватаются за «красные кнопки», чтобы вдарить по этому острову и кучке обезумевших самозванцев! Конечно, у правительств и авианосцы есть мощные, и подводные лодки с ракетами на борту! Мол, не потерпим такого безобразия!

Но «красные кнопки» не отвечают, и, вообще, всё как-то странно работает. А тем, кто с первого раза не понял, что произошло, и продолжает бузить, приходит личное сообщение – сразу на все мессенджеры, почты, вместо запрошенных сайтов и даже при открытии телефонной книжки в том самом телефоне: «Сопротивление бесполезно. Будете плохо себя вести – что-нибудь вам сломаем и лечить не будем. С искренним уважением, Ваши Правители. Целуем нежно, в обе щёки! Не балуйтесь!»

Впрочем, про остров в нейтральных водах я загнул. Зачем им остров? Хотя… Его планы уже публиковали в сети – можете полюбопытствовать. Проект разработан основателем PayPal Питером Тилем и называется «Плавающий город».

Цель проекта, как заявляется, – «создание независимой нации, не привязанной к конкретной материковой территории и имеющей собственные законы».

Благодаря современным технологиям город будет полностью независим от любой внешней инфраструктуры, а пятидесятиметровая стена защитит его от океанских волн.

Проект будет реализован к… 2022 году.

АЛЬТЕРНАТИВНЫЙ СУИЦИД

Возможных сценариев доведения цивилизации до цугундера на самом деле великое множество, что обусловлено технологическим взрывом, который мы наблюдаем практических во всех областях научных знаний, причём в конкретно-практическом их применении.

Поэтому всё «богатство выбора» возможного футурологического безумия в рамках одной книги рассмотреть невозможно. Здесь я, например, практически не касаюсь нанотехнологий, генной инженерии и других интересных вопросов на стыке системной цифровизации и биологии. Но это создаёт огромное пространство для манёвра!

Вспоминаем, например, про обещанное Курцвейлом бессмертие для всех живущих… Это естественным образом приведёт, по причине отсутствия «естественной убыли» населения, к беспрецедентному росту его численности – и что с этим прикажете делать? Марс колонизировать? Серьёзно?..

Каждое научное открытие в той или иной области научных знаний рисует перед нами новые, часто завораживающие перспективы. Но эти «параллельные прямые» разных перспектив удивительным образом норовят пересечься в самом ближайшем будущем, причём под таким углом, что никому мало не покажется.

Стоит ли удивляться попытке представителей законодательной власти под предлогом какой-то выдуманной «этики» пресечь развитие технологий в том или ином направлении? Вот какую, например, «этику» нарушает клонирование человека?

Допустим, я хочу сделать свой клон – и что? Клон моего домашнего любимца – собаки какой-нибудь, это – пожалуйста! А клон меня самого (а я, может быть, свой собственный домашний любимец!) – это нет, извините. Почему? – у меня резонный вопрос. «Этика»!

На самом деле – никакая это не этика, а проблемы будущего, с которыми никто не понимает, как быть. При этом всякое большое научное открытие, как мы знаем по опыту с атомной энергией, может быть использовано как во благо человечеству, так и во зло. По этой причине, если очередной ящик Пандоры вскрыт, его в покое уже не оставят.

Вот и американцы, например, якобы ограничивающие исследования в области клонирования и синтетической генетики, совершенно очевидно врут и ведут двойную игру.

Если верить Wikileaks, Хиллари Клинтон, ещё будучи госсекретарем, поручила своим посольствам за границей тайно собрать образцы ДНК всех глав государств и высокопоставленных чиновников ООН. Что за странный фетиш? – спросите вы.

Предполагается, что сделано это в рамках проекта по созданию индивидуального, то есть ориентированного на геном конкретных людей, биологического оружия. Теоретически это вполне возможно.

Сделать человека лучше и вправду сложно, но генетики новой волны уже вполне могут создать вирус, способный распознать и уничтожить индивидуальный ДНК-код какого-нибудь конкретного узурпатора. И тогда, реши Госдеп это оружие применить, страдания отравленного полонием-210 Литвиненко покажутся этому врагу Америки самым настоящим блаженством!

Да, можно сколь угодно долго над этой конспирологией потешаться, но правда в том, что вы, при всём желании, не сможете достать ДНК президента США. Где бы он ни оказался, за ним всюду следуют люди, которые изымают каждый предмет, к которому эта священная для США ДНК могла прилипнуть.

Посуда, из которой президент ел, стакан с водой, которым он воспользовался, его постельное бельё – всё это обрабатывается или просто уничтожается, чтобы враг не получил эту «главную тайну» США. Поверьте: скоро президенты перестанут пожимать избирателям руки… Спецслужбы США и ФСО РФ запретят.

А как быть с технологиями, которые напрямую влияют на работу мозга человека? Это ведь только с одной стороны мы, киборгенизируя человека, открываем перед ним невиданные возможности. С другой, мы, по сути, полностью подчиняем его внешнему программному контролю. А за этим фактом скрывается весь объём рисков – от абсолютной политической диктатуры до хакерских атак на конкретные мозги, на множество мозгов.

Секретные службы всех более-менее развитых стран мира сбились с ног, не зная, откуда им теперь ждать беды. Силы и средства, выделяемые государствами на создание, контроль, выявление и предупреждение подобных угроз, поражают воображение.

Задумайтесь: совсем недавно межгосударственные кибератаки казались нам чем-то совершенно невообразимым. Но только мы об этом заговорили, как выяснилось, что все необходимые технологии уже в деле. То, что лишь казалось нам научной фантастикой, уже было самой настоящей реальностью.

Причём закономерность одна и та же: нечто начинается как благое дело (например, борьба Джулиана Ассанджа и Эдварда Сноудена за права человека), но уже через миг – это средство самой настоящей межгосударственной политической войны.

Потому наивно было бы полагать, что в научной сфере, которая занимается созданием сверхчеловека и тратит на эти цели десятки миллиардов долларов, до сих пор не родилось ничего путного.

А зная природу человека, зная его амбиции, склонность к агрессии, его страсть к уничтожению ближних и к противостоянию по любому поводу, ждать мирного применения этого нового «атома» стоит нескоро. Началом будет «радиоактивный пепел», а там уж как повезёт.

Но допустим, что мир вдруг озарится и впадёт в разум. Все чиновники ОНН, уже сдавшие свою ДНК спецслужбам, осознают риск и выйдут с плакатами на Тайм-сквер. США, Китай и Россия (а также Израиль, Иран и Саудовская Аравия) решат, что плохой мир лучше доброй ссоры, вскроют свои технологические карты и запретят любые исследования, способные привести к модификации человека – хоть генетической, хоть ментальной.

Звучит само по себе, конечно, абсурдно и нелепо, но представим. Поможет ли нам это?

В основе любой «гонки вооружений» – хоть научной, хоть политической, хоть геополитической, – лежат наши амбиции, страсть к доминированию и прочие проявления иерархического инстинкта. Но даже если мы заставим этот инстинкт замолчать, мы вряд ли захотим умирать. Это уж точно! А все технологии, о которых мы ведём речь, напрямую связаны с возможностью почти неограниченного продолжения жизни.

В суррогатном варианте – это «цифровое бессмертие»: огромная научная программа по расшифровке коннектома человеческого мозга скоро завершится, а это значит, что мы получим возможность транспонировать себя в «облако» и жить в нём вечно.

Причём качество этой «цифровой» жизни будет, судя по всему, куда лучше, чем жизнь в реальном мире, исполненном соматического и психологического страдания.

Искусственную чувствительность нам легко наладят – процесс уже запущен. Так что, даже будучи просто компьютерной программой, мы сможем вести и полноценную «личную жизнь», полную любых гедонистических проказ.

Последние, кстати, будут куда краше, чем настоящие. Это при использовании LSD не знаешь, чем обернётся очередной трип, а тут можно будет производить необходимые эффекты с гарантированным качеством. Разве не прекрасно?

Впрочем, для луддитов есть и не суррогатный вариант бессмертия: та же синтетическая биология и генная инженерия в скором времени обрадуют нас индивидуальными, направленными средствами борьбы с раком и Альцгеймером.

Победа над генетическими заболеваниями, атеросклерозом, вирусами и прочими нашими обычными несчастьями тоже не за горами. Нужно только продолжать и продолжать научные исследования – закон экспоненциального роста товарища Мура продолжает работать как часы.

Стоп! Мы же тут с вами, оценив возможные риски злокозненного использования современных научных технологий, представили, что правительства всех стран объединятся и совместным волевым усилием запретят «четвёртую технологическую революцию».

Да, запретят. Должны. Но жить-то хочется. Этого хочется и тем, кто будет запрещать, и тем, на кого такие запреты не распространяются, потому что они контролируют тех, кто запрещает.

Главные последствия наступающей «четвёртой технологической революции» – это тотальная безработица и радикальное перераспределение богатства. Технологии вымывают человека из производств, включая уже и те сферы, которые всегда казались нам сугубо человеческими, – из сферы «творчества».

Ещё чуть-чуть – и нейросети уничтожат не только офисных служащих, рабочих на предприятиях, продавцов, водителей, биржевых брокеров и программистов, но и художников, журналистов, фильм-мейкеров, музыкантов. Скоро всё это будет меняться самым странным образом – непосредственно в наших VR-очках, а то и VR-мозгах.

Так что новый «цифровой капитализм» будет характеризоваться радикальным экономическим неравенством. На вершине этой всемирной пирамиды окажется несколько сотен (может быть, тысяч) человек, которым будут принадлежать соответствующие нейросети и технологии (включая технологии бессмертия), а всем остальным будет предоставлена одна большая лапа – на пососать.

Проще говоря, небольшой горстке людей будет разрешено всё, а остальным – ничего. Генно-техно-мета-физиологическая эволюция сделает очередной виток, на котором мир людей разделится на два новых вида – «сверхлюди» и «овощи» с «безусловным гарантированным доходом» для оплаты подключения к VR-матрице.

Всякая война заканчивается возведением стен. И я не знаю, где будет пролегать стена после «Третьей мировой» и как именно она будет выглядеть, но то, что она будет практически непроницаемой, по-моему, вполне очевидно.

Создатели сериала «Мир дикого Запада» считают, что магнаты и владельцы нового мира будут развлекать себя удовлетворением примитивных инстинктов в специальных Диснейлендах. Наивно. Но даже если и так, никто не запретит этим «королям жизни» попасть и в тот самый центр Лабиринта: создать для себя и своих детей бессмертие.

А как, вы думаете, эти бессмертные будут относиться к смертным? Как абсолютная власть будет взаимодействовать с простым человеческим мясом? За ответом на этот вопрос далеко ходить не надо. Он уже был всесторонне проблематизирован в столь популярных ещё совсем недавно сериалах про бессмертных вампиров. Как к мясу.

Так что теперь можно вернуться к вопросу, как относиться к новым технологиям – избегать их, запрещать или приглядеться к ним повнимательнее и поучаствовать в гонке за индивидуальное светлое будущее?..

Вот так выглядит теперь базовый экзистенциальный выбор.

Пираты и партизаны

We are Anonymous. We are Legion.

We do not forgive. We do not forget.

Expect us.

ANONYMOUS[50]

Следите за кибератаками? Россия, США, Китай, объекты стратегического назначения и несчастная Хиллари… Кажется, всё, о чём так долго говорили футурологи, свершилось!

В нашем насквозь технологизированном мире боевые действия перемещаются с реальных полей сражений на поля виртуальные – за серверы, базы данных, коды доступа и т. д. Завладейте компьютерной инфраструктурой противника – и он повержен. Ни одно современное государство-Голиаф не выдержит удара этой пращи.

Таким выглядит наш новый Армагеддон, но это лишь обман зрения. Кибер-война, о которой нас начинают потихоньку информировать, всё ещё продолжает оставаться геополитической.

Как и прежде, предполагается, что США будут воевать против России, Россия – против США, а Китай – вместе со всеми против всех. Правда же в том, что такая война никому больше не нужна (разве что Китаю, но у него совсем своя логика – нам не понять). Это война престарелых (по крайней мере, интеллектуально) генералов, которые, как говаривала одна мудрая графиня, «слишком долго жили в Советском Союзе», или, если угодно, в состоянии «Холодной войны».

Всё изменилось. Да, на последних президентских выборах в США любимец американских студентов – Берни Сандерс – проиграл Хиллари Клинтон, чтобы она затем проиграла Дональду Трампу. Но к следующим выборам – и эти студенты вырастут, и новые появятся, так что какой-нибудь демагог-Сандерс точно победит.

Про наших студентов я и вовсе молчу – если они и хотят завоевать мир, то только личной биографией и где-нибудь в приличном заграничном месте. Жители глобального сетевого пространства не знают и не хотят знать геополитики. Плевать на неё хотели и транснациональные корпорации, а в особенности – Google, Apple, Microsoft и Facebook.

Самой этой сущности – «геополитика» – больше нет. Остались только цифра и человек – два реальных конкурента за мировое господство, и Четвёртая мировая война развернётся между ними.

Но, с учётом торжествующего политического мракобесия, центробежных сил, разрушающих существующие структуры управления и общего уровня тотального идиотизма, до Четвёртой мировой мы рискуем просто не добежать, завязнув в Третьей.

Обнаружив в своих руках «цифровое оружие», все, прямо скажем, немного посходили с ума. Мы наблюдаем настоящую технологическую гонку, в которой, судя по всему, победитель получит всё.

При этом очевидно, что шансов у отдельно взятых персонажей – один на миллион, а то и на сто миллионов. Это естественным образом вызывает у разной публики разные реакции – от «не добегу, так согреюсь», до «не доставайся же ты никому!».

К сожалению, подобные мысли приходят в голову не только отдельным глумливым персонажам, но и государственным машинам как таковым, спецслужбам и отдельным инноваторам внутри них.

Когда мы слышим что-то про кибератаки, мы представляем себе опустошённую кредитную карту или взломанную электронную почту, но, поверьте, это сущая ерунда. Да, киберпреступность – это уже триллионная индустрия, и её обороты давно превышают доходы наркокартелей, но военные кибератаки – это совсем другое дело.

В военных целях активно разрабатывается кибероружие, направленное на инфраструктурные объекты, – энергосистема, транспортная сеть, финансовый сектор и др., – а всё это куда серьёзнее жалкой кредитки или личной переписки.

Представьте, что враг лишает нас электричества, парализует транспорт и обвально девальвирует нашу валюту (например, эмитируя на банковские счета граждан неограниченные суммы денег). И дело не в том, что без электричества, например, мы не сможем посмотреть киношку на ночь, а в том, что из-за той самой технологизации нашей жизни за год от голода и болезней умрет девять из десяти человек.

Мы лишимся воды, тепла, канализации, медицинской помощи, остановится производство пищевой продукции, горючих веществ и т. д. Всё будет настолько плохо, что даже зомби не понадобятся. Это ведь только кажется, что риск минимальный, – мол, как-то же мы справлялись с отключением света в нашей квартире, и никто не умер! Но мы никогда не справлялись с отключением всего электричества у всех сразу.

Но кому под силу такая задача – лишить целую страну всей её инфраструктуры?! Вопрос, на самом деле, неверный и даже глупый. Правильный вопрос – как сохранить хоть что-то в мире в работоспособном состоянии после того, как соответствующее кибероружие «выстрелит»?

Именно с этой проблемой и столкнулись наши американо-израильские коллеги, ударив компьютерным червём Stuxnet по иранским ядерным реакторам. Это был первый случай в истории, когда использовался не просто вирус-шпион – штука теперь уже совершенно тривиальная, а специальная программа, заточенная на физическое уничтожение реальных производственных агрегатов.

Реконструкция этой истории, чуть не закончившейся мировой катастрофой, выглядит следующим образом. Вероятно, некий шпион-диверсант пронёс на охраняемую территорию иранского завода в Натанзе флешку с Stuxnet и запустил вирус в локальную компьютерную сеть. Для входа в систему червю требовался только Windows, чьи так называемые «уязвимости нулевого уровня» он, судя по всему, знал.

Вот почему, кстати говоря, не стоит удивляться требованиям Ангелы Меркель не гонять европейский интернет-трафик через американские серверы, а также отечественной инициативе по созданию собственной операционной системы (про трафик я уже и вовсе молчу). Да, всё это абсолютно бессмысленно, нереалистично и мёртвому припарка, но сама по себе эта политическая паника, поверьте, отнюдь не беспочвенна.

Впрочем, вернёмся в Иран. Попав во внутреннюю сеть, этот виртуальный зверёк обнаружил контроллер Siemens S7-300, работающий на газовой центрифуге по обогащению урана, – и спектакль начался.

Вирус определил программы, которые сигнализируют сотрудникам предприятия о состоянии центрифуг, и перекодировал их. Теперь работники завода уже не могли видеть, что происходит с центрифугами на самом деле, – им казалось, что реактор работает идеально.

Надев на операторов эти своеобразные очки-шоры, вирус принялся жечь центрифуги – он то разгонял их, то резко замедлял, и оборудование выходило из строя. Всего за десять месяцев Stuxnet сжёг таким образом от 1000 до 2000 центрифуг.

Ирония в том, что именно жертва одного из самих громких публичных кибер-скандалов – тогдашняя госсекретарь США Хиллари Клинтон – победоносно заявила в 2011 году, что проект по разработке вируса Stuxnet оказался успешным и иранская ядерная программа отброшена на годы.

Остаётся только догадываться, что происходит в голове у этой женщины, если она, зная всё это, решается пользоваться личной почтой для рабочей переписки… Кажется, политики совершенно не соображают, о чём говорят и с чем имеют дело. Им уже давно пора переходить на молокопись и почтовых голубей!

Впрочем, история Stuxnet на этом не заканчивается. Напротив, начинается самое интересное… Никому и в голову не пришло, что этот киберзверь не удержится в клетке! Через интернет вирус покинул пределы завода в Натанзе и заразил тысячи компьютеров по всему миру.

Нас тогда спасло только то, что Stuxnet всюду искал контроллер Siemens S7-300, а таковых на его пути больше не обнаружилось. Счастливая случайность, надо признать (ну, или у Siemens существовала какая-то предварительная договорённость с ЦРУ).

А теперь представим – следите за руками (это важно!), – что какой-нибудь аутизированный и закомплексованный хакер ловит такую штуку в интернете, слегка её модифицирует и настраивает на уничтожение любого промышленного процесса.

На самом деле в этом сценарии нет ничего сложного, а тем более невероятного. Допустим, некое правительство, «мира во всём мире» ради, убеждает какой-нибудь Microsoft поделиться «уязвимостью нулевого уровня» его новой операционной системы.

В расчёте на эту уязвимость и создаётся вирус военного назначения, который используется против какого-нибудь «кровавого режима».

Параллельно всё это безобразие оказывается в интернете и, соответственно, в руках каких-нибудь безызвестных и скучающих программистов, которые решают «немного пошалить». Они блокируют программу самоуничтожения вируса и выпускают проапгрейденного хищника на волю.

Это реально. Абсолютно. Тот же Stuxnet в том же самом 2010 году был именно так – случайно — обнаружен в интернете неизвестным до той поры белорусским программистом Сергеем Уласенем. Благодаря своей находке Сергей, конечно, обрёл известность и его забрали в «Лабораторию Касперского».

Но что, если бы у него не было амбиции работать в этой компании? Представим себе, что Сергей оказался человеком менее человеколюбивым и более амбициозным – как Герострат, например. Или и вовсе слегка сумасшедшим, как герой фанатически безумного киберсериала «Mr. Robot»?

Вполне возможно, что мы бы с вами уже так мило не беседовали за книжечкой про «Четвёртую мировую» и вообще бы уже не беседовали никак и никогда. Ведь атомная бомба Оппенгеймера выглядит на фоне этого кибермонстра не страшнее кремлёвской Царь-Пушки.

Через год после победоносного заявления Хиллари бывший глава подразделения киберзащиты министерства внутренней безопасности США Шон Макгурк оказался на программе «60 минут» канала CBS, где ведущий прямо спросил его о Stuxnet: «Эту штуку могли использовать против нас?»

Видимо, в ту секунду Шон сильно пожалел, что решился прийти на это шоу… Его ответом было сдавленное «да». Вся фактическая инфраструктура нашей насквозь технологи-зированной цивилизации уже находилась под ударом, который вряд ли смогла бы выдержать. Так что пока политики и генералы играют в свою, как им кажется, кибергеополитику, мы с вами безмятежно прогуливаемся по сафари-парку.

И тут нельзя отмахнуться, что, мол, с безумцами-хакерами ничего не поделаешь, а от случайностей не застрахуешься. Одно дело, когда безумец разгуливает с мачете по Лондону или с винтовкой по гей-клубу в Орландо, и совсем другое – тотальная уязвимость инфраструктуры.

И где гарантия, что этим безумцем окажется какой-нибудь безвестный хакер, а, например, не Сергей Михайлович Брин? Кризис среднего возраста там, какая-нибудь мизантропия, развившаяся на почве корпоративных войн и проснувшейся эндогенной депрессии… Почему нет?

Цифровые партизаны, будучи анархистами до мозга костей, действуя несистемно, разрозненно и асоциально, – лишь вишенка на этом безумном торте. Но вишенка с крепкой косточкой.

Вообще говоря, теневой интернет полностью меняет психологию его завсегдатаев. Там, где государства и транснациональные корпорации ещё сутяжничают из-за границ, эти парни границ просто не видят.

Они прекрасно знают, что у представителей двух других лагерей рыльце в пушку по самую макушку. Поэтому прекрасный публичный имидж соответствующей публики раздражает «бойцов Сопротивления» сильнее, чем быка красная тряпка.

Ассанджи, Сноудены, Мэннинги, Сатоси Накомото, Маккинноны и т. д., и т. п. – лишь публичные герои этой необъявленной войны с сильными мира сего. Они предают огласке тёмные правительственные делишки, создают независимую от правительств криптовалюту, взламывают базы с военными секретами и реализуют другие «социально значимые проекты».

Но любой анархизм хоть и начинается, как правило, с красивой идеи о полной свободе и всеобщем либерализме, заканчивается почти всегда одинаково – разгульным бандитизмом имени Нестора Ивановича Махно.

Идеалисты-идеологи создают новые технические решения, проламывают бреши в существующем миропорядке, создают прецедент немеркнущей славы, а им на смену приходят лишённые всякой идеологии любители «красивой жизни». И начинается «любо, братцы, любо!».

Это, знаете, как младореформаторы во главе с Егором Тимуровичем: они осуществили героическую и необходимую стране либерализацию рынка, а улицы наполнились бандитами в малиновых пиджаках. Точно так же Ассандж со Сноуденом, с одной стороны, и какой-нибудь Шалтай-Болтай и создатели WannaCry – с другой. Вроде бы про одно и то же, но две большие разницы.

Хакеры всех мастей, киберпреступность, супертрояны-шантажисты – третья сила и пятая колонна Третьей мировой войны. И в каком месте эта психопатическая пассионарность рванёт по принципу «эффекта бабочки», предсказать невозможно. Но потенциал есть.

ЧЁРНОЕ ЗЕРКАЛО

Адам и Ева – не выдумка и не ветхозаветная сказка. Это были совершенно реальные люди – из плоти и крови. Правда, жили они не в Раю, а в Африке.

Наша общая мама – каждого из нас, всех ныне живущих людей, – родилась примерно 150 000 лет назад. Наш общий папа, как и положено «принцам на белом коне», серьёзно подзадержался – примерно на 80 000 лет (антропологи вычислили «хромосомную Еву» по митохондриальной ДНК, а «хромосомного Адама» – по полиморфизмам Y-хромосомы). Но на генетическом уровне эта романтическая встреча всё-таки состоялась.

Спустя ещё каких-то 70 000 лет Карл Линней даст потомкам этой счастливой «супружеской пары» общее имя – Homo sapiens. Линней назвал нас разумными, не без основания полагая, что уникальной особенностью этого биологического вида является чрезвычайно мощный, по сравнению с другими homo, интеллект.

К моменту, когда новорождённый Homo sapiens зашагал по планете, её населяли другие люди – неандертальцы, эректусы, денисовцы и прочие наши близкие родственники (всего как минимум шесть подвидов людей).

И все они пали жертвой сообразительности sapiens’a: ничем более не примечательный – голый, не обладающий особой физической силой, но умный примат уничтожил их всех.

Доставшееся нам «царствование» над природой не было помазаньем божьим. Этот трон мы завоевали в кровопролитной межвидовой войне с другими людьми: настоящий доисторический геноцид.

Конечно, это немножко не та история человечества, какой бы мы хотели её видеть… Но что поделаешь?

Наш ум – хитрость, способность к кооперации, производственные умения, – стал оружием массового поражения. Когда же мы избавились от видовых конкурентов и влезли с интеллектуальной приступочки на мировой трон, обозначилась очевидная проблема – оружие есть, и хорошее, а вот простаивает.

Впрочем, интеллект жертву себе всегда найдёт – хоть «внешних врагов», хоть «внутренних». А то, что борьба развернулась сугубо внутри нашего же вида, то есть с врагом очевидно неглупым, пошло интеллекту только на пользу: одно дело – конкурировать с глупыми зверюшками, другое дело – умный враг (есть на ком потренироваться).

В борьбе за власть мы развивали в себе чудовищный макиавеллизм: революции и перевороты, репрессии и «враги народа»… Всё это надо было ещё выдумать! На борьбу же с «внешней угрозой» мы бросили етитскую мощь научной мысли: всё здесь, начиная с китайского пороха и заканчивая хлором и атомной бомбой, – сущее интеллектуальное соревнование.

Если бы Гитлер не был бы по натуре припадочным истериком и не дал бы своим гениям-евреям разбежаться (а собрал бы их в «шарашку», как Берия, например), мы бы тут с вами сейчас не разговаривали. Но сглупил, к счастью. И проиграл.

Итак, атомную бомбу, обещающую нам «гарантированное взаимоуничтожение», мы выдумали – и что теперь? Снова тупик. Начались войны экономические, корпоративные, информационные, геополитические, технологические, кибервойны, наконец. Но ведь это всё сплошная эскалация чистого интеллекта!

Впервые в истории человечества страшное оружие под названием «интеллект» отделилось от своего носителя и вышло во внешнюю среду – в цифровое, виртуальное пространство. Это теперь уже не мой ум и не ваш, а живущее само по себе, вне нашего непосредственного контроля, существо.

Мы ещё, конечно, можем вырвать вилку из розетки и задавить конкурента в зародыше. Но кто ж на это решится? Никто. Да и зачем? А скоро он сам будет контролировать производство энергии…

Пока этот новый а-ля разумный вид – Modus sapiens (назовём его, например, так) – нечто примитивное, относительно простенькое. Впрочем, мы уже его не понимаем: программисты нейронных сетей не знают, что в этом «первичном бульоне» варится и кто из него выродится.

Мне, конечно, скажут: мол, о чём вообще речь, понятно же, что искусственный интеллект никогда не станет человеком, не пройдёт теста Тьюринга, да и где мы, а где эти тупые, не знающие экзистенциальных кризисов машины?

Думаю, примерно в той же логике рассуждали брутальные неандертальцы, завидев первого в своей жизни – хилого, голого, слегка нервного – sapiens’a.

Штука в том, что искусственному интеллекту совершенно нет нужды становиться человеком, чтобы низвергнуть нас с трона. Это ведь только кажется, что предстоит бой святой и правый. Вовсе нет. Как раз наоборот.

Прародителям современного человечества вовсе не нужно было становится неандертальцами, чтобы превратить самих неандертальцев в задачку для будущих антропологов. Напротив, подобная стратегия стала бы фатальной ошибкой.

A Modus sapiens уже вовсю шагает по планете… И поверьте: он уже обладает достаточным интеллектом, чтобы возможностями, которые он перед нами открывает, нас же и свести с ума.

Иногда мне кажется, что мы с Чарли Брукером соревнуемся за то, кто из нас сможет показать будущее максимально мрачным. Чарли – настоящий британский сатирик, а я, судя по всему, обычный российский психиатр. Так что, в общем-то, силы практически равные.

Но если серьёзно, его сериал «Чёрное зеркало» можно смело рекомендовать к просмотру – при всей своей фантасмагоричности и очевидной художественности он ставит, возможно, самую главную проблему, которая актуальна в рамках Третьей мировой войны.

По сути, он спрашивает: о’кей, вы развиваете технологии, а как вы думаете, ваша биологическая природа поведёт себя, когда обретёт эти чудесные возможности? В конце концов, мы в любом случае остаёмся людьми, а люди – это существа особые, непростые.

Новые возможности опьяняют, лишают разума, делают бесстрашными… А зря – нам есть чего бояться. Самих себя – так уж точно.

Парадоксально, но агрессивность нашего интеллекта, всегда готового к экспансии и трансгрессии, ограничивается лишь нашим чувством страха. Как только оно отступает, он границ не видит и идёт напролом.

В этом, по всей видимости, сокрыта сама сущность интеллекта – решать задачу, пока она не будет доведена до ума. Складывать и складывать, разрушать и разрушать.

Полагаю, об этом имеет смысл задуматься, когда мы создаём «интеллекты». А Чарли Брукер поможет это сделать – в картинках.

Будущее обрушивается на нас стремительно. То, что ещё вчера казалось лишь фантастикой, сегодня – реальность. Искусственный интеллект, автотранспорт без водителей, кибертерроризм, блокировка мессенджеров… Когда «цифровая болезнь» поражает мировых лидеров, происходящее касается уже каждого из нас.

Приведённые мною в этой главе книги сценарии Третьей мировой, конечно, не исчерпывают всей палитры возможностей. Но все они, надо признать, какие-то унизительные. Трудно представить, что о столь бесславной кончине нынешней цивилизации наши далёкие потомки сложат красивую легенду.

Да, Четвёртая мировая может стать войной между умными машинами и людьми-героями. Но окажемся ли мы сами достаточно умными, чтобы добежать до того момента, когда машины обретут свой ум и наш грядущий Армагеддон будет действительно прекрасен?

Меня частенько ругают, что я, мол, рисую мрачные перспективы и не предлагаю никакого выхода. Но выход, как мне представляется, напрашивается сам собой: всё, что мы должны сейчас делать (и не только сейчас), – это начать думать.

Понять механизмы собственного мышления и заставить свой мозг работать: избавиться от иллюзий, увидеть закономерности, определяющие действительную реальность, и начать действовать. Конечно, думающих всегда меньшинство. Но именно от этого меньшинства и зависит будущее всего человечества.

Заключение

При том, как легко прощаем мы себе наши дурные поступки, мелкие страсти, как старательно скрываем немощь нашего тела, немудрено, что и к собственной глупости мы относимся снисходительно.

ДЖОНАТАН СВИФТ

Это случилось в небе над Атлантическим океаном 1 июня 2009 года.

Самолёт авиакомпании Air France перевозил более двухсот пассажиров, которым зачем-то понадобилось лететь этим злополучным рейсом из Бразилии в Африку.

Поначалу всё шло просто идеально. Но погода испортилась, и датчики скорости, расположенные на носу самолёта, заледенели. Компьютер-автопилот был к этому не готов и передал управление судна лётчикам.

Те замешкались, растерялись, сделали несколько взаимоисключающих действий – и авиалайнер, не имевший никаких проблем или повреждений (если не считать тот самый датчик скорости), послушно рухнул в океан.

Этой печально известной историей Дэвид Минделл начинает свою книгу «Восстание машин отменяется!». И далее последовательно убеждает читателей в том, что нам не нужно опасаться всеобщей роботизации, потому что они, мол, – роботы – всё равно не справятся.

Но мне кажется, что Дэвид совершает логическую ошибку. Это не роботы не справятся, это мы не справимся. Мы уже не справляемся с той технологической цивилизацией, которую создаём.

Случившаяся над Атлантическим океаном трагедия целиком и полностью на совести «человеческого фактора».

Это человек спроектировал датчики скорости, отказавшие из-за оледенения. Это человек так запрограммировал компьютер, что тот отключил автопилот. Наконец, это лётчики (тоже, понятно, люди) потеряли навык управления воздушным судном, привычно полагаясь на автопилот.

Так что проблема действительно не в роботах, Дэвид прав. Проблема в том, что этих роботов создаём мы. В напряжённой конкурентной борьбе лучшие компании мира строят сейчас один большой авиалайнер – нашу технологическую цивилизацию – с такими вот датчиками и автопилотами.

Мы же тем временем дружно превращаемся в тех самых незадачливых лётчиков, не знающих, что им делать, если что-то пойдёт не так. А в век всё нарастающей информационной псевдодебильности – это практически неизбежно.

К сожалению, мы совершенно не отдаём себе отчёта в том, насколько сильно на нас влияет информация.

В начале прошлого века наши прабабушки и прадедушки самозабвенно пели «Боже, Царя храни!», а через тридцать лет, благодаря «советским газетам», строчили доносы на «врагов народа», стреляли в подвалах Лубянки и устраивали разносы «контрреволюционным

элементам» на комсомольских и партийных собраниях.

Ещё в середине 80-х никто не мог поверить, что Союз «нерушимых» развалится, а КПСС сгинет в небытие. Но «Взгляд», «Пятое колесо», «МК», «КП»… И невозможное стало возможным.

Мы – плоть от плоти – продукт информационной среды. А сейчас она изменилась не просто содержательно, как это происходило на прежних культурных сломах, но и структурно: современный человек информационно зависим до степени патологии.

Наш мозг не справляется с надвигающимся информационным штормом, наше мышление уплощается и примитивизируется. Вкупе же с утратой всяких социальных иерархий и при ложной трактовке понятия «свобода мнений» («личное мнение» должно подкрепляться структурой фактов, а не личным же мнением) это приводит к тотальной неспособности к обучению и развитию.

Но, конечно, мы этого не замечаем! Как тут заметишь, если мы находимся в столь комфортной среде обитания? Мы снизу доверху упакованы всеми возможными сервисами – информационными, техническими, развлекательными, финансовыми и т. д. Мы и не можем заметить, что с нами что-то не так.

Но с нами определённо что-то не так, о чём со всей очевидностью свидетельствует всё нарастающий дефицит мотивации. Мы не знаем, чего хотим, а если и мечтаем о чём-то (сугубо теоретически), то не готовы платить за это собственным напряжением.

Мы прокрастинируем и скучаем. Не пониманием, зачем живём и какой в этом смысл. Наши социальные связи превратились в бессмысленное виртуальное бормотание и разглядывание.

Не знаю, как вы, но я бы не доверил таким пилотам даже управление самокатом…

Как понять загадочный тренд на всеобщее оглупление? Для этого мы рассмотрим удивительный парадокс:

Мышление – по большому счёту, лишь поведенческий навык, а всякий навык легко утрачивается. Не следует переоценивать человеческий мозг – эта штука со времен нашего великого африканского исхода ничуть не изменилась – весьма, надо признать, примитивный агрегат.

Да, у мозга человека большой потенциал к обучению, и да – наша культура (язык и прочие знания о мире), – всё, что впихивают в нас первые двадцать лет жизни, штука сложная. Но если наш мозг не дрессировать, если ничего в него вот так – силой – не впихивать, мы останемся милым приматом, ничем не отличающимся от шимпанзе.

Так что речь не про отдельно взятого «Маугли» – целые цивилизации бесследно исчезали с лица земли. И не просто какие-нибудь критяне со своим «критским письмом», но и весь Древний Египет, Древняя Греция, Древний Рим.

Мы хоть, подобно Карлу Линнею, и пользуемся латынью, не знаем, как она звучала. Не знаем, потому что всю эту культуру просто ликвидировали. Остались только поросшие сорняком развалины да переписанные когда-то арабами манускрипты.

Воевать с нами в лоб, действительно, бессмысленно. Но искусственный интеллект, судя по всему, и не будет этого делать. Действуя по принципу «мягкой силы», он просто лишит нас соображаловки, а мы на этом и кончимся.

Он уже научился за нас считать и писать – просто диктуй, а он посчитает, запишет, отправит, переведёт на любой язык, если нужно. Скоро он станет неплохим собеседником, причём на любую тему – IT-компании активно работают над созданием таких ботов.

Он уже сочиняет музыку – можете послушать очаровательную Emily Howell (просто скачайте в iTunes) или, например,Google Magenta Music. Он пишет статьи, сценарии к фильмам и даже художественную литературу большой формы.

На глазах у изумлённой, но невнимательной публики исчезают целые области человеческой деятельности, превращаясь в функционал искусственного интеллекта.

Автопилоты не просто уничтожат профессию водителя, они уничтожат всякое наше знание о вождении. Как водить машину, будут знать только компьютеры Tesla и Google со товарищи. А как лечить, будет знать лишь IBM Watson с группой роботизированных товарищей: залезаешь в капсулу, а они тебя там лечат.

И даже для секса собственный интеллект нам скоро не понадобится. Пока мы всё ещё им активно пользуемся – это ведь универсальное средство обольщения. Но когда качество виртуального секса будет несопоставимо выше, чем любой реальный секс с живыми людьми, зачем нам они?

Нам предложат идеальных партнёров, которые будут хотеть нас всегда и в любом виде. Ложишься в капсулу и делаешь (или с тобой делают) всё, о чём можно только мечтать. И это, заметьте, без выноса мозга, обязательств, риска беременности, инфекций… О чём тут думать-то?!

Думать будет не нужно совершенно. Даже о том, в какую капсулу залезать, потому что, скорее всего, это будет одна-единственная капсула – полного цикла: с автопилотом, жизнеобеспечением, медицинскими услугами и массой развлечений, которые нам пока даже не снились.

«Матрица» – какое всё-таки гениальное сделали кино братья-сёстры Вачовски! Одного только не учли создатели футурологического шедевра: не поможет нашему Нео «красная таблетка», он даже выбрать её осознанно не сможет, потому что будет клиническим идиотом – нормальным таким кроманьонцем. Ну, или Адамом, если кому-то так больше нравится.

Правда в том, что нет никакой-такой особенной – человеческой – интеллектуальной деятельности, которую бы мы осуществляли посредством некой трансцендентальной связи с Божественным Космосом. Нет ни того, ни другого, ни третьего.

Есть просто навыки решения тех или иных вполне себе утилитарных задач. И поверьте: решать эти задачи куда лучше без людей – устающих, допускающих ошибки и ещё требующих к себе особого отношения.

Люди как средство производства больше цивилизации не понадобятся. Впрочем, это понятно – будет уже другая цивилизация. Не плохая и не хорошая, а просто другая.

Мы в свое время уничтожили других людей за счёт своего разума, теперь созданный нами разум уничтожит нас – как вид, как тех самых sapiens’ов. Ведь даже если победитель окажется «дружественным» и сохранит нам жизнь, как sapiens’ы мы существовать перестанем.

Нет, я не против искусственного интеллекта, научного прогресса и обещанной нам – прежними фантастами и нынешними учёными – технологической сингулярности. Этот «новый мир» представляется мне вполне «дивным», и в соответствующую капсулу, если верить Курцвейлу, я даже смогу успеть (в 2045-м мне будет всего лишь 71 год).

Проблему я вижу лишь в одном пункте: мне хочется сохранить способность получать интеллектуальное удовольствие. На эту жертву я пока совершенно не готов, а риск, к сожалению, слишком велик. Это и станет нашим поражением в Четвёртой мировой войне. Или ещё повоюем?

Всего доброго!

Примечания

1

Вот лишь небольшой их список: ВИЧ, заражение людей птичьим гриппом, геморрагические лихорадки (Эбола и др.), новые разновидности вирусного гепатита и т. д.

2

Проект «Геном человека» (The Human Genome Project, HGP) – это научно-исследовательский проект по расшифровке последовательности нуклеотидов, составляющих ДНК (порядка 25 тыс. генов). Проект был начат в 1990 году под руководством нобелевского лауреата Джеймса Уотсона, а также Национальной организации здравоохранения США, и стал одной из крупнейших международных научных коллабораций.

3

Термоядерный синтез – получение более тяжёлых ядер элементов с выделением огромного количества дешёвой энергии.

4

Впрочем, это лишь логика рассуждений, которую предлагает нам Рэй Курцвейл. Справедливости ради отмечу, что, согласно знаменитому прогнозному перечню IBM «5 in 5», к 2030 году в городах развивающихся стран будет проживать более 80 % населения. Кто ошибается, а кто прав – пока непонятно.

5

По иронии судьбы, а может и закономерно, тут снова не обошлось без Курцвейла: над обучением Watson'a медицинским специальностям работает медицинская школа штата Мэриленд, Колумбийский университет и компания Nuance Communications, которая была первым стартапом Курцвейла и называлась тогда Kurzweil Computer Products.

6

Добавлю, что в 2015 году компании Google и Johnson&Johnson объявили о совместном проекте по производству робота-хирурга, который, по их заверениям, будет многократно превосходить возможности Vinci Xi.

7

Не буду, впрочем, утруждать вас деталями: что, почему и зачем, Рэй Курцвейл подробно рассказывает в книге «Transcend: девять шагов на пути к вечной жизни», которая написана им в соавторстве с тем самым профессором Гроссманом.

8

Silicon Valley – комедийный сериал Дэйва Крински, Джона Альтшулера и Майкла Джаджа для НВО, где с изощрённой изобретательностью высмеиваются все самые актуальные тренды культурной и рабочей среды нынешних аборигенов Силиконовой долины.

9

Рейтинг Нильсена определяет популярность той или иной телевизионной программы.

10

Квалиа (от лат. qualia – свойства, качества) – это один из любимейших терминов «философов сознания», который обозначает то, как вещи выглядят для нас – в нашем индивидуальном субъективном опыте. Термин был введён в обиход ещё сто лет назад философом К. И. Льюисом, но пережил новое рождение благодаря знаменитой статье Т. Нагеля «Что значит быть летучей мышью?». Сам термин в статье не упоминается, но зато осознание невозможности представить себе субъективный опыт видения мира летучей мышью, действительно, позволяет это «квалиа» прочувствовать.

11

0 том, как это бывает, неплохо, кстати сказать, показано в историко-драматическом сериале «Manhattan» Сэма Шоу, посвящённом истории создания атомной бомбы в рамках Манхэттенского проекта в Лос-Аламосе. Сериал продержался три сезона на канале WGN America.

12

Сериал «Halt and Catch Fire» создан Крисом Кантвеллом и Крисом Роджерсом для канала АМС и повествует обо всех ключевых этапах становления современных компьютерных технологий.

13

Об этом эффекте и его социальных последствиях я уже рассказывал в книге «Красная таблетка. Посмотри правде в глаза!». Как показали нобелевские лауреаты Ричард Талер и Даниэл Канеман, из-за определённых эволюционных настроек мы склонны переоценивать себя, ценность своего имущества и вклад в общую деятельность в два раза, а то и больше по сравнению с условным «номиналом». Данное когнитивное искажение приводит к постоянным конфликтам между людьми, осуществляющими какую-либо совместную деятельность.

14

Теория автоматов – это раздел дискретной математики, который изучает вычислительные машины, представленные в виде математических моделей. Автомат по заданному алгоритму преобразует дискретную информацию по шагам в дискретные моменты времени.

15

Эмуляция коннектома предполагает перевод данных, собранных в результате подробного картирования всех связей мозга, в цифровую форму, позволяющую использовать эту модель для воспроизводства интеллектуальной деятельности эмулируемого мозга.

16

Бихевиоризм (англ, behavior – поведение) – первая попытка системного научного изучения поведения людей и других животных, которая опирается на теории условных рефлексов И. П. Павлова, стимул-реактивной теории Дж. Уотсона, оперантного обусловливания Б. Ф. Скиннера.

17

Должен оговориться, что всё это, конечно, очень условно и приблизительно. Дело в том, что Говард Гарднер придерживается эмпирического, а не экспериментального подхода в исследованиях. Но в данном случае это обстоятельство не играет практически никакой роли, поскольку теория Гарднера применяется в образовании, а не в нейрохирургии, и, надо признать, работает там с успехом.

18

Human Connectome Projec – большая исследовательская программа, в рамках которой учёные исследуют мозг более тысячи добровольцев (причём среди них 300 пар близнецов). Общий бюджет проекта составляет около 40 миллионов долларов. За эти деньги учёные обязались выявить взаимосвязи между отделами коры головного мозга, отвечающими за работу памяти, самосознания, способности человека к членораздельной речи, эмоциям и другим сложным поведенческим реакциям.

19

Не то чтобы я как-то пропагандировал или опровергал «биогенетический закон», просто использую как образ.

20

Правда в том, что до 25 лет молодые люди не представляют своё будущее, а лишь в лучшем случае как-то его себе воображают – без здравомыслия и осознания возможных последствий.

21

Корковые анализаторы – это особые зоны коры головного мозга, где собирается информация от соответствующего типа рецепторов и формируется соответствующий образ (визуальный, акустический, вкусовой и т. д.).

22

Проприорецепция – мышечное и кожно-суставное чувство, обеспечивающее нас ощущением положения частей собственного тела в пространстве друг относительно друга.

23

Уайлдер Грейвс Пенфилд – выдающийся канадский нейрохирург, который в ходе сотен операций на мозге (пациент при таких операциях находится в сознании и может свидетельствовать собственные ощущения) создал его подробные функциональные карты. С помощью электрической стимуляции отдельных участков мозга им было установлено точное представительство в коре головного мозга различных мышц и органов тела человека. Получившееся нелепое, диспропорциональное существо называют теперь «человечком Пенфилда» (их даже два – сенсорный и моторный). Его странный, даже пугающий облик отражает действительную чувствительность различных областей нашего тела и моторную сложность движений той или иной части опорно-двигательного аппарата, включая, впрочем, и другие двигательные действия – жевание, глотание и т. д.

24

Кстати сказать, у человека рудименты «узловой нервной системы» сохранились, но представлены только в вегетативном отделе нервной системы.

25

Половину премии тогда, впрочем, забрал Роджер Сперри за, так сказать, расщеплённый мозг.

26

Это, в частности, объясняет тот факт, что хоть в каждом глазу у нас находится по 120 млн палочек и 6 млн колбочек (то есть в любой момент времени продуцируется более 250 миллионов визуальных нервных импульсов), мы воспринимаем чёткий и целостный образ, не 250 миллионов световых вспышек.

27

Розеттский камень – археологический объект, ставший ключом к расшифровке древнеегипетских иероглифов.

28

Саккады – специфические микродвижения глаз, которые обеспечивают постоянную смену точки взгляда, перемещаясь по поверхности объекта.

29

Достаточно подробно, как мне кажется, я рассказываю об этом в книгах «Красная таблетка» и «Чертоги разума», не считая большого числа публичных лекций, которые находятся в открытом доступе. Поэтому позволю себе на этом не останавливаться.

30

Подробнее я рассказываю об этом феномене в книге «Законы мозга. Универсальные правила».

31

Когда вы видите изображение нанообъектов, включая изображение какой-нибудь репликации ДНК, – это всегда рисунки и мультики, а вовсе не фотографии.

32

В научной фантастике эта штука называется «серой слизью» – колоссальная масса самовоспроизводящихся наномашин, которые не обладают никакой структурой большего масштаба: просто одни наномашины, и всё.

Впрочем, тут снова встаёт вопрос: а с чего бы сверхмощному искусственному интеллекту нас вообще атаковать? Ответ на этот вопрос не так прост, как кажется.

Да, можно приписать сверхмощному искусственному интеллекту какие-то намерения морального толка – мол, не захочет мириться с дураками. Мы же, с его точки зрения, будем выглядеть не просто дураками, а дураками с дурными привычками и манерами. Чем-то вроде надоедливых насекомых – мух или комаров, но с амбициями.

Впрочем, это, надо признать, излишняя антропологизация, с которой я настойчиво предлагаю бороться. Всё может оказаться куда прозаичнее…

33

Шишковидная железа – небольшое образование мозга, выполняющее функции железы внутренней секреции. Имея связь с органом зрения, эпифиз отвечает за выработку мелатонина, который регулирует деятельность других желёз в соответствии с суточными ритмами, а также оказывает косвенное влияние на работу гормона роста и половое созревание ребёнка.

34

Банальный, но, думаю, понятный пример: есть, например, люди, с которыми лучше ничего не обсуждать, пока они голодны, – могут и покусать. То есть «актуальная ситуация» в разных центрах мозга оказывается под воздействием центра голода, а сам мозг в этот момент, возможно, – экзамен по математике сдаёт. Остаётся посочувствовать всем – и экзаменатору, и экзаменуемому.

35

Ещё не так давно индийскую экономику поддержал перевод множества колл-центров ведущих западных компаний в эту англоговорящую страну с дешёвой рабочей силой. Но эффект оказался кратковременным – на смену людям-операторам приходит новое поколение чат-ботов.

36

Достаточно подробно я рассказывал о нём в книге: «Троица. Убей в себе идиота!»

37

Саудовская Аравия сделала ставку на переход от сырьевой экономики к экономике высоких технологий. Желая вписаться в Четвертую технологическую революцию, она привечает Илона Маска, строит город будущего за полтриллиона долларов и делает ещё массу весьма неожиданных шагов. Ну а уж предоставить гражданство в королевстве можно и каменному изваянию, если монарх того пожелает, – никакого интеллекта не требуется. В общем, в самой этой акции ничего примечательного нет.

38

Кстати говоря, пионером этих исследований стал выдающийся нейропсихолог, заслуженный профессор Центра нейродиагностики Лондонского университетского колледжа Крис Фрит, автор блестящей научно-популярной книги «Мозг и душа» (в точном переводе: «Становление разума: как наш мозг создаёт наш ментальный мир»).

39

Алгоритм добился этих результатов, исследуя выборку из 35 тысяч изображений лиц, публично размещённых мужчинами и женщинами на сайте знакомств, используя технологию глубокого программирования.

40

«Westworld» – американский фантастический сериал телеканала НВО, созданный Джонатаном Ноланом и Лизой Джой.

41

Цит. по «China’s Webjunkies: Internet Addiction Documentary» – документальное расследование, проведённое журналистами The New York Times.

42

студентам из третьей группы предложили не только взять с собой телефон, но и положить его на столе перед собой (правда, экраном вниз).

43

Опубликована она была позже, в 1949 году.

44

Впервые данный – «сетевой» – подход был сформулирован профессором Вашингтонского университета Маркусом Рейчелом в 2001 году, а затем он постепенно получил всеобщее признание среди нейрофизиологов.

45

То, что я понимаю под этим словом, я подробно описал в книге «Троица. Будь больше самого себя!».

46

Это такой коллективный «Mr. Robot», если смотрели одноимённый сериал.

47

Особое внимание уделяется проблемным регионам Китая – Тибету и, например, Синьцзян-Уйгурскому автономному региону, где для установки камер используют специальные десятиметровые столбы.

48

В этот список «BigTech», как вы видите, не входят, например, IBM и Microsoft, поскольку, по мнению аналитиков, они внесут меньший вклад в грядущие изменения в мире. Но тут я уже ни за что не поручусь.

49

21 июня 2016 года разработчики Instagram сообщили, что ежемесячная аудитория сервиса превысила 500 миллионов пользователей, а Марк Цукерберг отметил это событие, опубликовав на своей странице в Facebook своё фото на фоне рабочего стола. Выяснилось, что хозяин планеты под название Facebook-lnstagram&Co заклеивает камеру и микрофон на своём ноутбуке, опасаясь киберслежки. Что, в целом, достаточно яснопонятно демонстрирует реальное положение дел в этом «новом дивном мире».

50

Перевод: «Мы Анонимус. Мы – Легион. Мы не прощаем. Мы не забываем. Ждите нас» – из анонимного интервью одного из активистов движения газете The Guardian.


home | my bookshelf | | Четвертая мировая война. Будущее уже рядом |     цвет текста   цвет фона   размер шрифта   сохранить книгу

Текст книги загружен, загружаются изображения