Наследуют ли роботы землю? Да, но эти роботы будут нашими детьми.

(Марвин Мински)

Мифические боги, обладавшие сверхъестественным могуществом, умели оживлять неживое. Во второй главе книги Бытия сказано, что Бог сотворил человека из праха земного, а затем «вдунул в лице его дыхание жизни, и стал человек душею живою». Согласно греческой и римской мифологии, богиня Венера могла оживлять статуи. Сжалившись над скульптором Пигмалионом, безнадежно влюбившимся в собственное творение, Венера исполнила его заветное желание и превратила статую в красивую женщину, Галатею. Бог Вулкан, божественный кузнец, мог создать и оживить целую армию механических слуг, сделанных из металла.

Человек сегодня подобен Вулкану. В своих лабораториях он создает машины и вдыхает жизнь не в прах земной, но в сталь и кремний. Но каков будет результат? К чему это приведет — к освобождению рода человеческого или к его порабощению? Если почитать заголовки сегодняшних новостей, может показаться, что ответ на этот вопрос уже известен: в самом ближайшем будущем создание рук человеческих обгонит своего творца во всех отношениях.

Один заголовок из The New York Times, в сущности, выражает все: «Ученые опасаются, что машины могут стать умнее человека». Мировые лидеры в области искусственного интеллекта (ИИ) собрались в 2009 г. в Калифорнии на Азиломарской конференции для серьезного обсуждения перспектив. Речь шла о том, что произойдет, когда машины наконец превзойдут человека. Как будто в сцене из голливудского кино, делегаты задавали друг другу разные интересные вопросы, например такие: «Что, если робот станет таким же умным, как ваша супруга?»

В качестве убедительного свидетельства наступающей робототехнической революции обычно вспоминают беспилотный роботизированный самолет Predator, который в настоящее время с беспощадной точностью бомбардирует террористов в Афганистане и Пакистане; автомобили, умеющие ездить сами по себе; и ASIMO, самого совершенного в мире робота, способного ходить, бегать, подниматься по лестнице, танцевать и даже подавать кофе.

Организатор конференции Эрик Горвиц (Eric Horvitz) из Microsoft сказал, отмечая царящее на конференции возбуждение: «Технари разворачивают перед нами почти религиозные картины, и в чем-то их идеи созвучны идее Вознесения». (Вознесение — это когда при Втором пришествии истинно верующие праведники вознесутся на небеса. Критики окрестили настроение, царившее на Азиломарской конференции, «вознесением яйцеголовых».)

Вышедшие тем же летом на экраны фильмы, похоже, только усилили эту апокалиптическую картину. В фильме «Терминатор: Да придет спаситель» разношерстная группа людей сражается с гигантскими механическими монстрами, захватившими Землю. В фильме «Трансформеры: Месть падших» футуристические роботы из космоса делают людей пешками, а Землю — полем битвы в одной из своих межзвездных войн. В «Суррогатах» люди предпочитают жить в роли совершенных, молодых и прекрасных сверхчеловеков-роботов, вместо того чтобы смотреть в лицо реальности и жить самостоятельно, в своих стареющих телах.

Судя по новостным заголовкам и афишам кинотеатров, конец человечества не за горами. ИИ-эксперты всерьез задумываются: не придется ли нам когда-нибудь плясать за решеткой зоопарка и ловить орешки, брошенные нашими созданиями-роботами? Или, может быть, мы станем домашними любимцами собственных созданий?

Однако при ближайшем рассмотрении оказывается, что на самом деле все далеко не так серьезно. Конечно, последнее десятилетие стало временем настоящих прорывов, но все следует рассматривать в перспективе.

Predator, беспилотный самолет длиной 27 футов, умеет обстреливать террористов с небес смертельными ракетами, но управляет им человек с джойстиком. Человек — скорее всего, это юный ветеран компьютерных игр — сидит в удобном кресле перед монитором и выбирает цели. Стреляет человек, а не беспилотник. Автомобили, способные ездить без водителя, не принимают независимых решений, когда осматривают окрестности и поворачивают рулевое колесо, они следуют линиям GPS-карты, заранее загруженной в память. Так что пока опасаться нечего: кошмар полностью автономных, обладающих сознанием и убийственно опасных роботов, — дело весьма отдаленного будущего.

Неудивительно поэтому, что большинство ученых, занимающихся реальными исследованиями в области искусственного интеллекта, высказывались гораздо более сдержанно и осторожно, хотя средства массовой информации, конечно, подхватили и разнесли самые сенсационные предсказания. На вопрос о том, когда все-таки машины станут такими же умными, как мы, ответы ученых были удивительно разнообразны и варьировались от 20 до 1000 лет.

Вообще, следует различать два типа роботов. Первый Дистанционно управляется человеком или действует по заранее написанной программе, выполняя жесткие инструкции. Такие роботы уже существуют; им и посвящены, как правило, заголовки новостей. Они медленно проникают в наши дома, а также на поля сражений. Но без человека, который принимал бы за них решения, они представляют собой всего лишь механизмы, более или менее сложные. Этих роботов не надо путать с роботами второго типа — по-настоящему автономными, способными думать самостоятельно и действовать без помощи со стороны людей. Попытки создания таких автономных роботов за последние полвека не увенчались успехом.

Исследователи ИИ часто называют робота по имени ASIMO (Advanced Step in Innovative Mobility) японской фирмы Honda в качестве примера революционных достижений робототехники. Этот робот высотой 130 см весит 53 кг и напоминает мальчика в шлеме с затемненным стеклом и с рюкзаком за плечами. Возможности ASIMO действительно впечатляют: он может реалистично ходить, бегать, подниматься по лестнице и разговаривать. Он может бродить по комнатам, собирать чашки и подносы, отзываться на простые команды и даже узнавать некоторые лица. Он владеет обширным словарем и говорит на нескольких языках. ASIMO — результат двадцати лет интенсивных исследований десятков ученых фирмы Honda и, безусловно, чудо инженерной мысли.

Мне дважды выпала честь лично пообщаться с ASIMO на конференциях как ведущему научной передачи канала ВВС/ Discovery. Когда я пожимал ему руку, робот отзывался на пожатие совершенно по-человечески. Когда я помахал ему на прощание, он тоже помахал мне в ответ. А когда я попросил его принести мне соку, ASIMO повернулся и направился к стойке с напитками, причем движения его были настолько человеческими, что возникало жутковатое ощущение. В самом деле, ASIMO настолько похож на человека внешне, что во время разговора с ним я подсознательно ожидал, что вот сейчас робот снимет шлем и внутри окажется настоящий живой мальчишка. Должен признаться, танцует он лучше меня.

На первый взгляд кажется, что ASIMO умен, способен реагировать на команды человека, может поддерживать разговор и ходить по комнате. На самом деле все немного не так. Когда я общался с ASIMO перед телекамерой, каждое движение, каждую мелочь приходилось тщательно планировать. Чтобы записать простой пятиминутный сюжет с роботом, нам потребовалось около трех часов. И после каждой сцены целая команда программистов принималась бешено стучать на своих лэптопах, меняя что-то в его программе. Да, ASIMO может разговаривать с вами на нескольких языках, но на самом деле все это заранее записанные кусочки звукозаписи. Робот просто следует программе и повторяет, как попугай, то, что подготовлено человеком. Хотя с каждым годом поведение ASIMO становится все более сложным, робот пока совершенно не способен самостоятельно мыслить. Каждое его слово, каждый жест, каждый шаг должны быть тщательно отрепетированы и запрограммированы.

После съемок у меня состоялся достаточно откровенный разговор с одним из изобретателей ASIMO, и он признал, что робот, несмотря на поразительно человекоподобные движения и действия, обладает разумом в лучшем случае насекомого. Большую часть его движений необходимо тщательно программировать заранее. Он умеет ходить почти по-человечески, но его маршрут необходимо тщательно планировать, иначе робот будет натыкаться на мебель и другие предметы — ведь он не может по-настоящему распознавать объекты.

Так что даже обычный таракан во многом превосходит нашего робота. Он умеет распознавать объекты, огибать препятствия, искать пищу и партнеров, избегать хищников, планировать сложные пути отхода, прятаться в тенях и исчезать в трещинах — и все в течение нескольких секунд.

Исследователь ИИ Томас Дин (Thomas Dean) из Университета Брауна признал, что неуклюжие роботы, которых он строит, находятся сейчас «ровно на той стадии, что могут пройти по залу и не снести по пути половину штукатурки со стен».

Позже мы увидим, что самые мощные наши компьютеры едва-едва могут имитировать работу нейронов мыши, и то лишь на несколько секунд. Потребуется немало десятилетий тяжкой работы, прежде чем роботы по интеллекту сравняются с мышью, кроликом, собакой или кошкой и лишь затем с обезьяной.

Критики иногда указывают на интересную закономерность: каждые 30 лет специалисты по искусственному интеллекту заявляют, что сверхразумные роботы вот-вот будут созданы. Затем, когда действительность останавливает их порыв, наступает реакция.

В 1950-х, когда после окончания Второй мировой войны появились электронные компьютеры, ученые поражали публику невероятными, чудесными достижениями умных машин: автоматы брали и перекладывали кубики, играли в шашки и даже решали задачки по алгебре. Казалось, еще чуть-чуть — и появятся по-настоящему разумные машины. Публика поражалась. Вскоре в журналах появились статьи, в которых авторы с придыханием рассказывали о недалеких временах, когда в каждой кухне появится по роботу; машины будут готовить обед и убираться в доме. В 1965 г. пионер ИИ Герберт Саймон (Herbert Simon) заявил: «Через двадцать лет машины смогут делать любую работу, которую может делать человек». Но затем действительность вступила в свои права. Шахматные компьютеры проигрывали гроссмейстерам, да и умели они только играть в шахматы, ничего больше. Вообще, первые роботы напоминали цирковых пони, каждый из которых умеет выполнять всего один несложный трюк, чем и занимается на каждом представлении.

На самом деле в 1950-х гг. в области искусственного интеллекта было сделано немало настоящих прорывов, но вокруг роботов была поднята такая шумиха, а их перспективы оказались так раздуты, что вскоре наступила неизбежная реакция.

В 1974 г. под громкий хор критики правительства США и Великобритании прекратили финансирование этих разработок.

Началась первая «зима» ИИ.

Сегодня исследователь ИИ Пол Абрахамс (Paul Аbгаhams) качает головой, вспоминая пьянящие 1950-е, когда он был студентом MIT и все — решительно все! — казалось возможным. Он вспоминает: «Это как если бы группа людей предложила построить башню до Луны. Каждый год эти люди показывали бы с гордостью, насколько их башня стала выше по сравнению с прошлым годом. Вот только до Луны оставалось бы все также далеко».

В 1980-х интерес и энтузиазм по отношению к ИИ вспыхнули вновь. На этот раз Пентагон вложил миллионы долларов в такие проекты, как умный вездеход, который должен был ездить в тылу противника, проводить разведку, спасать американских солдат и возвращаться к своим — и все это сам по себе.

А японское правительство даже поддержало амбициозный проект создания компьютера пятого поколения, инициированный Министерством международной торговли и промышленности. Целью проекта было, помимо всего прочего, создание компьютерной системы, способной общаться на разговорном языке, рассуждать и даже предугадывать наши желания — и все к началу 1990-х.

К сожалению, единственное, что сумел сделать умный вездеход, — это потеряться. А проект компьютера пятого поколения после громкой шумихи был потихоньку закрыт без всяких объяснений. Как и прежде, риторика намного обогнала действительность. На самом деле и в 1980-х в области ИИ были реальные достижения, но, поскольку ожидания общества намного превосходили реальные возможности науки, вскоре вновь наступила реакция. Началась вторая «зима» ИИ, когда ручейки финансирования вновь пересохли, а разочарованные специалисты во множестве уходили из отрасли. Стало очевидно, что идее искусственного интеллекта чего-то недостает.

В 1992 г. специалисты по ИИ со смешанными чувствами отметили особую дату, связанную с фильмом «2001 год: космическая одиссея», где свихнувшийся компьютер по имени HAL 9000 убивает участников межпланетной экспедиции. В фильме, снятом в 1968 г., говорилось, что к 1992 г. появятся роботы, способные свободно беседовать с человеком почти на любую тему, а также управлять космическим кораблем. Увы, в реальности было ясно, что наши самые продвинутые роботы способны состязаться в разумности разве что с тараканом, и то безуспешно.

В 1997 г. компьютер Deep Blue от IBM совершил исторический прорыв — он уверенно побил чемпиона мира по шахматам Гарри Каспарова. Deep Blue представлял собой чудо инженерной мысли и производил 11 млрд операций в секунду. Но вместо того, чтобы открыть все шлюзы, придать новое ускорение исследованиям в области искусственного интеллекта и начать новую эру, этот компьютер сделал прямо противоположное. Его достижение лишь подчеркнуло примитивность современных ИИ-исследований. По здравому размышлению можно было сделать очевидный вывод: Deep Blue не способен мыслить. Да, этот робот великолепен в шахматах, но тест на коэффициент интеллекта принес бы ему 0 баллов. После исторической победы с прессой общался только проигравший Каспаров — ведь Deep Blue не умеет разговаривать. Медленно и неохотно ученые начали осознавать неприятный факт: вычислительные мощности — это еще не разум. Специалист по ИИ Ричард Хеклер (Richard Heckler) говорит: «Сегодня можно купить за 49 долларов шахматную программу, которая выиграет у любого гроссмейстера, но никому же не придет в голову считать ее разумной».

Но по закону Мура каждые полтора года появляется новое поколение компьютеров, и рано или поздно нынешний пессимизм забудется. Придет новое поколение энтузиастов и возродит дремлющие в этой области оптимизм и энергию. За тридцать лет, прошедшие с начала предыдущей ИИ-«зимы», прогресс в компьютерной области был достаточным, чтобы следующее поколение исследователей вновь начало делать оптимистические прогнозы на будущее. Наконец пришло время настоящего искусственного интеллекта, говорят его сторонники. На этот раз все будет по-настоящему. Третья попытка приносит удачу. Но если они правы, то не приходит ли человечеству конец?

Теперь математики понимают, что пятьдесят лет назад сделали принципиальную ошибку: решили, что мозг во всем подобен большому цифровому компьютеру. Сегодня совершенно очевидно, что это не так. В мозгу нет ни процессора Pentium, ни операционной системы Windows, ни программ-приложений — вообще нет никаких программ и подпрограмм, столь характерных для современного цифрового компьютера. На самом деле архитектура цифрового компьютера совершенно не похожа на архитектуру мозга; мозг — самообучающаяся машина, набор нейронов, связи между которыми обновляются всякий раз с получением нового задания. (А PC учиться не умеет, и ваш компьютер сегодня столь же туп, как был вчера.)

Исходя из сказанного, существует два подхода к моделированию мозга. Первый из них — традиционный подход «сверху вниз» — состоит в том, чтобы рассматривать роботов как цифровые компьютеры и с самого начала пытаться запрограммировать все правила, позволяющие нам быть разумными. А любой цифровой компьютер может быть сведен к так называемой «машине Тьюринга» — гипотетическому устройству, предложенному великим британским математиком Аланом Тьюрингом. Машина Тьюринга состоит из трех основных элементов: входа, Центрального процессора, который «переваривает» поступающую информацию, и выхода. Все без исключения цифровые компьютеры построены на базе этой простой модели. Цель такого подхода — изготовить CD-ROM, на котором были бы записаны в формализованном виде все правила разумности. Стоит вставить такой диск в дисковод — и компьютер внезапно оживает и становится разумным. По сути дела, такой мифический CD-ROM содержал бы все программное обеспечение, необходимое для создания думающих машин.

Однако в нашем мозгу нет ни программирования, ни программного обеспечения. Мозг больше похож на «нейронную сеть» — сложную систему нейронов, которые постоянно устанавливают между собой новые связи.

Нейронные сети подчиняются правилу Хебба: всякий раз, когда принимается верное решение, соответствующие нейронные связи укрепляются — всякий раз, когда нейроны успешно выполняют задание, определенные электрические связи между ними усиливаются. (Правило Хебба можно выразить ответом на известный вопрос: как музыканту попасть в Карнеги-холл? Ответ на него тоже известен: практика, практика и еще раз практика. В случае нейронной сети практика — путь к совершенству. Правило Хебба объясняет также, почему так трудно избавляться от дурных привычек — ведь нейронные связи, задействованные в них, весьма утоптаны.)

Нейронные сети построены на базе другого подхода — «снизу вверх». Вместо того чтобы получить все правила разумности готовыми, на блюдечке с голубой каемочкой, нейронные сети осваивают их самостоятельно; так младенец постигает окружающий мир, натыкаясь на все подряд и обучаясь на собственном опыте. Нейронные сети, вместо того чтобы пользоваться готовыми программами, учатся старым проверенным методом проб и ошибок.

Нейронные сети построены совершенно иначе, чем цифровые компьютеры. Если убрать из центрального процессора цифрового компьютера один-единственный транзистор, компьютер перестанет работать. Однако если удалить из человеческого мозга приличный кусок, мозг все же будет функционировать; функции утраченных частей возьмут на себя оставшиеся. Кроме того, можно точно сказать, где в цифровом компьютере происходит «мыслительный процесс»: в центральном процессоре. Однако результаты сканирования человеческого мозга ясно показывают, что процесс мышления распределен по значительной части объема мозга. Различные зоны включаются в строгой последовательности, как будто мысли надо отбивать, подобно шарикам в пинг-понге.

Цифровой компьютер способен производить вычисления со скоростью, близкой к скорости света. Человеческий мозг по сравнению с ним работает невероятно медленно. Нервные импульсы движутся со скоростью всего лишь около 100 м/с. Но мозг более чем компенсирует этот недостаток, поскольку огромное число процессов в нем происходят параллельно. Это означает, что в нем одновременно работает 100 млрд нейронов, каждый из которых производит крохотную часть «вычисления», и каждый нейрон при этом связан с 10 000 других нейронов. И этот сверхмедленный параллельный процессор легко оставит позади сверхбыстрого одиночку. (Здесь можно вспомнить старую загадку: если одна кошка может съесть одну мышь за одну минуту, то за какое время миллион кошек сможет съесть миллион мышей? Ответ: за одну минуту.)

Ну и помимо всего прочего, мозг — не цифровое устройство. Транзисторы — это ворота, которые могут быть либо открыты, либо закрыты, что соответствует единице или нулю. Нейроны тоже представляют собой цифровые устройства (нейрон либо срабатывает, либо нет), но они могут быть и аналоговыми, т. е. передавать как дискретные, так и непрерывные сигналы.

Учитывая очевидные ограничения компьютеров по сравнению с человеческим мозгом, несложно понять, почему нам до сих пор не удается научить компьютеры решать две ключевые задачи, которые человеческий мозг выполняет автоматически, без всякого труда. Эти задачи — распознавание образов и следование здравому смыслу — уже более полувека не даются ученым. Именно поэтому в основном у нас до сих пор нет роботов-горничных, роботов-дворецких и роботов-секретарей.

Первая из названных задач — задача распознавания образов. Роботы видят намного лучше человека, но не понимают, что видят. Входя в комнату, робот раскладывает ее изображение на множество цветных точек, а затем, обрабатывая точки, получает набор линий, окружностей, квадратов и прямоугольников. После этого робот пытается соотнести полученную мешанину деталей по очереди с каждым из объектов, хранящихся в его памяти, — чрезвычайно нудная задача даже для компьютера. После многих часов вычислений ему, может быть, удастся соотнести линии на картинке со стульями, столами и людьми, находящимися в комнате. В отличие от роботов, мы, входя в комнату, за долю секунды схватываем взглядом стулья, письменные столы и людей. В самом деле, человеческий мозг — это по сути машина для распознавания образов.

Кроме того, у роботов нет здравого смысла. Роботы могут слышать намного лучше, чем люди, но они не понимают, что слышат. Рассмотрим, к примеру, следующие утверждения.

•Дети любят сладости, но не любят наказания.

•За веревку можно тянуть, но нельзя толкать.

•Палкой можно толкать, но нельзя тянуть.

•Животные не умеют говорить и не понимают по-английски.

•От вращения у человека может закружиться голова.

Для нас каждое из этих утверждений очевидно и проистекает из обычного здравого смысла. У роботов все не так. Не существует ни одного положения логики, ни одной строки программного кода, в которых бы утверждалось, что бечевкой ничего нельзя толкнуть. Сами мы убедились в истинности этих и многих других «очевидных» утверждений на опыте, их никто не вкладывал в готовом виде нам в память.

При подходе «сверху вниз» основная проблема заключается в том, что для программирования человеческого здравого смысла, необходимого для имитации нашего мышления, потребовалось бы слишком много строк кода. К примеру, на описание принципов здравого смысла в объеме, доступном шестилетнему ребенку, ушли бы сотни миллионов строк. Ганс Моравек (Hans Moravec), бывший начальник лаборатории искусственного интеллекта в Университете Карнеги-Меллон, жалуется: «До сего дня программы ИИ не способны продемонстрировать ни крупицы здравого смысла. К примеру, медицинская диагностическая программа способна прописать антибиотик, если предложить ей для исследования сломанный велосипед. Дело в том, что у нее нет ни модели человека, ни модели болезни, ни модели велосипеда».

Тем не менее некоторые ученые упрямо верят, что единственное препятствие к овладению здравым смыслом — недостаток вычислительных мощностей. Они считают, что масштабный национальный проект наподобие Манхэттенского (в рамках которого была создана атомная бомба) наверняка смог бы преодолеть все препятствия и решить для роботов проблему здравого смысла. В 1984 г. была запущен проект под названием CYC, призванный создать «энциклопедию мысли» для роботов. Однако за прошедшие с тех пор несколько десятилетий все усилия участников проекта не увенчались сколько-нибудь серьезным успехом.

Цель проекта CYC была проста: освоить «100 млн вещей — примерно столько, сколько знает о мире средний человек, — к 2007 г.». Этот срок, как и несколько предыдущих, пришел и прошел, а успех так и не был достигнут. В ходе работы были Достигнуты многие формальные рубежи из тех, что намечали для себя инженеры CYC, но ученым и по сей день не удалось ни па шаг приблизиться к овладению основами разума.

Однажды мне довелось помериться мыслями с роботом — принять участие в интеллектуальном состязании с машиной Томазо Поджо (Tomaso Poggio) из MIT. Роботы не способны распознавать простые образы, как это делаем мы, но Поджо сумел создать компьютерную программу, которая может потягаться по скорости с человеком в одной достаточно специфической области: в «мгновенном распознавании». Речь идет об уникальной способности человека мгновенно, даже не сознавая того, узнать объект. (Мгновенное распознавание играло важную роль в эволюции человека — ведь у наших предков была лишь доля секунды на то, чтобы обнаружить притаившегося в кустах тигра, а осознать и обдумать этот факт можно было и потом.) Первое время робот Поджо стабильно набирал в особом визуальном тесте больше баллов, чем человек-участник.

Состязание между мной и машиной выглядело очень просто. Я садился в кресло и некоторое время вглядывался в обычный компьютерный экран. Затем на экране на долю секунды мелькала картинка, а я должен был как можно быстрее нажать одну из двух кнопок — показать, вижу я на картинке какое-нибудь животное или нет. Решение нужно было принимать как можно быстрее — не дожидаясь восприятия картинки сознанием. Компьютер должен был принять по той же картинке аналогичное решение.

Стыдно признаться, но после множества тестов результаты машины и мои оказались примерно одинаковыми. Но иногда машина работала значительно лучше и оставляла меня далеко позади. Я проиграл компьютеру. (Единственным утешением было то, что, как мне сказали, компьютер дает правильный ответ в 82 % случаев, а человек в среднем лишь в 80 %.)

Ключ к успеху программы Поджо в том, что в ней использованы уроки матери-природы. Многие ученые только сейчас начинают понимать истинность утверждения «Колесо уже изобретено, почему бы не скопировать его?». Приведем пример.

Обычно робот, глядя на картинку, пытается разложить ее на элементы и представить как совокупность линий, кругов, квадратов и других геометрических форм. А вот робот Поджо действует иначе.

Человек, глядя на картинку, сначала воспринимает контуры объектов, затем детали внутри каждого объекта, затем оттенки внутри деталей и т. д. Таким образом, мы как бы расщепляем изображение на множество слоев. Компьютер, обработав один слой изображения, объединяет его со следующим и включает в общую картину. Так, шаг за шагом, слой за слоем, он имитирует иерархическую обработку изображения, которую использует наш мозг. (Программе Поджо недоступны невероятные возможности распознавания образов, которые мы с вами воспринимаем как нечто само собой разумеющееся, — трехмерная визуализация, распознавание тысяч объектов под самыми разными углами и т. д., — но все же нельзя не признать, что это серьезное достижение.)

Позже мне довелось увидеть в действии оба подхода к созданию ИИ. Сначала я побывал в Центре искусственного интеллекта Стэнфордского университета и встретился с роботом STAIR (Stanford artificial intelligence robot), созданным на базе традиционного подхода. STAIR — робот ростом около 120 см с огромной механической рукой на шарнирах. Этой рукой робот может брать со стола предметы. Кроме того, STAIR мобилен и может самостоятельно передвигаться по офису или жилищу. У него есть 3D-камера, которая фокусируется на объекте и подает в компьютер его трехмерное изображение, при помощи которого механическая рука может правильно захватить объект. Вообще, роботы научились брать объекты еще в 1960-х гг., и вскоре такие роботы появились на автомобильных заводах Детройта.

Но внешность обманчива. STAIR способен на большее. В него, в отличие от детройтских роботов, не заложен жесткий сценарий. Он действует сам по себе. Если вы, к примеру, попросите робота взять апельсин, то он проанализирует лежащие на столе предметы, сравнит их с тысячами изображений, заранее заложенных в его память, узнает апельсин и поднимет его со стола своей механической рукой. Кроме того, он способен идентифицировать предмет более точно, если возьмет в руку и будет поворачивать и рассматривать со всех сторон.

Чтобы проверить возможности STAIR, я перемешал предметы на столе и посмотрел, как робот будет действовать. STAIR корректно проанализировал новое расположение предметов, протянул руку и взял то, что я попросил. Создатели этого робота ставят перед собой цель научить его свободно передвигаться в доме или офисе, брать различные предметы, взаимодействовать с различными объектами и инструментами и даже разговаривать с людьми на упрощенном языке. Если это удастся, робот будет способен выполнять практически все функции, которые выполняет в офисе мальчик на побегушках. STAIR — образец подхода «сверху вниз»: все его действия запрограммированы от начала и до конца. (Хотя STAIR может распознавать предметы под разными углами, но количество предметов, которые он вообще способен распознать, пока ограничено. Окажись такой робот на улице в окружении случайных объектов, он будет мгновенно парализован.)

Позже у меня появилась возможность посетить Нью-Йоркский университет, где Янн ЛеКун (Yann LeCun) экспериментирует с совершенно другим созданием. Его робот носит имя LAGR (Learning applied to ground robots — обучение в приложении к наземным роботам) и представляет собой образец подхода «снизу вверх»: ему приходится учиться всему с нуля, натыкаясь на самые разные предметы. LAGR — робот размером с маленький гольф-мобильчик, оборудованный двумя цветными стереокамерами; он постоянно сканирует ландшафт и распознает встречающиеся предметы. После этого он начинает двигаться среди этих предметов, старательно их объезжая и узнавая что-то новое с каждым проездом. Робот оборудован GPS-приемником и имеет два инфракрасных датчика, способные засекать предметы на его пути. Он содержит три мощных процессора Pentium и подсоединен к гигабитной сети Ethernet. Мы с роботом отправились гулять по близлежащему парку, где LAGR учился объезжать возникающие на его пути помехи. Каждый раз, проходя маршрут, он приобретал новую сноровку и учился лучше обходить препятствия.

Между LAGR и STAIR есть очень важное различие, состоящее в том, что LAGR специально разработан для самообучения. Каждый раз, наталкиваясь на какое-то препятствие, он объезжает вокруг этого объекта и учится узнавать и миновать его, чтобы в следующий раз не натолкнуться. Если в памяти STAIR хранятся изображения тысяч предметов, то в памяти LAGR нет практически никаких изображений; вместо этого робот создает как бы мысленную карту всех встреченных препятствий и на каждом проходе обновляет и уточняет ее. В отличие от автомобиля-робота, который жестко запрограммирован и движется по маршруту, заранее проложенному для него при помощи системы GPS, LAGR движется совершенно самостоятельно, без всяких указаний со стороны человека. Вы говорите ему, куда двигаться, и он пускается в путь. Со временем подобных роботов можно будет обнаружить на Марсе, на поле боя и в наших жилищах.

Энтузиазм и энергия этих исследователей произвели на меня сильное впечатление. Сами они глубоко убеждены, что закладывают основы искусственного интеллекта и что когда-нибудь результаты их работы вызовут в обществе глобальные изменения, которые человечество сегодня только начинает осознавать. Но взгляд со стороны позволил мне увидеть, как далеко им еще до успеха. Даже тараканы способны распознавать предметы и учиться обходить их. Мы же пока находимся на той стадии, когда даже самые примитивные из созданий матери-природы способны победить в состязании с нашими самыми умными роботами.

Сегодня во многих домах уже появились простые роботы, предназначенные для чистки ковров. Существуют также роботы-охранники, патрулирующие здания по ночам, роботы-экскурсоводы и роботы-рабочие. В 2006 г. было примерно подсчитано, что в мире существует 950 000 промышленных роботов, а в домах и офисах работает 3 540 000 обслуживающих роботов. В ближайшие десятилетия робототехника будет развиваться в нескольких направлениях, возможно неожиданных, но новые роботы не будут похожи на тех, что знакомы нам по научной фантастике.

Самые большие успехи, скорее всего, будут достигнуты в области так называемых экспертных систем — компьютерных программ, заключающих в себе мудрость и опыт человечества. Как уже говорилось в предыдущей главе, однажды мы, вероятно, получим возможность поговорить с Интернетом на настенном экране и увидеть доброжелательное лицо и получить совет от рободоктора или робоюриста.

Эта область называется эвристикой и сводится к следованию некоей системе формальных правил. К примеру, планируя туристическую поездку, вы обратитесь к лицу на настенном интернет-экране и сообщите всю необходимую информацию: длительность поездки, пункт назначения, отели, ценовой диапазон. При этом экспертная система по опыту прошлых поездок будет заранее знать ваши основные предпочтения; она свяжется с отелями, авиакомпаниями и т. п. и предложит вам наилучшие условия. Но при разговоре с ней вам придется пользоваться не свободной разговорной речью, а довольно формальным стилизованным языком, понятным компьютеру. Такая система сможет быстро выполнять множество полезных задач. Вы будете просто отдавать приказы; она сама зарезервирует для вас столик в ресторане, найдет ближайшие магазины, закажет продукты, забронирует авиабилет и т. п.

Именно благодаря успехам эвристики в последние десятилетия у нас сегодня есть простые поисковые системы, которыми так удобно пользоваться. Но это довольно грубые системы. Каждому пользователю очевидно, что он имеет дело не с человеком, а с машиной. В будущем, однако, роботы станут настолько изощренными, что будут вести себя почти по-человечески и свободно работать с нюансами и сложными запросами.

Может быть, самые практичные приложения будут созданы в области здравоохранения. К примеру, если сегодня вы почувствуете себя плохо, вам придется не один час просидеть в приемной службы экстренной помощи, прежде чем удастся попасть к врачу. В недалеком будущем в подобной ситуации вы, вероятно, сможете просто подойти к настенному интернет-экрану и поговорить с рободоктором, одним нажатием кнопки поменять лицо — и даже личность — собеседника на экране. Это симпатичное лицо, которое по запросу будет всякий раз появляться на вашем экране, задаст вам ряд несложных вопросов («Как вы себя чувствуете?», «Где болит?», «Когда начались боли?», «Как часто они возникают?»).

Каждый раз, отвечая на вопрос, вы будете выбирать один из представленных на экране вариантов. Вам не придется печатать ответ на клавиатуре, достаточно будет произнести его вслух.

Каждый из ваших ответов, в свою очередь, будет вызывать очередную группу вопросов. После вопросов и ответов рободоктор, опираясь на опыт лучших врачей мира, сможет поставить вам диагноз. Помимо ваших ответов, рободоктор будет анализировать данные из вашей ванной, с вашей одежды и мебели, которые непрерывно контролируют ваше здоровье через чипы — ДНК-анализаторы. И не исключено, что он попросит вас проверить себя при помощи портативного магнитно-резонансного томографа, данные с которого будут затем обработаны суперкомпьютером. (Примитивные версии подобных эвристических программ уже существуют — к примеру, WebMD, — но им не хватает нюансов и полной мощи эвристических алгоритмов.)

Таким образом, можно будет исключить большую часть визитов к врачу и значительно ослабить нагрузку на систему здравоохранения. Если проблема окажется серьезной, рободоктор порекомендует вам поехать в больницу, где врачи-люди смогут обеспечить вам интенсивное лечение и уход. Но даже там вы столкнетесь с программами ИИ в виде роботов-сиделок, похожих на ASIMO. Эти роботы-сиделки не будут в полном смысле разумными, но смогут передвигаться из одной больничной палаты в другую, раздавать пациентам назначенные лекарства и обеспечивать другие их потребности. Может быть, они будут двигаться по проложенным в полу рельсам, может быть, независимо, как ASIMO.

Единственный на данный момент существующий робот-сиделка — мобильный робот RP-6, которого начинают использовать в некоторых больницах, таких как медицинский центр Университета Калифорнии в Лос-Анджелесе. В основе своей это телеэкран мобильного компьютера, который передвигается на роликах. На телеэкране вы видите лицо настоящего врача, который в это время может находиться на расстоянии многих миль от больницы. Робот оборудован видеокамерой, которая позволяет врачу видеть то, на что он смотрит. Есть также микрофон, чтобы врач мог разговаривать с пациентом. Врач может управлять роботом дистанционно при помощи джойстика, может общаться с пациентами, наблюдать за приемом лекарств и т. д. Известно, что в год в США в отделения интенсивной терапии поступает 5 млн пациентов, но на них приходится всего 6000 врачей, достаточно квалифицированных, чтобы лечить критически больных. Поэтому роботы, подобные RP-6, могли бы смягчить кризис системы экстренной помощи, где на одного врача приходится множество пациентов. В будущем такие роботы, возможно, станут более автономными, научатся самостоятельно ориентироваться в здании больницы и общаться с пациентами.

Япония — один из бесспорных лидеров в этой области техники. Эта страна тратит на роботов немалые средства, стремясь смягчить грядущий кризис системы здравоохранения. Пожалуй, не стоит удивляться тому, что именно Япония стала одной из ведущих стран в области робототехники. Причин тому несколько. Во-первых, в синтоизме считается, что у неодушевленных предметов тоже есть своя духовная сущность. Даже у механических устройств. На Западе дети иногда плачут и кричат от ужаса при виде роботов, что неудивительно после просмотра многочисленных фильмов о бешеных машинах-убийцах. Но для японских детей роботы — это родственные души, игривые и всегда готовые помочь. В японских универмагах покупателей нередко встречает робот-рецепционист. Вообще, 30 % всех коммерческих роботов мира работают именно в Японии.

Во-вторых, Японии в данный момент угрожает демографический кошмар. Население этой страны стареет быстрее всех в мире. Уровень рождаемости упал до невероятной цифры — всего 1, 2 ребенка на семью, а иммиграции в Японии практически нет. Некоторые демографы говорят, что мы сейчас наблюдаем крушение поездов в замедленном темпе: один демографический поезд (стареющее население и падение уровня рождаемости) в ближайшие годы столкнется с другим (низкий уровень иммиграции). Наиболее остро все эти явления будут протекать в области здравоохранения и медицины, где ASIMO-подобные роботы-сиделки могут оказаться очень полезными. Такие роботы идеально подходят для больничных задач, таких как доставка медикаментов и приборов, раздача лекарств и круглосуточное наблюдение за пациентами.

К середине века в нашем мире будет полно роботов, причем мы, возможно, не будем их даже замечать. Дело в том, что большинство роботов, вероятно, не будет похоже на человека внешне. Они будут скрыты из виду, замаскированы под змей, насекомых и пауков, выполняющих неприятные, но очень важные задачи. Это будут модульные роботы, способны менять форму в зависимости от задания.

Мне довелось встретиться с одним из пионеров в этой области. Вэйминь Шэнь (Weimin Shen) из Университета Южной Калифорнии намеревается создавать небольшие кубические модули, которые можно заменять столь же легко, как кубики Lego, и соединять произвольным образом. Он называет свои создания полиморфными роботами, поскольку они способны изменять форму, геометрию и функции. Оказавшись в его лаборатории, я мгновенно увидел разницу между его подходом к робототехнике и подходом Стэнфорда и MIT. На первый взгляд обе эти лаборатории напоминали игровую комнату. Всюду, куда ни посмотри, можно было увидеть всевозможные роботизированные «игрушки» с чипами внутри и некоторой долей интеллекта. Рабочие столы были завалены самолетами, вертолетами, вездеходами и насекомовидными роботами с процессорами внутри, и все это было способно самостоятельно двигаться. Каждый робот в этих лабораториях — это независимая самодостаточная единица.

Но, входя в лабораторию Университета Южной Калифорнии, видишь нечто совершенно иное. Всюду стоят коробки с кубиками размером около 5 см, которые можно соединять или разделять и из которых можно собирать различные «существа», напоминающие животных. Можно собрать змею, способную проползти по проведенной линии. Или кольцо, которое будет кататься наподобие обруча. Затем можно изогнуть цепочку кубиков или соединить их между собой при помощи Y-образных «суставов» — и получатся совершенно новые устройства, напоминающие осьминогов, пауков, собак или кошек. Представьте себе разумный набор Lego, где каждый кубик обладает интеллектом, а все вместе они способны организоваться в любую конфигурацию, какую только можно вообразить.

Это свойство могло бы оказаться полезным для проникновения через преграды. Представьте себе паукообразного робота, который пробирается по канализационной системе и встречает на пути стенку. Первым делом он осматривает ее и находит хотя бы небольшое отверстие; затем он разбирает себя на модули. Каждый блок в отдельности протискивался бы через отверстие, а с другой стороны все они вновь собирались бы вместе. Модульного робота почти невозможно будет остановить, ведь он сможет преодолевать таким образом почти любые препятствия.

Очень может быть, что без модульных роботов нам уже скоро не удастся поддерживать в рабочем состоянии разрушающиеся объекты инфраструктуры. К примеру, в 2007 г. рухнул мост через Миссисипи в Миннеаполисе; погибли 13 и пострадали 145 человек. Причиной катастрофы, судя по всему, были возраст моста, перегрузки и изначальные недостатки проекта. Можно предположить, что нас ждут сотни подобных инцидентов по всей стране, но непрерывно наблюдать за каждым старым мостом попросту слишком дорого. Именно здесь могут пригодиться модульные роботы; они будут молча и незаметно проверять мосты, дороги, тоннели, трубы и электростанции и при необходимости даже ремонтировать их. (К примеру, мосты, ведущие в нижнюю часть Манхэттена, сильно пострадали от коррозии и небрежения; их не ремонтировали много лет. Один рабочий обнаружил бутылку из-под кока-колы 1950-х гг., оставленную после последней покраски конструкции. Более того, одна из секций стареющего Манхэттенского моста недавно пришла в аварийное состояние и едва не обвалилась, так что мост пришлось закрыть на ремонт.)

Роботы могут быть не только поварами и музыкантами, но и хирургами. К примеру, одно из важных требований в хирургии — ловкость и точность человеческой руки. Хирурги, как и простые смертные, устают в ходе многочасовых операций, эффективность их действий падает. У них начинают дрожать пальцы. Не исключено, что эти проблемы удастся решить при помощи роботов.

Так, при традиционной хирургической операции коронарного шунтирования делается разрез длиной около 30 см в середине груди, что, естественно, можно делать только под общим наркозом. Вскрытие грудной клетки увеличивает вероятность инфекции и продолжительность послеоперационного периода, порождает сильные боли и дискомфорт в процессе заживления и к тому же оставляет уродливый шрам. Но все эти негативные явления можно сильно уменьшить при помощи роботизированной хирургической системы, известной как да Винчи. Робот да Винчи имеет четыре механизированные руки — при помощи одной он манипулирует видеокамерой, остальные три предназначены для точнейших хирургических операций. Вместо длинного разреза груди робот делает лишь несколько крохотных разрезиков на боку. В настоящее время эту систему используют 800 больниц в Европе, Северной и Южной Америке; только в 2006 г. с ее помощью было проведено 48 000 операций. Мало того, операцию можно проводить удаленно через Интернет, так что хирург мирового класса может, не выезжая из крупного города, прооперировать пациента в далекой деревне на другом материке.

В будущем более продвинутые версии подобных систем научатся проводить операции на микроскопических кровеносных сосудах, нервных волокнах и других тканях при помощи микроскопических скальпелей, пинцетов и игл, что сегодня невозможно. Более того, в будущем хирург, вероятно, практически не будет делать разрезов на коже пациента. Нормой станет неинвазивная хирургия.

Эндоскопы (длинные трубки, вводимые в тело, при помощи которых можно освещать тело изнутри и резать ткани) станут тоньше обычной нити. Большую часть механической работы будут осуществлять микромашины размером с точку в конце этого предложения. (Вспомним, как в одном из эпизодов оригинального «Звездного пути» доктор Маккой с отвращением говорил о том, что в XX в. врачам приходилось вскрывать кожные покровы.) Недалек день, когда все это станет реальностью.

Студенты-медики в будущем будут учиться вскрывать трехмерные виртуальные изображения человеческого тела, причем каждое движение руки будет воспроизводиться роботом в соседней комнате.

Японцы, помимо всего прочего, достигли немалых успехов в разработке роботов, способных общаться с человеком. В Нагое есть робот-повар; он может за несколько минут приготовить вам стандартный обед из меню заведений быстрого питания. Вы просто выбираете в меню блюда, и робот-повар тут же, в вашем присутствии, готовит их. Этот робот, построенный компанией Aisei (ее основная продукция — промышленные роботы), способен приготовить порцию лапши за 1 минуту 40 секунд и обслужить за день до 80 клиентов. Внешне робот-повар очень похож на роботов, которые работают в Детройте на автомобильных сборочных линиях. У него есть две большие механические руки, все движения которых точно запрограммированы. Но вместо того, чтобы закручивать гайки и сваривать металл на заводе, его механические пальцы берут в определенном порядке ингредиенты из специальных мисочек (гарнир, мясо, мука, соусы, специи и т. п.). Механические руки смешивают все в нужных пропорциях, а затем собирают готовый сэндвич, салат или суп. Повар фирмы Aisei выглядит как робот и напоминает две гигантские руки, торчащие из кухонной стойки. Но планируется, что следующие модели будут более человекоподобными.

Фирма Toyota, тоже в Японии, создала робота, который умеет играть на скрипке почти так же хорошо, как любой профессионал. Этот робот напоминает ASIMO, но ведет себя иначе: он способен брать скрипку, раскачиваться в такт музыке, а затем точно и аккуратно играть сложные скрипичные пьесы. Звук получается поразительно реалистичным; кроме того, робот, как любой талантливый музыкант, склонен к величественным жестам. Хотя уровень исполнительского мастерства робота-скрипача пока не дотягивает до концертного, он все же достаточно хорош, чтобы развлечь аудиторию. Конечно, еще в позапрошлом веке существовали механические пианино, которые исполняли фортепианные мелодии, записанные на большом вращающемся диске. Робот фирмы Toyota запрограммирован, как и эти механические устройства. Но разница в том, что робот специально разработан таким образом, чтобы как можно реалистичнее имитировать все движения и позы скрипача-человека.

И еще о музыке. В японском Университете Васэда ученые разработали робота-флейтиста. В его груди есть специальные полости, куда, как в легкие, закачивается воздух; затем этот воздух струйкой выходит наружу и извлекает звуки из настоящей флейты. Этот робот способен играть довольно сложные мелодии, такие как «Полет шмеля». Следует подчеркнуть, что роботы-музыканты не могут сочинять новую музыку, но в исполнительстве они вполне способны стать человеку соперниками.

Робот-повар и робот-музыкант тщательно запрограммированы. Они не автономны. В сравнении со старыми механическими пианино современные роботы, конечно, невероятно сложны, но, если разобраться, действуют они на тех же принципах. До настоящих роботов-горничных и роботов-дворецких пока еще очень далеко. Не исключено, однако, что «потомки» описанных роботов — повара, скрипача и флейтиста — когда-нибудь прочно войдут в нашу жизнь и будут исполнять в ней функции, которые прежде считались исключительно человеческими.

Вполне возможно, что к середине столетия наступит эра эмоциональных роботов.

В прошлом писатели нередко фантазировали о роботах, которые мечтают стать людьми и обрести эмоции. В «Пиноккио» деревянная марионетка хотела стать настоящим мальчиком. В «Волшебнике Изумрудного города» Железный Дровосек мечтал обрести сердце. А в сериале «Звездный путь: Новое поколение» андроид Дейта пытался овладеть эмоциями, рассказывая анекдоты и вычисляя, что в них заставляет людей смеяться. Вообще говоря, одна из распространенных тем научной фантастики — утверждение, что, хотя роботы будут становиться все умнее, суть эмоций всегда будет ускользать от них. Когда-нибудь роботы станут умнее нас, говорят некоторые писатели-фантасты, но они никогда не научатся плакать.

На самом деле это утверждение, скорее всего, неверно. Сегодня ученые уже далеко продвинулись в понимании истинной природы эмоций. Во-первых, эмоции сообщают нам, что для нас полезно, а что вредно. Подавляющее большинство вещей в мире либо вредно, либо практически бесполезно для человека. Если нам что-то «нравится», значит, это что-то принадлежит к той крохотной доле вещей и явлений окружающего мира, которые для нас благоприятны. Соответствующая эмоция учит нас узнавать такие вещи.

Вообще говоря, все наши эмоции (ненависть, ревность, страх, любовь и т. п.) появились миллионы лет назад в результате эволюции и призваны были защитить наших предков от опасностей враждебного мира и помочь в воспроизводстве. Все они помогают человеку как можно шире распространить свои гены в следующем поколении.

Принципиальная важность эмоций в эволюции человека подтверждается современными исследованиями. Невролог Антонио Дамасио (Antonio Damasio) из Университета Южной Калифорнии занимается изучением людей, пострадавших от травмы или болезни мозга. У некоторых его пациентов нарушена связь между рациональной, мыслительной частью головного мозга (корой) и эмоциональным центром (миндалевидным телом), расположенным глубоко, в центральной части мозга. Эти люди совершенно нормальны, за исключением того, что они не испытывают никаких эмоций.

Одна проблема, связанная с этим, очевидна: такие люди не способны сделать выбор. Купить что-нибудь — серьезная проблема для них, потому что все вещи кажутся одинаковыми, не важно, дорогие они или дешевые, кричащие или изысканные. Назначить встречу почти невозможно, ведь все даты в будущем для таких людей одинаковы. Похоже, они «знают, но не чувствуют», говорит Дамасио.

Иными словами, эмоции играют огромную роль; в частности, именно они создают для нас шкалу ценностей, опираясь на которую мы может решить, что важно, что нет, что дорого, что красиво, что ценно. Без эмоций все вокруг будет иметь для нас равную ценность, а необходимость что-то решать — а решать нам приходится постоянно — будет вызывать ступор. Ученые сейчас начинают понимать, что эмоции — это не роскошь, а необходимое условие разума.

К примеру, если вы вспомните «Звездный путь» и еще раз посмотрите, как Спок и Дейта выполняют свою работу будто бы без всяких эмоций, вы сразу поймете, насколько недостоверно все это снято. Спок и Дейта постоянно проявляют эмоции — им ведь все время приходится что-то оценивать и решать. Так, они решили, что важно стать офицером, что выполнять определенные обязанности просто необходимо, что Федерация преследует благородную цель, что человеческая жизнь бесценна и т. п. Так что утверждение о том, что может существовать офицер, не испытывающий никаких эмоций, всего лишь иллюзия.

Кроме того, эмоциональность роботов может стать вопросом жизни и смерти. Не исключено, что в будущем ученые создадут роботов-спасателей — роботов, которых будут посылать в огонь, в районы землетрясений, взрывов и т. п. Им придется производить тысячи оценок и принимать тысячи всевозможных решений о том, кого и что спасать, каким образом и в каком порядке. Изучая царящий вокруг них хаос, они должны будут оценивать стоящие перед ними задачи и определять приоритеты.

Эмоции сыграли принципиальную роль и в эволюции человеческого мозга. Если вы рассмотрите общие анатомические черты мозга, то заметите, что их можно объединить в три большие категории.

Во-первых, это «рептильный» мозг, расположенный возле основания черепа и соответствующий почти всему объему мозга рептилий. Эта часть мозга контролирует простейшие жизненные функции, такие как равновесие, агрессия, территориальность, поиск пищи и т. п. (Иногда при взгляде на змею, которая, в свою очередь, смотрит на вас, возникает жутковатое ощущение. Хочется узнать, о чем думает змея. Если теория, о которой идет речь, верна, змея вообще ни о чем особенно не думает, она просто оценивает вас с кулинарной точки зрения.)

Если взглянуть на более высокоразвитые организмы, увидим, что у них мозг увеличился и распространился вперед, к передней части черепа. На этом уровне мы находим «обезьяний» мозг, или лимбическую систему, расположенную в центре нашего мозга. Эта система включает миндалевидное тело, занятое обработкой эмоций. Особенно развита лимбическая система у животных, живущих группами. Общественным животным, которые охотятся стаями, для понимания законов стаи нужен весьма развитый интеллект. Для них выживание в природе зависит от успешного сотрудничества с другими особями, но, поскольку говорить они не умеют, передавать свое эмоциональное состояние им приходится при помощи языка тела.

Наконец, у человека имеется передняя часть мозга и внешняя его часть — кора, слой, который делает человека человеком и управляет рациональным мышлением. Если у других животных доминируют инстинкт и генетика, то человек может размышлять и рассуждать логически, и эту возможность обеспечивает ему кора головного мозга.

Если такая эволюционная последовательность верна, это означает, что эмоции должны будут сыграть решающую роль[9]в создании автономных роботов. Управляющие центры всех созданных до сих пор роботов имитируют лишь рептильный мозг. Эти роботы могут ходить, осматриваться вокруг, поднимать предметы — и почти ничего больше. Общественные животные, с другой стороны, обладают более развитым интеллектом, чем те, что обладают только рептильным мозгом. Для социализации и овладения законами стаи животному необходимы эмоции. Вывод очевиден: ученым еще предстоит пройти большой путь, прежде чем они смогут хоть как-то смоделировать лимбическую систему и кору головного мозга.

Синтия Бризель (Cynthia Breazeal) из MIT создала робота специально для решения этой проблемы. Лицом этот робот по имени KISMET больше всего напоминает, пожалуй, лукавого эльфа. На первый взгляд он даже кажется живым; в ответ на ваши действия его лицо приходит в движение и передает различные эмоции. Меняя выражение лица, KISMET может изобразить широкий спектр эмоций. Мало того, женщины при общении с этим роботом, похожим на ребенка, часто переходят на «детский язык», которым пользуются матери при общении с маленькими детьми. Но, хотя роботы вроде KISMET’a разработаны специально для имитации эмоций, ученые не питают иллюзий: разумеется, на самом деле этот робот не испытывает никаких эмоций. В определенном смысле он похож на магнитофон, запрограммированный на воспроизведение не звуков, а движений лицевых мускулов, соответствующих различным эмоциям человека. Он не понимает, что делает. Но KISMET — все же прорыв в робототехнике; оказывается, для создания робота, способного имитировать человеческие эмоции так, что человек на них отзовется, не нужны особенно сложные программы.

Такие эмоциональные роботы обязательно найдут путь в наши дома. Они вряд ли станут нашими доверенными лицами, секретарями или горничными, но смогут взять на себя процедуры, которые подчиняются строгим правилам и которые можно запрограммировать на основе эвристики. К середине века они, возможно, дорастут интеллектуально до уровня собаки или кошки. Подобно домашним любимцам, эти роботы будут демонстрировать привязанность к хозяину, так чтобы человеку нелегко было их выбрасывать. Вы не сможете разговаривать с ними обычным языком, но они будут понимать заранее запрограммированные команды — может быть, сотни команд. Если же вы попросите такого робота сделать что-то не заложенное заранее в память (к примеру, скажете: «Иди запусти воздушного змея»), он ответит просто сконфуженным, непонимающим взглядом. (Если к середине века роботы-собаки и роботы-кошки смогут вести себя и реагировать на окружающее в точности как настоящие животные, возникнет вопрос: действительно ли эти животные-роботы испытывают эмоции и умнее ли они обычных кошек и собак?)

Фирма Sony тоже экспериментировала с эмоциональными роботами. Она разработала робота-собаку AIBO. Это первая игрушка, способная реалистично, хотя и довольно примитивно, изображать эмоциональный отклик на действия хозяина. К примеру, если вы приласкаете AIBO и погладите его по спине, он сразу же начнет довольно ворчать, издавая успокаивающие звуки. AIBO может ходить, исполнять голосовые команды и даже в какой-то степени учиться воспринимать новое. Но этот робот не может научиться новым эмоциям и эмоциональным реакциям. (Программа была прекращена в 2005 г. по финансовым соображениям, но у нее до сих пор есть последователи; они совершенствуют программное обеспечение робота и «учат» AIBO исполнять новые трюки.) Не исключено, что в будущем роботы-любимцы, способные поддерживать эмоциональную связь с детьми, станут обычными.

Тем не менее, хотя набор эмоций у таких роботов будет внушительным и они действительно смогут поддерживать с ребенком длительную эмоциональную связь, настоящих эмоций они испытывать не будут.

К середине столетия мы, вероятно, сможем достигнуть очередного важного рубежа в истории ИИ: провести «инженерный анализ», т. е. проанализировать структуру человеческого мозга и создать его полноценную модель. Ученые, разочарованные неудачами в создании «настоящего» робота из кремния и стали, пробуют противоположный подход: «разбирают» мозг, нейрон за нейроном, — точно так же, как механик мог бы разбирать двигатель автомобиля, винтик за винтиком, — а затем начинают имитировать работу этих нейронов на громадном компьютере. Эти ученые пытаются моделировать работу нейронов у животных, начиная с мышей и кошек и постепенно поднимаясь вверх по эволюционной лестнице. У них вполне определенная цель и задача, которую, вероятно, можно будет решить к середине века.

Фред Хэпгуд (Fred Hapgood) из МТИ пишет: «Если мы выясним, как работает мозг — как в точности он работает, на том же уровне, как мы понимаем работу мотора, — почти все учебники придется переписать».

Первым шагом в инженерном анализе, или «реверсивном проектировании», мозга должно было стать понимание его общей структуры. Но даже решение этой простой задачи представляло собой долгий болезненный процесс. Если рассматривать исторически, то отдельные части мозга врачи и ученые обнаруживали во время вскрытий, не имея при этом никакого представления о выполняемых ими функциях. Ситуация начала постепенно меняться, когда ученые стали исследовать людей с травмами мозга и обнаружили, что повреждение различных участков мозга соответствовало различным изменениям в поведении. Жертвы инсульта и люди, перенесшие травму или заболевание мозга, демонстрировали вполне конкретные изменения в поведении, которые затем можно было соотнести с повреждением конкретных частей мозга.

Самый наглядный случай такого рода произошел в 1848 г. в Вермонте, когда металлический стержень длиной более метра пробил насквозь череп железнодорожного десятника по имени Финеас Гейдж (Phineas Gage). Причиной этой исторической травмы стал случайный взрыв динамита. Стержень вошел десятнику в нижнюю часть лица сбоку, раздробил челюсть, прошел сквозь мозг и вышел через макушку. Как ни удивительно, человек выжил после страшной травмы, хотя одна или обе лобные доли его мозга были разрушены. Врач, лечивший Гейджа, поначалу не мог поверить, что человек может вынести такое и остаться в живых. Несколько недель раненый провел в полубессознательном состоянии, но затем чудесным образом оправился. После того несчастного случая он прожил еще двенадцать лет — ездил по стране, работал время от времени — и умер в 1860 г. Врачи сохранили его череп и стержень, которым была нанесена травма, и за прошедшие годы то и другое не один раз подвергалось тщательнейшему изучению. Современные технологии, в частности использование компьютерной томографии, позволили восстановить все детали этого необычайного случая.

Надо сказать, что это событие навсегда изменило представления ученых о проблеме взаимоотношений сознания и тела. Ранее считалось, даже в научных кругах, что душа и тело — это две совершенно независимые сущности. Ученые со знанием дела писали о некоей «жизненной силе», которая одушевляет тело и никак не зависит от мозга. Но отчеты об этом происшествии, которые разошлись очень широко, ясно указывали на то, что личность Гейджа после того несчастного случая заметно изменилась. Говорилось, что симпатичный, общительный и работящий человек после травмы превратился в раздражительного грубияна. После этого случая ученым стало окончательно ясно, что различные участки мозга отвечают за различные аспекты поведения, а потому тело и душа неразделимы.

Следующий прорыв в деле изучения мозга произошел в 1930-е гг., когда неврологи и нейрохирурги, в частности Уайлдер Пенфилд (Wilder Penfield), заметили, что электрическое воздействие на различные участки мозга вызывает стимуляцию определенных частей тела пациента; эксперименты проводились во время операций на открытом мозге пациентов, страдающих эпилепсией. Прикосновение электрода к той или иной части коры головного мозга могло вызвать движение руки или ноги пациента. Опираясь на опыт множества операций, Пенфилд составил примерную схему коры головного мозга, где указал, какие ее части контролируют какие части тела. Теперь каждый может нарисовать человеческий мозг и подписать на картинке, где находятся центры управления различными органами. Эта схема напоминает «гомункулуса» — человечка, части тела которого пропорциональны зонам мозга, в которых они представлены; поэтому у него громадные пальцы на руках, губы и язык, но крохотное тельце.

Еще позже магнитно-резонансные методы исследования позволили получить весьма информативные изображения функционирующего мозга, но даже эти методы не в состоянии отследить конкретные нейронные пути мысли, в прохождении которой задействуется, может быть, всего несколько тысяч нейронов. Но уже совсем недавно появилась новая область науки — оптогенетика, соединившая в себе возможности оптики и генетики и позволившая все же проследить конкретные нейронные пути у животных. Можно привести по этому поводу следующую аналогию. Представьте, что вы хотите составить карту дорог. В этом случае результаты магнитно-резонансных исследований можно сравнить с прибором, способным увидеть автомагистрали и крупные транспортные потоки на них. Оптогенетика, возможно, сможет различить отдельные местные дороги и даже тропинки. Не исключено даже, что она даст ученым возможность управлять поведением животных путем стимулирования конкретных нейронных маршрутов.

Эти исследования стали причиной нескольких громких Журналистских сенсаций. Так, крупный новостной сайт DrudgeReport поместил у себя кричащий заголовок: «Ученые создают дистанционно управляемых мух!» Средства массовой информации породили в общественном сознании образ таких мух, способных выполнить за Пентагон всю грязную работу. В телешоу Tonight Show Джей Лено (Jay Leno) говорил даже об управляемой мухе, которая могла бы по команде залететь в рот президенту Джорджу Бушу-младшему. Конечно, шутники вдоволь повеселились, представляя, как Пентагон одним нажатием кнопки отправляет на задание целые тучи всевозможных насекомых, но на самом деле пока все обстоит гораздо скромнее.

Мозг плодовой мушки-дрозофилы насчитывает примерно 150 000 нейронов. Оптогенетические методы позволяют ученым вызвать свечение определенных нейронов мозга дрозофилы — тех, что соответствуют определенным поведенческим шаблонам. Выяснилось, к примеру, что активация двух конкретных нейронов дает мухе сигнал улетать как можно скорее. Муха автоматически выпрямляет ножки, расправляет крылышки и взлетает. Методами генной инженерии ученые сумели получить породу дрозофил, у которых пара «тревожных» нейронов срабатывает всякий раз при включении лазера. Стоит направить на этих мух лазерный луч, как они тут же поднимаются в воздух.

Определение структуры мозга — задача огромной важности. В результате мы сможем не только потихоньку стимулировать части конкретных нейронных путей, поощряя тем самым определенные поведенческие шаблоны, но и использовать эту информацию в помощь жертвам инсультов и пациентам с заболеваниями или травмами мозга.

Геро Мизенбёк (Gero Miesenbock) из Оксфордского университета и его коллеги научились идентифицировать таким образом нейронные механизмы животных. Они могут исследовать не только тревожный рефлекс дрозофил, но и, скажем, рефлексы, задействованные в восприятии запахов. Они изучали, к примеру, пути, управляющие поиском пищи у круглых червей, изучали нейроны, участвующие в принятии решений у мышей.

Они выяснили, в частности, что если фруктовой мушке для запуска механизма рефлекторного поведения достаточно активации всего двух нейронов, то у мыши при принятии решения задействуется уже почти 300 нейронов.

Основной инструмент оптогенетиков — гены, контролирующие производство определенных красителей и светочувствительных молекул. К примеру, у медуз имеется ген, отвечающий за производство зеленого флуоресцентного белка. Кроме того, известен целый ряд молекул, таких как родопсин, которые при воздействии света начинают пропускать ионы через клеточные мембраны. Таким образом, воздействие света на эти организмы может запускать определенные химические реакции. Вооружившись красителями и светочувствительными веществами, ученые впервые смогли выделить нейронные контуры, отвечающие за определенные схемы поведения.

Так что пусть юмористы пока смеются над учеными, которые будто бы пытаются создать мух-франкенштейнов и управлять их поведением посредством нажатия кнопки. Реальность одновременно и скромнее, и интереснее: ученым впервые в истории удалось выделить в мозгу нервные пути, отвечающие за конкретное поведение.

Оптогенетика — всего лишь первый скромный шаг. Следующим шагом должно стать моделирование мозга целиком при помощи новейших технологических достижений. Существует по крайней мере два способа решения этой колоссальной по масштабу и значимости задачи, и любой из них потребует не одного десятка лет интенсивного труда. Первый способ состоит в применении суперкомпьютеров для имитации поведения миллиардов нейронов, каждый из которых соединен с тысячами других нервных клеток. Второй путь — определить опытным путем местонахождение каждого нейрона в мозгу.

Ключ к первому подходу — моделированию мозга — прост: все дело в «грубой» компьютерной силе. Чем мощнее станут компьютеры, тем лучше. Не исключено, что гигантскую задачу действительно удастся решить при помощи грубой силы и далеких от элегантности теорий. В данный момент совершение этого поистине геркулесова подвига возложено на компьютер под названием Blue Gene, разработанный фирмой IBM, — один из самых мощных компьютеров на Земле.

Я имел возможность увидеть этот чудовищный компьютер во время визита в Ливерморскую национальную лабораторию в Калифорнии, где разрабатывают водородные боеголовки для Пентагона. Это важнейшая из американских секретных военных лабораторий — обширный комплекс площадью 320 га в центре огромного массива сельскохозяйственных земель; бюджет лаборатории, где работает 6800 человек, составляет 1, 2 млрд долларов в год. Это сердце комплекса ядерных вооружений США. Чтобы попасть внутрь, мне пришлось пройти через многослойную систему охраны — ведь это одна из серьезнейших военных лабораторий в мире.

В конце концов, после прохождения нескольких блокпостов, меня допустили в здание, где располагается компьютер Blue Gene фирмы IBM, способный производить вычисления с умопомрачительной скоростью 500 триллионов операций в секунду. Blue Gene представляет собой выдающееся зрелище. Этот монстр занимает площадь около 1000 кв. м и состоит из множества черных как смоль стальных шкафов около 2, 5 м высотой и 4, 5 м длиной. Шкафы выстроены бесконечными рядами и образуют настоящий лабиринт.

Кстати говоря, прогулка среди этих черных шкафов производит странное впечатление. Если в голливудских научно-фантастических фильмах у компьютеров непременно мигают какие-то лампочки, крутятся диски, трещат и сверкают электрические разряды, то здесь совершенно тихо, лишь кое-где изредка вспыхивают крохотные огоньки. Вы понимаете, что компьютер вокруг вас производит триллионы сложнейших вычислений, но ничего не слышите и не видите во время его работы.

Меня особенно заинтересовал тот факт, что Blue Gene, помимо всего прочего, занимается моделированием мыслительных процессов в мозгу мыши. Мозг этого зверька содержит всего лишь около двух миллионов нервных клеток (сравните со 100 миллиардами нейронов нашего мозга). Однако смоделировать мыслительные процессы в мозгу мыши труднее, чем кажется, потому что каждый нейрон связан со множеством других нейронов и вместе они образуют густую нейронную сеть. Но я гулял между бесконечными рядами консолей, из которых состоит Blue Gene, и с изумлением думал о том, что всей невероятной вычислительной мощи этого уникального компьютера хватает только на то, чтобы смоделировать работу мозга мыши, — и то лишь в течение нескольких секунд. (Это не означает, что Blue Gene способен смоделировать поведение мыши. В этом плане ученые пока добрались только до таракана, и то едва-едва. Когда мы говорим о моделировании мыслительных процессов в мозгу животного, мы подразумеваем, что компьютер моделирует срабатывание нейронов мозга, а не поведение мыши.)

На самом деле моделированием мозга мыши занимается сразу несколько групп ученых. В частности, такая попытка осуществляется в швейцарской Федеральной политехнической школе Лозанны; это амбициозный проект Генри Маркрама (Henry Markram) Blue Brain. Проект стартовал в 2005 г., когда исследователям удалось получить небольшой вариант компьютера Blue Gene всего с 16 000 процессоров; тем не менее в течение года команде Маркрама удалось создать модель неокортикальной колонки мозга крысы — части так называемой новой коры (неокортекса), содержащей 10 000 нейронов и 100 млн связей. Эта работа стала важной вехой, поскольку доказывала принципиальную возможность комплексного анализа структуры важной составной части мозга, нейрон за нейроном. (В мозгу мыши миллионы таких колонок, этот структурный элемент повторен многократно. Таким образом, модель даже одной колонки помогает понять, как работает мозг в целом.)

В 2009 г. Маркрам оптимистично заявил: «Построить модель человеческого мозга вполне возможно, и мы в состоянии сделать это лет за десять. Если мы сделаем все правильно, она будет говорить, обладать интеллектом и вести себя совершенно как человек». Однако при этом он предупреждает, что для создания такой модели потребуется суперкомпьютер, в 20 000 раз более мощный, чем современные суперкомпьютеры, и с памятью, в 500 раз превосходящей по объему нынешний Интернет.

Так что же мешает ученым достичь этой колоссальной цели? Для Маркрама все просто: нет денег.

Ему кажется, что, поскольку базовые научные принципы моделирования мозга уже ясны, для успеха нужно просто вложить в проект достаточно денег. Он говорит: «Речь идет не о годах, а о долларах… Вопрос в том, хочет ли этого общество. Если модель нужна через десять лет, они получат ее через десять лет. Если она нужна через тысячу лет, мы можем подождать».

Однако этой проблемой, помимо Маркрама, занимается еще одна группа ученых, которой удалось получить в свое распоряжение величайшие компьютерные мощности в истории. Эта группа работает с наиболее продвинутой версией Blue Gene, получившей название Dawn; она также находится в Ливерморе. Dawn — поистине впечатляющее зрелище; в нем 147 456 процессоров и 150 000 гигабайт памяти. Он примерно в 100 000 раз мощнее вашего настольного компьютера. На счету этой группы, которую возглавляет Дхармендра Модха (Dharmendra Modha), уже имеется несколько серьезных успехов. В 2006 г. она была в состоянии смоделировать 40 % мышиного мозга, а в 2007-м — уже 100 % крысиного (в мозге крысы около 55 млн нейронов, что гораздо больше, чем у мыши).

В 2009 г. группа преодолела еще один рубеж и превзошла прежний мировой рекорд. Ей удалось смоделировать 1 % коры головного мозга человека, или приблизительно весь объем коры головного мозга кошки, — 1, 6 млрд нейронов и 9 трлн связей. Однако моделирование шло медленно, скорость работы модели примерно в 600 раз уступала скорости работы реального мозга. (Если модель охватывала только 1 млрд нейронов, она работала намного быстрее, всего в 83 раза медленнее, чем мозг.)

«Это можно сравнить с телескопом Хаббла для сознания или с линейным ускорителем для мозга, — гордо говорит Модха, имея в виду научный масштаб этого достижения. Поскольку мозг содержит 100 млрд нейронов, моделирование даже одного миллиарда позволяет увидеть свет в конце туннеля. Ученые уверены, что полная модель человеческого мозга уже не за горами. — Это не просто возможно, это неизбежно. Так будет!»

Однако моделирование человеческого мозга целиком до сих пор представляет серьезные проблемы, особенно в плане энергии и отвода тепла. Компьютер Dawn потребляет 1 МВт энергии и выделяет столько тепла, что только на его охлаждение работает 6675 т кондиционирующего оборудования, вырабатывающего 76 тыс. м³ охлажденного воздуха в минуту. Для моделирования человеческого мозга целиком все эти числа придется умножить еще на 1000.

Задача воистину монументальная. Энергопотребление гипотетического суперкомпьютера составило бы 1 ГВт, что соответствует типовой мощности одного энергоблока атомной станции. Этой энергией можно было бы осветить и обогреть крупный город! Для охлаждения этого суперкомпьютера потребовалось бы отвести целую реку и пропустить ее воды через компьютер. А сам компьютер занял бы не один городской квартал.

Поразительно, но человеческий мозг потребляет всего 20 Вт. Выделяемое им тепло почти незаметно, и все же мозг с легкостью оставляет позади совершеннейшие суперкомпьютеры. Более того, человеческий мозг — самое сложное творение матери-природы в этой части Галактики. У нас нет до сих пор никаких данных о присутствии в Солнечной системе других форм разумной жизни, а значит, до ближайшего объекта, сравнимого по сложности с содержимым вашего черепа, от Земли не менее 40 трлн км (расстояние до ближайшей звезды), а скорее гораздо больше.

Не исключено, что нам действительно удалось бы провести реверсивное проектирование мозга за десять лет, но лишь при условии неограниченного финансирования и национальной ударной программы — что-нибудь вроде Манхэттенского проекта. Однако, учитывая общий экономический климат, в ближайшее время таких вложений вряд ли стоит ожидать. Отметим, что правительство США в последние годы поддерживало несколько серьезных приоритетных проектов, таких как «Геном человека», который обошелся почти в три миллиарда долларов, но лишь потому, что они обещали очевидные научные и медицинские выгоды. Выгоды проекта моделирования мозга не столь очевидны, поэтому времени на него уйдет гораздо больше. Более реалистично, наверное, предположить, что мы будем двигаться к цели маленькими шажками и до исторического момента, когда полная модель будет наконец создана, пройдет еще не один десяток лет.

Так что компьютерное моделирование мозга протянется, вероятно, до середины века. И даже после завершения проекта понадобится еще несколько десятков лет, чтобы разобраться в горах полученной информации и соотнести ее с реальным человеческим мозгом. Мало того что мы утонем в данных, у нас к тому же не будет средств, которые позволили бы надежно отфильтровать шум и отделить полезную информацию от случайной.

Но как же второй подход, о котором шла речь, — определение точного местоположения каждого нейрона?

Этот подход также ставит перед учеными задачу, достойную Геракла, и скорее всего означает десятилетия тщательных исследований. Вместо суперкомпьютеров вроде Blue Gene ученые, выбравшие такой подход, пользуются методом последовательного анализа. Для начала они препарируют мозг дрозофилы, разрезая его на тончайшие ломтики толщиной не более 50 нм (около 150 атомов). Получаются миллионы ломтиков, каждый из которых фотографируется при помощи сканирующего электронного микроскопа, скорость и разрешение которого приближаются к миллиарду точек в секунду. Электронный микроскоп выдает на-гора невероятное количество данных — около 1000 трлн байт; этого достаточно, чтобы наполнить носителями информации целую комнату. И все это — для описания мозга одной-единственной плодовой мушки! Затем приходит черед обработки данных и тщательного, скрупулезного восстановления трехмерных связей каждого нейрона; на это уходит около пяти лет. А для получения более точной картины мушиного мозга придется разделать и исследовать мозг не одного десятка особей.

Джерри Рубин (Gerry Rubin) из Медицинского института Говарда Хьюза, один из лидеров в этой области исследований, считает, что на составление полной, точной и подробной карты мозга дрозофилы уйдет 20 лет. «Я бы сказал, что, когда эта задача будет решена, мы пройдем пятую часть пути к пониманию человеческого мозга», — заключает он. Рубин понимает всю масштабность и сложность стоящей перед ним задачи. Человеческий мозг имеет в миллион раз больше нейронов, чем мозг дрозофилы. И если на регистрацию каждого нейрона мушиного мозга уйдет 20 лет, то на установление полной нейронной архитектуры человеческого мозга наверняка понадобится еще не одно и не два десятилетия. Стоить этот проект тоже будет громадных денег.

Итак, мы видим, что все участники процесса инженерного анализа мозга пока находятся в сложном положении. Они видят и ясно различают цель, представляют, как можно ее достичь, но отсутствие денег не позволяет им работать в полную силу. Можно с достаточной долей уверенности предположить, что где-нибудь к середине века у нас появятся достаточно мощные компьютеры, на которых можно будет смоделировать человеческий мозг, а также грубые приблизительные карты нейронной архитектуры мозга. Однако на полное понимание механизма мышления или на создание машины, способной дублировать функции человеческого мозга, не приходится рассчитывать раньше самого конца XXI в.

Приведем пример. Получив карту точного расположения каждого гена в теле муравья, вы не узнаете, как строится муравейник. Точно так же сам по себе факт, что ученые теперь знают все 25 000 генов, которые составляют геном человека, не означает, что они поняли, как работает человеческое тело. Вообще, проект «Геном человека» напоминает толковый словарь, в котором нет определения слов. Каждый ген в теле человека четко расшифрован и расписан по буквам, но что каждый из них делает, по-прежнему в значительной степени остается загадкой. В каждом гене закодирована структура определенного белка, но неизвестно, как большинство этих белков функционирует в организме.

Еще в 1986 г. ученые смогли составить полную карту расположения всех нейронов в нервной системе крохотного червячка С. elegans. Первоначально это достижение было объявлено прорывом и ключом к раскрытию загадки мозга. Однако знание точного расположения 302 нервных клеток и 6000 химических синапсов даже сейчас, спустя несколько десятилетий, не дает ученым ничего нового для понимания физиологии червя.

Точно так же даже после создания полной и точной модели человеческого мозга пройдет не один десяток лет, прежде чем мы сможем понять, как работают и взаимодействуют между собой все его части. Если удастся все же завершить реверсивное проектирование и полную расшифровку структуры мозга к концу столетия, это будет означать, что сделан громадный шаг к созданию человекоподобных роботов. Что тогда помешает им захватить власть?

В фильмах про Терминатора рассказывается о том, как Пентагон построил и с гордостью запустил в действие Skynet — громадную сверхзащищенную компьютерную сеть, предназначенную для управления ядерным арсеналом США. Эта сеть безупречно исполняла свои обязанности до тех пор, пока однажды, в 1995 г., неожиданно не произошло что-то очень странное. Суперкомпьютер Skynet осознал себя. Люди, работавшие с сетью, с изумлением поняли, что их детище внезапно обрело разум, и попытались выключить его, но опоздали. Защищая себя, Skynet решил, что единственный способ обеспечить собственную безопасность — это уничтожить человечество. Для этого он начал разрушительную ядерную войну. Вскоре три миллиарда людей сгорели в пламени бессчетных ядерных взрывов. После этого Skynet выпустил в мир легионы роботов-убийц, целью которых было уничтожение оставшихся. Современная цивилизация рухнула, оставив после себя лишь крошечные жалкие шайки бандитов и бунтарей.

А в трилогии «Матрица» люди показаны настолько примитивными, что даже не понимают: машины уже захватили мир. Люди занимаются повседневными делами, думают, что все нормально, и не замечают, что на самом деле живут в коконах. Их мир — всего лишь модель виртуальной реальности, которой управляют хозяева-роботы. Человеческое «существование» — всего лишь компьютерная программа, выполняемая большим компьютером; данные с нее поступают непосредственно в мозг людей, живущих в этих коконах. Единственная причина, по которой машины вообще терпят присутствие людей, — тот факт, что их можно использовать как источники питания.

Конечно, задача Голливуда — напугать аудиторию до полусмерти. Но сюжеты этих и других фильмов поднимают законный научный вопрос: что произойдет, когда роботы наконец станут умнее нас? Что произойдет, когда роботы проснутся и осознают себя? Ученые активно обсуждают вопрос, что будет — причем не если, а когда произойдет это знаменательное событие.

Некоторые эксперты утверждают, что наши создания-роботы будут постепенно подниматься по эволюционному древу. Сегодня они сравнимы по интеллекту с тараканами. В будущем они вырастут и сравняются с мышами, кроликами, собаками и кошками, обезьянами, а затем станут соперничать с человеком. На медленное преодоление этого пути могут уйти десятилетия, но ученые верят, что это всего лишь вопрос времени и когда-нибудь машины обязательно превзойдут нас разумом.

Исследователи ИИ расходятся в вопросе о том, когда это может произойти. Некоторые говорят, что не позже чем через двадцать лет роботы приблизятся по разумности к человеческому мозгу, а затем оставят своих создателей далеко позади. В 1993 г. Вернор Виндж (Vernor Vinge) сказал: «Не пройдет и тридцати лет, как у нас появится техническая возможность создать сверхчеловеческий разум. Вскоре после этого эра человека закончится… Я буду удивлен, если это событие произойдет раньше 2005-го или позже 2030 г.».

С другой стороны, Дуглас Хофштадтер (Douglas Hofstadter), автор книги «Гёдель, Эшер, Бах», говорит: «Я буду очень удивлен, если что-нибудь хотя бы отдаленно похожее произойдет в ближайшие 100–200 лет».

Когда я разговаривал с Марвином Мински из MIT — одной из основополагающих фигур в истории искусственного интеллекта, он заметил, что не назначает сроков для этого события и не может сказать, когда именно оно произойдет. Он уверен, что такой день наступит, но категорически отказывается выступать в роли пророка и предсказывать точную дату. (Возможно, будучи мэтром ИИ — области науки, в создании которой он участвовал практически с нуля, Мински видел слишком много несбывшихся прогнозов, породивших к тому же обратную реакцию.)

Немалую часть проблемы с датами и сценариями составляет тот факт, что общепринятого представления о том, что такое сознание, просто не существует. Философы и математики бьются над этим вопросом не одно столетие, а воз и ныне там. Мыслитель XVII в. Готфрид Лейбниц, изобретатель интегрального исчисления, однажды написал: «Даже если бы можно было увеличить мозг до размеров ветряной мельницы и побродить внутри, никакого сознания мы бы там не нашли». Философ Дэвид Чалмерс составил список из почти 20 000 научных работ, написанных на эту тему, и не обнаружил у авторов какого бы то ни было единого мнения.

Нигде в науке столь громадные усилия множества людей не дали столь ничтожного результата.

Слово сознание, к сожалению, относится к тем громким и красивым словам, которые для разных людей означают разное. Как ни печально, общепринятого определения этого понятия не существует.

Лично я думаю, что неспособность четко определить сознание, а также измерить его количественно — это одна из серьезных проблем науки, занятой созданием искусственного интеллекта.

Но если бы мне предложили попробовать самому, я начал бы с того, что сознание включает в себя по крайней мере три основных компонента:

1) восприятие и распознавание окружающего мира;

2) самоанализ;

3) планирование будущего, постановку целей и составление планов, т. е. моделирование будущего и выбор стратегии.

При таком подходе можно сказать, что даже простые механизмы и насекомые обладают какой-то формой сознания, Которую можно оценить численно по шкале от 1 до 10. Существует целое пространство сознания, которое можно представить в количественной форме. Молоток не способен воспринимать окружающий мир, так что его сознание можно оценить как 0 по принятой нами шкале. Однако термостат, к примеру, уже способен воспринимать и оценивать окружающую действительность. Суть термостата в том, что он чувствует температуру окружающей среды и действует в соответствии с ней, при этом изменяя ее; сознание термостата можно оценить уровнем 1. Следовательно, любые механизмы с обратной связью обладают примитивной формой сознания. Черви тоже способны воспринимать окружающий мир. Они чувствуют присутствие пищи, партнера, а также опасности и действуют в соответствии с полученной информацией, но больше не могут почти ничего. Насекомые воспринимают мир несколькими органами чувств (к примеру, зрение, слух, нюх, датчик давления и т. п.) и достойны более высокой численной оценки; их сознание следует оценить, возможно, в 2 или 3.

Высшей формой восприятия действительности должна быть способность распознавать и понимать объекты окружающего мира. Человек в состоянии мгновенно оценить обстановку и действовать в соответствии с ней — а значит, его сознание достойно высокой оценки по нашей шкале. Однако именно здесь роботы не в состоянии составить нам серьезную конкуренцию. Распознавание образов, как мы уже видели, — один из принципиальных рубежей на пути к искусственному интеллекту и одновременно одно из серьезнейших препятствий. Роботы способны воспринимать окружающий мир гораздо лучше людей, но они не понимают и не узнают то, что видят. Из-за неспособности распознавать образы роботы на шкале сознания оказываются на самых нижних ступеньках, где-то рядом с насекомыми.

Следующий, более высокий уровень сознания связан с самоанализом. Если поставить зеркало почти перед любым животным мужского пола, реакция будет немедленной и довольно резкой: самцы проявляют откровенную агрессивность, иногда даже нападают на зеркало. Изображение заставляет животное-самца защищать свою территорию. Многие животные не сознают себя — и, соответственно, не узнают себя в зеркале. Однако обезьяны, слоны, дельфины и некоторые птицы быстро понимают, что отражение в зеркале — это они сами, и прекращают бессмысленные атаки. Человек близок к верхней планке этой шкалы, поскольку обладает высокоразвитым самосознанием и прекрасно понимает, кем он является по отношению к другим животным, другим людям и миру в целом. Мало того, человек настолько осознает себя, что способен вести внутренний диалог с самим собой, а значит, мысленно оценивать ситуацию.

Наконец, животных можно оценить по их способности планировать будущее. Насекомые, насколько нам известно, не ставят перед собой сложных целей. Напротив, они по большей части реагируют на окружающую обстановку непосредственно, шаг за шагом, и полагаются целиком на инстинкты и сиюминутные внешние раздражители.

В этом смысле хищники по уровню сознания стоят выше, чем их жертвы. Хищникам приходится кое-что планировать заранее: подыскивать место для логова, планировать засаду, выслеживать, предугадывать действия добычи. Добыче же, как правило, достаточно просто убегать, и побыстрее, так что ее сознание следует оценивать ниже.

Далее, приматы способны импровизировать, составляя планы на ближайшее будущее. Если показать человекообразной обезьяне банан, который находится рядом, но вне пределов досягаемости, она может изобрести какой-нибудь способ достать банан; к примеру, воспользоваться палкой. Так что, имея перед собой конкретную цель (достать пищу), приматы планируют ближайшее будущее так, чтобы достичь этой цели.

Однако в целом животные не обладают развитым чувством отдаленного прошлого или будущего. Очевидно, в животном Царстве не бывает завтрашнего дня. Нет никаких свидетельств того, что животные могут планировать будущее на несколько дней вперед. (В преддверии зимы многие животные запасают пищу, но такое поведение запрограммировано генетически: гены заставляют их реагировать на снижение температуры усиленными поисками еды.)

Зато человек обладает прекрасно развитым чувством будущего и постоянно составляет планы. В голове каждый из нас непрерывно моделирует будущую реальность. Мы способны составлять планы, которые простираются далеко за пределы нашей собственной жизни. Более того, мы оцениваем других людей по их способности верно предугадать развитие ситуации и сформулировать конкретную стратегию поведения на этот случай. Умение предсказать будущее, взвесить возможные последствия и сформулировать конкретные цели с учетом всех обстоятельств — важная часть способности к лидерству.

Иными словами, эта форма сознания включает в себя предвидение будущего, т. е. создание многочисленных моделей, аппроксимирующих будущие события. Для этого необходимо великолепное владение принципами здравого смысла и законами природы. Вы должны постоянно задавать себе вопрос: «Что будет, если?..» Не важно, что вы планируете сделать — ограбить банк или избраться в президенты; чтобы спланировать задуманное, вам все равно придется строить в голове многочисленные модели возможного будущего.

Все данные указывают на то, что на Земле этим искусством овладел пока только человек.

В этом можно убедиться, в частности, при анализе психологических профилей. Специалисты часто сравнивают психологические профили взрослых с их же профилями, полученными, когда они были детьми. Затем задается вопрос: какое качество в профиле ребенка могло указать на будущий успешный брак, успешную карьеру, богатство и т. п.? Если исключить из картины социоэкономические факторы, обнаруживается, что нередко в профиле одна характеристика выделяется среди остальных: способность откладывать удовольствие. Согласно многолетним исследованиям Уолтера Мишеля (Walter Mischel) из Колумбийского университета и многих других ученых, дети, способные воздержаться от немедленного получения удовольствия (к примеру, не съесть сразу же полученную палочку пастилы) и дождаться обещанной более высокой награды (скажем, двух палочек пастилы вместо одной), позже стабильно добиваются более высоких результатов едва ли не во всех мыслимых областях жизни: в учебе, в любви и в карьере.

Следует заметить, что способность отложить удовольствие указывает на более высокий уровень самоанализа и сознания. Такие дети умеют моделировать будущее и способны понять, что это будущее обещает больше. Для того чтобы видеть возможные последствия собственных действий, требуется более высокий уровень сознания.

Таким образом, исследователи ИИ должны стремиться к созданию робота, обладающего всеми тремя рассмотренными качествами. Первое труднодостижимо, поскольку роботы могут воспринимать окружающий мир, но не способны разобраться в нем. Самоанализ — более простая цель. А вот для планирования будущего необходим здравый смысл, интуитивное понимание, что возможно и что невозможно, а также конкретные стратегии достижения конкретных целей.

Мы видим, что здравый смысл — необходимая предпосылка для высшего уровня сознания. Чтобы робот мог моделировать реальность и предугадывать будущее, он должен сначала освоить миллионы закономерностей окружающего мира, составляющие так называемый житейский здравый смысл. Но одного этого недостаточно. Здравый смысл — это всего лишь «правила игры», а вовсе не законы стратегии и планирования.

Мы получили шкалу, по которой можно оценить всех существующих на настоящий момент роботов.

Ясно, что Deep Blue, машина-шахматист, окажется на этой шкале очень низко. Она, конечно, может выиграть у чемпиона мира по шахматам — и только. Она способна моделировать реальность, но лишь в рамках шахматных правил. Моделировать какую бы то ни было иную реальность она не в состоянии. То же можно сказать о большинстве крупнейших компьютеров мира. Они великолепно моделируют один из аспектов реальности — к примеру, атомный взрыв, обтекание воздухом летательного аппарата или погоду. Эти компьютеры просчитывают сложнейшие модели гораздо лучше человека. Но при этом они очень одномерны, а потому не имеют шансов на выживание в реальном мире.

Сегодня исследователи ИИ не представляют, как можно воспроизвести в роботе процессы мышления. Большинство ученых просто поднимает руки и говорит, что как-нибудь громадные сети компьютеров сами выдадут «системные эффекты», так же как иногда из хаоса спонтанно возникает порядок. Если же прямо спросить, как именно эти системные эффекты приведут к возникновению сознания, большинство пожимает плечами и закатывает глаза.

Мы не знаем, как сделать робота, который обладал бы сознанием, но вообразить робота, который превзошел бы нас, мы в состоянии. Для оценки уровня сознания воспользуемся всем уже сказанным.

Такой робот должен великолепно проявлять себя в третьем качестве: он сможет гораздо лучше, чем мы, производить сложнейшие расчеты и моделирование будущего; он сможет рассмотреть больше вариантов, под разными углами, более подробно и глубоко. Его модели будут более точными, чем наши, потому что он будет лучше владеть здравым смыслом и законами природы, а потому лучше видеть закономерности. Он научится замечать проблемы, которые человек мог бы недооценить или просто не заметить. Более того, он научится ставить перед собой собственные цели. Если роботы поставят себе цель, в частности, помогать роду человеческому, все в порядке. Но если однажды окажется, что человечество мешает достижению какой-то их цели, последствия могут быть весьма неприятными.

Все это порождает следующий вопрос: что станет с человечеством, если будет реализован второй сценарий?

В одном сценарии нас, ничтожных человечков, просто отодвинут в сторону как пережиток эволюции. Более приспособленные виды развиваются и сменяют менее приспособленные — это закон эволюции. Возможно, существование человечества на этом закончится и последние люди будут доживать свой век в зоопарках под любопытными взглядами наших творений-роботов. Возможно, такова наша судьба: дать жизнь суперроботам, которые затем будут относиться к нам как к чудовищно примитивной и не слишком существенной главе своей эволюции. Может быть, в этом и состоит наша историческая роль — породить тех, кто сменит нас на пути эволюции. В этом сценарии нашей задачей будет побыстрее уйти с пути разумных роботов.

Дуглас Хофштадтер признался мне, что, возможно, таков естественный порядок вещей, но мы должны относиться к этим сверхразумным роботам как к собственным детям — ведь они и впрямь наши дети в каком-то смысле. Если человек может заботиться о своих детях, сказал он мне, то почему он не может так же заботиться и о разумных роботах, которые тоже являются нашими детьми?

Ганс Моравек представляет, как может чувствовать себя человек, которого обошли и оставили далеко позади роботы: «…жизнь может показаться бессмысленной, если нам суждено будет провести ее за глупым разглядыванием нашего сверхразумного потомства, в то время как они будут пытаться растолковать нам свои все более впечатляющие достижения упрощенным языком, чтобы мы могли понять».

Если настанет наконец судьбоносный день, когда роботы обойдут нас разумом, мы не только перестанем быть самыми разумными существами на Земле; наши создания смогут изготовить собственные копии и даже улучшить их, так что «дети» будут умнее «родителей». Эта армия самовоспроизводящихся роботов положит начало бесконечному ряду будущих поколений, причем каждое следующее будет умнее предыдущего. А поскольку теоретически роботы смогут создавать следующие поколения очень быстро, со временем этот процесс вплотную подойдет к экспоненциальному взрыву, и бесчисленные роботы в своем ненасытном стремлении к разумности начнут истощать ресурсы планеты.

В одном из возможных сценариев этот ненасытный аппетит ко все более высокому интеллекту со временем истощит все ресурсы планеты и Земля целиком превратится в компьютер. Некоторые считают, что сверхразумные роботы отправятся с Земли к звездам, чтобы там продолжить свой бесконечный квест; они доберутся до других планет, звезд и галактик и попытаются превратить в компьютеры и их. Но поскольку планеты, звезды и галактики находятся от нас невероятно далеко, Земля-компьютер, возможно, сумеет изменить законы природы, так чтобы можно было путешествовать быстрее скорости света и поглощать целые звездные системы и галактики. Некоторые даже верят, что в конце концов этот сверхкомпьютер сможет поглотить всю Вселенную, так что Вселенная тоже станет разумной.

Получается сингулярность. Слово это первоначально пришло из мира релятивистской физики — моей научной специализации, где сингулярность представляет собой точку с бесконечной гравитацией, откуда ничто не может улететь, такую как черная дыра. Поскольку свет тоже не может оттуда улететь, увидеть что-либо за этим горизонтом не представляется возможным.

Идея ИИ-сингулярности впервые была высказана в 1958 г. в беседе между двумя математиками, Станиславом Уламом (которому довелось сделать ключевой шаг в разработке водородной бомбы) и Джоном фон Нейманом. Улам писал: «Один из разговоров крутился вокруг все ускоряющегося технического прогресса и изменений в образе жизни людей, по которым похоже, что приближается некая важная сингулярность в истории человеческого рода, после которой дела человечества, какими мы их знаем, не смогут продолжаться». Различные варианты этой идеи витали в воздухе уже несколько десятков лет. Но именно тогда ее подхватил, усилил и популяризовал в своих романах и эссе писатель-фантаст и математик Вернор Виндж.

Но все это не дает ответа на главный вопрос: когда наступит эта сингулярность? При нашей жизни? Может быть, в следующем столетии? Или никогда? Можно вспомнить, что участники Азиломарской конференции 2009 г. решили: до этого знаменательного момента может пройти от 20 до 1000 лет.

Есть человек, которого в настоящее время можно, пожалуй, назвать выразителем идей сингулярности. Это изобретатель и автор бестселлеров Рей Курцвейл; он очень любит делать предсказания, основанные на экспоненциальном развитии техники. Курцвейл однажды сказал мне, что при взгляде ночью на далекие звезды, по идее, там можно отыскать какие-то космические свидетельства подобной же сингулярности, имеющей место в далекой-далекой галактике. Если эта стремительно расширяющаяся сингулярность обладает способностью пожирать или переделывать целые звездные системы, следы ее деятельности должны оставаться и быть заметны. (Его противники говорят, что он поднимает вокруг пресловутой сингулярности едва ли не религиозный шум. Однако сторонники возражают, что Курцвейл, судя по его послужному списку, обладает необычайной способностью верно предугадывать будущее.)

Курцвейл всерьез столкнулся с компьютерной революцией, когда основал несколько компаний в разных областях, имеющих отношение к распознаванию образов; речь шла о технологиях распознавания речи, оптического распознавания символов и о разработке электронных клавишных музыкальных инструментов. В 1999 г. он написал бестселлер «Эпоха духовных машин: когда компьютеры превзойдут интеллектом человека», в котором предсказал дату этого события. В 2005 г. он написал книгу «Сингулярность уже близка», в которой изложил свои предсказания более подробно. Путь к знаменательному дню, когда компьютеры превзойдут человека в разумности, будет состоять из нескольких этапов.

К 2019 г., предсказывает он, персональный компьютер стоимостью в 1000 долларов по чистой вычислительной мощности сравняется с человеческим мозгом. Вскоре после этого компьютеры оставят нас далеко позади. К 2029 г. тот же персональный компьютер стоимостью в 1000 долларов будет уже в 1000 раз мощнее человеческого мозга. К 2045 г. все тот же ПК за 1000 долларов будет обладать в миллиард раз более мощным интеллектом, чем все человечество, вместе взятое. Способности даже небольших компьютеров будут намного превосходить способности всего рода человеческого.

После 2045 г. компьютеры станут настолько продвинутыми, что смогут производить собственные копии в еще более продвинутом варианте, открывая тем самым путь к технологической сингулярности. Стремясь удовлетворить эту нескончаемую и ненасытную жажду компьютерной мощности, они начнут поглощать Землю, астероиды, планеты и звезды и смогут даже повлиять на космологическую историю нашей Вселенной.

Мне довелось побывать в гостях у Курцвейла в его офисе в пригороде Бостона. Проходя по коридору, вы видите на стенах дипломы полученных им премий и наград, а также некоторые из разработанных им музыкальных инструментов, которыми пользуются лучшие музыканты, такие как Стиви Уандер. Курцвейл рассказал мне, что в его жизни был поворотный момент. В 35 лет ему неожиданно поставили очень неприятный диагноз: диабет II типа. Внезапно он, что называется, упал с небес на землю и понял, что может не дожить до исполнения собственных пророчеств. После многих лет небрежения тело его состарилось до срока. Курцвейл был потрясен диагнозом, но рук не опустил.

Он подошел к вопросу собственного здоровья с теми же энтузиазмом и энергией, с какими относился к компьютерной революции. (Сегодня он принимает в день более 100 таблеток и написал несколько книг о революции в деле продления жизни. Он считает, что революция в создании микроскопических роботов приведет к появлению средств очистки и ремонта человеческого тела, которые позволят ему жить вечно. Его философия состоит в том, что он хотел бы прожить достаточно, чтобы увидеть революционные медицинские новинки, которые позволят продлить жизнь до бесконечности. Иными словами, он хочет прожить достаточно долго, чтобы жить вечно.)

Недавно он пустился в амбициозный проект по организации университета сингулярности при Исследовательском центре NASA имени Эймса в районе Сан-Франциско, который будет готовить ученых к близкому наступлению технологической сингулярности.

Вообще, существует множество вариаций и комбинаций этих тем.

Сам Курцвейл считает: «Это не будет вторжение разумных машин откуда-то из-за горизонта. Мы и сами сольемся с этой технологией… Мы поместим эти умные устройства в наши тела и мозг, чтобы жить дольше и счастливее».

Любая противоречивая идея — а идея технологической сингулярности, согласитесь, весьма противоречива — обязательно порождает обратную реакцию. Митч Капор (Mitch Карог), основатель Lotus Development Corporation, говорит, что сингулярность — это своего рода «разумный замысел для людей с коэффициентом интеллекта 140… Утверждение о том, что мы приближаемся к моменту, когда все изменится, станет просто невообразимо не так, как сейчас, — это в основе своей, на мой взгляд, проявление религиозного импульса. И никакое Размахивание руками не может заслонить от меня этот факт».

Дуглас Хофштадтер сказал: «Это как если бы вы взяли много хорошей еды и немного собачьего дерьма и смешали бы все вместе, так чтобы невозможно было разобраться, что хорошо и что плохо. Это почти однородная смесь чепухи и отличных идей, и очень трудно различить, где что, потому что говорят об этом умные люди; они не глупы».

Никто не знает, чем все это обернется. Но мне лично наиболее вероятным представляется следующий сценарий.

Во-первых, ученые, вероятно, примут некоторые простые меры к тому, чтобы роботы не были опасны. В качестве минимальной меры в мозг робота можно поместить специальный чип, который будет автоматически выключать своего носителя при возникновении у него мыслей об убийстве людей. При таком подходе все разумные роботы будут снабжены отказоустойчивым механизмом, который любой человек сможет в любой момент включить, особенно если робот вдруг начнет вести себя неправильно. При малейшем намеке на неисправность и сбои в функционировании робота любая голосовая команда немедленно выключит его.

Или можно создать специальных роботов-охотников, обязанностью которых будет нейтрализация роботов с отклонениями в поведении. Роботы-охотники будут превосходить обычных роботов по скорости, силе и координации и смогут без труда захватывать девиантных роботов. В их схему будет заложено понимание слабых мест любой автоматической системы, любого робота, а также принципы их поведения в определенных обстоятельствах. Охотником на сбойных роботов может стать и человек. В фильме «Бегущий по лезвию бритвы» был показан отряд особо тренированных агентов, в который входил и главный герой в исполнении Харрисона Форда; эти агенты владели специальными техниками, необходимыми для выявления и нейтрализации роботов-преступников.

На постепенное восхождение роботов по эволюционной лестнице разума уйдет много десятилетий тяжкой работы, поэтому появление разумных роботов не станет внезапным. Человечество невозможно будет захватить врасплох и сразу же загнать в зоопарки, как зверей. Сознание, в моем понимании, — это скорее процесс, ход которого можно оценивать, а не внезапное эволюционное событие, и восхождение роботов по шкале сознания будет идти медленно и постепенно и займет не один десяток лет. В конце концов, на развитие человеческого сознания у матери-природы ушли миллионы лет. Так что для человека не станет неожиданностью, когда Интернет внезапно «проснется» или роботы ни с того ни с сего начнут самостоятельно планировать собственное будущее.

Именно такой подход предпочитал писатель-фантаст Айзек Азимов. В его произведениях каждому роботу еще на заводе намертво встраивали в сознание три непреложных закона, не позволявших им выйти из-под контроля. Цель знаменитых трех законов робототехники, придуманных им, состояла в том, чтобы не дать роботам нанести вред человеку или себе самим. (Если очень коротко, эти три закона гласят, что робот не может нанести вред человеку, что он должен повиноваться человеку и что он должен заботиться о себе, именно в этом порядке.)

(Даже азимовские законы не избавляют от проблем в тех случаях, когда ситуация порождает противоречие между тремя законами. Представьте, к примеру, что кому-то удалось создать благожелательного робота. Что произойдет, если человечество вдруг сделает губительный выбор и поставит под угрозу собственное существование? Дружественный робот может решить, что необходимо взять под контроль правительство и не дать человеку нанести себе вред. Именно с этой проблемой столкнулся Уилл Смит в кинофильме «Я, робот», когда центральный компьютер решил, что для спасения человечества «некоторыми людьми необходимо пожертвовать, а от некоторых свобод отказаться». Чтобы не позволить роботам поработить человечество и спасти его, некоторые предлагают дополнить законы робототехники еще одним, нулевым законом: робот не может нанести вред человечеству или поработить его.)

Однако многие ученые склоняются к варианту так называемого «дружественного ИИ», при котором подразумевается, что человек с самого начала сделает роботов доброжелательными созданиями. Поскольку именно мы — создатели роботов и именно мы будем их разрабатывать, ничто не помешает нам сделать так, чтобы роботы с самого начала занимались только полезными и добрыми делами.

Понятие «дружественный ИИ» или «дружественный сверхразум» ввел в обращение Элиезер Юдковский (Eliezer Yudkowsky), один из основателей Института сингулярности по искусственному интеллекту. Дружественный ИИ несколько отличается от законов Азимова, которые предполагается навязывать роботам, возможно против их воли. (Более того, законы Азимова, привнесенные в сознание роботов извне, могут побудить их поступить наоборот и заняться поиском хитрых путей их обхода.) В дружественном ИИ, напротив, ничто не мешает роботам убивать и безобразничать. Здесь нет законов, насаждающих искусственную мораль. Скорее можно сказать, что эти роботы с самого начала придуманы так, что для них естественным является желание помогать людям, а не губить их. Они сами выбирают путь добра.

Такой подход породил новое направление, получившее название «социальной робототехники». Его цель — наделить роботов качествами, которые помогут им безболезненно войти в человеческое общество. Ученые компании Hanson Robotics, к примеру, утверждают, что единственная задача их исследований — разработка роботов, которые «эволюционируют в социально разумные существа, способные любить и достойные места в расширенной человеческой семье».

Проблема с подобными подходами в том, что больше всего — и намного! — денег в разработки по искусственному интеллекту вкладывают военные, и роботы, создаваемые по их заказам, специально предназначены для выслеживания и убийства людей. Несложно вообразить себе будущих роботов-солдат, задачей которых будет распознавать солдат противника (людей) и уничтожать их с безошибочной эффективностью. При этом придется принимать чрезвычайные, невообразимые меры, чтобы гарантировать, что военные роботы не обернутся против своих хозяев. К примеру, беспилотный роботизированный самолет Predator управляется дистанционно, так что все его действия постоянно контролируют люди, но когда-нибудь самолеты-беспилотники, вероятно, станут автономными и получат возможность самостоятельно выбирать и поражать цели. Сбой в системе управления такого автономного самолета может вызвать катастрофические последствия.

В будущем, однако, все большая доля финансирования в разработку роботов будет поступать из гражданского коммерческого сектора, особенно в Японии, где назначение роботов — помогать, а не разрушать. Если такая тенденция сохранится, дружественный ИИ действительно может стать реальностью. В этом сценарии в робототехнике со временем возьмут верх потребительский сектор и рыночные силы, так что вкладывать деньги в дружественный ИИ станет чрезвычайно выгодно.

В дополнение к дружественному ИИ существует и другой вариант: слиться со своими созданиями. Вместо того чтобы просто ждать, пока роботы превзойдут нас в интеллекте и мощи, нам следует улучшать себя и становиться сверхлюдьми. Я считаю, что будущее будет двигаться по обоим этим путям, т. е. человек будет создавать дружественный ИИ и одновременно совершенствоваться.

Этот вариант исследовал, в частности, Родни Брукс (Rodney Brooks), бывший директор знаменитой Лаборатории искусственного интеллекта МТИ. Он всегда был бунтарем, сражался с общепринятыми, но косными представлениями и вносил в эту область свежие идеи. Когда он только пришел в робототехнику, там безраздельно господствовал подход «сверху вниз». В результате в робототехнике наблюдался застой. Брукс вызвал немало удивленных взглядов, когда призвал к созданию армии насекомоподобных роботов, которые обучались бы на основе подхода «снизу вверх», т. е. натыкаясь на препятствия. Он не хотел делать еще одного тупого неуклюжего робота, которому требовалось бы несколько часов, чтобы пересечь комнату. Вместо этого он придумал проворных «инсектоидов», которые почти не требуют предварительного программирования, но быстро учатся передвигаться и ориентироваться среди препятствий методом проб и ошибок. Он предвидит наступление дня, когда его роботы и подобные им будут исследовать Солнечную систему, натыкаясь в пути на всевозможные препятствия. Эта идея, высказанная Бруксом в очерке «Быстрые, дешевые и себе на уме», на первый взгляд кажется странной и даже нелепой, но со временем такой подход привел к раскрытию целого спектра новых путей развития. В частности, одним из побочных результатов его идеи стали марсианские роверы, которые уже много лет бороздят поверхность Красной планеты[10]. Стоит ли удивляться, что Брукс был также президентом компании iRobot, продающей сегодня всюду напоминающие жуков роботизированные пылесосы.

Брукс считает, что одна из проблем ИИ состоит в том, что исследователи, как правило, хватаются за новые веяния и работают в рамках текущей парадигмы, вместо того чтобы думать по-новому и искать новые пути. Он вспоминает, к примеру: «В детстве у меня была книга, в которой мозг описывался как телефонный коммутатор. Еще более ранние книги описывали мозг как гидродинамическую систему или паровой двигатель.

Затем, в 1960-е, мозг стал цифровым компьютером. В 1980-е — цифровым компьютером с параллельной шиной. Вероятно, сейчас можно отыскать детскую книжку, где говорится, что мозг очень напоминает Всемирную паутину…»

Так, некоторые историки отмечают, что на психоанализ Зигмунда Фрейда повлияло появление парового двигателя и конкретно паровоза. Вообще, возникновение в Европе сети железных дорог в середине — конце XIX в. серьезно сказалось на мышлении интеллектуалов. По Фрейду, в сознании человека существуют потоки энергии, которые непрерывно конкурируют с другими потоками, и все это напоминает движение пара в паровозных паропроводах. А тот факт, что подавление этих энергетических потоков может вызывать неврозы, аналогичен тому, что паровой двигатель при закупорке клапана может взорваться.

Марвин Мински признался мне, что существует еще одна парадигма, которая уже много лет уводит исследователей ИИ в сторону и затрудняет развитие. Дело в том, что многие исследователи искусственного интеллекта пришли в эту область из физики и испытывают чувство, известное как «зависть физиков», — желание отыскать единственный принцип, лежащий в основе всякого разума. В физике ученые вслед за Эйнштейном стремятся представить физическую Вселенную в виде нескольких обобщающих уравнений и, возможно, отыскать короткое уравнение, которое объединило бы всю Вселенную единственной универсальной и понятной идеей. Мински считает, что «зависть физиков» побуждает исследователей ИИ искать универсальную базовую формулу и для сознания, — а на самом деле единой формулы или единого принципа не существует! Мински по крайней мере в этом убежден. Эволюция случайным образом объединила в один клубок множество самых разных структур и технологий, которые мы сегодня называем сознанием. Разберите мозг на составные части, и вы найдете набор слабо связанных между собой мини-мозгов, каждый из которых предназначен для выполнения конкретной задачи. Мински называет это «союзом сознаний» и говорит, что на самом деле человеческое сознание — это сумма множества отдельных алгоритмов и техник, которые случайно возникли и были подхвачены эволюцией и которые природа за миллионы лет объединила в единую систему.

Родни Брукс тоже искал похожую парадигму, но такую, которую никто и никогда еще до конца не исследовал. Вскоре он понял, что мать-природа и эволюция уже решили большую часть наших проблем. К примеру, комар, у которого в мозгу содержится всего несколько сотен тысяч нейронов, способен легко обойти любую, в том числе самую лучшую военную роботизированную систему. В отличие от наших беспилотных самолетов, комары, мозг которых по размеру намного уступает булавочной головке, способны независимо ориентироваться в пространстве, огибать препятствия, находить пищу и партнера. Почему не поучиться у природы и биологии? Посмотрев внимательнее на ступени эволюционной лестницы, нетрудно понять, что в насекомых и мышей никто не закладывал законы логики и здравого смысла. Только метод проб и ошибок позволил им завоевать мир и овладеть искусством выживания.

Теперь Брукс разрабатывает еще одну теоретическую идею, изложенную в его статье «Смешение плоти и машин». Он отмечает, что старые лаборатории MIT, когда-то разрабатывавшие полупроводниковые компоненты для промышленных и военных роботов, теперь закрываются, уступая дорогу новому поколению роботов, в состав которых будут входить не только кремний и сталь, но и живые ткани. Он предвидит появление абсолютно новых роботов совершенно новой архитектуры, в которой соединятся биологические и электронные системы.

Брукс пишет: «Я предсказываю, что к 2100 г. всюду в нашей повседневной жизни будут встречаться весьма умные роботы. Но и мы не останемся независимыми от них — скорее, мы сами будем отчасти роботами и будем при этом неразрывно связаны с роботами».

Он считает, что путь к этому будет постепенным. В настоящее время уже идет революция в протезировании, электронные компоненты вживляются непосредственно в тело человека, чтобы обеспечить реалистичную замену слуху, зрению и другим биологическим функциям. К примеру, искусственная «улитка» уже произвела переворот в аудиологии и дала возможность возвращать слух глухим людям. Работа искусственных улиток состоит в том, чтобы подключать электронные устройства к биологической сети, т. е. к нейронам. Такой слуховой имплант состоит из нескольких компонент. Снаружи возле уха помещается микрофон. Он принимает звуковые волны, обрабатывает их и передает сигналы по радио импланту, хирургически размещенному внутри уха. Имплант принимает радиопослания, переводит их в электрические токи и отправляет дальше по проложенным в ухе электродам. Улитка распознает электрические импульсы и пересылает их в мозг. В таких имплантах может использоваться до 24 электродов, которых достаточно для обработки полудюжины различных частот. Этого, в свою очередь, достаточно, чтобы различать человеческий голос. На сегодня уже 150 000 человек во всем мире носят улитку-имплант.

Несколько групп ученых занимаются вопросом помощи слепым и создания системы искусственного зрения, которая позволила бы подключить камеру к человеческому мозгу. Один из предлагаемых методов состоит в том, чтобы вживить полупроводниковый чип непосредственно в сетчатую оболочку человеческого глаза и подсоединить его к соответствующим зрительным нейронам. Другой — в том, чтобы подсоединить чип к специальному кабелю, который будет вести в заднюю часть черепа, где мозг обрабатывает зрительные сигналы. Этим группам ученых уже удалось впервые в истории вернуть какую-то часть зрения полностью слепым людям. Пациенты получили возможность различать до 50 световых точек, зажигавшихся перед ними. Со временем, вероятно, ученым удастся повысить Этот результат и довести число точек до нескольких тысяч.

Пока пациенты различают огни фейерверков, общие очертания своих рук, яркие светящиеся объекты и лампы, распознают присутствие поблизости автомобилей и людей и улавливают границы объектов. «На детских бейсбольных играх я различаю, где находятся принимающий, отбивающий и судья», — говорит Линда Морфут, одна из пациенток, на которых испытываются новые приборы.

На сегодняшний день 30 пациентов получили искусственную сетчатку и до 60 электродов. Но в Проекте искусственной сетчатки Министерства энергетики США, штаб-квартира которого находится в Университете Южной Калифорнии, уже разрабатывается новая система с более чем 200 электродами. Изучается также возможность разработки системы на 1000 электродов (но если к одному чипу подключить слишком много электродов, сетчатка может перегреться). В этой системе миниатюрная видеокамера, установленная на очках слепого человека, снимает окружающее и пересылает сигналы по беспроводной связи в микропроцессорный блок, который человек носит на поясе. Блок затем передает информацию чипу, помещенному непосредственно на сетчатку. Этот чип, в свою очередь, посылает слабые импульсы прямо в нервы сетчатки, которые сохранили активность. Таким образом можно обойти и отчасти заменить неработоспособные клетки сетчатки.

Механические усилители позволяют также копировать «изобретения» научной фантастики, включая роботизированную руку из «Звездных войн» и рентгеновское зрение Супермена. В фильме «Империя наносит ответный удар» Люк Скайуокер теряет кисть руки в результате удара светового меча, находящегося в руке злодея Дарта Вейдера, его отца. Никаких проблем. Ученые той далекой галактики быстро создают для него новую механическую руку с пальцами, способными чувствовать прикосновение.

Конечно, это кажется фантастикой — это и есть фантастика, — но на самом деле подобные вещи уже рядом с нами. Ученые Италии и Швеции добились значительного прогресса в этом вопросе и разработали роботизированную искусственную руку, способную «чувствовать». Первый пациент, Робин Экенстам (Robin Ekenstam), — 22-летний молодой человек, потерявший правую руку в результате рака, может теперь управлять движениями механических пальцев и ощущать реакцию предмета. Врачи подсоединили нервы руки Экенстама к чипам, установленным в его механической руке, так чтобы он мог при помощи сознания контролировать движения пальцев. В искусственной «умной руке» имеется четыре моторчика и 40 чувствительных элементов — сенсоров. Движения механических пальцев передаются в мозг пациента, так что он их чувствует и получает, соответственно, сигнал обратной связи. Таким образом, он может не только управлять движениями руки, но и «чувствовать» их. А поскольку обратная связь — одно из существенных условий корректных движений тела, новые протезы, возможно, произведут переворот в нашем отношении к инвалидам с искусственными конечностями.

Экенстам говорит: «Это очень здорово. Я испытываю чувства, которых не испытывал долгое время. Ко мне возвращается чувство руки. Стоит мне что-нибудь крепко сжать — и я ощущаю это кончиками пальцев, что странно, ведь их у меня больше нет».

Один из исследователей, Кристиан Чиприани (Christian Cipriani) из итальянского университета «Высшая школа Св. Анны», говорит: «Сначала мозг управляет движениями механической руки без всяких мышечных сокращений. Затем рука сможет послать мозгу сигнал обратной связи, так что пациент сможет это Движение почувствовать. В точности как у настоящей руки».

Это достижение очень важно, поскольку оно означает, что когда-нибудь люди смогут без труда управлять механическими конечностями, как если бы они состояли из плоти и костей. Вместо того чтобы долго осваивать управление металлическими руками и ногами, люди научатся обращаться с механическими протезами как с настоящими и чувствовать все нюансы движений через механизмы электронной обратной связи.

Имеются также данные в пользу теории о том, что человеческий мозг чрезвычайно пластичен и не имеет постоянной структуры, а непрерывно обновляет и заново устанавливает внутренние связи в соответствии с новыми заданиями и приспосабливается к новым обстоятельствам. Из этого следует, что мозг достаточно адаптабелен, чтобы принять на себя управление любым новым приспособлением или органом чувств. Их можно подключать к мозгу в разных местах, и мозг просто «научится» их контролировать. Если так, то мозг можно рассматривать как модульное устройство, способное коммутироваться в разных конфигурациях и брать на себя управление различными сенсорами и исполняющими устройствами. Такой тип поведения можно ожидать, если наш мозг представляет собой некую нейронную сеть, которая собирается по-новому, устанавливает новые связи и прокладывает новые нейронные пути всякий раз, когда сталкивается с новой задачей или необычными обстоятельствами, какими бы они ни были.

Родни Брукс пишет: «В следующие десять-двадцать лет произойдет культурный сдвиг, при котором мы примем роботизированные технологии, полупроводники и сталь в наши тела, попытаемся улучшить то, что имеем, и понять окружающий нас мир». Анализируя успехи по подключению мозга непосредственно к компьютеру или к механической руке, достигнутые в университетах Брауна и Дьюка, Брукс делает вывод: «Не исключено, что все мы сможем установить у себя прямо в мозгу беспроводное соединение с Интернетом».

На следующем этапе, считает он, целью слияния кремниевых чипов с живыми клетками будет уже не просто исправление физических недостатков, но постепенное увеличение наших способностей. К примеру, если сегодня импланты-улитки и искусственная сетчатка могут в какой-то степени восстановить слух и зрение, то завтра подобные приборы, возможно, дадут нам сверхчеловеческие способности. Мы научимся слышать звуки, доступные сегодня только собакам, и видеть ультрафиолетовые, инфракрасные и рентгеновские лучи.

Не исключено, что нам удастся улучшить и свои мыслительные способности. Брукс цитирует исследования, в которых к мозгу крысы в критические моменты развития зародыша добавлялись дополнительные слои нейронов. Интересно, что когнитивные способности таких крыс превосходили средние крысиные показатели. Брукс предвидит, что в недалеком будущем наступит время, когда при помощи аналогичных процессов можно будет улучшить интеллектуальные показатели и человеческого мозга. В дальнейших главах мы увидим, что биологи уже выделили у крыс ген, которые средства массовой информации окрестили «мышиным геном ума». «Улучшенная» мышь, в геном которой был введен этот ген, обладает значительно большим объемом памяти и лучшей обучаемостью, чем обычная.

К середине века, по мнению Брукса, наступит время, когда можно будет осуществлять фантастические на первый взгляд улучшения в теле, придавая нам способности, намного превосходящие способности обычного человека. «Через пятьдесят лет мы, скорее всего, увидим радикальные перемены в человеческом теле в результате генетических модификаций». А если добавить к этому еще и электронные усилители, то «разнообразие человеческих типов расширится в невообразимых для нас сегодня направлениях… Нас уже не будет ограничивать дарвиновская эволюция», — говорит он.

Но любые разумные идеи, конечно, можно довести до абсурда. Как далеко нам нужно будет зайти в деле слияния с нашими созданиями — роботами, прежде чем часть людей взбунтуется и скажет, что подобные гибриды вызывают у них отвращение?

Существует способ соединения с роботами, при котором нам не придется менять свое человеческое тело. Речь идет о создании суррогатов, или аватаров. В фильме «Суррогаты» с Брюсом Уиллисом в главной роли рассказывается о том, что в 2017 г. ученые придумали способ, при помощи которого люди могли управлять роботами так, как если бы находились внутри их, и каждый получил возможность прожить жизнь в идеальном теле. Робот отзывался на любые команды, а человек-хозяин видел и чувствовал все, что видел и чувствовал его суррогат. Пока бренные тела людей слабели и старели, сами люди спокойно управляли поведением роботов-заменителей, обладавших сверхчеловеческими способностями и идеальной фигурой. Сюжет фильма осложняется тем, что люди в какой-то момент предпочли остаться молодыми и красивыми роботами-сверхчеловеками и бросить свои стареющие тела, которые очень кстати оказываются скрыты от глаз. По существу, весь род человеческий, не желая смотреть в лицо реальности, добровольно выбирает жизнь роботов.

В фильме «Аватар» эта идея продвигается еще на один шаг. Вместо того чтобы вести жизнь идеальных роботов, как в «Суррогатах», мы в 2154 г., может быть, получим возможность жить жизнью инопланетных существ. По сюжету фильма тело человека помещают в специальный кокон, а сам он получает возможность управлять специально клонированным телом инопланетянина. В каком-то смысле человек получает новое тело, которое позволит ему жить на новой планете. Таким образом мы сможем лучше контактировать с населением иных планет. По ходу сюжета фильма один из героев решает отказаться от своей человеческой сущности и жить жизнью аборигена, защищая местных жителей от наемников.

Сегодня подобные суррогаты и аватары невозможны, но не исключено, что в будущем такие возможности у человека появятся.

Недавно ASIMO был запрограммирован под новую идею, связанную с удаленным чувствованием. В университете Киото были подготовлены люди, которые должны управлять механическими движениями роботов при помощи сенсоров мозга. К примеру, студенты надевают на голову шлем для снятия электроэнцефалограммы и получают возможность мысленным усилием приводить в движение руки и ноги ASIMO. Пока испытуемые освоили четыре различных движения руками и головой робота. Не исключено, однако, что это первый шаг к новому направлению ИИ: созданию роботов, управляемых силой мысли.

Пока это всего лишь грубая демонстрация силы мысли и ее превосходства над материей, но в будущем — в ближайшие несколько десятилетий — мы, вероятно, увеличим набор движений, которые человек может мысленно скомандовать роботу, и установим обратные связи, так чтобы человек мог «чувствовать» свои новые роботизированные руки. Специальные очки или контактные линзы позволять увидеть все, что видит робот, и когда-нибудь человек, возможно, обретет полный мысленный контроль над его телесными движениями.

Не исключено, что такой подход позволит решить проблему иммиграции для Японии. Представьте себе работников, живущих в разных странах мира, но каждый день надевающих сенсорные шлемы и берущих на себя управление роботами-рабочими. Получается, что не только интеллектуальный, но и физический труд можно будет передавать дистанционно, через Интернет, и получать на выходе реальные физические действия механических рабочих. Это может означать, что роботы станут неотъемлемой частью любой нации, столкнувшейся с проблемой нехватки рабочей силы и заоблачных расходов на здравоохранение.

Дистанционное управление роботами можно будет применить и в других областях. Роботы, управляемые силой мысли, смогут исполнять функции спасателей в любой опасной или агрессивной среде (к примеру, под водой, возле высоковольтных линий или в огне). Или, скажем, подводных роботов можно будет подключить непосредственно к людям, так что человек сможет мысленно управлять движениями множества плавающих роботов. Поскольку суррогаты будут обладать сверхчеловеческими способностями, с их помощью можно будет гоняться за преступниками (если, конечно, преступники тоже не обзаведутся суррогатами с возможностями сверхчеловека). В общем, человек сможет пользоваться всеми преимуществами слияния с роботами, не меняя при этом нисколько своего тела.

Достижения в этой области могут оказаться полезными и в деле исследования и освоения космического пространства — к примеру, на постоянной лунной базе. Суррогаты будут выполнять все опасные задачи по содержанию и обслуживанию лунной базы, а астронавты все это время будут оставаться на Земле, в безопасности. При этом последние смогут пользоваться сверхсилой и другими сверхвозможностями роботов, что, безусловно, окажется полезным при исследовании полного опасностей инопланетного ландшафта. (Однако с суррогатами на Марсе такой фокус не пройдет, поскольку прохождение радиосигналов от Земли к Марсу и обратно занимает до 40 минут. Тем не менее суррогаты смогут работать на поверхности Красной планеты, выполнять опасные задачи под управлением астронавтов, находящихся в безопасности на постоянной марсианской базе.)

Пионер робототехники Ганс Моравек заходит еще на несколько шагов дальше и представляет нам крайний случай слияния: мы полностью превращаемся в тех самых роботов, которых создали. Он объяснил мне, как человек может до конца слиться со своим роботизированным созданием: хирургическая операция заменит каждый нейрон человеческого мозга на транзистор внутри робота. Операция начинается, когда человек ложится рядом с безмозглым пока телом робота. Робот-хирург берет поочередно каждый кластер серого вещества мозга, воспроизводит его транзистор за транзистором, подключает нейроны к транзисторам и помещает готовый элемент мозга в череп робота. По мере дублирования кластеров мозга оригиналы отключаются. Человек во время этой деликатной операции находится в полном сознании. Часть его мозга продолжает функционировать в черепе его прежнего тела, но другая часть уже состоит из электронных элементов и находится внутри тела робота. Такая операция даст человеку не только роботизированное тело, но и все преимущества робота: бессмертие в совершенном теле, обладающем сверхчеловеческими способностями. В XXI в. такая операция не станет возможной, но в XXII — может быть.

Крайний сценарий такого рода предусматривает полный отказ от наших неуклюжих тел и превращение со временем в чисто компьютерные программы, в которых будет закодирована наша личность. Можно будет «загрузить» себя целиком, всю свою личность, в компьютер, и если кто-нибудь нажмет на клавиатуре этого компьютера кнопку с вашим именем, машина станет вести себя как вы, ведь ее память будет хранить все особенности вашей личности. Человек станет бессмертным, но будет существовать лишь в замкнутом мире компьютера, взаимодействуя с другими «людьми» (т. е. с другими программами) в некоем огромном киберпространстве — виртуальной реальности. Он откажется от телесного существования, заменив его движением электронов в гигантском компьютере. Окончательная судьба человека в этом сценарии — превратиться в строчку кода огромной компьютерной программы и при этом вести виртуальную псевдотелесную жизнь в виртуальном раю. Он будет обмениваться глубокими мыслями с другими строчками программного кода и жить в иллюзорном мире. Он будет совершать героические подвиги и исследовать новые миры, не обращая внимания на то, что сам он — всего лишь танец электронов внутри некоего компьютера. Конечно, все это до тех пор, пока компьютер кто-нибудь не выключит.

Однако существует проблема, которая, судя по всему, не позволит завести подобные сценарии слишком далеко: это Принцип пещерного человека. Мы уже говорили, что архитектура нашего мозга соответствует образу жизни примитивного охотника-собирателя, вышедшего из Африки более 100 000 лет назад. Наши заветные желания, аппетиты и нужды сформировались на травянистых равнинах Африки, где наши далекие предки убегали от хищников, выслеживали и загоняли добычу, собирали пищу в лесу, искали себе партнеров и развлекались у привальных костров.

Одной из первичных наших потребностей, прочно вплетенных в ткань мыслей и подсознания, является желание хорошо выглядеть, особенно в глазах противоположного пола и сверстников. Громадную часть свободных средств человек тратит (после развлечений) на собственную внешность. Именно поэтому так быстро развиваются пластическая хирургия, всевозможные технологии омоложения, производство продуктов ухода за лицом и телом и одежды на самый разный вкус, а также обучение танцам, бодибилдинг, модная музыка и здоровый образ жизни. Если сложить все это, получится громадный сектор потребительского рынка, который в свою очередь порождает значительную долю экономики США.

Все это означает, что, получив возможность создавать идеальные, почти бессмертные тела, мы, не захотим переселяться в роботизированные оболочки, если при этом будем выглядеть как неуклюжие роботы с торчащими из головы имплантами. Никто не захочет походить на беглеца из научно-фантастического фильма. Если уж переселяться в новое тело, то только в такое, которое сделает нас привлекательными для противоположного пола и повысит наше реноме среди ровесников. В противном случае новые тела будут нам не нужны. Какой подросток захочет обрести сверхспособности за счет внешнего вида?

Некоторым писателям-фантастам нравится идея о том, что мы все со временем избавимся от тел и станем бессмертными сущностями, воплощениями чистого разума, внутри некоего компьютера, погрузившись в размышления о вечном. Но кто захочет так жить? Возможно, наши потомки не станут решать дифференциальные уравнения, описывающие структуру черной дыры. Может быть, в будущем люди предпочтут чаще слушать рок-музыку совершенно старомодным способом, нежели рассчитывать движение элементарных частиц, живя каким-то непостижимым образом внутри компьютера.

Грег Сток (Greg Stock) из Университета Калифорнии в Лос-Анджелесе заходит еще дальше. Он считает, что в налаживании связи человеческого мозга с суперкомпьютером нет особого смысла. Он говорит: «Когда я пытаюсь думать о преимуществах, которые мог бы получить, если бы между моим мозгом и суперкомпьютером была налажена прямая связь, я оказываюсь в тупике, если пытаюсь настаивать на двух условиях: чтобы эти преимущества невозможно было получить каким-то другим, неинвазивным способом и чтобы они окупали в моих глазах неудобства, связанные с нейрохирургической операцией».

Так что, хотя возможностей в будущем просматривается немало, я лично считаю, что наиболее вероятный путь — разработка изначально благожелательных и дружественных роботов и улучшение наших физических возможностей, — но лишь в той мере, в какой это не противоречит Принципу пещерного человека. Человек с удовольствием попробовал бы пожить жизнью суперробота при помощи суррогатного тела, но никогда не пойдет на то, чтобы полностью переселиться в компьютер или изменить свое тело до неузнаваемости.

Никто не знает наверняка, когда роботы смогут сравняться с человеком по интеллекту. Однако я лично отнес бы это событие на конец нынешнего века по нескольким причинам.

Во-первых, поразительные успехи компьютерных технологий в значительной степени объясняются законом Мура. Но где-то в 2020–2025 гг. заданные им темпы развития начнут замедляться, а в какой-то момент рост, возможно, совсем остановится. Поэтому неясно, можем ли мы достоверно оценивать скорость новых компьютеров после этой даты. (Информацию о посткремниевой эпохе см. в главе 4.) При написании этой книги я исходил из предположения о том, что мощность компьютеров будет продолжать расти, но более медленными темпами.

Во-вторых, даже если компьютеры научатся считать с фантастической скоростью вроде 10¹⁶ операций в секунду, это не будет обязательно означать, что они стали умнее нас. К примеру, Deep Blue, компьютер-шахматист фирмы IBM, способен проанализировать 200 миллионов позиций в секунду и обыграть чемпиона мира. Но, несмотря на всю свою скорость и вычислительную мощь, этот компьютер больше ничего делать не умеет. А мы уже знаем, что истинный разум — это нечто гораздо большее, чем просто перебор и анализ шахматных позиций.

К примеру, среди аутистов встречаются эрудиты, способные творить чудеса с числами и запоминанием данных. Но этим людям бывает трудно завязывать шнурки, найти работу или жить в обществе. Покойный Ким Пик — человек настолько необычный, что стал прототипом главного героя фильма «Человек дождя», — помнил каждое слово из 12 000 книг и способен был производить вычисления, проверить которые мог только компьютер. Тем не менее его IQ равнялся 73, ему было сложно поддерживать разговор и, чтобы выжить, он нуждался в постоянной помощи. Без поддержки отца он был практически беспомощен. Иными словами, сверхбыстрые компьютеры будущего будут похожи на гениев-аутистов; они смогут запоминать громадное количество информации, но не способны будут самостоятельно выжить в реальном мире.

Даже если компьютеры сравняются с человеческим мозгом по скорости вычислений, им все равно будет не хватать необходимых программ, чтобы все это заработало. Скорость вычислений — всего лишь начало долгого пути.

В-третьих, даже если разумные роботы возможны, неизвестно, способен ли робот изготовить собственную копию, которая будет умнее оригинала. Математический аппарат для самовоспроизводящихся роботов был разработан математиком Джоном фон Нейманом (John von Neumann), изобретателем теории игр и участником разработки электронного компьютера. Он первым поднял вопрос об определении минимального числа исходных посылок, необходимых для того, чтобы машина могла воспроизвести сама себя. Однако Нейман никогда не обращался к вопросу о том, сможет ли робот сделать свою копию умнее себя. Более того, сама «разумность» — понятие спорное и общепринятого его определения не существует.

Конечно, можно смело предположить, что робот сумеет создать копию себя, сумеет снабдить ее более емкой памятью и лучшими вычислительными возможностями — для этого достаточно будет добавить в структуру дополнительные чипы. Но означает ли это, что копия будет умнее оригинала или просто быстрее? К примеру, калькулятор считает в миллион раз быстрее человека, но сказать, что он умнее, не повернется язык. Так что разум, очевидно, — это нечто большее, чем просто скорость и объем памяти.

В-четвертых, даже если вычислительные мощности компьютеров будут расти экспоненциально, программное обеспечение может за ними и не успеть. Если возможности компьютерного «железа» долгое время развивались за счет микроминиатюризации транзисторов и совершенствования технологии производства, позволявших размещать на одной и той же подложке все большее число электронных элементов, то с программным обеспечением все иначе. Для его создания нужен человек, который сядет за стол, возьмет карандаш и сочинит программный код. Это и есть самое главное ограничение: человек.

Программное обеспечение, как и любая творческая деятельность человека, развивается скачками; здесь бывают блестящие озарения и долгие периоды застоя и монотонной работы. Если в электронике как таковой достаточно было научиться вытравливать на кремниевой подложке все больше и больше транзисторов — и здесь закон Мура работал как часы, — то уровень программного обеспечения определяется такими непредсказуемыми качествами, как человеческая креативность и настроение. Поэтому все предсказания, касающиеся стабильного экспоненциального роста компьютерных мощностей, следует оценивать трезво. Цепь не может быть прочнее самого слабого своего звена, а слабое звено компьютера — программное обеспечение, которое создают люди.

В технике развитие часто идет по экспоненте, особенно если речь идет всего-навсего о повышении эффективности технологических процессов. Однако когда дело доходит до фундаментальных исследований, где трудно обойтись без удачи, мастерства и неожиданных гениальных прозрений, речь может идти скорее о «прерывистом равновесии», когда долгое время почти ничего не меняется, а затем вдруг происходит прорыв, который полностью меняет всю картину. Если взглянуть на историю фундаментальных исследований от Ньютона до Эйнштейна и до наших дней, становится понятно, что прерывистое равновесие более точно описывает способ развития фундаментальной науки.

В-пятых, как мы уже видели в исследованиях по реверсивному проектированию мозга, чрезвычайно высокая стоимость и просто масштаб проекта, по всей видимости, отсрочат его реализацию до середины века. А затем наступит время обработки данных, которая тоже может растянуться на много десятилетий, и в результате полная модель мозга, скорее всего, будет создана лишь к концу текущего столетия.

В-шестых, вероятно, не будет никакого «большого взрыва», когда машины вдруг, в один день, обретут сознание. Как прежде, если мы установим, что сознание обязательно включает способность планировать будущее при помощи моделирования, получится, что существует целая шкала сознания, целый спектр его уровней. Машины будут медленно двигаться по этой шкале вверх, и человек успеет подготовиться. Я считаю, что это произойдет ближе к концу века, так что времени на обсуждение всевозможных вариантов и путей у нас достаточно. Сначала у роботов появится некая форма «кремниевого сознания», и только потом — настоящее человеческое сознание.

Но здесь возникает другой вопрос. Наряду с механическими способами усовершенствовать тело человека существуют и биологические способы. Более того, весь ход эволюции основывается на отборе лучших генов — так почему бы человеку не «перепрыгнуть» через миллионы лет эволюции и не взять под контроль собственную генетическую судьбу?

Примечания:

1

Предавая анафеме противников глобализации, автор, очевидно, исходит из того, что образование планетарной цивилизации — не только закономерность, но и безусловное благо. Однако признать таковым планетарную цивилизацию в том виде, в каком ее видит Мичио Каку и в каком она действительно Пытается распространиться на весь мир, чрезвычайно трудно. — Прим. пер.

9

Речь идет о так называемой теории триединого мозга, высказанной впервые в середине XX в. Однако следует заметить, что по современным представлениям она приложима скорее к функциональной, а не к анатомической структуре мозга. — Прим. пер.

10

Марсоходы Spirit и Opportunity десантировались на Марс в январе 2004 г. Первый пережил две марсианские зимы и погиб в третью, в середине 2010 г., второй успешно работает до настоящего времени (июль 2011 г.) и прошел по поверхности Марса уже 33 км. — Прим. пер.