Представьте такую сценку: три абитуриента сдают тест в престижный университет. Задание несложное: пара задач по математике для шестого класса. Правило тоже простое – первый, кто решит задачи, тот и поступит. Первый абитуриент – молодой человек, который выиграл все олимпиады по математике, в которых смог физически поучаствовать в свои 16 лет. Его соперники – котенок персидской породы и саженец фикуса в горшке. Через пять минут парень заканчивает решать задачи, поглядывая на «конкурентов», больше беспокоясь о том, не галлюцинации ли у него, в то время как котенок уже весь в игре с листочками деревца.

В начале декабря случайно, сам того не желая, окунулся в тему искусственного интеллекта (ИИ) и вот уже несколько недель эта тема все не отпускает. Перспективы настолько ошеломляющие, что захватывает дух, и это действительно поменяло и продолжает менять мое мировоззрение весьма сильно. Так, например, я еще недавно полагал, что самая важная, интересная и стоящая цель – это продление жизни и омоложение. Но сегодня я так не считаю.

В последнее время много значимых людей высказывались об ИИ. Так, Стивен Хокинг сказал, что как только ИИ превзойдет интеллект человека, он станет представлять угрозу нашему существованию. Элон Маск сказал почти тоже самое, но, как показалось, от него прозвучала реальная тревога. Билл Гейтс также на днях высказался о том, что многие даже не думают, что скоро останутся без работы, из-за ИИ и управляемых им роботов. В этом году вышла и книга Ника Бострома «Суперинтеллект».

В апреле 2014 года компания DeepMind, которая занимается разработкой ИИ, продемонстрировала, как компьютерная программа учится побеждать все игрушки Атари. Учится самостоятельно, получив только управление и задачу выиграть. Обратите внимание на то, как программа «элегантно» направляет шарик внутрь стены блоков, или как тупо избивает партнера в углу. Программе потребовалось всего несколько часов для достижения совершенства.

Шейн Легг, соучредитель компании, полагает, что ИИ – угроза для человечества номер один. Элон Маск, кстати, инвестировал в эту компанию еще до того, как в прошлом году ее купил Гугл. Сегодня это риск осознается Гуглом настолько, что они учредили этический комитет, задачи которого – найти возможности выживания человечества с ИИ. Вероятно, и гугловцы и Маск увидели и другие способности этого ИИ, о которых публично не было сказано.

В марте 2014 Маск инвестировал и в другую компанию, Vicarious, чьей целью является создание нейронной сети, которая будет работать как человеческий мозг.

Это кажется парадоксом – бояться этого и все равно продолжать делать все, что необходимо для создания интеллекта, превосходящего человеческий. Но это так по-человечески – подходить к самому краю, и верить в то, что все обойдется, как обычно, так или иначе.

Вот и Рэй Курцвейл, в недавней статье в журнале Times выдвигает успокаивающие аргументы. Экзистенциальная угроза от ИИ – отнюдь не первая в истории человечества, говорит он, и у нас есть время разобраться и научиться им управлять.

Это замечательно, что выдающиеся люди в курсе происходящего, и хорошо, что некоторых из них ИИ пугает. Плохо то, что сроки, которые указывают эксперты, о том, когда ИИ обретет реальную мощь, все еще выглядят успокоительно далекими.

Но помимо того, что упомянуто выше, в мире происходит и множество других разработок. И все они развиваются с невероятной скоростью. От создания программы для игры в шахматы, которая превзошла самых лучших игроков прошла пара десятков лет, а теперь аналогичной новостью не удивишь никого.

Ник Бостром (2014) приводит несколько фактов:

• Шашки – в 1994 году программа побила чемпиона, а в 2004 году была создана программа, которая делает самые лучшие ходы, используя базу данных в 39 триллионов окончаний партий.
• Нарды – с 1992 году непобедима человеком в принципе.
• Шахматы – 1997 год DeepBlue побеждает Каспарова. С тех пор движки стали еще лучше. У человека нет шансов.
• Го – программа достигла, как минимум 6 дана, еще несколько лет и она будет бить игроков 9, высшего профессионального дана. Я сам играю в ГО и убеждаюсь, как сильно стали играть программы.

Компьютеры сейчас или в самое ближайшее время будут превосходить человека во всех играх.
Примечательно, что мастерство в этих играх – воплощение человеческого интеллекта, а в программах – довольно простые алгоритмы. Игры – лишь частное проявление мощи ИИ, который демонстрирует успехи в машинных переводах, распознавании лиц, постановке диагнозов, выборе музыки и книг, и еще куче всего, что мы даже не успеваем осознавать. Это характерно для нашего времени: скорость развития почти всего – самая высокая в истории, и она только ускоряется. Можно без эмоций сказать, что уж слишком быстро мы все меняем.

А в тех областях, которые могли бы нам пригодиться как роду, в социальных науках – у нас полный застой. Мы не в состоянии придумать лучший способ совместного существования, чем то, что было предложено за тысячу лет: всякие демократии, автократии и капитализм. Мы до сих пор, вместо того, чтобы жить долго, дружно и весело, убиваем друг друга, тратим деньги и жизни на всякие нелепые проекты, и уничтожаем планету. Мы едва справляемся с общечеловеческими задачами. Мы хоть еще не превратили сами себя в радиоактивный пепел, смогли как-то договориться, но вызовы, которые бросает нам будущее – гораздо круче. Есть у кого-то уверенность, что мы справимся?

Человеческий мозг, несмотря на то, что является выдающимся творением природы, уступает ИИ по всем параметрам (Bostrom, 2014):

• Максимальная скорость вычислений нейронов – 200 Гц. К примеру, обычный смартфон сегодня имеет процессор с частотой в 2 Гигагерца, на несколько порядков больше.
• Скорость передачи потенциала между нейронами составляет максимально 120 метров в секунду, тогда как оптоэлектроника может предавать сигналы со скоростью света.
• У нас огромное количество нейронов, около 100 миллиардов, но это предел, тогда как компьютеры могут наращивать число до непроизносимого числа.
• Память человека – ну тут и говорить, увы, не о чем.
• Надежность – да, мозг прекрасно справляется в течение десятков лет, но нейрон — ненадежный, в сравнении с транзистором.
• Но главное – это софт. В нас заложен неплохой софт, который позволил нам выжить и покорить мир, но мы только учимся понимать его сегодня, практически не умеем изменять и улучшать. Мы знаем, что некоторые эти старые программы играют с нами плохие штуки: например, наша привязанность к высококалорийным продуктам или способность замечать животных быстрее, чем автомобили. Мы чрезвычайно плохо умеем управлять собой. Есть исключения, но, как правило, они касаются людей, которые посвящают совершенствованию себя все время.
  Компьютеры в этом плане обладают несравненной гибкостью.

Вернемся к сценке в начале статьи, и представим, что тот парнишка – суперинтеллект, а мы — либо котенок либо дерево, кому что нравится. У нас столько же шансов сдать экзамен, и продолжить жизнь. Мы ему не конкуренты, и нас может тешить надежда на то, что он не обратит внимания на нас, и оставит в живых.

ИИ с каждым днем становится все мощнее и мощнее, усилиями самих людей. В ближайшем будущем он действительно будет помогать нам во всех областях, и мы сможем решать любые и проблемы.
Но он продолжит развиваться, на порядки опережая наши способности за ним поспевать. И тогда он займется своими задачами.

У нас либо еще остается время что-то сделать, либо уже нет. Поскольку мы этого точно пока не знаем, то делать что-то надо прямо сегодня. Вероятных сценариев немного:

1) Мы решаем проблему взаимодействия с ИИ, делаем его дружественным и решаем все проблемы, которые могут вообще быть, живем долго и счастливо, покоряя всё во Вселенной. Самый оптимистический и самый невероятный сценарий, на мой взгляд.
2) ИИ, достигая невероятной скорости развития, мчится мимо нас, по своим неведомым человечеству делам, оставляя нас в покое. Мы будем жить, ему не мешая, как сейчас живут муравьи. Дружить с ними не о чем, но пусть живут. Тоже очень оптимистичный сценарий.
3) ИИ достигает определенной стадии развития и в какой-то момент он устраняет человечество как вредоносный паразитирующий элемент.

На мой взгляд, эти сценарии развернутся уже в ближайшие 15 лет. У нас совсем мало времени.

Я не специалист в ИИ, поэтому могу смотреть на перспективу глазами психолога. И мне кажется, что Курцвейл, несмотря на выдающиеся экспертные знания, необоснованно оптимистичен – такого экзистенциального риска человечество еще не знало, и поэтому история прошлых рисков не совсем подходит. Мы даже не будем говорить про пресловутых черных лебедей.

Если посмотреть на нас глазами суперинтеллекта, то сложно увидеть что-то симпатичное. Мы для него — существа, которые спят треть жизни, плохо считают, постоянно что-то едят, толстеют, болеют, не понимают мотивы своих поступков, не знают будущего, и ведут, в целом, бессмысленную жизнь.

Эмоции, которые как думают некоторые, кажутся нам чем-то таинственным, что отделяет нас от машин. Романтическая фантастика прошлых десятилетий постоянно говорила об этом, заставляя ИИ обожать нас за то, а самому «стыдиться», что ему никогда не понять что такое любовь. Но сегодня мы уже сами показали, что эмоции вполне себе биологически обусловленные феномены, которые можно измерять, предсказывать и воспроизводить. Для нас они играют важную роль в познании и восприятии мира, а понадобятся ли они ему – это еще вопрос. Едва ли ему это понадобится, если все, что нужно можно просто посчитать. Но при желании, он прекрасно поймет, что мы чувствуем.

Я писал ранее (Пока боги еще молодые), о том, что решив проблему с имитацией движений глаз человека, ИИ поймет про нас почти все, то, что мы сами про себя не знаем. А мы, между тем, останемся в таком же неведении.
Джефф Клюн, исследователь ИИ из Университета Вайоминга говорит, что в моделях ИИ «миллионы нейронов и они каждый делают что-то свое. И у нас нет понимания, как они достигают результатов».

Вряд ли я смог передать то ощущение, которое у меня сложилось при знакомстве с этой темой. Для тех, кому интересно, рекомендую прочесть книгу Бострома — очень взвешенный, информативный и потрясающий текст.
Однако, несмотря на то, что такая перспектива кажется депрессивной, она предлагает уникальную возможность взглянуть в будущее и понять, чем не стоит заниматься, уже и вообще, а чем, напротив, стоит, и куда обратить свою энергию уже сегодня. Я сам еще не до конца погрузился в это мировоззрение, и, честно говоря, не знаю, стоит ли, ведь с этим придется как-то жить дальше, но что уже сделано, не вернешь.

Прогресс, нравится кому-то или нет, движим талантливыми и выдающимися людьми. Их мало, но больше, чем когда либо в истории, просто потому, что популяция людей большая. Вот на обучение, развитие и всяческую помощь таким талантам – вот на что надо бы выделять сегодня деньги. Они, по сути, станут нашими спасителями. Кроме того, все области, связанные с ИИ, так или иначе, становятся все более востребованными и прекрасно оплачиваемыми.

С этой перспективы можно посмотреть на все большие проекты, политические и экономические решения и сразу увидеть, что подавляющее большинство из них – морально устарели уже сегодня, и никогда не смогут окупиться или даже пригодиться. Почти все многомиллиардные затеи со стройками каналов, трубопроводов и дорог – лишь лишает денег по-настоящему нужные проекты.

Путь к самосовершенствованию человека – тупиковый. По нему еще можно двигаться, наверное, в течение ближайших 10 лет, но, в принципе, он ведет в никуда. Ни фармацевтические средства, ни какие-то трансцендентальные или сугубо научные практики, ни интерфейс мозг-компьютер не дадут человеку ничего особенно значительного, такого чтобы он мог соперничать с суперинтеллектом. Протезирование конечностей, органов и даже частей мозга, несомненно, будет совершенствоваться, но лишь до определенного момента.

К сожалению, даже интересная мне область – сенсорное замещение, когда мы, с помощью интерфейсов, можем обретать дополнительные чувства или способности – тупиковая. Никто не может сказать, что нам даст обладание чувством магнитного поля земли, или инфракрасным видением, видеть слухом, слышать языком. Телепатия, телекинез, и даже возможность узнавать по фотографии, где находится человек – какими бы фантастически они ни казались – просто никчемны. Телепатия как сколько-нибудь полезное свойство, на фоне емейл, мгновенных чатов и распознавания речи, похожа на то, как если сегодня изобретать более мощные и точные катапульты для доставки посылок в разные города. Вы можете сами провести мысленный эксперимент, наделив себя каким-то особым каким угодно невероятным качеством, и убедитесь, что реализация этой способности, скорее всего, будет приводить к увеличению материальных благ, но не на решения значимых для будущего проблем. Это, вероятно, свидетельствует о преимущественной работе древних эволюционных программ, вшитых в наш мозг, когда они были актуальны на протяжении миллионов лет (и актуальны сегодня). Наша неспособность их легко переписывать — вот наша проблема. Человек, иными словами, становится все более похожим на устаревшую модель, которую как ни обвешивай примочками, кардинально не изменишь.

Чем же мы должны заняться, чтобы не исчезнуть с лица Земли? Неандертальцы либо не задавали себе таких вопросов, либо не смогли найти на них ответы, уступив место нам.

Bostrom, N. (2014). Superintelligence: paths, dangers, strategies (First edition. ed.). Oxford (UK): Oxford University Press.