Представьте такую сценку: три абитуриента сдают тест в престижный университет. Задание несложное: пара задач по математике для шестого класса. Правило тоже простое – первый, кто решит задачи, тот и поступит. Первый абитуриент – молодой человек, который выиграл все олимпиады по математике, в которых смог физически поучаствовать в свои 16 лет. Его соперники – котенок персидской породы и саженец фикуса в горшке. Через пять минут парень заканчивает решать задачи, поглядывая на «конкурентов», больше беспокоясь о том, не галлюцинации ли у него, в то время как котенок уже весь в игре с листочками деревца.

В начале декабря случайно, сам того не желая, окунулся в тему искусственного интеллекта (ИИ) и вот уже несколько недель эта тема все не отпускает. Перспективы настолько ошеломляющие, что захватывает дух, и это действительно поменяло и продолжает менять мое мировоззрение весьма сильно. Так, например, я еще недавно полагал, что самая важная, интересная и стоящая цель – это продление жизни и омоложение. Но сегодня я так не считаю.

В последнее время много значимых людей высказывались об ИИ. Так, Стивен Хокинг сказал, что как только ИИ превзойдет интеллект человека, он станет представлять угрозу нашему существованию. Элон Маск сказал почти тоже самое, но, как показалось, от него прозвучала реальная тревога. Билл Гейтс также на днях высказался о том, что многие даже не думают, что скоро останутся без работы, из-за ИИ и управляемых им роботов. В этом году вышла и книга Ника Бострома «Суперинтеллект».

В апреле 2014 года компания DeepMind, которая занимается разработкой ИИ, продемонстрировала, как компьютерная программа учится побеждать все игрушки Атари. Учится самостоятельно, получив только управление и задачу выиграть. Обратите внимание на то, как программа «элегантно» направляет шарик внутрь стены блоков, или как тупо избивает партнера в углу. Программе потребовалось всего несколько часов для достижения совершенства.

Шейн Легг, соучредитель компании, полагает, что ИИ – угроза для человечества номер один. Элон Маск, кстати, инвестировал в эту компанию еще до того, как в прошлом году ее купил Гугл. Сегодня это риск осознается Гуглом настолько, что они учредили этический комитет, задачи которого – найти возможности выживания человечества с ИИ. Вероятно, и гугловцы и Маск увидели и другие способности этого ИИ, о которых публично не было сказано.

В марте 2014 Маск инвестировал и в другую компанию, Vicarious, чьей целью является создание нейронной сети, которая будет работать как человеческий мозг.

Это кажется парадоксом – бояться этого и все равно продолжать делать все, что необходимо для создания интеллекта, превосходящего человеческий. Но это так по-человечески – подходить к самому краю, и верить в то, что все обойдется, как обычно, так или иначе.

Вот и Рэй Курцвейл, в недавней статье в журнале Times выдвигает успокаивающие аргументы. Экзистенциальная угроза от ИИ – отнюдь не первая в истории человечества, говорит он, и у нас есть время разобраться и научиться им управлять.

Это замечательно, что выдающиеся люди в курсе происходящего, и хорошо, что некоторых из них ИИ пугает. Плохо то, что сроки, которые указывают эксперты, о том, когда ИИ обретет реальную мощь, все еще выглядят успокоительно далекими.

Но помимо того, что упомянуто выше, в мире происходит и множество других разработок. И все они развиваются с невероятной скоростью. От создания программы для игры в шахматы, которая превзошла самых лучших игроков прошла пара десятков лет, а теперь аналогичной новостью не удивишь никого.

Ник Бостром (2014) приводит несколько фактов:

• Шашки – в 1994 году программа побила чемпиона, а в 2004 году была создана программа, которая делает самые лучшие ходы, используя базу данных в 39 триллионов окончаний партий.
• Нарды – с 1992 году непобедима человеком в принципе.
• Шахматы – 1997 год DeepBlue побеждает Каспарова. С тех пор движки стали еще лучше. У человека нет шансов.
• Го – программа достигла, как минимум 6 дана, еще несколько лет и она будет бить игроков 9, высшего профессионального дана. Я сам играю в ГО и убеждаюсь, как сильно стали играть программы.

Компьютеры сейчас или в самое ближайшее время будут превосходить человека во всех играх.
Примечательно, что мастерство в этих играх – воплощение человеческого интеллекта, а в программах – довольно простые алгоритмы. Игры – лишь частное проявление мощи ИИ, который демонстрирует успехи в машинных переводах, распознавании лиц, постановке диагнозов, выборе музыки и книг, и еще куче всего, что мы даже не успеваем осознавать. Это характерно для нашего времени: скорость развития почти всего – самая высокая в истории, и она только ускоряется. Можно без эмоций сказать, что уж слишком быстро мы все меняем.

А в тех областях, которые могли бы нам пригодиться как роду, в социальных науках – у нас полный застой. Мы не в состоянии придумать лучший способ совместного существования, чем то, что было предложено за тысячу лет: всякие демократии, автократии и капитализм. Мы до сих пор, вместо того, чтобы жить долго, дружно и весело, убиваем друг друга, тратим деньги и жизни на всякие нелепые проекты, и уничтожаем планету. Мы едва справляемся с общечеловеческими задачами. Мы хоть еще не превратили сами себя в радиоактивный пепел, смогли как-то договориться, но вызовы, которые бросает нам будущее – гораздо круче. Есть у кого-то уверенность, что мы справимся?

Человеческий мозг, несмотря на то, что является выдающимся творением природы, уступает ИИ по всем параметрам (Bostrom, 2014):

• Максимальная скорость вычислений нейронов – 200 Гц. К примеру, обычный смартфон сегодня имеет процессор с частотой в 2 Гигагерца, на несколько порядков больше.
• Скорость передачи потенциала между нейронами составляет максимально 120 метров в секунду, тогда как оптоэлектроника может предавать сигналы со скоростью света.
• У нас огромное количество нейронов, около 100 миллиардов, но это предел, тогда как компьютеры могут наращивать число до непроизносимого числа.
• Память человека – ну тут и говорить, увы, не о чем.
• Надежность – да, мозг прекрасно справляется в течение десятков лет, но нейрон – ненадежный, в сравнении с транзистором.
• Но главное – это софт. В нас заложен неплохой софт, который позволил нам выжить и покорить мир, но мы только учимся понимать его сегодня, практически не умеем изменять и улучшать. Мы знаем, что некоторые эти старые программы играют с нами плохие штуки: например, наша привязанность к высококалорийным продуктам или способность замечать животных быстрее, чем автомобили. Мы чрезвычайно плохо умеем управлять собой. Есть исключения, но, как правило, они касаются людей, которые посвящают совершенствованию себя все время.
  Компьютеры в этом плане обладают несравненной гибкостью.

Вернемся к сценке в начале статьи, и представим, что тот парнишка – суперинтеллект, а мы – либо котенок либо дерево, кому что нравится. У нас столько же шансов сдать экзамен, и продолжить жизнь. Мы ему не конкуренты, и нас может тешить надежда на то, что он не обратит внимания на нас, и оставит в живых.

ИИ с каждым днем становится все мощнее и мощнее, усилиями самих людей. В ближайшем будущем он действительно будет помогать нам во всех областях, и мы сможем решать любые и проблемы.
Но он продолжит развиваться, на порядки опережая наши способности за ним поспевать. И тогда он займется своими задачами.

У нас либо еще остается время что-то сделать, либо уже нет. Поскольку мы этого точно пока не знаем, то делать что-то надо прямо сегодня. Вероятных сценариев немного:

1) Мы решаем проблему взаимодействия с ИИ, делаем его дружественным и решаем все проблемы, которые могут вообще быть, живем долго и счастливо, покоряя всё во Вселенной. Самый оптимистический и самый невероятный сценарий, на мой взгляд.
2) ИИ, достигая невероятной скорости развития, мчится мимо нас, по своим неведомым человечеству делам, оставляя нас в покое. Мы будем жить, ему не мешая, как сейчас живут муравьи. Дружить с ними не о чем, но пусть живут. Тоже очень оптимистичный сценарий.
3) ИИ достигает определенной стадии развития и в какой-то момент он устраняет человечество как вредоносный паразитирующий элемент.

На мой взгляд, эти сценарии развернутся уже в ближайшие 15 лет. У нас совсем мало времени.

Я не специалист в ИИ, поэтому могу смотреть на перспективу глазами психолога. И мне кажется, что Курцвейл, несмотря на выдающиеся экспертные знания, необоснованно оптимистичен – такого экзистенциального риска человечество еще не знало, и поэтому история прошлых рисков не совсем подходит. Мы даже не будем говорить про пресловутых черных лебедей.

Если посмотреть на нас глазами суперинтеллекта, то сложно увидеть что-то симпатичное. Мы для него – существа, которые спят треть жизни, плохо считают, постоянно что-то едят, толстеют, болеют, не понимают мотивы своих поступков, не знают будущего, и ведут, в целом, бессмысленную жизнь.

Эмоции, которые как думают некоторые, кажутся нам чем-то таинственным, что отделяет нас от машин. Романтическая фантастика прошлых десятилетий постоянно говорила об этом, заставляя ИИ обожать нас за то, а самому «стыдиться», что ему никогда не понять что такое любовь. Но сегодня мы уже сами показали, что эмоции вполне себе биологически обусловленные феномены, которые можно измерять, предсказывать и воспроизводить. Для нас они играют важную роль в познании и восприятии мира, а понадобятся ли они ему – это еще вопрос. Едва ли ему это понадобится, если все, что нужно можно просто посчитать. Но при желании, он прекрасно поймет, что мы чувствуем.

Я писал ранее (Пока боги еще молодые), о том, что решив проблему с имитацией движений глаз человека, ИИ поймет про нас почти все, то, что мы сами про себя не знаем. А мы, между тем, останемся в таком же неведении.
Джефф Клюн, исследователь ИИ из Университета Вайоминга говорит, что в моделях ИИ «миллионы нейронов и они каждый делают что-то свое. И у нас нет понимания, как они достигают результатов».

Вряд ли я смог передать то ощущение, которое у меня сложилось при знакомстве с этой темой. Для тех, кому интересно, рекомендую прочесть книгу Бострома – очень взвешенный, информативный и потрясающий текст.
Однако, несмотря на то, что такая перспектива кажется депрессивной, она предлагает уникальную возможность взглянуть в будущее и понять, чем не стоит заниматься, уже и вообще, а чем, напротив, стоит, и куда обратить свою энергию уже сегодня. Я сам еще не до конца погрузился в это мировоззрение, и, честно говоря, не знаю, стоит ли, ведь с этим придется как-то жить дальше, но что уже сделано, не вернешь.

Прогресс, нравится кому-то или нет, движим талантливыми и выдающимися людьми. Их мало, но больше, чем когда либо в истории, просто потому, что популяция людей большая. Вот на обучение, развитие и всяческую помощь таким талантам – вот на что надо бы выделять сегодня деньги. Они, по сути, станут нашими спасителями. Кроме того, все области, связанные с ИИ, так или иначе, становятся все более востребованными и прекрасно оплачиваемыми.

С этой перспективы можно посмотреть на все большие проекты, политические и экономические решения и сразу увидеть, что подавляющее большинство из них – морально устарели уже сегодня, и никогда не смогут окупиться или даже пригодиться. Почти все многомиллиардные затеи со стройками каналов, трубопроводов и дорог – лишь лишает денег по-настоящему нужные проекты.

Путь к самосовершенствованию человека – тупиковый. По нему еще можно двигаться, наверное, в течение ближайших 10 лет, но, в принципе, он ведет в никуда. Ни фармацевтические средства, ни какие-то трансцендентальные или сугубо научные практики, ни интерфейс мозг-компьютер не дадут человеку ничего особенно значительного, такого чтобы он мог соперничать с суперинтеллектом. Протезирование конечностей, органов и даже частей мозга, несомненно, будет совершенствоваться, но лишь до определенного момента.

К сожалению, даже интересная мне область – сенсорное замещение, когда мы, с помощью интерфейсов, можем обретать дополнительные чувства или способности – тупиковая. Никто не может сказать, что нам даст обладание чувством магнитного поля земли, или инфракрасным видением, видеть слухом, слышать языком. Телепатия, телекинез, и даже возможность узнавать по фотографии, где находится человек – какими бы фантастически они ни казались – просто никчемны. Телепатия как сколько-нибудь полезное свойство, на фоне емейл, мгновенных чатов и распознавания речи, похожа на то, как если сегодня изобретать более мощные и точные катапульты для доставки посылок в разные города. Вы можете сами провести мысленный эксперимент, наделив себя каким-то особым каким угодно невероятным качеством, и убедитесь, что реализация этой способности, скорее всего, будет приводить к увеличению материальных благ, но не на решения значимых для будущего проблем. Это, вероятно, свидетельствует о преимущественной работе древних эволюционных программ, вшитых в наш мозг, когда они были актуальны на протяжении миллионов лет (и актуальны сегодня). Наша неспособность их легко переписывать – вот наша проблема. Человек, иными словами, становится все более похожим на устаревшую модель, которую как ни обвешивай примочками, кардинально не изменишь.

Чем же мы должны заняться, чтобы не исчезнуть с лица Земли? Неандертальцы либо не задавали себе таких вопросов, либо не смогли найти на них ответы, уступив место нам.

Bostrom, N. (2014). Superintelligence: paths, dangers, strategies (First edition. ed.). Oxford (UK): Oxford University Press.

Я уже писал про нее ранее (Пища для мозга. Карри), но по нее можно говорить постоянно :) Куркума – это род растений семейства имбирных. Ботанике известны около сотни видов куркумы, и в азиатских странах различают десятки видов для различных целей. Однако самое популярное применение этой специи – в составе карри. В нашей стране, куркума – пожалуй, самая недооцененная специя. Ее чаще используют в качестве красителя, придавая продуктам яркий желтый цвет. Надеюсь, что после прочтения этой статьи вы обязательно станете добавлять ее в блюда.

Куркуму активно исследуют, и вот что известно про нее на сегодняшний день:

• В некоторых азиатских и африканских странах куркума считается лекарственным растением. Так, куркуму кандариша используют на Бали против болезней печени, а куркуму пандурата – как крем для омоложения кожи лица. Добавляют ее и в сладкие напитки как тонизирующее средство. Китайская медицина считает ее средством против депрессии.
• Куркума – натуральное болеутоляющее средство.
• Куркума обладает и антибактериальными и антисептическими свойствами и ее можно использовать для дезинфекции ран. Она и ускоряет заживление ран и восстановление кожи.
• Специя обладает мощным противовоспалительным действием. Индийские исследования показывают, что она прекрасно снижает воспаление у больных артритом. Есть исследования успешного применения при псориазе и других заболеваниях кожи.
• В Индии очень низкий процент болезни Альцгеймера, в сравнении с другими странами, и в этом тоже подозревают куркуму. Американские исследования на животных показывают, что она разрушает амилоидные бляшки, причем лучше и безопаснее, чем любые лекарства на рынке. То есть, куркума должна сохранять и функции памяти.
• Американское исследование обнаружило, что куркумин ускоряет метаболизм и подавляет рост жировых клеток. При регулярном употреблении будет способствовать избавлению от лишнего веса!
• Она очищает печень.
• Крысы на диете из карри лучше переносили травматические повреждения мозга и быстрее восстанавливались.
• У других крыс куркума в карри замедлило развитие рассеянного склероза.
• В одном английском городе среди 500 пациентов, больных раком прямой кишки, в одном исследовании, оказалось лишь 2 азиата, а по популяции должно было быть 100. Ученые подозревают куркуму, в составе карри.
• Предположительно, вместе с цветной капустой предотвращает и замедляет развитие рака простаты.
• У крыс – куркума предотвращала меланому, рак кожи и подталкивала уже существующие раковые клетки к самоубийству!
• Есть позитивные результаты по действию при раке поджелудочной железы.
• Предотвращает метастазы у множества видов рака.
• Прекращает или замедляет ангиогенез, рост кровеносных сосудов, снабжающих опухоль питанием.
• Снижает риск детской лейкемии.

Это, возможно, даже не все. Вы можете представить себе какое-то лекарство, которое могло бы похвастаться такими же свойствами?! И сколько бы оно стоило?

Куркума – дешевая и приятная по вкусу и запаху специя. Вы с легкостью найдете место для нее во множестве привычных повседневных блюд. Вся польза, перечисленная выше, станет возможна при употреблении хотя бы одного грамма в день. Для того чтобы куркума усваивалась и приносила пользу, ее следует использовать в готовке с жирной пищей и варить не менее 10 минут. В виде порошка усваивается не более одного процента. Для колоссального (на сотни процентов) увеличения усвояемости (биодоступности) нужно добавить немного черного перца. Будьте осторожны: куркума – очень сильный краситель, и пятно от нее может противостоять даже самым сильным пятновыводителям!

Противопоказания: не рекомендуется применять людям с камнями в желчном пузыре и обструкции желчевыводящего канала. С осторожностью надо применять при беременности.

Вот только я не понимаю пока оптимального способа приема. С одной стороны, карри каждый день есть не станешь, с другой – капсулы с куркумином принимать вроде как легко, но непонятна их биодоступность, и качество компонентов надо проверять.

Curry ‘may slow Alzheimer’s’. BBC News. 21 November 2001.

Curry is cancer fighter. BBC News. 10 January, 2000.

Shytle, R.D., Tan, J., C. Bickford, P., Rezai-zadeh, K., Hou, L., Zeng, J., . . . Roschek Jr, B. (2012). Optimized Turmeric Extract Reduces β-Amyloid and Phosphorylated Tau Protein Burden in Alzheimer’s Transgenic Mice. Current Alzheimer Research, 9(4), 500-506.

White, B., & Judkins, D.Z.. (2011). Clinical inquiry. Does turmeric relieve inflammatory conditions? Journal of Family Practice, 60 (3):155-6.

Wu, A., Ying, Z., & Gomez-Pinilla, F. (2006). Dietary curcumin counteracts the outcome of traumatic brain injury on oxidative stress, synaptic plasticity, and cognition. Experimental Neurology, 197(2), 309-317.