Это продолжение, первая часть: Лебединые песни.

“Гуси -лебеди” — название известной русской народной сказки, где эти птицы служат Бабе-яге и уносят детей. Многие, кто знаком со сказкой, чувствовали мимолетное отвращение — от этих птиц такого не ожидалось, и это воспринималось как подлое предательство. 

Предыдущая заметка заканчивалась вопросом к читателям предложить потенциальных черных лебедей. Это очевидный вопрос, но ответ на него парадоксален: пытаться представить и предсказать конкретного очередного «черного лебедя» — это бесполезное и даже вредное занятие.

По самой своей природе «черный лебедь» непредсказуем. Если бы мы могли его представить, он бы перестал быть «черным лебедем». Все эксперты, которые пытались предсказать «следующий кризис», как правило, ошибались в его форме, времени и причине.

Несмотря на то, что вопрос парадоксален, мы все равно его задаем и все равно хотим предположить, какие лебеди могут к нам прилететь. Например: 

• Внезапное появление общего искусственного интеллекта (AGI): Вместо постепенного развития, одна из моделей ИИ неожиданно, допустим, завтра, демонстрирует самосознание, способность к абстрактному мышлению и самостоятельному целеполаганию на уровне человека или выше. Это может привести к неконтролируемому технологическому скачку в течение нескольких дней или недель, решению глобальных проблем (болезни, климат) или, наоборот, к экзистенциальной угрозе, если цели AGI не будут совпадать с человеческими.
  
• Коллапс современной криптографии: Обнаружение уязвимости в фундаментальных алгоритмах шифрования (например, RSA или ECC), на которых построена безопасность всего интернета, банковских систем и государственных секретов. Это может быть достигнуто с помощью нового математического прорыва или появления достаточно мощного квантового компьютера. Последствия — мгновенный хаос в мировой финансовой и информационной системах.
• Резкий и неожиданный коллапс крупной мировой державы: Не постепенный упадок, а внезапный распад ключевого государства из-за внутреннего кризиса, который не был виден внешним наблюдателям. Это приведет к вакууму власти, глобальной нестабильности, масштабным миграционным потокам и перекройке всей мировой политической карты.
  
• Создание неожиданного и мощного военно-политического союза: Формирование альянса между странами, которые ранее считались антагонистами, с целью установления нового мирового порядка. Такой союз может радикально изменить баланс сил и бросить вызов существующим международным институтам.
• Открытие нового источника практически бесплатной энергии: Например, прорыв в области холодного ядерного синтеза или создание технологии, позволяющей эффективно извлекать энергию из вакуума. Это мгновенно сделает ископаемое топливо и большую часть существующей энергетики устаревшими, что приведет к полному краху экономик, основанных на экспорте энергоресурсов, и глобальной экономической перестройке.
  
• Сбой в базовой инфраструктуре мировых финансов: Неожиданный отказ не конкретного банка, а центральной системы, обеспечивающей межбанковские расчеты (например, SWIFT или Fedwire) из-за сложной кибератаки или внутреннего сбоя. Это парализует мировую торговлю и финансовые рынки на неопределенный срок.
• Запуск необратимой климатической петли обратной связи: Резкое и масштабное высвобождение метана из вечной мерзлоты или подводных гидратов, которое вызовет скачкообразное, а не постепенное, повышение глобальной температуры. Это может привести к экстремальным погодным явлениям такого масштаба, к которым человечество совершенно не готово.
  
• Обнаружение глобального загрязнителя в повсеместно используемом материале: Выявление того, что определенный тип микропластика, химиката или материала, считавшегося безопасным и используемого по всему миру, обладает крайне токсичными свойствами для человека или экосистем. Это потребует его немедленного изъятия из оборота с колоссальными экономическими и социальными последствиями.
• Пандемия с высокой летальностью и скрытым распространением: Появление нового вируса (природного или созданного в лаборатории), который имеет длительный инкубационный период без симптомов, легко передается и обладает летальностью на уровне 30-50%. COVID-19 показал уязвимость мира, но вирус с такими характеристиками может привести к коллапсу цивилизации.
  
• Открытие механизма «отключения» старения: Научный прорыв, позволяющий радикально замедлить или остановить процесс старения у людей. Это вызовет не только этический, но и колоссальный социальный и экономический кризис: перенаселение, коллапс пенсионных систем и беспрецедентное неравенство между теми, кто имеет доступ к технологии, и теми, кто его не имеет.

Но еще раз: настоящие «черные лебеди» по определению непредсказуемы. Приведенные примеры — это упражнения в мышлении, которые помогают нам осознать хрупкость нашей жизни и подготовиться к неожиданностям в более широком смысле, повышая общую устойчивость общества.

Об этом — в третьей части.

Подписывайтесь на телеграм-канал по методам развития воображения сейчас и вы будете включены в раннюю регистрацию на тренинг, который стартует 1 сентября: https://t.me/imaginationtraining

Мозг альтруиста и мозг эгоиста различаются в том, как они думают о будущем.

Ученые из Женевского университета (UNIGE) с помощью томографа смотрели на работу мозга участников эксперимента, в то время как те думали о последствиях изменения климата (Brosch et al., 2018). Сначала людей разделили, по результатам тестов, на две группы. Деление людей на «эгоистов» и «альтруистов» происходило по тому, как они взвешивали свои ценности и интересы, и в самом исследовании обозначалось другими словами.

Изменения климата принесут в будущем немало проблем. С высокой степенью вероятности мы можем ожидать увеличение числа стихийных бедствий, массовой гибели и миграции населения, увеличение пограничных конфликтов, серьезные проблемы с питьевой водой, распространение тропических заболеваний, дефицит многих привычных и доступных сегодня продуктов. С какими-то проблемами мы познакомимся скоро, а какие-то проявятся через десятки лет.

Когда грядущие проблемы отстоят от сегодняшнего дня на десятилетия, то некоторые люди не видят в этом опасности для себя. Для «эгоистов»  близкое будущее, которое укладывается в горизонт их жизни, оказывается актуальным, а потенциальные проблемы в пределах этого горизонта вызывают тревожность. Проблемы в будущем, которые могут произойти после их смерти, не беспокоят их вообще. У людей, которые классифицировались как «альтруисты», различие между близким и далеким будущими словно исчезает – им почти одинаково тревожно за будущее планеты, что через 10 лет, что через 100.

Кстати говоря, расстояние во времени похоже на расстояние в пространстве: так, проблемы с какао, которые будут через 20 лет, похожи на голод детей в африканской деревне сегодня – это так же далеко, и, значит, абстрактно.

Результаты этого исследования показывают, что «эгоистичные» люди не используют определенную область мозга, которая позволяет нам воображать себя в далеком будущем. Наоборот, те, кто считается «альтруистами», демонстрируют активную деятельность в том же регионе.

Исследователи считают, что эти нейроанатомические различия не позволяют нам находить консенсус в вопросах будущего, в тех же самых вопросах климатических изменений. Одни люди просто не понимают других. Ученые полагают, что нужно разработать какие-то упражнения, которые позволяли бы людям легче заглядывать в будущее, делать его видимым, связывая действия людей с последствиями этих действий.

Чтобы научиться представлять свое личное будущее и успешно его строить, присоединяйтесь к курсу «Дизайн личного будущего». Вы не пожалеете ни сейчас, ни через 100 лет :)

Brosch, T., Stussi, Y., Desrichard, O., & Sander, D. (2018). Not my future? Core values and the neural representation of future events. Cognitive, Affective, & Behavioral Neuroscience. doi: 10.3758/s13415-018-0581-9

Охотники за головами

Британское подразделение компании Юнилевер, мирового гиганта по производству потребительских товаров, впервые использовало искусственный интеллект для оценки кандидатов при приеме на работу.

Кандидат записывал видео, отвечая на стандартные вопросы, а машинный алгоритм анализировал речь, тон, которым произносились слова, и выражения лица. В результате создавались сотни характеристик, которые затем сравнивались с данными от кандидатов, которых в прошлом приняли на работу, и они показали себя хорошими специалистами.

Американская компания Hirevue, разработчик этого приложения, считает, что такой подход гораздо лучше обычного изучения резюме. Так, только по речи алгоритм смотрит на 350 характеристик языка, например, использование пассивного или активного залога, использования местоимений, словарный запас и длина предложений, специфические для профессии термины. Ни один человек не в состоянии так делать.

Такой алгоритм может использоваться не только для сортировки кандидатов, но и для «охоты за головами». Тогда, если ваше видео попадет в какие-то базы, вас найдут, где бы вы ни находились, и сделают предложение о работе, от которого нельзя отказаться. И это будет идеально как для вас, так и для работодателя.

Хотели бы вы, чтобы вас оценивал такой алгоритм, или человек, с неизвестными вам, но обязательными предрассудками и предубеждениями (они есть у всех), с добавлением других непредсказуемых и невозможных для учета факторов? Так, человек во время чтения резюме может быть голодным или сытым, уставшим или отдохнувшим, в стрессе после дороги на работу или в первый день после отпуска, при этом за окном светит солнце или все затянуто черными облаками. Алгоритм в сравнении с человеком выглядит как богиня правосудия Фемида – беспристрастным и объективным.

Но вы знаете людей, которые могут смущаться при виде камеры, при этом являясь прекрасными специалистами. И мы знаем, что некоторые очень талантливые люди отличаются от «нормы». Кроме того, предыдущие успешные кандидаты – не всегда образец для подражания, в наше время, когда каждый день бросает новые неожиданные вызовы.

Но есть проблема важнее, с которой уже сталкивались разработчики в других областях применения алгоритма: на чем или на ком тренируют такие алгоритмы. Если в качестве образцов брали выпускников колледжей, белых, из семей среднего класса восточного побережья США, то алгоритм вычислит еще что-то, что объединяет таких людей, и что лежит не на поверхности. Иными словами, мы даже не узнаем, что он выяснит из таких образцов. Но совершенно точно – те, кто не соответствует этому профилю, а это 99,99% всех людей, будут считаться неким отклонением от образца. Тем не менее, алгоритмы такого рода будут использоваться все шире, и мы просто должны иметь в виду, что  у них есть и позитивные стороны, так и не очень.

Робот-читатель

Робот прочитал 3,5 миллиона книг, опубликованных на английском языке за период с 1900 по 2008 год, как художественной, так и научно-популярной литературы. В этих книгах содержится 11 миллиардов (!) слов, и робот, то есть машинный алгоритм, должен был подсчитывать прилагательные, которые характеризовали мужчин или женщин. Например, найдя слова «сын», «стюардесса» или «актриса», алгоритм смотрел, какие прилагательные их описывали. В результате был собран список из наиболее часто употребляемых прилагательных, как позитивных, так и негативных, которыми авторы за сотню лет характеризовали мужчин и женщин.

Главная находка этого исследования, проведенного международной группы ученых:

Прилагательные, описывающие женщин, в основном, относятся к внешности, а прилагательные для мужчин – к поведению или характеристикам личности.

Наиболее частые прилагательные:

Нашли прилагательные, которые описывают вас? :)

Лидер команды ученых, Изабелль Огенштайн, с факультета компьютерных наук Университета Копенгагена, отмечает, что исследование поднимает ряд важных вопросов. Алгоритм, который был использован в этом поиске, используется для систем распознавания речи, и будет применяться другими машинами для общения с людьми. И если в нашем языке есть предпочтения или искажения, то они, безусловно, передадутся и машинам.

Например, описание женщины, не содержащее ни одного прилагательного, связанного с внешним видом, а только характеристики ее поведения или характера, алгоритм счел бы отклоняющимся от нормы. Поэтому алгоритмы, по мнению ученых, надо учить игнорировать эти предубеждения.

Но это только кажется простым, ведь эти предубеждения и предпочтения появились не просто так. Это не должно звучать как оправдание сексизму, но мы, в общем-то, все, в той или иной мере, оцениваем женщин по внешности а мужчин – по характеру. Сегодня, после тысячи исследований, мы точно знаем, что мужчины оценивают женщину по сотне параметров, практически мгновенно и почти всегда неосознанно, в выборе для продолжения рода. Это касается всего: характеристик фигуры, соотношений частей тела, голоса, состояния и цвета волос, и прочего. Если мы возьмем из этого списка только глаза: это касается и цвета склеры, размера и цвета радужной, наличия и толщины лимбального кольца, соотношения видимой части склеры и радужной, и так далее. Это все характеристики молодости и состояния здоровья, �