Недавние тренды рунета

Недавние тренды рунета

Окончательный диагноз — большой войны не миновать от sergey_57776

Окончательный диагноз — большой войны не миновать

Стилизация картины В. В. Верещагина “Апофеоз войны” (выполнена нейронной сетью AI Painter Artwork Tool https://www.instapainting.com/ai-painter )

Pовно два года назад в 1ом посте серии «Большой войны не миновать» я рассказал, как в ходе Нобелевского симпозиума Нассим Талеб опроверг теорию Стивена Пинкера о будто бы уже начавшейся эпохе «долгого мира» с неуклонным падением уровня насилия, снижением кровопролитности и числа войн. Нассим Талеб математически обосновал совершенно противоположный и страшный вывод.

Большой войны с десятками миллионов жертв человечеству не миновать.

Год назад я опубликовал 2й пост этой серии, названный «Большая война ближе, чем мы думаем». В нем было рассказано о результатах исследования Аарона Клаузета, подтвердившего правоту Талеба и доказавшего следующее.

Мы живем в циклической реальности, в которой на смену всё более «долгого мира» идут всё более кровопролитные войны.

И вот только что опубликовано исследование Уго Барди с коллегами, доводящее счет в легендарном споре Талеба и Пинкера о судьбе человечества до разгромных 3:0. Результаты интеллектуального анализа данных самой большой в мире базы о жертвах войн за 600 лет еще раз (и похоже, окончательно) развенчали идеи «долгого мира» и «снижения уровня насилия», отстаиваемые Стивеном Пинкером, и поддерживаемые многими другими известными интеллектуалами.

Вердикт нового исследования ужасен.

В недалеком будущем мир ждет война ещё более кровопролитная, чем 2я Мировая.

Но это не всё.

Еще более поражает интегральный результат трех работ — Талеба, Клаузета и Барди,— переводящий наши представления о войне из области качественных гуманитарных оценок и категорий в естественнонаучную область математически формулируемых гипотез и их экспериментальной проверки на моделях, позволяющих количественную оценку их точности.

Война — это встроенный в структуру общества механизм эффективного снижения энтропии человеческих обществ — сложных систем, живущих на кромке хаоса в состоянии самоорганизованной критичности.

Что это? Почему так? Причем здесь энтропия? И что из всего этого следует, — обо всем этом желающие могут прочесть в 3ей, завершающей статье серии «Большой войны не миновать».

Тройная проверка

Слева направо — Нассим Талеб, Аарон Клаузет, Уго Барди

100 лет отделяет нас от окончания 1й Мировой войны, начатой без какой-либо видимой цели и принесшей страдания и гибель 40 миллионов человек. Эта война стала символом осознания необходимости положить конец всем войнам. Но вместо этого, всего через 2 десятка лет после неё началась 2я Мировая война, которая принесла страдания и гибель уже 100+ миллионов.

73 года после окончания 2й Мировой, прошедшие без новой большой войны, стали источником оптимизма и надежд, что мир становится менее жестоким. Эти несколько десятилетий и стали основанием для гипотезы «долгого мира» Стивена Пинкера, разделяемой сегодня многими известными интеллектуалами.

Пинкер пришел к заключению, что новые нормы общежития, установленные государствами, постепенно изменили саму человеческую психологию, которая стала учитывать интересы и нужды других людей. Помимо этого, распространение грамотности, демократии и развитие наднациональных институтов, а также демографические тенденции, новые технологии и, наконец, политика сверхдержав, — все это вкупе способствовало переходу человечества к эпохе «долгого мира» (подробней см. мой пост «Большой войны не миновать»).

В подтверждение своей гипотезы Стивен Пинкер использует статистические данные, экстраполируя статистику на несколько десятилетий с окончания 2й Мировой войны до наших дней. В результате этого делается вывод, что прошедшие 7 десятилетий без большой войны — это и есть начало эпохи «долгого мира», с каждым годом которой нравы человечества становятся все менее жестокими, а вероятность большой войны, соответственно, снижается.

Гипотеза, ничего не скажешь, — духоподъемная. Но беда в том, что она не проходит серьёзной проверки.

За последние годы были проведены три такие проверки — Талеб (2015), Клаузет (февраль 2018) и Барди (декабрь 2018), — показавшие статистическую недостоверность гипотезы «долгого мира» при её верификации путем интеллектуального анализа реальных исторических данных.

Cначала Нассим Талеб и Паскуале Сирилло проанализировали 565 крупнейших военных конфликтов (с числом жертв более 3 тыс.) за период 1–2015 гг.

Авторы пришли к следующим выводам (подробней см. мой пост «Большой войны не миновать»)

  1. Гипотеза о снижении насилия (в течение ли всей истории или за последние 70 лет) статистически недостоверна.
  2. Поскольку во всей предыдущей истории войны с максимальным числом погибших случались примерно раз в 100 лет, прошедшие после 2й Мировой войны 70+ лет не могут являться аргументом о какой-либо смене тренда на снижение насилия в мире.

Cпустя два года Аарон Клаузет проанализировал все межгосударственные войны в мире за 200 летний период с 1823 по 2003 год и пришел к следующим выводам (подробней см. мой пост «Большая война ближе, чем мы думаем»)

  1. 70 летний «долгий мир» просто балансирует статистику, уравновешивая «великое насилие» первой половины 20-го века.
  2. Чтобы стать статистически значимой тенденцией, «долгий мир» должен продолжаться еще, как минимум, 100–140 лет. Пока же «долгий мир» не является научно обоснованным трендом.

Hаконец, в декабре 2018 были опубликованы результаты 3го — самого обширного исследования, проведенного Уго Барди, Джанлука Мартеллони, Франческа Ди Патти. Они проанализировали крупнейший доступный каталог насильственных конфликтов, созданный Петером Брекке в 2011 г. и охватывающий 3078 конфликтов за 600 лет истории человечества (1400–2000 гг.)

Это исследование:

  1. Подтвердило выводы исследований Талеба/Сириллио и Клаузета — 
    «На практике наши результаты подтверждают, что существует мало доказательств в поддержку идеи, пропагандируемой Пинкером⁠, что человечество продвигается к более мирной жизни. Эта оптимистическая гипотеза Пинкера просто неверна, если её проверять на данных нескольких столетий».
  2. Выявило свидетельство того, что войны становятся все более редкими, но при этом все более смертоносными.
    «Отсюда следует, что существует вероятность крупного конфликта в недалеком будущем, который может затмить все прошлые конфликты с точки зрения разрушений, которые он может вызвать».
  3. Подтвердило гипотезу, что война является статистическим явлением, в значительной степени независимым от религий, идеологий, денег и великих лидеров.
    «Война — это эмерджентный феномен сложной сети взаимодействия между человеческими обществами во всем мире».

Последний из результатов исследования особенно важен, поскольку из него следует вот что.

Гипотеза «долгого мира» не просто недостаточно обоснована, а в принципе концептуально ошибочна (подобно геоцентризму, общепринятому до создания гелиоцентрической теории планетных движений Коперником).

Если война — это статистический феномен, связанный с сетевой структурой общества, то все политические, экономические и геополитические причины войн — лишь фон и контекст развития сетевой структуры общества.

Следовательно, правильная трактовка исторических данных и, что особенно важно, предсказание трендов будущих войн, — требуют понимания законов, определяющих динамику развития сетевой структуры общества.

Таким образом, тройная проверка:

  • во-первых, показала, что в основе идеи «долгого мира» в XXI веке примерно то же самое, что составляло основу идеи геоцентризма несколько столетий назад до открытий Коперника, Галилея и Кеплера— всего лишь незнание законов, описывающих механизмы функционирования изучаемых систем;
  • во-вторых, необходим поиск и экспериментальная проверка таких законов, описывающих всё усложняющееся развитие структуры общества.

В поисках закона войны

Великая Война в Ла-Плате (1865–1870), входит в число страшнейших войн, мало известных за пределами стран, где они велись: Парагвай, Уругвай, Аргентина и Бразилия. В ходе войны погибло около 1 млн. комбатантов. Показана деталь картины “После битвы Curupaytí,” аргентинского художника Кандидо Лопеса, который потерял в этой битве правую руку и поэтому научился рисовать левой рукой. Картина находится в Национальном музее изящных искусств в Буэнос-Айресе.
«Я думаю, что война — это в основном биологическое явление. Наши войны ничем не отличаются от войн муравьев. И мы понимаем причины войн не сильно лучше, чем муравьи» —

написал автор 3го доказательства ошибочности гипотезы «долгого мира» проф. Уго Барди 4 января 2019 в своем блоге.

Одним из первых мысль о том, что войны —

  • это не результат действий развязывающих их безумных диктаторов и даже не рациональная борьба за ресурсы или деньги (хотя этот фактор тоже играет свою роль),
  • а просто что-то, происходящее вне человеческой способности контролировать или даже понимать это,

сформулировал гениальный русский писатель Лев Толстой, так изложивший эту мысль в великом романе “Война и мир” (выделение в цитате жирным шрифтом сделано мною).

«Для человеческого ума недоступна совокупность причин явлений. Но потребность отыскивать причины вложена в душу человека. И человеческий ум, не вникнувши в бесчисленность и сложность условий явлений, из которых каждое отдельно может представляться причиною, хватается за первое, самое понятное сближение и говорит: вот причина…
Но между человеком, который говорит, что народы Запада пошли на Восток, потому что Наполеон захотел этого, и человеком, который говорит, что это совершилось, потому что должно было совершиться, существует
то же различие, которое существовало между людьми, утверждавшими, что земля стоит твердо и планеты движутся вокруг нее, и теми, которые говорили, что они не знают на чем держится земля, но знают, что есть законы, управляющие движением и ее и других планет. Причин исторического события — нет и не может быть, кроме единственной причины всех причин. Но есть законы, управляющие событиями, отчасти неизвестные, отчасти нащупываемые нами. Открытие этих законов возможно только тогда, когда мы вполне отрешимся от отыскиванья причин в воле одного человека, точно так же, как открытие законов движения планет стало возможно только тогда, когда люди отрешились от представления утвержденности земли».

Научные попытки проверить интуитивное прозрение Толстого на реальных исторических данных были предприняты только в XX веке.

  • Питирим Сорокин проанализировал огромный объем статистических материалов в главном труде своей жизни — четырёхтомной работе “Социальная и культурная динамика”, изданной в 1937 г.
  • Куинси Райт в 1942 г. опубликовал фундаментальное исследование “Изучение войны”, где были проанализированы история, природа и причины 284 войн и 3000 сражений, происходивших с 1500 по 1940 гг.

Но лишь спустя столетие после Толстого статистика достигла такого уровня, что стал возможен количественный анализ феномена войны.

Британский метеоролог и физик Льюис Фрай Ричардсон (1881–1953) применил эту концепцию к частоте и размеру человеческих войн и, в целом, к тому, что он назвал «смертельными конфликтами». В посмертно изданной и ставшей потом классической прорывной работе “Статистика смертельных конфликтов” Ричардсон провел количественный анализ 315 «смертельных конфликтов», каждый из которых повлек более 300 убитых в интервале с 1820 по 1949гг.

В память о прорывном открытии Ричардсона в 1989 г была учреждена медаль его имени — за вклад в изучение нелинейных процессов в науках о Земле.

Ричардсон обнаружил следующее.

Войны — это случайные явления, непредсказуемые и не связанные почти что ни с чем: они просто случаются.
Web of wars (сетевая структура войн) построена на данных Ричардсона для международных конфликтов магнитудой более 3,5. Две нации связаны линией, если у них были фактические военные действия. Цвет и толщина линии указывают на интегральный масштаб войны, а не на масштаб конфликта между двумя нациями. Гражданские войны опущены. Двухбуквенные коды названий стран используют обозначения доменов Интернета.

Более поздняя работа подтвердила ранний анализ Ричардсона, обнаружив, что кровопролитность войн описывается степенным законом.

А уже в наше время, работы Талеба, Клаузета и Барди, детально проанализировали самые большие в мире базы данных по военным конфликтам, окончательно подтвердив, что вероятность кровопролитности войн (с учетом нормализации числа жертв к численности мирового населения на момент войны), подчиняется степенному закону.

Нормализация данных позволяет привести все используемые числовые значения переменных к одинаковой области их изменения, благодаря чему появляется возможность свести их вместе для анализа.

Вот как это выглядит на графиках из последней работы Барди и Со.

Вероятность p (X>=x) кровопролитности каждой из войн (число жертв); черным цветом — факт, зеленым — кривая наилучшего приближения логнормальной функцией, красным — степенной функцией, обрезающей хвосты распределения.
Во врезке показано кривая наилучшего приближения степенной функцией хвоста распределения.
Распределение жертв войн, нормализованное по населению мира, соотвествует степенному закону y = a * x**b, где a=0.0003873, b=-0.8708,
SSE=0.007736, R2=0.9869

Страшный вывод —

войны — это случайные явления, непредсказуемые и не связанные с почти что ни с чем: они просто случаются —

можно количественно проиллюстрировать так:

  • В XX веке умерло примерно 5 млрд человек.
  • Из них около одного миллиарда людей были убиты , прямо или косвенно, другими людьми.
  • Среди этого миллиарда убитых не все были убиты умышленно, но значительная их часть. В том числе около 262 миллионов человек, убитых в результате того, что Раммель называет «демоцидом» — организованное правительством уничтожение большого числа людей по политическим, расовым, религиозным или идеологическим причинам.
Великий “пульс” массового уничтожения, произошедшего в течение 20-го века (график построен Раммелем). Согласно этой диаграмме, 262 миллиона человек были истреблены в течение прошлого века, главным образом правительствами в серии действий, которые Раммель определяет как “демоцид”. Источник: http://bit.ly/2sigUhL

Комментируя этот график, автор 3го доказательства ошибочности гипотезы «долгого мира» проф. Уго Барди пишет:

«Вопрос в том, — может ли нечто подобное произойти в будущем? Оказывается, массовые уничтожения подобны землетрясениям, их возникновение точно предсказать невозможно, но можно оценить вероятность наступления события определенного масштаба. И чем больше времени проходит, тем более вероятным становится новый импульс массового уничтожения».

Мы живём на кромке хаоса в состоянии самоорганизованной критичности

Базовой моделью теории самоорганизованной критичности является куча песка. Равновесие между количеством песка, добавляемого в систему, и количеством песка, покидающего ее, достигается при критическом наклоне поверхности, когда возмущение может распространяться по куче сколь угодно далеко, не затухая и не разрастаясь. При этом куча песка, состоящая из локально взаимодействующих песчинок, начинает вести себя как единое целое. То есть, в результате самоорганизации в критическое состояние система приобретает свойства, которых не было у ее элементов, демонстрируя сложное целостное поведение

Oтвет на поставленный профессором Уго Барди вопрос приведен в его новой работе “Pattern Analysis of World Conflicts over the past 600 years”.

С математической точки зрения, сообщества людей — это сложные системы, живущие на кромке хаоса в состоянии самоорганизации в критических состояниях — самоорганизованной критичности.

При таком математическом понимании людских сообществ и человечества в целом, войны являются естественным и наиболее эффективным механизмом уменьшения энтропии сложных систем с максимально возможной скоростью.

Поскольку далеко не все из читателей знакомы с теорией самоорганизованной критичности, попробую кратко пояснить, что это такое.

  1. Войны, как и многие явления природы и, в особенности, жизни («формула жизни», «формула городов», «формула выборов» и т.д.) описываются степенным законом (подробней см. мой пост “Открыта формула победы на выборах”).
  2. В природных и социальных системах степенной закон является отличительным признаком т.н. самоорганизованной критичности “self-organized criticality” (SOC).
  3. SOC — это первая общая теория сложных систем, базирующаяся на прочном математическом фундаменте. Согласно этой теории, SOC — это спонтанная эволюция систем к критическому состоянию.
  4. Все сложные SOC системы (от формирования ландшафта до эволюционных процессов, от деятельности нервной системы до экономического поведения) — имеют ряд общих свойств, принятых называть эмерджентными (т.е. свойствами, возникникающими у целого, тогда как его части такими свойствами не обладают):
    ✔️ 1е свойство — это прерывистое равновесие: долгие периоды относительного покоя время от времени прерываются катастрофами (“лавинами”) различных масштабов. Это может быть как сход лавины в буквальном смысле слова, так и разнообразные кризисные явления — массовые вымирания видов, обвалы и ралли курсов акций, солнечные вспышки или появление и исчезновение структур в клеточных автоматах.
    ✔️ 2е свойство — динамика таких систем описывается степенным законом: соотношения между размерами лавин могут быть описаны степенной функцией. Не требуется никаких специальных теорий для масштабных событий — — одни и те же силы отвечают как за текущее снижение индекса Доу-Джонса на 5 пунктов, так и за “черный понедельник” 1987 года.
    ✔️ 3е свойство — фрактальная геометрия таких систем, т.е. самоподобие, присущее системе на любых масштабах.

Подробней о SOC см.:

SOC является результатом рассеивания накопленной энергии, которое происходит не постепенно, а в виде лавинообразных катастроф. Эти катастрофы могут быть смертельными в реальном мире. Землетрясения, оползни, лавины и другие явления, связанные со стихийными бедствиями, — все они имеют тенденцию происходить по степенному закону.

Обощая, можно сказать, что SOC — это новый универсальный закон природы. Его следы есть практически везде: в распространении лесных пожаров, массовых вымираниях, пробках на дорогах, землетрясениях, колебаниях фондового рынка, подъеме и падении народов и даже тенденциях в моде, музыке и искусстве.

Куда бы мы ни посмотрели, мир сконструирован по простому шаблону: как крутая куча песка, стоящая на грани нестабильности, с лавинами событий, идей и войн, следующих универсальной схеме изменений.

Это замечательное открытие предвещает то, что Марк Бьюкенен называет новой наукой «вездесущности», наукой, секрет которой лежит в повседневной жизни.

Понимание принципа «вездесущности» поможет нам управлять, контролировать и предсказывать будущее. Он может содержать основу математических моделей войн и иных культурно-исторических изменений, что изменит наше представление о мире и нашем месте в нем.

Войны — это Беспорядок Хаоса, возникающего из порядка. А Сложность — это сложность, возникающая из простоты математических законов.

Цель всех войн одна — снижение энтропии

Автор: HASAN ALMASI | UNSPLASH

B завершение работы “Pattern Analysis of World Conflicts over the past 600 years” авторы ставят еще один ключевой вопрос.

Если войны — это сетевой феномен, присущий развитию сложных систем человеческих обществ, живущих на кромке хаоса в состоянии самоорганизованной критичности, какова цель войн?

Ответ авторов данной работы таков.

Война — это встроенный в структуру общества механизм снижения энтропии человеческих обществ с максимальной скоростью.

Аналогичным образом работают многие природные системы. Если в открытую диссипативную систему поступает энергии больше, чем она способна аккумулировать, то система сбрасывает энергию в точках “стока”, или точках диссипации.

Если это действительно так, то этим подтверждается интуиция Толстого: войны не являются результатом идеологий, религий, безумных правителей или тому подобного. Войны инициируются развитием структуры социальной сети сообществ в результате того, как эти сообщества связаны, и какова накопленная в сети энергия.

Возможно, как считают авторы работы “Pattern Analysis of World Conflicts over the past 600 years”, для человеческих сообществ такой энергией является накопленный капитал, который нужно каким-то образом рассеять. Везде, где есть дисбаланс в накоплении капитала, избыток будет перетекать из более обеспеченной стороны в менее обеспеченную.

Если концепция проф. Уго Барди и его коллег верна, то в некотором смысле война — это порождение капитализма, а сам капитализм — это еще одно эмерджентное явление сложных обществ.

Это еще предстоит многократно проверить. Но тем не менее Уго Барди, опираясь на результаты анализа моделей прошлого так отвечает на вопрос — должны ли мы готовиться к новой мировой войне.

«Короче говоря, войны не вызваны нехваткой ресурсов, они вызваны избытком ресурсов».

Когда начнется новая мировая война, точно предсказать невозможно — это похоже на землетрясения. Никто не может точно сказать, где и когда произойдет сильное землетрясение, но мы знаем, что существует определенная вероятность того, что оно произойдет в сейсмических зонах, и рано или поздно оно произойдет.

То же самое относится и к войнам. Таким образом, тот факт, что начало войн не может быть точно предсказано, не означает, что мы не можем видеть, что сегодня мы бежим на полной скорости к новой большой войне.

Если тенденция последних 600 лет продолжится, вероятность того, что мы увидим новый пожар войны, более чем на порядок превосходящей 2ю Мировую войну по масштабу разрушений и количеству жертв , — существенно больше нуля.

Этот наивный, наивный, наивный, наивный мир

Автор: Dave Cutler
Как же зафиксировать и интерпретировать возрастание “сейсмической активности”, предвещающей новую большую войну?

Oдин из важнейших уроков, оставленных нам великим Эйнштейном, звучит так:

«Нельзя одновременно предотвращать и готовиться к войне».

Остановить гонку вооружений можно только одним способом — начать новую войну. Вместе с тем, на наших глазах мир снова сходит с ума.

Вот как росли военные расходы перед 1й Мировой войной.

Источник: Our World in Data

Создается впечатление, что к 1913 году никто не знал, как остановить гонку вооружений, и единственное «решение», которое можно было найти, чтобы блокировать постоянно растущие расходы, — это начать войну… Что и было сделано.

А вот как растут нынче военные расходы двух современных сверхдержав: США и Китая. По прогнозам МВФ они возрастут в ближайшие десятилетия до 4 трлн долларов в Китае и 3 трлн в США (подробней о том, как ИИ технологии влияют на гонку вооружений см. мой пост “Впереди ИИ-национализм и ИИ-национализация. Анализ влияния технологий ИИ на геополитику”).

Источник: http://bit.ly/2CXeLyo

Сходство нынешней ситуации с годами, приведшими к 1й Мировой войне, отмечалось не раз. Так увидим ли мы новую мировую войну в ближайшем будущем?

Проф. Уго Барди отвечает так.

«Точно сказать нельзя: история на самом деле не повторяется, хотя и рифмуется. Возможно, нет необходимости начинать новую мировую войну, чтобы остановить экспоненциальный рост военных расходов, но данные не внушают оптимизма».
Новая большая война действительно может быть рядом.

Несмотря на бодрые заверения, что кто-то в результате новой большой войны попадет прямиком в рай, ядерная война может привести к сценарию, названному Уго Барди “Крах Сенеки” — столь радикальному и катастрофическому, что эта война действительно станет «войной, заканчивающей все войны» — как это наивно предполагали еще накануне 1й Мировой войны.

И тогда, наконец, сбудется другое известное предостережение Эйнштейна:

________________________________

Если вам понравился этот пост — не забудьте:

- нажать “палец вверх”;

- подписаться на обновления канала на платформе Medium;

- оставить комментарий.

Еще больше материалов на моем Телеграм канале «Малоизвестное интересное». Подпишитесь

Оригинал и комментарии

Итоги итогов 2018 от sergey_57776

Волатильность и неопределенность выросли и в 2019 вырастут еще больше

Если обобщить десятки уже опубликованных итогов года и прогнозов на следующий по широкому спектру тем (от технологий и экономики до социальной и политической жизни), интегральный прогноз получается такой.

  1. Волатильность и неопределенность растут во всех странах, отраслях и рынках, равно как и в большинстве аспектов жизни человечества.
  2. В следующем году этот процесс продолжится с ускорением.

Почему это происходит?

Разные эксперты из разных областей дают широкий спектр различных ответов на этот вопрос.

Мне среди них ближе всего версия Нассима Талеба (Nassim Taleb).

Причина в росте эпистемической неопределенности и эмерджентности вследствие техно-социального усложнения мира.

Попробую развернуть эту мысль Талеба, воспользовавшись его же аргументацией, как я её понимаю.

Супер-Твиттер-Батл 2018

Самой жаркой дискуссией уходящего года стал ноябрьский твиттер-батл Нассима Талеба против Нейта Силвера (Nate Silver) о том, когда и насколько можно доверять прогнозам.

Таллеб — всемирно признанный эксперт (теоретик и практик) в вопросах понимания вероятности в реальном мире, автор многих бестселлеров, как философского, так и технического характера на тему неопределенности и рисков.

Силвер — опытный статистик, соучредитель знаменитого ресурса по прогнозированию FiveThirtyEight, получившего широчайшую известность благодаря прогнозированию результатов выборов, звезда всех теле-шоу о прогнозах в политике и спорте.

Нейт Силвер (слева) и Нассим Талеб

Батл Талеба и Сильвера разразился после того, как Талеб публично заявил:

FiveThirtyEight не знает, как грамотно прогнозировать выборы.

Накал битвы был беспрецедентным. Аудитория — миллионы интеллектуалов — от математиков и социологов до брокеров и инвестбанкиров. И всё потому, что контекст этой темы убойный —

в стремительно усложняющемся и ускоряющемся мире важность прогнозов растет, а точность — падает.

И потому всем был интересен не только результат батла (как публичного мордобоя высоких интеллектуалов), но и сущностный ответ — когда и насколько можно нынче доверять прогнозам.

* * *

Результаты острой дискуссии обобщены в десятках статей и постов. Составлены даже специальные библиотеки примеров (данные и программы их анализа), иллюстрирующих позиции сторон. Желающих самостоятельно в этом разобраться адресую к отличной работе Исаака Фабера «Why you should care about the Nate Silver vs. Nassim Taleb Twitter war. How can two data experts disagree so much?».

Фрагмент Cупер-Твиттер-Батла Талеб против Силвера

Я же здесь лишь сформулирую сухой остаток спора, таким, как он видится мне.

Прав Нассим Талеб. Причем прав:
— и по части ответа на вопрос спора,
— и касательно того, что мотивирует Нейта Силвера, FiveThirtyEight и многие другие аналитические структуры придерживаться противоположной Талебу позиции.

Не все действительные числа от 0 до 1 являются вероятностями

Основным источником противоречий и путаницы вокруг прогнозов FiveThirtyEight является то, что они являются вероятностными. Практически это означает, что они не предсказывают победителя или проигравшего, а сообщают о вероятности того или иного результата.

Что еще более усложняет проблему, — эти прогнозы сообщаются задолго до события в виде точечных оценок (иногда с подразумеваемой ошибкой модели).

Однако используемые модели вовсе не являются копией реального мира. И что еще хуже, — никто на свете не может определить задолго до события, насколько велика ошибка моделирования.

Суть тут в следующем (и эта суть совсем не очевидна для большинства читателей прогнозов FiveThirtyEight).

Любые предсказания имеют два типа неопределенности: алеаторная и эпистемическая.

Алеаторная неопределенность связана с фундаментальными свойствами системы, а именно — со случайным характером изучаемых процессов (например, вероятностью выпадения шестерки на игральной кости).

Эпистемическая неопределенность связана с неопределенностью системы — а именно, с отсутствием достаточных знаний о процессах и замене знаний некоторыми неточными моделями.
Например, мы не знаем:

  • сколько сторон у игральной кости,
  • как маркированы её грани,
  • по какой из граней (верхняя или нижняя) будет определяться результат,

— и потому мы просто не знаем вероятность выпадения шестерки в такой весьма неопределенной системе.

Незнание количества граней на кости является эпистемической неопределенностью (её можно уменьшить, изучая строение кости). Однако, уменьшить алеаторную неопределенность невозможно (даже бросая кости много-много раз)

Иными словами:

  • алеаторная неопределенность относится к результатам игры;
  • а эпистемическая (или эпистемологическая — кому как нравится) неопределенность относится и к тому, в какую игру мы играем, и каков будет её результат.
Выборы обладают высокой эпистемической неопределенностью, когда нужно угадывать и игру, и её результат.

Угадать же игру зачастую просто невозможно, — она происходит во многом под ковром на фоне дымовой завесы ложных или отвлекающих новостей.

Но самое худшее, что политические игроки изо всех сил стараются сломать игру, если не подменяя правила, то, как минимум, трактуя их в свою пользу. С этой целью игроки инициируют сторонние действия третьих лиц (не являющихся участниками игры), способные повлиять на ход игры.

Например, в модели FiveThirtyEight просто отсутствовал вариант, что Глава ФБР Джеймс Коми возобновит расследование по электронной почте Хиллари Клинтон. Но он вдруг взял и возобновил. И это вызвало всплеск изменений прогноза, конечно же, повлияв и на результаты выборов.

Красной точкой показано, что, как считает Силвер, должно быть основанием прогноза. Синей линией показано, что, по мнению Талеба, должно быть основанием прогноза

В итоге, эпистемически неопределенные события априори игнорируются в прогнозах. А без учета наиболее важных неопределенностей, получить достоверную вероятность итога выборов невозможно.

* * *

Что же касается мотивов, толкающих FiveThirtyEight и многие другие аналитические структуры, занимающиеся оценкой общественного мнения и прогнозированием социально-политических событий, — то ими движет, по мнению Талеба, “гремучая смесь” из непонимания сути вероятностных прогнозов и вполне понятных корыстных целей.

Ведь это их бизнес. И лучший способ его приумножать — давать еженедельные вероятностные прогнозы, зарабатывая на их комментировании в СМИ и обсуждая их на ТВ шоу.

Казалось бы, занавес. Всё ясно.

Нам просто конопатят мозги, намеренно исключая из прогноза эпистемическую неопределенность, с целью заработать на прогнозах, не отягощая ни себя, ни нас вопросами точности предсказательных моделей.

Однако ситуация еще хуже. Нассим Талеб, хоть и расплющил Сильвера в споре, но в этом споре было сказал не всё.

Вопрос — откуда прилетают Черные лебеди эпистемической неопределенности — здесь остался без ответа

Так откуда же прилетают Черные лебеди?

Сначала ответим на вопрос — почему они прилетают.

Согласно Талебу, они прилетают вследствие эпистемической самонадеянности людей. Подробно Талеб пишет об этом в главе 10 “Черного лебедя” (но если нужно быстро освежить в памяти, можно взглянуть краткий конспект книги).

Суть понятия эпистемическая самонадеянность в том,

что наш запас познаний растет быстро, но наша самоуверенность в этих познаниях растет еще быстрее.

Как следствие, — мы переоцениваем свои знания и недооцениваем неопределенность.

В итоге, —эпистемическая самонадеянность и связанная с ней футурологическая слепота.

* * *

Теперь, наконец, можно перейти к вопросу — откуда прилетают Черные лебеди?

Согласно Талебу, Черные лебеди “зимуют в разных странах”, откуда они и прилетают к нам совершенно непредсказуемым образом и когда захотят.

Самая большая из стран зимовки Черных лебедей называемой эмерджентность.

Подробно Талеб пишет об этом в 3ей книге своего самого нового сборника «Рискуя собственной шкурой. Скрытая асимметрия повседневной жизни» (опять же, если нужно быстро освежить в памяти, можно взглянуть краткий конспект сборника).

Эмерджентностью называют качественный скачок в усложнении системы, когда вдруг совершенно самопроизвольно у неё появляются качества (свойства), отсутствующие у ее элементов, и возникающие исключительно благодаря объединению этих элементов в единую, целостную систему.

Элементами таких систем могут быть что угодно: от молекул вещества до автомобилей и живых особей.

Примеры различных систем, способных проявлять эмерджентность

Как пишет в своей недавней статье Джон Ренни, -

«Вы можете провести целую жизнь, изучая отдельную молекулу воды, но никогда не сможете определить свойства льда. Наблюдайте за одиноким муравьем под микроскопом столько захотите, но вы не можете предсказать, что тысячи таких муравьев могут вдруг совместно построить мост из своих тел, чтобы преодолеть пропасть. Изучите птиц в стаях или косяки рыб, но вы не найдете там никого, кто бы руководил удивительно слаженным движениями всех остальных».

Эмерджентность присутствует повсюду: в биологических, общественных, рыночных и прочих типах систем. Посмотрите этот 3х минутный новый ролик от Quanta Magazine, иллюстрирующий сказанное.

Именно эмерджентность определяет невозможность предсказания поведения систем, после прохождения ими «фазовых переходов», о которых рассказано в ролике.

Самопроизвольно возникающее новое свойство целого так и называют «непредвиденным» (эмерджентным). В итоге этой непредвиденности и появляется Черный лебедь.

Но ведь в привычных нам «фазовых переходах» из одного агрегатного состояния вещества в другое предсказать поведение системы после такого перехода теоретически возможно! Можем же мы предсказывать, как поведет себя лед, который получится после того, как замерзнет вода в бутылке.

Всё так. Но увы!

Для эмерджентности социальных, экономических и политических систем законы фазовых переходов пока что не известны.

И пока эти законы не будут открыты, из «страны эмерджентности» будут прилетать к нам Черные лебеди, предсказать появление которых не сможет ни FiveThirtyEight, ни кто-то еще на свете.

Резюме — TheWorldIsNotEasy

Да. Мир оказывается все более не прост. Мы думали, что квантовая механика и многомировая модель мира — это предел сложности в его понимании. Оказалось, нет.

✔️ Мы не знаем большинства “игровых правил” этого мира. И потому эпистемическая неопределенность не позволяет нам делать удовлетворительно точные прогнозы событий, до которых остается и всего-то несколько дней.

✔️ Эмерджентность социальных, экономических и политических систем порождает стаи Черных лебедей — не столь огромных и разрушительных, как те, о которых пишет Талеб в одноименной книге, но вполне способных абсолютно непредвиденным образом, кардинально менять ход событий, обесценивая любые прогнозы.

Тем не менее, хочется верить, что Эйнштейн, хотя бы частично, был прав, говоря, что Бог не играет в кости. В квантовой механике, к сожалению, не получилось найти некие “скрытые параметры”, незнание которых не позволяет построить “точную” квантовую механику природных систем.

Но с эмерджентностью искусственных (создаваемых людьми) социальных, экономических и политических систем далеко еще не все ясно. И точный расчет поведения таких систем после “фазовых переходов” вполне может оказаться возможным.

И тогда появится что-то типа психоистории Айзека Азимова. О чём, я надеюсь, впервые будет сообщено на канале TheWorldIsNotEasy.

Ну а пока, — мир, по-прежнему, не прост. И единственное, что можно предсказать точно, — что новый 2019 год по своей волатильности и неопределенности превзойдет уходящий 2018.

________________________________

Если вам понравился этот пост — не забудьте:

- нажать “палец вверх”;

- подписаться на обновления канала на платформе Medium;

- оставить комментарий.

Еще больше материалов на моем Телеграм канале «Малоизвестное интересное». Подпишитесь

Оригинал и комментарии

Битва за Землю, которая может быть проиграна от sergey_57776

Цифровая революция не закончилась, но переродилась в нечто иное

Кадр из кинофильма “Битва за Землю” ( Captive State), мировая премьера которого состоится 28 марта 2019

Не планировал я вас отвлекать в суете новогодних каникул, но не получилось. Поскольку без этого вы, скорее всего, пропустите, не просто очередное «малоизвестное интересное», а весьма важное и, по отзывам,

«самое блистательное и впечатляющее, радикальное и революционное, туманное и поэтичное»

эссе Джоржа Дайсона «Конец детства», написанное и опубликованное им 1го января 2019.

Плененное состояние человечества

28 марта 2019 назначена мировая премьера фантастического триллера «Captive State» режиссёра Руперта Уайатта, очаровавшего публику на полмиллиарда долларов своим предыдущим н/ф триллером «Планета обезьян» по известному роману Пьера Булля.

В основе нового н/ф проекта шедевр научной фантастики — опубликованный в 1953 роман выдающегося фантаста и провидца Артура Кларка «Конец детства».

Как нетрудно заметить, также называется и новогоднее эссе Джоржа Дайсона. Осталось объяснить — почему. И в этом — главная фишка и интрига.

Название нового фильма Уайатта — «Captive State» (плененное состояние) — у нас перевели «Битва за Землю». Это возможная (боевая) трактовка романа, хотя здесь было бы точнее название «Проигранная битва человечества». Наиболее же точно — именно «Плененное состояние» (имея в виду землян).

Вопрос — кто же пленил человечество?
Очевидный ответ — сверхцивилизация пришельцев.

По сюжету фильма пришельцы уже как десять лет успешно захватили Землю и установили на ней свой строгий порядок, сделавший человечество сильным, как никогда:

  • уровень безработицы упал до минимума;
  • удалось победить эпидемии и бедность;
  • преступности и войн больше нет.
«Так воздадим же за это благодарность новым Сверхправителям Земли!»

— вещается из каждого гаджета осчастливленного таким образом человечества.

Многие земляне спокойно и счастливо уживаются с захватчиками, хотя есть и бунтующие повстанцы, готовящиеся начать революцию в Чикаго…

Увы, но в фильме такая фабула по-голливудски перерождается в сюжет всего лишь н/ф триллера с закосом на боевик.

Но в первоисточнике гениального Артура Кларка «Конец детства» всё куда глубже, трагичней и ближе к нашей реальности:

  • дети внезапно переходят на новую ступень эволюции;
  • т.к. рождённые после определённого момента, начали включаться в глобальную сеть прямо с младенчества, они как бы переставали «принадлежать» своим родителям (напомню, это роман 1953, — за десятилетия до изобретения глобальной сети и всего вытекающего!);
  • рожать становилось бессмысленно, хотя отдельные попытки не прекращались, пока предыдущие поколения не вышли из репродуктивного возраста;
  • со временем включать в сеть больше стало некого… На чем и закончилась через сотню лет на Земле история человечества.

Последнее поколение людей (хотя фактически это уже и не люди) объединяется со Сверхразумом, уничтожив Землю. И тем не менее, могущественные Сверхправители завидуют человечеству — ибо сами они бесплодные акушеры на службе этого самого Сверхразума.

Постер фильма

«Конец детства» Джоржа Дайсона — почти о том же. Но это уже не фантастика, а самый что ни на есть техно-реализм.

«Конец детства» по версии Джоржа Дайсона

Джорж Дайсон представляет эссе “Конец детства” 1го января 2019. Фото https://www.edge.org/conversation/george_dyson-childhoods-end

Джорж Дайсон (сын знаменитого Фримена Дайсона и брат, наверное, не менее известной в России Эстер Дайсон)— историк науки, написавший такие замечательные книги, как «Дарвин среди машин. Эволюция глобального интеллекта» и «Храм Тьюринга: происхождение цифровой вселенной»).

Он разбирается в том, о чем пишет, переиначивая «Конец детства» Кларка с учетом знаний об уже случившейся на Земле цифровой революции.

«Все революции заканчиваются, независимо от того, успешны они или нет» — пишет Дайсон.

Вот и время цифровой революции, вроде как, только недавно начавшейся, уже прошло. И не то, чтобы она закончилась. Нет. Но она трансформировалась в нечто совсем иное.

Это случилось в результате «захвата Земли» новыми Сверхправителями — отнюдь не пришельцами из космоса, а мега-корпорациями «Хранителей Интернета».

Вот тут главное, — чтобы вы не прекратили чтение и продолжили его еще хотя бы на 1 минуту,

поскольку речь вовсе не об очередной антиутопической техно-страшилке левого толка, а об абсолютно новом видении роли цифровых технологий в эволюции человека и человечества.

Вот в чем это видение.

1) Результатом цифровой революции стало повсеместное использование цифровых вычислительный устройств в целях:

a. цифрового моделировании явлений реального мира, закодированных в виде алгоритмов,

b. использования результатов моделирования, в качестве выходных данных для управления чем-либо в реальном мире.

2) Алгоритмы и цифровое моделирование стали настолько встроенными в нашу культуру и мировоззрение, что мы считаем практически невозможным признать, что другие формы вычислений, без алгоритмов и цифровых моделей, эффективно контролируют большую часть мира.

3) Мы предполагаем:

a. что компания, занимающаяся поисковыми системами, создает модель человеческих знаний и позволяет нам обращаться с поисковыми запросами к этой модели;

b. или что другая компания (а может быть, и та же самая) создает модель дорожного движения и позволяет нам получить доступ к этой модели;

c. или что еще одна компания строит модель социального графа и позволяет нам присоединиться к этой модели по цене, которую нам даже не говорят (поскольку будто бы бесплатно);

d. и т.д. и т.п.

Т.е. мы предполагаем,

  • что армии программистов все еще контролируют мир созданных ими цифровых моделей,
  • а мы лишь радостно пользуемся этими моделями для удобства и комфорта собственной жизни, да еще и, большей частью, бесплатно.
Но на самом деле, так больше не происходит, поскольку
их модели больше не являются моделями.

Поисковая система больше не является моделью человеческих знаний. Вместо этого, она превратилась в человеческие знания. То, что начиналось как отображение смыслов человечества, теперь превратилось в смыслы человечества и стало контролировать, а не просто каталогизировать или индексировать человеческое мышление. Никто теперь этим уже не управляет.

Если приложением навигации в авто-трафике в реальном времени пользуется достаточное количество водителей, трафик контролируется без центральной модели, — он контролируется самим трафиком. В результате, и здесь модель перестает быть моделью, превращаясь в реальный объект материального мира — трафик.

Успешная социальная сеть больше не является моделью социального графа, это и есть социальный граф, в котором мы живем: общаемся, обсуждаем новости и проблемы, ссоримся, знакомимся, сожалеем об утратах …

Вот почему в мире, где прошла цифровая революция:

  1. Победитель (мега-корпорация первой построившая какую-то из моделей мира, трансформировавшуюся затем в новую реальность одного из секторов материального мира) получает все.
  2. Правительства, верные устаревшим моделям и системам управления, всё более теряют управление и становятся все более бессильными.
  3. Новые «Хранители Интернета», контролируя потоки информации в глобальной сети, управляют превращением всё новых цифровых моделей реального мира в моделируемые ими объекты нового мира.

Но и «Хранители Интернета» уже не контролируют работу новых цифровых объектов, из которых складывается новый мир.

Доброжелательные Сверхправители романа «Конец Детства» Артура Кларка принесли и даровали землянам множество технологических благ, но привели тем самым к завершению человеческого рода.

Сегодня «Хранители Интернета», подобно Супер-Правителям романа Кларка, несут людям все новые блага, обещая полную автоматизацию рутины, освобождающую людей для счастья творчества, пребывая при этом в полном здравии и получая обязательный доход от работающих роботов.

Это тоже не закончится хорошо, пишет Джорж Дайсон в новогоднем эссе «Конец детства».

И предлагает выход — ренессанс аналоговых систем, через которые доминированию цифровых вычислений и моделей придет конец.

Аналоговый ренессанс стал бы достойным ответом эволюции тем, кто стремится управлять природой с помощью программируемых машин.

Ответ в том, чтобы люди пересоздали способные вычислять машины, природа которых не поддается программированию, а их модели являются точным отображением реальности, толерантным, в отличие от цифровых моделей, к ошибкам и работающих, как и люди, в реальном непрерывном времени, а не с ритмом тактовой частоты процессора…

Но мне пора остановиться, иначе, если я вообще все перескажу, зачем вам будет читать новогоднее эссе Джоржа Дайсона.

________________________________

Если вам понравился этот пост — не забудьте:

- нажать “палец вверх”;

- подписаться на обновления канала на платформе Medium;

- оставить комментарий.

Еще больше материалов на моем Телеграм канале «Малоизвестное интересное». Подпишитесь

Оригинал и комментарии

Список проектов в продлении жизни от https:

Задач в продлении жизни океан, и всех их надо решать.

Можно брать любую отдельно и заниматься. Финансировать, организовывать, прямо самому работать над исполнением. Перечислю большие направления, которые сами состоят из подзадач. Естественно, это не исчерпывающий список, особенно, если речь идёт о науке.

  1. Внедрение диагностики старения
  2. Систематизация маркёров и построение моделей старения
  3. Улучшение диагностики старения, организация круглых столов, конференций
  4. Клинические исследования (КИ) различных диагностических подходов старения
  5. Создание тераностики старения
  6. Клинические исследования тераностики
  7. Создание глобальной базы знаний по старению и долголетию
  8. Создание математической модели старения организма
  9. Труды и публикации по эволюционно-сравнительной биологии старения
  10. Приложения по сбору и анализу медицинских данных
  11. Приложения по рекомендациям в области долголетия
  12. Приложения для участия в КИ терапий старения
  13. Приложения по мотивации к долголетию
  14. Учебник по биологии старения
  15. Цикл лекций, полный курс, по биологии старения на Youtube
  16. Все исследования, поддержанные SENS
  17. Все исследования института БАКа
  18. Все исследования, поддержанные Майклом Гривом
  19. Все исследования, поддержанные Международным Альянсом Долголетия
  20. Все исследования группы Бельмонта
  21. Все исследования Хорварта
  22. Все исследования Гарвардской медицинской школы в отношении старения
  23. Все исследования Майо Клиник в отношении старения
  24. Все исследования Девида Чёрча
  25. Исследования межклеточного матрикса
  26. Исследования имуносенесцентности
  27. Генетические сети старения и долголетия
  28. Доставка генетического материала
  29. Терапевтическое клонирование
  30. Все исследования в сравнительной биологии старения
  31. Эпигенетический откат
  32. Пептидная регуляция
  33. Нейрогенез и нейровоспаление
  34. Применение стволовых клеток
  35. Омоложение ниши стволовой клетки
  36. Организация клинических исследований по инициативе пациентов
  37. Разработка и внедрение диеты долголетия
  38. Клинические исследования комплексных терапий Open Longevity
  39. Селекция микробиоты на продление жизни хозяину
  40. Ряд статей о взаимосвязи старения и рака
  41. Систематические обзоры о борьбе со старением
  42. Иммунотерапия
  43. РНК-терапия
  44. Метаболические карты патологий
  45. Исследования митохондрий, в частности, пересадка митохондрий
  46. Создание школ долголетия
  47. Клиника долголетия
  48. Турнир по биохакингу
  49. Новости продления жизни. Youtube канал
  50. Лоббирование государственных программ;
  51. Редактирование Википедии и написание статей на темы продления жизни;
  52. Создание территории долголетия
  53. Моделирование деятельности мозга
  54. Карта всех клеток организма
  55. Модель метаболизма человека
  56. Конференции по специализированным темам
  57. Убеждение влиятельных людей действовать в пользу продления жизни
  58. Фандрайзинговые вечеринки
  59. Краудфандинг в пользу научных проектов
  60. Премия за вклад в продление жизни людей
  61. Центр коллективного пользования для исследовательских инициатив в продлении жизни
  62. Акселератор проектов в долголетии
  63. Строительство и содержание вивариев
  64. Обучение студентов и аспирантов биологии старения
  65. Шоу долголетия
  66. Создание сайтов по всем темам, связанных с продлением жизни
  67. Исследование мотивации к продлению жизни
  68. Карта задач для волонтёров
  69. Трансгуманистическая атрибутика
  70. Книга «Бессмертие»
  71. Лекции о продлении жизни
  72. Потребительское общество для покупок товаров и услуг в области продления жизни, красоты и здоровья
  73. Кооператив по реализации услуг в области продления жизни
  74. Написание программ, подзаконных актов и законов в пользу продления жизни
  75. Ветеринарная клиника долголетия домашних питомцев
  76. Сертификация товаров и услуг на предмет влияния на продолжительность жизни.
  77. Написание стратегий по продлению жизни
  78. Написание инструкций для желающих действовать
  79. Документальный сериал «Экспедиция долголетия»
  80. Ресурс о наиболее вероятных методах продления жизни
  81. Аналитика: люди, компании, проекты
  82. Все гаджеты и приложения для продления жизни
  83. Клубы для желающих продлить жизнь
  84. Сайт, сравнивающий диеты, БАДы, терапии и лекарства для продления жизни. Аттестация клиник, курортов, технологий. Критика ложных обещаний продления жизни
  85. Мониторинг клинических исследований терапий старения
  86. Можно было бы и телеканал создать
  87. Разработка и внедрение стандартов анти-эйджинговой медицины
  88. Организация слушаний, работы комиссий и комитетов, взаимодействие с правительственными учреждениями
  89. Выпуск газеты «Долголетие» для пенсионеров
  90. Клуб “Кардио-спорт”
  91. Развитие фитнеса для продления жизни. Специальные клубы
  92. Создание позитивной картины будущего. Художественное произведение
  93. Философия трансгуманизм. Цикл статей, лекций, книг
  94. Иллюстрации для всего: книг, мероприятий, презентаций, публикаций, создание мемов
  95. Исследования сна
  96. Сайт про то, как улучшить сон
  97. Постоянные собрания людей в пользу продления жизни;
  98. Батлы и диспуты о продлении жизни;
  99. Интервью с учёными;
  100. Создание НКО различных направленностей
  101. Покупка акций компаний, работающих над продлением жизни. Создание биржевого Лонжевити-индекса
  102. Клонирование человека
  103. Книга и исследование «Психология продления жизни»
  104. Книга «Молекулярные механизмы красоты»
  105. Нечто в современном искусстве в пользу продления жизни
  106. Ответы на критику идеи продления жизни
  107. Социальная сеть в пользу долголетия
  108. Медийная раскрутка лидеров долголетия
  109. Поддержка политиков, выступающих за продление жизни
  110. Развитие крионики и криобиологии
  111. Футболки с рекламой продления жизни
  112. Разработка программы продления жизни жителей города
  113. Создание алгоритма взаимного коучинга по продлению жизни
  114. Управление волонтерами
  115. Сайты по продаже всего, что связано с продлением жизни
  116. Книга «Лучшие эксперименты по продлению жизни»
  117. Кафе с научно обоснованным питанием для долголетия
  118. Скрининг комбинаций геропротекторов на мышах
  119. Панель биомаркеров старения приматов
  120. Медицинский искусственный интеллект — стратегия развития
  121. Блог на тему радикального продления жизни
  122. Лайф-маркет продления жизни. Фестиваль
  123. Из перечисленных пунктов сделать сайт и наполнить ссылками и отчетами, что уже делается по теме
  124. Сайт “Как принять участие в КИ терапии старения?”
  125. Переводы с русского на английский и наоборот
  126. Переводы на другие языки текстов о продлении жизни

Список проектов в продлении жизни was originally published in Open Longevity RUS on Medium, where people are continuing the conversation by highlighting and responding to this story.

Оригинал и комментарии

Генотек и гены алкоголизма от flavorchemist

Известная по своей вводящей в заблуждение и лженаучной рекламе российская компания “Генотек” (опять) опубликовала очередное исследование.

В принципе, ничего нового. Но достаточно показательно для понимания того, как работает коммерческая наука вообще и компания “Генотек” в частности.

Речь в этот раз идет о “генах алкоголизма”. Именно их у россиян обнаружили специалисты этой компании.

Сравнив наборы нескольких тысяч мелких мутаций в ДНК всех четырех групп добровольцев, генетики выделили несколько генов, связанных со склонностью к алкоголизму, часть из которых ученые раньше не открывали в геномах жителей других стран.

Оставим научно-популярное изложение, свойственное российской прессе, у нее же на совести. И обратимся к оригинальной (неопубликованной пока нигде) статье “Генотека”, которую они услужливо выложили в bioRxiv.

Что мы там видим интересного?

Авторы

Целая коллегия авторов из разных организаций. Все, кажется, очень серьезно.

  1. Genotek Ltd.
  2. Pirogov Russian National Research Medical University, Ostrovityanova str 1, 117997, Moscow, Russia
  3. Institute of Biomedical Chemistry, Pogodinskaya street 10 build. 8, 119121, Moscow, Russia
  4. Vavilov Institute of General Genetics, Gubkina str 3, 119333, Moscow, Russia
  5. Lomonosov Moscow State University, Faculty of Mechanics and Mathematics, Leninskiye Gory, Main building, 119991, Moscow, Russia

Методология

В общей сумме авторами проанализированы геномы 1008 человек на чипе с 500 000+ SNP. Hайдено 5 кандидатов на связь с алкоголизмом.

Например (обратите внимание на p-values в таблице, мы к ним еще вернемся) в таблице:

Научная ценность

Собственно, все уже догадались и она напрямую следует из методологии. Но я попробую коротко объяснить.

Даже если отбросить мою категорическую нелюбовь к методам Фишера, работа представляет собой полный буллшит. Ключевая проблема носит название проблемы “множественных сравнений”, об этом много где писано, но я попробую объяснить еще раз.

Каждый раз, когда в ограниченном числе шумных данных вы ищете бесконечное число корреляций — вы их находите. Теория вероятностей не только разрешает найти подобные случайные корреляции, но гарантирует их находку. Просто потому что теория вероятностей — это не про равномерность и постоянство нашего мир. Она про случайности и совпадения. И она предсказывает, что чем вы тщательнее ковыряетесь в данных — тем больше будет подобных совпадений. Потому что они там есть. Но они совпадения, а не закономерности. То есть, конечно, закономерности тоже могут быть, но отделить одно от другого непросто и именно для этого и применяются статистические методы.

В случае с полногеномными поисками ассоциаций (Генотек — работа является представителем именно такого типа поиска) такая проблема, часто ее называют проблемой множественных сравнений, стоит особенно остро. Одновременно тестируется огромное количество гипотез (равное количеству SNP, в нашем случае полмиллиона).

Разумеется, в общем случае исследователи это понимают, и не используют общепринятый уровень значимости 0.05.

Условным стандартом для подобного рода исследований давно стала альфа = порядка 1e-8 — 5e-8*.

Возьмем крайнее значение и оттолкнемся от него.

Иными словами. Если p < 5е-8, то найденная ассоциация статистически значима и, возможно, не случайна. Если > 5е-8, то мы не смотрим в эту сторону. В этом случае ассоциация считается шумом и случайностью и размышлять о взаимосвязях рановато.

Теперь еще раз посмотрим в таблицу из работы российских авторов и особенно пристально в последний столбец и сделаем выводы.

Как можно заметить невооруженным глазом, ни одна из ассоциаций даже близко не приближается к статистической значимости. Лучшее, что удалось достичь — это 1е-6 при желаемых хотя бы 5е-8.

То есть примерно в 20 раз больше. Авторы даже близко не подошли к тем цифрам, при которых можно только начать говорить о возможной взаимосвязи. И совершенно неважно, что в выводах к своей работе авторы пишут, что нашли несколько генов, которые связаны с потреблением алкоголя:

This study presents the GWAS of alcohol consumption in Russian population and identifies several genetic loci in genes involved in nervous system function and mental disorders with some alcohol drinking patterns. Further independent studies are required to confirm these findings.

Единственный вывод, который напрямую следует из данных, должен быть сформулирован по-другому:

В результате проведенной работы нам не удалось выявить ни единого участка ДНК, который мог бы быть ассоциирован с алкоголизмом у россиян.

Это,конечно, не значит, что подобных генов нет вообще. Может и есть, просто статистическая мощность данного исследования (всего 1008 человек) не позволила их выявить.

Следует добавить, что, как уже сказано выше, статья пока нигде не опубликована. И, я надеюсь, никогда не будет. Потому что к науке это не имеет никакого отношения.

Даже к российской.

_____________________________
* Порог, который используется для определения статистической значимости в GWAS — тема очень горячая и дискуссионная. В некоторых источниках рекомендуется использовать 5e-8, в других до 1e-8, в третьих рассчитывать индивидуально под каждое конкретное исследование, что кажется наиболее верным, но все равно никак не выше, чем 5e-8.

Важно то, что это вроде бы достаточно низкая величина на самом деле не низкая. Она возникает в результате поправки порога статистической значимости для тестирования одной гипотезы на множественные сравнения, связанные с одновременным определением многих сотен тысяч SNP.

Оригинал и комментарии

Найдена формула вычисления человеческого капитала от sergey_57776

Из неё следует, что стартапам нужны лисы, а не ежи!

Анализ больших данных о сложных сетевых системах приносит фантастические прорывные результаты во всё новых и новых областях.

Например, нынче почти все убеждены, что генетический код — лучший предиктор показателей здоровья. А на деле, наблюдаемый при тотальной урбанизации рост плотности, разнообразия, эпидемической связанности и неравенства населения привел к тому, что сегодня почтовые индексы людей являются лучшим показателем здоровья, чем их генетический код (см. рис.)

Источник: https://www.pnas.org/content/115/50/12573

Еще пример совсем из другой области — как проводить оптимальные географические границы регионов. Оказывается, лучшим предиктором оптимального расположения границ является функциональная сеть транспортных потоков по пригородным маршрутам. (см. рис.)

Источник: https://www.pnas.org/content/115/50/12573
А что, если проанализировать на национальном уровне большие данные о развитии всех предприятий страны за 10 лет в увязке с показателями человеческого капитала персонала каждой из компаний.

Это и было сделано в капитальном бразильском исследовании, сенсационные данные которого только что опубликованы.

Новый подход к оценке человеческого капитала

Авторы исследования «The role of industry-specific, occupation-specific, and location-specific knowledge in the growth and survival of new firms» пошли новым путем.

В течение уже нескольких десятилетий человеческий капитал признается в качестве важного фактора экономического роста. Но человеческий капитал работника — это результат далеко не только его формального обучения. Работники приобретают важные навыки, знания и контакты в ходе своей работы. 40-летний работник имеет куда больше знаний и опыта от работы, нежели чем от полученного им обучения. Этот опыт работы, характерный для отрасли, местоположения и рода занятий, должен влиять на рост и выживаемость компании, на которую он работает. И это справедливо для всех сотрудников компании, каждый их которых обладает уникальным опытом и знаниями.

Специфика этого знания сподвигла авторов исследования думать о человеческом капитале не только с точки зрения их интенсивности, но и с точки зрения их взаимосвязанности. Работники не просто осведомлены или квалифицированы, но обладают знаниями, связанными с конкретными видами деятельности, включая даже новые виды деятельности, которые никогда ранее не присутствовали в городе или стране.

Авторы исследования решили проверить, какой тип связанных знаний является более важным компонентом успеха новых фирм, которые ведут к развитию новых отраслей.

N.B. Хотя я использую в этом тексте термин стартапы (совсем молодые компании, финансируемые венчурными инвестициями), авторы в своем исследовании копают шире, имея в виду все виды компаний, возрастом до 8 лет.

Авторы при оценке знаний, как основного элементов человеческого капитала,

  • используют их двухмерное представление: отраслевые и профессиональные знания;
  • и рассматривают знания в виде динамической сети, отражающей взаимосвязь знаний между прошлой и настоящей деятельностью.

Звучит, наверное, сложно. Но вот простой поясняющий пример.

Представьте себе сейла — продавца. Продавцы необходимы для роста и выживания любой фирмы и обладают знаниями как по профессии, так и по отрасли.

Знания продавца по профессии включают в себя знания о том, как общаться с клиентами, развивать отношения и заключать сделки. Это навыки, которые могут быть легко переданы от одной фирмы к другой (с переходом продавца на работу из одной фирмы в другую).

Однако, отраслевые знания, необходимые продавцу, сильно зависят от продаваемого продукта или услуги. Продавец, имеющий опыт в продаже одежды, может плохо справляться с продажей корпоративного программного обеспечения не потому, что он не может установить отношения с клиентом, а потому, что ему может не хватать знаний, необходимых для понимания потребностей клиентов в программном обеспечении и технических возможностей команды клиента. Не говоря уж о том, что продавец может просто плохо понимать, что он продает и зачем.

Учитывая же колоссальное технологическое усложнение бизнеса, огромные различия отраслевых знаний появляются даже там, где еще лет 10 назад даже таких отраслевых сегментов не было.

Например, 10 лет назад продавец ПО был почти универсалом. Теперь же отраслевые знания продавца ПО для обновления запасов и ПО для индустриального интернета вещей пересекаются лишь чуть-чуть.

Вот как выглядит схема сетевой классификации отраслевых и профессиональных знаний, использованная в исследовании.

Источник: https://www.pnas.org/content/115/50/12646

А так распределялись стартапы (фирмы-пионеры) и прочие фирмы по их чилу, годам открытия, численности персонала и регионам Бразилии.

Источник: https://www.pnas.org/content/115/50/12646

Ключевой вывод исследования

Для стартапов отраслевые знания сотрудников являются куда более важным предиктором выживания и роста бизнеса, чем профессиональные знания.

Выживание стартапов значительно возрастает, когда в них нанимаются люди с отраслевыми знаниями (industry-specific knowledge) и опытом в этой области, а не со специальными знаниями (occupation-specific knowledge).

Очень важно, что исследование также показало, что со временем всё меняется на 180 градусов.
Для «нестартапов» (фирм, существующих 10+ лет) знания по специальностям играют относительно более важную роль, чем отраслевые знания.

Авторы исследования анализируют несколько гипотез, почему для стартапов важнее именно отраслевые знания и опыт сотрудников:

  • от версии, что отраслевые знания приобретаются дольше, и, следовательно, изначальный интегральный человеческий капитал такого персонала выше;
  • до версии, что первые наемные работники стартапов часто становятся управленцами, для которых отраслевые знания могут быть более важными, чем профессиональные.

Есть и иные объяснения, о которых желающие прочтут сами.

Мне же остается еще раз констатировать факт.

✔️ Человеческий капитал компании — это сложная система.
✔️ Проведенный анализ больших данных выявил четкие паттерны успешности стартапов в зависимости от состава их персонала первых лет существования.
✔️ Важнейшим фактором успеха является доминирование среди персонала людей с отраслевыми знаниями и опытом, а вовсе не наличие продвинутых профессионалов узкого профиля.

Короче, стартапам, условно говоря, нужны лисы, а не ежи!
(ведь «лиса знает много отраслевых секретов, а еж — только один, хоть и самый главный — профессиональный секрет своей деятельности» 😃)

________________________________

Если вам понравился этот пост — не забудьте:

- нажать “палец вверх”;

- подписаться на обновления канала на платформе Medium;

- оставить комментарий.

Еще больше материалов на моем Телеграм канале «Малоизвестное интересное». Подпишитесь

Оригинал и комментарии

Предновогодний сюрприз — Microsoft раскрывает секрет самого умного ИИ мира от sergey_57776

Предновогодний сюрприз — Microsoft раскрывает секрет самого умного ИИ мира

Секрет в том, что реальный ИИ — это гибридный ИИ

XiaoIce еженедельно добавляет новый функционал с июля 2014

Система Microsoft XiaoIce — это самый популярный в мире социальный чат. Его уникальность в том, что он выполняет роль интеллектуального собеседника с эмоциональной связью, тем самым удовлетворяя потребность людей в общении, привязанности и социальной принадлежности.

Стандартный тест Тьюринга, как вы помните, в том, чтобы было трудно (или даже невозможно) отличить при общении с кем говоришь: с человеком или машиной.

Microsoft пошел дальше на основе расширенного теста Тьюринга — чтобы с машиной людям хотелось говорить больше, чем с другими людьми.

При проектировании XiaoIce принимался во внимание как интеллектуальный коэффициент (IQ), так и эмоциональный коэффициент (EQ), а также формируемые черты характера. Т.е. формула XiaoIce = IQ + EQ + Personality.

В результате социальный чат человек-машина:

  1. превратился в систему иерархического принятия решений, математически описываемых марковским процессам — Markov Decision Processes;
  2. оптимизирует долгосрочное вовлечение людей в общение (измеряемое в ожидаемом количестве обращений за сеанс — CPS — сколько раз человек захочет продолжить разговор с машиной после её ответа).

Одна из главных фишек XiaoIce — модуль эмпатических вычислений.

Microsoft впервые раскрыл секрет, как XiaoIce динамически распознает человеческие чувства и состояния, понимает намерения человека и реагирует на динамику его потребностей в ходе долгих разговоров.

С момента выпуска в 2014 году система XiaoIce общалась уже с более чем 660 миллионами людей и преуспела в установлении долгосрочных отношений со многими из них. Средний CPS XiaoIce, равен 23, что значительно выше, чем у других чат-ботов и даже человеческих разговоров.

Проверьте это на себе — сколько раз вы в среднем возвращаетесь к разговору с френдом в социальной сети (комментируете сказанное им или снова высказываетесь сами)?
Боюсь, что среднего показателя в 23 раза добьются единицы из нас!

Что значит XiaoIce уже превзошел среднего человека в искусстве общения. Общаться с ним людям более интересно, чем с другими людьми.

Это реальная сенсация. Поскольку практически означает, что в ближайшие год-два ИИ превзойдет ВСЕХ людей по привлекательности общения (включая супругов и любовников, а также родителей и детей)

А это для миллиардов пользователей сети будет куда круче и практически нужнее, чем абсолютное превосходство в шахматах и Го.

Как устроен этот гибридный ИИ, вы можете теперь узнать из только что опубликованной статьи Microsoft.

А как выглядит его высокоуровневая архитектура, показано на рисунке.

Хороший новогодний подарок для тех, кто понимает 😃 👍

________________________________

Если вам понравился этот пост — не забудьте:

- нажать “палец вверх”;

- подписаться на обновления канала на платформе Medium;

- оставить комментарий.

Еще больше материалов на моем Телеграм канале «Малоизвестное интересное». Подпишитесь

Оригинал и комментарии

Итоги: Самые важные прорывы ИИ & МО в 2018 от sergey_57776

и самые многообещающие тренды 2019

Это технический обзор с точки зрения практиков. И потому его написал специалист именно такого профиля — Пранав Дар из Analytics Vidhya (кто не слышал, рекомендую).

Почему в итогах 2018 говорится именно о ИИ & МО (машинное обучение), — долго объяснять не надо.

С т.з. инвестиций (на входе) и практики конкретных приложений (на выходе), сектор ИИ & МО составляет 90% всех передовых ИТ разработок.

Если сократить текст обзора итогов года до 1 слова, то получится –

  • Impactful (во всем спектре переводов: от имеющий ударную силу до яркий, впечатляющий, плодотворный и показательный).

Обзор итогов проведен по 5 ключевым направлениям:

1) Обработка естественного языка

Главный итог: повсеместный переход на предварительно обученные модели (больше не надейтесь получить приличный перевод, предварительно не поучив переводчик на нужных вам текстах… Зато если поучите — получите вполне приличные переводы)

2) Компьютерное зрение

Главный итог: самостоятельное обучение (не тратя время на маркировку изображений вручную) выходит в мейнстрим.

3) Инструменты и библиотеки

Главный итог: начало преодоления разрыва между моделированием черного ящика и производством моделей с помощью machine learning interpretability (MLI)

4) Обучение с подкреплением

Главный итог: наконец-то, от академических задач (типа шахмат и Го) начинается переход к практическим задачам (поиск лекарств, оптимизация архитектуры электронных чипов, маршрутизация транспортных средств и пакетов и т. д.)

5) ИИ для добра — движение к этическому ИИ

Главный итог: государства всё больше влезают в эту сферу, и 2019 станет в данном тренде показательным, если не переломным.

Кто хотел бы рассмотреть итоги в режиме расширенного резюме (примерно на 5–10 мин. чтения) — вам сюда

________________________________

Если вам понравился этот пост — не забудьте:

- нажать “палец вверх”;

- подписаться на обновления канала на платформе Medium;

- оставить комментарий.

Еще больше материалов на моем Телеграм канале«Малоизвестное интересное». Подпишитесь

Оригинал и комментарии

И снова о панических атаках от shvaratsky

Оригинал и комментарии

Человек создан по образу и подобию Божьему, а ИИ? от sergey_57776

Новый прорывной метод сделать ИИ подобным людям

Доказательство правильности концепции, примененной к двоичной строке, состоящей из двух сегментов с различными базовыми механизмами генерации (компьютерными программами). Пояснения к рис. см. в https://goo.gl/WLKovW

Возможность рассуждать и выбирать — это не только то, что делает человека подобным Богу, но и то, что кардинально отличает человека от ИИ.

Ведь как работает современный ИИ на основе глубокого обучения?

Умеющему учиться (например, переводу) на основе обрабатываемых им данных алгоритму (он же — ИИ), дают на вход миллионы примеров, скажем, использования слова bank и для каждого из них фиксируют, что это слово означает в конкретном контексте («банк», «берег» и т.д.) Обучающийся алгоритм просто обрабатывает огромное количество данных. Никто не указывает, какие правила он должен использовать. Алгоритм должен сам найти контекстные ассоциации, позволяющие предсказывать конкретное значение слова для каждого из переводимых текстов. И чем больше данных загружается, тем точнее его предсказания, а значит и перевод.

Такой подход профессор MIT и Чикагского универа Муллайнатан называет «индуктивным научным методом» (от слова «индукция»). Взамен проверки конкретной гипотезы о значимости определенного фактора проверяются все возможные факторы (подробней см. здесь).

Однако, такой метод эффективен далеко не всегда.

Когда самообучающийся алгоритм сам определяет все факторы, наибольшим образом влияющие на интересующий нас результат, — он может быть эффективным лишь, если получаемые результаты трактуются НЕ как причинно-следственные связи между исследуемыми факторами, а как некоторую из интерпретаций причинно-следственных связей.

При невыполнении этого условия легко впасть в заблуждение, а то и хуже, — в мистику и шаманство.

И тут мы сталкиваемся с одной из самых фундаментальных проблем в науке

— нахождение и расшифровка причинно-следственных связей в больших массивах данных.

Современные подходы к выявлению причинно-следственных связей при машинном обучении основаны на тестах линейной и нелинейной регрессии и корреляции.

Эти подходы, мягко говоря, плохо справляются с иерархически структурированными данными и индуктивным выводом.

Из этого следуют 2 страшно неприятных результата, не позволяющих ИИ хоть как-то приблизиться к подобию людей. Современный ИИ не способен, подобно людям:

  1. рассуждать (выносить суждения на основе выявленных путем индуктивного метода причинно-следственных связей).
  2. решать новые проблемы на основе опыта решения иного рода проблем (иными словами, ИИ должен запускаться с нуля каждый раз для каждой новой проблемы).

Новый прорывной метод, если не устранения, то эффективного обхода названных выше двух принципиальных ограничений современного ИИ предложен в работе с несильно понятным для непрофессионала названием «Казуальная деконволюция алгоритмических генеративных моделей». Замена «казуальной деконволюции» на «причинную обратную свертку» мало кому поможет понять, о чем речь.

Посему попытаюсь сказать, если не проще, то хоть конкретней.

Авторы придумали объединить:

  • технику анализа возмущений, предложенную Иудеи Пёрлом в его структурной модели причинности (подробней см. здесь),
  • и аппарат алгоритмической вероятности, предложенный в рамках Алгоритмической теории информации Колмогоровым и Соломоновым (подробней см. здесь).

Свою идею авторы опробовали на сверточных нейронных сетях — одном из наиболее многообещающих подходов к классификации изображений в машинном обучении, в котором набор примитивных признаков извлекается из распределения изображений.

В результате им удалось построить алгоритмическую объяснительную генеративную модель, основанную на более глубоком понимании причинного механизма, чем это возможно посредством нелинейной регрессии.

________________________________

Если вам понравился этот пост — не забудьте:

- нажать “палец вверх”;

- подписаться на обновления канала на платформе Medium;

- оставить комментарий.

Еще больше материалов на моем Телеграм канале «Малоизвестное интересное». Подпишитесь

Оригинал и комментарии

Подзарядитесь оптимизмом и желанием действовать в 2019 от sergey_57776

100 хороших новостей, о которых мало кто слышал в 2018 году. А зря!

Ценность позитивных новостей не только в уменьшении тревоги и депрессии, нагнетаемых большинством публикаций СМИ, но и в сокращении фатализма, цинизма и радикализма, всё более охватывающих мир.

Bот 3 новости из 100, взятые просто навскидку:

  • Индия объявила, что к 2022 году страна ликвидирует все одноразовые пластиковые изделия (FYI: уже три года, как Индия сделала обязательным использование пластиковых отходов в дорожном строительстве, и сейчас в стране насчитывается уже 100 000+ км. пластиковых дорог).
  • Благодаря изменяющимся вкусам людей, родившихся после 1980 года, уже 70% населения мира сокращают потребление или вообще отказываются от мяса (а мы говорим, что у нас плохая молодежь!)
  • Ирландия стала первой в мире страной, отказавшейся от ископаемого топлива (ведь можно же!)

Понизьте уровень своей тревоги (ведь как ни хорохорься, а она есть). Да и лишний цинизм вам незачем.

Просто полистайте оставшиеся 97 новостей, чтобы почувствовать:

✔️ мир не развалился в 2018;

✔️ а в 2019 нужно почаще читать новости из правильных источников.

Читайте 100 хороших новостей

А здесь сокращенно и без гиперссылок, но зато по-русски.

P.S. А еще не пожалейте 20 мин. на классную видео-презентацию — послание миру от авторов «100 хороших новостей» команды FUTURE CRUNCH, — о которой не самые глупые люди отзываются так:

«Лучшая презентация о состоянии мира, которую я видел за последние годы»
«Удивительная способность взглянуть на глобальные вызовы в перспективе и создать ощущение обоснованной надежды»
«Их послание о науке, необходимости критического мышления и оптимизма, которого мы должны придерживаться, уникально»

________________________________

Если вам понравился этот пост — не забудьте:

- нажать “палец вверх”;

- подписаться на обновления канала на платформе Medium;

- оставить комментарий.

Еще больше материалов на моем Телеграм канале «Малоизвестное интересное». Подпишитесь

Оригинал и комментарии

Битва за Землю, которая может быть проиграна от sergey_57776

Дополнительные материалы

По просьбам читателей, что хотели бы лучше понять эссе Дайсона, но затрудняются пробиться сквозь смыслы не самого простого английского –

✔️ профессионально выполненный коллегой EVAN_GCRM синтез:

- чуть сокращенного и хорошо структурированного перевода эссе Дайсона (что делает его куда лучше читаемым, чем оригинал);

- моего поста об эссе с дополнением;

- хороших иллюстраций в тему (кому-то вполне достаточно будет посмотреть только их 😃)

[ссылка]

________________________________

Если вам понравился этот пост — не забудьте:

- нажать “палец вверх”;

- подписаться на обновления канала на платформе Medium;

- оставить комментарий.

Еще больше материалов на моем Телеграм канале «Малоизвестное интересное». Подпишитесь

Оригинал и комментарии

Тут у меня есть довольно простой план. от mikhailbatin

Тут у меня есть довольно простой план. Показать читателю, что вот есть неструктурированный список различных задач и привлечь их к систематизации, планированию и написанию инструкций по теме.

Оригинал и комментарии

Ага, это сделали замечательные ребята из http://obraz.io от ezhikov

Ага, это сделали замечательные ребята из http://obraz.io (рекомендую также их канал на Youtube). Если присмотреться к постеру, в правом нижнем углу есть упоминание вашего покорного слуги. :)

Оригинал и комментарии

http://www.eoht.info/page/War+thermodynamics от sergey_57776

http://www.eoht.info/page/War+thermodynamics

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

Оставить отзыв с помощью аккаунта FaceBook:

Архив лучших постов