Недавние тренды рунета

Волатильность и неопределенность выросли и в 2019 вырастут еще больше

Если обобщить десятки уже опубликованных итогов года и прогнозов на следующий по широкому спектру тем (от технологий и экономики до социальной и политической жизни), интегральный прогноз получается такой.

1. Волатильность и неопределенность растут во всех странах, отраслях и рынках, равно как и в большинстве аспектов жизни человечества.
2. В следующем году этот процесс продолжится с ускорением.

Почему это происходит?

Разные эксперты из разных областей дают широкий спектр различных ответов на этот вопрос.

Мне среди них ближе всего версия Нассима Талеба (Nassim Taleb).

Причина в росте эпистемической неопределенности и эмерджентности вследствие техно-социального усложнения мира.

Попробую развернуть эту мысль Талеба, воспользовавшись его же аргументацией, как я её понимаю.

Супер-Твиттер-Батл 2018

Самой жаркой дискуссией уходящего года стал ноябрьский твиттер-батл Нассима Талеба против Нейта Силвера (Nate Silver) о том, когда и насколько можно доверять прогнозам.

Таллеб — всемирно признанный эксперт (теоретик и практик) в вопросах понимания вероятности в реальном мире, автор многих бестселлеров, как философского, так и технического характера на тему неопределенности и рисков.

Силвер — опытный статистик, соучредитель знаменитого ресурса по прогнозированию FiveThirtyEight, получившего широчайшую известность благодаря прогнозированию результатов выборов, звезда всех теле-шоу о прогнозах в политике и спорте.

Батл Талеба и Сильвера разразился после того, как Талеб публично заявил:

FiveThirtyEight не знает, как грамотно прогнозировать выборы.

Накал битвы был беспрецедентным. Аудитория — миллионы интеллектуалов — от математиков и социологов до брокеров и инвестбанкиров. И всё потому, что контекст этой темы убойный —

в стремительно усложняющемся и ускоряющемся мире важность прогнозов растет, а точность — падает.

И потому всем был интересен не только результат батла (как публичного мордобоя высоких интеллектуалов), но и сущностный ответ — когда и насколько можно нынче доверять прогнозам.

* * *

Результаты острой дискуссии обобщены в десятках статей и постов. Составлены даже специальные библиотеки примеров (данные и программы их анализа), иллюстрирующих позиции сторон. Желающих самостоятельно в этом разобраться адресую к отличной работе Исаака Фабера «Why you should care about the Nate Silver vs. Nassim Taleb Twitter war. How can two data experts disagree so much?».

Я же здесь лишь сформулирую сухой остаток спора, таким, как он видится мне.

Прав Нассим Талеб. Причем прав:

— и по части ответа на вопрос спора,

— и касательно того, что мотивирует Нейта Силвера, FiveThirtyEight и многие другие аналитические структуры придерживаться противоположной Талебу позиции.

Не все действительные числа от 0 до 1 являются вероятностями

Основным источником противоречий и путаницы вокруг прогнозов FiveThirtyEight является то, что они являются вероятностными. Практически это означает, что они не предсказывают победителя или проигравшего, а сообщают о вероятности того или иного результата.

Что еще более усложняет проблему, — эти прогнозы сообщаются задолго до события в виде точечных оценок (иногда с подразумеваемой ошибкой модели).

Однако используемые модели вовсе не являются копией реального мира. И что еще хуже, — никто на свете не может определить задолго до события, насколько велика ошибка моделирования.

Суть тут в следующем (и эта суть совсем не очевидна для большинства читателей прогнозов FiveThirtyEight).

Любые предсказания имеют два типа неопределенности: алеаторная и эпистемическая.

Алеаторная неопределенность связана с фундаментальными свойствами системы, а именно — со случайным характером изучаемых процессов (например, вероятностью выпадения шестерки на игральной кости).

Эпистемическая неопределенность связана с неопределенностью системы — а именно, с отсутствием достаточных знаний о процессах и замене знаний некоторыми неточными моделями.
Например, мы не знаем:

• сколько сторон у игральной кости,
• как маркированы её грани,
• по какой из граней (верхняя или нижняя) будет определяться результат,

— и потому мы просто не знаем вероятность выпадения шестерки в такой весьма неопределенной системе.

Иными словами:

• алеаторная неопределенность относится к результатам игры;
• а эпистемическая (или эпистемологическая — кому как нравится) неопределенность относится и к тому, в какую игру мы играем, и каков будет её результат.

Выборы обладают высокой эпистемической неопределенностью, когда нужно угадывать и игру, и её результат.

Угадать же игру зачастую просто невозможно, — она происходит во многом под ковром на фоне дымовой завесы ложных или отвлекающих новостей.

Но самое худшее, что политические игроки изо всех сил стараются сломать игру, если не подменяя правила, то, как минимум, трактуя их в свою пользу. С этой целью игроки инициируют сторонние действия третьих лиц (не являющихся участниками игры), способные повлиять на ход игры.

Например, в модели FiveThirtyEight просто отсутствовал вариант, что Глава ФБР Джеймс Коми возобновит расследование по электронной почте Хиллари Клинтон. Но он вдруг взял и возобновил. И это вызвало всплеск изменений прогноза, конечно же, повлияв и на результаты выборов.

В итоге, эпистемически неопределенные события априори игнорируются в прогнозах. А без учета наиболее важных неопределенностей, получить достоверную вероятность итога выборов невозможно.

* * *

Что же касается мотивов, толкающих FiveThirtyEight и многие другие аналитические структуры, занимающиеся оценкой общественного мнения и прогнозированием социально-политических событий, — то ими движет, по мнению Талеба, “гремучая смесь” из непонимания сути вероятностных прогнозов и вполне понятных корыстных целей.

Ведь это их бизнес. И лучший способ его приумножать — давать еженедельные вероятностные прогнозы, зарабатывая на их комментировании в СМИ и обсуждая их на ТВ шоу.

Казалось бы, занавес. Всё ясно.

Нам просто конопатят мозги, намеренно исключая из прогноза эпистемическую неопределенность, с целью заработать на прогнозах, не отягощая ни себя, ни нас вопросами точности предсказательных моделей.

Однако ситуация еще хуже. Нассим Талеб, хоть и расплющил Сильвера в споре, но в этом споре было сказал не всё.

Вопрос — откуда прилетают Черные лебеди эпистемической неопределенности — здесь остался без ответа

Так откуда же прилетают Черные лебеди?

Сначала ответим на вопрос — почему они прилетают.

Согласно Талебу, они прилетают вследствие эпистемической самонадеянности людей. Подробно Талеб пишет об этом в главе 10 “Черного лебедя” (но если нужно быстро освежить в памяти, можно взглянуть краткий конспект книги).

Суть понятия эпистемическая самонадеянность в том,

что наш запас познаний растет быстро, но наша самоуверенность в этих познаниях растет еще быстрее.

Как следствие, — мы переоцениваем свои знания и недооцениваем неопределенность.

В итоге, —эпистемическая самонадеянность и связанная с ней футурологическая слепота.

* * *

Теперь, наконец, можно перейти к вопросу — откуда прилетают Черные лебеди?

Согласно Талебу, Черные лебеди “зимуют в разных странах”, откуда они и прилетают к нам совершенно непредсказуемым образом и когда захотят.

Самая большая из стран зимовки Черных лебедей называемой эмерджентность.

Подробно Талеб пишет об этом в 3ей книге своего самого нового сборника «Рискуя собственной шкурой. Скрытая асимметрия повседневной жизни» (опять же, если нужно быстро освежить в памяти, можно взглянуть краткий конспект сборника).

Эмерджентностью называют качественный скачок в усложнении системы, когда вдруг совершенно самопроизвольно у неё появляются качества (свойства), отсутствующие у ее элементов, и возникающие исключительно благодаря объединению этих элементов в единую, целостную систему.

Элементами таких систем могут быть что угодно: от молекул вещества до автомобилей и живых особей.

Как пишет в своей недавней статье Джон Ренни, -

«Вы можете провести целую жизнь, изучая отдельную молекулу воды, но никогда не сможете определить свойства льда. Наблюдайте за одиноким муравьем под микроскопом столько захотите, но вы не можете предсказать, что тысячи таких муравьев могут вдруг совместно построить мост из своих тел, чтобы преодолеть пропасть. Изучите птиц в стаях или косяки рыб, но вы не найдете там никого, кто бы руководил удивительно слаженным движениями всех остальных».

Эмерджентность присутствует повсюду: в биологических, общественных, рыночных и прочих типах систем. Посмотрите этот 3х минутный новый ролик от Quanta Magazine, иллюстрирующий сказанное.

Именно эмерджентность определяет невозможность предсказания поведения систем, после прохождения ими «фазовых переходов», о которых рассказано в ролике.

Самопроизвольно возникающее новое свойство целого так и называют «непредвиденным» (эмерджентным). В итоге этой непредвиденности и появляется Черный лебедь.

Но ведь в привычных нам «фазовых переходах» из одного агрегатного состояния вещества в другое предсказать поведение системы после такого перехода теоретически возможно! Можем же мы предсказывать, как поведет себя лед, который получится после того, как замерзнет вода в бутылке.

Всё так. Но увы!

Для эмерджентности социальных, экономических и политических систем законы фазовых переходов пока что не известны.

И пока эти законы не будут открыты, из «страны эмерджентности» будут прилетать к нам Черные лебеди, предсказать появление которых не сможет ни FiveThirtyEight, ни кто-то еще на свете.

Резюме — TheWorldIsNotEasy

Да. Мир оказывается все более не прост. Мы думали, что квантовая механика и многомировая модель мира — это предел сложности в его понимании. Оказалось, нет.

✔️ Мы не знаем большинства “игровых правил” этого мира. И потому эпистемическая неопределенность не позволяет нам делать удовлетворительно точные прогнозы событий, до которых остается и всего-то несколько дней.

✔️ Эмерджентность социальных, экономических и политических систем порождает стаи Черных лебедей — не столь огромных и разрушительных, как те, о которых пишет Талеб в одноименной книге, но вполне способных абсолютно непредвиденным образом, кардинально менять ход событий, обесценивая любые прогнозы.

Тем не менее, хочется верить, что Эйнштейн, хотя бы частично, был прав, говоря, что Бог не играет в кости. В квантовой механике, к сожалению, не получилось найти некие “скрытые параметры”, незнание которых не позволяет построить “точную” квантовую механику природных систем.

Но с эмерджентностью искусственных (создаваемых людьми) социальных, экономических и политических систем далеко еще не все ясно. И точный расчет поведения таких систем после “фазовых переходов” вполне может оказаться возможным.

И тогда появится что-то типа психоистории Айзека Азимова. О чём, я надеюсь, впервые будет сообщено на канале TheWorldIsNotEasy.

Ну а пока, — мир, по-прежнему, не прост. И единственное, что можно предсказать точно, — что новый 2019 год по своей волатильности и неопределенности превзойдет уходящий 2018.

________________________________

Если вам понравился этот пост — не забудьте:

- нажать “палец вверх”;

- подписаться на обновления канала на платформе Medium;

- оставить комментарий.

Еще больше материалов на моем Телеграм канале «Малоизвестное интересное». Подпишитесь

Оригинал и комментарии

Он определяет закономерность спонтанного усложнения жизни и социальных систем: от вирусов до государств

«Понять — значит упростить» — лаконично и точно сформулировали братья Стругацкие в повести “Волны гасят ветер”. Испокон века наука делала именно так.

Ньютон упростил свои законы до одной универсальной идеи — гравитации, объясняющей движения любых тел: от падающих яблок до планет, от полета камня из пращи до пули и ракеты.

Но законы Ньютона, как и вся наука, построенная на их фундаменте, имели пределы. Они не смогли справиться с очень сильной гравитацией, чрезвычайно быстрым движением и сверхмалыми частицами.

Теория относительности и квантовая механика смогли превзойти эти ограничения, по-своему упростив макро и микро-мир парой оригинальных и интригующих идей.

1. Гравитация — это искажение пространства-времени массивными телами.
2. Свет и элементы, составляющие материю, могут вести себя не только, как частицы, но и как волны.

Но и после триумфа теории относительности и квантовой физика, все равно оставалась область, где наука тщетно пыталась найти способ упростить особый класс систем, не поддававшихся упрощению.

Самое неприятное было в том, что этот неупрощаемый класс т.н. сложных систем встречается буквально повсюду и описывает важнейшие системы мироздания.

• Некоторые из таких систем физические — например, электросети или Интернет.
• Многие из них биологические — мозг, органы, экосистемы.
• Третьи — самый непонятный для упрощения подкласс — социальные системы общества, финансовые рынки, системы корпоративного управления и, конечно же, наше все 21го века — социальные сети.

И вот, наконец, к концу 2ой декады 21 века свершилось, — смогли упростить и их.

Сознан формализм, позволяющий математически (количественно) описать принципиальное отличие сложных систем от всех остальных классов систем — их структурные свойства, как совокупность отношений между всеми наборами компонентов в системе.

Теперь, упростив и создав математический формализм, шансы понять, как же работают все эти важнейшие из систем окружающего мира, включая нас самих, становятся реальными.

О новой интригующей работе Института комплексных систем Новой Англии (NECSI), формально открывающей путь к пониманию поведения (зависящего от структурных свойств) сложных систем (от соцсетей до государств) — будет рассказано в этом посте.

Как измерить сложность

Четыре года назад исследователи NECSI придумали и математически описали принципиально новый способ количественного определения структуры и сложности систем.

«Системы из разных областей и контекстов могут иметь общие структурные свойства, заставляющие их вести себя одинаково»,

- писали Бенджамин Аллен, Блейк Стейси и Янир Бар-Ям в своей довольно революционной работе An Information-Theoretic Formalism for Multiscale Structure in Complex Systems.

По мнению авторов, эти структурные свойства зависят от того, как части системы соединены вместе, и как одни части влияют на действия других.

Здесь, для не особо искушенных читателей, стоит дать хотя бы небольшое пояснение. Иначе весь последующий текст (и так не самый простой) может для них превратиться в ребус. Умудренные читатели, знакомые с темой нижеследующего пояснения, его просто пропустят.

>>> Пояснение: связь энтропии и структурных свойств информации.

Спачала напомню, что энтропия —в широком смысле, означает меру неупорядоченности или хаотичности системы: чем меньше элементы системы подчинены порядку, тем выше энтропия.

Теперь о том, как энтропия связана с информацией.

Шеннон предложил для этой связи используемую в статистической физике вероятностную функцию энтропии:
где Pi — это вероятность наступления i-го исхода события; где i в общем случае принимает значения: i = 1, 2, 3 … N, а в случае текста: i = а, б, в … я.

Т. е. получается, что энтропия напрямую связана с «неожиданностью» возникновения события.

А отсюда возникает понятие информативность — чем событие более предсказуемо, тем оно менее информативно (подробней см.,например, здесь).

Теперь допустим (далее следует пример и текст из работы Е.А. Седова, о которой будет специально рассказано ниже), что некто получил сообщение о том, что из яйца вылупился птенец.

Далее следуют уточнения, что это именно птенец, а не малек, потому что он дышит легкими, а не жабрами, имеет не плавники, а крылья и т. п. Разумеется, все это будет избыточной информацией для получателя, который знает, чем птенец отличается от малька.

Однако та же самая информация, заключенная в генетическом коде,
является именно той структурной информацией, которая определяет весь процесс эмбриогенетического формирования птенца.

Тогда оказывается справедливым, что избыточная информация равна структурной. Из чего следует, что структурная информация равна разнице между максимальной и реальной (наблюдаемой) энтропией (степенью неожиданности), и эта разница может служить количественной мерой упорядоченности текста или структуры любых систем.

Важно отметить, что при исчислении количества информации по
Шеннону игнорируется ее смысл и ее ценность. Так, например, для гражданина Белова одно и то же количество информации (I бит) содержится в таких двух различных по своей ценности сообщениях, как «Завтра не будет дождя» и «У вас родился сын».

Попытки введения количественных мер смысла и ценности информации показали, что эти меры не могут обладать такой же степенью универсальности, как мера, предложенная Шенноном, по той простой причине, что нельзя одними и теми же единицами измерить ценности закона Ома и признания в любви.
Абстрагируясь от смысла и ценности информации, Шеннон фактически поступил так же, как Галилей в свое время поступил с силой трения: исключение этих факторов из поля зрения позволило установить более общий закон.

Мера, найденная Шенноном, оказалась единой универсальной мерой упорядоченности для всех существующих в мире систем.

Однако эта мера, как и законы Ньютона, основываласб на серьёзном упрощении. И потому имела важное ограничение — она не годилась для любых масштабов.

>>> Конец Информации к размышлению.

Описание всех этих мер и отношений математически — ключ к царству сложности. Но тут-то и скрывалась проблема: сложные системы слишком сложны для обычных математических подходов.

«Можно ожидать, что набор компонентов системы для физических, биологических или социальных объектов реального мира будет настолько сложным, что для всех практических целей их точное описание, в конечном итоге, будет просто неподъемным»,

- писали авторы в своей работе.

«Достижение фундаментального решения этой проблемы имеет решающее значение для нашей способности расширить теоретическую физику, как общий подход к сложным системам, а практическое решение имеет решающее значение для нашей способности решать многие реальные проблемы».

Главная же проблема, с которой здесь столкнулись ученые, была та же, что и для теории относительности и квантовой механики

— очень широкий диапазон масштаба систем.

Традиционные информационные меры игнорируют масштаб, в котором проявляется поведение систем. В то же время, системы демонстрируют различное поведение в разных масштабах. Только с учетом важности масштаба можно должным образом учесть структуру и сложность. Эффективный подход

«требует понимания теории информации в многомасштабном контексте, который не был развит ни в теории информации, ни в статистической физике фазовых переходов».

Авторы новой работы смогли решить эту мега-проблему следующим образом.

1. Дано определение структуры как «совокупность отношений между всеми наборами компонентов в системе». Эти отношения определяют, относится ли информация об одной части системы к другим частям системы. Другими словами, структура отражает обмен информацией между частями системы. Обмен информацией означает, — то, что делает одна часть, зависит от того, что делает другая. И этот обмен определяет поведение систем при разных масштабах.
2. Вводятся две меры для обобщения понятия структуры систем. Одна из них, называется профилем сложности (он высок для систем, состоящих в основном из независимых частей, и резко падает для сильно взаимозависимых систем). Другая мера называется предельной полезностью информации (она количественно определяет, насколько хорошо система может быть описана с помощью ограниченного объема информации). Вместе эти две меры позволяют избежать многих проблем и парадоксов, которые препятствовали предыдущим подходам к количественной оценке сложности и структуры.

В итоге, данная работа заложила основы нового понимания природы, отличного от простого ее разрезания на кусочки и изучения того, как эти кусочки работают изолированно.

Том Зигфрид так резюмировал результаты этой работы в журнале Sciencenews:

“Вполне возможно, что понимание того, как эти части образуют структуры путем обмена информацией в разных масштабах, действительно станет ключом к раскрытию тайн поведения сложных систем”

Новый прорыв — математическое доказательство парадоксальной неустойчивости беспорядка

Однако, одним ключом сейф сложных систем не открывался. Четыре года ушло у исследователей из NECSI на поиск второго ключа к решению задачи формализации сложных систем.

И вот только что опубликованная работа Таира Бар-Яма, Оуэна Лича и Янира Бар-Яма The Inherent Instability of Disordered Systems, на основе разработанных ранее количественных мер оценки сложности систем, описывает полный математический формализм развития процесса сложности для систем, находящихся в структурированных средах и имеющих произвольный масштаб.

В новой работе доказано —

любая неструктурированная система, вырастая выше определенного масштаба, не в состоянии противостоять структуре, большей этого масштаба.

Чтобы описать сложную внутреннюю динамику, авторы разработали характеристику многомасштабных изменений в системе. Эта характеристика основана на синтезе кибернетического закона Эшби (Закон необходимого разнообразия — The Law of Requisite Variety) и теоретико-информационных представлений Шеннона о шуме, и при этом учитывает фактор структурирования информации.

Этот рисунок — трёхмерная визуализация того, как на разных уровнях иерархии работает базовое понятие нового формализма — неприводимые зависимости (irreducible dependencies) между частями (элементами) сложных систем. В отсутствии иерархий (в двумерном варианте) это можно представить с помощью диаграммы Венна следующим образом.

Простота приведенных картинок пусть не ведет к заблуждению, что новый формализм описания сложности систем, на самом деле, не так уж и сложен.

Он весьма сложен и включает в себя 2 леммы и 4 теоремы, выглядящих в виде формул (в качестве примера) так:

Эта теорема показывает, как подсистема становится частью окружающей среды. Из этой теоремы следует, что уровень сложности шума и есть то, что является отличительным свойством отдельных подсистем.

Как тут не вспомнить

• мой любимый рассказ “Уровень шума” о беспредельных возможностях познания, достижимых, если мы научимся использовать максимальный уровень шума человеческого разума;
• а также о “новом законе Мура” для извлечения смыслов из зашумленных Больших данных, источником шума в которых является добавление узлов с неполной информацией о соединениях или непредсказуемых соединениях.

Полученный формализм, в качестве иллюстрации его универсальности, авторы переносят на политический анархизм, показывая, что в обществе спонтанно формируются процессы упорядочения с образованием вышестоящих уровней иерархий, даже при отсутствии традиционных высших иерархий типа правительства.

Выводы этой работы авторы также интерпретируют, как «Обратный 2ой закон термодинамики» —

в то время, как закрытые системы разрушаются до полного беспорядка, системы, открытые для структурированной среды, спонтанно создают порядок на все более высоких уровнях иерархии.

От науки о деградации к науке о самоорганизации

«В середине 20го века в науке произошла революция, последствия которой еще предстоит по достоинству оценить. Если до этого времени наука способна была объяснить только тенденции деградации, определяемые 2м началом термодинамики (законом роста энтропии), то с 50-х годов, с развитием методов неравновесной термодинамики, теории информации, синергетики, начали выявляться механизмы взаимодействий, которые обусловливают самоорганизацию различных по своей природе систем.

В частности, в данной работе будет показано, что методы теории информации, разработанные К. Шенноном для чисто прикладных задач техники связи, оказываются универсальным средством анализа процессов самоорганизации как простейших физических тел, так и сложнейших интеллектуальных и социальных систем».

Это цитата из последней работы уже цитировавшегося выше выдающегося российского ученого Евгения Александровича Седова — автора закона иерархической компенсации (закона Седова).

Этот закон:

• охватывает живую и неживую природу, язык, культуру, все сферы социального управления;
• существенно дополняет классический закон необходимого разнообразия У. Р. Эшби;
• представляет собой богатое следствиями открытие в области методологии;
• объясняет, — возрастает или, напротив, сокращается внутреннее разнообразие систем в процессе эволюции.

Согласно закону Седова (в его обобщенной форме, сформулированной А.П. Назаретяном),

рост разнообразия на верхнем уровне иерархической организации обеспечивается ограничением разнообразия на предыдущих уровнях, и наоборот — рост разнообразия на нижнем уровне разрушает верхний уровень организации. При этом функциональная унификация несущих структур увеличивает совокупное разнообразие системы.

Иными словами, как это формулировал А.Д Панов, — “«иерархические компенсации» — это когда появляется новый лидер эволюции, и старые развивающиеся системы не исчезают, а только меняют свое место в развивающейся системе, в некоторой степени перемещаются на ее периферию и, возможно, становятся несколько сокращенными”.

Закон Седова сопоставим по предмету и по охвату с законом необходимого разнообразия и составляет необходимое дополнение последнего.

В своей последней работе “Информационно-энтропийные свойства социальных систем” (написанной по выступлению на очередном заседании Междисциплинарного семинара по изучению
цивилизационных кризисов 28 января 1993 года, и законченной автором за 2 дня до смерти) Е.А. Седов успел разработать минимально необходимый для ее обоснования математический аппарат.

И потребовалась четверть века, чтобы был разработан полный формализм, позволяющий количественно оценивать меры сложности при эволюции сложных иерархических систем любых масштабов, — в том числе, и в соответствии с законом Седова.

Этот новый математический формализм, описанный в работе The Inherent Instability of Disordered Systems, по моему мнению, среди прочего, открывает великолепные перспективы, создания законченного формального описания закона иерархической компенсации.

Ну а это, в свою очередь, может стать поворотным моментом в упрощении понимания поведения физических, биологических и социальных систем не только на основе характеристик их составных частей, но и с учетом структуры их взаимодействий.

Возможно также, что этот формализм позволит, говоря словами А.П. Назаретяна (работавшего вместе с Е.А. Седовым над изучением вопросов в контексте закона иерархической компенсации) — «выявить соотношение разнообразностных характеристик в системах любого рода — от космофизических до когнитивных — и механизм изменения этого соотношения в процессе эволюции» (подробней см. в книге А.П. Назаретяна “Нелинейное будущее”).

Если же принять во внимание, что «закон Седова» также является одним из предопределяющих факторов фазовых переходов в процессе общей сингулярности эволюции, то его полная формализация в виде обратного 2го закона термодинамики может оказаться весьма полезной для перехода от качественных к количественным оценкам.

В зону сингулярности (1я половина или 2/3 21 века) человечество уже вошло. А поскольку, как считает А.Д. Панов,

“зона сингулярности — это практически концентрация кризисов, и мы будем ощущать это время сингулярности как кризисы, которые происходят один за другим, т. е. человечество будет жить на постингулярной стадии, и для каждого кризиса должны быть разработаны компенсационные механизмы”.

Важную роль в разработке таких компенсационных механизмов, на мой взгляд, мог бы сыграть формализм обратного 2го закона термодинамики — возможно, одного из важнейших “упрощений”, необходимых человечеству для понимания бесконечной сложности окружающего нас мира.

________________________________

Если вам понравился этот пост — не забудьте:

- нажать “палец вверх”;

- подписаться на обновления канала на платформе Medium;

- оставить комментарий.

Еще больше материалов на моем Телеграм канале «Малоизвестное интересное». Подпишитесь

Оригинал и комментарии

Задач в продлении жизни океан, и всех их надо решать.

Можно брать любую отдельно и заниматься. Финансировать, организовывать, прямо самому работать над исполнением. Перечислю большие направления, которые сами состоят из подзадач. Естественно, это не исчерпывающий список, особенно, если речь идёт о науке.

1. Внедрение диагностики старения
2. Систематизация маркёров и построение моделей старения
3. Улучшение диагностики старения, организация круглых столов, конференций
4. Клинические исследования (КИ) различных диагностических подходов старения
5. Создание тераностики старения
6. Клинические исследования тераностики
7. Создание глобальной базы знаний по старению и долголетию
8. Создание математической модели старения организма
9. Труды и публикации по эволюционно-сравнительной биологии старения
10. Приложения по сбору и анализу медицинских данных
11. Приложения по рекомендациям в области долголетия
12. Приложения для участия в КИ терапий старения
13. Приложения по мотивации к долголетию
14. Учебник по биологии старения
15. Цикл лекций, полный курс, по биологии старения на Youtube
16. Все исследования, поддержанные SENS
17. Все исследования института БАКа
18. Все исследования, поддержанные Майклом Гривом
19. Все исследования, поддержанные Международным Альянсом Долголетия
20. Все исследования группы Бельмонта
21. Все исследования Хорварта
22. Все исследования Гарвардской медицинской школы в отношении старения
23. Все исследования Майо Клиник в отношении старения
24. Все исследования Девида Чёрча
25. Исследования межклеточного матрикса
26. Исследования имуносенесцентности
27. Генетические сети старения и долголетия
28. Доставка генетического материала
29. Терапевтическое клонирование
30. Все исследования в сравнительной биологии старения
31. Эпигенетический откат
32. Пептидная регуляция
33. Нейрогенез и нейровоспаление
34. Применение стволовых клеток
35. Омоложение ниши стволовой клетки
36. Организация клинических исследований по инициативе пациентов
37. Разработка и внедрение диеты долголетия
38. Клинические исследования комплексных терапий Open Longevity
39. Селекция микробиоты на продление жизни хозяину
40. Ряд статей о взаимосвязи старения и рака
41. Систематические обзоры о борьбе со старением
42. Иммунотерапия
43. РНК-терапия
44. Метаболические карты патологий
45. Исследования митохондрий, в частности, пересадка митохондрий
46. Создание школ долголетия
47. Клиника долголетия
48. Турнир по биохакингу
49. Новости продления жизни. Youtube канал
50. Лоббирование государственных программ;
51. Редактирование Википедии и написание статей на темы продления жизни;
52. Создание территории долголетия
53. Моделирование деятельности мозга
54. Карта всех клеток организма
55. Модель метаболизма человека
56. Конференции по специализированным темам
57. Убеждение влиятельных людей действовать в пользу продления жизни
58. Фандрайзинговые вечеринки
59. Краудфандинг в пользу научных проектов
60. Премия за вклад в продление жизни людей
61. Центр коллективного пользования для исследовательских инициатив в продлении жизни
62. Акселератор проектов в долголетии
63. Строительство и содержание вивариев
64. Обучение студентов и аспирантов биологии старения
65. Шоу долголетия
66. Создание сайтов по всем темам, связанных с продлением жизни
67. Исследование мотивации к продлению жизни
68. Карта задач для волонтёров
69. Трансгуманистическая атрибутика
70. Книга «Бессмертие»
71. Лекции о продлении жизни
72. Потребительское общество для покупок товаров и услуг в области продления жизни, красоты и здоровья
73. Кооператив по реализации услуг в области продления жизни
74. Написание программ, подзаконных актов и законов в пользу продления жизни
75. Ветеринарная клиника долголетия домашних питомцев
76. Сертификация товаров и услуг на предмет влияния на продолжительность жизни.
77. Написание стратегий по продлению жизни
78. Написание инструкций для желающих действовать
79. Документальный сериал «Экспедиция долголетия»
80. Ресурс о наиболее вероятных методах продления жизни
81. Аналитика: люди, компании, проекты
82. Все гаджеты и приложения для продления жизни
83. Клубы для желающих продлить жизнь
84. Сайт, сравнивающий диеты, БАДы, терапии и лекарства для продления жизни. Аттестация клиник, курортов, технологий. Критика ложных обещаний продления жизни
85. Мониторинг клинических исследований терапий старения
86. Можно было бы и телеканал создать
87. Разработка и внедрение стандартов анти-эйджинговой медицины
88. Организация слушаний, работы комиссий и комитетов, взаимодействие с правительственными учреждениями
89. Выпуск газеты «Долголетие» для пенсионеров
90. Клуб “Кардио-спорт”
91. Развитие фитнеса для продления жизни. Специальные клубы
92. Создание позитивной картины будущего. Художественное произведение
93. Философия трансгуманизм. Цикл статей, лекций, книг
94. Иллюстрации для всего: книг, мероприятий, презентаций, публикаций, создание мемов
95. Исследования сна
96. Сайт про то, как улучшить сон
97. Постоянные собрания людей в пользу продления жизни;
98. Батлы и диспуты о продлении жизни;
99. Интервью с учёными;
100. Создание НКО различных направленностей
101. Покупка акций компаний, работающих над продлением жизни. Создание биржевого Лонжевити-индекса
102. Клонирование человека
103. Книга и исследование «Психология продления жизни»
104. Книга «Молекулярные механизмы красоты»
105. Нечто в современном искусстве в пользу продления жизни
106. Ответы на критику идеи продления жизни
107. Социальная сеть в пользу долголетия
108. Медийная раскрутка лидеров долголетия
109. Поддержка политиков, выступающих за продление жизни
110. Развитие крионики и криобиологии
111. Футболки с рекламой продления жизни
112. Разработка программы продления жизни жителей города
113. Создание алгоритма взаимного коучинга по продлению жизни
114. Управление волонтерами
115. Сайты по продаже всего, что связано с продлением жизни
116. Книга «Лучшие эксперименты по продлению жизни»
117. Кафе с научно обоснованным питанием для долголетия
118. Скрининг комбинаций геропротекторов на мышах
119. Панель биомаркеров старения приматов
120. Медицинский искусственный интеллект — стратегия развития
121. Блог на тему радикального продления жизни
122. Лайф-маркет продления жизни. Фестиваль
123. Из перечисленных пунктов сделать сайт и наполнить ссылками и отчетами, что уже делается по теме
124. Сайт “Как принять участие в КИ терапии старения?”
125. Переводы с русского на английский и наоборот
126. Переводы на другие языки текстов о продлении жизни

Список проектов в продлении жизни was originally published in Open Longevity RUS on Medium, where people are continuing the conversation by highlighting and responding to this story.

Оригинал и комментарии

Как держать любое количество фактов в долговременной памяти — ВЕЧНО!

Универсальная методика запоминания навсегда

С удовольствием рекомендую новый кейс для эффективного самообучения.

Каждый знает: повторенье — мать учения.

Один из миллиона знает, как правильно организовать эффективный процесс повторения, т.к. он освоил теорию и практику науки «интервальных повторений» (для информации: этому долго и серьезно учат, причем, большинство из учебных курсов — просто шарлатаны).

Один из 7 миллиардов, наконец, придумал новый метод изучения и освоения науки «интервальных повторений» с помощью его же собственной методики визуально-игровых «исследуемых объяснений» и игры в карты по 20 мин. в день.

Главная хитрость этой методики такова.

✔️ Для того чтобы запомнить… нужно почти забыть.

Это как при тренировке мышц: ты ничего не получишь с весом, который слишком лёгок…, как и с тем, что слишком тяжёл.

Кажется просто. На деле же — совсем не так.

Зовут придумавшего этот визуально-игровой метод — Ники Кейс (Nicky Case).

А вот и сам курс на русском (кому надо, есть и другие языки).

И вы сильно ошибетесь, если хотя бы не попробуете научить своих детей, да и сами научиться держать любое количество фактов в долговременной памяти — ВЕЧНО!

Наводку на другие кейсы Ники Кейса для эффективного самообучения см. в постах моего канала по тэгу #ExplorableExplanations

________________________________

Если вам понравился этот пост — не забудьте:

- нажать “палец вверх”;

- подписаться на обновления канала на платформе Medium;

- оставить комментарий.

Еще больше материалов на моем Телеграм канале «Малоизвестное интересное». Подпишитесь

Оригинал и комментарии

Из неё следует, что стартапам нужны лисы, а не ежи!

Анализ больших данных о сложных сетевых системах приносит фантастические прорывные результаты во всё новых и новых областях.

Например, нынче почти все убеждены, что генетический код — лучший предиктор показателей здоровья. А на деле, наблюдаемый при тотальной урбанизации рост плотности, разнообразия, эпидемической связанности и неравенства населения привел к тому, что сегодня почтовые индексы людей являются лучшим показателем здоровья, чем их генетический код (см. рис.)

Еще пример совсем из другой области — как проводить оптимальные географические границы регионов. Оказывается, лучшим предиктором оптимального расположения границ является функциональная сеть транспортных потоков по пригородным маршрутам. (см. рис.)

А что, если проанализировать на национальном уровне большие данные о развитии всех предприятий страны за 10 лет в увязке с показателями человеческого капитала персонала каждой из компаний.

Это и было сделано в капитальном бразильском исследовании, сенсационные данные которого только что опубликованы.

Новый подход к оценке человеческого капитала

Авторы исследования «The role of industry-specific, occupation-specific, and location-specific knowledge in the growth and survival of new firms» пошли новым путем.

В течение уже нескольких десятилетий человеческий капитал признается в качестве важного фактора экономического роста. Но человеческий капитал работника — это результат далеко не только его формального обучения. Работники приобретают важные навыки, знания и контакты в ходе своей работы. 40-летний работник имеет куда больше знаний и опыта от работы, нежели чем от полученного им обучения. Этот опыт работы, характерный для отрасли, местоположения и рода занятий, должен влиять на рост и выживаемость компании, на которую он работает. И это справедливо для всех сотрудников компании, каждый их которых обладает уникальным опытом и знаниями.

Специфика этого знания сподвигла авторов исследования думать о человеческом капитале не только с точки зрения их интенсивности, но и с точки зрения их взаимосвязанности. Работники не просто осведомлены или квалифицированы, но обладают знаниями, связанными с конкретными видами деятельности, включая даже новые виды деятельности, которые никогда ранее не присутствовали в городе или стране.

Авторы исследования решили проверить, какой тип связанных знаний является более важным компонентом успеха новых фирм, которые ведут к развитию новых отраслей.

N.B. Хотя я использую в этом тексте термин стартапы (совсем молодые компании, финансируемые венчурными инвестициями), авторы в своем исследовании копают шире, имея в виду все виды компаний, возрастом до 8 лет.

Авторы при оценке знаний, как основного элементов человеческого капитала,

• используют их двухмерное представление: отраслевые и профессиональные знания;
• и рассматривают знания в виде динамической сети, отражающей взаимосвязь знаний между прошлой и настоящей деятельностью.

Звучит, наверное, сложно. Но вот простой поясняющий пример.

Представьте себе сейла — продавца. Продавцы необходимы для роста и выживания любой фирмы и обладают знаниями как по профессии, так и по отрасли.

Знания продавца по профессии включают в себя знания о том, как общаться с клиентами, развивать отношения и заключать сделки. Это навыки, которые могут быть легко переданы от одной фирмы к другой (с переходом продавца на работу из одной фирмы в другую).

Однако, отраслевые знания, необходимые продавцу, сильно зависят от продаваемого продукта или услуги. Продавец, имеющий опыт в продаже одежды, может плохо справляться с продажей корпоративного программного обеспечения не потому, что он не может установить отношения с клиентом, а потому, что ему может не хватать знаний, необходимых для понимания потребностей клиентов в программном обеспечении и технических возможностей команды клиента. Не говоря уж о том, что продавец может просто плохо понимать, что он продает и зачем.

Учитывая же колоссальное технологическое усложнение бизнеса, огромные различия отраслевых знаний появляются даже там, где еще лет 10 назад даже таких отраслевых сегментов не было.

Например, 10 лет назад продавец ПО был почти универсалом. Теперь же отраслевые знания продавца ПО для обновления запасов и ПО для индустриального интернета вещей пересекаются лишь чуть-чуть.

Вот как выглядит схема сетевой классификации отраслевых и профессиональных знаний, использованная в исследовании.

А так распределялись стартапы (фирмы-пионеры) и прочие фирмы по их чилу, годам открытия, численности персонала и регионам Бразилии.

Ключевой вывод исследования

Для стартапов отраслевые знания сотрудников являются куда более важным предиктором выживания и роста бизнеса, чем профессиональные знания.

Выживание стартапов значительно возрастает, когда в них нанимаются люди с отраслевыми знаниями (industry-specific knowledge) и опытом в этой области, а не со специальными знаниями (occupation-specific knowledge).

Очень важно, что исследование также показало, что со временем всё меняется на 180 градусов.
Для «нестартапов» (фирм, существующих 10+ лет) знания по специальностям играют относительно более важную роль, чем отраслевые знания.

Авторы исследования анализируют несколько гипотез, почему для стартапов важнее именно отраслевые знания и опыт сотрудников:

• от версии, что отраслевые знания приобретаются дольше, и, следовательно, изначальный интегральный человеческий капитал такого персонала выше;
• до версии, что первые наемные работники стартапов часто становятся управленцами, для которых отраслевые знания могут быть более важными, чем профессиональные.

Есть и иные объяснения, о которых желающие прочтут сами.

Мне же остается еще раз констатировать факт.

✔️ Человеческий капитал компании — это сложная система.

✔️ Проведенный анализ больших данных выявил четкие паттерны успешности стартапов в зависимости от состава их персонала первых лет существования.

✔️ Важнейшим фактором успеха является доминирование среди персонала людей с отраслевыми знаниями и опытом, а вовсе не наличие продвинутых профессионалов узкого профиля.

Короче, стартапам, условно говоря, нужны лисы, а не ежи!
(ведь «лиса знает много отраслевых секретов, а еж — только один, хоть и самый главный — профессиональный секрет своей деятельности» 😃)

________________________________

Если вам понравился этот пост — не забудьте:

- нажать “палец вверх”;

- подписаться на обновления канала на платформе Medium;

- оставить комментарий.

Еще больше материалов на моем Телеграм канале «Малоизвестное интересное». Подпишитесь

Оригинал и комментарии

Если что и брать с собой почитать в длинные НГ каникулы, так что-то из этих книг (благо есть номинации на любой вкус)

Рекомендации канала «Малоизвестное интересное», с полным осознанием ответственности, делегированы

самой, имхо, интеллектуальной и беспристрастной мировой премии нонфикшн книг Non-Obvious Book Awards.

Победителями этой премии в 2018 стали:

1. Самая интересная деловая книга года —
   «Формула» Альберта-Ласло Барабаши.

Что если настоящий секрет знаменитости Эйнштейна был в том, что он оказался в нужном месте в нужное время? Почему только лидеры получают все лавры за коллективные достижения? Почему известные художники остаются известными, независимо от того, насколько хороши их работы? Первая в мире книга, посвященная науке об успехе.

подробней

2. Самая актуальная книга года —
«Бесполезные работы» Дэвида Гребера.

Вследствие ИИ автоматизации, у всё большего количества людей работа становится бессмысленной. Есть ли какая-то польза от однообразной рутины? Диагноз и эпидемиология вопроса.

подробней

3. Самая полезная книга года — 
«Фактологичность» Ганса Рослинга.

Десять причин, по которым мы ошибаемся насчет мира и почему все лучше, чем кажется» — о стереотипах мировоззрения, не имеющих ничего общего с реальность, и причинах, искажающих восприятие.

подробней

4. Самая оригинальная книга года — 
«Победители забирают всё» Ананд Гиридхарадас

О том, что «всё могут богачи» и что истинная власть в развитых странах находится в руках финансовых титанов, которых править согражданами никто не выбирал.

подробней

5. Самая разшариваемая книга года — 
«Бунтарский талант» Франчески Джино.

Нарушение правил игры сотрудниками помогает усилить позиции компании на рынке. Перед тем, как увольнять, изучите другие варианты. Почему принимать на работу сотрудников-бунтарей — один из эффективных способов для развития бизнеса.

подробней

Но это еще не всё!

Это — шорт лист из 15 книг

А здесь все списки с гиперссылками:

• 5 лучших книг,
• 15 книг шорт-листа,
• 35 книг лонг-листа, включая отличнейшие книги, которые я уже рекомендовал:

— от «21 урок для XXI века» Харари

— до «Сверхдержавы ИИ: Китай, Силиконовая долина и новый мировой порядок» Кай-Фу Ли

И поверьте, лучшей подборки из 35 книг для чтения в течение всего 2019, — не найдете! 👍

________________________________

Если вам понравился этот пост — не забудьте:

- нажать “палец вверх”;

- подписаться на обновления канала на платформе Medium;

- оставить комментарий.

Еще больше материалов на моем Телеграм канале «Малоизвестное интересное». Подпишитесь

Оригинал и комментарии

Открыта формула коллективной памяти. Мы забывает всё в соответствии с универсальным законом

Рассказ из загробного мира

В увлекательной коллекции притч «Итог: сорок рассказов из загробного мира» нейробиолога Дэвида Иглмана описывается мир, в котором человек окончательно умирает лишь тогда, когда его совсем забудут. После физической смерти человек покидает Землю и попадает в что-то типа огромного зала, покинуть который будет можно лишь после того, как имя человека будет произнесено на Земле в последний раз.

«Это похоже на бесконечную зону ожидания аэропорта», — пишет Иглман. «Но состав людей в зале — просто потрясающий».

Оно и понятно. Ведь большинство людей относительно быстро покидают «зону ожидания», как только туда прибывают их самые близкие (супруги и дети) — те немногие, кто вспоминал о них на Земле.

Но по-настоящему знаменитым приходится тусоваться в «зоне ожидания» веками. Некоторые, замучившись бесконечно пребывать в «зоне ожидания», молят богов о разрушении на Земле их последних памятников …

Рассказ Иглмана — метафора того, что психологи и социологи называют коллективной памятью. Это наиважнейший фактор формирования идентичности и мировоззрения, влияющий на все структуры и приоритеты общества.

Модель коллективной памяти

На прошлой неделе в журнале Nature Human Behavior была опубликована статья об удивительном открытии, связанном с коллективной памятью.

Характер ее распада (затирания) следует универсальному математическому закону, описываемому биэкспоненциальной моделью.

Команда исследователей проанализировала S (t) — показатель коллективной памяти (как часто воспоминают о ком-либо или о чем-либо) — пяти различных видов культурных объектов: музыка, фильмы, биографии спортсменов, патенты и научные статьи (конечно же это исследование стало возможным лишь в эпоху Интернета, где «все ходы записаны»).

Авторы утверждают, что для любых культурных объектов разрушение коллективной памяти происходит по биэкспоненциальной кривой — т.е. по 2ум экспоненциальным фазам.

Это связано с наличием двух видов памяти, одна из которых разрушается гораздо быстрее другой.

• Первый тип памяти называется коммуникативная память. Это память, подпитываемая нашим общением с другими в ходе различных видов социальных взаимодействий. Каждое упоминание культурного объекта (знаменитости, музыкального клипа, книги …) в разговоре, равно как и лайканье или ретвит его в соцсети, подпитывают нашу коммуникативную память об этом объекте.
• Культурная память, является вторым анализируемым типом памяти. Это то, что вы найдете об объекте культуры в Википедии, Ютубе, фонотеке или любом ином медиа-архиве (цифровом или традиционном). Поскольку этот тип памяти выходит за рамки взаимодействия между людьми, она сохраняется намного дольше. Но и она не вечна. Поэтому человечество постоянно теряет память и этого типа: музеи грабят, библиотеки горят и т.д.

Но самое неприятное в наше время «неуничтожаемой информации» — это ограниченное внимание человека к длине поисковой выдачи.

Поскольку того, что не попало хотя бы в первые десять страниц поисковой выдачи — считайте, что в культурной памяти уже нет.

Теперь поясним, как устроена новая модель коллективной памяти.

• На рис. А красная кривая показывает биэкспоненциальную функцию, прогнозирующую поведение модели в логарифмическом масштабе. Фиолетовая и синяя кривые показывают два экспоненциальных показателя коммуникативной и культурной памяти.
  Поясняющая вставка (справа)иллюстрирует основную механику модели. В любой момент времени (t) коллективная память — это сумма коммуникативной памяти (u) и культурной памяти (v).
  Каждый из 2х видов памяти характеризуется собственной скоростью распада: (p) для коммуникативной и (q) для культурной памяти.
  Показатель (r) определяет скорость перетекания информации из коммуникативной в культурную память (эта скорость для разных типов культурных объектов сильно разная).
• На рис. B показано поведение биэкспоненциальной модели при различных параметрах p, q, и r, демонстрирующее широкий диапазон шаблонов затирания коллективной памяти.
• На рис. С показано сравнение биэкспоненциальной модели (красная линия) с экспоненциальной и логнормальной моделями в логарифмическом масштабе (биэкспоненциальная модель существенно точнее).

Итак, коллективная память разрушается двумя фазами.
На 1й фазе она разрушается очень быстро, а на 2й фазе значительно медленнее.

Исследователи объясняют это так. На 1й фазе крутого спада преобладает процесс коммуникативной памяти — идет прямая передача информации «из уст в уста». На 2й, более длительной фазе бОльшую роль играет культурная память, которая поддерживается физической записью информации об объекте.

Модель, конечно же не абсолютно точно описывает всех и всё. У каждого из нас будет непредсказуемый срок пребывания в «зоне ожидания» Иглмана — ведь там на Земле всякое может случиться, и нас неожиданно могут снова вспомнить даже через 100 лет (наткнутся, например, на какое-то чудом сбывшееся предсказание в архиве канала «Малоизвестное интересное» и пожалуйста бриться — сиди еще пяток лет в «зоне ожидания»).

Но кабы то ни было, открытие формулы коллективной памяти — это большой прорыв, имеющий огромное значение. Ведь и раньше было понятно, что коллективной памятью можно управлять.

Но теперь можно все оценивать количественно (считать по формуле), а для мнемо-технологов можно даже конкретные KPI выставлять и проверять результаты мнемо-пропаганды.

Кроме того, это открытие — замечательный пример того, как миллионы случайных событий, складываясь в масштабы больших данных, позволяют выявлять основную закономерность.

Немного лирики

Забавно. Но авторы исследования считают, что двухфазность (биэкспоненциальность) функции затирания коллективной памяти открыта не ими, а чилийским поэтом Пабло Неруда, написавшим:

«Столь коротка любовь и столь длинно забвение».

Так ли это, — судить не берусь. Но зато можно с уверенностью сказать, что открытие формулы коллективной памяти, с легкой руки его авторов (среди которых, конечно же, и Альберт Ласло Барабаши) теперь заставит Пабло Неруда еще долго торчать в «зоне ожидания» Иглмана, куда, скорее всего, навсегда, со временем прибудет и сам Барабаши.

Возвращаясь к заголовку поста — так сколько же нас будут помнить после смерти?

Исследование показало, что дольше всего в нашей коммуникативной памяти остаются биографии (в среднем на 20–30 лет), а самое быстрое затирание происходит с музыкой — затирается через 5–6 лет.

Хитрость здесь вот в чем — т.н. «критическое время». Это время, по истечение которого коммуникативная память из доминирующего (наибольшего) элемента коллективной памяти превращается во вторичный (наименьший) элемент. Ну а культурная память– наоборот, становится доминирующим элементом коллективной памяти.

Формула критического времени такова.

И как видно из приведенных ниже графиков, критическое время для музыки, фильмов и статей (5–10 лет) в разы меньше, чем для биографий (15–30 лет).

Это означает, что

для биографий время, в течение которого доминирует коммуникативная память, длится в разы дольше, чем время доминирования культурной памяти.

И поэтому, если вы не признанная знаменитость, не возлагайте больших надежд, что написанное вами и о вас в Инете (СМИ, блогах, соцсетях) надолго сохранит память о вас. Новая модель коллективной памяти показывает, что это не так для биографий (в том числе, и для биографий каждого из нас).

Только коммуникативная память наших друзей и близких, их детей и их друзей, — оставляет нам шанс пребывания в зале ожидания Иглмана несколько десятков лет .

А все написанное нами и о нас, даже самое важное и популярное сегодня, за 5–10 лет передвинется на 30ю или 155ю или 1001ю страницу поисковой выдачи … Иными словами, — затрется в коллективной памяти.

Поэтому, бросайте тратить время на тщетные попытки зафиксировать себя в коллективной культурной памяти. Общение с родными и друзьями оставит куда более прочный след в коллективной коммуникативной памяти.

И помните — «Столь коротка любовь и столь длинно забвение».

Дополнительные материалы

• 4х минутный видео-рассказ о результатах открытия формулы коллективной памяти.
• Постер-резюме исследования
• Открытая ссылка сквозь пейвол на итоговую статью о результатах исследования

________________________________

Если вам понравился этот пост — не забудьте:

- нажать “палец вверх”;

- подписаться на обновления канала на платформе Medium;

- оставить комментарий.

Еще больше материалов на моем Телеграм канале «Малоизвестное интересное». Подпишитесь

Оригинал и комментарии

и самые многообещающие тренды 2019

Это технический обзор с точки зрения практиков. И потому его написал специалист именно такого профиля — Пранав Дар из Analytics Vidhya (кто не слышал, рекомендую).

Почему в итогах 2018 говорится именно о ИИ & МО (машинное обучение), — долго объяснять не надо.

С т.з. инвестиций (на входе) и практики конкретных приложений (на выходе), сектор ИИ & МО составляет 90% всех передовых ИТ разработок.

Если сократить текст обзора итогов года до 1 слова, то получится –

• Impactful (во всем спектре переводов: от имеющий ударную силу до яркий, впечатляющий, плодотворный и показательный).

Обзор итогов проведен по 5 ключевым направлениям:

1) Обработка естественного языка

Главный итог: повсеместный переход на предварительно обученные модели (больше не надейтесь получить приличный перевод, предварительно не поучив переводчик на нужных вам текстах… Зато если поучите — получите вполне приличные переводы)

2) Компьютерное зрение

Главный итог: самостоятельное обучение (не тратя время на маркировку изображений вручную) выходит в мейнстрим.

3) Инструменты и библиотеки

Главный итог: начало преодоления разрыва между моделированием черного ящика и производством моделей с помощью machine learning interpretability (MLI)

4) Обучение с подкреплением

Главный итог: наконец-то, от академических задач (типа шахмат и Го) начинается переход к практическим задачам (поиск лекарств, оптимизация архитектуры электронных чипов, маршрутизация транспортных средств и пакетов и т. д.)

5) ИИ для добра — движение к этическому ИИ

Главный итог: государства всё больше влезают в эту сферу, и 2019 станет в данном тренде показательным, если не переломным.

Кто хотел бы рассмотреть итоги в режиме расширенного резюме (примерно на 5–10 мин. чтения) — вам сюда

________________________________

Если вам понравился этот пост — не забудьте:

- нажать “палец вверх”;

- подписаться на обновления канала на платформе Medium;

- оставить комментарий.

Еще больше материалов на моем Телеграм канале«Малоизвестное интересное». Подпишитесь

Оригинал и комментарии

Возможно, ИИ и блокчейн смогут в следующем десятилетии больше изменить нашу жизнь. Но по итогам 1го двадцатилетия, именно уберизация — это №1 среди трансформационных техно-бизнес-трендов, в немалой мере влияющий также и на социально-культурные аспекты жизни.

И дело даже не во все расширяющейся отраслевой экспансии (уберизация экономики, логистики, грузоперевозок, юридических услуг, образования …), а в том, что это новый класс бизнеса, в основе которого идеальный двусторонний рынок, со своими законами, механизмами и процессами. Именно он — уберынок, возможно, станет со временем не только основой бизнеса в цифровой экономике, но и экосистемой социальных платформ коллективного социального взаимодействия в цифровом обществе.

Уберынок кажется совсем не сложным для понимания. Но это обманчивая простота. Честно говоря, никто еще до конца не понимает, как он работает и куда уберизация приведет даже в, казалось бы, вполне понятной индустрии транспорта.

Например, есть мнение, что уберынок убьет не только индустрии такси и проката машин, но и весь мульти-триллионный рынок личного транспорта. Причем, не только существующий авторынок, но и еще только нарождающийся рынок персональных беспилотных авто и даже рынок частного авиатранспорта.

Другой пример — мечта Питера Тиля о летающих автомобилях, которые, по его мнению, давно пора было превратить в основной транспорт человечества, тогда как люди, вместо этого, вкладывают деньги в развитие всяких малополезных затей, типа социальных сетей.

Не секрет, что компания Uber,

• получая сейчас основную прибыль от доставки еды (а вовсе не от сервиса такси, Карл)
• свой будущий убер-бизнес видит кардинально иным, — вкладывая миллиарды долларов в разработку летающих авто и являясь сегодня лидером этого направления.

Понять специфику и ключевые отличия убер-бизнеса:

- его моделей (коих уже немала, а будет еще больше),

- организации процессов (кои уникальны и создаются с нуля),

- особенностей конкуренции (которая в России и Китае — совсем иная, чем в США)

- бизнес-метрик (среди которых рулит отрицательный отток пользователей), -

вы теперь можете, прочтя толково и понятно написанный отчет Cbinsights о родоначальнике уберизации — компании Uber — How Uber Makes Money.

Этот отчет позволяет разобраться со всем вышеперечисленным всего за минут 15–20, тогда как чтение подобных материалов инвестбанков (даже если у вас есть к ним бесплатный доступ) займет на порядок больше времени, при соизмеримых результатах.

Если же пожелаете кайфануть, заглянув в недалекое будущее летающих авто, посмотрите:

• 4х мин. ролик об интегрированной земно-воздушной системе транспорта по требованию
• программу планируемого к запуску до 2023 г. сервиса UberAir
• результаты недавно прошедшего саммита о прилетающих по требованию флаингкарах
• ну и конечно же отчет How Uber Makes Money

________________________________

Если вам понравился этот пост — не забудьте:

- нажать “палец вверх”;

- подписаться на обновления канала на платформе Medium;

- оставить комментарий.

Еще больше материалов на моем Телеграм канале «Малоизвестное интересное». Подпишитесь

Оригинал и комментарии

Оригинал и комментарии

Предновогодний сюрприз — Microsoft раскрывает секрет самого умного ИИ мира

Секрет в том, что реальный ИИ — это гибридный ИИ

Система Microsoft XiaoIce — это самый популярный в мире социальный чат. Его уникальность в том, что он выполняет роль интеллектуального собеседника с эмоциональной связью, тем самым удовлетворяя потребность людей в общении, привязанности и социальной принадлежности.

Стандартный тест Тьюринга, как вы помните, в том, чтобы было трудно (или даже невозможно) отличить при общении с кем говоришь: с человеком или машиной.

Microsoft пошел дальше на основе расширенного теста Тьюринга — чтобы с машиной людям хотелось говорить больше, чем с другими людьми.

При проектировании XiaoIce принимался во внимание как интеллектуальный коэффициент (IQ), так и эмоциональный коэффициент (EQ), а также формируемые черты характера. Т.е. формула XiaoIce = IQ + EQ + Personality.

В результате социальный чат человек-машина:

1. превратился в систему иерархического принятия решений, математически описываемых марковским процессам — Markov Decision Processes;
2. оптимизирует долгосрочное вовлечение людей в общение (измеряемое в ожидаемом количестве обращений за сеанс — CPS — сколько раз человек захочет продолжить разговор с машиной после её ответа).

Одна из главных фишек XiaoIce — модуль эмпатических вычислений.

Microsoft впервые раскрыл секрет, как XiaoIce динамически распознает человеческие чувства и состояния, понимает намерения человека и реагирует на динамику его потребностей в ходе долгих разговоров.

С момента выпуска в 2014 году система XiaoIce общалась уже с более чем 660 миллионами людей и преуспела в установлении долгосрочных отношений со многими из них. Средний CPS XiaoIce, равен 23, что значительно выше, чем у других чат-ботов и даже человеческих разговоров.

Проверьте это на себе — сколько раз вы в среднем возвращаетесь к разговору с френдом в социальной сети (комментируете сказанное им или снова высказываетесь сами)?
Боюсь, что среднего показателя в 23 раза добьются единицы из нас!

Что значит XiaoIce уже превзошел среднего человека в искусстве общения. Общаться с ним людям более интересно, чем с другими людьми.

Это реальная сенсация. Поскольку практически означает, что в ближайшие год-два ИИ превзойдет ВСЕХ людей по привлекательности общения (включая супругов и любовников, а также родителей и детей)

А это для миллиардов пользователей сети будет куда круче и практически нужнее, чем абсолютное превосходство в шахматах и Го.

Как устроен этот гибридный ИИ, вы можете теперь узнать из только что опубликованной статьи Microsoft.

А как выглядит его высокоуровневая архитектура, показано на рисунке.

Хороший новогодний подарок для тех, кто понимает 😃 👍

________________________________

Если вам понравился этот пост — не забудьте:

- нажать “палец вверх”;

- подписаться на обновления канала на платформе Medium;

- оставить комментарий.

Еще больше материалов на моем Телеграм канале «Малоизвестное интересное». Подпишитесь

Оригинал и комментарии

Онлайн курс — первый опыт

Заметки на Медиум для меня — особая форма рефлексии прожитого опыта. Почти полгода у меня был период накопления опыта по созданию и проведению онлайн курса. Сразу по ходу его рефлексировать не получилось ввиду неоднозначности. Попробую собрать в этой заметке основные открытия и вопросы.

От замысла к действиям

Идея упаковать опыт компании Смыслотека в формат курса у нас в команде обсуждается давно. И нам более-менее понятно содержание такого курса. Но было большое сомнение относительно позиционирования — правда ли кому-то может быть интересно учиться этому?

Ведь если это частник, который хочет стать универсальным солдатом на поле “упаковки смыслов”, то ему нужно освоить много разноплановых компетенций — продажи, снятие запроса, разработка коммуникационного решения, работа с текстом, работа со звуком, визуализация, сопровождение проекта. В общем, мы подумали, что это слишком сложно, курс может получиться большой, дорогой, а желающих бесконечно мало.

Если упаковывать франшизу и запускать команды в больших городах, то ключевую уязвимость увидели в продажах. Продукт “упаковка смыслов” — новый и пока не очень понятный для функционеров в корпорациях (а именно они являются заказчиками). Мы продаём через выступления на конференциях, а это дорого (в год тратим больше миллиона) — новичкам будет не по карману.

Третья категория — корпорации, которые начали ощущать пробуксовки во время трансформации. Пробуксовки неизбежны, ведь вызваны инерцией мышления. И чем быстрее происходят изменения, тем больше пробуксовок. Мы периодически забрасываем идею создания “департамента ясности” в котором будут работать специалисты упаковки смыслов. Но видимо, пока не припекло…

В итоге, решили описать компетенцию “концептолога” и увидели, что эта компетенция на 90% совпадает со списком компетенций XXI века, которые были названы на Давосском форуме:

1. Взаимодействие и сотрудничество с другими людьми (+)
2. Мышление и решение проблем (+)
3. Обучаемость и открытость новому (+)
4. Инновационность и креативность (+)
5. Цифровые знания и навыки
6. Осознанность и управление собой (+)
7. Междисциплинарное и межкультурное взаимодействие (+)
8. Управление людьми, проектами, процессами, ресурсами (+)
9. Этическая и социальная ответственность (+)
10. Ориентация на достижение результата (+)

Это позволило надеяться, что данная компетенция может оказаться более широко востребована, чем нам казалось изначально. Но как это проверить? Я пишу заметку и публикую её в ФБ с приглашением записываться в список ожидания и тут — о чудо, меньше чем за неделю без всякой рекламы набирается 60 желающих. Это знак!

Разработка и проектирование курса

Одно дело — описать компетенцию, другое — понять как её декомпозировать на учебные модули. Потребовалось целое лето на то, чтобы придумать структуру курса. В зависимости от того, что положить в основание, получаются разные модели.

Например, если о основании мышление, то структурирование выстраивается вокруг процесса решения задач:

• Восприятие — правильное использование мышления, осознанное управление вниманием, работа с когнитивными искажениями.
• Осмысление — процесс придания смысла через построение рабочей модели.
• Проблематизация — выявление противоречий в рабочей модели.
• Переосмысление — такая пересборка рабочей модели, в которой выявленные противоречия уходят.

На уровне проблематизации и переосмысления происходит целеполагание и генерация идей.

• Кодировка — способность поделиться своим видением с окружающими, создав короткое, ёмкое и ясное сообщение.

Другим основанием может быть выбрано управление изменениями. В этом случае отталкиваемся от рабочей модели “эффект бабочки”.

Левое крылышко бабочки отвечает за понимание ситуации и разработку решений:

• СВ (стратегическое видение) — способность целостного многофокусного видения ситуации, построение карты противоречий.
• БЗ (бизнес задача) — один из вариантов трансформации ситуации, включающий план изменений для разных акторов.
• КЗ (коммуникационная задача) — понимание ментальных барьеров, блокирующих реализацию изменений для каждого актора.
• КР (коммуникационное решение) — понимание того, как проблематизировать картину мира акторов и что должно в ней появиться нового.

Правое крылышко отвечает за упаковку сообщения:

• КК (концепция и композиция сообщения) — зерна смысла, которые должны остаться в сухом остатке и логика разворачивания сообщения.
• ТС (текст сообщения) — на скелетик сообщения навешиваем слова.
• В (визуализация) — помогаем аудитории интерпретировать информацию и собирать крупные смысловые конструкции.
• ТК (точки контакта) — мало разработать сообщение, его нужно ещё и удачно разместить, чтобы инициировать процесс изменений.

Пока я не определился, какая из моделей более адекватна запросам аудитории. Напишите в комментариях, какая вам лучше отзывается.

Первый поток

Первая сборка курса была сделана по модели “кто ясно смыслит, тот ясно излагает”. Основной фокус курса оказался на процессе мышления. Я исхожу из того, что наличие сильной идеи является ключевым фактором успеха коммуникации. Если идеи нет, или мысль банальна, то ни какие “бантики”, ни какая харизма ситуацию не спасут.

Набор на поток прошёл без особых проблем. Кинул клич в список ожидания и люди зарегистрировались. Рекламу не делал — для меня было важно откатать содержание.

Два модуля у меня были упакованы к моменту старта курса. Ещё три модуля упаковывал по-ходу.

Систему для электронных курсов выбрать не смог. Поэтому каждый модуль упаковывал в формат лэндинга на котором собирал видео-уроки.

Модули публиковал по выходным. У участников курса было время на ознакомление с материалами, выполнение заданий и формирование списка вопросов. Ровно через неделю мы проводили вебинар с ответами на вопросы. А затем, я публиковал новый модуль.

Что не получилось…

• Не хватило контакта с участниками — лишь 5 человек из 12 были активны — задавали вопросы, выполняли задания.
• Мне казалось, что на этот курс есть смысл заходить со своей задачей, и я даже призывал к этому участников, однако бОльшая часть просто получали информацию.
• Не удалось запустить групповую динамику в группе ФБ.

Что получилось!

• Курс состоялся и теперь есть сборка из видео-уроков (более 5 часов) и записи вебинаров (около 4 часов)!
• Участники курса дожили до конца
• Обратная связь по завершению курса позволила понять, что было хорошо, а где нужно усилиться.
• Выручка от продажи билетов на курс составила 135 т.р.

Второй поток

Воодушевлённый первым успехом, естественным образом, мы решили стартовать новый набор и на этот раз всё сделать правильно — как учат гуру интернет маркетинга. Дать рекламку, завести людей на продающий вебинар, там рассказать про наш крутой курс и закрыть сделки, затем настроить авто-воронку и… в общем, создать автомат по продажам курса.

Самое интересное, что первые шаги оказалось сделать довольно просто. Создали на ТаймПаде событие с бесплатным вебинаром.

Заказали 400 кликов в баннерной сети ТаймПада. Получили хорошую конверсию в регистрации — 23%. Потратив бюджет 12 000 рублей, получили около 100 регистраций.

На вебинар пришло порядка трети зарегистрированных. И… ноль регистраций на курс.

Перекроили вебинар. Повторили набор слушателей. И… опять ноль регистраций.

В общем, пока решил сделать паузу с интернет-маркетингом и вернуться к изначальной схеме живым взаимодействием с аудиторией. Вновь открыл список ожидания, но на этот раз сделал его немного платным, чтобы запись была более осознанной (при этом ТаймПад позволяет затребовать возврат средств).

Список ожидания на курс концептологов "Эффект бабочки" / События на TimePad.ru

Следующие шаги

Во время подготовки к старту второго потока отсмотрел невероятное количество разных платформ для онлайн-обучения. Преимущественно иностранных. Особенно понравилась CourseCraft. Не буду здесь приводить описание методики сравнения. Но выбрали мы в итоге российский ГетКурс по одной причине — с ним можно рассчитываться по безналу.

Несмотря на то, что второй поток не набрали, я решил, что стоит упаковать систему материалы, которые были созданы.

Также мы обсуждали с коллегами, что материалы курса получились слишком теоретическими. И хотя я стою на позиции, что “нет ничего практичнее хорошей теории” и вижу, как те или иные схемы из курса применимы к решению конкретных практических задач, многим людям проделать данную операцию бывает сложно. Поэтому, есть идея собрать серию менее целостных, но более практичных курсов под конкретные задачи. Например:

• Как снять запрос, чтобы клиент понимал что он получает и за что платит (первые три сегмента левого крыла бабочки — СВ+БЗ+КЗ)
• Как спроектировать эффективную коммуникацию (два внутренних сегмента с левого и правого крыла бабочки — КР+КК)
• Разработка сообщений — конструирование текста (КК+ТС)
• Как с помощью визуализации доносить смыслы (ТС+В)
• Как организовать групповую работу по упаковке смыслов — формат смыслотона, может быть интересен для тренеров, фасилитаторов и организационных консультантов.
• Системное мышление — системный подход, шаг развития, человек и система, рабочая подборка инструментов коллективного мышления , визуализация (сделал сборку для очного интенсива в корпоративном формате).

В общем, пишите, что вам интересно — будем двигаться от задач. Также буду рад пообщаться с теми, кто научился продавать свои курсы холодной аудитории.

Оригинал и комментарии

Предотвратить надвигающееся самое страшное землетрясение в истории США наука не может. Но сделан прорыв в его предсказании

Исследователи лаборатории Лос-Аламос использовали машинное обучение для прогнозирования землетрясений в районе разлома Каскадия (длинной в 700 миль от северной Калифорнии до южной части Британской Колумбии — примерно до Сиэтла).

В этой истории поражают 2 вещи.

1) Безграничные пределы человеческой близорукости.

Обнаруженная связь между громкостью акустического сигнала разлома — т.н. «Стоны Каскадии» — и его физическими изменениями, никому раньше просто не приходила в голову. «Стоны Каскадии» считались бессмысленным шумом, из которого ничего не следует.

Но стоило преодолеть эту близорукость и запустить машинное обучение на поиск шаблонов, как тут же нашли звуковой шаблон, указывающий на повышение активности в движении тектонических плит.

Как тут не вспомнить «Глас Господа» Станислава Лема.

2) Безграничный оптимизм людей, знающих о надвигающейся катастрофе, но продолжающих любить, рожать детей, строить дома …

Гигантская плита под Тихим океаном неуклонно скользит под Северную Америку со скоростью тридцать-сорок миллиметров в год. В результате в разломе Каскадия нарастает давление, и все обречено закончиться сильным землетрясением.

Два варианта:

• оно будет либо сильным (8–8,6 баллов),
• либо очень сильным (8,7–9,2 балла).

Вероятность 1го в ближайшие пятьдесят лет примерно 33%.

Вероятность 2го — примерно 10%.

Но в любом случае, это будет величайшая природная катастрофа в истории Северной Америки.

Континентальный шельф Каскадии, опустится на 2 метра и отскочит от 10 до 30 метров в западную сторону. В минуту произойдет выброс энергии, накопленной в результате столетнего сжатия. Вода поднимется вверх как гора, а затем быстро обрушится. Одна сторона гигантской волны пойдет на запад, в сторону Японии. Другая сторона — на восток. Тысяча километровая стена воды, сметая все на пути, достигнет Северо-Западного побережья где-то через пятнадцать минут после начала землетрясения.

Погибнут десятки тысяч человек. Миллионы останутся без крова. Вся инфраструктура будет разрушена…

Но никто не уезжает. Люди продолжают жить, как ни в чем не бывало. Авось на наш век хватит.

Но ведь шансы в 30%, что это может случится в ближайшие 50 лет, вовсе не отодвигают катастрофу на 50 лет. Это означает, что с такой вероятностью катастрофа может случиться, например, завтра или через месяц, или через год.

Подробней о расшифровке «Стонов Каскадии» (там же две ссылки на научные статьи)

Подробней о грядущей катастрофе в зоне Каскадия

________________________________

Если вам понравился этот пост — не забудьте:

- нажать “палец вверх”;

- подписаться на обновления канала на платформе Medium;

- оставить комментарий.

Еще больше материалов на моем Телеграм канале «Малоизвестное интересное». Подпишитесь

Оригинал и комментарии

Тут у меня есть довольно простой план. Показать читателю, что вот есть неструктурированный список различных задач и привлечь их к систематизации, планированию и написанию инструкций по теме.

Оригинал и комментарии

Ага, это сделали замечательные ребята из http://obraz.io (рекомендую также их канал на Youtube). Если присмотреться к постеру, в правом нижнем углу есть упоминание вашего покорного слуги. :)

Оригинал и комментарии

Хочется добавить сюда ссылку на водную логику, которую Эдвард де Боно противопоставляет каменной (твёрдой) логике Аристотеля. https://www.ozon.ru/context/detail/id/2579041/

Возможно она, окажется более востребованной, как способ мышления, для агентов роя при построении взаимодействия.

Оригинал и комментарии

10 лет назад в Торжке один летчик-инженер открыл Тифлоцентр “Вертикаль” и теперь создает доступную среду для всей России.

Вы знали, что лишь 5% слабовидящих из 100 могут читать по Брайлю. Как тогда остальные 95%, слабовидящих и незрячих, взаимодействуют с окружающей средой?

В Торжке мы не только знакомились с архитектурой и краеведением, но и посетили промышленное предприятие — тифлоцентр “Вертикаль”, который изготавливает инфраструктуру для людей с ограниченными возможностями.

В цехах очень много молодых людей, которые готовы часами стоять у станков, и каждую минуту вытаскивать из специальной техники приготовленные листы напольных указателей, 20-ти летний парень вручную собирает тифлопол (это такой ковер, с резиновыми шариками, который рекомендуют стелить в помещениях для удобства слабовидящих). Сами руководители, не скрывают, что существует кадровый голод и большинство молодых специалистов уезжает работать в Тверь, Москву или Петербург. Это место не похоже, на то, где много мусора и тяжелых промышленных отходов. Это не мартеновские печи или шахты, где нужна физическая сила (хотя баллоны и железки приходится таскать на себе), здесь по большей степени все выполняют машины.

Детали для поручней можно вырезать на специальном станке, задав в начале определенную команду. Микросхемы — включаем принтер, задаем команду и он с легкостью справляется с своей задачей.

По большей части здесь делают тактильную продукцию: поручни для инвалидов, тактильные стенды, напольные указатели, звуковые и световые маяки, пандусы, оборудование для парковки, а также есть детские устройства.

Для Торжка, отличное предприятие, которое создает реабилитационные вещи от идеи, до упаковки, а удаленность от Москвы только помогает развивать свою историю (Торжок находится прямо по середине между Москвой и Петербургом). Мы привыкли видеть, как малые города России, где население чуть большое 50 тысяч, имея свое градообразующее предприятие, начинают “потухать” и “разоряться”, но это другая история. Отсутствие конкуренции и наличие госзаказов, помогает набирать компании хороший рейтинг. Поэтому, только успехов!

Оригинал и комментарии

Оригинал и комментарии

Оригинал и комментарии

Оригинал и комментарии

Оригинал и комментарии

Оригинал и комментарии

Оригинал и комментарии

Оригинал и комментарии

Оригинал и комментарии

Оригинал и комментарии

Оригинал и комментарии

Оригинал и комментарии

Оригинал и комментарии

Оригинал и комментарии

Оригинал и комментарии

Оригинал и комментарии

Оригинал и комментарии

Оригинал и комментарии

Оригинал и комментарии

Оригинал и комментарии

Оригинал и комментарии

Оригинал и комментарии

Оригинал и комментарии

Оригинал и комментарии

Оригинал и комментарии

Оригинал и комментарии

Оригинал и комментарии

Оригинал и комментарии

Оригинал и комментарии

Оригинал и комментарии

Оригинал и комментарии

Оригинал и комментарии

Оригинал и комментарии

Оригинал и комментарии