Недавние тренды рунета

Недавние тренды рунета

Как победить тотальное сетевое оглупление от sergey_57776

Найден максимизатор «мудрости толпы»

Источник: https://royalsocietypublishing.org/doi/10.1098/rstb.2018.0378

Bпечатление, что скорость оглупления человечества быстро нарастает, становится все более распространенным. На это сетуют уже не только старые университетские профессора, но и вполне современные техно-продвинутые яппи.

Под оглуплением здесь, в первую очередь, подразумевается рост доминирования мнений и предпочтений большинства при выдаче нам всевозможной информации, потребляемой нами через Интернет.

Не без оснований считается, что в основе этого процесса лежат кардинальные изменения инфо-среды обитания человечества за последние пару десятков лет:

  • лавинообразное нарастание объемов информации,
  • смена способов и механизмов взаимодействия людей с информацией.

В результате этого:

  • количество потребляемой информации увеличивается,
  • а качество решений, принимаемых потребителями этой инфы, не только не растет, но и, вроде как, падает.

В свете вышеизложенного, становится все более важен поиск ответов на 3 сакраментальных вопроса.

  1. Как развернуть вектор нарастающего оглупления мира?
  2. Можно ли, в принципе, избежать падения качества принимаемых решений при лавинообразном росте входной информации?
  3. Если возможно, то что конкретно нужно изменить в нашем мире в практическом плане?

Только что опубликованное в Трудах Королевского научного общества (в разделе Biological Science) исследование наводит на интересные (хотя и спорные) мысли, как разработать лекарство от тотального сетевого оглупления.

Как работает механизм тотального оглупления

Любое получение информации по интернету потенциально оглупляет. Люди черпают информацию из глобальных источников, приоритетность контента в которых определяется деятельностью этих же самых людей (их поисковыми запросами и сетевыми переходами, выказанными сетевыми предпочтениями, лайками, разшариванием, покупками и т.д.)

Происходит это из-за следующего.

  • Большинство сетевых сервисов (поисковики, социальные медиа, всевозможные рекомендательные сервисы онлайн торговли, развлечений и т.д.) сегодня ориентируются на интересы, вкусы и потребности большинства. И не просто ориентируются, а постоянно подстраиваются под большинство (и накакая персонализация здесь не в силах что-либо изменить).
  • Так уж по жизни получается, что интересы, вкусы и потребности большинства, мягко говоря, не первосортные. А при наличии положительной обратной связи между предпочтениями большинства и приоритетностью контента, картина становится совсем тухлой.

В итоге, — порочный круг:

— сетевые сервисы, идя на поводу у большинства, все более глупеют, и как результат — все менее достойный контент занимает все более высокие позиции;

— потребляющие этот контент люди незаметно для себя снижают планку своих интересов, вкусов и потребностей, тем самым стимулируя сетевые сервисы следовать за этим снижением.

Победить тотальное сетевое оглупление кажется невозможным. И нам лишь остается констатировать, — глупеем все и во всем, и ничего не поделаешь, — таков наш новый дивный инфо-сетевой мир.

Неожиданное спасение, подсмотренное у природы

Но вот появилась надежда. Только что опубликованное исследование «Modular structure within groups causes information loss but can improve decision accuracy» наводит на интересные мысли о том, как разработать лекарство от тотального сетевого оглупления.

Исследуя вопросы группового принятия решений в природе, авторы раскрыли принципиально новое понимание преимуществ структуризации больших групп разумных агентов.

Большинство из вас слышали про «мудрость толпы» — повышение точности коллективных решений при увеличении размера группы, благодаря преимуществу агрегирования все большего числа мнений участников группы. На этой «мудрости толпы», собственно, и стоит весь краудсорсинг решения интеллектуальных задач.

Однако, не секрет, что у коллективного принятия решений с помощью краудсорсинга есть, как минимум, два крайне негативных момента, катастрофически снижающих точность коллективных решений с увеличением размера групп.

  1. Снижение точности из-за доминирования коррелированных мнений участников группы. Причины таких корреляций могут быть разные: от использования одних и тех же источников информации до социального и психологического влияния других участников группы.
  2. Снижение точности из-за т.н. «безумия толпы» — невежественного большинства, легко забивающего своими воплями мнение умного и потому сдержанного меньшинства.

Важно понимать, что механизмы коллективного принятия решений — практически одни и те же у всех разумных существ (людей, животных, птиц, рыб).

Задачи могут быть разные:

  • обнаружение присутствия хищников,
  • определение направление миграции,
  • поиск энергоэффективного маршрута передвижения,
  • прогнозирование будущих событий,
  • вынесение медицинского диагноза,
  • принятие стратегического решения в бизнесе и т.д. и т.п.

Миллионы лет эволюции доказали, что коллективные решения более эффективны, чем индивидуальные, поскольку агрегируют куда больший объем информации, чем доступно любому из индивидов.

Лирическое отступление о преимуществах «жидкого мозга»

Именно это преимущество коллективного принятия решений легло в основу формирования биологического мозга

— органа, состоящего из очень большого числа нейронов, чья функциональность основана на изменении паттернов связности, основанных на взаимодействиях с окружающей средой, опосредованных сенсорными интерфейсами.

Паттерны связности описываются синаптическими весами, которые определяются в динамике паттернами взаимодействия с окружающей средой.

Однако, еще задолго до развития сложных нейронных сетей микроорганизмы уже собирались в то, что теперь называют «жидким мозгом»

— коллективные структуры, которые могли реагировать на стрессовую среду, представляющую угрозу для отдельных клеток.

Выживание таких коллективных структур было связано с сотрудничеством, а сотрудничество требовало новых форм общения в коллективах. Цитируя Джеймса Шапиро:

«Бактерии маленькие, но не глупые».

Хорошо известным примером такого уровня коллективного поведения является определение кворума

— процесса, в котором участвуют популяции клеток, работающих совместно, и позволяющий группам бактерий контролировать присутствие других бактерий в масштабах всего «бактериального населения», что приводит в некоторых случаях к появлению скоординированных ответов на уровне колоний.

Этот пример наглядно показывает, как микробные колонии могут принимать коллективные решения.

Используя механизмы коллективного принятия решений, абсолютно безмозглые существа способны к шедевриально сложному поведению, обеспечивающему им выживание и репродукцию.

Всего один пример — формы слизи Physarum polycephalum, демонстрирующие супер-эффективное коллективное поведения совокупности отдельных клеток. И хотя организм одноклеточный (но включает несколько ядер), в группах он демонстрирует очень сложные пространственные морфологические паттерны при исследовании окружающей среды, принимая оптимальные решения, связанные с потребностями в питании. Эти коллективные безмозглые системы могут при правильных условиях учиться на опыте, чтобы различать различные источники информации. Кроме того, используя динамику наименьшего действия, коллектив этого одноклеточного плазмоида запросто для решает задачи логики, геометрии и теории графов, включая поиск кратчайшего пути через лабиринт.

Короче, коллективное принятие решений — крайне крутая штука, позволяющая строить не только привычный нам «твердый мозг», но и многочисленные разновидности «жидкого мозга» (подробней об этом можно прочесть в моем посте «Человечество движется к разжижению мозга. Это возможный переход на альтернативный вариант интеллекта», а самые последние новости данного направления см. в вышедшем позавчера сборнике «Liquid brains, solid brains: How distributed cognitive architectures process information»).

Как оптимизировать коллективные решения

И животные, и люди, следуя заложенным в них эволюцией нейро-алгоритмам, используют один и тот же метод борьбы против двух вышеназванных изъянов принятия коллективных решений большими группами (напомню, это (1) доминирование коррелированных мнений участников и (2) проявления «безумия толпы»)

– они структурируют большую группу на более мелкие подгруппы.

Формирование у людей и животных групп с некоторой модульной структурой занимает промежуточное положение между «жидким мозгом» (в котором звенья, соединяющие компоненты, являются очень динамичными) и «твердым мозгом» (в котором звенья являются статическими), демонстрируя некоторые особенности обоих.

Чтобы понять и оценить влияние модульной структуры на качество коллективных решений, необходимо определить эффективный размер группы для каждой конкретной модульной структуры.

Эффективный размер группы — это размер группы, которая, принимая решение по правилу простого большинства, достигает той же точности, что и бОльшая группа, содержащая некоторую модульную структуру.

Самым важным здесь является понимание того, что

- любая модульность (структурирование большой группы на подгруппы) ведет к потере точности коллективного решения.

Вот иллюстративный пример.

На рисунке показаны 3 способа структурирования некой группы.

Самый правый пример структурирования демонстрирует, как меньшинство может определить коллективное решение при наличии модульности. В то время как большинство (5 из 9) индивидов проголосовали за один вариант (обозначен черным цветом), этот конкретный ассортимент индивидов в подгруппах привел к консенсусному решению по другому варианту (обозначен белым цветом). Как тут не вспомнить про американскую систему голосования выборщиков, когда большинство избирателей голосовали за Клинтон, а большинство выборщиков — за Трампа.

В результате проведенного исследования, авторы доказали следующее два технических (количественных) вывода.

  1. Увеличение размера группы первоначально повышает коллективную точность благодаря преимуществу агрегирования мнений («мудрость толпы»), но при больших размерах групп коррелированный сигнал все больше доминирует в коллективном решении, снижая точность.
  2. Хотя все группы с модульной структурой страдают снижением общей точности по сравнению с группой без модульной структуры, самая высокая коллективная точность достигается либо с большим количеством небольших подгрупп, либо с небольшим количеством больших подгрупп (с некоторым преимуществом точности перед первой).

А вот теперь о самом важном — о стратегических (качественных) выводах исследования, применимых к любым процессам коллективного принятия решений при работе с информацией.

AВ литературе, посвященной принятию коллективных решений, распространено предположение, что большее количество информации ведет к лучшим решениям. Исследование модульной структуры групп показало, что это может быть не так. Неучет мнений некоторых индивидов (даже в случайном порядке) может оказать благотворное влияние на решения. Если существуют корреляции между мнениями или когда информация, доступная отдельным лицам, очень плохая ( т.е. вероятность выбора правильного варианта из двух доступных вариантов меньше 0,5), тогда больше информации может быть вредным. В этом случае нужно уменьшать количество информации, используемой в коллективном решении, и модульная структура является одним из эффективных механизмов для достижения этой цели. Итогом модульности может стать кардинальное повышение качества принимаемых решений.

BМодульная структура обязательно вызывает потерю информации, не принимая в расчет мнения части участников группы. Однако влияние этой потери информации на коллективную точность зависит от информационной среды, в которой принимается решение.

✔️ В простых инфо-средах потеря информации наносит ущерб коллективной точности.
✔️ Напротив, в сложных инфо-средах модульность имеет тенденцию повышать точность.

Что изменить в мире, дабы развернуть вектор нарастающего оглупления

Исходя из результатов исследования «Modular structure within groups causes information loss but can improve decision accuracy», менять нужно все основные механизмы ранжирования сетевой информации в поисковиках, социальных медиа, всевозможных рекомендательных сервисов онлайн торговли, развлечений и т.д.

  • на смену ранжирования предпочтений одной неструктурированной гигантской группы всех пользователей интернета (в случае поисковиков) или меньших, но все равно огромных групп — пользователей соцсетей и т.д.,
  • должны прийти алгоритмы ранжирования, настроенные на расчет коллективного мнения модулированных (структурированных) групп пользователей, что приведет к повышению качества коллективных решений о значимости (приоритетности) элементов контента во всех многочисленных смыслах используемых в сети: от последовательности элементов поисковых выдач и социальных лент до всевозможных рекомендаций.

Ответ на вопрос, как модулировать (структурировать) огромные группы пользователей еще предстоит решить.

— Но, во-первых, здесь, скорее всего, для каждого из инфо-сервисов может быть найден свой оптимальный способ.

— А во-вторых, как показало исследование, неучет мнений некоторых индивидов, даже в случайном порядке, может оказывать благотворное влияние на коллективные решения.

Так что, в качестве отправной точки, можно начать с того, чтобы просто ограничить размеры учитываемых при ранжировании «сетевых толп», рост которых множит коррелированные мнения и «безумие толпы», продолжая вести человечество по порочному кругу тотального сетевого оглупления.

________________________________

Если понравился пост:
- нажмите на “палец вверх”;
- подпишитесь на
обновления канала на платформе Medium;
- оставьте комментарий.
Еще больше материалов на моем Телеграм канале «Малоизвестное интересное».
Подпишитесь

Оригинал и комментарии

Илья Мутовин про «Ментальное здоровье», мой конспект от victorosyka

(лекция аж 3 часа, но ее можно не слушать после прочтения моего конспекта =)

  • Стресс был изначально нужен в биологическом мире, чтобы моментально реагировать на опасности (тигр напал). Проблема в том, что сейчас наш мозг все равно продолжает искать опасности и проблема, что в конечном итоге находит
  • Вокруг много людей + люди нас оценивают и/или у всех есть мнение. Вы постоянно получаете оценку, это сложно. Вы можете закрыться и начать отторгать мир.
  • В древности жили бинарно: все спокойно спокойно, потом наводнение или нападение, потом опять спокойно. В современном мире же постоянные «качели», хотя о физическом выживании речь давно не идёт.
  • Я и мой мозг: о ком идёт речь? =) Концепция: я — это куда направлено внимание. Концепция: я — это сложный конструкт, даже ночью временно выключается. Концепция: я всего лишь один из продуктов мозга.
  • Внутри нас всё-таки решения мы принимаем. Если пьём или едим сладкое, значит нам это надо. Есть книга Immunity to change, там людям после инфаркта нужно было менять поведение и две трети не меняли. То есть дело не в мотивации, а в чём-то ещё
  • Ваше «я» и ваш мозг хотите разного. Это очень важная мысль.
  • Все, что у вас сейчас есть в жизни — это именно то, чего вы хотели. Абсолютно все. (Подсознательно?)
  • Внутри нас сперва что-то принимает решение и начинается действие (поднять руку например), а только потом мы это осознаём / называем. Это все хорошо померяно, задержка 150 миллисекунд
  • Свободы воли видимо нет. Это очень хороший сложный вопрос, видимо нет.
  • Эксперимент известный — люди держали чашку горячего или холодного напитка и их спрашивали мнение о человеке, кто держал горячее — чаще говорили что человек тёплый, кто держал холодный напиток — чаще говорили что человек прохладный / отстранённый. Какая связь? Почему так? Но вот так вот мы думаем.
  • Есть разные концепции того, что хочет мозг.
  • Я выбрал модель звезды, 5 пунктов:

1 статус в общине

2 планирование

3 определённость

4 социальные связи / общение

5 справедливость

  • 1) статус в общине. Раньше без общины ты умирал от голода. Мы постоянно отслеживаем вырос или упал наш статус. Мозг сейчас это слишком переоценивает.
  • Мы очень эгоцентричны. Эксперимент: на кампусе универа давали людям очень экзотическую выделяющуюся футболку и пускали на кампус. 90% носивших ощущали, что они особенные. Однако на кампусе их заметило (опросы в конце дня) дай бог 10% людей.
  • Когда мы даём совет, мы повышаем свой статус и снижаем статус того кому даём. В современном мире это естественно не так, но мозг-то остался.
  • Эксперименты что дескать особи с высоким статусом в стае обезьян испытывали меньше стресса и жили дольше?
  • Это постоянное подсознательное сравнение статусов когда-то было важно чтобы тебя не выкинули из многих других уровней иерархии общины и ты не умер с голоду, но сейчас мозг неоправданно обострённо реагирует на это.
  • 2) планирование. Мозг это машина для предсказаний. 40 паттернов можно осознанно отслеживать и 2000 паттернов подсознательно.
  • Сотня миллиардов нейронов и в сто раз больше связей между ними.
  • Мы получаем удовольствие от предсказаний мира и неудовольствие если наши прогнозы не сбываются. Даже если просто стоим ждём светофор, а зелёный все не загорается.
  • Мозг подсознательно непрерывно все делит на две категории — опасное или полезное.
  • Предсказания формируют ожидания. Ожидания формируют реальность. Эксперимент: помещали шарик в тело и давали реальное обезболивание или плацебо. Люди, которым давали плацебо И говорили что дали сильное обезболивние — терпели боль на 30–40% более сильную, чем те люди, кому ничего не давали И ничего не говорили про обезболивание.
  • Мозгу проще признать тяжелое, но определенное решение, чем все время ждать исхода в неопределённости.
  • 3) определённость
  • Кортизол (один из гормонов стресса) как-то связан с нашей возможностью прямо сейчас что-то контролировать
  • Автономность: Идея переходного возраста существует только в западной культуре — время когда надо делать собственные выборы. Возможно, потому что на западе детей направляют в кружки секции учебу ради вуза, а на востоке дети имеют свободу выбора ещё с детства.
  • 4) социальное общение
  • Мы очень заточены не распознавание лиц людей и состояния лиц людей
  • Когда мы смотрим на других людей, у нас в уме сталкиваются своя нейронная система и зеркальные нейроны которые считали состояние другого человека и идёт решение: опасно или не опасно? Что чувствуют сейчас мои органы чувств?
  • Остракизм вызывает реакцию в части мозга, отвечающую за физическую боль. Элегантный эксперимент: команда подсадных игроков не давала в игре мяч участнику эксперимента, а ему меряли энцефалограмму. Потом людям давали решать логические задачки и те кто после остракизма — решали хуже (!).
  • Потом дали обезболивающее, и эффект ухудшения решения задачек нивелировался. То есть остракизм был, но удавалось обмануть мозг.
  • Всех незнакомых делим на условно друзей и чужих, ничего не можем поделать. Эксперимент: друзьям даёшь воду хлебнуть из бутылки, незнакомцам нет.
  • Вспомните диалог с человеком — если вам нужно подбирать слова с ним, то для вашего мозга он чужой.
  • Люди живущие одни имеют в теч жизни давление на 30 пунктов выше. Пребывание в кругу друзей физически влияет на ваше ментальное здоровье.

5) справедливость

  • Исторически наш мозг заточен, иначе видимо были проблемы с выживанием
  • Эксперимент: случайным парам дают поделить за 3 мин 100 долларов. Если все согласны- людям платят. Не согласны — деньги «возвращаются в казино». Люди соглашаются обычно одинаково. Но на втором раунде подсадные утки хотели себе 75% денег, и другие люди не соглашались. Хотя рационально просто за 3 минуты игры получить деньги. Так влияет обострённое чувство справедливости. Из-за него войны были итд
  • В мозгу похоже одна и та же часть отвечает за ощущение физической грязи и моральной грязи. Эксперименты: рассказывая о чём-то плохом, люди потом чаще мыли руки. А те кто недавно мыли руки — реже помогали что-то поднять другому человеку. Лернинг: на наш мозг влияет столько всего, что идея свободы воли ставится под сомнение.
  • В теории игр мальчики получают дофамин когда обманывают, а девочки получают дофамин когда их не обманывают.

Что делать и как работать с мозгом?

Мозг:

1 жрет очень много ресурсов

2 не эффективно умеет многозадачность

3 тяжело осуществляет отказы и торможения, чтобы двигаться к цели

1

  • Важна ассимиляция целей мозгом. Если вы хотите похудеть, а это глубинно не важно мозгу, то в определённый момент вы сорвётесь.
  • Свобода воли: известная статистика, что в США суды присяжных после обеда чаще выносят оправдательные приговоры.
  • Неокортекс появился эволюционно относительно недавно. Префронтальный кортекс очень энергонеэффективен: если кортекс это деньги в кармане, то остальной мозг это экономика сша (метафора).
  • Энергия мозга: кислород и глюкоза. Эксперимент: люди до и после сосредоточенного решения задачек сжимали рукоятку с усилием. Падение было 30% в среднем и до 2 раз.

2

  • Неокортекс не параллелен, он просто постоянно быстро переключается. Поэтому устаём от параллельной деятельности. Очень много разных экспериментов. Рационально час делать одно и час другое, нежели миксовать деятельность. А в Майкрософте например одно время было модно «всегда быть онлайн»…

3

  • Функция торможения автоматизмов и отказа от чего-либо находится в префронтальной коре, самой энергоёмкой части. Поэтому так сложно быть дисциплинированным, не жрать еду, не забивать на спорт итп
  • фокус внимания очень узко направлен. То, каким образом мы окружаем себя информацией влияет на то как мы ее обрабатываем.
  • Можно ходить и размышлять о чем-то в категориях (высокий кпд мозга), а можно ходить и ощущать как нога касается пола (очень энергозатратно для мозга).
  • Фокусировать внимание сложно, потому что мы потомки тех, кто постоянно прислушивался к шороху в кустах. (опять про поиск опасности).
  • С мозгом в-общем непросто договариваться :)

Интегральный подход

  • Если пытаться зайти в изменение себя только через разум (исследования про работу мозга советы книги тони роббинс итп), то будет сложно. Нужно что-то ещё.
  • Кортекс можно тренировать как мышцу
  • Есть люди у которых физически больше нейронов в лобной доле, они иначе планируют. Если знаете майерс-бриггс, это ультра J. Они планируют по часам на месяц вперёд и главное следуют этому плану. «Через три недели ты где будешь?» «В 9:15? Там-то.» И главное он правда там будет.
  • Инструмент 1: noting. (Кстати у вас вообще есть словарь описывать происходящее внутри вас?). Звуки ощущения итп.
  • Инструмент 2: назвать эмоции и понимать их триггеры. Эмоция это всегда реакция. Если вы хорошо знаете, на что вы отреагировали, то в следующий раз сможете с этим работать.
  • Страх = реакция на опасность
  • Злость = реакция на несправедливость
  • Distress = inadequate ability to do tasks
  • Грусть = потеря чего-то ценного
  • Вина = ваша несправедливость по отношению к кому-то ещё
  • Скука = потеря значимых идей
  • Одиночество = потеря социально значимых контактов
  • Инструмент 3: перспектива — поставить себя на место другого человека. Гитлер хотел справедливости. Человек не запарковался как мудак, а выбрал оптимальное ему решение итп
  • Инструмент 4: нормализация. Расставить точки над i. Самолёт трясёт — это нормально. Стресс на новой работе — это нормально. Итп
  • Инструмент 5: Избегать от нарратива объяснять себе почему что-то не сделал. Реалия: значит, что-то оказалось приоритетнее. Вопрос — что? Телефон а не фитнесс. Итп. Дальше выбирать поменять местами менее приоритетное и то, что оказалось более приоритетным. Да, непросто. Но…
  • Инструмент 6: Тренировка префронтальной коры — через новую деятельность. Ещё можно делать старое, но иначе (например я встаю с кровати каждый раз по-разному).
  • Инструмент 7: мозг постоянно считывает тело и впрыскивает гормоны. Следите за позой улыбкой расслаблением не перегревом (влияет на пульс, а пульс на тревогу) итп. Это работает.
  • Инструмент 8: базальные ядра запоминают новые автоматизмы и ускоряют все за счёт паттернов. Когда что-то делаете — составьте план, структуру. Упорядочите все вокруг, разгрузит десятки процентов мозга.
  • Инструмент 9: цель/purpose/“поток». Найдите от чего вас прет, тогда мозг подарит вам поток. Направление потока уже можно регулировать
  • Инструмент 10: тренировать прямое присутствие, быть «здесь и сейчас». А не «здесь и потом» или «здесь и тогда».
  • Инструмент 11: Как не отвлекаться? а) Убрать всякие звуковые и визуальные раздражители (телек пусть в фоне не работает). Б) убрать «ментальный сахар» (новости, соцсети итп).
  • Инструмент 12: Медитации. Наращивают префронтальную кору. Если влетели в dark night — найдите наставника.
  • Инструмент 13: быть здесь и сейчас в разных активностях (душ, еда, итд итп). Это не сложно, главное чаще вспоминать.
  • Инструмент 14: не подавляйте свои эмоции И не находитесь рядом с человеком, который подавляет свои эмоции. Мы считываем тонны информации, чужое напряжение передастся и нам. Эксперимент: давали нюхать пот парашютистов и велосипедистов а затем показывали лица разных людей. После пота парашютистов на 50% больше оценивали лица как тревожные. В коллективах Гугл изучал кпд команд больше всего зависит от психологического комфорта (Виктор: что каждый может высказать любые идеи. Но вообще там пунктом 1 было что все должны иметь равное право на эфирное время, тогда все мнения звучат).
  • Инструмент 14: Психотерапия. Хотя в обществе есть отторжение «зачем мне, я нормальный», это сейчас реально очень круто работающий инструмент.

Резюме Ильи:

  1. тренируйте префронтальный кортекс, больше сможете выбирать
  2. практикуйте присутствие здесь и сейчас
  3. важна атмосфера и какие люди вас окружают в вашей жизни (не только работа)
  4. решайте свои проблемы с психотерапевтом

Оригинал и комментарии

Мир «хищных вещей» уже за поворотом от sergey_57776

И этот невероятный поворотный момент может наступить всего через десятилетия

Интерфейс мозг-мозг для передачи информации между людьми. Источник: https://www.frontiersin.org/articles/10.3389/fnins.2019.00112/full

Может оказаться, что прав Харари, предрекая совсем близкий революционный прорыв на стыке инфотеха и биотеха. Прорыв, что отменит большинство из сложившихся в обществе правил и разделит человечество на первосортные и низкосортные страны, а людей на две несравнимо неравные касты:

  • сверх здоровых, сверх умных и сверх богатых сверх-людей
  • и бесполезную биомассу никому не нужного большинства обычных людей.

Очередная левая антиутопия и страшилка — скажете вы? Получается, что не совсем.

Только что опубликованный отчет о работе большой международной исследовательской группы (14 авторитетнейших университетов и научных центров США, Австралии, Канады и России (!)) называется «Интерфейс человеческий мозг / облако». А посвященный этой публикации Science Alert озаглавлен «Мы ближе, чем когда-либо, чтобы объединить человеческий мозг с облаком».

Science Alert начинается словами:

«Человечество может оказаться на грани беспрецедентного слияния человеческой биологии с передовыми технологиями, слияния наших мыслей и знаний непосредственно с облаком в режиме реального времени — и этот невероятный поворотный момент может наступить всего через десятилетия»

Пока большинство исследователей мира тщетно пробивались сквозь заморочки построения интерфейса мозг-компьютер посредством «умных тюбетеек», нашелся альтернативный путь, позволяющий реализовать интерфейс мозг-облако посредством внедрения в организм человека нейронанороботов.

После навигации по сосудистой сети человека три вида нейронанороботов (эндонейронанороботы, глиаботы и синаптоботы) смогут, преодолев гематоэнцефалический барьер, проникать в конкретные клетки головного мозга человека. Там они будут самостоятельно внедряться в аксоны (эндонейронанороботы), в глиальных клетках (глиаботы) и располагаться в непосредственной близости от синапсов (синаптоботы).

Расположившись таким образом, они начнут передавать по беспроводной сети до ~6×10**16 бит/сек синаптически обработанной и кодированной электрической информации от человеческого мозга через вспомогательную нанороботовую волоконную оптику с пропускной способностью до 10**18 бит/сек, что обеспечит быструю передачу данных в облачный суперкомпьютер для мониторинга состояния мозга в режиме реального времени и интеллектуального анализа этих больших данных.

  • Организованный вышеописанным образом интерфейс мозг-облако на основе нейронанороботов может служить персонализированным каналом, позволяющим людям получить прямой и мгновенный доступ практически к любому аспекту накопленных человеческих знаний.
  • Другие ожидаемые приложения включают в себя множество возможностей кардинально улучшить образование, повысить интеллект, получить немыслимое ранее удовольствие от развлечений, путешествий и других интерактивных видов деятельности.
  • Кроме того, специализированным приложением может будет полностью погрузиться в чужой (и в том числе, в искусственный) интеллектуально-сенсорный опыт, включая особый режим т.н. «прозрачного шпионажа» — “transparent shadowing”. Посредством его, люди смогут как бы внедряться в чужую реальность осознанной памяти и переживать эпизоды из жизни других людей, пожелавший поучаствовать в подобном «обмене опытом» (локально или удаленно) …

Алё, читатель!

Эта антиутопия не для будущего, а для настоящего. Для будущего она имеет все предпосылки стать реальностью.

Поскольку прав оказался Борис Натанович.

«Мир “хищных вещей» — это, похоже, как раз то, что ждёт нас «за поворотом, в глубине». И надо быть к этому готовым».

Б. Стругацкий. Комментарии к пройденному.

Текст Science Alert

Статья Human Brain/Cloud Interface

________________________________

Если понравился пост:
- нажмите на “палец вверх”;
- подпишитесь на
обновления канала на платформе Medium;
- оставьте комментарий.
Еще больше материалов на моем Телеграм канале «Малоизвестное интересное».
Подпишитесь

Оригинал и комментарии

Как остановить выгорание от sergey_57776

Самим людям это сделать крайне трудно. Но это могут сделать ваши компании

Вот уже год, как самый цитируемый ныне гуру искусственного интеллекта Кай-Фу Ли колесит по миру с лекциями о своей новой книге о дивном новом мире, которым будут рулить две (и только две) супердержавы в области ИИ: Китай и США.

И практически в каждом своем выступлении Кай-Фу Ли говорит о том, как в этом новом мире человеку сохранить человечность. Этот рассказ — не просветление визионера и не проповедь пророка. Это собственный тяжелейший опыт Кай-Фу Ли, прошедшего через годы абсолютного выгорания от иступленного трудоголизма топ-менеджера. Выгорания, за которым последовал раковый приговор лимфомы 4й стадии, волей Бога и гениальных врачей отмененный в самый последний момент.

Послушайте этот проникновенный рассказ Кай-Фу Ли, за который он непременно срывает овации многотысячных залов. Рассказ о том, как в погоне за амбициозными целями, отдавая все силы и время высокоприоритетной работе, нас ждет предопределенный результат –эмоциональное выгорание и потеря самого дорогого, что у нас есть — здоровья и человечности.

Но Кай-Фу Ли — уникальный человек. Он смог не только осознать причины собственного выгорания, но и кардинально изменить себя, свое отношение к жизни и работе.

Увы, это дано далеко не каждому. И лишь совсем недавно исследования в области поведенческих наук доказали, что остановить выгорание самому человеку крайне сложно. Куда перспективней добиться предотвращения выгорания своих управленцев компаниям, на которые они работают, самозабвенно и неотвратимо жертвуя свое здоровье и семейное счастье.

Что и как для этого компаниям и людям нужно делать, читайте в новом материале Harvard Business Review Preventing Busyness from Becoming Burnout.

Ну а если я вас не убедил на чтение этого материала HBR, послушайте сами Кай-Фу Ли в самой короткой версии этого его рассказа — всего 7 мин.

________________________________

Если понравился пост:
- нажмите на “палец вверх”;
- подпишитесь на
обновления канала на платформе Medium;
- оставьте комментарий.
Еще больше материалов на моем Телеграм канале «Малоизвестное интересное».
Подпишитесь

Оригинал и комментарии

Изображение дома предсказывает риск автомобильной аварии его жителя от sergey_57776

Практическая магия больших данных

Источник: Google Street View image of a house predicts car accident risk of its resident https://arxiv.org/abs/1904.05270
Хотите узнать самую надежную оценку риска вашего попадания в серьезную автоаварию?

Скопируйте изображение вашего дома из Google Street View и отправьте его на вход новой системы статистического выявления паттернов (в простонародье ИИ), придуманной двумя молодыми польскими исследователями.

Оценив дом по 7 параметрам (тип, возраст, состояние, плотность застройки, соседство …) вероятностной моделью, отлаженной на 20 тыс. домов попавших в серьезные аварии людей, система выдаст предсказание вашего риска с точностью на 20% лучше всех существующих оценок.

Вот такой переворот в страховом бизнесе.

И не только.

Магия больших данных о наших домах способна вызнать о нас еще многое …, что ставит ребром кучу правовых и социальных проблем приватности.

Вот отчет, подтверждающий эффективность работы новой системы

________________________________

Если понравился пост:
- нажмите на “палец вверх”;
- подпишитесь на
обновления канала на платформе Medium;
- оставьте комментарий.
Еще больше материалов на моем Телеграм канале «Малоизвестное интересное».
Подпишитесь

Оригинал и комментарии

Это мастрид, мастсмотр и мастслыш от sergey_57776

Разговор человека, уже изменившего мир, с человеком, который пытается его изменить

Страшно интересная полуторочасовая дискуссия человека, который уже изменил мир, с человеком, который пытается повлиять на будущее мира:

Цукерберг и Харари — технооптимист и технопессимист, — оба считающие себя технореалистами.

Возможно, это первый такой разговор, сочетающий беспрецедентную важность затронутых тем и потенциал влияния на миллионы людей.

Вот всего три врезавшихся в память мысли из этого разговора.

✔️ Проблема в том, что вы можете отфрендить человека в сети, но не можете отсоседить его или отколлегить его по жизни.

✔️ Проблема не в том, что придумана технология, которую демократические страны будут использовать в хороших целях, а авторитарные — в плохих.
Проблема в том, что эта технология провоцирует демократию стать на путь авторитаризма.

✔️ Проблема в том, что новые технологии анализа больших данных и ИИ дают преимущество тоталитарным режимам. Централизованная модель планирования и принятия решений Советского Союза проиграла децентрализованной системе США. Но советская модель, основанная на технологиях середины прошлого века, просто не справлялась со сложностью и объемами обработки большого количества информации.
Современные технологии все поменяли. Централизованная обработка становится намного более эффективной, чем распределенная. Ибо чем больше у вас данных, тем лучше ваши алгоритмы, и тем выше качество принимаемых решений.
И это, увы, склоняет баланс между тоталитаризмом и демократией в пользу тоталитаризма. Сейчас советская модель победила бы.

__ __ __

Каждому, что по вкусу:

  • мастсмотр;

________________________________

Если понравился пост:
- нажмите на “палец вверх”;
- подпишитесь на
обновления канала на платформе Medium;
- оставьте комментарий.
Еще больше материалов на моем Телеграм канале «Малоизвестное интересное».
Подпишитесь

Оригинал и комментарии

Отряд микророботов избавит вас от зубного налета от sergey_57776

Прорыв в создании роботов-убийц для уничтожения биопленки

Точным, контролируемым движением микророботы очистили стеклянную пластину от биопленки, как показано на этом замедленном изображении. (Изображение: Гилсу Хванг и Эдвард Стигер). Источник: http://bit.ly/2GNVVvB

Запах изо рта, пятна, кариес, гингивит и зубной камень, — все это следствия зубного налета — липкой бактериальной биопленки, чистить которую нужно ежегодно у дантиста.

Процедура не самая приятная. Еще хуже то, что крайне трудно убрать налет из труднодоступных мест, типа перешейка — узкого коридора между корневыми каналами, где обычно и растет биопленка.

И вот чудо! Вам в рот запускают отряд каталитических антимикробных микророботов, которые: разрушают биопленку, убивают бактерии и физически удаляют продукты биоразложения.

Управляются роботы магнитами по данным от микрокамер.

Роботизированная платформа — результат междисциплинарного прорыва Школ стоматологии и инженерно-прикладных наук Универа Пенсильвании (увы, не Роснано 😞).

На очереди платформа чистки чего угодно от биопленок: сантехника, катетеры …

Вот так это происходит в динамике. Источник: http://bit.ly/2GNVVvB

Подробней «An army of microrobots can wipe out dental plaque»

________________________________

Если понравился пост:
- нажмите на “палец вверх”;
- подпишитесь на
обновления канала на платформе Medium;
- оставьте комментарий.
Еще больше материалов на моем Телеграм канале «Малоизвестное интересное».
Подпишитесь

Оригинал и комментарии

И снова о панических атаках от shvaratsky

Оригинал и комментарии

Человечество сильно разное от sergey_57776

Новая инфографика от Visualcapitalist

Что общего в ценностях, интересах и видении будущего у подростка и человека на пятом десятке?

Большинство глобальных исследований при рассмотрении вызовов и рисков будущего апеллирует к интересам и ценностям человечества. Хотя в реальности каждому понятно, что интересы и ценности японца, немца, нигерийца и афганца мало в чем совпадают.

И если процессы глобализации хоть как-то сглаживают национально-культурные и экономические различия, то с возрастными различиями это, если и происходит, то куда медленнее.

Наглядно увидеть, сколь колоссальны эти различия, позволяет новая инфографика от Visualcapitalist.

С одной стороны, мир населяют «зрелые, состоявшиеся люди» среднего возраста 44–47 (Япония, Германия, Италия, Греция, Болгария, Португалия).
С другой — 14–16 летние «подростки» (Чад, Нигер, Афганистан, Ангола, Буркина Фасо, Мали, Сомали, Южный Судан, Уганда).

Россия — «одногодок Китая» и всего на год «старше» США (что вселяет надежду).

Динамику «взросления» мира с 1960 и прогноз до 2060 смотрите на 2х GIFах.

Европа 1960–2060

Америка 1960–2060

________________________________

Если понравился пост:
- нажмите на “палец вверх”;
- подпишитесь на
обновления канала на платформе Medium;
- оставьте комментарий.
Еще больше материалов на моем Телеграм канале «Малоизвестное интересное».
Подпишитесь

Оригинал и комментарии

Джакузиссимо от innubis

Двое студентов разного пола активно лобзались в бурлящем джакузи. Все, как в кино. А когда студентам хочется, как в кино, но не хватает реквизита, то годится даже джакузи в аквапарке.

А я же вам не рассказывал, что являюсь сертифицированным заклинателем змей и дрессировщиком бабуинов? У меня две дочери.

— Я первая! Я первая!

— Неть! Йааа.

— Бооомбачкааа!

— Бобасяааа!

Раздались сигналы предупреждающие публику о приближении цунами.

Прыгать в теплый бурлящий круглый бассейн — это ярчайшее впечатление детства, я считаю. В моем детстве. джакузи не было, но были скрывающиеся в глубине лягушки.

Студенты решили остаться. Я был занят страховкой бабуинов и не обращал на студентов внимания. Минут через пять, которые наверняка показались им вечностью, я посмотрел на них, нежно будя в себе внутреннего садиста. Это были два покерфейса сидящие рядом и глядящие сквозь пространство. Очередная волна накрывала их лица, но они не моргали.

У меня возникло ощущение, что я наступил на трепетную юношескую любовь и она издала звук сдувающегося праздничного шарика в конце пискнув, как розовая резиновая рыбка. И это было прекрасно!

В большом бассейне включили волны, нам стало пора.

— Таська! Волны, волны!

— Уууоооооо!

— Я первая! Я первая!

— Неть! Йааа.

Я посмотрел на студентов, размышляя, смогут ли они повторить приступ нежности, воспользовавшись затишьем. Наверное нет. Эта способность приходит с опытом, когда по-другому никак. К джакузи направлялся толстый мужчина с видом расслабленного гедониста и четырьмя детьми — вот он знает, как ловить момент.

(с) Кирилл Анастасин

8.5.19

Оригинал и комментарии

Какой язык самый великий и могучий от sergey_57776

Новая наука на стыке лингвистики, теории информации и когнитивной психологии

«Во дни сомнений, во дни тягостных раздумий о судьбах моей родины, — ты один мне поддержка и опора, о великий, могучий, правдивый и свободный русский язык! Не будь тебя — как не впасть в отчаяние при виде всего, что совершается дома? Но нельзя верить, чтобы такой язык не был дан великому народу!».

Так написал И.С. Тургенев в своем стихотворении в прозе “Русский язык”.

Оставим для поэтов вопрос, так ли уж правдив и свободен русский язык, и зададимся прагматичным вопросом — 
а насколько в реальности он велик и могуч?

То бишь, — насколько он эффективен.

Причем эффективен для 2х довольно перпендикулярных практических целей, для которых язык создавался в ходе эволюции:

  1. коммуникация;
  2. обучение.

Что если,

✔️ мобилизовав аналитику больших данных и машинное обучение,

✔️ применить их к методам языкового анализа, используемым в лингвистике, теории информации и когнитивной психологии.

И параллельно с этим, экспериментально посмотреть, как эффективность языка для коммуникации и для обучения может быть зафиксирована современными методами динамической визуализации мозга (типа фМРТ и т.д.)

Тогда можно будет, наконец, найти ответы на много интереснейших вопросов.

Например:

  • Сравнить существующие языки (их всего-то 6–8 тыс. на Земле, смотря как считать) по эффективности для 2х названных целей (вот чудо будет, если русский окажется действительно великим и могучим 😉)
  • Понять, когда при развитии языка берет верх 1я, а когда 2я цель, и как разрешается конфликт целей.
  • Узнать, могут ли когнитивные ограничения формировать коммуникативную эффективность и обучаемость, иными словами — связаны ли они с принципами и методами нейронной организации человеческого мозга.
Короче! Пять университетов США запустили серию исследований, дабы заложить основы новой науки, которая может очень многое в нас объяснить.

Не говоря уж о том, что она даст ответ на вопрос

— как сравнить два типа интеллекта, если первый из них знает (т.е. использует для коммуникаций и обучения) русский или английский, а второй — Python или CNTK 😉

Подробней «How Efficiency Shapes Human Language» (скайхаб вам в помощь).

________________________________

Если понравился пост:
- нажмите на “палец вверх”;
- подпишитесь на
обновления канала на платформе Medium;
- оставьте комментарий.
Еще больше материалов на моем Телеграм канале «Малоизвестное интересное».
Подпишитесь

Оригинал и комментарии

Три МИ новости прошлой недели от sergey_57776

1️⃣ 😊 Счастье в браке сильно снижает потенциальный риск смерти и даже важнее, чем удовлетворенность собой. Эта аксиома не зависит от социально-экономических и демографических характеристик людей или их физического состояния здоровья .

http://bit.ly/2vtwB7q

2️⃣ 😊 Мы спим в соответствии со своей генетической программой. Выявлены 47 связей между нашим генетическим кодом и качеством, количеством и временем нашего сна. Они включают десять новых генетических связей с продолжительностью сна и 26 с качеством сна.

http://bit.ly/2UMrfhX

3️⃣ 😊 8 лет назад Марк Андреессен объявил о новой эре развития технологий — программное обеспечение пожирает мир. О как же этот мир ускорился! Пророк наших дней — один из крупнейших бизнес-ангелов в ИИ и автор термина ИИ-национализм Ян Хогарт — объявил об окончании эры всепожирающего софта и наступлении новой эры. Машинное обучение пожирает мир и, в первую очередь, пожирает программное обеспечение.

Ian Hogarth: Machine learning will eat the world - Sifted

________________________________

Если понравился пост:
- нажмите на “палец вверх”;
- подпишитесь на
обновления канала на платформе Medium;
- оставьте комментарий.
Еще больше материалов на моем Телеграм канале «Малоизвестное интересное».
Подпишитесь

Оригинал и комментарии

Тайна уникальности человеческого интеллекта от sergey_57776

Как перестать быть животным и превратиться в новый вид, потенциально способный стать сверхразумным?

Различия гоминоидов по 65 ключевым характеристикам, наложенным на генеалогическое древо человекообразных. Источник: Pavel Duda, Jan Zrzavy «Evolution of life history and behavior in Hominidae: Towards phylogenetic reconstruction of the chimpanzee — human last common ancestor»

Это 1й открытый разговор на самую интересную для меня тему. И потому, как водится с первыми блинами, получилось довольно сумбурно. Но зато есть и плюс — эксклюзив первенства узнать кое-какие детали абсолютно новой темы, которой еще только предстоит выстрелить в междисциплинарной науке 😊.

В преддверии длинных выходных, публикую видео прочитанной мною 10 апреля лекции ”SAPIENTISSIMUS. Альтернативное будущее человечества (как борьба добра и зла внутри нас сделала нас людьми).”

Речь в лекции вот в чем

1) Наш интеллект пока еще слишком сложен для его деконструкции современной наукой.

2) Мы все еще не способны создать его научно непротиворечивую и практически реализуемую (хотя бы в перспективе) модель.

3) Более того. Мы в принципе не понимаем, что могло произойти с интеллектом одного из биологических видов, чтобы качественно трансформировать его разум. Трансформировать столь капитально и масштабно, чтобы:

✔️ навсегда вырвать его из мира животных;

✔️ вложить в него потенциал развития в сверхразумное существо;

✔️ изменить его эволюционную траекторию развития на миллионы лет вперед.

И вот появилась идея, попытаться найти ответ хотя бы на третий вопрос, пойдя следующим путем.

Если мы пока не в силах понять, как устроен и работает этот сверхсложный механизм (а может и не механизм вовсе, но что тогда?), стоило бы попытаться разобраться, как этот механизм развивался и совершенствовался.

Возможно, нам удастся проследить сборку этого механизма на «производственной линии» эволюции. Т.е. деконструировать «проектировочно-производственный процесс», занявший у эволюции миллионы лет.

Тогда можно было бы попытаться проследить:

  • основные развилки и этапы этого процесса;
  • конкретные усложнения и усовершенствования в организации и принципах работы «собираемого механизма»;
  • «логику решений» эволюции на каждом из этапов усовершенствования (зачем? и почему так?).
Может, таким образом мы бы смогли, наконец, приблизиться к пониманию того, как устроен и работает интеллект современного человека, и в чем же его кардинальное отличие от любых иных био-интеллектов, присущих всему живому?

Но тогда начинать надо куда раньше, чем «когнитивная революция» Homo sapiens 70 тыс. лет назад. Ведь к этому времени наш предок уже не был животным в течение порядка 6 млн лет.

А если он уже не был животным, то кем он был все эти миллионы лет?

И что конкретно в нем изменилось, что он (и только он) перестал быть животным и превратился в новый вид, потенциально способный стать сверхразумным?

Но если нам удастся понять суть и механизм этого чудесного превращения, возможно, это могло бы позволить нам оценить шансы нового подобного превращения в будущем (уже нашего вида Homo sapiens в некий новый вид, который условно можно назвать Sapientissimus)?

В этой лекции я попытался вскользь коснуться ответов на некоторые из названных вопросов. Подробный разбор результатов деконструкции эволюционного «проектировочно-производственного процесса», итогом которого стал наш интеллект, впереди — в готовящейся серии лекций.

Если у вас в течение длинных праздников появится желание и время послушать, вот ссылка на открывшийся канал «Малоизвестное интересное» на Youtube

Хороших вам супер-длинных выходных!

С наступающими праздниками!

Встретимся теперь уже после них.

________________________________

Если понравился пост:
- нажмите на “палец вверх”;
- подпишитесь на
обновления канала на платформе Medium;
- оставьте комментарий.
Еще больше материалов на моем Телеграм канале «Малоизвестное интересное».
Подпишитесь

Оригинал и комментарии

Лекция «Алгоритм подготовки презентаций» от innubis

Трех или четырехчасовое теоретическое занятие, в ходе которого раскрывается суть оптимального процесса подготовки к публичному выступлению.

Цели:
Объяснить, как построен эффективный алгоритм подготовки выступлений: как использовать методы сокращения времени на подготовку, как при этом улучшить результат.
Донести основные схемы индивидуальной и групповой работы, поделиться опытом организации процессов в компании
Поделиться набором лайфхаков.

Краткое содержание:

  1. Целеполагание: критерии успеха и 6 ключевых вопросов, написание ценностного предложения, как рассказать о себе и своей экспертизе.
  2. Упражнение «Карусель».
  3. Контраст мысли.
  4. Четыре схемы построения выступления.
  5. Нормирование и другие практики убеждений.
  6. Роль слайдов и иного рекцизита.
  7. Лайфхаки.

Об алгоритме

Алгоритм подготовки презентаций был создан, как основной процесс работы группы презентационных технологий Яндекса. Он базируется на опыте спикеров разного уровня, что делает его в достаточной степени универсальным. Благодаря его применению заметно экономится время, человеческие ресурсы, а качество выступления становится выше.

Алгоритм претерпел усовершенствование за годы моей работы над более разнообразными задачами после ухода из Яндекса. На сегодняшний день, данный алгоритм лег в основу процессов в ряде компаний.

Дополнительно почитать и посмотреть

© Кирилл Анастасин

Оригинал и комментарии

Course by Peter Thiel «Sovereignty and the Limits of Globalization and Technology» от victorosyka

Class #1 — Globalization: Prophecy versus History

1ая статья к 1ой лекции курса — от Fukuyama, 1989 (!), называется «End of history»

один из самых топ политологов 20го века в сша писал статью 30 лет назад, сформулировал — и прав = ) что риск/смелость/воображение/борьба за славу ради абстрактных (коммунизм ислам итп) идеалов будут в мире заменены:

1. экономическим расчетом,

2. постоянным решением технических проблем,

3. вопросами экологии,

4. и удовлетворением изощренного потребительского спроса.

Конец истории — это в смысле что идея либерального капитализма победила все прошлые человеческие идеи — от коммунизма до монархий и исламизма итп.

Также, он предсказал, что в ссср и китае авторитарные режимы никуда не денутся.

Сказал что развилка:

  • идти по пути запада после второй мировой, к «концу истории»

Или

  • По пути азиатских стран — защищать свою якобы общественную уникальность.

Ещё конечно напалм: «At the modern stage, the ability to build up material wealth at an accelerated rate on the basis of front-ranking science and high-level techniques and technology, and to distribute it fairly, and through joint efforts to restore and protect the resources necessary for mankind’s survival acquires decisive importance.»

Источник? Vestnik Ministerstva Inostrannikh Del SSSR no. 15 (August 1988), 27–46.

****

На английском:

The end of history will be a very sad time. The struggle for recognition, the willingness to risk one’s life for a purely abstract goal, the worldwide ideological struggle that called forth daring, courage, imagination, and idealism, will be replaced by economic calculation, the endless solving of technical problems, environmental concerns, and the satisfaction of sophisticated consumer demands.

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

Отзывы (через аккаунты в социальных сетях Вконтакте, Facebook или Google+):

Оставить отзыв с помощью аккаунта ВКонтакте:

Оставить отзыв с помощью аккаунта FaceBook:

Архив лучших постов