Недавние тренды рунета

Недавние тренды рунета

Эрни от Huawei побил Берта от Google от sergey_57776
Пример использования дополнительных
знаний для лучшего понимания языка. Сплошные линии представляют известные факты. Красные пунктирные линии представляют факты,
извлеченые из предложения, написанного красным шрифтом. Синие пунктирные линии представляют факты, извлеченные из других текстов (окрашены синим цветом). Источник: https://arxiv.org/abs/1905.07129

Разговоры о том, что Китай лишь копирует прорывные решения, пора забыть. Вот яркий пример реально прорывного подхода в NLP. Исследователи из Университета Цинхуа и компании Huawei Technologies разработали ERNIE (модель расширенного представления языка с информативными сущностями), работающую ощутимо точнее, чем новейшая и лучшая в мире модель BERT, недавно разработанная Google AI.

Во время предварительного обучения система пытается связывать слова, которые она читает, с сущностями, хранящимися в структурированном графе знаний. Для интеграции внешних источников данных исследователи создают дополнительную цель предварительного обучения, которая побуждает систему изучать соответствия между различными цепочками токенов.

Например, текст «Боб Дилан написал Blowin’ in the Wind в 1962 году» и найденные в нем сущности (Боб Дилан, Blowin’ in the Wind) — см. рисунок

Суть метода в том, что при предварительном обучении объединяются текст из Википедии с встраиваемыми знаниями. Эти знания получают в ходе обучения на Викиданных. Они представляют собой структурированный набор имен объектов, используемых для идентификации сущностей в графе знаний.

Результаты испытаний таковы.

  1. Модель ERNIE показала по точности лучшие результаты (примерно на 5–7%) во всех тестах.
  2. ERNIE также превосходит BERT в классификации отношений между объектами.

Можно констатировать.

Китайцы разработали экспериментальную систему, реализующую новый подход в NLP: Языковая модель + База знаний

Этот подход может стать прорывным шагом:

  • от систем, «понимающих» контекст путем сравнения слов, стоящих до и после обрабатываемого,
  • к системам, «понимающим» контекст путем сопоставления его с известными фактами о сущностях.
Второе видится значительно эффективней.

О BERT прочтете здесь

Об ERNIE и о том, как он побил BERT, — здесь

________________________________

Если понравился пост:
- нажмите на “палец вверх”;
- подпишитесь на
обновления канала на платформе Medium;
- оставьте комментарий.
Еще больше материалов на моем Телеграм канале «Малоизвестное интересное».
Подпишитесь

Оригинал и комментарии

Джакузиссимо от innubis

Двое студентов разного пола активно лобзались в бурлящем джакузи. Все, как в кино. А когда студентам хочется, как в кино, но не хватает реквизита, то годится даже джакузи в аквапарке.

А я же вам не рассказывал, что являюсь сертифицированным заклинателем змей и дрессировщиком бабуинов? У меня две дочери.

— Я первая! Я первая!

— Неть! Йааа.

— Бооомбачкааа!

— Бобасяааа!

Раздались сигналы предупреждающие публику о приближении цунами.

Прыгать в теплый бурлящий круглый бассейн — это ярчайшее впечатление детства, я считаю. В моем детстве. джакузи не было, но были скрывающиеся в глубине лягушки.

Студенты решили остаться. Я был занят страховкой бабуинов и не обращал на студентов внимания. Минут через пять, которые наверняка показались им вечностью, я посмотрел на них, нежно будя в себе внутреннего садиста. Это были два покерфейса сидящие рядом и глядящие сквозь пространство. Очередная волна накрывала их лица, но они не моргали.

У меня возникло ощущение, что я наступил на трепетную юношескую любовь и она издала звук сдувающегося праздничного шарика в конце пискнув, как розовая резиновая рыбка. И это было прекрасно!

В большом бассейне включили волны, нам стало пора.

— Таська! Волны, волны!

— Уууоооооо!

— Я первая! Я первая!

— Неть! Йааа.

Я посмотрел на студентов, размышляя, смогут ли они повторить приступ нежности, воспользовавшись затишьем. Наверное нет. Эта способность приходит с опытом, когда по-другому никак. К джакузи направлялся толстый мужчина с видом расслабленного гедониста и четырьмя детьми — вот он знает, как ловить момент.

(с) Кирилл Анастасин

8.5.19

Оригинал и комментарии

От слов и мыслей зависит не только будущее, но и прошлое от sergey_57776

Настолько сильно, что может даже поменять знак наших воспоминаний о матери

Мы понемногу свыкаемся со страшноватыми открытиями бурного междисциплинарного прогресса на стыке эво-био-когни-психо-инфо наук.

  • Нашими эмоциями — чувствами и предпочтениями, определяющими наше поведение — управляют нейробиохимические алгоритмы.
  • Эти алгоритмы могут быть жестко прошиты (запаяны) в нас от рождения, а могут развертываться в различные гибкие варианты алгоритмических прошивок уже при жизни.

Но прогресс продолжается. И чем дальше, тем становится всё страшнее.

Выясняется:

  1. что наша память тоже не совсем наша;
  2. что осознаваемые нами чужие слова могут влиять на эмоциональный окрас наших мыслей, а те, в свою очередь, деформируют наши воспоминания.

А ведь люди издавна знают, что эмоции влияют на окрас воспоминаний. Но чтобы менять знак воспоминаний с плохих на хорошие или наоборот, — это чересчур!

И что с мыслями (а уж тем более со словами) нужно быть осторожней, мы в курсе. Знаем, что стоит начать упорно думать о коллеге и уж, не дай бог, о своем ребенке, плохо, как он начинает, почти на глазах, плохеть. Но чтоб просто, манипулируя словами в опроснике, заставить нас думать хуже или лучше о собственной матери, — это дудки!

Оказывается, не чересчур и не дудки.

Новое исследование «Изменение текущих оценок матерей приводит к изменениям в детских воспоминаниях о любви к матерям» однозначно показывает, что так оно и работает.

✔️ Воспоминание о том, любил ли человек свою маму или нет — зависит от его сегодняшнего представления о матери (а на него можно влиять, просто манипулируя опросником).

А ведь это самое святое — мать.

И значит подобным же образом можно легко влиять на наши воспоминания о любви к детям, бывшим возлюбленным, нынешним супругам, лучшим друзьям …

О какой же тогда фальсификации истории может идти речь. Если самое святое — воспоминания о любви — столь легко манипулируются в нашем сегодняшнем сознании.

Что уж тогда говорить про тональность воспоминаний о Сталине, если тональностью воспоминаний о матери можно, умеючи, манипулировать извне.

Подробней:

________________________________

Если понравился пост:
- нажмите на “палец вверх”;
- подпишитесь на
обновления канала на платформе Medium;
- оставьте комментарий.
Еще больше материалов на моем Телеграм канале «Малоизвестное интересное».
Подпишитесь

Оригинал и комментарии

Социальные медиа людям не нужны от sergey_57776

Их минусы уже сильно перевешивают плюсы, и этот перекос угрожающе растет

Credit: Amy Osborne/Getty Images

Социальные медиа не нужны нам, чтобы помогать государству и бизнесу:

• следить за нами;

• пудрить нам мозги;

• зарабатывать на нашем внимании.

Они не нужны нам, чтобы помогать всевозможным редискам и бандитам:

• распространять фейковые новости и теории заговора;

• агитировать и вербовать под свои знамена насилия и ненависти;

• отравлять наш демократический дискурс и заражать наш разум опасной антинаучной чепухой.

Они не больно-то нам нужны даже для того, чтобы:

• любоваться рекламой;

• заводить друзей и строить отношения;

• заказывать такси, садиться на автобус или летать на самолетах;

• слушать хорошую музыку или читать толковые книги;

• делать покупки;

• развивать или открывать субкультуры;

• находить единомышленников;

• планировать свою жизнь;

• понимать мир, в котором мы живем.

Те, кому сегодня реально нужны социальные медиа, — это:

• их создатели и владельцы, продолжающие зарабатывать на них большие деньги;

• бизнес, зарабатывающий еще большие деньги на нашем внимании;

• государства и спецслужбы, все более берущие нас под контроль;

• всевозможные редиски и бандиты.

Все разговоры и законодательные инициативы о разделе и демонтаже Facebook, переориентации его и прочих колоссов социальных медиа на иные модели и платформенные архитектуры, ужесточении нормативно-правовой базы платформ социальных медиа — пустое дело.

Пока сохраняется современная модель бизнеса социальных медиа — зарабатывать на нашем внимании — все эти изменения будут либо косметическими, либо, вообще, тщетными.

Видоизмененные и перестроенные социальные медиа будут по-прежнему:

• помогать нам устанавливать не сильно надежные связи;

• искажать наш взгляд на мир и раздувать рознь между нами;

• сжигать впустую самое ценное, что у нас есть — наше время.

И при этом усиленно работать на потребу бизнеса, государства, редисок и бандитов.

Значит в этой консерватории нужно что-то кардинально менять. Начиная, естественно, с модели бизнеса на внимании масс.

А от сегодняшней бизнес-модели и сегодняшних социальных медиа как токовых нужно, как от ядерного оружия, потихоньку и осторожно отказываться.

Таково мнение Колина Хоргана, опубликованное на OneZero https://onezero.medium.com/we-dont-need-social-media-53d5455f4f6b

И мне его соображения не кажутся категорически неверными или сильно преувеличенными.

Похоже на правду.

________________________________

Если понравился пост:
- нажмите на “палец вверх”;
- подпишитесь на
обновления канала на платформе Medium;
- оставьте комментарий.
Еще больше материалов на моем Телеграм канале «Малоизвестное интересное».
Подпишитесь

Оригинал и комментарии

Вау от sgevlich

Вау

Оригинал и комментарии

А Гришу Полухутенко слушают? от sgevlich

А Гришу Полухутенко слушают?

Оригинал и комментарии

Красота, которая не спасёт мир, или рассказ про Йеллоустоун и не только. от real_baxus

Когда вы живёте (изначально) в красивом месте — вы привыкаете к красоте. Не спорьте. К красоте, как и к ужасу — привыкаешь. Я довольно часто улетаю из России посредством аэропорта Шереметьево 2, и, во избежание эксцессов в смысле пробок, водитель везёт меня по платной дороге. Каждый раз я не устаю восхищаться жителям толи новых Химок, толи Долгопрудного (я ей-ей не знаю, какой именно административной единице принадлежит эта территория).

Дорога в том месте, сразу после съезда с МКАД, бежит широкой серой полосой между новостроем и… мусорным полигоном огромным (слава Богу, хотя бы, закрытым ныне, вроде как “рекультивируемым” — но боб его знает, что они имеют ввиду под этим подлым словом…). Т.е. построили до двадцати этажей муравейники с видом на скоростную платную трассу и кучу говна выше двадцатиэтажных домов за ней. И, что характерно, продали. Счастливым жителям, купившим (большинство) этот бетонный мешок в кабалу по ипотеке лет на 15–25.

Ничо, они привыкли. Они не видят в этом ничего противоестественного: выплачивают бешеные проценты жадным банкстерам за право жить в убогом бетонном мешке размером с ванную комнату в среднем американском доме, с пробками, отсутствием (но перспективой, ггг) метро, херовой транспортной доступностью, плохой экологией (а чего ещё ждать от свалки мусора?), перенаселённостью, дефицитом детских садов и школ, и так далее и тому подобное. Но — “это ж наша собственность”, эту убогую лютую недвижимость с бешеной коммуналкой и поборами ТСЖ и УК мы деткам передадим, мы отмучаемся — пусть они мучаются, ну и вот это всё.

Интересно, что такое же точно привыкание и обыденность происходит, если вы живёте у красоты. Например, на берегу океана, или у подножия гряды живописных гор. А бывает, что ещё и и то, и другое сразу вместе. ))

И что? Много вы встречали кубаноидов, радующихся морю? Они его ругают. И даже имеют на это все основания. От моря вся прибыль, но от него же — весь убыток. Весной — шторма, выворачивающие бетонные балки с дна, как спички! Летом — бздыхи и кишечная палочка, зимой — лёд и нордик, от которого мгновенно простываешь до самой мошонки, как бы тепло не оделся, осенью — общий упадок сил и пошли все нахуй после высокого сезона.

Живущие в Сан-Диего на берегу океана тревожно иной раз смотрят на ветра, которые тоже сносят всё. Нет, ураганов тут не бывает (или бывают очень редко), но океан местные всё равно поругивают: и холодный он де, и воздуся с него ледяные, и вообще, и в частности. И запах рыбы заебал.

Живущие возле West Entrance Yellowstone National Park, в принципе, тоже живут возле дикой, и совершенно уникальной красоты.

Там правда очень красиво, хоть и холодно даже в мае. Озеро, на котором мы остановились в уединённом домишке, на самом деле ещё не освободилось ото льда.

Как это всегда бывает в такой красоте, местные поселяне равнодушно сетуют на плохой интернет (из-за гор); на то, что “весна только началась, а медведями уже всё засрато вот по сих!” (и китайская женщина со сложным английским акцентом, витиеватым жестом показывает, что в её американо-китайской вселенной означает “дохуя” в значении “много”)…

Всё так, но это ж только наоборот, повод насладиться первозданной красотой!

И с этим здесь всё в порядке!

Короли нацпарка — бизоны

Лёд и пламя здесь живут бок о бок. Почти что мирными соседями. Из-за чудовищных размеров кратера вулкана, вулканической кальдеры (она там по диагонали больше 150 км местами) здесь есть совершенно уникальные формы жизни, которых, может быть, нет больше нигде:

Очень наглядно — формы вулканической жизни

Зелёный “поток” — это микроорганизмы, живущие в “холодной” среде: по цельсию — до 50 градусов (но не ниже 32-ух, ниже они погибают). А вот красные или розоватые — “горячая” среда: от 51 до почти 90!

Так что вся эта красная марсианская красота…

…на самом деле — жизнь, как она есть. Самая что ни на есть настоящая. И, кстати, по ней нельзя ходить, в неё нельзя плевать, и вообще вашим биовселенным лучше бы по-меньше с их биовселенной пересекаться. Або не пересекаться вовсе.

И только бизонам дозволяется ходить везде, лежать везде, топтать везде, и всяко срать.

Бизоны, и, конечно, медведи.

Медведица-мама. Нет, это не гризли, это black bear

Медведи вообще не любят публичности, зато любят уединение. Особенно когда он — медведица с медвежатами, как в данном случае (медвежата на дереве).

Свидетели уединения медведя:

Здесь есть всё. Ледник? Памукале? Тундра? Тайга? Водопады? Реки? Озёра? Гейзеры? Скалы? Заснеженные вершины и широкие плато? Сколько? Говорите, сколько вам надо отвесить всего этого. Здесь я даже песчаную дюну одну видел, т.е. можно сказать, что пустыня тоже есть.

А ещё есть то, чего нигде больше не бывает. Как незамерзающие, зеленеющие круглый год луга, например, дающие прокорм тысячам бизонов. Тёплые в любую погоду горные (!) реки! И всякие пещеры и дыры, источающие зловоние, словно ведут напрямую к дьяволу в зад!

На каждом шагу…

Обещанная “Памукале”:

Кипит всегда в самых неожиданных местах:

Потоки кипятка толи уничтожают жизнь, толи расчищают путь новой жизни — всё не так однозначно, как привык человек…

Вот эта грязевая дыра, например, называется Dragon Mouse (Рот Дракона), и, боюсь, что ртом дракона она названа только из врождённого пиитета людей перед этими мифическими существами. На самом деле, так пахнуть может только жопа дракона, my apology…:

Всё не так однозначно, но однозначно одно: увидеть это место своими живыми глазами (а не в исполнении чужих фотографий и мнений) — вот действительно must see. Не увидев этой супер-кальдеры вы не имеете морального права утверждать, что хорошо изучили эту планету.

Факт.

Ну а мы, вечные nomads, катим дальше по дороге, которую выбрали.

И да поможет нам всем святой Януарий! Я фиг знае, кто это, но мне просто имя нравится, хе-хе.

Оригинал и комментарии

Справедливость глазами концептолога от https:

Последнее время практикую формат группового мышления для вскрытия таких базовых понятий, как “деятельность”, “мотивация”, “благо”, “инициатива”, “справедливость”. Очень интересно наблюдать за ходом мысли “вопрошающих”, а также за способностью “экспертов” идти в глубину и удерживать сложность. Хочу вам предложить сборку по “справедливости”, полученную на одной из недавних сессий вопрошания.

Как устроена сессия

Это процесс, в котором мышление расщеплено на отдельные роли:

  • Эксперт — это роль, удерживающая выбранную тематику. Человек в этой роли должен быть готов идти в глубину и распаковывать тему.
  • Инопланетянин — роль, обеспечивающая психологическую защиту вопрошающего, поскольку он не обязан соответствовать идеалам эксперта и может задавать наивные вопросы. Задача инопланетянина — пытаться понять эксперта и проблематизировать его модель.
  • Сборщик — это “понимающий”, тот, кто в потоке коммуникаций вычленяет ключевые понятия и выстраивает систему отношений.

Все эти роли одинаково важны и Концептолог, теоретически должен уметь удерживать либо все, либо пару этих ролей. Но без специальной подготовки людям бывает сложно держать даже одну роль. Тем не менее, иногда случается праздник интеллекта, когда сходятся классный Эксперт и не менее классный Инопланетянин, который становится проводником в глубинные глубины :)

Схема проведения сессии “вскрытия смыслов”

Обычно мы проводим сессии на несколько групп и это позволяет ротировать Инопланетян, обеспечивая не только глубину, но и широту вопрошания. Длительность тактов зависит от подготовленности участников. Для начинающих бывает достаточно 15 минут (длительность сессии 45 минут), для матёрых будет хорошо по 30 минут (1,5 часа общего времени).

Вот что получилось со “справедливостью”…

Справедливость и социальная справедливость

Эксперт Тарас Странник

Справедливость это внутреннее представление людей о том, что правильно. И о совпадении действия и воздаяние — по справедливости, это значит равно действие и результат.

Стремление к справедливости заложена в человека, это одна из высших ценностей. Но абсолютная справедливость не возможна, поскольку представления о ней у каждого человека и у каждой социальной группы различаются.

Социальная группа — может быть определена по наиболее близким представлениям о справедливости. Особенно в конфликтной зоне.
Представления о правилах и справедливости не выходит наужу и не проговаривается, поскольку это было бы бесконечно долго.

Конфликты и справедливость

Если убрать конфликты за ресурсы или власть, т.н. конкуренция, то остальные конфликты — это конфликты за справедливость. Обиды, месть и т.д.

Справедливость противоречит Свободе и равна Праву и Правде.

Во время конфликта и возникает разговор о справедливости и каждая сторона по-своему понимает эту справедливость. И только во время конфликта и возможно появление записанных правил конфликта.

Право и закон

Решенные когда-то конфликты и общественный договор по наиболее частым или серьезным поводом становится Законом. Закон это наиболее общие и более-менее принятые всеми правила справедливости.

Справедливость и этика

Справедливость одно из этических базовых постулатов, то, что справедливо — то хорошо. Существует множество разных справедливостей в обществе и борьба между ними и группами, их придерживающимися.

Справедливость имеет биологическую подоплеку и существует в мозге область, который отвечает за справедливость. Шимпанзе тоже имеют представление о справедливости.

Справедливость как социальный конструкт помогла выживать первобытным обществам, там где было понятие справедливого распределения ресурсов, те выживали лучше.

Т.е. есть Право, Закон, есть Мораль и Этика, и есть еще Индивидуальное представление о справедливости, которое обычно передается от родителей к детям. Традиция и семейные ценности. Все эти три вещи могут совпадать, а могут противоречить друг другу.

Карма и посмертное воздаяние — это попытки примирить не справедливо устроенный мир и стремление человека к справедливости. В античности считалось, что мир устроен правильно и справедливо, т.к. боги, создавая его руководствовались определёнными правилами, и если их соблюдать, то все будет хорошо и правильно.

Справедливость и власть

Те, кто находится у власти, устанавливают свои представления о справедливости. И борьба за власть снизу начинается именно за то, что текущая справедливость не удовлетворяет какие-то группы населения.

Я выступаю за релятивизм справедливости, а это автоматом ведет к снижению конфликтов, но и к снижению борьбы, а не факт, что сейчас это нужно. Вполне может быть, что нужна наоборот абсолютизация справедливости, для усиления конфликта.
Моя схематизация сборки Тараса

Клуб концептологов

Если Вам, уважаемый читатель, интересна компетенция Концептолога, посмотрите заметку с её описанием. А также включайтесь в телеграм-группу Клуба Концептологов, где мы публикуем полезные материалы и анонсируем различные события:

Клуб Концептологов


Справедливость глазами концептолога was originally published in smysloteka on Medium, where people are continuing the conversation by highlighting and responding to this story.

Оригинал и комментарии

Существует ли врожденная доброта? от sergey_57776

Интересные выводы из исследований собачников и кошатников

Привязанность к собакам зашита в наших генах.

Генетика — ключевой фактор, определяющий любовь к собакам (у женщин на 57%, а у мужчин — на 51%). Приговор окончательный и обжалованию не подлежит, т.к. статистика ломовая — из крупнейшей в мире базы данных о близнецах.

Подробней:

Хорошо. Но а как, с кошками?

И тут самое интересное.

По нашей генетике любви к кошкам исследований нет, т.к. по кошкам не ведутся подробные базы данных, как по собакам.

Но ведь было же еще одно исследование на той же базе близнецов — о поисках генетических отличий собачников от кошатников «The truth about cats and dogs: Are there genetic influences on pet ownership?»

И оно показало, что представления о прирожденных предпочтениях нами собак или кошек — миф. Гены здесь не причем.

Но тогда получается, что в наших генах зашита просто любовь к животным:
 — либо любим (собак, кошек, хомячков, попугайчиков и т.д.)
 — либо нет (жалко таких, но что поделаешь).

А может ли это различие быть неким показателем врожденной доброты?

По-моему, запросто.

________________________________

Если понравился пост:
- нажмите на “палец вверх”;
- подпишитесь на
обновления канала на платформе Medium;
- оставьте комментарий.
Еще больше материалов на моем Телеграм канале «Малоизвестное интересное».
Подпишитесь

Оригинал и комментарии

Внеземной разум где-то есть от sergey_57776

Если есть мультиверс и корень из 2

Можем ли мы утверждать, что на свете реально существует стотриллионный знак десятичного разложения квадратного корня из 2, если на практике рассчитан лишь триллионный знак?

Можно ли утверждать, что «нечто» существует:

  • если «нечто» на практике никто не видел,
  • и есть лишь логическое доказательство от противного некого свойства, из которого следует, что «нечто» якобы существует?

Стотриллионный знак — это пока что экспериментально непроверенное научное предсказание. Но это не мешает нам быть уверенными, что корень из 2 — иррациональное число, и у него обязательно будет стотриллионный знак. И сколько бы последователей Шигеро Кондо (рассчитавшего триллионный знак) ни взялись рассчитывать стотриллионный знак, ответ у них всех получится один и тот же. Ибо стотриллионный знак не только объективно существует в природе, но и существовал всегда и будет существовать вечно.

А теперь зададимся похожим вопросом.

Можем ли мы утверждать, что мультиверс — гипотетическое множество всех возможных параллельных вселенных, — реально существует?

Как и со стотриллионным знаком, мультиверс никто не видел. Это такое же экспериментально непроверенное научное предсказание.

И если наличие стотриллионного знака — это теоретическое следствие, неизбежно вытекающее из нашего понимания математики, то наличие мультиверса — неизбежное теоретическое следствие из нашего понимания законов физики.

А если кто-то пытается не признавать мультиверс, ссылаясь на спорность гипотезы, — тогда просто тупик. Ведь если мы признаем инфляционную космологию, управляемую квантовой физикой, мультиверс становится неизбежным следствием.

— Так может не признавать инфляционную космологию?

Но без нее повисают ответы на иначе неразрешимые проблемы космологии Большого взрыва.

— Тогда может и Большой взрыв не признавать?

А зачем? Лишь только из-за того, что идея мультиверса кажется нам принципиально непроверяемой?

Но ведь есть же вещи, которые мы не можем наблюдать, но которые, как мы знаем, должны существовать. Как например, со стотриллионным знаком корня из 2. Или как это было совсем недавно с гравитационными волнами.

А теперь о том, к чему я и клоню.

Вернемся к вопросу о существовании внеземного разума, поставленном в предыдущем посте на эту тему.

Ответ здесь довольно очевиден. Тут логика в одно действие. Достаточно признать, что мультиверс существует, как существование внеземного разума становится теоретически неизбежным.

Ибо мультиверс столь огромен, что чисто комбинаторным образом в нем возникает все возможное. Абсолютно все, что только может, в принципе, существовать. Включая неограниченное число внеземных разумов.

А раз так, то

«можно точно сказать, что внеземной разум где-то есть; вопрос лишь в том, каково расстояние до ближайшей цивилизации от нас».

Как это и было сказано дфмн. А.Д. Пановым — известным ученым, ведущим семинар по космической философии НКЦ SETI — в его лекции «Вселенная и Мультиверс». Вот этот момент лекции. Послушайте сами.

Послушайте всю лекцию. В ней очень интересные вещи рассказываются. Весьма возможно, что это лучшая популярная лекция в сети на сложнейшую для понимания тему мультиверса. Не зря же она первоначально была спроектирована Пановым для прочтения отряду космонавтов, а потом многократно дополнялась и усовершенствовалась.

• Об ошибке Эйнштейна.
• О скорости больше скорости света.
• О том, что превышает видимую Вселенную в 10**10**100 раз.
• О космической неопределенности и австралийском диполе.
• О мультиверсе 4ёх уровней.

И о том, что, если все непротиворечивые математические структуры существуют физически, то Вселенная абсолютно познаваема: надо только включить воображение и двигаться по пути этого познания.

Слайды лекции (начиная с 21го)

Предыдущий пост на эту тему.

________________________________

Если понравился пост:
- нажмите на “палец вверх”;
- подпишитесь на
обновления канала на платформе Medium;
- оставьте комментарий.
Еще больше материалов на моем Телеграм канале «Малоизвестное интересное».
Подпишитесь

Оригинал и комментарии

Начало конца американского Big Tech’а от sergey_57776
The logos of Amazon, Apple, Facebook and Google in a combination photo. REUTERS/File Photos

Если смотрели сериал «Миллиарды», то знаете, насколько серьезный урон могут понести даже крупнейшие компании от серьезного наезда федеральных властей (в первую очередь, Министерство юстиции и FTS). Могут посадить топов, могут разорить, расчленить и опустить владельцев. И все это, — с особым цинизмом и размахом.

Теперь мы можем наблюдать это в реальной жизни и в реальном времени — свора федералов спущена на компании Big Tech’а:

- свора Министерства юстиции спущена на растерзание Apple и Google.
- свора FTS будет грызть Amazon и Facebook.

Начато глобальное расследований антиконкурентного поведения технических гигантов. Детали расследования держат в тайне. Но уже просочилась информация, что в итоге расследования ставится цель

Amazon и Apple сильно припугнуть, но до смерти не убивать,
а вот с Google и Facebook оттянуться по полной.

Из многих способов давления на китов бизнеса, антимонопольные меры всегда были одними из самых значительных и разрушительных способов наезда со стороны федеральных властей.

Это может привести к таким серьезным последствиям, как разделение компаний. Но даже если этого не произойдет, все равно, наезд федералов может серьезно отвлечь усилия компаний от развития, затормозить поток инноваций и стоить больших денег.

Microsoft уже усвоил этот тяжелый урок после антимонопольной борьбы с Вашингтоном два десятилетия назад.

Почему же теперь навалились на эту четверку?

Мой ответ — из-за начавшейся «гонки вооружений» в области ИИ (“AI arms race”).

Год назад я писал, что маховик ИИ-национализма в США уже раскручивается, и скоро начнется волна ИИ-национализации.

Напомню:

  • ИИ-национализм провозглашает приоритет экономических и военных интересов страны главной целью национальных ИИ-стратегий;
  • ИИ-национализация направлена на интеграцию ресурсов государства и частных компаний с переориентацией стратегических целей бизнеса на экономические, геополитические и военные интересы государства.

Вот и настало время выкрутить руки гигантам Big Tech’а, дабы навсегда отбить охоту пренебрегать интересами государства на фоне нарастающей мощи Китая.

- Microsoft радостно сотрудничает в военными и разведкой — и к компании претензий нет.

- Amazon и Apple против сотрудничества сильно не возражали — и поэтому их лишь напугают (дабы и дальше вели себя прилично)

- А вот Google и Facebook будут бить от души. Google — за историю с отказом сотрудничать c программой Maven. Facebook — за изворотливость Цукерберга, превратившего слушания в Конгрессе в ничего не значащий фарс без каких-либо последствий.

Wall Street уже понял, что началось. За день акции Alphabet упали на 6%, а Facebook — больше чем на 7%. Бой бульдогов под ковром начался.

Следующий раунд — слушания в Конгрессе.

Ну а самое интересное, как обычно в таких случаях, происходит под ковром.

Но об этом Reuters, к сожалению, не напишет.

А начиналось все довольно мирно.

________________________________

Если понравился пост:
- нажмите на “палец вверх”;
- подпишитесь на
обновления канала на платформе Medium;
- оставьте комментарий.
Еще больше материалов на моем Телеграм канале «Малоизвестное интересное».
Подпишитесь

Оригинал и комментарии

И снова о панических атаках от shvaratsky

Оригинал и комментарии

США близки к проигрышу ИИ-гонки Китаю от sergey_57776
Источник: https://www.merics.org/en/papers-on-china/chinas-digital-rise

Итоговый анализ технологических, финансовых и политических действий США и Китая по состоянию на июнь 2019 позволяет констатировать вышесказанное.

Во вчерашнем посте дана оценка объемов финансирования развития ИИ США и Китаем на ближайшие годы.

В феврале сего года, когда еще не было окончательной ясности позиции США в этом вопросе, я писал что: Китай обходит США в ИИ-гонке. США сдаваться не намерены, но переломить ситуацию пока не могут. Дополнительные материалы к приведенному в упомянутом посте анализу можно найти в презентации доклада, прочитанного в феврале мною в Американской торговой палате (AmCham Russia).

Мой доклад заканчивался цитатой Венди Андерсона — экс-замначальника Генштаба США, GM Defense & National Security:

«На сегодняшний день мы, в основном, участвуем в дебатах о запрете экспорта ИИ. В отсутствие значительных федеральных расходов на ИИ и отсутствия надежной национальной стратегии в области ИИ мы теперь еще и пытаемся ограничить способность наших частных компаний получать доступ к капиталу посредством международных продаж на крупнейшие мировые рынки …
Мы проигрываем эту гонку».

Прошедшие 4 месяца позволяют мне предположить, что можно перефразировать итоговую фразу этой цитаты на —

… Мы близки к проигрышу этой гонки.

Но ведь просто так США эту гонку не проиграет. Сверхдержава, столько лет бывшая единственным лидером в области ИИ, рано или поздно опомнится.

И что будет тогда?

Остается только уповать, что прогноз из доклада Директора Open AI Джека Кларка о возможном «ИИ-Чернобыле» (см. «Artificial Intelligence and Countries: What Might Happen, What We’d Like to Happen, What We Should Avoid Letting Happen» в «Technology and National Security: Maintaining America’s Edge») все же не сбудется.

«Если правительство считает, что оно не участвует в гонке за сотрудничество с другими частными или государственными субъектами, у него появится стимул к тому, чтобы срезать углы на методах предсказуемости, надежности и отказоустойчивости таких систем. Это может привести к развертыванию мощных ИИ-систем с непредсказуемыми профилями риска-приглашая нас задаться вопросом, как может выглядеть ИИ-Чернобыль».

Китай перспектива мирового «ИИ-Чернобыля» вряд ли остановит.

А вот США?

________________________________

Если понравился пост:
- нажмите на “палец вверх”;
- подпишитесь на
обновления канала на платформе Medium;
- оставьте комментарий.
Еще больше материалов на моем Телеграм канале «Малоизвестное интересное».
Подпишитесь

Оригинал и комментарии

Россия включается в мировую ИИ-гонку от sergey_57776

США тормозит. А Китай уходит в отрыв

Последние новости позволяют оценить серьезность и масштаб российских претензий в мировой ИИ-гонке, а также расклад мировых сил в этой гонке на ближайшие год-два.

Новости такие.

РОССИЯ

• Сегодня Путин проведет совещание по развитию технологий в области ИИ. Центральной темой встречи станет обсуждение разработанной Сбербанком национальной стратегии развития искусственного интеллекта.

• Сегодня же объявлено о конкретных цифрах финансирования, полученных РФПИ от иностранных инвесторов для финансирования российских компаний в сфере ИИ — $2 млрд.

• Исходя из российской практики, можно предположить, что федеральные инвестиции в ИИ составят примерно ту же сумму — до $2 млрд.

США

• 21 мая 2 сенатора США представили национальную стратегию по ИИ. Сенаторы — соучредители Совета по ИИ Сената, — совместно с членом Комитета по торговле Сената, представили S. 1558 — двухпартийный Закон об инициативе в области ИИ (AI-IA). Его цель — координация национальной стратегии развития ИИ, обеспечиваемой федеральными инвестициями в размере $2,2 млрд.

Из этих новостей можно сделать такие выводы.

  1. Объемы федеральных инвестиций в ИИ со стороны России и в США будут примерно одинаковые — примерно, по $2 млрд.
  2. Инвестиции в ИИ со стороны бизнеса России и США отличаются на полтора порядка. Заявление Грефа «мы будем точно не хуже Google и Apple» останутся благими пожеланиями при текущем уровне финансирования НИОКР. Например, в Google в 2018 бюджет НИОКР был $21 млрд. В Сбербанке на полтора порядка меньше.
  3. Т.о. суммарное финансирование развития ИИ правительством и бизнесом США и России будет примерно $30+ млрд против $4+ млрд.

Ну а теперь самое интересное.

КИТАЙ

Лучшим источником данных по ИИ Китая сейчас служит разведка США. Сами китайцы, конечно, тоже много публикуют, но сильно дозируют информацию, давая её под выгодным для себя углом зрения.

Но разведка США держит руку на пульсе. Две недели назад Комитет по разведке Палаты представителей США провел открытые слушания на тему «Цифровой авторитаризм Китая: наблюдение, влияние и политический контроль».

Желающие могут почитать все тексты слушаний и посмотреть выступления экспертов.

Резюме удручающее.

  1. Китай развертывает в беспрецедентных масштабах широкую сеть наблюдения, которая использует достижения ИИ и МО для устранения внутриполитического инакомыслия и оптимизации политического контроля Компартии.
  2. Китай экспортирует эту модель технологического социального контроля в страны всего мира, способствуя международному возрождению и скатыванию к авторитаризму во многих странах с формирующейся демократией.
  3. Принятые и экспортируемые Китаем инвазивные меры наблюдения направленны на оптимизацию политического контроля и включают в себя (а) систему социального кредитования и (б) интегрированное решение Huawei «Безопасный город».
  4. Эти попытки Пекина бросить вызов международному порядку поддерживаются беспрецедентным финансированием, как со стороны государства (порядка $30–40 млрд), так и со стороны бизнеса (порядка $60–80 млрд)
Подводя итог, зафиксируем, что суммарное финансирование развития ИИ Китаем превысит объемы финансирования:
США — примерно втрое;
России — примерно в 20+ раз.

________________________________

Если понравился пост:
- нажмите на “палец вверх”;
- подпишитесь на
обновления канала на платформе Medium;
- оставьте комментарий.
Еще больше материалов на моем Телеграм канале «Малоизвестное интересное».
Подпишитесь

Оригинал и комментарии

Поворотный момент в развитии ИИ от sergey_57776

Каким может стать ИИ после смены парадигмы

© iStock/monsitj

Дискуссии о том, что развитие ИИ идет не туда, становятся все более активными и авторитетными. Все больше исследователей разделяют мысль, что глубокое обучение, хоть и эффективно для узких практик, но бесполезно для реализации универсального механизма когнитивных функций типа биологического разума. И уже нет большой надежды, что, идя по этому направлению, что-то кардинально изменится.

Критики магистрального направления развития ИИ предостаточно.

Но что же взамен? Какие альтернативы?
Источник: https://ieeetv.ieee.org/mobile/video/voicehd-hyperdimensional-computing-for-efficient-speech-recognition-ieee-rebooting-computing-2017

Апологеты существующей парадигмы ИИ, в авангарде которых, естественно, ее главные выгодоприобретатели — крупный бизнес, пока успешно отбиваются от нападок. Так и так, мол, мы ищем альтернативные пути, но реальных практических альтернатив пока нет.

А ведь это не так. Альтернативы есть.

И чтоб не сотрясать голословно воздух, вот конкретный пример потенциальной смены парадигмы –

ИИ на основе активного восприятия (“active perception”)

Это совершенно иной тип интеллекта, нежели ИИ в современной парадигме. Его принципиальная новизна в интеграции восприятия и действия.

При активном восприятии поведение агентов направлено на увеличение информационного содержания, получаемого из потока сенсорных данных в результате поведения агентов в конкретной среде.

Иными словами, чтобы понять мир, мы перемещаемся и исследуем его. Мы исследуем мир глазами, ушами, носом, кожей и языком, исследуя и конструируя свое понимание (восприятие) окружающей среды на основе своего поведения (действий).

Восприятие может быть основана на какой-угодно сенсорной информации (зрительной, слуховой, обонятельной и т.д.) об объектах окружающей среды, представляющих собой образы (визуальные, слуховые и т.д.) или коды (тексты, последовательности ДНК и т.д.).

Действие также может быть каким-угодно: движение, распознавание, классификация и т.д.)

Целью интеграции восприятия и действия является достижение понимания со стороны ИИ стоящих перед ним задач и выбора способа их решения на основе этого понимания.

Способом достижения названной цели является формирование у ИИ в ходе его постоянного обучения памяти и рефлексов.

Пример

Например, если сегодняшний традиционный ИИ используется для управления роботом или самоуправляемым авто, в нем работают три отдельные системы:

  • датчики информации (сенсоры) об окружающей среде (включая собственное положение);
  • исполнительные механизмы, которые перемещают робота/авто, а также управляют (механически, электрически, пневматически …) его собственной инфраструктурой;
  • центральный обучающийся механизм, который определяет необходимое действие с учетом данных датчиков или наоборот.

Эти три системы «говорят» на разных языках и ни одна из них, в реальности, не знает, как выглядит машина, человек, велосипед, собака … и потому просто не может их видеть, а лишь отрабатывает реакции на паттерны, сформированные в процессе глубокого обучения.

При активном восприятии все совсем иначе.

Активный воспринимающий ИИ:

  1. Знает, почему и зачем он хочет получить от сенсоров ту или иную информацию.
  2. В соответствии с этим, он выбирает, что он будет воспринимать, и определяет, как, когда и где достичь этого восприятия.
  3. В итоге, он выбирает и фиксирует сцены, моменты времени и эпизоды.
  4. Затем он балансирует свои механизмы, датчики и другие компоненты, помогая себе увидеть то, что он хочет видеть, и выбирая точки обзора, с которых лучше всего это увидеть так, как ему требуется.
Звучит весьма заманчиво.
Но как можно реализовать подобное активное восприятие на практике?

Ответ на этот вопрос есть. Вполне практический и уже экспериментально опробованный — нужно сменить метод вычислений на

Гиперразмерные вычисления

За полвека существования ИИ для его реализации использовались два метода вычислений: символический и искусственные нейронные сети. Ни тот, ни другой метод не позволяет на практике реализовать активное восприятие: получается настолько медленно и неэффективно, что не помогает даже самое мощное вычислительное оборудование.

Но есть 3й — промежуточный путь между символическим вычислением и вычислением с помощью искусственных нейронных сетей. Это гиперразмерные вычисления (Hyperdimensional Computing), оперирующие с гиперразмерными двоичными векторами (HBV — Hyperdimensional Binary Vectors).

Источник: https://ieeetv.ieee.org/mobile/video/voicehd-hyperdimensional-computing-for-efficient-speech-recognition-ieee-rebooting-computing-2017

Традиционные вычисления рассматривают биты, числа и указатели памяти как базовые объекты, на которых построено все остальное. В гиперразмерных вычислениях базовыми объектами являются операции с многомерными векторами, например, с 10 000-битными словами.

При этом:

  • ни один отдельный бит или подмножество битов не имеют собственного значения;
  • любая часть информации, закодированная в вектор, распределена по всем компонентам (чем-то это похоже на Блокчейн);

В итоге, традиционная запись данных, разделенная на поля, кодируется как многомерный вектор с наложенными полями.

Вместо Булевой алгебры традиционных вычислений здесь используется иная алгебраическая структура, называемая “полем” (Field).

Две операции над многомерными векторами соответствуют сложению и умножению чисел. Добавляя 3ю операцию — перестановку координат

-получаем систему вычислений, которая в некотором роде богаче и мощнее арифметики, а также отличается от линейной алгебры.

Эти три операции, применяемые к ортогональным или почти ортогональным векторам, позволяют кодировать, декодировать и манипулировать наборами, последовательностями, списками и произвольными структурами данных гипер-высоких размерностей (более 10 тыс.) Одна из причин высокой размерности заключается в том, что она обеспечивается бесконечным запасом почти ортогональных векторов. Получается это за счет того, что каждый новый случайно сгенерированный вектор почти ортогонален любому уже сгенерированному вектору.

Помимо вычислительного устройства архитектура гиперразмерных вычислений включает в себя память, которая, будучи вызвана многомерным вектором, находит своих ближайших соседей среди сохраненных векторов. Похожим на это примером может служить работа ассоциативной памяти нейронной сети.

Теперь хотелось бы понять –

Какими новыми универсальными когнитивными функциями обладает ИИ активного восприятия

В ИИ активного восприятия возможности действий, сенсорного ввода и управляющая информация

  • занимают одно и то же пространство,
  • «говорят» на одном языке
  • и сливаются воедино,

как бы создавая своего рода память для такого ИИ. Гиперразмерная структура может превратить любую последовательность воспринимаемых «сенсорных моментов» в новые HBV и сгруппировать существующие HBV вместе, — все с одинаковой длиной вектора.

Это естественный способ создания семантически значимых «воспоминаний». Кодирование все большего количества информации, в свою очередь, приводит к векторам «истории» и способности их запоминать.

Сигналы становятся векторами, индексирование переводится в память, а обучение происходит посредством кластеризации. Воспоминания ИИ о том, что он почувствовал и сделал в прошлом, могут заставить его ожидать будущего восприятия и влиять на его будущие действия (вырабатывая что-то типа рефлексов). Такое активное восприятие позволит ИИ стать более автономным и лучше выполнять задачи.

Получается почти как у биологического интеллекта. Просто дух захватывает.

Только один вопрос -

Почему же такой замечательный ИИ еще не сделали?

Вопрос резонный. Гиперразмерные вычисления придумали совсем не вчера.

Но проблема была в том, что не могли придумать практически реализуемый способ интеграции восприятия ИИ с его действиями, с которым можно реально экспериментировать не в теории, а в деле.

Иными словами, было не ясно, что использовать на входе для кодирования гиперразмерных векторов.

И вот, наконец, придумали решение этой задачи для самой, пожалуй, актуальной задачи робототехники и самоуправляемых авто — активное восприятие движения.

Секрет оказался в использовании зрительных сенсоров принципиально иного типа -

Датчики динамического зрения

Использование датчиков динамического зрения (DVS) вместо обычных камер было ключевым компонентом проверки работоспособности теории гиперразмерных вычислений. Большинство методов компьютерного зрения используют изображения, качество которых определяется плотностью пикселей.

Плотность пикселей хорошо отражает моменты во времени, но не идеальна для представления движения, потому что движение — это непрерывный объект. А датчики динамического зрения (DVS) фиксируют не изображение, а как раз этот непрерывный объект. DVS не «делает снимки» в обычном смысле, а фиксирует движение в виде «потока событий», фокусируясь на границах объектов при их движении. За счет этого визуализация DVS куда лучше подходит для наблюдения движения со стороны ИИ активного восприятия.

Вдохновленный зрением млекопитающих, DVS поддерживает широкий спектр условий освещения, от темного до яркого, и допускает фиксацию даже очень быстрого движение в условиях множества шумов.

Но главное — это то, что данные, которые накапливает DVS, намного лучше подходят для интегрированной среды теории гиперразмерных вычислений, поскольку данных от DVS намного меньше, чем от последовательности изображений.

Резюме

ИИ активного восприятия на основе гиперразмерных вычислений и датчиков динамического зрения способен сменить существующую ИИ парадигму за счет того, что:

  • у ИИ формируются воспоминания о том, что он почувствовал и сделал в прошлом;
  • эти воспоминания могут заставить его ожидать будущего восприятия и влиять на его будущие действия (рефлексы);
  • такое активное восприятие позволит ИИ стать более автономным и выполнять универсальные классы задач, выходящие за рамки робототехники и самоуправляемых авто.
Если все так замечательно, почему же Google и Со. этого еще не делают?

Первый ответ, как в Одессе, — вопросом на вопрос: а вы уверены, что не делают? Дело ведь архисекретное. Тот, кто сделает первым, возьмет банк.

А второй ответ практический.

Написание операционной системы для гиперразмерных вычислений — задачка будь здоров. А без нее все будет оставаться на уровне академических экспериментов.

И последнее.

Ключом к новой ИИ парадигме оказывается математика.

Как хорошо сказал «отец» гиперразмерных вычислений Пентти Канерва (Pentti Kanerva)

«Математики гиперразмерных репрезентаций, точно, не хватит для объяснения работы мозга. Но этот подход может помочь вымостить путь к более комплексным моделям, основанным на более глубокой математике. Проблема заключается в нахождении математических систем, еще более точно отражающих поведение когнитивных систем, которые мы хотим понять. Будем надеяться, что найдутся математики, готовые погрузиться в решение этой проблемы и указать нам правильный путь».

Дополнительные материалы.

• Только что опубликованная работа «Learning sensorimotor control with neuromorphic sensors: Toward hyperdimensional active perception» о реализации ИИ активного восприятия на основе гиперразмерных вычислений и датчиков динамического зрения.

________________________________

Если понравился пост:
- нажмите на “палец вверх”;
- подпишитесь на
обновления канала на платформе Medium;
- оставьте комментарий.
Еще больше материалов на моем Телеграм канале «Малоизвестное интересное».
Подпишитесь

Оригинал и комментарии

Революция ИИ-дронов на подходе от sergey_57776
Источник: http://rpg.ifi.uzh.ch/docs/ICRA19_Delmerico.pdf

Современный военный дрон — это вовсе не банальный маленький беспилотный самолетик, способный переносить груз размером с пицу.

Одиночные дроны стали идеальными роботами-убийцами, оставив без работы большинство ниндзя. Идеально скрывающиеся роботы-убийцы широко используются, например, на Ближнем Востоке, чтобы людям-операторам быстро, эффективно и абсолютно безнаказанно уничтожать других людей на значительном расстоянии.

И это далеко не все. Сегодня рой дронов уже может запросто устранить целый авианосец.

Причем обе вышеописанные функции даже не требуют автономии.

А можете себе представить возможности автономных одиночный и роевых ИИ-дронов в руках военных и террористов?

Что же не хватает современным операторским дронам на пути к полуавтономным ИИ-дронам завтрашнего дня?

Ответ — не хватает всего лишь данных для обучения.

Нужны большие, разнообразные, сложные тесты, чтобы продвинуть прогресс в этой области, подобно тому, как ImageNet побудила исследователей применять методы глубокого обучения для решения того, что в то время казалось очень сложной задачей распознавания образов.

Новый серьезный шаг в этом направлении сделан. Исследователи Университета Цюриха и ETH Zurich разработали набор данных UZH-FPV Drone Racing Dataset, который является самым крутым набором данных визуально-инерциальной одометрии на сегодняшний день.

Большие ускорения и сложные траектории крайне затрудняют обучение сложным полетам. Нужно научить ИИ-дроны высокоскоростной оценке состояния и мгновенному принятию верных решений. Однако, существующие наборы данных не решают эту проблему. Это и побудило исследователей записывать видео с места пилота гоночного квадрокоптера, оснащенного датчиками и пилотируемого профессиональным пилотом. Траектории включают быстрые круги вокруг полигона с гоночными воротами, а также траектории свободной формы вокруг препятствий, как внутри, так и снаружи (например, слалом между деревьями).

Исследователи записали 27 последовательностей полета по двум типам ландшафтов, и эти траектории являются по существу мультимодальными, включая измерения датчиков, записанных на двух разных бортовых компьютерах, а также внешние измерения с внешнего трекера.

Камеры событий представляют собой новые биодатчики, которые измеряют изменения яркости асинхронно в форме потока событий (см. вчерашний пост), кодирующих знак и местоположение изменения яркости на плоскости изображения.

Итак, гожий набор данных есть.

Осталось научить дронов гонкам. И тогда из крадущихся они превратятся в настоящих терминаторов.

Подробнее:

- Готовы ли мы к автономной гонке дронов? UZH-FPV Drone Racing Dataset (PDF)

- UZH-FPV Drone Racing Dataset (веб-сайт ETHZurich)

См. также «Страшная штука — беспилотные летающие убийцы»

________________________________

Если понравился пост:
- нажмите на “палец вверх”;
- подпишитесь на
обновления канала на платформе Medium;
- оставьте комментарий.
Еще больше материалов на моем Телеграм канале «Малоизвестное интересное».
Подпишитесь

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

Отзывы (через аккаунты в социальных сетях Вконтакте, Facebook или Google+):

Оставить отзыв с помощью аккаунта ВКонтакте:

Оставить отзыв с помощью аккаунта FaceBook:

Архив лучших постов