Недавние тренды рунета
«Код разума» закодирован в геноме миллионами лет «эволюции с подкреплением»
Это может стать Коперниковской революцией в понимании модели разума
Kоперниковская революция сменила парадигму модели мироздания — Земля перестала быть центром вселенной. Переход на гелиоцентрическую модель заложил основу научной революции не только в астрономии, но и во всем естествознании, радикально изменив образ мышления естествоиспытателей.
Революцией такого же масштаба в понимании разума
может стать «Задорская революция», манифест которой опубликовал профессор Энтони М. Задор.
Вот его суть.
1) Хватит морочить себе голову, и пора признать следующее.
- Современные исследования в области ИИ вообще не ведут к созданию разума, а лишь имитируют его отдельные возможности (бумажный голубь тоже парит, но он — вовсе не птица, не модель птицы и даже не этап к построению модели птицы).
- Во многих отношениях ИИ далек от возможностей интеллекта детенышей собаки, мыши или даже паука, и не похоже, что простое расширение существующих подходов позволит хоть когда-то достичь этих целей (многие животные эффективно функционируют после 10⁶ и даже меньшего количество секунд жизни: белка может прыгать с дерева на дерево через несколько недель от рождения, жеребенок может ходить через несколько часов, а пауки рождаются готовыми к охоте).
- Никакими из существующих методов машинного обучения эту проблему не решить в принципе (земные живые существа не имеют такого времени и объемов данных, что требуются даже при самых продвинутых и эффективных методах машинного обучения).
- Разрыв между мышью и человеческим интеллектом намного меньше, чем между нынешним ИИ и мышью. Это значит, что даже если наша конечная цель — догнать (не то что перегнать) человеческий интеллект, разумной ближайшей целью для ИИ было бы достичь интеллекта мыши.
2) Результаты исследований тысяч всевозможных типов разума живых существ однозначно показывают.
- БОльшая часть сенсорных представлений и поведения живых существ врожденная. Например, многие обонятельные стимулы являются врожденно привлекательными и аппетитными (кровь для акул) или отвратительными (моча лисы для крысы). Ответы на зрительные стимулы также во многом врожденные. Например, мыши убегают от любой движущейся тени, что позволяет быстро обнаруживать и избегать воздушных хищников.
- Роль врожденных механизмов выходит далеко за рамки простого установления реакций на сенсорные представления. Значительная часть поведенческого репертуара животных и людей является не результатом умных алгоритмов обучения — контролируемых, неконтролируемых, с подкреплением — а скорее программами поведения, уже присутствующими при рождении.
- Выживание животного требует решения «проблемы К2БС» — кормление, борьба, бегство и спаривание. Решения многократного и, возможно, только с небольшими изменениями. Также и человек рождается и имеет очень ограниченное время — от нескольких дней до нескольких лет — чтобы выяснить, как решать К2БС проблему. Если ему это удается, он передает часть своего решения (т.е. половину своего генома) следующему поколению.
3) Если только не допустить вмешательство Бога, у нас нет иного объяснения передачи паттернов поведенческих умений между поколениями, чем геном.
- Если большая часть поведения животного является врожденной, то жизненный опыт животного представляет лишь небольшую часть данных, которые способствуют его приспособленности. Другой потенциально гораздо больший пул данных способствует его врожденному поведению и представлениям. Эти врожденные формы поведения и представлений возникают в результате эволюции путем естественного отбора. Они кодируются в геноме и принимают форму правил прошивки мозга, определяющих структуру и интенсивность связей нейронов.
- Таким образом, эволюция, как и обучение, также может рассматриваться как механизм извлечения статистических паттернов, хотя и в гораздо более длительном масштабе времени, чем обучение. Эволюция может рассматриваться как своего рода алгоритм обучения с подкреплением, действующий на временной шкале поколений, где сигнал подкрепления состоит из количества потомства, которое генерирует индивид.
- Для ИИ нужны иные (новые) классы алгоритмов. Принципиальный изъян сегодняшних алгоритмов обучения ИИ в том, что эти алгоритмы НЕ являются аналогом обучения животных. Поскольку большинство данных, влияющих на приспособленность животного, кодируются эволюцией в геном, новые алгоритмы должны имитировать это свойство эволюции. Иными словами, нужно идти от Supervised Learning к Supervised Evolution, а потом и к «эволюции с подкреплением» — Reinforcement Evolution.
4) Мы думали, что понимаем код генома … Но мы ошиблись — все существенно сложнее
- Врожденные механизмы кодируются в геноме. В частности, геном кодирует чертежи для подключения нервной системы — чертежи и спецификации прошивки топологии и силы связей нейронов. Эти чертежи были отобраны эволюцией в течение сотен миллионов лет, работая с бесчисленными квадриллионами живых существ. Схемы, указанные в этих чертежах, обеспечивают основу для врожденного поведения, а также для любого обучения, которое происходит в течение жизни животного.
- Геном не обладает достаточной информационной емкостью, чтобы явно указывать каждое соединение (даже если бы каждый нуклеотид человеческого генома был бы направлен на эффективное определение связей в мозге, информационная емкость все равно была бы по меньшей мере на шесть порядков меньше необходимой). Вместо этого в геноме прописывается набор правил прошивки мозга во время его «изготовления» и функционирования. Даже короткий набор правил может легко определить проводку очень большого числа нейронов. Кроме того, в основе прошивки лежит использование множества копий базовой «канонической микросхемы», используемой не только для прошивки сенсомоторных и прочих чувственных элементов разума, но и для прошивки врожденных схем усвоения языка — привет Ноаму Хомскому, механизма рассуждений и здравого смысла (подробней см. в «манифесте Задорской революции»).
- Итого получается, что геном не кодирует представления или поведение напрямую, а кодирует правила и шаблоны прошивки, которые затем должны создавать экземпляры поведения и представлений. Как кодирует — мы пока не знаем. Но именно эти правила прошивки («Код разума») и являются целью всей эволюции. Чтобы расшифровать «Код разума», нужен, как минимум, инструментарий для точного считывания прошивки на уровне каждого нейрона. И мы к такому инструментарию приближаемся.
Резюме.
Идя таким путем, мы, наконец, поймем ошибочность метафоры ИИ, использовавшейся нами десятки лет — метафоры полета птицы в основе построения самолета.
Тот универсальный ИИ общего назначения, что мы пытаемся строить в рамках вышеназванной метафоры — вовсе не будет универсальным. Да, он будет летать. Но при этом он останется настолько ограниченным, что никогда не сможет соответствовать человеческим возможностям.
Ведь и самолет по некоторым показателям значительно превосходит птицу: он может летать намного быстрее, на большей высоте, на большие расстояния, с гораздо большей грузоподъемностью. Но самолет не может нырнуть в воду, чтобы поймать рыбу, или бесшумно сбежать с дерева, чтобы поймать мышь.
Точно так же современные компьютеры по некоторым показателям уже значительно превзошли вычислительные способности человека (например, в шахматах или Го), но не могут сравниться с людьми по универсальности интеллекта.
Если мы хотим спроектировать систему, которая может делать то, что делаем мы, нам нужно построить ее в соответствии с теми же принципами проектирования.
Вместо заключения.
PRO
Автор «манифеста Задорской революции» Anthony M. Zador — известный американский нейробиолог, профессор биологии и зав. кафедрой нейронаук в Cold Spring Harbor Laboratory, соучредитель конференции по вычислительной и системной неврологии, обладатель звания Foreign Policy Global Thinker за 2015 и победитель премии Gill Transformative Investigator Award за 2018.
Т.е. это очень серьезный дядя. И отнестись к его «манифесту» следует весьма серьезно.
CONTRA
Опубликованный «манифест» — A Critique of Pure Learning: What Artificial Neural Networks can Learn from Animal Brains — пока что препринт и еще не прошел рецензирования.
Но, черт побери, мне он очень нравится!
________________________________
Если понравился пост:
- нажмите на “палец вверх”;
- подпишитесь на обновления канала на платформе Medium;
- оставьте комментарий.
Еще больше материалов на моем Телеграм канале «Малоизвестное интересное». Подпишитесь
Оригинал и комментарии
После 60 лет поиска шансы проекта SETI начали расти
В тройку самого важного и интригующего малоизвестного интересного, несомненно, входит поиск внеземного разума.
Об этом самое время поговорить, благо в этом году проекту поиска внеземного разума SETI (Search for Extra-Terrestrial Intelligence) исполняется 60 лет.
Тех же, кто считает SETI — пустым делом, отговаривать не буду. Но смею заверить, — они категорически ошибаются. И вот почему.
Во-первых, согласно современным научным представлениям, инопланетный разум просто должен существовать, ибо мультиверс невообразимо огромнен, и в нем чисто комбинаторным образом возникает все возможное. Пояснение этой удивительной теории отложу на следующий раз, поскольку сейчас, в связи с юбилеем SETI, хочу сфокусироваться именно на проблеме поиска.
Во-вторых, тот факт, что пока никого не нашли, — следует, со всей очевидностью, из двух вполне объективных причин (о которых скажу ниже).
В-третьих, — именно сейчас начали складываться условия для преодоления упомянутых объективных причин. Так что теперь с каждым годом шансы будут расти. И в ближайшие лет 20–30 эти шансы будут куда выше, нежели чем шансы разработать сильный ИИ.
Теперь об объективных причинах, почему до сих пор не нашли.
Их две.
- До сих пор искали весьма по-детски. Образно говоря, — «под фонарем», т.е. не там, где потеряли, а где проще искать.
- Поскольку пока не решили, как должно выглядеть то, что мы ищем, считается, что это нечто есть среди того, что мы видим под фонарем.
Вторая из названных причин объясняется так.
В течение 60 лет большинство ученых предпочитают искать радиосигналы, потенциально исходящие от инопланетян. Это классический подход SETI с точки зрения здравого смысла и технических возможностей человечества. Радиосигнал может легко преодолевать световые годы, и технология его обнаружения хорошо известна и весьма чувствительна.
Но кто сказал, что это действительно лучший план?
Возможно ли, что мы делаем неправильную ставку, фокусируясь на поисках именно радиосигналов?
Ведь есть привлекательные альтернативы. Например.
- Поиск физических артефактов — инопланетных мегаструктур.
- Поиск т.н. Сфер Дайсона — устройств для сбора энергии своей звезды.
- Поиск следов перемещения звезд, к которому, как предполагается, рано или поздно должны приходить супер-развитые цивилизации.
Что же до 1й из вышеназванных причин — не там ищем,
— то здесь все совсем просто.
Чтобы поймать сигнал, требуется, чтобы он, как минимум, достиг вашего телескопа в тот самый момент, когда вы направили его на источник сигнала. Это т.н. «проблема синхронности» в SETI.
Она подобна попыткам сбить своей пулей пулю, выпущенную кем-то другим в вашем направлении. Т.е. невероятный вариант.
Почти в каждом эксперименте поиска радиосигналов по программе SETI, количество времени прослушивания любой заданной частоты, составляет всего несколько минут. Вселенная существует около десяти тысяч триллионов минут. И поэтому усилия SETI — это все равно, что подбить чужую пулю своей.
Так что работы здесь немеряно много. Как сказал Джилл Тартер, руководитель группы мониторинга космических сигналов, —
«если зачерпнуть стакан воды из океана и не обнаружить в нем ни единой рыбки, не стоит думать, что их там вообще нет. Так и с поиском космических цивилизаций».
Так почему же именно сейчас начали складываться условия для преодоления упомянутых объективных сложностей?
Никаких чудес. Дело в:
- колоссальном повышении вычислительной мощности обработки сигналов,
- и прогрессе машинного обучения для выявления статистических паттернов.
Растущая вычислительная мощь позволяет обрабатывать сигналы на порядки быстрее.
А глубокое обучение дает шанс, наконец, «выйти из под фонаря» и начать искать сигнал не в узкой радио полосе (шириной 2,5 МГц, покрывающей частоту излучения космического атомарного водорода 1,420 ГГц.), а куда шире.
Но что еще важнее, теперь можно пытаться искать куда более сложные паттерны, т.к. теперь машинное обучение способно помочь людям эти паттерны выявить и понять.
Ибо послание может:
- казаться нам шумом (о чем предупреждал великий Станислав Лем);
- или быть записано на вневременно-иероглифическом языке, перпендикулярном человеческому способу мышления.
А ведь есть и еще более экзотические варианты.
Например, послание может быть адресовано коллективному бессознательному, записано на языке гильбертовых пространств и отправлено с помощью феномена синхроничности (подробней здесь и здесь.
Даже такие сверх-экзотические варианты теперь есть возможность проверить. Так что шансы найти растут.
И в заключение еще раз повторю — инопланетный разум просто должен существать. Подробней об этом в другой раз.
________________________________
Если понравился пост:
- нажмите на “палец вверх”;
- подпишитесь на обновления канала на платформе Medium;
- оставьте комментарий.
Еще больше материалов на моем Телеграм канале «Малоизвестное интересное». Подпишитесь
Оригинал и комментарии
Результаты нового большого рандомизированного исследования
Уже несколько тысяч лет люди учатся неправильно, т.к. можно учиться гораздо эффективней. Но так уж получилось. Давным-давно, в силу каких-то причин, получила распространение т.н. блочная практика обучения (Block practicing), а потом так и пошло через века и тысячелетия.
Суть блочной практики в том, что вы в каждый момент времени фокусируетесь на освоении одного навыка или типа задач. Поучили навык (или тип задач) А, а потом учите навык Б и т.д. По этой блочной практике обучение выглядеть примерно так — AAAББВВВВ.
Но возможна кардинально иная практика — чередующаяся (Interleaved practice). Здесь чередование обучения навыкам или типам задач будет выглядеть, например, так — AБВAБВAБВ (сериями) или АВБАБСБАВ (случайным образом).
Единственное ограничение: вы не можете последовательно работать над одним навыком или типом задач.
Чередующаяся практика обучения была открыта еще 30 лет назад и с тех пор подробно описана под разными названиями: варьирующаяся (varied practice), переменная (variablepractice) и смешанная (mixed practice).
За прошедшие годы вышло немало исследований, показывающих преимущества чередующейся практики над блочной.
Но, как обычно,
- сдвинуть монолит устоявшейся веками блочной практики обучения не удалось,
- и все утонуло в бесконечных дебатах, смысл которых сводился к тому, что, мол, никто точно не знает настолько чередующаяся практика эффективней, а раз так, то и не стоит ломать тысячи наработанных программ обучения.
И вот дождались революции.
Большое рандомизированное исследование показало, что чередующаяся практика обучения:
- примерно, вдвое эффективней;
- кардинально отличается от блочной тем, что учит думать о выборе наилучшей стратегии решения проблем, а не тупому выучиванию навыка решения конкретного типа задач;
- имеет еще и дополнительный важный плюс наиболее адаптивной (а значит и совершенной) формы обучения, — за счет постоянного возвращения к одной и той же теме в 2х режимах (учу и тестирую), в мозге как бы автоматизируется процесс исправления ошибок, допущенных на предыдущих итерациях.
Короче:
✔️ Переходите на чередующуюся практику сами и переводите своих детей.
✔️ Используйте ее всюду, где только можно: от изучения математики и нейросетей до выучивания иностранных слов и приемов маркетинга.
✔️ Вы кардинально повысите качество своего обучения, совершенствуя не просто конкретный навык, а свое умение выбирать наилучшую стратегию решения проблем.
5ти минутный рассказ о преимуществах чередующейся практики её евангелиста проф. Дага Рорера
Только что опубликованное в Journal of Educational Psychology исследование A Randomized Controlled Trial of Interleaved Mathematics Practice
Краткое руководство по методу чередующихся практик для преподавателей математики и самообразования.
________________________________
Если понравился пост:
- нажмите на “палец вверх”;
- подпишитесь на обновления канала на платформе Medium;
- оставьте комментарий.
Еще больше материалов на моем Телеграм канале «Малоизвестное интересное». Подпишитесь
Оригинал и комментарии
Наверстываем пропущенное за праздники малоизвестное интересное
Об этих трёх мастсмотрах, как минимум, нужно знать, а когда будет время, и посмотреть. Сейчас же, когда у всех время в обрез, предлагаю быстро зафиксировать -
что в них такого важного и почему?
(дальше чтения максимум на пару минут)
I. Что вы знаете про 4 междисциплинарных закона: техно-гуманитарного баланса, избыточного многообразия, отсроченной дисфункции, иерархических компенсаций?
Посмотрите семинар памяти ушедшего 15 февраля Акопа Погосовича Назаретяна — мыслителя высочайшего калибра, которого со временем, возможно, назовут великим российским ученым, во многом опередившим своё время, открывая важнейшие междисциплинарные законы. Даже если вы читали его книги и знаете что-то про эти законы, послушайте их превосходное обобщающее резюме из уст А.Д. Панова — друга и соавтора А.П.Назаретяна (того самого, кто рассчитал график био и социальных фазовых переходов на пути к сингулярности — «Вертикаль Снукса-Панова»).
Этот рассказ (с 27:32 по 1:09:00) начинается здесь.
А если послушаете и все остальное, сказанное на семинаре, — не пожалеете. Запредельно интересно и познавательно.
II. Это 2й за месяц мастрид, мастсмотр и мастслыш Харари.
В этот раз Харари впервые (!) открытым текстом сформулировал и обосновал 3 важные мысли:
1️⃣ Миллиарды, вкладываемые в попытки решить проблему «черного ящика ИИ» путем создания ИИ, способного объяснять свои решения (XAI — Explainable AI), — просто выбрасываются на ветер, т.к. эти объяснения не сможет понять ни одни человек (ИИ принимает решения совершенно иным образом, чем люди)
— см. на видео здесь
2️⃣ Уже сегодня, даже очень глупый ИИ, способен хакнуть вас и настучать о вас, куда скажут (пример из жизни гея Харари)
— см. на видео здесь
3️⃣ Риск от уже начавшейся гонки ИИ вооружений настолько выше риска гонки ядерных вооружений, насколько выше риск при ежедневном использовании потенциально опасного инструмента по сравнению с риском от инструмента, десятки лет лежащего в кладовке вообще без использования
— см. на видео здесь
III. «Дебаты века» о счастье между Жижеком и Питерсоном.
Три тыс. билетов на эти дебаты раскупили за считанные дни. А ведь цены были, как недавно на Пугачеву — до $1,5 тыс.
Что же такого сказали два «великих аутиста» нашего времени?
Жижек считает, так.
- Человечество идет к “апокалипсису”.
- Те, кто видят свет в конце тоннеля, — зря обольщаются.
На самом деле, они видят свет фонаря другого поезда, мчащегося нам навстречу. - Человечество в целом о’кей, но 99% людей — унылые идиоты
Питерсон считает, так.
- Нужно понимать, как устроена иерархия в человеческих обществах. А устроена она ровно так же, как и в сообществах лобстеров. Чем выше статус у этих ракообразных, тем больше серотонина (“гормона счастья”) вырабатывает их организм. Те же, кто находятся снизу, прибиты своими неудачами (и низким уровнем серотонина), и потому им все сложнее карабкаться наверх.
- Вспомните, что писал Достоевский — даже если раздать людям по куску хлеба, они вряд ли после этого начнут жить в мире и святости.
- Если капитализм производит богатство и неравенство, то все остальные политсистемы — только неравенство. От рыночной экономики выигрывают не только богатые, но и бедные (даже у нас, добавлю я от себя).
Это оригинал на английском
Это с русской озвучкой
А это с украинской озвучкой.
________________________________
Если понравился пост:
- нажмите на “палец вверх”;
- подпишитесь на обновления канала на платформе Medium;
- оставьте комментарий.
Еще больше материалов на моем Телеграм канале «Малоизвестное интересное». Подпишитесь
Оригинал и комментарии
Настолько сильно, что может даже поменять знак наших воспоминаний о матери
Мы понемногу свыкаемся со страшноватыми открытиями бурного междисциплинарного прогресса на стыке эво-био-когни-психо-инфо наук.
- Нашими эмоциями — чувствами и предпочтениями, определяющими наше поведение — управляют нейробиохимические алгоритмы.
- Эти алгоритмы могут быть жестко прошиты (запаяны) в нас от рождения, а могут развертываться в различные гибкие варианты алгоритмических прошивок уже при жизни.
Но прогресс продолжается. И чем дальше, тем становится всё страшнее.
Выясняется:
- что наша память тоже не совсем наша;
- что осознаваемые нами чужие слова могут влиять на эмоциональный окрас наших мыслей, а те, в свою очередь, деформируют наши воспоминания.
А ведь люди издавна знают, что эмоции влияют на окрас воспоминаний. Но чтобы менять знак воспоминаний с плохих на хорошие или наоборот, — это чересчур!
И что с мыслями (а уж тем более со словами) нужно быть осторожней, мы в курсе. Знаем, что стоит начать упорно думать о коллеге и уж, не дай бог, о своем ребенке, плохо, как он начинает, почти на глазах, плохеть. Но чтоб просто, манипулируя словами в опроснике, заставить нас думать хуже или лучше о собственной матери, — это дудки!
Оказывается, не чересчур и не дудки.
Новое исследование «Изменение текущих оценок матерей приводит к изменениям в детских воспоминаниях о любви к матерям» однозначно показывает, что так оно и работает.
✔️ Воспоминание о том, любил ли человек свою маму или нет — зависит от его сегодняшнего представления о матери (а на него можно влиять, просто манипулируя опросником).
А ведь это самое святое — мать.
И значит подобным же образом можно легко влиять на наши воспоминания о любви к детям, бывшим возлюбленным, нынешним супругам, лучшим друзьям …
О какой же тогда фальсификации истории может идти речь. Если самое святое — воспоминания о любви — столь легко манипулируются в нашем сегодняшнем сознании.
Что уж тогда говорить про тональность воспоминаний о Сталине, если тональностью воспоминаний о матери можно, умеючи, манипулировать извне.
Подробней:
________________________________
Если понравился пост:
- нажмите на “палец вверх”;
- подпишитесь на обновления канала на платформе Medium;
- оставьте комментарий.
Еще больше материалов на моем Телеграм канале «Малоизвестное интересное». Подпишитесь
Оригинал и комментарии
Их минусы уже сильно перевешивают плюсы, и этот перекос угрожающе растет
Социальные медиа не нужны нам, чтобы помогать государству и бизнесу:
• следить за нами;
• пудрить нам мозги;
• зарабатывать на нашем внимании.
Они не нужны нам, чтобы помогать всевозможным редискам и бандитам:
• распространять фейковые новости и теории заговора;
• агитировать и вербовать под свои знамена насилия и ненависти;
• отравлять наш демократический дискурс и заражать наш разум опасной антинаучной чепухой.
Они не больно-то нам нужны даже для того, чтобы:
• любоваться рекламой;
• заводить друзей и строить отношения;
• заказывать такси, садиться на автобус или летать на самолетах;
• слушать хорошую музыку или читать толковые книги;
• делать покупки;
• развивать или открывать субкультуры;
• находить единомышленников;
• планировать свою жизнь;
• понимать мир, в котором мы живем.
Те, кому сегодня реально нужны социальные медиа, — это:
• их создатели и владельцы, продолжающие зарабатывать на них большие деньги;
• бизнес, зарабатывающий еще большие деньги на нашем внимании;
• государства и спецслужбы, все более берущие нас под контроль;
• всевозможные редиски и бандиты.
Все разговоры и законодательные инициативы о разделе и демонтаже Facebook, переориентации его и прочих колоссов социальных медиа на иные модели и платформенные архитектуры, ужесточении нормативно-правовой базы платформ социальных медиа — пустое дело.
Пока сохраняется современная модель бизнеса социальных медиа — зарабатывать на нашем внимании — все эти изменения будут либо косметическими, либо, вообще, тщетными.
Видоизмененные и перестроенные социальные медиа будут по-прежнему:
• помогать нам устанавливать не сильно надежные связи;
• искажать наш взгляд на мир и раздувать рознь между нами;
• сжигать впустую самое ценное, что у нас есть — наше время.
И при этом усиленно работать на потребу бизнеса, государства, редисок и бандитов.
Значит в этой консерватории нужно что-то кардинально менять. Начиная, естественно, с модели бизнеса на внимании масс.
А от сегодняшней бизнес-модели и сегодняшних социальных медиа как токовых нужно, как от ядерного оружия, потихоньку и осторожно отказываться.
Таково мнение Колина Хоргана, опубликованное на OneZero https://onezero.medium.com/we-dont-need-social-media-53d5455f4f6b
И мне его соображения не кажутся категорически неверными или сильно преувеличенными.
Похоже на правду.
________________________________
Если понравился пост:
- нажмите на “палец вверх”;
- подпишитесь на обновления канала на платформе Medium;
- оставьте комментарий.
Еще больше материалов на моем Телеграм канале «Малоизвестное интересное». Подпишитесь
Оригинал и комментарии
Если есть мультиверс и корень из 2
Можем ли мы утверждать, что на свете реально существует стотриллионный знак десятичного разложения квадратного корня из 2, если на практике рассчитан лишь триллионный знак?
Можно ли утверждать, что «нечто» существует:
- если «нечто» на практике никто не видел,
- и есть лишь логическое доказательство от противного некого свойства, из которого следует, что «нечто» якобы существует?
Стотриллионный знак — это пока что экспериментально непроверенное научное предсказание. Но это не мешает нам быть уверенными, что корень из 2 — иррациональное число, и у него обязательно будет стотриллионный знак. И сколько бы последователей Шигеро Кондо (рассчитавшего триллионный знак) ни взялись рассчитывать стотриллионный знак, ответ у них всех получится один и тот же. Ибо стотриллионный знак не только объективно существует в природе, но и существовал всегда и будет существовать вечно.
А теперь зададимся похожим вопросом.
Можем ли мы утверждать, что мультиверс — гипотетическое множество всех возможных параллельных вселенных, — реально существует?
Как и со стотриллионным знаком, мультиверс никто не видел. Это такое же экспериментально непроверенное научное предсказание.
И если наличие стотриллионного знака — это теоретическое следствие, неизбежно вытекающее из нашего понимания математики, то наличие мультиверса — неизбежное теоретическое следствие из нашего понимания законов физики.
А если кто-то пытается не признавать мультиверс, ссылаясь на спорность гипотезы, — тогда просто тупик. Ведь если мы признаем инфляционную космологию, управляемую квантовой физикой, мультиверс становится неизбежным следствием.
— Так может не признавать инфляционную космологию?
Но без нее повисают ответы на иначе неразрешимые проблемы космологии Большого взрыва.
— Тогда может и Большой взрыв не признавать?
А зачем? Лишь только из-за того, что идея мультиверса кажется нам принципиально непроверяемой?
Но ведь есть же вещи, которые мы не можем наблюдать, но которые, как мы знаем, должны существовать. Как например, со стотриллионным знаком корня из 2. Или как это было совсем недавно с гравитационными волнами.
А теперь о том, к чему я и клоню.
Вернемся к вопросу о существовании внеземного разума, поставленном в предыдущем посте на эту тему.
Ответ здесь довольно очевиден. Тут логика в одно действие. Достаточно признать, что мультиверс существует, как существование внеземного разума становится теоретически неизбежным.
Ибо мультиверс столь огромен, что чисто комбинаторным образом в нем возникает все возможное. Абсолютно все, что только может, в принципе, существовать. Включая неограниченное число внеземных разумов.
А раз так, то
«можно точно сказать, что внеземной разум где-то есть; вопрос лишь в том, каково расстояние до ближайшей цивилизации от нас».
Как это и было сказано дфмн. А.Д. Пановым — известным ученым, ведущим семинар по космической философии НКЦ SETI — в его лекции «Вселенная и Мультиверс». Вот этот момент лекции. Послушайте сами.
Послушайте всю лекцию. В ней очень интересные вещи рассказываются. Весьма возможно, что это лучшая популярная лекция в сети на сложнейшую для понимания тему мультиверса. Не зря же она первоначально была спроектирована Пановым для прочтения отряду космонавтов, а потом многократно дополнялась и усовершенствовалась.
• Об ошибке Эйнштейна.
• О скорости больше скорости света.
• О том, что превышает видимую Вселенную в 10**10**100 раз.
• О космической неопределенности и австралийском диполе.
• О мультиверсе 4ёх уровней.
И о том, что, если все непротиворечивые математические структуры существуют физически, то Вселенная абсолютно познаваема: надо только включить воображение и двигаться по пути этого познания.
Слайды лекции (начиная с 21го)
Предыдущий пост на эту тему.
________________________________
Если понравился пост:
- нажмите на “палец вверх”;
- подпишитесь на обновления канала на платформе Medium;
- оставьте комментарий.
Еще больше материалов на моем Телеграм канале «Малоизвестное интересное». Подпишитесь
Оригинал и комментарии
Каким будет мир после ядерной войны
6го мая состоялась премьера мини-сериала HBO и британской телесети Sky «Чернообыль». Зрители балдеют от ужаса. Но мало кто знает, что радиоактивный ландшафт, свободный от человека, теперь может стать раем для растений и животных.
Какова же правда? & What is the cost of Lies?
Экологическая история зоны отчуждения Чернобыля после того, как все её покинули, является предметом серьезных разногласий в научном сообществе. В течение десятилетий исследований в этой области считалось, что в основном жизнь растений и животных была порушена, а оставшаяся жизнь мутировала, и безнадежно больна. Однако самые новые исследования говорят об обратном — растения вырастают, а жизнь животных еще более разнообразна, чем до аварии. Зона превратилась в уникальный живой эксперимент реконструкции того, что может произойти на Земле после ядерной войны.
Каков он будет — этот «дивный новый мир», на самом деле не знает никто.
- Радиоактивным логовом распада и хаоса?
или
- Царством торжества дикой природы?
До 2006 считалось, что первым. Но после доклада международной группы из 100 экспертов, собранных ООН, ВОЗ и МАГАТЭ, — стали склоняться ко второму.
А исследование 2015 года просто взорвало мозг. На этот раз, популяции считали ни по гипотетическим моделям, а реально, ручками, считая животных с вертолетов. И получилось, что нет никакой убыли животных среди лосей, косуль и кабанов. А популяция волка выросла в 7 раз, по сравнению с аналогичными незагрязненными радиацией природными заповедниками.
Дальше больше. Усовершенствовали методологии наблюдений. Ведь даже с уровнем радиации было ничего не понять. Исследователи из Бристольского университета стали использовать дроны Quadcopter. Команда Университета Джорджии, развернула ошейники GPS для животных со встроенными дозиметрами, чтобы попытаться, наконец, определить фактические дозы, которые собирают по жизни животные. А недавно устроили «станции запаха» с приправами жирных кислот, которые любят обнюхивать животные. Когда они это делают, их присутствие запускает камеры, предоставляя людям фото-доказательства, по крайней мере, общего диапазона популяций.
И о чудо! Популяции волков, енотовидных собак, диких кабанов и лисиц таковы, какими они могли бы быть в обычном незараженном регионе, где нет людей, пытающихся их убить.
Жизнь еще больше налаживается. Зону колонизировали бурые медведи, появились ранее почти исчезнувшие лошади Пржевальского, растет популяция зубров.
Короче, новейшие исследования демонстрируют, что, независимо от потенциального воздействия радиации на отдельных животных, чернобыльская зона отчуждения поддерживает сообщество млекопитающих после почти трех десятилетий хронического облучения.
Получается:
✔️ Жизнь сильней радиации?
✔️ А присутствие человека для природы страшней ядерной катастрофы?
Как это работает, еще только предстоит понять. А хотелось бы.
Ведь, к сожалению, шансы человечества устроить такой «рай» на всей Земле страсть, как велики. А до полуночи человечества осталось всего пара минут.
________________________________
Если понравился пост:
- нажмите на “палец вверх”;
- подпишитесь на обновления канала на платформе Medium;
- оставьте комментарий.
Еще больше материалов на моем Телеграм канале «Малоизвестное интересное». Подпишитесь
Оригинал и комментарии
Интересные выводы из исследований собачников и кошатников
Привязанность к собакам зашита в наших генах.
Генетика — ключевой фактор, определяющий любовь к собакам (у женщин на 57%, а у мужчин — на 51%). Приговор окончательный и обжалованию не подлежит, т.к. статистика ломовая — из крупнейшей в мире базы данных о близнецах.
Подробней:
Хорошо. Но а как, с кошками?
И тут самое интересное.
По нашей генетике любви к кошкам исследований нет, т.к. по кошкам не ведутся подробные базы данных, как по собакам.
Но ведь было же еще одно исследование на той же базе близнецов — о поисках генетических отличий собачников от кошатников «The truth about cats and dogs: Are there genetic influences on pet ownership?»
И оно показало, что представления о прирожденных предпочтениях нами собак или кошек — миф. Гены здесь не причем.
Но тогда получается, что в наших генах зашита просто любовь к животным:
— либо любим (собак, кошек, хомячков, попугайчиков и т.д.)
— либо нет (жалко таких, но что поделаешь).
А может ли это различие быть неким показателем врожденной доброты?
По-моему, запросто.
________________________________
Если понравился пост:
- нажмите на “палец вверх”;
- подпишитесь на обновления канала на платформе Medium;
- оставьте комментарий.
Еще больше материалов на моем Телеграм канале «Малоизвестное интересное». Подпишитесь
Оригинал и комментарии
Оригинал и комментарии
Когда вы живёте (изначально) в красивом месте — вы привыкаете к красоте. Не спорьте. К красоте, как и к ужасу — привыкаешь. Я довольно часто улетаю из России посредством аэропорта Шереметьево 2, и, во избежание эксцессов в смысле пробок, водитель везёт меня по платной дороге. Каждый раз я не устаю восхищаться жителям толи новых Химок, толи Долгопрудного (я ей-ей не знаю, какой именно административной единице принадлежит эта территория).
Дорога в том месте, сразу после съезда с МКАД, бежит широкой серой полосой между новостроем и… мусорным полигоном огромным (слава Богу, хотя бы, закрытым ныне, вроде как “рекультивируемым” — но боб его знает, что они имеют ввиду под этим подлым словом…). Т.е. построили до двадцати этажей муравейники с видом на скоростную платную трассу и кучу говна выше двадцатиэтажных домов за ней. И, что характерно, продали. Счастливым жителям, купившим (большинство) этот бетонный мешок в кабалу по ипотеке лет на 15–25.
Ничо, они привыкли. Они не видят в этом ничего противоестественного: выплачивают бешеные проценты жадным банкстерам за право жить в убогом бетонном мешке размером с ванную комнату в среднем американском доме, с пробками, отсутствием (но перспективой, ггг) метро, херовой транспортной доступностью, плохой экологией (а чего ещё ждать от свалки мусора?), перенаселённостью, дефицитом детских садов и школ, и так далее и тому подобное. Но — “это ж наша собственность”, эту убогую лютую недвижимость с бешеной коммуналкой и поборами ТСЖ и УК мы деткам передадим, мы отмучаемся — пусть они мучаются, ну и вот это всё.
Интересно, что такое же точно привыкание и обыденность происходит, если вы живёте у красоты. Например, на берегу океана, или у подножия гряды живописных гор. А бывает, что ещё и и то, и другое сразу вместе. ))
И что? Много вы встречали кубаноидов, радующихся морю? Они его ругают. И даже имеют на это все основания. От моря вся прибыль, но от него же — весь убыток. Весной — шторма, выворачивающие бетонные балки с дна, как спички! Летом — бздыхи и кишечная палочка, зимой — лёд и нордик, от которого мгновенно простываешь до самой мошонки, как бы тепло не оделся, осенью — общий упадок сил и пошли все нахуй после высокого сезона.
Живущие в Сан-Диего на берегу океана тревожно иной раз смотрят на ветра, которые тоже сносят всё. Нет, ураганов тут не бывает (или бывают очень редко), но океан местные всё равно поругивают: и холодный он де, и воздуся с него ледяные, и вообще, и в частности. И запах рыбы заебал.
Живущие возле West Entrance Yellowstone National Park, в принципе, тоже живут возле дикой, и совершенно уникальной красоты.
Там правда очень красиво, хоть и холодно даже в мае. Озеро, на котором мы остановились в уединённом домишке, на самом деле ещё не освободилось ото льда.
Как это всегда бывает в такой красоте, местные поселяне равнодушно сетуют на плохой интернет (из-за гор); на то, что “весна только началась, а медведями уже всё засрато вот по сих!” (и китайская женщина со сложным английским акцентом, витиеватым жестом показывает, что в её американо-китайской вселенной означает “дохуя” в значении “много”)…
Всё так, но это ж только наоборот, повод насладиться первозданной красотой!
И с этим здесь всё в порядке!
Лёд и пламя здесь живут бок о бок. Почти что мирными соседями. Из-за чудовищных размеров кратера вулкана, вулканической кальдеры (она там по диагонали больше 150 км местами) здесь есть совершенно уникальные формы жизни, которых, может быть, нет больше нигде:
Зелёный “поток” — это микроорганизмы, живущие в “холодной” среде: по цельсию — до 50 градусов (но не ниже 32-ух, ниже они погибают). А вот красные или розоватые — “горячая” среда: от 51 до почти 90!
Так что вся эта красная марсианская красота…
…на самом деле — жизнь, как она есть. Самая что ни на есть настоящая. И, кстати, по ней нельзя ходить, в неё нельзя плевать, и вообще вашим биовселенным лучше бы по-меньше с их биовселенной пересекаться. Або не пересекаться вовсе.
И только бизонам дозволяется ходить везде, лежать везде, топтать везде, и всяко срать.
Бизоны, и, конечно, медведи.
Медведи вообще не любят публичности, зато любят уединение. Особенно когда он — медведица с медвежатами, как в данном случае (медвежата на дереве).
Свидетели уединения медведя:
Здесь есть всё. Ледник? Памукале? Тундра? Тайга? Водопады? Реки? Озёра? Гейзеры? Скалы? Заснеженные вершины и широкие плато? Сколько? Говорите, сколько вам надо отвесить всего этого. Здесь я даже песчаную дюну одну видел, т.е. можно сказать, что пустыня тоже есть.
А ещё есть то, чего нигде больше не бывает. Как незамерзающие, зеленеющие круглый год луга, например, дающие прокорм тысячам бизонов. Тёплые в любую погоду горные (!) реки! И всякие пещеры и дыры, источающие зловоние, словно ведут напрямую к дьяволу в зад!
На каждом шагу…
Обещанная “Памукале”:
Кипит всегда в самых неожиданных местах:
Потоки кипятка толи уничтожают жизнь, толи расчищают путь новой жизни — всё не так однозначно, как привык человек…
Вот эта грязевая дыра, например, называется Dragon Mouse (Рот Дракона), и, боюсь, что ртом дракона она названа только из врождённого пиитета людей перед этими мифическими существами. На самом деле, так пахнуть может только жопа дракона, my apology…:
Всё не так однозначно, но однозначно одно: увидеть это место своими живыми глазами (а не в исполнении чужих фотографий и мнений) — вот действительно must see. Не увидев этой супер-кальдеры вы не имеете морального права утверждать, что хорошо изучили эту планету.
Факт.
Ну а мы, вечные nomads, катим дальше по дороге, которую выбрали.
И да поможет нам всем святой Януарий! Я фиг знае, кто это, но мне просто имя нравится, хе-хе.
Оригинал и комментарии
Как перестать быть животным и превратиться в новый вид, потенциально способный стать сверхразумным?
Это 1й открытый разговор на самую интересную для меня тему. И потому, как водится с первыми блинами, получилось довольно сумбурно. Но зато есть и плюс — эксклюзив первенства узнать кое-какие детали абсолютно новой темы, которой еще только предстоит выстрелить в междисциплинарной науке 😊.
В преддверии длинных выходных, публикую видео прочитанной мною 10 апреля лекции ”SAPIENTISSIMUS. Альтернативное будущее человечества (как борьба добра и зла внутри нас сделала нас людьми).”
Речь в лекции вот в чем
1) Наш интеллект пока еще слишком сложен для его деконструкции современной наукой.
2) Мы все еще не способны создать его научно непротиворечивую и практически реализуемую (хотя бы в перспективе) модель.
3) Более того. Мы в принципе не понимаем, что могло произойти с интеллектом одного из биологических видов, чтобы качественно трансформировать его разум. Трансформировать столь капитально и масштабно, чтобы:
✔️ навсегда вырвать его из мира животных;
✔️ вложить в него потенциал развития в сверхразумное существо;
✔️ изменить его эволюционную траекторию развития на миллионы лет вперед.
И вот появилась идея, попытаться найти ответ хотя бы на третий вопрос, пойдя следующим путем.
Если мы пока не в силах понять, как устроен и работает этот сверхсложный механизм (а может и не механизм вовсе, но что тогда?), стоило бы попытаться разобраться, как этот механизм развивался и совершенствовался.
Возможно, нам удастся проследить сборку этого механизма на «производственной линии» эволюции. Т.е. деконструировать «проектировочно-производственный процесс», занявший у эволюции миллионы лет.
Тогда можно было бы попытаться проследить:
- основные развилки и этапы этого процесса;
- конкретные усложнения и усовершенствования в организации и принципах работы «собираемого механизма»;
- «логику решений» эволюции на каждом из этапов усовершенствования (зачем? и почему так?).
Может, таким образом мы бы смогли, наконец, приблизиться к пониманию того, как устроен и работает интеллект современного человека, и в чем же его кардинальное отличие от любых иных био-интеллектов, присущих всему живому?
Но тогда начинать надо куда раньше, чем «когнитивная революция» Homo sapiens 70 тыс. лет назад. Ведь к этому времени наш предок уже не был животным в течение порядка 6 млн лет.
А если он уже не был животным, то кем он был все эти миллионы лет?
И что конкретно в нем изменилось, что он (и только он) перестал быть животным и превратился в новый вид, потенциально способный стать сверхразумным?
Но если нам удастся понять суть и механизм этого чудесного превращения, возможно, это могло бы позволить нам оценить шансы нового подобного превращения в будущем (уже нашего вида Homo sapiens в некий новый вид, который условно можно назвать Sapientissimus)?
В этой лекции я попытался вскользь коснуться ответов на некоторые из названных вопросов. Подробный разбор результатов деконструкции эволюционного «проектировочно-производственного процесса», итогом которого стал наш интеллект, впереди — в готовящейся серии лекций.
Если у вас в течение длинных праздников появится желание и время послушать, вот ссылка на открывшийся канал «Малоизвестное интересное» на Youtube
Хороших вам супер-длинных выходных!
С наступающими праздниками!
Встретимся теперь уже после них.
________________________________
Если понравился пост:
- нажмите на “палец вверх”;
- подпишитесь на обновления канала на платформе Medium;
- оставьте комментарий.
Еще больше материалов на моем Телеграм канале «Малоизвестное интересное». Подпишитесь
Оригинал и комментарии
Двое студентов разного пола активно лобзались в бурлящем джакузи. Все, как в кино. А когда студентам хочется, как в кино, но не хватает реквизита, то годится даже джакузи в аквапарке.
А я же вам не рассказывал, что являюсь сертифицированным заклинателем змей и дрессировщиком бабуинов? У меня две дочери.
— Я первая! Я первая!
— Неть! Йааа.
— Бооомбачкааа!
— Бобасяааа!
Раздались сигналы предупреждающие публику о приближении цунами.
Прыгать в теплый бурлящий круглый бассейн — это ярчайшее впечатление детства, я считаю. В моем детстве. джакузи не было, но были скрывающиеся в глубине лягушки.
Студенты решили остаться. Я был занят страховкой бабуинов и не обращал на студентов внимания. Минут через пять, которые наверняка показались им вечностью, я посмотрел на них, нежно будя в себе внутреннего садиста. Это были два покерфейса сидящие рядом и глядящие сквозь пространство. Очередная волна накрывала их лица, но они не моргали.
У меня возникло ощущение, что я наступил на трепетную юношескую любовь и она издала звук сдувающегося праздничного шарика в конце пискнув, как розовая резиновая рыбка. И это было прекрасно!
В большом бассейне включили волны, нам стало пора.
— Таська! Волны, волны!
— Уууоооооо!
— Я первая! Я первая!
— Неть! Йааа.
Я посмотрел на студентов, размышляя, смогут ли они повторить приступ нежности, воспользовавшись затишьем. Наверное нет. Эта способность приходит с опытом, когда по-другому никак. К джакузи направлялся толстый мужчина с видом расслабленного гедониста и четырьмя детьми — вот он знает, как ловить момент.
(с) Кирилл Анастасин
8.5.19
Оригинал и комментарии
Последнее время практикую формат группового мышления для вскрытия таких базовых понятий, как “деятельность”, “мотивация”, “благо”, “инициатива”, “справедливость”. Очень интересно наблюдать за ходом мысли “вопрошающих”, а также за способностью “экспертов” идти в глубину и удерживать сложность. Хочу вам предложить сборку по “справедливости”, полученную на одной из недавних сессий вопрошания.
Как устроена сессия
Это процесс, в котором мышление расщеплено на отдельные роли:
- Эксперт — это роль, удерживающая выбранную тематику. Человек в этой роли должен быть готов идти в глубину и распаковывать тему.
- Инопланетянин — роль, обеспечивающая психологическую защиту вопрошающего, поскольку он не обязан соответствовать идеалам эксперта и может задавать наивные вопросы. Задача инопланетянина — пытаться понять эксперта и проблематизировать его модель.
- Сборщик — это “понимающий”, тот, кто в потоке коммуникаций вычленяет ключевые понятия и выстраивает систему отношений.
Все эти роли одинаково важны и Концептолог, теоретически должен уметь удерживать либо все, либо пару этих ролей. Но без специальной подготовки людям бывает сложно держать даже одну роль. Тем не менее, иногда случается праздник интеллекта, когда сходятся классный Эксперт и не менее классный Инопланетянин, который становится проводником в глубинные глубины :)
Обычно мы проводим сессии на несколько групп и это позволяет ротировать Инопланетян, обеспечивая не только глубину, но и широту вопрошания. Длительность тактов зависит от подготовленности участников. Для начинающих бывает достаточно 15 минут (длительность сессии 45 минут), для матёрых будет хорошо по 30 минут (1,5 часа общего времени).
Вот что получилось со “справедливостью”…
Справедливость и социальная справедливость
Эксперт Тарас Странник
Справедливость это внутреннее представление людей о том, что правильно. И о совпадении действия и воздаяние — по справедливости, это значит равно действие и результат.
Стремление к справедливости заложена в человека, это одна из высших ценностей. Но абсолютная справедливость не возможна, поскольку представления о ней у каждого человека и у каждой социальной группы различаются.
Социальная группа — может быть определена по наиболее близким представлениям о справедливости. Особенно в конфликтной зоне.
Представления о правилах и справедливости не выходит наужу и не проговаривается, поскольку это было бы бесконечно долго.
Конфликты и справедливость
Если убрать конфликты за ресурсы или власть, т.н. конкуренция, то остальные конфликты — это конфликты за справедливость. Обиды, месть и т.д.
Справедливость противоречит Свободе и равна Праву и Правде.
Во время конфликта и возникает разговор о справедливости и каждая сторона по-своему понимает эту справедливость. И только во время конфликта и возможно появление записанных правил конфликта.
Право и закон
Решенные когда-то конфликты и общественный договор по наиболее частым или серьезным поводом становится Законом. Закон это наиболее общие и более-менее принятые всеми правила справедливости.
Справедливость и этика
Справедливость одно из этических базовых постулатов, то, что справедливо — то хорошо. Существует множество разных справедливостей в обществе и борьба между ними и группами, их придерживающимися.
Справедливость имеет биологическую подоплеку и существует в мозге область, который отвечает за справедливость. Шимпанзе тоже имеют представление о справедливости.
Справедливость как социальный конструкт помогла выживать первобытным обществам, там где было понятие справедливого распределения ресурсов, те выживали лучше.
Т.е. есть Право, Закон, есть Мораль и Этика, и есть еще Индивидуальное представление о справедливости, которое обычно передается от родителей к детям. Традиция и семейные ценности. Все эти три вещи могут совпадать, а могут противоречить друг другу.
Карма и посмертное воздаяние — это попытки примирить не справедливо устроенный мир и стремление человека к справедливости. В античности считалось, что мир устроен правильно и справедливо, т.к. боги, создавая его руководствовались определёнными правилами, и если их соблюдать, то все будет хорошо и правильно.
Справедливость и власть
Те, кто находится у власти, устанавливают свои представления о справедливости. И борьба за власть снизу начинается именно за то, что текущая справедливость не удовлетворяет какие-то группы населения.
Я выступаю за релятивизм справедливости, а это автоматом ведет к снижению конфликтов, но и к снижению борьбы, а не факт, что сейчас это нужно. Вполне может быть, что нужна наоборот абсолютизация справедливости, для усиления конфликта.
Клуб концептологов
Если Вам, уважаемый читатель, интересна компетенция Концептолога, посмотрите заметку с её описанием. А также включайтесь в телеграм-группу Клуба Концептологов, где мы публикуем полезные материалы и анонсируем различные события:
Справедливость глазами концептолога was originally published in smysloteka on Medium, where people are continuing the conversation by highlighting and responding to this story.
Оригинал и комментарии
Вау
Оригинал и комментарии
А Гришу Полухутенко слушают?
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оставить отзыв с помощью аккаунта FaceBook: