Недавние тренды рунета

Недавние тренды рунета

Секрет главного когнитивного искажения от sergey_57776

Зачем сознанию кривое зеркало самооценки

Источник: http://www.lifeisphoto.ru/photo.aspx?id=1922059
Надо привыкнуть смело, в глаза людям, говорить о своих достоинствах. Кому же, как не нам самим, знать, до какой степени мы хороши?
Венедикт В. Ерофеев

Проверить, «до какой степени мы хороши», довольно легко.

Например:

  • Как вы думаете, с точки зрения навыков вождения, вы относитесь к лучшей (топ 50%) или худшей половине водителей?
  • А по части воспитания детей: к лучшей или худшей половине родителей?
  • По интеллекту, как думаете, вы в топ 50% населения входите или, увы, нет?
  • А по внешности, доброте, понятливости, порядочности …?

Ответы на эти и подобные вопросы показывают абсолютную правоту эпиграфа.

90% людей практически по любому позитивному критерию относят себя к топ 50%. Хотя любой при этом понимает, насколько статистически маловероятно, чтобы все люди, думающие, что они выше среднего, на самом деле входили в топ 50% лучших.

- Но ничего поделать с подобной завышенной самооценкой нельзя: ни воспитанием, ни тренингом, ни гипнозом.

- Это самое глубоко зашитое и тотальное (зашито буквально в каждого) когнитивное искажение — завышенная по отношению к реальности самооценка.

Но зачем?

Ведь подобное кривое зеркало самооценки в корне искажает всю картину окружающей реальности. И это не может не снижать приспосабливаемость особи — адаптационные возможности и конкурентоспособность.

Получается, — это кривое зеркало противоречит принципам эволюции?

И какая польза от этого?

Ну польза, скажем, есть. И немалая. Это кривое зеркало — основа и источник постоянного счастья — «атомная батарейка» самопозитивности, особенно мощная в молодости и теряющая заряд лишь в весьма зрелом возрасте.

Но как это устроено?

Связь между эмоциями и самооценкой лежит в основе человеческого благополучия. Знание механизмов этих сложных отношений имеет решающее значение для понимания мотивации, обучения и принятия решений, как у здоровых людей, так и при психоневрологических расстройствах. Поэтому так важно изучать когнитивные и нейронные механизмы, с помощью которых создается и поддерживается самооценка. Новое функциональное исследование MRI (fMRI) экспериментально продемонстрировало механизм взаимодействия между эмоциональной валентностью и само-релевантностью. Этот механизм работает в области мозга, которая классически связана с самостью: медиальная префронтальная кора (mPFC) [1].

Данное исследование предоставило доказательства, что когнитивное искажение самопозитивности является прямым следствием того, как в мозге устроен механизм автоматического восприятия информации о самом себе.

Т.е. самопозитивность возникает автоматом, вследствие организации работы мозга.

Но почему так?

Возможны варианты. И все зависит от того, что такое сознание.

Например, есть весьма распространенная концепция, что сознание — это эмергентное явление более высокого уровня, возникающее при обработке информации.

Тогда не исключено, что самопозитивность — это 5ое необходимое условие для возникновения сознания, наряду с информационным, динамическим, независимым и интегральным принципами, сформулированными Максом Тегмарком — стр. 116 в [2]:

✔️ Сознательная система обладает абсолютной самопозитивностью.

N.B. Этот принцип согласуется с экспериментальным подтверждением, что самореференция возникает в мозге ДО появления эмоции. Сначала идентифицируется Я, а лишь затем формируется эмоция. Т.е. чувства в сознании появляются лишь ПОСЛЕ идентификации наличия самого себя [3].

________________________________

Если понравился пост:
- нажмите на “палец вверх”;
- подпишитесь на
обновления канала на платформе Medium;
- оставьте комментарий.
Еще больше материалов на моем Телеграм канале «Малоизвестное интересное».
Подпишитесь

Оригинал и комментарии

Исчезнувшие с сайта NASA секретные материалы Google нашлись от sergey_57776

И что из этого следует — есть квантовое превосходство?

Источник: https://gilkalai.files.wordpress.com/2019/09/cern.pptx

В позапрошлые выходные «Мир взорвался инфобомбой — Google достиг квантового превосходства». Мой комментарий на это был — «полагаю, это не совсем так, точнее, совсем не так». И на следующий день китайцы расставили точки над i, — сомнения подтвердились.

Но мир продолжал хайповать на сенсации. Тема достижения квантового превосходства Google 2 недели была в топе. Все новые и новые статьи, комментарии экспертов, прогнозы аналитиков. Одни пишут — да, есть квантовое превосходство. Другие — превосходства нет. И это при том, что материалы Google на сайте NASA практически никто не видел.

Пора это как-то исправлять.

Вуаля!

Вот этот исчезнувший документ.

А это большое приложение к нему.

В дополнение пояснение того, что в документе и приложениях написано, выполненное Гилом Калай, разбирающимся в вопросе, как никто (не перевожу, т.к. переводчик есть у каждого читателя).

А заодно, тем кто хотел бы подробностей:

- две статьи Калай на эту тему [1] и [2];

- слайды его лекции по этой теме , прочтенной месяц назад в CERN

И какой из всего этого вывод?

Вот он на картинке.

Источник: https://gilkalai.files.wordpress.com/2019/09/cern.pptx

________________________________

Если понравился пост:
- нажмите на “палец вверх”;
- подпишитесь на
обновления канала на платформе Medium;
- оставьте комментарий.
Еще больше материалов на моем Телеграм канале «Малоизвестное интересное».
Подпишитесь

Оригинал и комментарии

Импичмента не будет, а Трамп переизберется от sergey_57776

В США выявлен самоускоряющийся раскол, и единых США уже нет

Фото: https://tass.ru/mezhdunarodnaya-panorama/4221990
От того, кто станет следующим президентом США, зависит многое в мире. Вплоть до судьбы Украины и года смены президента в России.

Но предсказать исход попытки импичмента и следующих выборов в США не берется никто, — слишком сложный многофакторный прогноз с большим числом неопределенностей.

И вдруг выходит новый отчет Брукингского института (резюме, инфографика), в котором четко и неоспоримо выявлен сильнейший объективный тренд.

  1. Единой страны США уже нет, а есть две разных страны, живущие в разных мирах с разными экономикой, культурой, ценностями и абсолютно разным будущим.
  2. Действие самоускоряющегося тренда уже не раскола, а разбегания этих двух стран поразительным образом объединяет республиканцев и демократов лишь в одном — оставить Трампа президентом.
  3. В основе этого противоречащего логике единения республиканцев и демократов простая, но практически непреодолимая мотивация:
  • чем дольше Трамп сидит в президентах, тем лучше живется электорату демократов и хуже — электорату республиканцев;
Источник: https://www.brookings.edu/blog/the-avenue/2019/09/10/america-has-two-economies-and-theyre-diverging-fast/
  • электорат республиканцев от этого еще более звереет, виня во всем противников Трампа, и увеличивая его поддержку;
Источник: https://www.brookings.edu/blog/the-avenue/2019/09/10/america-has-two-economies-and-theyre-diverging-fast/
  • электорат демократов процветает и вовсе не хочет менять этот тренд, что заставляет их лишь яростней поносить Трампа, не покушаясь при этом на перспективы сохранения своего собственного благополучного статус-кво.
Источник: https://www.brookings.edu/blog/the-avenue/2019/09/10/america-has-two-economies-and-theyre-diverging-fast/

Глубинная причина этого раскола на две «страны» и «биполярного расстройства» электоральной мотивации населения двух «стран» в том, что

США — первая в мире страна, уже живущая в цифровом будущем.

Республиканские районы США полагаются на «традиционные» отрасли с низкой квалификацией и производительностью труда (такие, как производство и добыча ресурсов). Вдемократических, в основном, городских районах, с ускорением растет концентрация высококвалифицированных, высокотехнологичных профессиональных и цифровых услуг.

Источник: https://www.brookings.edu/research/understanding-us-productivity-trends-from-the-bottom-up/

Отсюда колоссальный разрыв и разнополярные тренды 2х «стран»: среднегодовой доход домохозяйств, ВВП per seat (столицу штата, графства), доля занятых в «традиционной» и «цифровой» экономике, изменение «идентичности» жителя — демографической, образовательной и т.д. (см. также графики по ссылкам выше).

Источник: https://www.brookings.edu/blog/the-avenue/2018/01/08/online-giants-must-accept-responsibility-for-impacts-on-the-physical-world/

Демократическая партия все более закрепляется в быстро развивающихся, но крайне неравномерно распределенных по стране крупным городским агломерациям. В то время как Республиканская партия опирается на стареющие и экономически застойные сельские и пригородные общины, зависящие от «традиционного» производства.

О подобных перспективах я в деталях писал 2 года назад.

Теперь это уже произошло. И в результате более 70% национальной экономики профессиональных и цифровых услуг уже сконцентрированы на территории одной из «стран».

Две новых «страны» на территории бывшей США:
✔️ придерживаются очень разных политических взглядов,
✔️ живут во все более разных экономиках и культурных средах,
✔️ движутся по расходящимся ножницам имущественного неравенства.

По сути, эти две «страны» — разные издания той страны, что называлась США. Но одна из новых «стран» уже перескочила в цифровое будущее, а вторая мечтает остаться в прошлом.

Но при этом, президент Трамп нужен обеим странам. И поэтому он имеет все шансы остаться. Вот как это будет.

Источник: https://electoralvotemap.com/electoralvotemap.png

А здесь — в интерактивном виде.

Ну а что мир? Что Россия?

С.Белковский убежден, что и России это выгодно, поскольку способствует выполнению «пакта глобального замирения России и США».

А раз так, значит в мире есть уже, как минимум, 3 страны, заинтересованный в переизбрании Трампа:
две новые «США» и Россия.

________________________________

Если понравился пост:
- нажмите на “палец вверх”;
- подпишитесь на
обновления канала на платформе Medium;
- оставьте комментарий.
Еще больше материалов на моем Телеграм канале «Малоизвестное интересное».
Подпишитесь

Оригинал и комментарии

ЛЮДИ, БОГИ, БОТЫ от sergey_57776

Как выжить среди богов и сверхразумных алгоритмов

Mear One “Allegory of Complacency”. Источник https://mearone.com/

Новая книга Харари еще пишется. Но о чем она, уже можно догадаться.

О троице из людей, богов и ботов (сверхразумных алгоритмах), взаимодействие которых кардинально изменит мир в ближайшие десятилетия.

Приятно, когда «на разогреве» 3й (важнейшей) части поста «Большой Брат — сын Большого Бога» могу выпустить лучшего на сегодня “интеллектуального шоумена” (в хорошем и уважительном смысле) Юваля Ноя Харари.

Вчера в сеть выложили его видео с русскими титрами, озаглавленное, как этот мой пост.

Это видео пока что успели посмотреть лишь 787 человек. И я очень надеюсь, что теперь посмотрит куда больше.

Вопрос 1. С какого же бока Харари приплел к людям и алгоритмам еще и богов?

Вопрос 2. И где же здесь место «глобального большого брата»?

Вот мои 3 соображения, отвечающие на оба вопроса.

  1. Одна из самых главных фикций, позволивших человечеству стать «чемпионом по сотрудничеству» миллиардов людей и, в результате, «царем природы» — это религия Больших Богов.
  2. Спустя несколько тысячелетий такого супер-сотрудничества люди скоро превзойдут по могуществу Больших Богов:
     — элита научится, путем технологических апгрейтов, превращать себя в «новых богов», обретя сверхчеловеческие возможности здоровья и интеллекта;
     — остальная биомасса для «новых богов» станет просто ненужным обременением. Эту биомассу нужно будет тщательно контролировать и управлять ее потребностями, дабы создать им иллюзию счастья.
  3. Обеспечить устойчивость социума в этом «дивном новом мире» может лишь глобальный «большой брат». Только он будет в состоянии обеспечить:
     — контроль биомассы путем технологий тотального отслеживания (анализа действий и биомониторинга) миллиардов людей;
     — управление материальными и духовными потребностями миллиардов людей, максимизирующего их иллюзию счастья за счет знания, понимания и формирования желаний и мотивации людей супер-интеллектуальными, но не обладающими сознанием алгоритмами.

Такова неполиткорректная трактовка сказанного Харари.

Подробней читайте в его новой книге и в 3й завершающей части моего поста «Большой Брат — сын Большого Бога».

________________________________

Если понравился пост:
- нажмите на “палец вверх”;
- подпишитесь на
обновления канала на платформе Medium;
- оставьте комментарий.
Еще больше материалов на моем Телеграм канале «Малоизвестное интересное».
Подпишитесь

Оригинал и комментарии

Игрожур часть 1 от aalien

Тут будет мини-тред воспоминаний об игрожуре, каким я его запомнил. Запомнил я немного, поэтому тред будет недлинным. Поехали.

Для меня видеоигры нормально начались в 1997 году, когда у меня появился современный комьютер, модем, 3Dfx и интернет (в таком примерно порядке). Я только что закончил школу и увлекался двумя вещами: видеоиграми и фантастикой. Про фантастику надо отдельный тред, конечно, НО НЕТ.

В игрожур я вкатился в начале 1999 года. Вернее, я честно пытался с осени 1998, но как-то не получалось. А потом грянул кризис, денег не стало совсем, многие авторы не выдержали и разбежались, ну и тут пришли мы.

Главным журналом, куда все хотели писать, был в 1997–2001 году журнал Game.exe. Его издавал издавательский дом Компьютерра, и на общем фоне он отличался снобизмом и — ну сейчас смешно, я перечитывал! — но все-таки некоторым профессионализмом. Можете представить, что творилось.

На русском языке в Интернете тогда было (упростим немного, для ясности) два веб-чата про игры: чат Game.exe при одноименном форуме и чат Навигатора Игрового Мира, тоже при форуме. Все надеялись, что их возьмут писать про игры. В Game.exe взяли, кажется, одного Сашу Башкирова (Фрага).

Осенью 98 года Юра Пашолок, будущий автор бестселлера «Стальные шары Сталина» позвал меня сходить в «Навигатор». Вдруг мы тупо с улицы туда прям устроимся? Тут надо представлять себе Навигатор в 98 году, конечно.

Это был такой подвал между Филями и Полежаевской, который арендовали у общества слепых. С потолка сочилась канализация, которую иногда прорывало. В кабинете главреда стояла раскладушка, потому что жить главреду было негде.

Выпускающий редактор 17 лет от роду тоже жил в редакции, но у него не было раскладушки — была гора телогреек под рабочим столом. Именно он нас при первом приходе в редакцию и поприветствовал. И не просыпаясь, из-под горы телогреек послал в жопу. И мы пошли.

Через несколько месяцев я пиршел в ту же редакцию и чуть не побил выпускающего редактора Игоря за попытки править мой текст. Аргументировал тем, что я на 4 месяца его старше и лучше понимаю, что делаю. Где-то тут мы и подружились, и в целом дружим до сих пор.

Щас очень стыдно вспомнить, но первый текст я стилизовал под Гоблина. Ну слушайте, мне было 17 лет, а это был один из двух узнаваемых авторов всего игрожура. Второй был Х. Мотолог, под которого я начал стилизоваться сразу после первого текста! Да, в общем-то, и до сих пор.

Тут вынужден сделать ПРИЗНАНИЕ: в 98 году, во время моей недолгой карьеры в русском киберспорте, я побывал в гостях у Гоблина. Все мое участие в киберспорте заключалось в том, что я тусовался с ребятами из клана DDT, ну, просто потому что с кем-то же надо было тусоваться.

Вообще, первый текст я опубликовал на сайте Гаммера — киевского, как бы это сказали через 5 лет, блогера. А тогда это была его страничка про игры. Как сейчас помню, про Shogo: M.A.D. писал. Причем в Notepad, потому что иначе не тру.

Ну и конечно, я тоже стучался в Game.exe, но не получилось. А потом в Game.exe вышел программный текст «вся российская игровая журналистика — говно, КРОМЕ НАС», и я понял, что мне там никогда не писать (ТЕХНИЧЕСКИ это неправда, хихи).

Минутка тривии: слово «игрожур» придумал Кирилл Алехин в 1999 году. Не уверен, чем он сейчас занимается, но в 00-е занимался всяким кино.

У Навигатора Игрового Мира был зачем-то на обложке слоган PC Only And Forever. Естественно, редакция все свободное время резалась в третий Tekken на Playstation.

Однажды Навигатор переехал из подвала в уютную трехкомнатную квартиру на Октябрьском Поле. В квартире нельзя было курить, поэтому редактор Игорь поставил пепельницу в ящик стола. А потом пару недель ленился ее вытряхивать. Ящик стал местной достопримечательностью.

Однажды в разгар сдачи номера половина редакции уехала в Питер. Ну девушки из интернета позвали же. Белые ночи, опять же. Сдача номера НЕМНОГО задержалась. Уволенные сотрудники через неделю вышли на работу в Игроманию.

В Игромании я исполнил странную мечту детства: написал несколько заметок в книжку типа «130 игр для Sega». Может кто помнит. Женя Исупов, тогда еще редактор этого всего, просил нас: «Ребята, пожалуйста! Ставьте в тексте «ё»! Где ж ее школьникам еще увидеть!». Мы ставили.

Тут нужна история про дикпик. У одного из наших, гм, товарищей была камера Sony Mavica, которая писала фотографии на дискету 3.5”. В разгар пьянки по поводу сдачи номера один редактор заперся в туалете и сфотографировал то, что сейчас называют дикпиком.

Наутро он обнаружил этот дикпик у себя обоями на рабочем столе, конечно. И еще полтора года обнаруживал периодически. Дикие времена, дикпики были в диковинку.

Один наш товарищ в те года сделал довольно странную штуку: уговорил пиратскую контору Triada Games сделать сайт с рецензиями на игры. Журналов на бумаге тогда было дофига (правда, все закрывались быстро), а сайтов толком не было. Так мы приближали будущее на пиратские деньги

Вообще, в начале века выпускать журнал про видеоигры мог, кажется, любой. Я лично не пробовал, но примерно четверть моих тогдашних знакомых, кажется, да. Я же был уверен, что будущее за безбумажными технологиями.

А, и еще. Так как я писал весьма злобные тексты, мне на рецензии стали давать всякий дикий хлам, чтобы я его УНИЧТОЖИЛ. Так разбились мои детские мечты «играешь в игры, а тебе еще и денег платят». Играть приходилось во всякое говно.

И про Game.exe: туда не брали из игрожура, но мы хулиганили, конечно. Была там одно время мода делать вставки «наши западные коллеги об игре». Для Фрага С. Эти вставки писал я, в чем и признаюсь спустя 15 лет.

Вообще, в те года важнее всего было объяснить, зачем нужны компьютеры и что делать с играми. Рынка не существовало, компьютеры были странными и непонятными… Читал воспоминания каких-то американцев про 95–96 годы: да то же самое, по сути. «Будешь редактором отдела чит-кодов!»

«Навигатор» обитал в трехкомнатной квартире на Октябрьском поле, «Игромания» в однушке в Марьино, и только Компьютерра с Game.exe в приличном советском НИИ с видом на кладбище. Совершенно не помню, где обитала в начале века «Страна Игр».

Ладно, пусть будет из серии «пьяные дети не ведают страха»: сдав номер и хорошо отметив это, редактор Игорь решил, что жизнь ему как-то не мила. Хлопнул дверью на пьянке, уехал в Марьино, нарыл рецепты суицида в интернете, набрал в ванну воды, обзвонил друзей и рухнул в воду. После чего с криком ЕБАНЫЙ ЛУЖКОВ выскочил из ледяной ванны, поорал немного и лег спать. Стоял июль. Приехавшие через час друзья были недовольны поведением Игоря, скажем так.

Потом это стало немного не так, но в самом начале 00-х, кажется, все писали одновременно во все журналы. Ну, особняком стоял Game.exe, конечно. А в остальном все писали везде, включая какие-то совершенные журналы-однодневки; к 22 годам каждый побывал редактором не по разу.

Совершенно нормальными были диалоги «я тебе послезавтра сдам текст про стратегии, но мне от тебя сегодня СРОЧНО нужен текст про мобильные телефоны, у нас тут дедлайн совсем-совсем». У меня было штук 20, наверное, псевдонимов. Потому что почему нет?

У работы игрожуром на рубеже веков было одно важное достоинство: безлимитный диал-ап от редакции. То есть несколько лет я совершенно не платил за интернет, пользуясь корпоративными, скажем так, аккаунтами. Потом пришел ADSL и это стало неактуально.

Оригинал и комментарии

Vladimir Lira да забыли просто. Вот и кажется щас, что “мясом пахнет”… от real_baxus

Vladimir Lira да забыли просто. Вот и кажется щас, что “мясом пахнет”…

Оригинал и комментарии

Vitaliy Ganzhin Интересно, как на эту концепцию влияет двушка в Долгопрудном, в человейнике… от real_baxus

Vitaliy Ganzhin Интересно, как на эту концепцию влияет двушка в Долгопрудном, в человейнике, купленная в ипотеку, и половина дееспособной жизни, потраченная индивидуумом на её ремонт, выплату оной ипотеки, и прочее унылое облагораживание и унавоживание этого “гнёздышка”, хе-хе.

Оригинал и комментарии

Кудесник и пророк, наконец, поговорили от sergey_57776

Состоялся диалог Пинкера и Харари

«Глупые истории могут убедить миллиарды, тогда как истина имеет лишь незначительное количество последователей. Но тогда вопрос в том, что вы ищете в жизни: силу или правду?»
Юваль Харари

Этого разговора ждали интеллектуалы из разных стран мира. И даже заранее писали «рецензии» на этот еще не состоявшийся разговор. Лучшую из них написал Джон Фэйтфул Хеймер в марте 2018. И она настолько хороша, что, перечтя ее сегодня, сразу после прослушивания опубликованного вчера диалога Пинкера и Харари (аудио), я однозначно решил — лучше и сегодня не напишешь.

В «Кудеснике и Пророке» (2018) Чарльз Манн утверждает, что интеллектуальная жизнь в 21-м веке определяется гражданской войной между Кудесниками, которые верят, что технологии спасут нас, и Пророками, которые видят на горизонте различные виды катастроф.

Стивен Пинкер — Кудесник. А Юваль Харари — Пророк.

Как и большинство Кудесников, Пинкер считает, что наши предки были по большей части добродушными идиотами. Как и большинство Пророков, Харари предполагает, что наши предки в некоторых отношениях были лучше нас.

Пинкер превозносит гуманизм. Для Харари гуманизм — это просто еще одна религия, породившая коммунизм и нацизм и превратившая современность в век интенсивного религиозного рвения, беспримерных миссионерских усилий и самых кровавых религиозных войн в истории.

Пинкер думает, что упадок идеалов Просвещения происходит из-за сохранения у некоторых граждан когнитивных предубеждений, типа эвристики доступности и негативизма. Харари думает, что мы вступаем в постгуманистическую эпоху, где Искусственный интеллект и биоинженерия меняют правила игры.

Пинкер — Кудесник, который не заставляет плохую девочку расплачиваться за свои грехи в конце своей истории. Он смеет предположить, что плохая девочка сможет найти счастье и жить долго и счастливо. Харари — Пророк, и признавая, что либеральный гуманизм в мире преуспел, он предполагает, что вечеринка может скоро закончиться. Дело в том, что гуманистическое движение слишком много думает о старых битвах, пренебрегая новыми битвами. Это очень опасно, потому что, несмотря на сохраняющиеся проблемы традиционных религий, судьба человечества и самой жизни будет зависеть от нашего отношения к биоинженерии и ИИ, а не от нашего отношения к Богу и Писанию.

Если верить Харари, либеральный гуманизм будет подорван через десятилетие или два тем же научным прогрессом, который Пинкер превозносит. Подобно тому, как научное изучение Библии непреднамеренно подрывает веру в христианского Бога, научное изучение разума непреднамеренно подрывает веру в либерального гуманистического Бога — свободно выбирающего человека. Алгоритмы, используемые Facebook и Google, уже знают вас лучше, чем ваши друзья и семья. Но алгоритмы будущего будут знать вас лучше, чем вы сами.

Наконец, этот разговор состоялся.

Как и предполагалось, Харари рассуждал, как неуверенный в себе интеллектуал, а Пинкер — как беспощадный президент дискуссионного клуба. Пинкер нарисовал радужную картину человеческого прогресса и его достижений в надежде на то, что он будет продолжаться. Харари наметил мрачное будущее в надежде, что это хоть как-то предотвратит его. Как и все пророки, он пророчествует, чтобы предотвратить пророчество, а не предсказывать его. А в итоге разговор получился так себе.

Настоящий же бой интеллектуалов получился год назад между Харари и Энди Норманом — «Смысл и наследие гуманизма: острый вызов от потенциального союзника». Весьма рекомендую. И особенно тем, кто ошибочно считает Харари легковесным поп-идолом, зарабатывающим на проповедях банальности.

________________________________

Если понравился пост:
- нажмите на “палец вверх”;
- подпишитесь на
обновления канала на платформе Medium;
- оставьте комментарий.
Еще больше материалов на моем Телеграм канале «Малоизвестное интересное».
Подпишитесь

Оригинал и комментарии

Рулить миром будет не тот, у кого ИИ круче, а чей ИИ сможет делать «это» от sergey_57776

США готовят ассиметричный ответ Китаю и России

Image: Flickr
Речь идет о перевороте в «искусстве войны».
Вводится новый смысл — Когнитивная эффективность военных действий. Это понятие революционизирует военное применение ИИ.

В июле Эрик Шмидт (председатель Комиссии по нацбезопасности ИИ и бывший CEO & Chairman Google/Alphabet) и Роберт О. Ворк (зам-председателя Комиссии по нацбезопасности ИИ и бывший Зам-министра обороны США) запустили национальный мозговой штурм по поиску идей, как с помощью ИИ обеспечить абсолютное военное преимущество США в мире.

На основе лучших таких идей Комиссия по нацбезопасности ИИ готовит доклад с предложениями Конгрессу и Белому дому.

Нужно признать, что поступающие Шмидту и Ворку идеи/предложения впечатляют. Это очень круто.

Вот характерный пример — идея/предложение Брэда Дьюеса.

Брэд - майор ВВС США, тактический офицер воздушного управления 13-й воздушной эскадрильи в Форт-Карсон (штат Колорадо), выпускник стипендии Главного штаба ВВС по стратегическим наукам, получивший степень доктора наук в области принятия решений в Гарвардском университете.

Название идеи — ИЗМЕРЕНИЕ ВОЙНЫ: КОГНИТИВНЫЕ ЭФФЕКТЫ В ЭПОХУ ИИ.

Суть идеи.

Современная военная аналитика измеряет всякую хрень и не меряет самого главного — когнитивной эффективности военных действий. Научившись измерять ее с помощью ИИ, с его же помощью можно будет прогнозировать когнитивную эффективность военных действий. Тот, кто это научится делать (а вовсе не тот, у кого ИИ будут круче), обретет абсолютное военное преимущество.

Пояснение 1.

Билли Бин, генеральный менеджер бейсбольной команды Oakland Athletics, столкнулся с аналогичной проблемой в начале 2000-х. Ему нужно было создать конкурентоспособную команду с одним из самых маленьких бюджетов лиги. Бин обратился к т.н. “Moneyball” — подходу (см. фильм «Человек, который изменил всё», чит. книгу [«MoneyBall. Как математика изменила самую популярную спортивную лигу в мире». Это был новый аналитический метод, оценивающий способности игроков на основе статистических данных. “Moneyball” — подход был революционным не потому, что он был аналитическим —цифры всегда были частью бейсбола. Он был революционным, поскольку продемонстрировал, что аналитика бейсбола измеряла всякую хрень и не мерила самого главного. Билли Бин применил “Moneyball”–подход и совершил революцию в бейсбольной аналитике, изменив в ней всё.

Пояснение 2.

Единственный результат военных действий, который в конечном итоге имеет значение, происходит на когнитивном уровне — на уровне, где противники воспринимают и придают значение действиям, предпринимаемым против них. Более конкретно, когнитивное воздействие военных действий — это степень, в которой это действие изменяет убеждение противника в том, что он может максимизировать свои собственные интересы военными средствами.

В том, что конечной целью военных действий является изменение суждений противника, нет ничего нового. Эта идея является вечной правдой о природе войны и зафиксирована в знаменитой фразе Клаузевица — «война есть продолжение политики иными средствами».

Можно еще перефразировать проф. Преображенского — военное поражение фиксируется не на поле боя, а в головах лиц, принимающих решения (ЛПР).

Но проблема в том, что людям крайне сложно понять связь между военной стратегией, конкретными тактическими военными действиями и изменением суждений военных ЛПР противника, происходящих в результате этих тактических действий.

Военное мышление должно было бы распространяться за пределы легко поддающихся измерению средств применения силы — количества войск, кораблей, самолетов, снарядов или бомб. Необходимо увеличить число переменных, которые помогают нарисовать картину того, как противник смотрит на мир — его стратегические цели, уровень отчаяния, вероятная эмоциональная реакция, взгляды на стратегическую эффективность и тактическую результативность. Это интерпретация действий противником определяет когнитивный эффект действия.

ИИ должен научиться предсказывать эту интерпретацию. Зная такой прогноз, можно будет манипулировать суждениями противника.

Пояснение 3.

Эффективность военной кампании следует мерить не так, как сейчас: числом пораженных целей, сбитых самолетов, уничтоженных военных и т.п. Все это хрень. Единственный верный способ оценки — это оценка того, как изменились суждения противника о состоянии и перспективах идущих военных действий. Он ближе к победе или поражению? Насколько ситуация стала лучше или хуже? И почему так?

Без ИИ достичь этого было невозможно. Но теперь ИИ должен сосредоточиться не только на применении силы, но и на влиянии этой силы на суждения противника. Сбор и поддержка правильных данных — лишь первый шаг.

Пояснение 4.

Когнитивная эффективность действия — это не то же самое, что психологическая война.

Психологическая война, в основном, относится к ненасильственным операциям, связанным с распространением информации.

Когнитивные эффекты, в противоположность этому, являются результатом любых военных действий: как насильственных, так и ненасильственных.

P.S. Эта идея о новом «искусстве войны» многим покажется полной ахинеей. Но я бы не стал спешить с выводами. “Moneyball” — подход в начале тоже казался большинству профессионалов полным идиотизмом и профанацией. И каков результат?

А еще стоит помнить, кто стоит за всем этим. Знания, опыт и авторитет Эрика Шмидта и Роберта Ворка, — совсем не фунт изюму. И если они окажутся правы, противникам США вряд ли поможет новое чудо-оружие.

________________________________

Если понравился пост:
- нажмите на “палец вверх”;
- подпишитесь на
обновления канала на платформе Medium;
- оставьте комментарий.
Еще больше материалов на моем Телеграм канале «Малоизвестное интересное».
Подпишитесь

Оригинал и комментарии

И снова о панических атаках от shvaratsky

Оригинал и комментарии

Как там с кофе на окраинах… от https:

Небольшая история и наблюдения кофезависимого, который искал зерно и кофейню в некоторых малых городах Самарской и Оренбургской областях.

Недавно выбрались семьей, на расширенные выходные, поездить по восточной части Самарской области.

Мы еще не поняли, что кофе нет…

Поездка получилась удачной, стояла теплая погода и мы захватили немного Оренбургской области:

3 города: Отрадный, Похвистнево и Бугурслан.

Не могу претендовать на полноценный обзор, так как 3 дня это мало для понимания местных городов и культуры потребления, но…

Из-за определенных рекомендаций врачей мой кофе сместился к одной кружке в день. Это может быть 200–400 мл, но один раз в день. А с учетом того, что если я пью кофе после 17 часов дня, то потом засыпаю ближе к 2-м часам ночи — приходится пить его утром или днем (привет офисная болезнь).

В совокупности все это возвысило значимость и качество той самой чашки кофе до абсолюта.

Приученный мозг просит дозу кофеина, распорядок дня подталкивает к поиску хорошего кофе, которое чаще всего бывает именно в кофейнях.

Но возникла проблема…

В Отрадном я не смог найти кофейню. именно кофейню, где есть больше 2–3 кофейных напитков, где есть бариста и понимание культуры кофе. В Похвистнево мы смогли найти вот такую вывеску:

“Кофе с собой” на вынос

Зайдя туда увидели покрытый пылью и без зерна аппарат. Кофе нет, но есть конфеты, печенька и куры.

Напротив мы увидели обнадеживающую вывеску “Кофейня”:

Не верьте надписям, как мы…

Забежали туда, услышали местное радио, увидели большую вывеску-меню, нашли там “плов” и “лагман”, но про кофе не было ничего. В углу барной стойки-плиты стоял маленький аппарат, который был похож на домашнюю версию кофемолки.

Мы спросили какое кофе есть. На нас посмотрели как на сумасшедших и с неким удивлением сказали:

“А какое вам еще надо? Можем сварить, а можем насыпать!”.

Фразу мы запомнили надолго. :)

Была большая надежда на Бугуруслан, так как в нем живет аж 49500 человек, по сравнению с Похвистнево — 28200 и Отрадным — 47500 + есть кинотеатр, известный гоголевский театр и т.п.

Но опять повторюсь, что три дня это малый срок для каких-то особых сравнений. Я просто хотел кофе, оно мне было нужно, я искал кофейню…

В Бугуруслане есть вот такие заведения:

Дизайн классный, но издалека я подумал что это кофейня

Есть вот такие:

Но здесь был только сублимированный растворимый кофе…

Или:

На вывеске в заведение у двери стоял знак 18+, заведение открывалось после 15 часов и там играли клубную музыку. Мало похоже на кофейню… (мы не стали ждать 4 часа)

В итоге мы нашли бар “Нью-Йорк”, оформленный под комиксы и рок-н-ролл, где был полноценный кофейный аппарат, но почему-то играла клубная музыка и было только 2 кофе на выбор.

Я получил свое кофе и даже смог поставить музыкальный трек Элвиса Пресли через приложение Grabli (хорошее решение), но…

кофе было отвратным. Посуда была хорошей. заведение было неплохим, но кофе был ужасным.

В нашем случае — мы нашли кофе, мы его выпили и поехали дальше.

Спросите зачем этот длинный пост с обилием фотографий?

Как маркетолог, я в принципе понимаю ситуацию: низкая покупательская способность, консервативность, другие культурные традиции напитков, но все равно хочется подумать — почему в малых городах практически нет малых кофеен. Где можно попить кофе или чай.

Я не буду проводить параллели с Англией или арабским миром, которые сильно повлияли на культуру потребления кофе в 16-19х веках, но возьмем ту же “Додо-пиццу”.

Основная масса пиццерий у компании в городах до 100 тысяч населения. Есть своя ниша и есть свой спрос.

По идее 1 кофейня на 1 город может выжить, особенно если ее разбавить чаем и местными сувенирами с пряниками. Кстати, помимо кофе, мы не смогли найти магнитиков этих городов.

Кофемолка из усадьбы-музея. 19й век.

Мы нашли и купили магнитики музея-усадьбы, но городов не нашли.

Я дискутировал на ту тему с близкими и коллегами.

Контраргументы идут про бедственное положение и выживание людей в малых городах, ориентацию на недорогие “ТМ” и огород. Кофе же тут относится к условно “деликатесам” и той категории товаров у которой есть высокая кросс конкуренция с алкоголем и другими товарными категориями.

С другой стороны, мы с вами знаем про бурный рост китайских кофеен, которые проникают во все деревни в Китае, несмотря на низкую платежеспособность. Тут контраргументы — инвестиционные деньги, легко тратить, легко расти…

Резюмируя: хочется увидеть кофейню, где делают кофе, а не плов с лагманом. Хочется, чтобы разнообразие и возможности безалкогольных напитков расширялись и мы все жили немного лучше. Даже в малых городах.

А вы что думаете про кофе в малых городах?


Как там с кофе на окраинах… was originally published in Caffeinated and Coffee on Medium, where people are continuing the conversation by highlighting and responding to this story.

Оригинал и комментарии

У нас в России и счастье особенное от sergey_57776
Коллаж на основе работы SerjioLe / iStock

Вчера увидел малоизвестный интересный материал о том, как измерить уровень счастья в России. Помимо того, что материал социолога Понарина сам по себе мне показался интересным, он также:

  1. хорошо дополняет мой рассказ о «международном рейтинге счастья» за 2019, показавшем, что «формула всеобщего счастья проста и понятна»;
  2. позволяет увидеть довольно тонкое различие в «приоритетах счастья» интеллектуалов и просто творческих людей в России и в США.

Чуть поясню, а дальше сами читайте по ссылкам, если заинтересует.

1) В России, как я писал, со счастьем незадача. Наша страна в этом году лишь на 68м месте, за год потеряв 9 позиций, а за два года — 19.

Но вот оказывается (как пишет Понарин) уровень счастья в России стабильно падал с его первого замера в 1981 г. Особенно резко он падал, понятно, в 90-е годы, достигнув минимума в середине десятилетия. Где-то с 2000-го он стал подниматься и в 2016 почти достиг уровня начала 80-х. Однако и тут не срослось. Теперь снова падает.

В общем, мы невыгодно контрастируем и со Скандинавией, получающей счастье через богатство и равенство, и с Латинской Америкой с ее тесными родственными и дружескими связями и опорой на религию.

2) Из рассказа Понарина следует, что население России, в основном, состоит из материалистов, то есть тех, кто во главу угла ставит экономическое благополучие и безопасность. О свободе выбора или интересной работе они думают во вторую очередь, если вообще думают.

Кроме того, нашим соотечественникам быть счастливыми довольно сильно мешает зависть. И хотя в Москве больше всего доля людей творческих профессий, но счастливых людей здесь меньше, чем, скажем, в Чебоксарах. Там разрыв в доходах не столь вопиющий.

Сравните это с «приоритетами счастья» интеллектуалов и прочих творческих людей в США. Там в «мире чистогана и желтого дьявола» у творческих людей совсем иные «приоритеты счастья».

  • Как бороться с «психопрофессиональной гравитацией» (когда еще молодым стартапером взлетел на вершину творческого счастья, — а потом оттуда так высоко падать…)?
  • Как с возрастом становиться счастливей, используя теорию «текучего и кристаллизованного интеллекта» (1й — позволяет анализировать и решать новые проблемы, а 2й — это способность использовать знания, полученные в прошлом)?
Источник: https://www.theatlantic.com/magazine/archive/2019/07/work-peak-professional-decline/590650/
  • Как перестать видеть свою жизнь огромным полотном картины, которую вам предстоит написать, а начать воспринимать жизнь, как глыбу мрамора, от которой нужно постараться отколоть все лишнее, чтобы придать ей шедевриальную форму?

Короче, — нам бы их заботы! 🥴

________________________________

Если понравился пост:
- нажмите на “палец вверх”;
- подпишитесь на
обновления канала на платформе Medium;
- оставьте комментарий.
Еще больше материалов на моем Телеграм канале «Малоизвестное интересное».
Подпишитесь

Оригинал и комментарии

SAPIENTISSIMUS — Альтернативное будущее человечества от sergey_57776

SAPIENTISSIMUS — Альтернативное будущее человечества

Как борьба добра и зла внутри нас делает нас людьми

Черный монолит. Кадр из фильма «2001 год: Космическая одиссея»

Часть 1

Историческая сослагистика развития интеллекта

«… возможно ли продолжать жить как в ни в чем не бывало, зная, что и ты сам, и весь вообще мир — не более чем эманация чьего-то разума? И ответил — а почему бы и нет? Велика ли разница — быть продуктом прихоти Бога, сцепления случайных атомов или интеллектуальных игр существ, которых нельзя ни вообразить, ни увидеть?»

Василий Звягинцев «Бульдоги под ковром»

— 1 —

КАРГО-КУЛЬТ ИИ

Все, что нынче принято называть Искусственным интеллектом (ИИ), им вовсе не является. Эти весьма разнообразные запрограммированные и/или самообучаемые вычислительные системы можно называть интеллектом лишь в том смысле, что они способны решать те или иные интеллектуальные задачи, поставленные перед ними людьми. Однако, к человеческому интеллекту — так, как его интуитивно понимают люди — все эти вычислительные системы имеют, примерно, такое же отношение, как стрела автокрана к человеческой руке, на том основании, что обе способны поднимать и перемещать грузы. Ведь вряд ли кто-то в здравом уме всерьез согласится считать стрелу автокрана искусственной заменой своей руки. Что, впрочем, ничуть не уничижает возможности автокрана, способного в узком функциональном сегменте легко превзойти возможности руки любого из чемпионов по армреслингу. С нынешним ИИ, — аналогично. Никакой он не ИИ, на самом деле.

Впрочем, не нужно быть специалистом для понимания интуитивно очевидной вещи — прежде чем становится возможным создание искусственного аналога чего-либо, людям необходимо разобраться и понять, как оно устроено, и как работает. При этом совсем не обязательно, разобравшись и поняв устройство и принципы работы интеллекта человека, копировать это при создании ИИ. Не было же 100%ного копирования природы, например, при создании «искусственных птиц» — самолетов. Однако, принципиально важно было понять, что у «искусственной птицы» должны быть какие-то крылья, обеспечивающие ей подъемную силу и некая силовая установка для создания тяги в полете. Ну а будет ли это одно или несколько крыльев, будут ли они подвижными или нет, и на каком физическом принципе будет работать силовая установка, — уже не принципиально.

Что же до текущего состояния понимания принципов устройства нашего интеллекта, то, к сожалению, можно констатировать следующее.

Признанной научным сообществом и экспериментально подтвержденной теории об устройстве и принципах работы человеческого интеллекта, пока не существует.

Есть различные теории-кандидаты, базирующиеся на совершенно разных структурах, процессах и даже физических принципах, лежащих в основе их представлений о работе интеллекта. Но даже самые проработанные и широко известные из этих теорий пока что весьма далеки от того, чтобы считаться хотя бы общепонятыми, не говоря уж об общепринятыми.

Таким образом, задача создания интеллекта искусственного по-прежнему упирается в недостаточное понимание устройства и принципов работы интеллекта естественного — того человеческого интеллекта, что сложился у нас в результате миллионов лет эволюции. А без этого понимания все создаваемые нами ИИ оказываются чем-то вроде бамбуковых муляжей самолетов в туземных карго-культах. Т.е. какую-то практическую задачу туземцев они все-таки решают, — например, сплачивают их в едином танце вокруг соломенного самолета и подпитывают суеверные убеждения туземцев, что припасы вот-вот прилетят. Но реальной практической заменой оригинала муляжи быть не могут, поскольку функционально с оригиналом не совпадают и, в силу этого, не способны доставлять туземцам столь желанные им материальные блага.

Группа туземцев возле сооруженного ими «самолета», который должен, в их понимании, принести полезные дары с неба.

Возможно, человеческий интеллект все еще слишком сложен для его деконструкции современной наукой. Но если так, и мы, подобно туземцам, не в состоянии охватить своим скудным умом устройство и принцип работы столь сложной машины, то, может быть, стоит попытаться рассмотреть и понять, каким образом эта машина создавалась природой? Ведь единственное, что мы практически точно знаем, так это то, что наш интеллект — продукт миллионов лет работы эволюции.

А что, если бы нам удалось проследить многоэтапный процесс «производственной сборки» нашего интеллекта — его усложнений и усовершенствований в его организации и принципах работы, проделанных за миллионы лет эволюцией?

Может, таким образом мы бы могли, наконец, приблизиться к пониманию, как устроен и работает интеллект современного человека?

— 2—

СВЕРХМАРАФОН АНТРОПОГЕНЕЗА

При постановке задачи реконструировать процесс эволюции человеческого интеллекта, было бы удобно, в качестве стартовой этапа процесса, считать эволюционное выделение далекого предка людей из мира животных. По современным оценкам, это произошло, примерно, 6 млн. лет назад, когда разошлись эволюционные траектории предков людей и шимпанзе.

Рис. 2. Клада шимпанзе (верхняя ветвь) и клада человека (нижняя ветвь). Источник: Л.Б. Вишняцкий «Человек в лабиринте эволюции»

При этом мы понимаем, что эволюционные корни интеллекта уходят на десятки миллионов лет дальше этой развилки, в те далекие времена, когда формировался интеллект многих других видов млекопитающих, несомненно также обладающих теми или иными формами интеллекта. Однако, наиболее близкие нам и наиболее интеллектуально развитые животные — китообразные, слоны, человекообразные обезьяны — обладают иной, отличной от человека формой разума. И потому их интеллект и сознание (а оно у животных, скорее всего, тоже есть) нам понять куда сложнее.

Ведь в том, что касается человека, мы хотя бы худо-бедно представляем итоговый результат эволюции, экспериментируя с собственным интеллектом. Тогда как попытки оценки интеллекта высших животных так и не позволили современной науке продвинуться дальше понимания того, что их интеллект, хоть и можно как-то сопоставить с интеллектом 2–4 летних детей, но это всего лишь грубое, неточное, да и не совсем корректное сопоставление, поскольку разум этих животный просто иной, чем человеческий.

И потому развилка эволюционных траекторий предка человека и животных, после которой появился новый потенциально сверх-разумный вид, видится обоснованной стартовой точкой для анализа эволюционного процесса формирования человеческого типа разума. После прохождения этой стартовой точки в ходе дальнейшей эволюции получилось разумное существо, способное освоить всю планету и создать цивилизацию Именно тогда был включен «пусковой механизм» антропогенеза. И если представить следующие 6 млн. лет эволюции человеческого интеллекта в виде популярной метафоры Густава Эйхельберга, уподобившего динамику развития человеческого общества 60ти километровому сверхмарафону, получится примерно следующее (при сопоставлении 1 км. дистанции ста тысячам лет эволюции).

  • Старт 60ти километрового сверхмарафона
    (примерно 6 млн. лет назад)
Оценки разных исследований здесь расходятся, соглашаясь на том, что это произошло где-то в интервале от 8 до 4,5 млн лет назад.

Включен «пусковой механизм» антропогенеза. Разошлись эволюционные пути наших предков и предков наших ближайших родственников — современных африканских человекообразных обезьян. Как следствие — на Земле может появиться новый потенциально сверх-разумный вид.

  • 35й км. дистанции
    (2,5 млн. лет назад)

И этот род появился. Начинается самостоятельная история рода Homo, объединяющего современных людей и десятки тысяч поколений их предков. Появление первых каменных орудий.

  • 40й км. дистанции
    (2 млн. лет назад).

Люди распространились из Африки в Евразию. Параллельно идет эволюция различных видов людей.

  • 56й км. дистанции
    (500 тыс. лет назад)

Неандертальцы эволюционируют в Европе и на Ближнем Востоке.

  • 58й км. дистанции
    (300 тыс. лет назад)

Люди освоили повседневное использование огня и членораздельной речи.

  • 59й км. дистанции
    (200 тыс. лет назад).

Началась эволюция Homo sapiens в Восточной Африке.

  • 60й км. дистанции
    (70 тыс. лет назад).

Происходит «Большой переход Homo» (другие названия: Human revolution, верхнепалеолитическая революция, когнитивная революция и пр.) — грандиозный переход, в ходе которого движущая сила эволюции изменилась от биологии к культуре — совокупности поведенческих паттернов, разделяемых членами сообщества, основанного на информации, передаваемой социальным путем. Культурная эволюция становится доминирующей, а жизнь человечества становится все более зависимой от распространения идей, а не генов. «Большой переход Homo» стал возможен, как только мозг человека развился настолько, что появилась возможность использовать его не только для хранения информации и прогнозирования окружающей среды в целях выживания, но и для социального обучения, а также для инноваций.

Описанный эволюционный сверхмарафон наводит на размышления, как минимум, по следующим 4 вопросам.

  1. Что запустило «механизм антропогенеза» и стало его катализатором, в результате чего разошлись эволюционные траектории шимпанзе и далеких предков Homo sapiens?
  2. Что за принципиальное отличие возникло у далеких предков людей от шимпанзе, позволившее нашим предкам после шестимиллионолетнего эволюционного сверхмарафона преодолеть когнитивную пропасть, отделяющую разум животных от разума человека?
  3. На что эволюции потребовалось «59+ км. сверхмарафона», подготовивших менее чем километровый победный спурт Homo sapiens?
  4. Почему только на последних нескольких сотнях метров сверхмарафона заработал допинг, запустивший «Большой переход Homo» — экспоненциально ускоривший «бег» Homo sapiens?

— 3—

СЛУЧАЙНОСТЬ ИЛИ …?

По поводу 1го из поставленных вопросов сегодня существуют довольно разные предположения.

Известный российский археолог, д. и. н., ведущий научный сотрудник Отдела археологии палеолита Института истории материальной культуры РАН Леонид Борисович Вишняцкий считает запуск «механизма антропогенеза» результатом случайности — уникального стечения столь же уникальных обстоятельств.

«Толчком, заставившим его начать работу, послужило маловероятное в принципе пересечение в нужном месте и в нужное время практически независимых друг от друга биологических
(формирование у какой-то группы или групп интеллектуально продвинутых гоминоидов морфологической предрасположенности к прямохождению), климатических (аридизация) и тектонических (образование Восточноафриканского рифта) процессов. Это случайное стечение обстоятельств закрыло для наших предков возможность адаптации к меняющимся условиям существования обычным — биологическим — путем и подтолкнуло к более активной реализации уже имевшегося у них достаточно высокого интеллектуального потенциала».

Определяющей ролью случайности — «результатом целого ряда совпадений, следствием далеко не обязательного и даже маловероятного пересечения в одном месте и в одно время независимых или очень мало зависимых друг от друга природных процессов» — Л.Б. Вишняцкий объясняет

  • и появление человека вообще,
  • и выделение ветви, ведущей к человеку, когда она была еще практически неразличима на генеалогическом древе отряда приматов, и наши предки делали лишь первые шаги в направлении гоминизации,
  • и возникновения вида Homo sapiens.

Что ж. Набором маловероятный случайностей можно объяснить все, что угодно. Возможно, так и было. Но есть и иные предположения.

Например, автор мирового бестселлера «SAPIENS. Краткая история человечества» Юваль Ной Харари, ссылается на иную точку зрения, что могло спровоцировать когнитивную революцию.

«Наиболее распространенная теория утверждает, что случайные генетические мутации изменили внутреннюю «настройку» человеческого мозга и сапиенсы обрели умение думать и общаться, используя словесный язык. Можно именовать это мутацией Древа познания».

Согласно этой, доминировавшей с 2002 гипотезе, две уникальные мутации т.н. «гена речи» FOXP2 позволили человеку качественно оторваться от всего живого, превратившись в единственное на Земле существо, способное членораздельно говорить.

Однако со времени написания бестселлера Харари прошло уже 8 лет, и за это время гипотеза о генетической мутации «гена речи» так и не подтвердилась.

Более того, в 2018 году гипотеза объяснения уникальности разума человека двойной мутацией «гена речи» была опровергнута. Оказалось, что эта мутация произошла около 500 тыс. лет назад — задолго до «митохондриальной Евы» — проматери всех современных людей, жившей где-то 200 тыс. лет назад. Такой же как у нас вариант этого гена был обнаружен и у неандертальца. И теперь понятно, что изменения в FOXP2 произошли до того, как начал развиваться язык, — примерно более полумиллиона лет назад. Т.е. FOXP2 оказался не объяснением, а лишь частичкой объяснения сложного и пока не совсем понятного пазла.

Как признает выдающийся российский биолог, палеонтолог и популяризатор науки Александр Владимирович Марков — охота за «подлинно человеческими» особенностями в геноме человека пока дала сравнительно небольшой «улов». Но, тем не менее, что-то ведь изменилось в геноме наших далеких предков около 6 млн. лет назад, когда разошлись клады шимпанзе и человека. Иначе бы они просто не разошлись.

Среди версий, объясняющих «запуск антропогенеза» есть и версия великого фантаста Артура Кларка, экранизированная гениальным Стэнли Кубриком в лучшем фантастическом фильме всех времен и народов «2001: Космическая одиссея». Согласно этой версии, некий артефакт был оставлен на Земле несколько миллионов лет назад инопланетными исследователями, которые наблюдали за поведением обитавших тогда на Земле человекообразных существ и решили кардинально повлиять на их эволюционное развитие.

И сделали они это путем превращения зла (агрессии и насилия, уже заложенных в природу высших приматов эволюцией), в добро (катализатор развития разума).

Сцена, в которой обезьяна поднимает с земли кость и под симфонию Рихарда Штрауса «Так говорил Заратустра» превращается в убийцу, отображает ключевую мысль авторов «Космической Одиссеи»: насилие ведет к разуму, разум — к оружию, а оружие — к новому насилию. Так круг насилия становится основой будущей цивилизации.

Кадр из «2001: Космическая одиссея», когда обезьяна поднимает с земли кость под симфонию Рихарда Штрауса «Так говорил Заратустра», запуская механизм антропогенеза

Могло ли быть такое, — неизвестно. Сегодня убедительных доказательств за или против просто нет.

Но давайте зададимся более конкретным вопросом.

А в принципе, как это можно было бы сделать, пожелай того некая сверхразумная сущность?

Лежащая в основе подобного проекта идея, скорее всего:

✔️ гениально проста (иначе какая это сверхразумная сущность?);

✔️ связана с минимальной генетической корректировкой уже существующего биологического вида, меняющей его дальнейшую эволюционную траекторию в сторону превращения в потенциально сверх-разумное существо;

✔️ рассчитана на воплощение при любых вариантах развития событий на временном горизонте в несколько миллионов лет (поскольку в реальной истории Земли это заняло примерно 6 млн. лет).

Пример подобной идеи, удовлетворяющей трем названным требованиям, в форме отрывка из фанстастической повести, мог бы выглядеть так.

— 4—

ПРОЕКТ «ЧЕРНЫЙ МОНОЛИТ»

6 млн. лет назад Землю посетили представители Межгалактического совета сверхцивилизаций. Целью визита было принятие решения о целесообразности точечного вмешательства в ход эволюции на Земле. Такое вмешательство — проект под кодовым названием «Черный монолит» — должно было стать поворотным моментом эволюции, вследствие которого через миллионы лет на Земле появилась бы цивилизация.

Разговаривают двое:

  • Межгалактический координатор эволюционных корректировок (К)
  • Руководитель проекта «Черный монолит» (Р).

— — —

(К): Этот проект чем-то отличается от всех прошлых точечных корректировок эволюции на обитаемых планетах?

(Р): Раньше мы использовали точечные корректировки лишь для совершенствования каких-то конкретных видов животных на планетах. Теперь же мы хотим создать принципиально новый вид. Это должен быть не просто новый вид животных, а существа, способные эволюционировать настолько, чтобы, примерно, через 6 миллионов лет создать уникальную культуру и собственную цивилизацию. Мы рассчитываем, что эволюция созданной ими культуры ускорит развитие вида по сравнению с биологической эволюцией на несколько порядков. В итоге такого ускорения на протяжении нескольких миллионов лет, скорость эволюционного совершенствования нового вида станет колоссальной. И после обретения видом языка и зачатков культуры, он всего лишь за какие-то 50–100 тыс. лет эволюционирует до масштабов планетарной цивилизации.

(К): Амбициозный план. А с чего планируете начать?

(Р): Первым шагом планируется появление на земле нового промежуточного вида, воплощающего в себе т.н. “парадокса добра”. Именно это и должно стать поворотным моментом, а потом и постоянным катализатором длительного процесса трансформации зверя в потенциально сверх-разумное существо.

(К): Тут давайте поподробнее.

(Р): Суть “парадокса добра” в том, что воплощающие его особи будут одновременно одним из наименее и наиболее агрессивных видов. Наименее агрессивны они будут по отношению к «своим». А наиболее агрессивны, — по отношению к «чужим». В отличие от большинства животных, в своих повседневных отношениях с ближайшим окружением («своими») они будут терпимы, доброжелательны, дружелюбны и неагрессивны. Но в то же время, они будут предельно агрессивны ко всем “чужим”, существенно чаще и эффективней, чем другие виды, убивая «чужих». Причем делая это с куда большей жестокостью и изобретательностью.

(К): А почему для перевода вида из состояния зверя в состояние потенциально сверх-разумного существа обязательно нужен такой промежуточный вид? И какова здесь роль “парадокса добра”?

(Р): На Земле идет эволюция класса 17.9.4, в основе которой постоянная конкуренция (межвидовая и внутривидовая) за ресурсы для выживания. Конкуренция предельно жестокая: либо убьешь ты, либо тебя. А поскольку эволюция работает на отбор самых приспособленных к такой жизни видов и особей, понятиям типа добра и зла здесь просто нет места. Добро здесь — это то, что позволяет выжить и оставить потомство. Даже если за это придется поубивать много других особей.

(К): Это понятно. Но почему для данного типа эволюции нельзя вообще не заморачиваться с «добром» и обойтись лишь уже развитыми эволюцией агрессивностью и жестокостью?

(Р): Можно. Но ждать развития разумности такого вида до уровня планетарной цивилизации придется слишком долго. Мы промоделировали все основные варианты дальнейшей эволюции наземных и водных приматов Земли в течение ближайших 30 млн. лет. Если по-прежнему, лишь агрессивность и жестокость останутся в качестве главных качеств в борьбе за выживание, то вероятность чисто эволюционного развития разума за указанный срок до уровня всепланетарной цивилизации не превышает долей процента.

(К): А при условии точечного вмешательства, встраивающего в эволюцию поведение, индуцирующее «добро»?

(Р): Шансы становятся выше 90% на горизонте около 6 млн. лет.

(К): За счет чего такое ускорение?

(Р): Тут довольно широкий комплекс причин. Назову три главных. Первая в том, что добрые, просоциальные отношения развивают способности к сотрудничеству и передаче культурных знаний. Во-вторых, «добрые» особи становятся умнее своих «злых» сородичей из-за сниженного у них уровня стресса, который подавляет в организме многие процессы. Третья по счету, но не по значению причина в том, что доброе, просоциальное поведение на гормональном уровне связано с неотенией — сохранением младенческих качеств у особи, достигшей половозрелого возраста. А это, помимо свойственной детенышам высокой терпимости, доброжелательности, дружелюбия и неагрессивности, пролонгирует у особи два важнейших для познания качества — любознательность и увлеченность в исследовании окружающего мира. У земных животных эти качества сохраняются лишь в раннем детстве. Потом они безвозвратно исчезают. Но в раннем детстве они жизненно необходимы, поскольку нужны для обучаемости и приобретению знаний.

Три названных причины радикального ускорения развития разума нового вида начнут постепенно действовать практически сразу после проведения нами точечного вмешательства. А примерно через 6 млн. лет, как показывает моделирование процесса культурной эволюции, просоциальное поведение и сотрудничество станут фундаментом для возникновения больших сообществ, государств и цивилизаций.

(К): Звучит довольно заманчиво. [И после небольшой паузы] Какой из вариантов корректировки эволюции вы выбрали в результате моделирования?

(Р): На практике, самой надежной и эффективной будет точечная корректировка агрессивности одного из видов: реактивная агрессивность (ответная реакция на обиду) снижается примерно вдвое. Тогда как активная агрессивность (агрессивность, мотивированная целями особи) остается неизменной — т.е. на чрезвычайно высоком уровне.

(К): А почему бы не понизить уровни обоих видов агрессивности?

(Р): Вид просто не сможет широко распространиться по планете. Столь доброжелательные и к своим, и к чужим существа могут выживать лишь в особых точках планеты, где для них полностью отсутствует какая-либо конкуренция за необходимые для выживания ресурсы. Нам же нужен вид, способный заселить всю планету.

(К): Понятно. С корректируемым видом уже определились?

(Р): Тут особо и выбора нет. Есть как раз три наиболее эволюционно продвинутых вида приматов. Один из них мы возьмем в качестве целевого и установим ему пониженную реактивную агрессивности, сохраняя при этом высокий показатель активной агрессивности. Два других вида будут контрольными: у первого из них обе агрессивности оставим как есть — на максимуме; у второго же сделаем в точности наоборот, по сравнению с целевым видом: оставим неизменным высокий уровень реактивной агрессивности, но понизим примерно вдвое уровень активной агрессивности.

(К): А как выбираете целевой вид из этих трех?

(Р): Да просто случайным образом. Это ведь в принципе все равно. Они же потенциально практически одинаковые.

(К): Хорошо. Последний вопрос — планируется ли контрольная точка в проекте до формирования на Земле цивилизации планетарного уровня?

(Р): Мы не считает целесообразным расширять объем точечного вмешательства ранее, чем через полученные нами при моделировании 6 млн. лет. Все должно идти без нашего вмешательства. Вплоть до момента, когда цивилизация столкнется с глобальными вызовами, которые уже не сможет преодолеть без превращения в цивилизацию планетарного уровеня. И лишь когда это случится, мы начнем 2ю фазу проекта, снова проведя точечную корректировку агрессивности. Но теперь уже понизив активную.

(К): Ну что ж. Интересный может получиться проект. Готовьте к активации оборудование «Черного монолита». Завтра я доложу ситуацию на Межгалактическом совете. И полагаю, что завтра же Совет санкционирует запуск проекта. Мне даже интересно, что из всего этого получится через 6 млн. лет. Ну да время летит быстро. И у нас с вами есть неплохие шансы самим увидеть результаты.

Ну а теперь о самом интересном.

В приведенном отрывке, как в любой околонаучной фантастике, есть и чистая фантазия, и вполне научные факты.

Так вот, — фантазией является лишь:

  • наличие именно таких героев,
  • факт их беседы (никто свечку при этом не держал),
  • и информация о проведении инопланетного проекта «Черный монолит» (тут все вопросы к Кларку и Кубрику).

Ну а все остальное, — чистая правда.

✔️ «Парадокс добра»

✔️ Два типа агрессивности в природе

✔️ Кардинальное снижение реактивной агрессивности у людей по сравнению с животными

✔️ Три совершенно разных итоговых «микса агрессивности» у людей и двух видов шимпанзе

✔️ Влияние снижения реактивной агрессивности на просоциальное поведение, сотрудничество и социальное обучение

✔️ Связка просоциального поведения на гормональном уровне с неотенией

✔️ Влияние неотении на любознательность и увлеченность в исследовании окружающего мира

✔️ Социальное обучение, как основа культурной эволюции

✔️ Решающая роль культурной эволюции в «Большом переходе Homo»

Все это, повторяю, — чистейшая правда. И, следовательно, все могло быть примерно так, как рассказано.

А могло и не быть. Свидетелей, понятное дело, нет. А свидетельства, в основном, — из области чистого разума. Поэтому можно, воспользовавшись неологизмом от Л.Б. Вишняцкого, считать изложенный логический конструкт «исторической сослагистикой». Однако практически все элементы данного конструкта — и это принципиально важно, — экспериментально подтвержденные научные факты, пусть пока еще и не ставшие частью научного мейнстрима, но прошедшие все надлежащие проверки и пир-ревю.

Первым же и, так сказать, опорным элементом предложенного логического конструкта, является теория эволюции человеческой агрессивности, разработанная известным приматологом Ричардом Рэнгемом — профессором антропологии, основателем и директором исследовательского центра по изучению шимпанзе в проекте «Шимпанзе в Кибале», Уганда. Он посвятил изучению шимпанзе 50 лет и в этом году опубликовал итоговую монографию своих исследований, озаглавленную «Парадокс благости: странные отношения между добродетелью и насилием в эволюции человека».

Можно без большого преувеличения сказать, что эта книга подтверждает известную библейскую мудрость .

Человек стал человеком в результате противостояния борющихся в нем добра и зла.

Лишь с одним уточнением из области эволюционной психологии.

Результат этой борьбы внутри нас определяется тонкой настройкой нейро-химических алгоритмов, сформированных в результате миллионов лет эволюции.

Оригинал и комментарии

Мир раскалывается на все более мелкие части от sergey_57776

Это неумолимое следствие цифровизации социальных взаимодействий

Источник: https://necsi.edu/us-social-fragmentation-at-multiple-scales
Задолго до переноса сознания отдельного человека в глобальную цифровую среду, уже вовсю идет перенос в эту среду коллективного сознания общества.

Лет через 300 напишут примерно так.

В 21 веке человечество пережило тектоническую трансформацию, положившую начало разделению Homo sapiens на новые виды. И что этот процесс был запущен на много десятилетий раньше прорыва в объединении инфотеха и биотеха, приведшего к образованию киборгов, а потом и к оцифровке сознания. И что спусковым крючком 1го этапа тектонической трансформации стало лавинообразное перенесение социальных взаимодействий людей в глобальную инфосеть, называвшуюся тогда Интернет.

Так напишут через 300 лет. А что сейчас?

Да и сейчас уже многие понимают, что соцсети на глазах меняют мир. Журналисты и политики, ученые и военные, медиа-индустрия и маркетинг — все констатируют колоссальный рост влияния соцсетей.

Но в чем это выражается в целом для всего общества, а не для прагматики конкретных областей человеческой деятельности, мало кто задумывается.

О том, что соцсети — это мощнейшие катализаторы раскола в обществе, пишу уже несколько лет. Это явление коренится в сложной структуре и динамике социальных систем. Homo sapiens по своей природе не способен к почти мгновенным социальным взаимодействиям с миллионами людей, да еще и при такой колоссальной пропускной способности инфопотоков между ними.

Людям нужен механизм адаптации при таком переносе «нервной системы» их социальных взаимодействий в цифровую глобальную среду. Ведь по сути, еще задолго до переноса сознания отдельного человека в глобальную цифровую среду, уже вовсю идет перенос в эту среду сознания общества. Чтобы адаптироваться к этому, общество задействует все имеющиеся у него механизмы адаптации.

И главным таким, проверенным тысячелетиями механизмом, стал раскол.

Люди самоорганизуются в группы разных масштабов: от семей до городов и культур, от френдов и единомышленников до блоков, партий и наций. И этот процесс совсем не нов. Так было в социальных сетях человечества уже много веков и даже тысячелетий. Потребовалось даже «пришествие Больших Богов», чтобы противодействовать тренду раскола, мешающего масштабированию кооперации людей.

Что же изменилось?

Количество перешло в качество. Взрывной рост масштаба, скорости и пропускной способности социальных взаимодействий сметает все: от веры в Больших Богов до национальной идентичности. Разнообразие людей (гендерное, расовое, мировоззренческое и т.д.) катализируется ростом скоростей, масштабов и объемов инфопотоков. А сложная структура и динамика социальных систем переводит этот нелинейный процесс в новые непредсказуемые качества.

  • Раскол порождает новые качества социальных взаимодействий.
  • Люди вынуждены к этому адаптироваться, приспосабливаться.
  • Необходимость приспособления к кардинально поменявшейся среде в течение десятка поколений, вполне возможно, окажется способной положить основу для разделения Homo sapiens на новые виды.

Пониманию механизмов, приводящих к возникновению многомасштабной фрагментации в гиперсвязанных социальных системах, и конкретному кейсу раскола, происходящего в США посвящен новый интереснейший отчет Института сложных систем Новой Англии (NECSI), опубликованный вчера в Журнале Королевского научного общества «U.S. Social Fragmentation at Multiple Scales».

Структура и шаблоны фрагментации сети социальных коммуникаций. (а) Карта степени центральности сети связи. Цвета указывают количество людей, приезжающих в каждое место (b) 20 «лоскутов», которые могут быть визуально ассоциированы со штатами или регионами, (с) 168 более мелких сообществ в составе сообществ, показанных на рис. b, которые могут быть визуально ассоциированы с крупными городскими аггломерациями.

________________________________

Если понравился пост:
- нажмите на “палец вверх”;
- подпишитесь на
обновления канала на платформе Medium;
- оставьте комментарий.
Еще больше материалов на моем Телеграм канале «Малоизвестное интересное».
Подпишитесь

Оригинал и комментарии

Смена парадигмы будущего для ИИ от sergey_57776

Будущее определяет коэволюция технологий и собственности

Наскальная живопись коровы и лошади, Ласко, Франция. Фото Alamy

Смены научной парадигмы — кардинальная трансформация модели реальности в конкретной науке — в прошлом случались редко. В XX веке подобные перевороты стали чаще, а ближе к концу века стали происходить каждое десятилетие, и даже не по одному. Причина этого — ускорение в накоплении и осмыслении новых знаний и нового опыта человечеством.

В XXI веке это ускорение еще нарастает. И люди уже просто не успевают осознавать и фиксировать все новые смены научных парадигм. Ну поменялось в какой-то науке или даже в ряде наук какое-то базовое представление, — ну и бог с ним. За всеми изменениями, даже базовыми, все равно не угонишься.

Увы, такой подход чреват большими рисками.

Не отрефлексировав в коллективной памяти человечества произошедшую смену какой-то научной парадигмы, можно этим исказить коллективные представления социума о надвигающихся важнейших переменах в будущем.

А ведь будущее не предопределено. Оно будет таким, каким сложится в коллективных представлениях миллионов людей.

И таким образом, пренебрегая осознанием какой-то изменившейся научной парадигмы, люди этим своим незнанием могут способствовать материализации худшего варианта будущего, чем если бы они вовремя это осознали.

Вот яркий пример, о котором я уже не раз писал.

Как изменится экономика и социальные отношения в результате уже вплотную приблизившейся лавины ИИ-автоматизации и ИИ-роботизации (эти два понятия, в принципе, почти одно и то же, но мы по традиции привыкли их различать)?

99% людей — от профессиональных экспертов и аналитиков до журналистов и массовой аудитории — рассматривают достижения в области технологий как экзогенную движущую силу инноваций в экономических и социальных отношениях и институтах.

Считается, что глобальные изменения (климат, демография и т.д.)

➡️ ведут к изобретению новых технологий,

➡️ которые приносят новые возможности,

➡️ которые трансформируют социо-экономические отношения и институты.

А как же иначе? Ведь так уже было всегда в истории человечества. И только чудак Маркс что-то там расписывал про роль частной собственности.

Такова сложившаяся к началу XXI века научная парадигма.

Но она устарела. На основании новой модели, вот уже 10 лет тщательно проверяемой и перепроверяемой на множестве археологических данных, новая парадигма принципиально меняет логику культурной эволюции человечества на логику коэволюции.

Глобальные изменения (климат, демография и т.д.)

➡️ ведут к изобретению новых технологий.

А дальше начинается пинг-понг между новой технологией и социо-экономическими отношениями и институтами. В ходе их коэволюции либо меняются существующие, либо появляются принципиально новые отношения и институты.

И лишь когда новая технология «уживется» с трансформированной или измененной системой отношений/институтов

➡️ новые возможности новой технологии будут востребованы и получат развитие.

Так уже было в ходе неолитической земледельческой революции.

В старой парадигме считалось так.

С улучшение климата 12 тыс. лет назад охотники-собиратели сочли выгодным заняться сельским хозяйством из-за его преимуществ в производительности труда, а распространение и развитие частной собственности стало побочным продуктом сельскохозяйственной революции.

Новая парадигма (на основе матмодели, проверенной на археологических данных) показывает, что все было иначе.

  • Привычные объяснения неолитической земледельческой революции — повышение производительности труда в сельском хозяйстве, демографическое давление, неблагоприятные изменения климата — не согласуются с имеющимися в настоящее время доказательствами.
  • Новая модель, наряду с археологическими свидетельствами, показывает, что новая система прав собственности была предусловием, достаточным для распространения сразу в нескольких регионах Земли новой мега-технологии сельского хозяйства.

Таким образом, сельское хозяйство, вначале приносившее людям больше убытков и ухудшающее жизнь большинства людей, все равно победило и распространилось.

Это произошло, поскольку распространение сельского хозяйства облегчило применение частной собственности в более широкой сфере экономической деятельности (уменьшая конфликты внутри социумов).

Что из этого следует.

  1. Прогнозы McKinsey и Big 5 глобальных консультантов, базирующиеся на оценках повышения производительности отдельных секторов экономики в результате ИИ-автоматизации и ИИ-роботизации, дают искаженные сценарии будущего.
  2. Это будущее будет зависеть от коэволюции:
     — новых разновидностей технологий аналитико-предиктивных ИИ и интеллектуальных роботов
     — новых форм собственности на данные, информацию и результаты труда ИИ-роботов (а также новых, развивающих эти формы институтов)
  3. А также, от решения вопроса нового взрыва неравенства, вследствие невиданной ранее концентрации собственности на алгоритмы и данные.
Неучет 2го и 3го из вышеназванного принципиально искажает сценарии будущего. И может иметь следствием материализацию его худших вариантов.

Новая работа The Neolithic Agricultural Revolution and the Origins of Private Property.

Для лучшего ее понимания, помогут:

P.S. Этот постскриптум написан уже после опубликования поста, в связи с жалобами читателей на “недостаточное раскрытие темы”. Как же так? — пишут мне. Ведь и ежу понятно, что широко распространяться может только та технология, которая не сильно противоречит социальной системе.

В чет тогда здесь новация? И где смена парадигм?

Резюмирую свой ответ так.
Из материалов рекомендуемых мною ссылок следует.

  1. В том то и фокус, сюрприз и пазл, что новая Большая технология — фермерство, — сильно противоречила жизненным интересам людей.
  2. Но каким-то загадочным образом она победила куда более выгодное людям фуражирование.
  3. Моделирование и архео-исследование (10летнее) показали, что причина в возникновении новых типов собственности и новых собственников (о чем я и написал выше) — “новая система прав собственности была предусловием, достаточным для распространения сразу в нескольких регионах Земли новой мега-технологии сельского хозяйства.”

Дальше продолжаю уже собственные спекуляции.

  • Сейчас аналогичная ситуация с ИИ. С точки зрения экономических интересов людей, от ИИ одни неприятности. Главная из них (но далеко не единственная) — потеря работы.
Спрашивается — если людям от ИИ на работе сплошные неприятности, зачем его внедрять?
  • Ответ такой же, как и с фермерством — внедрение мотивируется интересами новых собственников нового типа собственности: алгоритмы, данные и результаты труда ИИ-роботов.

Так что опять, как 4 тыс лет назад:

технологии — ничто, собственность — все.

________________________________

Если понравился пост:
- нажмите на “палец вверх”;
- подпишитесь на
обновления канала на платформе Medium;
- оставьте комментарий.
Еще больше материалов на моем Телеграм канале «Малоизвестное интересное».
Подпишитесь

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

Отзывы (через аккаунты в социальных сетях Вконтакте, Facebook или Google+):

Оставить отзыв с помощью аккаунта ВКонтакте:

Оставить отзыв с помощью аккаунта FaceBook:

Архив лучших постов