Недавние тренды рунета

Недавние тренды рунета

Оптимизм в перспективах сильного ИИ ведет к большой войне от sergey_57776

Таков вердикт моделирования развития прорывных технологий

Рис. Steve Jonson с обложки книги Technology and National Security: Maintaining America’s Edge

Все развитые страны стоят перед важным выбором — какая национальная ИИ-стратегия будет для них наиболее успешной:

А) антиморальный эгоизм типа «каждый за себя»: забить на все моральные и гуманистические принципы, не останавливаясь ни перед чем, лишь бы обеспечить себе максимально высокое место в международной конкурентной гонке?

Б) прозорливое высокоморальное международное сотрудничество, наподобие Эры Мирового Воссоединения в «Туманности Андромеды» И.А. Ефремова?

Навряд ли, принимая это решение, Трамп, Си Цзиньпин, Путин или Макрон будут полагаться на результаты анализа и моделирования того, куда приведет мир избранный ими путь.

И это очень жаль. Поскольку:

  • такая модель уже существует;
  • и она демонстрирует страшные результаты.
Что если смоделировать международную гонку в наиболее прорывных технологических направлениях с помощью эволюционной теории игр?
Что если допустить для каждого из участников гонки выбор одной из 3х стратегий: антиморальный эгоизм (см. выше стратегию А), прозорливое высокоморальное сотрудничество (см. выше стратегию Б) или смешанная стратегия А+Б?
Что если поставить целью моделирования не только шансы на выигрыш конкретных стратегий, но и анализ вероятности возникновения в результате международной гонки «большой катастрофы» (называя вещи своими именами, — большой войны)?
Что если запитать такую модель экспертными оценками специалистов и модельным расчетом шансов выигрыша страны в конкурентной борьбе, следуя одной из 3х вышеназванных стратегий?

Все это и было сделано в новом исследовании Modelling the Safety and Surveillance of the AI Race.

1й из 2х главных результатов моделирования интуитивно понятен и без всякого моделирования (что не снижает ценности его подтверждения путем симуляции).

✔️ Выигрыш в конкурентной гонке быстродостижимых прорывных технологий обеспечивает стратегия А — антиморальный эгоизм (шансы «большой катастрофы» максимальны).

✔️ Выигрыш в конкурентной гонке быстроНЕдостижимых прорывных технологий обеспечивает стратегия Б — прозорливое высокоморальное сотрудничество (шансы «большой катастрофы» минимальны).

2й главный результат совсем не так очевиден.

✔️ Чем больше оптимистический прогнозов (не важно, стращалки это или обещалки) приближения исследований к реализации «Сильного ИИ — AGI», тем выше шансы его восприятия лицами принимающими госрешения в качестве быстродостижимой прорывной технологии.

Следствием этого будет:

— приоритет национальных стратегий «каждый за себя» (ИИ-национализм);
— подхлестывание гонки ИИ-вооружений;
— максимизация риска большой войны.

Полученные выводы одинаково справедливы и для 4х других технологий высшего государственного приоритета, названных директором-основателем Центра безопасности и новейших технологий и бывший директором отдела перспективных исследований в области разведки США Джейсоном Матени:

• Биотехнологии

• Малые спутники

• Квантовые компьютеры

  • Когнитивные усовершенствования

________________________________

Если понравился пост:
- нажмите на “палец вверх”;
- подпишитесь на
обновления канала на платформе Medium;
- оставьте комментарий.
Еще больше материалов на моем Телеграм канале «Малоизвестное интересное».
Подпишитесь

Оригинал и комментарии

Пять мифов о сознании от sergey_57776
Источник: https://www.newscientist.com/round-up/what-is-consciousness/

Есть такие статьи — короткие, понятные и полезные, — которые получаются только у самых крутых профессионалов. Когда читателю не нужно даже пытаться что-то перепроверять, ну и конечно совершенно бессмысленно спорить. Просто прочесть, понять и запомнить.

Кристоф Кох (главный ученый и президент Института наук о мозге Аллена) — именно такой профи. А его статья опровергает пять самых распространенных мифов о сознании.

Mиф №1 — Человеческий мозг уникален, имея некие принципиальные отличия от мозга животных.

Но никакие качественные отличия пока не найдены.

Mиф №2 — Наука никогда не поймет сознание.

Но никаких принципиально непреодолимых проблем здесь нет. Просто нужно время.

Mиф №3 — Сны содержат скрытые подсказки о наших тайных желаниях.

Но сны не скрывают наших желаний, а скорее выражают наши заботы в легко понятной и вполне логичной форме.

Mиф №4 — Реклама может воздействовать на подсознательным уровне.

Но последствия подсознательных воздействий рекламы испаряются уже через 15 мин.

Mиф №5 — “Видения” людей, побывавших в шаге от смерти являются свидетельством загробной жизни.

Но такие видения, скорее всего, являются попытками мозга продолжать выполнять свою работу по постижению мира, даже когда его собственные функции затруднены, и когда некоторые из его цепей восприятия и памяти отключены или генерируют ложную активность. И хотя здесь не требуются никакие сверхъестественные объяснения, тем ни менее, важно изучить, почему эти видения оставляют у многих пациентов длительное чувство спокойствия, безмятежности и принятия их окончательной кончины. Понимание этого может привести к терапевтическим прорывам.

________________________________

Если понравился пост:
- нажмите на “палец вверх”;
- подпишитесь на
обновления канала на платформе Medium;
- оставьте комментарий.
Еще больше материалов на моем Телеграм канале «Малоизвестное интересное».
Подпишитесь

Оригинал и комментарии

Засада на пути мирового господства Китая в ИИ от sergey_57776

Утечка мозгов удерживает Китай от доминирования

Среди четырех ключевых факторов, влияющих на ИИ-экосистему страны (талант, данные, капитал и оборудование), — 1й оказывает наибольшее влияние.

И хотя Кай-Фу Ли довольно успешно втирает миру, будто бы Китай обречен на победу из-за превосходства в объемах данных, это все же не совсем так.

Кай-Фу Ли лукавит. А ИИ-энтузиасты, типа Грефа на это ведутся, повторяя мантру «данные — это новая нефть».

Данные — это НЕ нефть.

Чтобы прочувствовать это, просто замените одно слово в мантре: “данные” на “мнения”.

И то и другое — вещи абсолютно субъективные и зависящие от их представления и трактовки. И то и другое — понятия редуктивные, упрощающие сложные явления, и к тому же совсем не гарантированного качества.

Так что забудьте про мантру «Данные — это новая нефть», которой вас через СМИ гипнотизируют ИИ-энтузиасты.

Таланты — вот новая нефть! И Китай это понял одним из первых.

Поставив на приоритетность ИИ, Китай за 10 лет сумел увеличить число китайских ИИ-спецов почти в 10 раз. В 2009 среди авторов докладов на крупнейшей мировой конференции NeurIPS было всего 100 китайских исследователей (14% от общего числа). В 2018 году их было уже 1000, что составляет 25%.

Но тут Китай нарвался на страшную засаду — утечку мозгов.

Сегодня примерно 75% китайских авторов публикуемых исследований работают за пределами Китая.
Причем 85% из них работают в США — либо в техно-гигантах, типа Google и IBM, либо университетских лабах.

С этим никакие объемы данных ничего поделать не могут. И капиталы с оборудованием тоже. Здесь «кадры решают все».

Увы, мы в России это на своей шкуре ох как чувствуем.

Ну а прочий свободный мир с китайской ИИ-угрозой еще поборется.

P.S. Про то, что данные — это вовсе не новая нефть кое-кто и в США хорошо понимает.

________________________________

Если понравился пост:
- нажмите на “палец вверх”;
- подпишитесь на
обновления канала на платформе Medium;
- оставьте комментарий.
Еще больше материалов на моем Телеграм канале «Малоизвестное интересное».
Подпишитесь

Оригинал и комментарии

Роботы уже меняют нашу мораль от sergey_57776

В нас растут жестокость к людям и непреодолимая тяга к роботам

Белые роботы нравятся нам больше черных. Getty Images/Tetra images

Hагрузить вас перед уикендом сразу двумя крутыми исследованиями было бы не гуманно. Но исследования реально крутые и очень интересные. А фишка в том, что нужно их читать параллельно.

Но нам повезло. На помощь пришла Sigal Samuel, опубликовав в Vox синтетический анализ обоих исследований: популярным языком и со всеми полезными ссылками.

Мне же остается лишь сделать для вас наводку на резкость в этой теме.

Суть в том, что под влиянием роботов люди уже начали меняться. Причем, не в лучшую сторону и с ускорением.

  1. Мы становимся более нетерпимыми и даже жестокими, перенося вседозволенность по отношению к роботам на людей.
  2. Мы неуклонно движемся к тому, чтобы всюду, где это будет возможным, предпочитать общение с роботами, вместо людей (от кол-центра до постели)

Новое исследование Embodiment into a robot increases its acceptability — прорывное. Впервые экспериментально доказали, что процесс роста нашей жестокости к роботам можно остановить, и даже повернуть вспять.

Для этого оказывается достаточным:

  • начать видеть мир глазами робота;
  • в буквальном смысле, влезть в его шкуру (то бишь, тело).

Изумительная выдумка авторов исследования сработала.

Достаточно, надев VR очки и посмотрев на себя в зеркале, увидеть там Чудо-юдо Ужасное, как мы начинаем проникаться в нему симпатией и всяческой толерантностью.

Короче, перечитайте «Превращение» Кафки и только представьте, насколько проще было бы семье Грегора Замза смириться с его новым гадким видом, имей они тогда VR очки с хорошим софтом.

Второе исследование Social Robots and Empathy: The Harmful Effects of Always Getting What We Want показывает, что сопереживание роботам может снижать нашу эмпатию к людям.

Роботы устраняют для нас необходимость сопереживать другим людям, предоставляя нам возможность получать от роботов ровно то, что мы хотим (и как хотим) без каких-либо компромиссов.

Не поленитесь сходить и по иллюстративным ссылкам. Например, про китайское приложение Love and Producer, на которое в Поднебесной подсели уже миллионы женщин. И всего-то дел, — простенький симулятор свиданий с четырьмя мужчинами, с которыми можно развивать отношения по ходу сюжета игры. Плюс чуть-чуть мистики и немного фэнтези… И вот уже дамы берут смартфон в постель, предпочитая сладкоголосого виртуального героя мужу.

Прочтите пятиминутный пост Sigal Samuel. А уж пойти ли по многочисленным приведенным там ссылкам, решите по ходу.

P.S. И вся эта гадость по отношению к виртуальным персонажам и роботам начинает проявляться в людях лишь после 30 месячного возраста. А до того матушка-природа уберегла, — нет в малых детях никакой тяги к виртуалам. Малышам нужны лишь живые люди. Получается, что первые 30 месяцев жизни дети всё еще пребывают как бы в раю. Ну а потом искушения е-культуры берут своё.

________________________________

Если понравился пост:
- нажмите на “палец вверх”;
- подпишитесь на
обновления канала на платформе Medium;
- оставьте комментарий.
Еще больше материалов на моем Телеграм канале «Малоизвестное интересное».
Подпишитесь

Оригинал и комментарии

Разве это всегда так? от ibsmirnov

Разве это всегда так? Знаю огромное количество людей, которые бросали PhD, потому что у них не хватало денег, или не поступали, потому что у них их не было. В Европе в отличие от Штатов PhD всегда бесплатно (во всяком случае я не знаю исключений). Да, бывают, unfunded positions, но это не то что бы супер-часто и зависит от области. В некоторых областях PhD это всегда полноценный трудовой договор с достаточной для жизни зарплатой и всей вытекающей из трудового договора защитой.

Оригинал и комментарии

Пять ключей к проактивному мышлению от https:

Управление собой

Что значит “управлять собой”? Почему я наступаю на одни и те же грабли? В какой степени мой выбор обусловлен обстоятельствами? Почему в одних и тех же обстоятельствах разные люди действуют по-разному? Что позволяет мне принимать сильные решения? Как управлять самоуправляемыми организациями?

10 лет назад я заканчивал обучение на программе MBA и в качестве аттестационной работы выбрал тему “Управление по ценностям”. Я не очень представлял что это такое, но у меня был вполне конкретный внутренний запрос. Я начинал ощущать, что будучи руководителем своей, пусть небольшой, компании, сам торможу её развитие, поскольку являюсь узким местом в процессе принятия решений.

Думаю, ситуация многим знакома. На начальном этапе становления компании, основатели всё делают сами. Затем постепенно начинают делегировать исполнение тех или иных функций и так до тех пор, пока в руках не останется единственная функция — принятие решений. Вот её делегировать крайне сложно.

Логика мышления основателя компании сильно отличается от логики сотрудников. И прежде всего тем, что основатель каким-то пятым чувством понимает где он хочет оказаться завтра и что для этого нужно делать сегодня. Как делегируешь это чувство?

Сегодня многие компании всерьёз подошли к тому же вопросу, когда модным стало самоуправление, бирюзовость, эджайловость, суть которых в том, чтобы команды самостоятельно принимали решения, касающиеся продукта и взаимодействия с клиентом. Какого качества эти решения? Готовы ли сотрудники брать на себя ответственность за последствия своих решений?

Ещё один корпоративный аспект — управление изменениями. Если люди всю жизнь действовали в одной логике, какова вероятность, что они изменяться по приказу свыше? И как быстро произойдёт откат после эмоционального вброса?

Хочу предложить вам модель, к которой я пришёл в поисках ответов на эти и смежные с ними вопросы. Для лучшего понимания этой модели предлагаю прочитать заметку целиком, а для тех, кому не терпится узнать ответы, спойлер. Вот они, 5 ключей:

  • Управление вниманием
  • Управление пониманием
  • Управление выбором
  • Управление ресурсами
  • Воля

Яснее не стало? Тема проактивного мышления и механизмов управления собой для вас актуальна? Вот уже месяца три я рассказываю об этой модели самым разным людям, оттачивая формулировки и логику изложения. Эта заметка — первая попытка формального изложения.

В каждый момент времени каждый человек находится в определённых обстоятельствах и совершает выбор, который определяет его действия. Я обнаружил, что есть три принципиальных стратегии выбора:

  • Привычная — стратегия, основанная на прошлом опыте, который сформировался в результате получения позитивных и негативных подкреплений. Это очень сильная, сущностная стратегия. Чтобы повлиять на неё, требуется длительная работа с привычками или мощный кризис. Сильная сторона этой стратегии в том, что она базируется на опыте. Слабая в том, что она не работает для новых ситуаций или когда контекст изменился.
  • Эмоциональная — стратегия базируется на доверии к себе, своему первому впечатлению, пятой точке. Поскольку через эмоции мы получаем доступ к мудрости всех предыдущих поколений, эта стратегия часто даёт хороший результат. Минусом является то, что эмоциональный код научились взламывать и часто, поддаваясь эмоциональному порыву, мы просто исполняем чужую программу как по нотам.
  • Проактивная стратегия выбора ориентирована на изменение обстоятельств. Этим она принципиально отличается от первых двух, которые по сути своей, реактивны, то есть являются реакцией на обстоятельства, способом приспособления к ним. Проактивность предполагает, что у вас есть модель обстоятельств с хорошей предсказательной силой. Вы видите как минимум, несколько сценариев развития событий и делаете ставку на один из них.

При этом понятно, что ни привычная, ни эмоциональная стратегии не требуют каких-либо сознательных усилий со стороны человека, практикующего их — они реализуются на уровне подсознания. Чего не скажешь о проактивной. Как-то мне попалась байка о дзен-буддистских монахах. Попытаюсь воспроизвести её на уровне смыслов:

В неком монастыре, ученик, проходивший обучение 20 лет, получил звание учителя. И вот через год учительствования, он навестил своего учителя. Они пили чай и вели умные беседы. И перед тем как молодой учитель собрался уходить, старый учитель спросил его: “с какой стороны от тапочек ты поставил зонтик?”. Когда молодой учитель приходил, на улице шёл дождь. Молодой учитель был пойман врасплох и не нашёл что ответить кроме как снять с себя звание учителя и попроситься обратно в ученики.

Возможно старый учитель просто докопался до молодого. Ведь нереально помнить и контролировать каждое своё действие! Но есть и другая точка зрения на ситуацию с тапочками. Если предположить, что с зонтика натечёт лужа, то тапочки нужно ставить ближе к входу, чем зонт. И если ты действовал в этой логике, тебе ничто не стоит ответить — это же элементарно!

Может показаться, что проактивное поведение возникает вследствие рационального подхода. Это не совсем так. Точнее одного рационального подхода не достаточно для того, чтобы возникла проактивность. Ведь как известно, человек с успехом подводит рациональную базу под любое своё решение.

Я попытался проследить логику того, как возникают проактивные решения, а также связку между решениями и их воплощением в действии. И вот что у меня получилось:

  • Проактивное действие направлено на изменение обстоятельств в которых находится действующее лицо;
  • Самому действию предшествует решение, которое принято на основе анализа модели ситуации. Подчеркну, что нет никакой возможности анализировать ситуацию, но можно анализировать её модель;
  • Модель ситуации, или её интерпретация собирает воедино наблюдаемые феномены — некоторые явления или характеристики явлений, которые нам показались значимы;
  • Разные люди, побывав в одних и тех же обстоятельствах, расскажут вам совершенно разные истории — то есть, их феноменологическое восприятие будет различно.

Попытаемся понять какие процессы мышления стоят за стрелками в этой модели:

Обстоятельства -> Феномены

Когда у моего автомобиля перегорает лампочка в фаре и я направляюсь в сервис, то неожиданно на встречке оказывается много одноглазых автомобилей. Зато когда я выезжаю с сервиса, они исчезают.

Думаю вам понятно, что одноглазых автомобилей всё время примерно одно и то же количество. Менялось лишь моё внимание. Пока вопрос с фарой был для меня актуален, внимание выделяло в окружающих мня обстоятельствах этот феномен. Соответственно, как только актуальность пропала, внимание переключилось на что-то иное.

Эдварл де Боно, автор ряда книг о мышлении, изобрёл метод “Шести шляп мышления” после того как осознал данную особенность внимания. Суть метода в том, чтобы явным образом перенастраивать восприятие на разные аспекты обстоятельств.

  • в синей шляпе мы думаем о том как будем думать;
  • в белой фокусируемся на фактах, отбрасывая мнения, домыслы и интерпретации;
  • в чёрной анализируем риски и негативные моменты обстоятельств;
  • в зелёной шляпе считаем, что у нас нет никаких ограничений и врубаем креатив на полную катушку;
  • в красной мы становимся эмпатичны и обращаем внимание на эмоции и чувства участников, включённых в обстоятельства;
  • жёлтая шляпа — это режим оптимизма в котором мечты сбываются.

После того как посмотришь на обстоятельства, побывав в шляпе каждого цвета, восприятие ситуации станет более комплексным.

При этом, наше внимание не может одновременно воспринимать ситуацию во всех аспектах. Требуется именно последовательное его переключение. Мне удобно думать о внимании через метафору радиоприёмника — крутишь ручку настройки частоты и ловишь различные радиостанции, которые одновременно присутствуют в эфире.

С другой стороны, каждой профессии свойственна собственная настройка внимания, позволяющая видеть различные аспекты ситуации:

  • Дизайнер замечает рекламу, шрифты, отступы.
  • Предприниматель замечает фишки, направленные на привлечение и удовлетворение потребностей клиентов;
  • Драматург видит ключевой конфликт и поворотные моменты;
  • Психотерапевт видит ограничивающие убеждения;
  • Психолог считывает эмоции.

Ещё один аспект управления вниманием — это формирование повестки дня. Кто формирует вашу повестку? Для кого повестку формируете вы?

В одной из статей Сергей Карелов наткнулся на интересный факт. Объём информации, регистрируемой органами чувств, учёные оценивают в 10–20 мегабит в секунду. В то же время, сознание обрабатывает поток информации около 60 бит в секунду. Не сопоставимые величины. Сказать, что от нашего сознания ускользает большая часть — ничего не сказать.

Поэтому управление вниманием — увеличение разрешающей способности и расширение спектра восприятия — первый ключ к проактивному мышлению.

Феномены -> Модель ситуации

Человеку свойственно во всём искать смысл, обнаруживать взаимосвязи между феноменами, строить объяснительные модели. Именно благодаря моделям мы можем предсказывать будущее.

И если для физического мира модели работают довольно точно, поскольку в их работу не вмешивается фактор воли, то для социальных систем дело обстоит не столь однозначно. Однако понимание тех или иных социальных законов, если и не позволяет предсказать исход конкретного события, то позволяет увидеть тенденцию.

Так например, закон убывающей предельной полезности говорит, что долго на одной инновации не протянешь, нужно создавать поток инноваций.

В акселераторах новоиспечённых стартаперов учат думать о своём бизнесе через призму business model canvas Алекса Остервальдера. В бизнес-школах изучают SWOT анализ, матрицу Бостонской консалтинговой группы, 7s McKinsey, AIDA и другие.

Чем обширнее ваш арсенал моделей, тем больше у вас есть способов думать. Изобретение новой модели — это всегда прорыв именно потому, что открывает возможность по-новому осмыслить реальность.

Вот пример: известный консультант Ицхак Адизес изобрёл модель стилей менеджмента PAEI и благодаря ей объяснил, почему идеальных менеджеров не существует, зато идеальная команда менеджеров возможна.

Откуда появляются новые модели? Всё просто. Нужно проблематизировать, а затем переосмысливать существующие модели. Для этого потребуется обнаруживать феномены, которые не укладываются в существующие модели.

Например, древние греки поняли, что земля круглая, заглядывая в колодцы и обнаружив, что в некоторых городах солнце в зените освещает дно, а в других — нет. Этот удивительный факт проблематизировал модель плоской земли, поскольку Солнце в зените на плоской земле должно освещать дно всех колодцев.

Гелиоцентрическая система была придумана в результате проблематизации сложной системы небесных сфер, созданной Птолемеем.

Энштейн придумал теорию относительности когда Ньютоновская теория была проблематизирована тем, что наблюдаемые параметры движения Меркурия по орбите не соответствуют расчётным, а Эддингтон подтвердил наличие гравитационной линзы, создаваемой Солнцем экспериментально.

Гибкий подход к разработке ПО возник в результате проблематизции модели “водопад”.

Управление пониманием — второй ключ к проактивному мышлению. Основные операции мышления для работы с моделями: осмысление, проблематизация, переосмысление.

Скажу жёстко, без построения или использования моделей нет никакого проактивного мышления.

Модель ситуации -> Решение

И вот мы подобрались к самому интересному — ценностям. Именно благодаря ценностям человек расставляет приоритеты. Что выбрать, журавля в небе или синицу в руках?

Я писал о Ценностях в нескольких заметках:

Принципиальным моментом в описании ценностей я считаю то, что Ценность невозможно декларировать не определив ту Цену, которую ты готов заплатить за следование ценности. Приведу пример заявлений о ценностях одной крупной компании:

Безопасность

  • Мы бережно относимся к окружающей среде
  • Мы руководствуемся стандартами безопасного бизнеса
  • Мы поддерживаем культуру безопасности
  • Мы лично несём ответственность за безопасность

Ответственность

  • Мы честны друг с другом и партнерами
  • Мы уважаем мнение каждого
  • Мы несем ответственность за результат
  • Мы дорожим репутацией Компании

Красиво! Но будет ли работать? Не хватает Цены, которая бы придавала вес этим словам. Я считаю, что можно использовать слова “даже если”. Получится:

Безопасность

  • Мы бережно относимся к окружающей среде даже если …
  • Мы руководствуемся стандартами безопасного бизнеса даже если …
  • Мы поддерживаем культуру безопасности даже если …
  • Мы лично несём ответственность за безопасность даже если …

Ответственность

  • Мы честны друг с другом и партнерами даже если …
  • Мы уважаем мнение каждого даже если …
  • Мы несем ответственность за результат даже если …
  • Мы дорожим репутацией Компании даже если …

Чувствуете как изменился вес слов? Понятно, что может возникнуть борьба за новые формулировки, но на мой взгляд это верный признак того, что определения действительно чего-то стоят.

Удивительным открытием для меня стало то, что Agile манифест провозглашает ценности именно в такой логике, о чём я написал соответствующую заметку:

Ценности Agile 3.х

Как формируются ценности? По большей части неосознанно. Впитываются из окружения в котором формируется личность. И если человек или компания не прояснили свои ценности, решения принимаются в логике, не вполне доступной осознанию. А когда обнаруживается систематическая ошибка при принятии решений: неоправданный риск, ставка на отношения с чиновниками, неспособность делегировать — искать проблему в рациональных моделях бесполезно. Дело в ценностях. Становится понятно почему Друкер сказал, что

Культура съедает стратегию на завтрак

Ведь выбор сценария в котором мы находимся — это ценностный, а не рациональный выбор.

Управление выбором — третий ключ к проактивному мышлению и он основывается на прояснении и управлении своим ценностным набором.

Решение -> Действие

Что происходит после того, как решение принято? Как часто случается, что для реализации сильного решения у нас не достаточно ресурсов?

Хочу обратить внимание на то, что ресурсы могут быть внутренними и внешними. Внутренние ресурсы неотделимы от действующего лица:

  • здоровье
  • социальный капитал
  • репутация / личный брэнд
  • знания и опыт

Внешние ресурсы — это то, чем действующее лицо может распоряжаться, или влиять на то, каким образом они будут использованы:

  • денежные сбережения
  • материальные объекты
  • сотрудники
  • последователи
Управление ресурсами — четвёртый ключ к проактивному мышлению.

И тут хочется сделать акцент именно на внутренних ресурсах. Тех, что находятся в нашей власти. Что мы делаем для того, чтобы накапливать свою ресурсность в плане здоровья, знаний, социального капитала, репутации?

Действия -> Обстоятельства

Все ли наши решения мы доводим до реализации? Как быстро, столкнувшись с трудностями, мы готовы отказаться от решения?

Воля — пятый ключ к проактивному мышлению.

Волю я определяю как способность удержания фокуса внимания на цели в условиях неблагоприятных факторов на пути её достижения.

Как воля формируется, закаляется, активируется пока не очень понимаю. Очевидно, она является производной от ценностей, но что-то есть ещё — готовность платить предельную цену за следование своим принципам.

Управление собой

Кто дочитал до этого места получает приз — схемку, описывающую всё выше сказанное :)

А теперь ответьте на вопрос:

Управляете ли вы собой и если да, то как конкретно это происходит?

  • Какие техники управления вниманием вы используете?
  • В каких сферах деятельности ваше восприятие имеет разрешающую способность выше среднего?
  • В каких сферах вы работаете сейчас над повышением разрешающей способности восприятия?
  • Сколько моделей находится в вашем активе?
  • Сколько моделей вы проблематизировали за последний месяц?
  • Сколько новых моделей создали за последний месяц?
  • Можете ли вы перечислить ценности, входящие в ваш базовый ценностный набор?
  • Какие ценности вы вывели из своего ценностного набора за последние 3 года?
  • Какие новые ценности вы ввели в свой ценностный набор за последние 3 года?
  • Над развитием каких внутренних ресурсов вы систематически работали в течение последнего года?
  • Между какими сценариями развития был сделан выбор за последний год?
  • Внутри каких сценариев вы живёте?
  • Какие сценарии вы покинули за последний год?

Вы всё ещё уверены, что управляете собой?

Да? Снимаю шляпу! Лично я, когда построил эту модель, осознал насколько я далёк от того, чтобы ответственно положительно ответить на этот вопрос.

С другой стороны, эта модель дала мне пять ключей к управлению собой, а возможно и другими…

Безумен тот, кто не умея управлять собой, хочет управлять другими. — Публий Сир

Ведь что делает психотерапевт или коуч, задавая вопросы? Правильно, управляет вниманием своего клиента, помогает ему обнаружить феномены, которые до того ускользали из поля зрения.

Что делает преподаватель, раскрывая вам свою модель? Даёт волшебные очки, позволяющие определённым образом смотреть на вещи.

Что делает компания, насаждающая корпоративные ценности? Меняет поведение, задавая чёткие ориентиры того, что ожидает от сотрудников.

Делегирование принятия решений, самоуправление и проактивное мышление

Мы в компании Смыслотека активно используем данную модель для проектирования коммуникационных решений. Как это работает?

Мы исходим из того, что требуемые модели поведения сотрудников являются следствием их “майндсетов” — способов мышления. А первые три ключа: управление вниманием, управление пониманием и управление выбором, определяют любой “майндсет”. Поэтому, если разработать “правильные” вбросы, активирующие эти три ключа, сотрудники начнут генерировать решения в логике этого способа мышления.

Остаются ещё два ключа: управление ресурсами и воля. Мы пока не включаем их внутрь коммуникационных решений и оставляем на откуп заказчикам.

И если уж вы дожили до конца этой заметищи, подключайтесь к нашей группе в телеграм. Пока в ней нет большой активности, периодически размещаю туда ссылки на заметки и записи вебинаров. В планах перейти к клубным встречам, возможно, онлайн.

Клуб Концептологов


Пять ключей к проактивному мышлению was originally published in smysloteka on Medium, where people are continuing the conversation by highlighting and responding to this story.

Оригинал и комментарии

Эксперимент «Человек-светлячок» доказывает фрактальность жизни от sergey_57776

Координация живых систем — от клеток до людей — универсально масштабируется

Организация эксперимента «Человек-светлячок»
Я бы назвал это открытие — шагом к построению «Общей теории поля человеческих взаимодействий».

О чем речь.

• Ключевое отличие живых систем и биологической сложности в том, что в них целое может быть больше и отличаться от суммы его частей (это называется эмерджентность)

• Одним из механизмов эмерджентности может быть ритмическая координация пространственно-временных паттернов во всех живых системах: от слизистой плесени и светлячков до социальных групп и мозга.

• В случаях маломасштабной (диадической) координации у людей, обнаруживаются такие паттерны, как синфазная и антифазная синхронизация / синкопация (причем обнаруживаются на нейронном, сенсомоторном и социальном уровнях).

• А в случаях крупномасштабной координации (например, толпа или социальная сеть), обнаруживаются иные статистические особенности, — например, общий уровень синхронности и переходы от беспорядка (хаоса) к порядку и обратно.

В чем вопрос.

✔️ Существует ли принципиальная разница между крупными и мелкими координационными явлениями?

Что было сделано

• 120 человек разбили на группы по 8 участников, чтобы анализировать их взаимодействие на разных уровнях — диады, группы, ансамбли

• Люди в каждой восьмерке одновременно взаимодействовали друг с другом с помощью набора тачпадов (сенсорных панелей) и светодиодных матриц. Касания сенсорных панелей каждым из участников записывались (1 — касание; 0 — отсоединение) и отображались в виде вспышек соответствующего светодиода на матрицах, установленных перед каждым из участников.

• Перед каждым участником стоял метроном. Его назначение — разделить 8 участников на две частотные группы по 4 человека (на рис. группы A и B, они окрашенные в красный и синий цвета; для иллюстративных целей, все светодиоды показаны белыми — т.е. не горящими). Разность частот метронома между группами A и B систематически менялась, чтобы вызвать различное групповое поведение. А людям было предложено сохранять эту частоту во время взаимодействия после выключения метронома

• Люди не были явно проинструктированы о необходимости координации друг с другом.

Результат эксперимента

  1. Экспериментальная модель позволила проанализировать ключевые характеристики многоагентной координации в разных масштабах.
  2. Модель показала, как увеличение разности частот ослабляет синфазные и противофазные действия участников, что приводит к сегрегации: сначала — на уровне пар участников, а потом и между двумя группами.
  3. Обнаруженная масштабная инвариантность ключевых характеристик многоагентной координации обеспечивает единый подход к биологической координации, объединяющий статистическую механику и нелинейную динамику.

Почему это важно

✔️ Экспериментально доказано, что бесконечное множество уровней жизни разворачивается фрактально.

✔️ Это значит, что микро и макро уровни человеческих взаимодействий (от супругов до государств) описываются одной и той же математикой и управляются одними и теми же законами.

И, следовательно, мы на шаг ближе к общей теории поля … Как минимум, особого класса полей — «поле человеческих взаимодействий» или даже «поле фрактальности жизни».

P.S. Следовательно, масштабной координацией людей (например, сетевой накачкой «цветных революций») можно управлять. И это, — ох как актуально (постараюсь написать об этом в следующий раз).

________________________________

Если понравился пост:
- нажмите на “палец вверх”;
- подпишитесь на
обновления канала на платформе Medium;
- оставьте комментарий.
Еще больше материалов на моем Телеграм канале «Малоизвестное интересное».
Подпишитесь

Оригинал и комментарии

Большой Брат смотрит на Землю «Взглядом Горгоны» от sergey_57776

Это лето станет поворотным моментом на пути к созданию Всемирного Большого Брата. С подачи Gardian мир узнал, что Пентагон уже начал 3х месячное тестирование системы массового видеонаблюдения нового поколения.

Новизна радикальная. Система видит и записывает ВСЕ — любые объекты и каждое перемещение на территории целого города. В то время, как обычная аэрофотосъемка может снимать в конкретный момент времени только определенный небольшой участок, новая система позволяет одновременно отслеживать десятки тысяч целей, движущихся внутри гигантской территории. В сочетании с методами анализа больших данных эта система не только видит ВСЕ, но и способна прогнозировать, что будет происходить дальше.

В тестовом пилотном проекте задействованы 25 беспилотных аэростатов на солнечной энергии с гарантированным беспосадочным периодом не менее месяца. Они летают на высоте 20 км (выше самолетов) и оснащены самой совершенной в мире (ау, Китай!) системой видеонаблюдения “Взгляд Горгоны”. Модель Gorgon Stare Increment II покрывает видеонаблюдением площадь более 50 квадратных километров. Два сенсорных шара интегрируют и ужимают изображения с 368 камер широкоугольной съемки (WAMI), которые затем оцифровываются и «сшиваются» в единый цифровой ландшафт. При этом сенсорная система “Взгляда Горгоны” видит и пишет круглосуточно, как обычное изображение, так и инфракрасный спектр, включая пограничные состояния заката и рассвета. Аэростаты будут всепогодно летать над 6 штатами по 400 км траекториям, зависая на месте, где потребуется (разработчики научили систему управления аэростата использовать т.н. стратосферные ветры).

Кроме того, система позволяет ее пользователям «путешествовать во времени», чтобы пересмотреть любое интересующее их событие и точно увидеть, что произошло, кто был вовлечен и откуда они пришли, приехали или прилетели.

Испытания проводит Южное командование США, якобы для отработки слежки за наркотрафиком. Но в эту отмазку никто не верит. Для всех очевидно, что “Взглядом Горгоны”, ранее использовавшийся только военными, собираются оснастить Большого Брата.

«То, что предлагает эта новая технология, — это наблюдать за всем сразу», — сказал The Guardian Артур Холланд Мишель — один из руководителей Центра по изучению беспилотников в Бард-колледже в Нью-Йорке и автор только что вышедшего бестселлера «Глаза в небе: секретный взгляд Горгоны и как он будет наблюдать за всеми нами».

В книге в деталях рассказывается, как сверхсекретная команда безумных ученых, вдохновленная научно-фантастическим фильмом “Враг государства” 1998 года, создала систему “Взгляд Горгоны”, и как потом эта система стала беспрецедентной угрозой частной жизни и свободе людей.

А наивные жители Канзасщины полагают, что это к ним прилетела НЛО.

________________________________

Если понравился пост:
- нажмите на “палец вверх”;
- подпишитесь на
обновления канала на платформе Medium;
- оставьте комментарий.
Еще больше материалов на моем Телеграм канале «Малоизвестное интересное».
Подпишитесь

Оригинал и комментарии

И снова о панических атаках от shvaratsky

Оригинал и комментарии

Rick Doblin is kinda Elon Musk in his field, no? от victorosyka

from this TED: https://www.ted.com/talks/rick_doblin_the_future_of_psychedelic_assisted_psychotherapy/transcript

вот что сделал когда запретили в психотерапии использовать в США:

In 1986, I started MAPS as a nonprofit psychedelic pharmaceutical company. It took us 30 years, till 2016, to develop the data that we needed to present to FDA to request permission to move into the large-scale Phase 3 studies that are required to prove safety and efficacy before you get approval for prescription use. … if they’re similar to the Phase 2 studies, by the end of 2021, FDA will approve MDMA-assisted psychotherapy for PTSD.

(PSTD = Posttraumatic stress disorder = mental disorder that can develop after a person is exposed to a traumatic event, such as sexual assault, warfare, traffic collisions, or other threats on a person’s life.)

… the FDA has declared MDMA-assisted psychotherapy for PTSD a breakthrough therapy (they worked with US military veterans)

and

… psilocybin a breakthrough therapy for treatment-resistant depression

We anticipate that over the next decades, there will be 1000’s of psychedelic clinics, at which, therapists will be able to administer MDMA, psilocybin, ketamine and other psychedelics to millions of patients.

These clinics can also evolve into centers where people can come for psychedelic psychotherapy for personal growth, for couples therapy or for spiritual, mystical experiences.

Our Phase 3 studies are actually being done in Israel, Canada and the United States. So once we get approval in FDA, it will also become approved in Israel and in Canada. We’re just starting research in Europe. And we’re actually going to be training some therapists from China.

Оригинал и комментарии

Как обмануть демократию от sergey_57776

Наихудший сценарий для США — кибервойна на выборах президента, а для России — переход на э-голосование

Credit: Lisk Feng

2 млн. руб, обещанные Алексеем Венедиктовым за взлом системы э-голосования в ходе ее вчерашнего тестирования горе-взломщикам не светят. «Взлом никому не удался» — написал вчера у себя в канале Венедиктов.

Так что ж, система э-голосования настолько надежна, что ее не взломать?

Увы, нет. Современные средства кибервойны в состоянии взломать что угодно.

Условий три:

  1. была бы необходимость;
  2. достаточно денег на покупку персональных данных и оплату услуг социальных сетей;
  3. физическое подключение выборных систем к Инету.

2е — относится ко взлому голов избирателей. 3е — системы управления выборами.

Ну а вчерашнее тестирование в Москве с призом взломщикам в 2 млн. руб. — это ни о чём. Здесь и обсуждать нечего.

А вот серьезный пример.

Вчерашняя статья проф. Халдермана — директора «Центра компьютерной безопасности и общества», специализирующегося на кибербезопасности выборов. Его статья анализирует сценарии кибервойны, которая может разразиться на следующих президентских выборах США.

Кто, по мнению проф. Халдермана, нападет, и как это может быть сделано, — в деталях описано в статье. Приведу лишь её резюме.

  • Серьезные уязвимости в кибербезопасности президентских выборов США в 2020 году по-прежнему существуют.
  • Для злоумышленников, по-прежнему уязвимы, как списки избирателей, так и сама машинерия выборов, что может повлиять на результаты выборов и посеять в обществе хаос и сомнения.
  • Наихудшие сценарии могут привести к беспрецедентному конституционному кризису.

Желающие прочтут обоснование этих выводов самостоятельно.

✔️ Там далеко не только про использование известных уязвимостей в системах, но и про новые средства управления психологией и доверчивостью людей (влияние на соцсети станет намного более точным и управляемым, чем когда-либо прежде, и, следовательно, более эффективным и трудным для обнаружения).

✔️ Главной целью кибервойны 2020 станут не выборные системы, а головы людей. Задачей будет увеличение разобщенности общества и повышение общего хаоса.

Имхо, аргументация Халдермана верная и обоснованная.

Возвращаясь к надежности чисто электронного голосования

Вот что пишет проф. Халдерман.

«Научный консенсус заключается в том, что наилучший способ провести надежное голосование — это использование бумажных бюллетеней с последующим тщательным аудитом случайной выборки.»

Только бумажки. При аудите даже нельзя использовать сканы бюллетеней, т.к. и их можно сфальсифицировать.

И вообще,

все что угодно в компьютерах можно сфальсифицировать при условии, что они имеют хоть какую-то связь с инетом.

А выборные системы в США именно таковы. Кроме того.

  • В 12 штатах нет полных бумажных списков, и поэтому они вообще не могут проводить бумажный аудит.
  • Только в 22 шт. предусмотрена возможность бумажного аудита.
  • И в 20 из этих 22 нет требования к статистической значимости аудита.

Ну а в России как с этим?

Сами понимаете. Сделать потайную дырку у нас умеют в любой стене: от лаборатории допинга до МКС.

Ну а с электронной стеной вокруг выборов уж как-нибудь справятся. И сотни миллионов долларов, как в США, у нас для этого вряд ли потребуются.

________________________________

Если понравился пост:
- нажмите на “палец вверх”;
- подпишитесь на
обновления канала на платформе Medium;
- оставьте комментарий.
Еще больше материалов на моем Телеграм канале «Малоизвестное интересное».
Подпишитесь

Оригинал и комментарии

Cамая актуальная инфа по ИИ Китая здесь от sergey_57776

Тема ИИ Китая приоритетна не только на моем инфо-радаре. Однако, как ни прискорбно, лучшие источники по этой теме в Рунете мало кому известны. А может это специально так.

Кабы то ни было, но вот эти источники. Если тема вам действительно интересна, здесь вы найдете самую полную, актуальную и профессионально отобранную и проанализированную инфу.

1. Китайский взгляд на состояние дел

Здесь наиболее интересны отчеты Академии IT и коммуникаций Китая (CAICT). Вот для примера оригинал последнего из них и его перевод Global Artificial Intelligence Industry Data Report

2. Взгляд из США на состояние дел

Здесь рекомендую онлайн проект MacroPolo — «мозгового центра» Чикагского Paulson Institute.

А вот опубликованный ими же вчера анализ текущего состояния глобальной китайской зонтичной программы «Сделано в Китае 2025», (куда входит и ИИ).

3. Анализ плюсов и минусов национальной ИИ стратегии Китая, а также оценка хода ее выполнения

Здесь рекомендую превосходный анализ ИИ стратегий 3х лидеров Юго-Востока — Китай, Япония, Южная Корея, — с позиций их сравнения с ИИ-стратегией Канады (1я страна мира, принявшая ИИ-стратегию и сейчас весьма успешно ее претворяющая).

4. Ну и конечно же еженедельник Джеффа Динга по ИИ Китая (с ним точно не пропустите главного).

Вот новый уже 62й выпуск.

________________________________

Если понравился пост:
- нажмите на “палец вверх”;
- подпишитесь на
обновления канала на платформе Medium;
- оставьте комментарий.
Еще больше материалов на моем Телеграм канале «Малоизвестное интересное».
Подпишитесь

Оригинал и комментарии

Если кому и верить, — то ученым от sergey_57776

Если кому и верить, — то ученым

Но политики поджимают их под себя

Выступление Альберта Эйнштейна. Фото Keystone-France/Gamma-Keystone/Getty

В середине ХХ века человечество лишь чудом избежало ядерного ада. И этим оно обязано не политикам и не военным, а ученым. Незадолго до смерти в 1955 году Альберт Эйнштейн стал соавтором доклада о том, как избежать ядерной войны, что привело к Пагуошским конференциям и способствовало появлению соглашения о нераспространении ядерного оружия.

Тогда это стало возможным из-за высокого авторитета ученых в обществе и независимой от политиков позиции ряда звезд тогдашней науки.

В наши дни все иначе. Во всех странах власти подгребают под себя науку, заставляя ученых есть из рук политиков. И потому авторитет ученых, во всем мире низведенных властью в обслугу, падал не один десяток лет. А их голос в обществе становился все тише, что полностью устраивало политиков.

Но как пишет в редакционной статье журнал Nature, в последнюю пару лет ситуация стала меняться. Корыстная тупость политиков все сильнее достает людей. И практически во всех развитых странах люди понимают, что политикам больше верить нельзя. А если кому и верить, то ученым.

Вследствие этого тренда, сегодня в США ученым доверяют в 2,5 раза больше людей, чем политикам.

Источник: https://www.nature.com/articles/d41586-019-02389-8

Но для доверия нужна независимость. Тогда как во всем мире ученые финансово все больше зависят от государства. Мало того. Во многих странах власти не только финансово, но и административно ставят под свой контроль науку. И это происходит, как вы понимаете, не только в Бразилии, но и кое-где поближе.

Это гибельный путь для всего человечества. Если наука будет под пятой государства, и если ученые будут стоять в стороне от принимаемых государствами решений, опасаясь лишиться финансирования,

— не только процветание, но и само выживание человечества будет под вопросом.

________________________________

Если понравился пост:
- нажмите на “палец вверх”;
- подпишитесь на
обновления канала на платформе Medium;
- оставьте комментарий.
Еще больше материалов на моем Телеграм канале «Малоизвестное интересное».
Подпишитесь

Оригинал и комментарии

Изучайте историю будущего — мать вашу! от sergey_57776

Изучайте историю будущего — мать вашу!

Иллюстрация с обложки книги https://www.amazon.com/Dark-Forest-Remembrance-Earths-Past/dp/0765386690
Кавалерия Чингисхана атаковала со скоростью мотопехоты XX века. Стационарный лук династии Сун бил на полторы тысячи метров — не меньше, чем современный мне автомат. Но всадники древности и луки не могут соперничать с современной армией. Фундаментальные науки — залог успеха. Исследователи истории будущего это четко обосновали.
Вы же ослеплены сиянием умирающих примитивных технологий; вы изнежились в яслях цивилизации. Вы даже не пытаетесь собраться с духом и подготовиться к грядущему судьбоносному сражению …

Это слова Чжан Бэйхая — героя «Темного леса» Лю Цысиня, — заплатившего жизнью за непонимание этой его мысли человечеством.

Но о каком сражении идет речь?

О сражении с будущим. Ибо оно уничтожит большинство из того, что мы ценим и что нам дорого в настоящем.

А чтобы понять это — см. заголовок.

Вот всего лишь тройка примеров, чему учит история будущего.

1. Скоро на Земле будет два мира: нормальный мир и мир, управляемый ИИ.

Этот 2й мир уже формируется. Им управляют не люди, а классификаторы поисковиков, работающих на основе ИИ. Именно ИИ здесь решает, что люди заметят (узнают, поймут), а что нет. ИИ делает это запросто, все лишь маркируя триллионами ярлыков экзобайты информации о мире и о самих людях. Но в конечном счете, именно ИИ принимает решения, отдавая предпочтения всего лишь некоторым доминирующим культурам / языкам / стереотипам современного мира.

Вот почему в мире будущего — мире «Темного леса» Лю Цысиня, — будет лишь один язык — англокитайский.

  • И что ж, в этом будущем мире все остальные культуры, языки, мировоззрения будут забыты?
  • Хоть кто-то пытается этому противостоять?

Да, пытаются. Проект Kannada-MNIST пытается сохранить в новом управляемом ИИ мире, хоть что-то от мира одного из старейших на Земле языков — дравидийского языка Каннанда, на котором сейчас говорят 40 млн. жителей юго-западной Индии.

2. Как узнать, когда прогресс реален, а когда — лишь иллюзия?

Это вопрос, в частности, сводится к измерению способности людей выявлять причины прогресса в конкретной научной области (см. цитату в начале).

Взять к примеру область эксплуатации технических средств (от стиралок и посудомоек до авто и самолетов). Согласно истории будущего, весьма возможно, что управляющий всеми техническими средствами ИИ будет предсказывать их выход из строя по звуку. Наборы звуковых данных для машинного обучения уже формируются, а ИИ уже вовсю выявляет аномальные звуки, предсказывающие неисправности. Пока для игрушек. А в перспективе и прочих механизмов.

А теперь вопрос — это прогресс? Как узнать это?

Чтобы помочь людям измерять и оценивать прогресс ИИ, исследователи из DeepMind разработали Behavior Suite — программный пакет, помогающий проверять возможности все более сложных агентов для обучения с подкреплением.

Чтобы помочь людям оценить, насколько умны ИИ агенты, нужно выявить и измерить конкретные факторы роста их интеллекта. Здесь мы сталкиваемся с фундаментальной проблемой, — как измерить рост конкретных показателей ИИ так, чтобы это можно было легко проверить и повторить. Для решения этой задачи авторы Behavior Suite предлагают использовать измеримые и фальсифицируемые гипотезы, которые затем можно было бы оформить в доказуемые гарантии.

3. А как узнать, когда ИИ уже близок к универсальным «сверхчеловеческим» способностям?

Behavior Suite из предыдущего пункта будет способен это заранее определить.

Так что проблемы со срочным «выдергиванием компа из розетки», дабы остановить назревающего в нем Терминатора, в будущем просто не будет.

Так считают разработчики Behavior Suite из DeepMind, опираясь на свое знание истории будущего.

________________________________

Если понравился пост:
- нажмите на “палец вверх”;
- подпишитесь на
обновления канала на платформе Medium;
- оставьте комментарий.
Еще больше материалов на моем Телеграм канале «Малоизвестное интересное».
Подпишитесь

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

Отзывы (через аккаунты в социальных сетях Вконтакте, Facebook или Google+):

Оставить отзыв с помощью аккаунта ВКонтакте:

Оставить отзыв с помощью аккаунта FaceBook:

Архив лучших постов