Недавние тренды рунета
Постепенно отучая дружить, любить и кооперироваться
B ближайшие десятилетия наиболее сильное воздействие на нас самих и нашу жизнь произведет не то, что мы безосновательно называем ИИ (настоящего интеллекта у машин нет), а ИИ-кентавры — гибридное взаимодействие настоящего интеллекта человека с ненастоящим интеллектом машин.
Среди наиболее серьезных и опасных перспектив, вовсе не робоапокалипсис или бунт машин, а постепенная деградация у людей способностей к альтруизму, любви, дружбе и кооперации в результате повсеместного распространения ИИ-кентавров.
Есть даже совсем катастрофическое последствие в чуть более отдаленном будущем — ИИ-кентавры могут изменить способность людей различать добро и зло. Но об этом потом. А сегодня про угрозы, уже всерьез нависшие над нашими способностями дружить, любить, дарить добро другим и кооперироваться.
И повод поговорить об этом превосходный — лаконично-мудрый и проникновенно-прорывной текст одного из мною самых ценимых авторов, ход мыслей которого мне очень нравится, и я пишу об его исследованиях уже не первое десятилетие. Новая статья Николаса Христакиса выйдет в апрельском выпуске журнала The Atlantic и называется «Как ИИ перекоммутирует нас».
Четвертый закон робототехники
B 1985 году, примерно через сорок лет после того, как Айзек Азимов придумал 3 закона робототехники, он решил добавить 4ый — уже не про коркретных людей, а всё человечество.
Робот не должен делать ничего такого, что могло бы навредить человечеству.
Но из этого ничего не получилось, т.к. Азимов не смог дать точное определение «вреда для человечества». С конкретным человеком тут нет проблем. А человечество, в контексте общей пользы и вреда — это абстракция. Ну разве что полное истребление человечества… Но это, согласитесь, будет уже не вредом, а глобальной катастрофой.
Так вот теперь, спустя 33 года после неудачной попытки Азимова, Христакис, по сути, нашел вариант такого определения.
Вредом для человечества является любое изменение ключевых человеческих качеств, позволивших выжить Homo Sapiens на протяжении всей его многотысячелетней истории.
Философ Просвещения Томас Гоббс утверждал, что людям необходим коллективный договор, чтобы не дать им ввергнуть себя в хаос жестокости, ведущий к полной дезорганизации. Нужен эдакий Левиафан государства и правительства, заставляющий нас уживаться в больших сообществах.
Но ведь задолго до того, как люди создали государство и правительство, эволюция сформировала в них социальный комплекс качеств, позволяющий им жить вместе мирно и эффективно.
Это генетически унаследованные способности к любви, дружбе, сотрудничеству и социальному обучению.
И если вдруг люди начнут терять эти ключевые социальные качества, позволявшие людям выживать уже миллионы лет, потенциальный вред для человечества может быть огромным.
ИИ — как социальный актор
Mы привыкли рассуждать об интеллектуальных системах (буду по-прежнему называть их для краткости ИИ, хотя никаким искусственным интеллектом они вовсе не являются), как об объектах, созданных человеком.
Однако, возможна и иная точка зрения:
ИИ — как новый класс социальных акторов.
Занимая такую точку зрения, я вовсе не собираюсь стращать читателей очередными техно-ужастиками, типа появления у ИИ собственных интересов, бунта машин, терминаторов и прочей чуши.
Меня интересует совсем другое.
Как новые ИИ-акторы способны влиять на основные аспекты социальной жизни человека: то, как он любит, дружит, проявляет альтруизм и социально обучается?
В основе такого интереса два следующих очевидных факта:
✔️ ИИ-акторы уже вовсю присутствуют в нашем социальном окружении и участвуют в наших социальных коммуникациях:
- всякие социальные боты, далеко не всегда отличаемые нами от людей;
- рекомендательные системы, на которые мы полагаемся при принятии решений, не менее, чем на мнения друзей и специалистов в ходе коммуникации с ними;
- поисковики, формирующие наше понимание большинства тем, вокруг которых выстраиваются наши социальные коммуникации,
… и много чего еще.
✔️ На развитие и усовершенствование «запаянных в нас» алгоритмов коммуникации с людьми эволюции потребовалось несколько миллионов лет. И к сожалению, у нас нет столько времени, чтобы развить в себе сопоставимые врожденные способности для коммуникации в среде, где, помимо людей, много ИИ-акторов.
Следовательно, мы должны принять меры к тому, чтобы наше общение с ИИ-акторами и их участие в нашем общении с другими людьми не разрушали заложенный в нас комплекс социальных качеств, сформированных эволюцией для нашего выживания: любовь, дружба, сотрудничество и социальное обучение.
Hо разве ИИ-акторы подрывают наши способности любить, дружить, безвозмездно помогать или учиться на чужом опыте? — спросите вы.
Еще как подрывают! — объясняет Христакис. И тут ему, как одному из лучших мировых профи в данной теме, и карты в руки.
Примеры кейсов
Hиколас Христакис приводит несколько примеров, когда добавление в нашу социальную среду ИИ-акторов может заставить нас вести себя менее продуктивно и менее этично.
Пример 1.
Эксперимент по изучению того, как ИИ может влиять на эгоцентричные действия отдельных людей, наносящих ущерб их общим интересам.
Сообществу людей поручалось решение неких задач, ключом к эффективному решению которых был приоритет коллективной пользы перед пользой для отдельного участника.
- Сначала порядка двух третей участников вели себя вполне альтруистично, и коллективное достояние игроков неуклонно росло.
- Потом в игру добавили несколько соцботов, изображающих людей, ведущих себя независимо и эгоистично.
- Кооперация людей стала снижаться, постепенно сходя на нет. И в конце эксперимента все участники вели себя, как эгоистичные придурки — по принципу «пусть у меня корова сдохнет, лишь бы у соседа корова не отелилась».
Т.о. коммуникации с ИИ-акторами могут существенно снизить и даже свести к нулю способность людей работать вместе.
Пример 2.
Следующий пример Христакиса — как работали российские соцботы на президентских выборах в США 2016 года. В свете всяких новых законов, я это описывать не буду — прочтите сами.
Пример 3.
Третий пример — коммуникация детей и цифровых помощников: Alexa, Siri и т.п.
Исследования показывают, что дети общаются с этими ИИ-акторами несравнимо грубее и жестче, чем с людьми. Никакой тебе вежливости —
«Эй ты, Алекса, быстро найди мне эту музычку!». Или «Не тупи! Ищи лучше, бестолковая!».
По мнению эксперта MIT по технологии и обществу Sherry Turkle, дети, общающиеся с цифровыми помощниками больше чем с людьми, рискуют вырасти с недоразвитым качеством эмпатической связи.
Пример 4.
Не менее опасным может быть воздействие цифровых помощников на взрослых. Уже существует настораживающая статистика того, что некоторые из нас начинают относиться к цифровым помощникам, как к доверенным лицам или даже к друзьям, а то и как к психотерапевту. Люди признаются, что говорят своему цифровому помощнику то, что не никогда на сказали бы супругу.
- Если нам станет комфортнее разговаривать с нашими устройствами, что произойдет с браком и дружбой?
- Хотим ли мы, чтобы машины влияли на то, насколько добрыми растут наши дети?
- Хотим ли, чтобы машины влияли на то, как взрослые занимаются сексом?
Последний из вопросов вполне актуален. Даже современные довольно примитивные ИИ-акторы (а это далеко не только секс-роботы обоих полов) не восприимчивы к венерическим болезням, не рискуют забеременеть или стать причиной беременности. И при этом они предоставляют массу интересных возможностей для беспроблемных экспериментов и практики, помогая людям обоих полов стать «любителями-виртуозами» в вопросах секса.
По этим и другим причинам эксперты считают, что секс с ИИ-акторами довольно скоро станет восприниматься как этический, а в некоторых случаях и предпочтительный для все большего числа людей.
Пример 5.
Последний их приводимых Христакисом примеров, поражает своей неожиданностью. Человек, сменивший своё традиционное авто на самоуправляемый автомобиль, лишится весьма важного и нужного для него повседневного опыта социального взаимодействия, требующего высокого уровня сотрудничества и социальной координации. Именно таким опытом для нас является вождение автомобиля.
Мало того, что ИИ-актор вашего самоуправляемого авто отберет у вас практику вынесения моральных суждений (например, сбить пешехода или дать в себя врезаться в аварийной ситуации). ИИ-актор также будет влиять и на других людей, с которыми он даже не имеет прямого контакта.
Например, водители, которые некоторое время ехали рядом с вашим самоуправляемым авто (движущимся с постоянной скоростью и в строгом соответствии с правилами), теряют внимательность и у них притупляется реакция. Тем самым увеличивается вероятность несчастных случаев, когда они переместятся на другое шоссе, где едут водители-люди.
В результате — авария. А кто виноват?
Скорее всего, ИИ-актор вашего самоуправляемого авто, усыпивший в других водителях комплекс социальных умений прогнозировать чужие и подстраивать свои действия в соответствии с прогнозируемыми рисками при совместной деятельности.
Резюме
Все приведенные примеры — это кейсы ИИ-кентавров —
гибридного взаимодействия настоящего интеллекта человека и ненастоящего интеллекта машины,
в результате которых люди теряют навыки эффективного взаимодействия с себе подобными, приобретенные за миллионы лет эволюции.
И как уже говорилось выше, времени приобрести эволюционные навыки выживания в среде ИИ-кентавров у человечества не будет. Здесь все слишком быстро для эволюции.
Поэтому эволюция не поможет, и люди могут полагаться только на себя.
Вот почему вопрос о том, как нам не расчеловечиться в среде ИИ-кентавров, куда более актуальный, чем пресловутые робоапокалипсис потери рабочих мест или бунт машин, вдохновленный непонятно откуда взявшимся у машин сверх-интеллектом (там пока и рядовым интеллектом не пахнет).
Пользуясь случаем, рекомендую вам несколько своих прежних постов по работам Николаса Христакиса:
· «И все-таки Facebook вреден»
· «Сергей Карелов про социальные сети» (обзор моих постов по работам Христакиса, выполненный imhotype)
________________________________
Если понравился пост:
- нажмите на “палец вверх”;
- подпишитесь на обновления канала на платформе Medium;
- оставьте комментарий.
Еще больше материалов на моем Телеграм канале «Малоизвестное интересное». Подпишитесь
Оригинал и комментарии
Кто вы — элита или чернь?
Ключевой индикатор современного неравенства и сегрегации — культура досуга
Вы привыкли думать о неравенстве, в первую очередь, как об имущественном?
А сегрегацию представлять в стиле «у них там негров линчуют»?
Подобные представления банальны, неинтересны, и уже плохо отражают сути происходящего.
Сегодня наиболее интересный и показательный водораздел элиты и черни совсем в ином — культура досуга.
А наиболее информативные иллюстрации современного состояния неравенства и сегрегации нынче дают
- вовсе не графики роста числа миллионеров из Global Wealth Report,
- а визуализированные карты больших данных геолокации людей, стратифицированных по персональным, финансовым и админинстративным данным.
Далее о том,
✔️ что такое неравенство и сегрегация в конце 2го десятилетия 21 века?
✔️ как определить, кто вы — элита или чернь, не заморачиваясь с анализом доходов и сопоставлением статистик?
✔️ как наглядно увидеть неравенство и сегрегацию живьем, живя в большом современном городе?
Неравенство и сегрегация снижаются
Так можно решить, просмотрев взявшую в этом году Оскара «Зеленую книгу». И действительно, в США расовое неравенство и тотальная сегрегация во всех аспектах жизни (от работы и транспорта до общественных мест и быта) остались в прошлом.
Неравенство и сегрегация никуда не делись, поскольку вечны
Они лишь периодически меняют маски — расовые, этнические, классовые, религиозные, клановые, сословные, имущественные и т.д. — сохраняя при этом незыблемое статус-кво: было, есть и будет разделение на аристократию и чернь, что бы ни стояло за этими понятиями.
Такой вывод можно сделать, познакомившись со мировой статистикой неравенства — что за прошлый год, что за последние несколько тысяч лет. К аналогичному выводу ведут нас и разнообразные математические модели, неотвратимо сегрегируя агентские сообщества на богатых и бедных, на привилегированное меньшинство и не имеющее привилегий большинство, на элиту и чернь.
А как там в будущем с неравенством и сегрегацией?
Харари, например, считает, что нарастающие неравенство и сегрегация, с развитием связки ИИ с биоинжинирингом, ведут человечество к страшной точке разрыва:
- разделению на меньшинство физически и ментально отличных супер-людей,
- и большинство недочеловеков, с практической точки зрения ни для чего в этом мире уже не годных, а потому и не нужных.
Страшновато. Но до этого еще надо дожить.
Так что же всё-таки в настоящем — снижаются неравенство и сегрегация или нет?
Новейшие исследования показывают.
- Нарастание неравенства в доходах и сегрегация по интеллектуальным возможностям людей сейчас выражается не только в местах их работы, но и в культуре их досуга: как и где они проводят время, чем заняты, с кем встречаются, чем вместе занимаются и т.д.
- В современном мире неравенство далеко не исчерпывается тем, что у аристократов просто больше денег; у них значительно ниже показатели сердечно-сосудистых заболеваний, диабета и ожирения; они позже заключают браки, которые оказываются более стабильными, и много-много чего еще.
Сегрегация также становится многоликой:
- элита живёт в богатых кварталах;
- имеет превосходный круг друзей и отличные образовательные возможности;
- но главное всё же то, что у них кардинально иная культура досуга, нежели чем у «обычного» человека — они проводят время в физически разных местах, даже если считается, что номинально эти места одни и те же (магазины, рестораны, салоны, спортклубы …)
Как всё это увидеть в конкретных городах?
Вопрос весьма важен и совсем нетривиален.
Ведь раньше городская сегрегация виделась лишь укрупненно — на уровне отдельных районов города (например, кто живет на Рублевке, а кто в Копотне).
Теперь же, с приходом больших данных (персональных, финансовых, административных) и мобильного геопозиционирования, выяснилось, что неравенство и сегрегация — это огромная мозаика, формируемая из десятков тысяч конкретных мест (магазины, рестораны, музеи, университеты, рынки, стадионы, больницы и т.д.), посещаемых миллионами людей.
И каждое из этих мест отличается свои собственным «индексом неравенства» (или «индексом социальной сегрегации») в зависимости от того, кто его посещает.
И эти индексы сильно отличаются, например, у ресторана Bistrot и кафе Prime Star, расположенных в одном и том же Большом Саввинском переулке Москвы.
Но увы, — «индексы неравенства и сегрегации» московских местечек нам пока не доступны.
А насколько интересная, познавательная и полезная картина получается в виде «Атласа неравенства и сегрегации» для конкретного города, можно судить по проекту группы Human Dynamics из MIT Media Lab и математического факультета Университета Карлоса III в Мадриде.
Авторы проекта используют агрегированные анонимные данные о местоположении с цифровых устройств для оценки доходов людей и того, где и как они проводят свое время. Используя эти данные, авторы создали собственную метрику неравенства мест, чтобы определить, насколько неравны доходы посетителей в каждом месте.
Полюбуйтесь вживую неравенством в г. Бостон на уровне многих тысяч мест, посещаемых миллионами. Завораживающее зрелище — смотреть, как кучкуются местечки для избранных и местечки для масс, для самых богатых и самых бедных, местечки, где царит демократия, и где рулит сегрегация. А это 47 мин видео-рассказ с презентации руководителя проекта проф. Эстебана Моро.
А в дополнение (кто не видел), макро взгляд на сегрегацию районов проживания в 10 крупнейших городах США
Как думаете, на что больше похожа сегрегация в Москве: на Нью-Йорк или Атланту?
Кому интересно копнуть глубже:
· отчет о мировом неравенстве в 2018;
· исторический анализ неравенства за 11 тыс. лет;
· интереснейшая публицистика о том, почему неравенство может быть вечно;
· и утонченное математическое доказательство этого;
· 3х минутная видео-иллюстрация истоков и механизмов неравенства;
· о сегрегации в современной России (без цифр, но с живописными деталями);
· мои посты о распределении богатств см. в моем канале «Малоизвестное интересное» по тэгу #РаспределениеБогатств
________________________________
Если понравился пост:
- нажмите на “палец вверх”;
- подпишитесь на обновления канала на платформе Medium;
- оставьте комментарий.
Еще больше материалов на моем Телеграм канале «Малоизвестное интересное». Подпишитесь
Оригинал и комментарии
Принципы Википедии способны спасти общество от раскола
Шанс на выживание миру дает «мудрость поляризованной толпы». И если бы Интернет открыл миру только одну эту возможность, то и тогда его значение для человечества было бы бесценным.
Выбирая между дюжиной превосходнейших тем для сегодняшнего поста о малоизвестном-интересном, выбрал эту — уникальное сочетание простой, но прорывной идеи и важности для человечества.
О чем это
1) Есть колоссальная проблема.
В мире нарастает всевозможный раскол: политический, экономический, военный, технологический…
У этого тотального раскола несколько катализаторов. Но главный — лавинообразно нарастающий раскол внутри общества, наблюдаемый в большинстве развитых стран.
Многие исследования уже показали, что политическая и общественная поляризация особенно быстро увеличивается в Интернете, где эхо-камеры, формируемые онлайн СМИ и социальными сетями, разжигают страсти, вызывая цепную реакцию раскола.
Ситуация, в которой определённые идеи и убеждения усиливаются и подкрепляются путём их умножения внутри закрытой сети (партия, круг единомышленников, френды и т.п.):
- помимо создания сетевых эпидемий,
- порождает и развивает особую «субкультуру раскола».
А эта новая субкультура, с учетом заложенной в человека высочайшей агрессивности (люди, по меткому выражению А.Назаретяна, — это “голуби с клювом ястреба”), сводит на нет все достижения цивилизации последних десятилетий и ведет человечество к пропасти противостояния всех против всех.
2) Совершенно нежданно найдено решение этой проблемы
Это решение основано на уникальном новом феномене, выявленном в исследовании Чикагского университета и названном «мудрость поляризованной толпы».
Это краудсорсинговый механизм выработки коллективного мнения большущих групп соучастников общей работы, следующих
единой и четко сформулированной политике сотрудничества, имеющей целью выработку максимально достоверного описания чего-либо, максимально удовлетворяющего большинство соучастников.
Что показало исследование
Авторы задались вопросом:
почему в процессе написании даже самых спорных статей Википедии доминирует не “срач” авторов, придерживающихся полярных точек зрения, а конструктивная работа, обеспечивающая вполне приемлимые результаты?
Исследование 200+ тыс. статей Википедии дало поразительные результаты.
- Чем выше поляризация мнений соучастников, тем качественнее (по всем параметрам) получается результат.
- Особенно ярко это выражается в Вики-статьях, по которым существует максимальное разнообразие зачастую полярных мнений (политика, идеология и т.д.)
Из этого следует:
- Как бы ни велики были наши идеологические расхождения, мы всегда можем ужиться.
- Для этого нам требуется:
- Договориться, что мы хотим совместно выработать максимально достоверное коллективное мнение о чем-либо, максимально удовлетворяющее большинство из нас.
- Установить единую и четко сформулированную политику сотрудничества.
- Допустить к совместной работе всех, кто готов следовать принятой политике.
3. Хотя политическая и идеологическая поляризация в настоящее время считается токсичной, опасной и вредной, она может работать на общую пользу, порождая максимальное разнообразие взглядов, сбалансированное взаимодействие и аргументированные дебаты. Что дает в итоге наилучший результат.
4. Не менее поразительно, что исследование «Мудрости поляризованной толпы» подтверждает следующее.
- Усиление надзора и бюрократии может быть очень полезным для повышения качества контента.
- Не нужна никакая цензура, поскольку происходит самоотбор только тех людей, которые готовы сотрудничать для общего блага.
- При формировании принципов общей политики сотрудничества, не менее важным, чем правила совместной работы над статьями, являются правила приемлемого социального поведение, — то, как соредакторы относятся друг к другу при обсуждении и выработке коллективного мнения.
Резюме
Во-первых, «мудрость поляризованной толпы» позволяет сформировать не просто механизм коллективных обсуждений, а новый устойчивый тип культуры, способной отвести от человечества все нарастающие риски, связанные с расколом.
Во-вторых, выводы исследования можно распространить на формирование идеологически разнообразных команд в офлайновом мире: от организации диалога общественных организаций до политических групп принятия решений регионального (типа “Нормандской четверки” по Донбассу) и глобального (типа ООН) уровня.
В-третьих, лидеры соцсетей (ФБ, Вконтакте и т.д.) должны осознать свою ответственность и поменять принципы работы своих платформ:
- уходя от потенциально токсичной среды коротких, примитивных разговоров, меньшего сотрудничества и низкого качества аргументации,
- к обеспечению максимально удобного и эффективного достижения «мудрости поляризованной толпы»
Подробней:
- популярно
- для профессионалов (открытый вход за пейвол)
________________________________
Если понравился пост:
- нажмите на “палец вверх”;
- подпишитесь на обновления канала на платформе Medium;
- оставьте комментарий.
Еще больше материалов на моем Телеграм канале «Малоизвестное интересное». Подпишитесь
Оригинал и комментарии
Каких только объяснений этому ни давали биологи и психологи: от возрастных изменений скорости обмена веществ до сокращения объемов новых впечатлений.
Но вот сказала своё слово физика, и всё расставила по местам.
Оказалось — обычная физическая деградация: с возрастом снижается скорость, с которой мозг обрабатывает изображения.
По ходу жизни наши сети нейронов постоянно усложняются, что увеличивает пути прохождения электро-сигналов. Когда же эти пути стареют, они деградируют, оказывая большее сопротивления электро-сигналам.
В результате скорость, с которой новые ментальные образы обрабатываются мозгом, с возрастом уменьшается. А самая высокая частота движения глаз у младенцев.
В итоге, поскольку мозг пожилых обрабатывает меньше изображений за то же время, им кажется, что время течет быстрее.
Как двоечнику, когда мгновенно пролетает время контрольной, звенит звонок, и надо сдавать почти чистый листок…
Подробней https://goo.gl/CM2FcC
________________________________
Если понравился пост:
- нажмите на “палец вверх”;
- подпишитесь на обновления канала на платформе Medium;
- оставьте комментарий.
Еще больше материалов на моем Телеграм канале «Малоизвестное интересное». Подпишитесь
Оригинал и комментарии
Для максимальной производительности мозгу обязательно нужны регулярные ментальные простои. В это время мозг не сколько отдыхает (это вам не мышцы), сколько восстанавливает работоспособность за счет проведения внутренней «уборки/удаления мусора», «перестановок, что поближе, что подальше» и «складирования/каталогизации/архивации» воспоминаний.
Все это приводит к умственному обновлению, вновь выводящему на максимум ваш умственный потенциал.
Как это работает, какие когнитивные процессы здесь задействованы и какими методами лучше расслаблять мозги, — можно прочесть у Бет Джейнс в статье на 5 мин «Почему важно планировать больше простоев для вашего мозга».
Я же к 6 названным Бет Джейнс методам расслабления мозга, добавлю седьмой — погружение на минуту-другую в иллюзию.
Этот довольно радикальный метод переключения режима работы мозга чем-то похож на Ширшасану — стойку на голове у йогов, при которой, якобы, обновляются клетки мозга, усиливается мыслительная способность, голова становится легкой и ясной.
Зато расслабление на иллюзиях доступно всем и не требует инструктора.
Вот самый качественный ресурс для этих целей — «Индекс иллюзий»
Расслабьтесь, погружаясь в мир иллюзий и отстранитесь от утомляющего логического процесса осмысления собственного восприятия мира.
Оставьте свой мозг один на один с тревожными ошибками восприятия. И пусть мозг сам выкручивается с подбором устраивающей его логической картины мира.
А вы пока расслабляйтесь и получайте удовольствие, например, прислушиваясь — не слышатся ли вам щелчки от ударов проводов об землю при игре линии электропередач в скакалки.
________________________________
Если понравился пост:
- нажмите на “палец вверх”;
- подпишитесь на обновления канала на платформе Medium;
- оставьте комментарий.
Еще больше материалов на моем Телеграм канале «Малоизвестное интересное». Подпишитесь
Оригинал и комментарии
Хорошие, плохие и злые междисциплинарные новости
1️⃣ 😞Террорист из Новой Зеландии преспокойно транслировал бойню в прямом эфире на Facebook, пока полиция не уведомила его, что нужно блокировать этот контент. Но к тому времени видео уже было подхвачено другими, разместившими его на YouTube, благодаря чему оно появилось и в Google. Беда в том, что ИИ по-прежнему не умеет распознавать насилие в Интернете, ибо понимание контекста –неподъемно сложная вещь для ИИ, в принципе, не способного что-либо понимать.
CNN Business
2️⃣ 😡Ученый, способствовавший изобретению «умных» помощников, уверен, что нынешний подход к ИИ неспособен сделать Siri или Alexa действительно умными. Нужно идти иным путем — сначала понять принципы работы интеллекта человека, а затем использовать это понимание для создания интеллектуальных машин.
MIT Technologyreview
3️⃣ 😊Простые подходы не работают в сложном мире. Миф о полноте из-за «энергетического дисбаланса между потребляемыми и тратимыми калориями» давно развенчан учеными, но по-прежнему доминирует в головах миллионов людей, продолжающих тупо считать этот баланс. Одна и та же еда воздействует на уровень сахара в крови и жировые отложения человека совсем по-разному, в зависимости от его генов, образа жизни и уникального сочетания кишечных бактерий. Аналогично с расходом энергии. Секрет нормального веса совсем в ином — есть когда голоден и только настоящую пищу, а не пищевые продукты.
1843 Magazine
4️⃣ 😊Исследование причин разрыва в заработной плате между мужчинами и женщинами открыло удивительный факт. От рождения женщины более склонны к риску, чем мужчины, но это потом меняется под воздействием культуры и социальной среды. При изменении культуры гендерные цивилизационные роли кардинально поменяются. Но тогда мир будет устроен по-иному.
University of Houston
5️⃣ 😊Оказалось, что сигналы вкуса и боли объединяются в мозге, используя одну и ту же схему. Теперь, когда эта схема определена, планируется изучить, как она влияет на поведение, инициируемое ощущениями вкуса и боли при развитии ожирения и диабета. Ну как же хитро устроены нейроалгоритмы, запаянные в нас эволюцией!
Sciencedaily
________________________________
Если понравился пост:
- нажмите на “палец вверх”;
- подпишитесь на обновления канала на платформе Medium;
- оставьте комментарий.
Еще больше материалов на моем Телеграм канале «Малоизвестное интересное». Подпишитесь
Оригинал и комментарии
Так делают светлячки, сердечные и мозговые клетки, часы, электросети, облака холодных атомов, циркадные ритмы и т.д — все они могут самопроизвольно синхронизоваться, отправляя сигналы в унисон.
Люди тоже так умеют. Взгляните, как ловко синхронизованы движения ансамбля знаменитых американских «Ракет», славящихся особой синхронностью исполнения. А ведь девушки видят лишь соседок, что вовсе не мешает синхронизации канкана любого размера.
• А можно ли усложнить их синхронизацию, например, начать работать в противофазе к соседке?
• Или еще сложнее — с фиксированным ростом сдвига фазы между соседками?
Оказывается, такое возможно. И на этом сегодня строится коллективное сетевое поведение современного мира.
Но тогда главный вопрос —
насколько сложные несинхронные паттерны колебаний могут возникать при самопроизвольной синхронизации в сети?
Дело в том, что современный мир состоит из взаимозависимых сетей: электросети, сети связи, социальные, транспортные, сети цепочек поставок, профессиональные и экспертные сети …
Каждая из этих сетей представляет собой сложную систему, демонстрирующую то или иное поведение. Когда же сети объединяются, возникают довольно ошеломительные и непредсказуемые формы поведения.
От этого сложного, экзотического поведения (а вовсе не от поведения отдельных акторов) зависит будущее техно-систем, больших сообществ, да и, по большому счету, всего человечества.
Подобное сложное поведение системы, нынче принятое называть эмерджентным, — для которого целое больше, чем сумма его частей.
Типичный пример — фазовая синхронизация путем достижения глобального консенсуса, несмотря на наличие внутреннего беспорядка (различия частот колебаний отдельных элементов).
Синхронизованные колебания впервые были замечены еще в 1600-х годах, когда голландский ученый Гюйгенс отметил, что два часовых маятника, подвешенных на общей опоре, в конечном итоге сходятся в унисон. На протяжении веков математики придумали различные способы объяснить странное явление.
Новое прорывное исследование «Экзотические состояния в простой сети наноэлектромеханических генераторов» крайне важно для самых различных дисциплин: от материаловедения и неврологии до электротехники и микробиологии.
За пределами синхронизации первого порядка, исследователи обнаружили экзотические состояния синхронизации с очень сложной динамикой, включая слабые химеры, несвязанные состояния, бегущие волны и неоднородные синхронизованные состояния.
Цель данного проекта — контролировать коллективные явления в сетях разных масштабов.
Например, как осторожно подтолкнуть систему в правильном направлении, чтобы вернуть ее в синхронизованное состояние (что крайне важно, например, для разработки новых, менее жестких дефибрилляторов, заставляющих сердце биться в ритме).
А ведь можно подумать и о том, как осторожно подтолкнуть общественное мнение (тоже ведь сложная сетевая система) в правильном направлении, чтобы вернуть рейтинг вождя в синхронно высокое состояние …
Но не будем о грустном. Лучше посмотрите, как всего за 2 мин синхронизуют колебания 32 метронома (кому лень смотреть все 3 мин, включите только на 20й секунде и в конце).
А здесь 5 минутное объяснение, почему так происходит.
Ну а это само новое исследование:
• для профи и 6 поясняющих роликов
Все результаты получены на 8-ми кольцевых наномеханических генераторах группой Мэта Татени (очень молодой и очень перспективный паренек) из знаменитого Caltech.
________________________________
Если понравился пост:
- нажмите на “палец вверх”;
- подпишитесь на обновления канала на платформе Medium;
- оставьте комментарий.
Еще больше материалов на моем Телеграм канале «Малоизвестное интересное». Подпишитесь
Оригинал и комментарии
Дед Серёга был глухой. Одно ухо у него не слышало совсем, а другое — полностью. Однако, когда он видел, что обращаются к нему, — он всегда поворачивался этим другим ухом, поэтому все считали, что оно у него хоть что-то да слышит.
К середине 80-х натикало ему уже под 70 годков. Он курил папиросы Казбек, любил выпить, и периоды длительного воздержания перемежались вполне себе такими запоями нормальными, когда дед не просыхал.
Пил дед один, что было нетипично ни для тогдашних алкоголиков, ни для жителей нашего дома, в частности. Но на то была своя, уважительная причина:
…Дед Серёга в своё время служил вертухаем. Об этом знал абсолютно весь дом, не сказать — квартал, не сказать — город. Все. Я, ещё не зная смысла слова “вертухай”, уже вовсю его использовал.
А в доме, при этом, не было семьи, у которой хоть кто-нибудь из родственников не сидел. Включая нашу семью. И немало было тех, кто сидел, или имел в близких тех, кто сидел — ещё по сталинскому беспределу. Включая нашу семью. В памяти тогда всё это было еще живо, и ой, как живо. Мой дед (который, как раз, с 1948 по 1954 сидел, как “американский шпион”) умер только в 1984 году, и, конечно, с дедом Серёгой у них были прохладные отношения…
Ненависти там какой, однако, не было. И тому причиной было ещё и то, что дед Серёга был несчастный вертухай, вертухай-неудачник.
Он тянул лямку на какой-то лютой чёрной зоне за полярным кругом. Там случился бунт, и деда Серёгу — о ту пору румяного вертухая в тулупе, — злые зэка взяли в заложники.
Тут бы и писец котёнку, но жизнь решила не транжирить материал. Зэки порезали его, располосовав всё брюхо, взрезав ему вены и поломав ноги. Он полз до “своих”, на ходу теряя кровь и ливер, как печёнку из рваной сумки. С тех пор у него нет половины кишок, части лёгких, печени и чего-то там ещё, из внутреннего жизненно-важного.
Но всё-таки он выжил. Я один раз видел его живот и грудь без рубашки — там, правда, такое ощущение, что танец с саблями на его тулове станцевал какой-то маньяк: от тяжелейших рубцов не было живого места. Как его сумели зашить и поставить на ноги (в те-то годы — а это случилось аккурат в 1953 году, бунт на зоне-то, как Сталин похилился) — само по себе чудо.
Ну, естественно, инвалидность-пенсия, все дела. Ноги тоже срослись, правда, дед остался колченогим, как кавалерист ходил, словно два табурета между ног зажал.
Все эти качели не помешали ему дожить до 70-ти, периодически бухая и постоянно куря ядерный казбек.
…Пока был помоложе — работал. Тоже, на всяких охранно-церберных должностях. В ВОХРе местной, потом — просто всяким там вахтёром. Где-то в конце 60-х-начале 70-х отправили их охранять какой-то сверхсекретный склад. Толи с краской, толи с взрывчаткой, толи и с тем и с другим. Ночью, когда наш доблестный охранитель спал внутри склада в лачужке охранника, — чего-то заискрило, а после ЕБАНУЛО ТАК, что дед Серёга сию же минуту оглох (заодно и контузило). Почти полностью. И с тех пор только терял слух, доехав до сегодняшнего состояния полной глухни.
Вы будете смеяться, но дед любил слушать радио, причём — музыку. )) Он любил Газманова и Лещенко. Газманов тогда считался молодым певцом, чья звезда взошла в 80-х, а Лещенко уже был мэтр, но это не важно: деда пёрло от обоих. Когда в состоянии подпития он доходил до определённой кондиции, он доставал довольно паршивый маленький приёмник, одевал на то самое “другое” ухо слуховой аппарат, и, врубив эту перделку на полную мощность каким-то непостижимым образом всегда находил искомое. И, приложив к уху — наслаждался хитами советской эстрады. Приёмник хрипел, дед сидел на двухобъёмной площадке пятого (верхнего) этажа нашего дома, курил Казбек и тащился, а вокруг, усиленная гулким эхом поздней сталинки, лилась в буквальном смысле — НЕЧЕЛОВЕЧЕСКАЯ музыка, из пердящего и хрипящего приёмника, про Надежду, которая — компас земной, а удача — награда за смелость, а песни — довольно одной… — одной песни было не довольно, но вскоре выходила деда серёгина бабка, у которой наоборот со слухом было всё заебок, и быстренько прекращала этот ад, предлагая альтернативные вибрации скалкой для теста.
В тяжёлые для жителей нашего дома годы антиалкогольного горбачёвского указа многие жильцы, для дОбычи спиртного, — кооперировались с дедом Серёгой (и сам он тоже на этой почве охотно социализировался, как сказали бы сейчас). Однако выпив по первому стакану — все всё равно оставляли его в привычном одиночестве, и уже хер знает — вертухайство ли и общее недоверие было тому причиной, или тот факт, что собеседник из деда был — ну никакой абсолютно: мало того, что нихера не слышал, так ещё и с дикцией у него начались серьёзные проблемы о те годы. Вероятно, после перенесённого практически на ногах инсульта — понимаю я сейчас. И, может быть, не одного.
С другой стороны, он был отличным, идеальным собеседником: нихера не слышит, хоть в ухо ссы, мало что соображает (даже если вдруг услышит), и при этом даже сигарету попросить может только жестами: “тотыка, тотыка!” — и клешнёй мороженой, узловатой, негнущейся, “покурить” показывает, прошу, мол… К концу 80-х он неожиданно членораздельно и чётко произносил только “ёбтвоюмать”, да и то мы это узнали, когда на него упала приставная чердачная лестница…
Табачный кризис, случившийся в самом конце 80-х, дед переживал сложно: он курил самые ядерные папиросы в стране, и никак не мог понять, до чего нужно было довести державу, чтоб папиросы стали таким дефицитом. Несколько раз я видел, как он эмоционально мычал в сторону табачного ларька, поминая мать ларёчника и всех дальше вверх, по иерархии.
Однажды он попросил у меня закурить. Я уже в те годы фрагментарно богател, курил что-то блатное, импортное, естественно, с фильтром, и не без понта перед тёлками протянул ему небрежно открытую пачку. Дед взял сигарету, с некоторой осторожкой повертел её недоверчиво в своих, похожих на ржавые крючья, руках, а после — продул привычно, да так, что порвалась бумага и весь табак рассыпался нахер, несмотря на фильтр…
Была у деда Сергея одна забота: в самом начале 80-х вычитал он где-то, или надоумил кто, будто ему полагается пенсия повышенная, за службу в районах Крайнего Севера, или приравненных к таковым. Уже не знаю, понт ли это был, или в самом деле полагалось что-нибудь и без того заслуженному вертухаю на инвалидности, но, в общем, начал дед осаживать собес, — так тогда назывался “пенсионный фонд”, требуя долива пива после отстоя пены, так сказать.
…Хоть и было дело в начале 80-х, в махровом ещё СССР, а методы работы собеса и подходцы его не сильно отличались от сегодняшнего пенсионного фонда РФ: деда заставили принести море справок, всё, как это обычно и бывает с районами Крайнего Севера, в итоге упёрлось в то, что сейчас там нет уже давным давно никакого лагеря, и вообще нихера нет, кроме, может быть, случайно забредших белых медведей — всё брошено, похоронено, забыто либо велено забыть.
Дед не сдавался, его катали на хуйцах, иногда давали робкую надежду, иногда даже какую-то там копейку добавляли, но потом снимали — и борьба начиналась вновь.
Так, в трудах и заботах, наступил август 1991…
Помню этот тёплый августовский день. Не знаю, может быть, это было 21 августа, а может — 22-го. Может, даже 23-го: вести из столицы, охваченной революцией, доходили-то быстро, но осваивались неторопливо, словно люди опасались некоего несварения от чересчур неожиданно калорийной пищи…
Во дворе было много народа, тепло, август, красота! Взрослые мужики тихонько киряли на своём столике, там же притесался глухня, дед Сергей. Он уже столкнулся с некоторой нуждой, и теперь просто надеялся, что кто-нибудь нальёт. И наливали — народ у нас незлобивый и отходчивый.
Из Москвы приехал дядя Витя. Дядя Витя был большой начальник — в профсоюзе путёвки распределял, до недавнего времени, власть имел, и теперь жопой чувствовал, что власть эта уплывает из под ног вместе с путёвками: и его профсоюз липовый, и его рабочие, члены профсоюза, может быть, прямо завтра уже станут никому не нужны. Он это, видимо, как-то ощущал, поэтому его немного потряхивало, он нервно хихикал, смеялся, постоянно курил и много пил. Но наливал ещё больше.
Он поведал последние новости. По всему выходило, что краснопузым — пизда. Причём полная и окончательная. Мужики, облапив стаканы, восприняли эту новость спокойно, некоторые откровенно высказались, что-то вроде “туда и дорога”, и прочий “в рот им пароход и в жопу веник” — по руководящей и направляющей от КПСС никто не затужил.
…Санька-теплотехник, ни с кем не чокаясь, глушанул стаканяру, вытер губы об рукав рубахи, встал, и, направляясь на выход, зло кинул — “заживём теперь, йобана…”, а проходя мимо закемарившего было деда Серёги толкнул его не грубо, рявкнул:
Слыхал новость, глухня?! — А?! — посунулся “здоровым” ухом дед. — Хуй — на! Хером тебе по лбу теперь, а не пенсия твоя, повышенная, понял?! — Коко-тако?! — затрепыхался дед, мало что соображая; — “Тако-како”! Кончилась советская власть, теперь узнаешь, что такое — залупу солить, вертухай ебучий, бл…! — и, злобно сплюнув под ноги— стремительно ушёл в подъезд.
…За соседним столиком, где сидела более молодёжная часть жителей двора, тоже допивали портвейн, и кто-то не слишком умело бренчал на гитаре “Группу крови”, и что-то там про перемены, которых требуют их сердца. С заходом солнца ощутимо холодало, осень норовила дохнуть ледяным дыханием смерти на жавшихся-обжимавшихся допоздна на лавочке подростков.
Завтра должен был наступить новый день. И новая эра. Но никто ещё толком не понимал этого.
…Некоторые не понимают до сих пор.
Оригинал и комментарии
Хорошие, плохие и злые новости ИИ
1️⃣ Плохая новость. Недавно опубликованные 2 книги о разных подходах к ИИ показывают отсутствие консенсуса, куда идти дальше. И это, похоже, становится главным вызовом нынешнего состояния ИИ.
Vox
2️⃣ Хорошая новость. Однако, все большее число спецов склоняются к тому, что ответом на главный вызов в ИИ является симбиотический подход на стыке ИИ и нейронаук. Конкретные варианты синергии этого стыка, предложенные в работах Джеффри Хинтона, Гари Маркуса, Демиса Хассабиса и Джеффа Хокинса кратко описаны в статье.
Psychology Today.
3️⃣ Плохая новость. А покамест риски вредоносного использования ИИ растут. Например, в медицине при диагностике, где точность модели — совсем не единственный показатель. Вот пример эксперимента, где врачи «вручную» проверили ИИ, имеющий точность диагностики 84%. Эксперимент показал, что без ИИ врачи были в состоянии показать точность диагностики более 95%.
Wired
4️⃣ Хорошая новость. Новый фронтир ИИ — персонализация обучения. Например, школы Абу-Даби используют для этого ИИ платформу от стартапа Alef Education. Она заточена на персонализацию математики, естествознания и английского, адаптируя учебный план для каждого отдельного ученика на основе анализа больших данных о том, как он учится, в чем силен и в чем слаб. В ОАЭ платформа внедрена в 60 школах, и началось внедрение в США.
CNN
5️⃣ Плохая новость. Из-за хайпа в ИИ все кругом врут — от стартапов до правительств, — навешивая на себя лейбл ИИ, притянутый за уши. На самом деле, ИИ там и не пахнет. Вот пример анализа, проведенного Лондонской венчурной фирмой MMC Ventures. Они изучили 2830 стартапов в странах ЕС и обнаружила, что 40% стартапов, классифицирующих себя, как ИИ компании, на самом деле, таковыми не являются, а лишь раздувают вокруг себя ИИ хайп.
The Verge
6️⃣ Злая новость. DARPA готовит ответный удар по китайскому ИИ. За 5 лет потратив $2 млрд., планируется разработать ассиметричный ответ, суть которого в том, что ИИ системы смогут обучаться на меньших объемах данных, научившись извлекать из них здравый смысл.
MIT Technology Review
Ну а злая эта новость потому, что:
- у Китайцев — много данных,
- США ищут в данных здравый смысл,
- а у нас «конвергентный подход» и «природоподобные технологии».
Как по этому поводу метко выразился М.Гельфанд:
«Ученые за сто лет советской власти научились мимикрировать под любую хрень, которая на них сверху валится».
________________________________
Если понравился пост:
- нажмите на “палец вверх”;
- подпишитесь на обновления канала на платформе Medium;
- оставьте комментарий.
Еще больше материалов на моем Телеграм канале «Малоизвестное интересное». Подпишитесь
Оригинал и комментарии
Без претензии на истину в последней инстанции…
Важно ли сфокусироваться на самых главных задачах и соответствующих показателях?
Да. Конечно.
А что делать с неважными, второстепенными?
Не делать? Или делать плохо?
Обычно в целях мы не можем учесть все, что в итоге приходится делать. А делать приходится. И тогда ранее сформулированные приоритеты начинают работать оправданием халтуры.
Саппорт неделю не отвечает — ммм… не в приоритете…
Интерфейс говно — зато код хороший…
Люди не могут купить билет на представление — зато представление вау…
Все, что мы делаем, стоит делать хорошо и от души. Иначе зачем делать?
Однако, есть то, что точно не надо делать. Но почему-то не принято строить «отрицательные» планы — я совсем не буду делать: 1…2…3…
Правильный KPI — это когда количество того, что мне не стоит делать = 0. Остальное я буду делать хорошо и с полной отдачей.
© Кирилл Анастасин
Оригинал и комментарии
Чрезвычайно полезное и приятное времяпрепровождение для всей семьи в праздничные выходные
Проект Once Upon a Try позволяет совершать виртуальные путешествия, знакомясь с изобретениями, научными открытиями и их авторами. Это 400+ интерактивных экспозиций, которые доступны на сайте или из мобильных приложений Google Arts & Culture.
Запущенный в среду проект Google, объединяет коллекции из 119 музеев в 23 странах, включая НАСА, ЦЕРН и Национальный музей авиации и космонавтики США.
Это 1я в истории человечества глобальная выставка самых разных его изобретений: от эмодзи до туалета, от топора до спутниковой съемки, от пороха до зубной щетки.
Благодаря режиму Street View, можно узнать не только о самих открытиях, но и о местах, где они были совершены, начав c экскурсии под землей по большому адронному коллайдеру и завершив ее в космосе на борту международной космической станции.
При этом 200+ тыс. артефактов — от первой карты Америки до Сатурна с его 62 спутниками, — можно рассмотреть в подробностях.
Можно также узнать о счастливых случайностях (открытие Ренгтеном рентгеновских лучей), оригинальных проектах (электрическая подводная лодка Исаака Пераля, которой не было суждено поплыть), людях, которые отдали жизнь за свои открытия (Мари Кьюри, открывшая радий и полоний), и много чего еще малоизвестного интересного.
А уж для детей как будет полезно!
________________________________
Если понравился пост:
- нажмите на “палец вверх”;
- подпишитесь на обновления канала на платформе Medium;
- оставьте комментарий.
Еще больше материалов на моем Телеграм канале «Малоизвестное интересное». Подпишитесь
Оригинал и комментарии
Оригинал и комментарии
Так обозначил тему нашей встречи Ростик Сперанский. И эта встреча стала для меня поводом собрать в тексте то что я знаю, чувствую и делаю в проектной деятельности вот уже 20 лет.
Свободное время
Чтобы вписываться в проект, нужно располагать достаточным количеством времени хотя бы на полгода. Сколько времени можно считать достаточным? На мой взгляд, не менее 50% рабочего времени. Что соответствует 20 часам в неделю. Или 80 часам в месяц. Или 520 часам за полгода (26 недель).
Почему важно оценивать своё свободное время на длинную перспективу? Часто бывают локальные затишья и ощущаешь желание вписаться в новый проект. Побежал… Тут проснулись другие проекты и накрыло. И даже если смог освободить неделю от разных дел и выделил время выбранному проекту, другие дела за эту неделю превратятся в важные/срочные и вот уже приходится на неделю-другую выпадать из данного проекта. В результате превращаешься в “пожарника” — в режиме аврала бегаешь между проектами и ни в одном не получается быть полностью.
Вариант со сверхурочной работой после основной работы я не рассматриваю по ряду причин:
- лично я продуктивен около 6 часов в сутках, затем “мысле-топливо” заканчивается и нужно восстанавливаться;
- бывают случаи, когда фигачишь несколько дней по 12 часов, но через неделю такого ритма наступает недельный отходняк и в итоге имеем те же 6 часов в день;
- работа для меня не является всем в жизни — есть ещё близкие люди и для меня очень ценно время, которое я могу провести с ними. Поэтому вечера и выходные я не рассматриваю в качестве источника свободного времени.
Устойчивость
Также наличие свободного времени в обычной трудовой деятельности я считаю важным критерием того, что я правильно организую себя и процессы. Если мне для обеспечения базового уровня жизни себе и своей семье, не нужно убиваться на работе (или не дай Бог, на трёх работах), более того, я могу работать не более 4-х часов в день, у меня появляется время для планирования, рефлексии, нетворкинга. Это позволяет мне быть осознанным и держать в поле внимания несколько планов своей деятельности: профессиональный, тактический, стратегический, экзистенциальный.
Но раз уж мы говорим о команде, нужно создать такие процессы, которые позволят окупать текущую деятельность. В противном случае члены команды будут заниматься вопросами выживания самостоятельно и не факт, что смогут в этом быть эффективными.
Мой первый бизнес-опыт начался в августе 1998 года — в месяц, когда Россия объявила дефолт по ГКО и много компаний схлопнулось. Я с товарищами организовал маркетинговое агентство, которое проводило исследования, а ещё мы начали создавать сайты. Спрос на обе эти услуги не был стабильным. В итоге наша команда была в одном из состояний: работа есть — фигачим, работы нет — ищем клиентов. 100% времени было занято выживанием.
И вот мы задумались, как обеспечить стабильный приток денежных поступлений. В результате на деньги, заработанные в очередном клиентском проекте, завели в здание, где снимали офис, выделенную линию, сделали разводку кабельной сети по этажам, стали продавать постоянный доступ к интернету другим арендаторам (в то время все жили на dial-up соединениях), открыли в офисном центре интернет-кафе. Все эти меры позволили нашей небольшой команде замедлиться, отдышаться и начать вкладываться в проекты развития.
Амбициозная цель
После того, как вопрос выживания решён, возникает желание наполнить свою жизнь смыслом. Начать делать то, что изменит жизнь людей к лучшему. Если в вашей команде нет такой цели, её стоит найти.
Также амбициозная цель должна быть достаточно большой, чтобы её не возможно было реализовать в одиночку. А значит, реализация данной цели создаёт смысл команде быть вместе.
Организация
Когда группа организована классическим образом — есть начальник и есть подчинённые — в ней работает следующая модель управления:
- У начальника есть замысел — он определяет что и как нужно сделать
- Начальник организует деятельность: разбивает проект на задачи, распределяет задачи между подчинёнными, определяет контрольные точки, контролирует промежуточные результаты и даёт корректирующую обратную связь
- Исполнители выполняют поставленные задачи и отчитываются о выполнении
- Начальник разруливает конфликты и несёт ответственность за результат
Самоорганизация предполагает, что каждый член команды способен “быть начальником”, то есть формировать замысел и организовывать деятельность других. Это важно! Если ты способен видеть лишь свой участок и свою деятельность в отрыве от других, ты не можешь выстраивать адекватное взаимодействие.
Кроме организации деятельности, хороший начальник также должен быть способен к рефлексии — он анализирует не только деятельность подчинённых, но также собственную деятельность как организатора:
- почему я выбрал именно эту цель?
- почему я именно так расставил приоритеты?
- почему я именно таким образом распределил задачи по подчинённым?
- почему эту задачу мы решали именно таким способом?
- почему я избрал такой вариант разрешения конфликта?
- что нам позволило реализовать проект раньше срока?
- почему эта задача была провалена?
- что будет если…?
Самоорганизация
Берусь утверждать, что в самоорганизующейся команде все члены должны уметь быть начальниками и подчинёнными одновременно. То есть, быть способными:
- к качественному целеполаганию;
- к организации деятельности других людей;
- взять ответственность на себя;
- разрулить конфликт;
- взять на себя выполнение той или иной задачи в качестве исполнителя;
- понимать ситуацию в развитии, быть осознанным — регулярно рефлексировать происходящее.
На этом месте хочу сделать небольшое отступление. Когда я только начинал делать первые шаги в качестве руководителя, мне приходилось силой заставлять себя не пытаться всё делать самому. Чтобы быть хорошим начальником нужно перестать быть исполнителем. Когда высвобождается свободное время, появляется возможность исследовать как всё устроено и придумывать способы как улучшить то, что и так хорошо работает :)
Если руководитель избегает руководящей работы, считая её пустой тратой времени, и работает как исполнитель, группа быстро деградирует.
Однако в самоорганизующейся команде, где каждый член может стать ситуационным лидером и выступить в роли организатора, деградации не произойдёт.
О том как разруливать конфликты в команде, состоящей сплошь из лидеров, я скажу в блоке о Ценностях.
Режимы мышления
В предыдущих двух блоках мы увидели, что:
- в классической модели управления босс всё время практикует мышление управленца, а подчинённые — мышление специалистов. И это хорошо работает.
- в самоорганизующейся команде все члены команды практикуют как мышление специалиста, так и мышление управленца, которое включает в себя организационное мышление и рефлексию. И здесь мы обнаруживаем несколько противоречий…
Противоречие между разными типами мышления для одного сотрудника. Практически не возможно одновременно находиться в мышлении специалиста и управленца. Для этого требуется переключение. В зависимости от контекста, переключение занимает от нескольких часов до нескольких дней.
Противоречие в коммуникации, когда один сотрудник находится в мышлении специалиста, а другой в мышлении управленца. Чтобы понимать друг друга, важно синхронизировать протоколы.
Когда я осознал идею о несовместимости режимов мышления, мне стало понятно почему scrum устроен именно таким образом как он устроен. Он синхронизирует режимы мышления в самоорганизующейся команде:
- Планирование спринта — все члены команды переходят в режим организационного мышления управленца
- Внутри спринта — режим специалиста
- Ежедневные стэндапы — режим короткого погружения в управленческий протокол мышления
- Ревью — опять мышление управленца
- Ретроспектива — рефлексивный протокол мышления управленца. Важно понимать почему разнесены Ревью и Ретроспектива — протоколы мышления разные
И если scrum перключает режимы мышления в соответствии с определённым ритмом, то kanban делает это ситуационно. Пока количество задач в каждом блоке находится в пределах нормы, все находятся в режиме специалиста и делают своё дело. Но как только количество карточек в каком-то разделе канбан-доски достигает предельного значения, это вызывает затор — никто больше не может передвинуть свои карточки — поэтому все переключаются в режим управленца и пытаются решить проблему на системном уровне, чтобы в будущем она не повторялась.
Резюмирую этот блок: команде на старте нужно определить способ переключения между режимами мышления и либо взять готовую схему типа scrum или kanban, либо разработать свою.
Языки управленческого мышления
Мы сколько угодно можем убеждать себя что сейчас-то мы находимся в режиме управленческого мышления, но если у нас нет для этого специального языка, мы будем лишь обманывать себя.
В рамках этой заметки я не буду разворачивать тему языков. Скажу лишь что они их задача — фокусировать внимание на важных аспектах реальности и формировать целостное видение ситуации. Так в акселераторах большое внимание уделяют освоению шаблонов business model canvas и value proposition canvas от Алекса Остервальдера.
Полезны также другие схемы: PEST для анализа среды, SWOT для быстрого анализа ситуации. Благодаря деятельности АСИ, стало популярено Форсайт-мышление, позволяющее строить дорожные карты и мыслить от желательного образа будущего.
Интересным и мощным инструментом мышления представляется мне язык пиктограмм, разработанный группой Переслегина.
Недавно познакомился с TOGAF — языком, который реализует инженерный подход к описанию бизнеса. Это такой же прорыв в бизнес-мышлении, как объектно-ориентированный подход в программировании.
Интересные результаты даёт метафорическое мышление. Оно позволяет переключаться между парадигмами.
Резюмирую этот блок: чем богаче арсенал языков управленческого мышления, тем сильнее это мышление.
Разделяемые ценности
Впервые о Ценностях я задумался когда осознал, что становлюсь узким местом в своей компании и не успеваю адекватно реагировать на все вызовы. Назрела необходимость в делегировании принятия решений. Но как это сделать без потери качества и без рассинхронизации логики решений, принимаемых разными людьми в разное время? Пока решения принимаются в одну голову, это происходит автоматически.
Тогда я задал другой вопрос: что делает меня мной, почему я принимаю именно такие решения? Размышления и литература привели меня к осознанию того, что решения принимаются в соответствии с внутренними приоритетами, которые я сформировал на протяжении жизни из полученного опыта. У каждого человека свой путь и свой опыт, поэтому и приоритеты будут различны.
Что вы предпочтёте:
- “точно, сейчас, но не много”, или “возможно, потом, но очень много”?
- “не пойман — не вор”, или “бог всё видит”?
- “победителя не судят”, или “не судят того, кто действовал по протоколу”?
Явным образом сформулированная система приоритетов позволяет принимать решения в непонятных ситуациях. Например, ценности Agile задают всего четыре таких приоритета, но коренным образом форматируют культуру компании:
- Люди и взаимодействие важнее процессов и инструментов
- Работающий продукт важнее исчерпывающей документации
- Сотрудничество с заказчиком важнее согласования условий контракта
- Готовность к изменениям важнее следования первоначальному плану
Считаю критически важным команде синхронизироваться по ценностям. В противном случае, решения, принятые и реализованные одними членами команды, будут вызывать отторжение у других. Избегание конфликтов и действие в логике плюрализма, очень быстро приведёт к расфокусировке: если мы не можем сделать выбор, значит будем реализовывать несколько альтернатив. Затем ещё и ещё. А когда количество векторов превысит количество членов команды, для того, чтобы двигаться в каждом направлении, возникнет дефицит управленческого мышления.
Уверен, что вы подумали про А/Б тестинг или принятие решений на основе данных. К сожалению, это не работает в случае ценностного выбора в котором каждая альтернатива имеет свою правду и какая правда окажется более правдивой станет ясно через много лет.
Мои размышления по теме ценностей смотрите в других заметках:
- Как сформулировать Ценностный код компании?
- Ценности Agile 3.х
- Управление по ценностям (скетчрид)
- Как говорить о ценностях
Подвожу итог
Что нужно для построения самоорганизующихся команд:
- Достаточное количество свободного времени в долгосрочной перспективе у каждого члена команды;
- Финансовая устойчивость — команда имеет денежный поток, позволяющий обеспечивать базовые потребности команды;
- Амбициозная цель, которая создаёт смысл совместному пребыванию в команде;
- Протокол переключения между разными типами мышления;
- Владение языками управленческого мышления;
- Синхронизация по ценностям.
Оригинал и комментарии
Оригинал и комментарии
Целеполагание и проекты трансформации. Модель балансов v0.1
В этой заметке предлагаю предварительное видение модели балансов как логики трансформации.
Исходные предпосылки
Часто для разработки проектов используют различные шаблоны. Шаблоны довольно эффективно фокусируют внимание на различных аспектах. Однако с ними я отмечаю две проблемы:
- Сам по себе шаблон не гарантирует связности и сбалансированности различных частей, разработанных в соответствии с шаблоном.
- Шаблон запомнить не возможно. Пока смотрю на него, понимаю что к чему. Отвернулся и уже не могу восстановить логику его построения. Особенно ужасно, когда шаблон делают на основе Business Model Canvas Остервальдера — тогда путаются две совершенно разные логики — трындец!!!
Хочется, чтобы шаблон был простой как “три копейки”, и при этом, чтобы позволял ничего не упустить, а также фокусировал на связности отдельных его элементов.
Про важное
Иногда мне приходится быть в роли ментора при подготовке питч презентаций проектов. И очень часто я обнаруживаю, что у авторов проектов выпадает один или два из трёх компонентов:
- Люди
- Система
- Технологии
Люди
Это все те, кто так или иначе вовлечён в проект — это стэйкхолдеры. Вот мы на них посмотрели. И даже провели анализ по степени влияния на проект. А затем перешли к другим блокам и забыли про них.
Система
Это как всё устроено организационно. Какие роли, процессы, интерфейсы и протоколы взаимодействия задействуются, или влияют на проект.
Технологии
Это инструменты и технологические решения, которые задействованы или влияют на проект.
Шаблон на основе баланса трёх ключевых системных факторов
Итак, всего три линии, прочерченные на листке позволяют целостно взглянуть на три ключевых фокуса. И в каждом из них выделить элементный состав.
Например, если мы рассматриваем бизнес автозаправок, то в блоке “Люди” обнаружим:
- Клиенты (автовладельцы)
- Наёмные сотрудники
- Поставщики
- Владельцы бизнеса
В блоке “Система” увидим:
- Производство топлива
- Доставка топлива
- Хранение запаса топлива
- Отгрузка топлива клиентам
- Система учёта топлива
- Система проведения расчётов за отгруженное топливо
- Магазин сопутствующих товаров
- Мини-кафе
- Дополнительный сервис
А в блоке “Технологии”:
- Двигатели внутреннего сгорания на жидком топливе
Не претендую на полноту описания предметной области. В дальнейшем мы увидим, что некоторые элементы будут более важны, а некоторые мы сможем опустить в зависимости от того, что мы будем рассматривать в качестве проекта.
На этом месте важно уловить, что все элементы собрались не случайно и находятся в балансе:
- система сконфигурирована таким образом, чтобы обслуживать технологические решения,
- технологические решения разрабатываются с учётом существующих систем,
- системы отвечают требованиям людей,
- люди подстраиваются под то, как устроена система,
- технологии позволяют удовлетворять потребности людей,
- люди формируют свои потребности с учётом возможностей технологий.
Следствием из этого принципа становится то, что изменение любого элемента баланса окажет влияние на все остальные элементы.
Кажется тривиально? Как бы не так! Проблема как обычно кроется в инерции мышления, ведь людям свойственно объективировать сложившиеся балансы, считая их чем-то объективным.
Например, когда обсуждают электромобили, то обычно по инерции считают, что автозаправки просто будут переоборудованы электрическими шлангами, а всё остальное останется без изменений.
А вот и нет. Оказывается, если полного бака хватает на неделю городской эксплуатации личного авто, а время наливки бака — не превышает трёх минут, то пропускная способность заправки, и экономика складывается одна. А если предположить, что электромобиль требует ежедневной зарядки, а продолжительность цикла зарядки хотя бы полчаса, то экономика совершенно другая. Более того, сразу возникает вопрос по утилизации времени клиентов.
Таким образом, мы можем обнаружить разбалансировку системы:
- какие-то характеристики элементов становятся критичными
- появляются противоречия внутри блоков “люди”, “система”, “технологии”
- а также противоречия на стыках “люди/технологии”, “люди/система”, “система / технологии”
Целеполагание
И как только мы обнаружили ограничения и противоречия в балансе, мы тут же можем сформулировать два типа целей:
- снять ограничения
- и разрешить противоречия
А самое интересное, что целеполагание также может быть оформлено в виде “вигвама”. В нашем примере с заправкой это могут быть:
- обеспечить экономическую эффективность заправки для электромобилей (противоречие “люди / система”)
- либо сократить время зарядки электромобиля, либо понять как утилизировать время клиентов (противоречие “люди / технология”)
Образ решения
Для разрешения противоречий и снятия ограничений нужна новая сборка баланса в которой изменится всё, хотя могут войти также какие-то элементы старой системы.
В примере с электрозаправками довольно быстро становится понятно, что хранить запасы электричества (как бензина) не требуется, поэтому инфраструктура станет сильно проще. Более того, она может стать распределённой, или даже распылённой по всему городу. А из существующих систем, наилучшим местом организации электро-заправок становятся парковки в торговых центрах, а также ночные парковки.
Проект
И вот мы можем сформулировать способ перехода от исходного баланса к целевому. В нём мы обозначаем какие изменения необходимо провести в каждом из элементов баланса, а также последовательность шагов.
Я проект электрозаправок не разрабатывал, но уже примерно становится понятно как действовать и есть ли смысл в создании пилотных электро-заправок на базе существующей инфраструктуры бензоколонок.
Про развитие
Думаю, из модельки понятно, что когда “треугольник” находится в балансе, то никакого развития нет и не надо — всё же прекрасно! Тогда возникает вопрос: что нарушает баланс?
Обновление технологий сейчас происходит чуть ли не самопроизвольно. То есть, созданы объективные условия в которых множество игроков включились в гонку порождения технологий.
Другим разбалансирующим элементом являются люди, точнее новые идеи, которые захватывают умы: эко-мышление, странное мышление миллениалов и поколения Z, идеи Agile и прочие.
Про реакцию
Сектор “Люди” может быть как драйвером развития, выводящим треугольник из баланса, так и реакционным элементом, препятствующим переходу к новому равновесному балансу.
Возьмусь утверждать, что никакие изменения в секторах “система” и “технологии” не возможны без изменений в секторе “люди”. Без внедрения в сознание новых идей, изменения становятся крайне болезненны.
Резюмирую
Как видите, имеем довольно глубокий шаблон для разработки проектов. Этот шаблон позволяет управлять фокусом внимания.
При этом сам шаблон построен по фрактальному принципу на одном элементе — “вигваме баланса”, который описывает:
- исходное состояние баланса
- ограничения и противоречия баланса (целеполагание)
- новая сборка баланса в котором сняты ограничения и разрешены противоречия
- проект показывает что нужно изменить в балансе чтобы перейти от исходного состояния к целевому
Целеполагание и проекты трансформации. Модель балансов 0.1 was originally published in smysloteka on Medium, where people are continuing the conversation by highlighting and responding to this story.
Оригинал и комментарии
Цифровая трансформация / Первый опыт
Бывает, в Смыслотеку обращаются хорошие люди с очень ограниченным бюджетом, или вовсе без бюджета. Хочется им помочь. Как ни странно, самым сложным этапом создания ролика является разработка сценария. И если клиент готов, я предлагаю создать сценарий в режиме коучинга — я задаю вопросы, фокусируя на важном, а клиент сам пишет. Получается хорошо, и значимо сокращает расходы на создание ролика без потери качества.
Что сложного в написании сценария?
Есть несколько представлений о том как создаются сценарии к роликам:
- “Я сам знаю что хочу донести до аудитории, и сам могу это изложить — мне не нужны услуги по созданию сценария, нарисуйте визуальный ряд” — случается, что мы действительно встретили уникального эксперта, которому требуется визуализация на аутсорсе, но в 99% работает эффект Даннинга-Крюгера и нам не только приходится переписывать сценарий, но и проводить терапию клиента. Поэтому мы не принимаем во внимание, когда клиент говорит, что у него уже есть сценарий и просит скидку.
- “Я знаю что нужно сказать, но не могу подобрать точные слова. Нужно найти копирайтера — мастера слова, который мои мысли выразит красиво и гладко” — когда-то я тоже думал, что дело в словах, но сейчас понимаю, что скорее всего, проблема со смыслами. Если смысловой “пазл сложился”, нужные слова приходят сами.
- “Я много хочу сказать и не понимаю как это всё уместить в короткий ролик. Поможете?” — это адекватный запрос на фокусировку. Как правило, решается через исследование аудитории и коммуникационной задачи. Лично мне нравится работать с такими запросами.
- “Я знаю что хочу сказать, но мне сложно оценивать адекватность собственных текстов, поэтому мне нужен тот, кто посмотрит на мои смыслы со стороны и поможет их упаковать” — ещё один тип адекватного запроса — человек осознаёт, что находится под воздействием когнитивного искажения “проклятие знаний” и знает, что ему нужна внешняя позиция. Я сам отношусь к этой категории и с удовольствием обращаюсь к коллегам по цеху за помощью.
Но в чём же состоит работа по созданию сценария объясняющего ролика? Это технология или искусство? Возможно, нужен громадный опыт из которого “копирайтер” выудит нужные элементы? Только ни он сам, никто другой не объяснит как это делается…
Когда мы делали первые шаги на пути упаковки смыслов, мы много импровизировали и конечно же, опирались на глубокий и разнообразный опыт членов нашей команды. Но со временем стало ясно, что логика процесса упаковки смыслов начала складываться.
Понимание бизнес-задачи
Скорее всего, клиент не хочет ролик, он хочет, чтобы люди что-то сделали, перестали делать, или стали делать иначе чем сейчас. И если это достигается какими-то другими способами, нужно использовать именно эти способы. Однако выясняется, что люди очень инерционны и действуют “как обычно”.
На уровне бизнес-задачи важно увидеть всех действующих лиц и сформулировать свои ожидания по изменению их поведения.
Понимание коммуникационной задачи
Следующим шагом изучаем аудиторию — как устроены текущая картина мира и восприятие ситуации. Что из этого способствует желаемому поведению, а что препятствует.
Из этого понимания можно сформулировать задачу для “интервенции” — вброса смыслов, который приведёт переосмыслению текущей ситуации и изменению способов действия в ней.
Для формулирования коммуникационной задачи мы используем модель “свободного мыслящего субъекта” которая позволяет определить на каком уровне происходит сбой:
- уровень внимания — человек не идентифицирует какие-то важные детали. Как говорят психологи, не выделяет фигуру из фона. Значит задача коммуникации — управление вниманием.
- уровень понимания — человек интерпретирует информацию в соответствии со знакомыми схемами, а если подходящих схем нет, то может и вовсе вытеснить событие как будто его и не было. Коммуникационная задача — внести схему, позволяющую понимать заданный класс событий.
- уровень принятия решений — у каждого есть собственная шкала добра и зла, собственное понимание того, что хорошо, а что плохо. Человек может видеть и понимать ситуацию, но в его ценностной картине приоритет имеют консервативные решения. Коммуникационная задача — проблематизировать текущие ценности и предложить новые, расширив горизонт рассмотрения последствий тех или иных решений.
- уровень реализации решений — часто бывает, что человек знает что нужно делать, но считает, что у него не достаточно ресурсов для начала движения. Коммуникационная задача — показать, где взять ресурсы.
Объясняющий ролик — это смысловая инъекция
И только когда мы перешли от понимания бизнес-задачи к пониманию задачи коммуникационной, мы можем перейти к разработке коммуникационного решения. Как правило, решение должно учитывать разные точки контакта с аудиторией. И это не только объясняющие ролики. Но ролики довольно эффективны для того, чтобы сделать комплексный вброс, который в последующем будет поддержан другими коммуникационными решениями.
Самое интересное, что на этапе работы с текстом, мы работаем не столько со словами, сколько со смысловыми нитями. Текст как-бы ткётся. В какой-то момент у меня даже случился инсайт, что слова “текст” и “текстиль” не только однокоренные, но и довольно близки по смыслу. По сути, мы не пишем текст, а создаём текстовую сборку решения под конкретную коммуникационную задачу.
Нужен ли ролик?
Вопрос не праздный. Если количество контактов не большое и все вы можете отработать лично, то ролик не нужен. Однако, если есть ситуации, когда:
- количество контактов больше 100
- когда у вас есть не более 3-х минут на контакт и нужно умудриться провести “интервенцию” (вброс смыслов)
- когда имеет место “испорченный телефон” — люди искажают смыслы при передаче
инвестиции в решение в виде ролика могут оказаться вполне оправданными. Также побочным эффектом при создании ролика является детальная проработка коммуникационного решения.
Любой рабочий процесс определяется логикой управления вниманием
Заголовок этого раздела говорит сам за себя. Что мы делаем, когда взаимодействуем с клиентом? Мы задаём вопросы в соответствии с логикой области ближайшего развития. Вопросы фокусируют внимание клиента. Также вопросы переводят внимание с одного аспекта на другой. Последовательный перенос внимания позволяет увидеть задачу целостно и соткать сценарий.
Для меня идеальной является ситуация в которой клиент сам написал сценарий своего объясняющего ролика. Возможно, вы удивитесь и скажете, что я сам только что критиковал клиентов, которые приходят с готовыми сценариями. Это так. Разница в том, из каких предпосылок возник сценарий — видит ли клиент связку бизнес-задачи и коммуникационной задачи с тем решением, которое предлагает.
Связка в которой клиент держит смысловое поле, а я — структуру, работает идеально. А какое-то время назад у меня возникла идея:
А что если записать себя как интервьювера, проводящего глубинное интервью и поручить боту выдавать клиенту очередной вопрос…
Так появился мой первый цифровой двойник. Его задача — помочь клиентам создать сценарий объясняющего ролика. Первые тесты на знакомых меня порадовали:
Я впечатлен!
Очень крутой тренажёр по созданию сценариев.
Выполнение заданий напомнило мне, как в школе я изучал химию по “Химическому тренажёру” — благодаря ему я знал химию гораздо глубже моих ровесников. И до сих пор знаю.
Так вот, странным образом , точнее, совсем не странным, выполнение заданий позволило сфокусироваться на собственных тезисах и посылках. Прояснить понимание некоторых моментов, которые до этого были обделены вниманием.
И именно благодаря концентрирующим фокус внимания вопросам эти моменты получили развитие.
Благодарю, желаю процветания кругляшам
Ярослав Филатов, врач психотерапевт
“Кругляши” — это короткие видео-обращения в Телеграме с помощью которых я общаюсь с клиентом. Именно благодаря “кругляшам” создаётся эффект присутствия — вы общаетесь со мной, а не с ботом.
И несколько слов о бизнесе
Экономика создания ролика сейчас такова, что около 40% в цене приходится на создание сценария. И я очень надеюсь на то, что мой цифровой двойник позволит снизить цену для клиентов и сделает объясняющие ролики более доступными.
Только до 01 мая 2019 компания Смыслотека предлагает специальные тарифы для визуализации роликов, созданных с помощью цифрового двойника:
- 40 000 рублей за визуализацию ролика до 3-х минут (текст до 300 слов). Стандартная цена на разработку ролика со сценарием 90 000 рублей — экономия 50 000 рублей.
- 50 000 рублей за визуализацию ролика до 5-и минут (текст до 500 слов). Стандартная цена на разработку ролика со сценарием 150 000 рублей — экономия 100 000 рублей.
Если у вас есть коммуникационная задача, приглашаю упаковать своё коммуникационное решение с помощью моего цифрового двойника. Для этого постучитесь в телеграм акаунт @sgevlich и через неделю вы создадите свой сильный сценарий, а ещё через неделю получите воплощение в виде ролика — “объясняшки”.
Цифровой двойник помогает писать сценарии объясняющих роликов was originally published in smysloteka on Medium, where people are continuing the conversation by highlighting and responding to this story.
Оригинал и комментарии
«Малоизвестное интересное» совместно с ШАД и управлением машинного интеллекта и исследований Яндекса разыгрывает 3 приглашения на интенсивный курс по Natural Language Processing.
26–29 марта в офисе Яндекса пройдёт Yandex NLP week — закрытый интенсив на английском для ценителей NLP и глубинного обучения. Курс ведут Mirella Lapata, профессор Школы информатики университета Эдинбурга, и Wilker Aziz, доцент Института логики, языка и вычислений университета Амстердама.
Учёные расскажут:
• как латентные переменные применяются в задачах анализа текстов,
• как строить глубинные генеративные модели с латентными дискретными переменными,
• что такое semantic parsing.
Организаторы хотели бы знать, какие вопросы по тематике курса вам наиболее интересны.
Кроме того, ответы Миреллы и Уилкера на три самых интересных из заданных вами вопросов будут опубликованы в «Малоизвестном интересном», а их авторы будут приглашены на Yandex NLP week.
Ждем ваших вопросов здесь
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оставить отзыв с помощью аккаунта FaceBook: