Недавние тренды рунета

Как успешно провести первую встречу с клиентом, узнать всё самое важное и не облажаться

Для кого и зачем эта статья. Мы в «Кельнике» меняем дизайн-процессы и систематизируем знания. Нам не хватает статей о том, как всё устроено в агентствах, поэтому в ближайшее время мы планируем больше рассказывать о внутренней кухне — делиться знаниями, регламентами и способами организации работы.

Эта статья — выдержка из внутренней документации. Она полезна дизайнерам, которые хотят прокачать навыки коммуникаций с клиентом, и компаниям, которые отлаживают этот процесс.

Справка: что такое брифинг

В «Кельнике» коммуникативную функцию выполняет менеджер. Дизайнеры общаются с клиентом только в ключевых точках проекта, когда нужно вникнуть в задачу, получить инсайд из первых уст, презентовать дизайн-концепцию или обсудить сложный прототип, требующий детальных пояснений.

Первую встречу специалистов с клиентом мы называем брифингом. Это важный этап, который всё дальнейшее общение. Если брифинг проведён плохо, дизайнер не поймёт задачу, а у клиента сложится превратное представление о работе. Если брифинг проведён хорошо, это решит кучу проблем на следующих этапах.

Старт проекта

Проект приходит от менеджеров по продажам или аккаунтов. Дизайнер начинает работу, когда договор уже подписан, либо находится на последнем этапе подписания.

На старте проекта назначается вводная встреча. Она проходит очно или по скайпу. С нашей стороны участвуют менеджер, арт-директор, дизайнер, иногда продажник. Со стороны клиента — менеджер, ЛПР (лицо, принимающее решение), маркетолог и иногда руководители отделов.

Цель встречи — познакомиться с клиентом, прояснить задачу проекта и собрать как можно больше данных, чтобы сделать информационную архитектуру, а затем и прототип.

Что спросить у менеджеров, когда приходит новый проект

1. Описание задачи — какого типа проект, какую задачу бизнеса он решает.
2. Тайминги — сколько времени есть на дизайн, проектирование, вёрстку.
3. Объём работ — что именно продано по договору.
4. Вводную о клиенте — новый клиент или постоянный, каковы особенности работы с ним.

Роли на встрече

— менеджер или продажник курируют беседу, представляют участников;

— арт-директор инициирует разговор, задаёт наводящие вопросы, отвечает на вопросы клиента;

— дизайнер задаёт уточняющие вопросы, если что-то непонятно, и объясняет нюансы при необходимости.

Заранее договоритесь с коллегами, кто о чём будет спрашивать и в каком русле вести разговор. Чтобы не противоречить друг другу и не перетягивать одеяло, кто-то из участников встречи должен взять на себя флагманскую роль (обычно это артдир, но может быть и менеджер, и продажник — в зависимости от отношений с клиентом).

Чеклист

Вопросы для встречи собраны в чеклисте для брифинга. Сверьтесь с ним, либо распечатайте и возьмите с собой, чтобы ничего не упустить.

Что важно сделать на первой встрече

1. Представиться. Познакомиться с ЛПР и менеджерами клиента.
2. Уточнить задачу: подробно обсудить вводные данные, прописанные в договоре, и спросить, почему эти данные именно такие.
3. Собрать информацию о продукте: что за ЖК, какого типа, как строится, какая квартирография, каковы особенности.
4. Собрать информацию о компании: в чём её преимущества, кто целевая аудитория, какова история, в чём особенности бизнес-процессов, кто конкуренты.
5. Узнать, каковы технологии продаж: как будет использоваться сайт, как продвигаться, какие поля в выгрузке в CRM, какие планы на развитие.
6. Рассказать клиенту, какие этапы будут дальше и чего ждать от следующей встречи.
7. Запросить материалы — брендбук, маркетинговые отчёты, референсы.
8. Быть внимательным и вежливым. Больше слушать, чем говорить, не использовать сарказм и пассивную агрессию.
9. Вести конспект в блокноте или записывать встречу на диктофон.

Чего нельзя делать на первой встрече

1. Нельзя приезжать неподготовленным. Выделите хотя бы полчаса, чтобы внимательно просмотреть материалы, составить список вопросов и погуглить компанию, на встречу с которой вы едете. Иначе велик риск нарваться на неприятные неожиданности.
2. Нельзя предлагать решения. Когда обсуждается проблема, часто возникает соблазн сходу предложить клиенту решение — особый функционал, классную анимацию или необычную фичу. Не делайте так. Дождитесь момента, когда встреча закончится — вы сможете обсудить идеи с командой и избежать нереализуемых фич и пустых обещаний.
3. Не стоит пытаться понравиться. Задача дизайнера — не очаровать клиента, а как можно чётче понять его проблемы и боли. Клиенту в целом неважно, каков дизайнер как человек. Ему важно решить проблему. Поэтому вам не нужно пытаться произвести впечатление — достаточно быть спокойным, вежливым и побольше слушать.
4. Не стоит негативно оценивать чужую работу. Бывает так, что клиент спрашивает мнение о работе, которую для него сделал другой подрядчик: о старом сайте, логотипе, уличной рекламе. Воздержитесь от резкой критики, даже если работа неудачная. Честно объясните, что вы не можете критиковать чужой дизайн, не зная задачи и контекста, и спросите, что клиент думает об этой работе. Это самое важное.
5. Не стоит говорить с клиентом на языке дизайнеров. Если проект абстрактный и с высокими ожиданиями, дизайнер на встрече может начать сыпать терминами, объяснять правила композиции и технические тонкости. Это приводит к обидам: клиенту неудобно признаться, что он ничего не понимает, поэтому он либо молчит и злится, либо соглашается, а потом меняет решение. Чтобы избежать обид, забудьте о терминах и говорите с клиентом на его языке.

Что может пойти не так

1. Дизайнер затронет щекотливую тему. Например, прозвучит вопрос, почему не растут продажи, и за столом наступит нехорошая пауза. Не паникуйте: это нормально. Извинитесь за то, что вопрос неудобный, и объясните, что спрашиваете не из праздного любопытства: вам важно понять ретроспективу проекта — что уже сделано, какие решения сработали, а какие нет, — чтобы не повторять ошибок.
2. Клиент начнёт требовать решение здесь и сейчас. Тревожная ситуация: собеседник хочет лишить вас возможности думать, и манипулирует ситуацией так, чтобы вы приняли решение на эмоциях. Не поддавайтесь. Дизайн — это не Формула-1: нет таких решений, которые нужно принять за считанные секунды. Если на встрече на вас наседают с требованием немедленно согласиться или отказаться, спокойно скажите, что вам нужно подумать, и пообещайте ответить письмом после встречи.
3. У дизайнера спросят чего-то, что он не знает. Клиент не обязан знать, кто и за что отвечает в агентстве. Он может спросить у дизайнера о технических тонкостях фронтэнда или бэкенда, нюансах процесса наполнения или тестирования. В таких случаях не стесняйтесь напрямую сказать, что вы не знаете ответа. Переведите вопрос нужному специалисту, либо запишите его и уточните ответ после встречи.

Почему важно всё записывать

Бывает так, что во время встречи клиент вскользь затрагивает важную проблему, но дизайнер забывает записать её и задать уточняющие вопросы. Клиент ждёт, что на следующей встрече будет предложено решение. Проходит пару недель, наступает пора показать результат работы, а в нём нет ничего о проблеме. Дизайнер забыл.

Такие факапы оборачиваются потерей доверия: клиент ловит дизайнера на невнимательности и впредь не верит, что его задачу могут решить с умом и толком. Согласование проходит сложнее, вернуть доверие трудно, а добиться уважения ещё труднее.

Чтобы избежать этих проблем, будьте максимально внимательным на первом этапе и записывайте всё, что обсуждается на встрече.

После встречи

В течение двух дней после встречи дизайнер или менеджер составляет митинг-репорт и отправляет всем участникам для согласования.

Митинг-репорт — это гугл-док с конспектом встречи. Он нужен для того, чтобы синхронизировать ожидания, ещё раз проговорить самое важное и убедиться, что ничего не забыто.

В митинг-репорте нужно указать:

— Дату встречи (или дату составления документа)

— Всех участников (поименно, с должностями)

— Цель встречи

— Проблемы, которые были озвучены

— Всю информацию, которую клиент рассказал о проекте и своём бизнесе (тезисно)

— Достигнутые договорённости

Каждый участник встречи может что-то добавить в документ или прокомментировать на полях. После того, как совместная работа завершена, и митинг-репорт согласован клиентом, можно приступать к информационной архитектуре проекта.

Если у вас есть свои шаблоны и чеклисты или интересный опыт брифинга, поделитесь в комментариях.

Брифинг с клиентом: как провести и что спрашивать was originally published in Дизайн-кабак on Medium, where people are continuing the conversation by highlighting and responding to this story.

Оригинал и комментарии

Дедушка военврач прислал полюбоваться прекрасной статьей про подсластители. Она действительно изящна по содержанию, и ее прекрастность дополняется освещением ее в прессе.

Например:

или

или

Или даже так:

В общем, много чего смешного написали.

Разумеется, чтобы оценить степень опасности искусственных подсластителей для бактерий мы сначала посмотрим в статью. Я не буду глубоко разбирать происходящее. Но это опять тот самый случай, когда даже читать ничего не надо, а достаточно посмотреть на графики, там все понятно.

По существу

Итак, ученые взяли 3 штамма бактерий которым в среду добавляли подсластители в разных концентрациях и смотрели, что там у них меняется. Не хочу останавливаться на том, что же именно они измеряли и как это транслируется на человека (спойлер: никак), но что-то допустим меняется. Чтобы никого не запутывать, таблички постить не буду. Приведу лишь (некоторые) графики изменения этого чего-то, что авторы работы назвали “индекс токсичности”. Мы можем видеть, что при больших концентрациях сахарина и сукралозы в жизни бактерий штамма 1 что-то меняется

Мы видим, что подсластители ни в каких концентрациях не оказывают никакого влияния на жизнь штамма 2.

И мы видим, что только по настоящему огромные концентрации подсластителей (порядка 1%) вызывают едва заметные изменения в жизни штамма 3.

Итак, второй и третий штамм очень хорошо справляются с “токсичными” подсластителями, попросту на них никак не реагируя. Остается штамм 1. Что же про него пишут авторы?

In general, from all tested strains, TV1061 was the most susceptible to artificial sweeteners.

Это они типа намекнули, что штамм 1 оказался наиболее восприимчив к синтетическим подсластителям. Впрочем, как вы можете заметить, не ко всем и по-разному, но это неважно.

The lowest inhibition and induction concentrations that resulted in a toxic response were observed with sucralose (1 mg/mL) and neotame (2 mg/mL), respectively

Замечательно. Авторы отмечают, что при уже низкие конценрации сукралозы (1 мг/мл) и неотама (2 мг/мл) заставляют (некоторых) бактерий страдать.

Ну ладно, поверим. Они же ученые, они же врать не будут и сов на глобус не натягивают почти никогда. Оттолкнемся от этих цифр и попробуем считать, сколько это, низкие концентрации. Для удобства посчитаем на газировку, так как именно газированные напитки — главный источник подслатителей в нашей жизни.

Сукралоза.

Порядка 80–85% потребленной сукралозы выходит через кишечник, так что теоретически она может влиять ни кишечную микрофлору, если ее (сукралозы)накопится много.

У сукралозы коэффициент сладости 600. То есть в литре газировки ее может содержаться 170 мг. Ее едва-едва заметное влияние на штамм 1 (но не штаммы 2 и 3) начинается при 1 мг/мл. Если меньше, то ничего не происходит. Таким образом, чтобы обеспечить концентрацию сукралозы в кишечнике, при котором она может повлиять на штамм 1, нужно употребить и аккуратно размазать примерно 5 литров газировки на данном подсластителе на каждый литр содержимого кишечника. Не забываем, что мало достичь этой концентрации, ее надо постоянно поддерживать на данном уровне. Что, конечно, можно достигнуть при должном уровне упоротости. Но зачем?

Неотам.

С неотамом все еще хуже. Во-первых у него коэффициент сладости 6000, то есть дозы в напитках совсем гомеопатические. Во-вторых, неотам не задерживается в кишечнике, очень быстро всасывается в кровь и продукты его распада заканчивают свой метаболитический путь в моче. Я не знаю, что должен сделать нормальный человек, чтобы обеспечить себя упомянутыми дозами неотама. Единственный возможный способ: шланг в анальное отверстие. Вряд ли это правильный способ подсластить себе жизнь.

Выводы

В некоторых дозах в условиях чашки Петри некоторые подсластители способны как-то влиять на метаболизм некоторых бактерий. Это вполне очевидный факт, потому что токсичность — это вообще-то функция от дозы. Скажу больше, при определенной дозировке любое вещество так или иначе начинать влиять на любой организм. Нам же, заботящимся о своей безопасности важно не это. Нам важно, как влияет на нас (и на наших бактерий) концентрации этих веществ.

В работе есть ответ на этот интересный вопрос: никак.

Казалось бы, пейте на здоровье.

Но нет же. Авторы в выводах пишут что-то странное:

we demonstrated the toxicity effect on E. coli in vitro. With this consideration, we may speculate that the response observed in our study may be relevant to gut microbiome and thus may influence human health.

мы продемонстрировали токсичность подсластителей на кишечных палочек инвитро, и можем предположить, что наблюдавшийся эффект может иметь отношение к кишечному микробиому и может оказывать влияние на здоровье человека

А дальше получаются заголовки, которые вы уже все видели. Извините. Другой журналистики, популяризации, науки, человечества и планеты у меня для вас нет.

Оригинал и комментарии

Батин со своими биохакерами решил вывести пищевые добавки на чистую воду и перепостил интересную статью от Комаровского. Автор статьи Ржешевский Алексей.

Поскольку я был упомянут в теле поста, мне ничего не остается, как откомментировать эту статью. И показать, что в ней не так.

Если коротко, то все не так.

Статья является типичным примером творчества популяризатора, который писать уже научился, а читать пока не успел. Дальше буду цитировать по тексту.

Первая и единственная оценка риска применения диоксида титана в качестве пищевой добавки была проведена Объединенным комитетом экспертов ФАО/ВОЗ по пищевым добавкам (JECFA) еще в 1969 году. Вот его заключение: «Диоксид титана является крайне нерастворимым соединением. Исследования нескольких видов, включая человека, не показывают значительного поглощения или накопления в тканях после приема диоксида титана. Установление приемлемого ежедневного потребления его для человека считается нецелесообразным».

Конечно, нет.

Оценка 1969 года может и первая, но точно не последняя. Оценки безопасности всех пищевых добавок вообще проходят постоянно и регулярно. Например, последняя переоценка всех статей была осуществлена в Европе в 2016 году, и данная пищевая добавка была признана безопасной при текущем уровне потребления.

Но как же вот это?

Автор заявляет, что вред диоксида титана доказан, и тому есть сотни научных подтверждений. Посмотрим, что же он приводит в поддержку своих слов.

Но несколько лет назад начали поступать первые тревожные сведения. Так, ещё в далёком 2002 году американские учёные на лабораторных животных описали негативное воздействие микрочастиц диоксида титана, вдыхание которых приводило к поражениям лёгких

Ссылка ведет на работу, в которой мышей заставляли дышать взвесью диоксида титана в воздухе в бешеных количествах (250 мг/кубометр). Вредный ли это эффект? Конечно вредный. Но для мышей и для вдыхания. Диоксид титана, дорогие мои друзья — это пищевая добавка, а не кальян. Мы его не вдыхаем, а едим. И еще мы не мыши.

В 2010 году международное агентство по исследованию рака (IARC) признало диоксид титана возможным канцерогеном, отнеся его к категории 2B: «Агент (смесь), возможно, канцерогенен для человека. Фактор, воздействия которого могут быть канцерогенными для человека»

Тут совсем все просто.

Тут даже не надо понимать, что IARC — это алармистская лавочка, не имеющая отношения ни к науке, ни к оценке рисков. Нужно помнить, что группа 2B — это “возможные канцерогены человека”. Это полная правда, так как если вдыхание диоксида титана вызывает рак у мышей, то возможно оно же будет вызывать рак и у человека. Потому что все на свете вызывает рак, нужно только создать подходящие условия. И монографии IARC это подтверждают.

Так, опыты с лабораторными животными показали, что диоксид титана не «проскакивает транзитом» сквозь желудочно-кишечный тракт, как считалось ранее, а накапливается в виде микрочастиц в печени, селезенке, почках и легочной ткани.

Снова идет ссылка на работу на мышах в которой их кормили (внимание!!!) диоксидом титана в количестве 5 г/кг живого веса. Это примерно 350 г на одного среднего тебя, %юзернейм%. Ежедневно. Для сравнения: реальное содержание диоксида титана в еде может составлять порядка 1 г/1 кг еды (при его наличии в этой еде — а он есть не в каждой еде). Может быть и до 10 г, например в белом мармеладе, но это совсем большая редкость. В любом случае, вы столько не сожрете. Спустя 2 недели жизни мыши не подавали никаких признаков отравлений или проблем со здоровьем, что подтверждает категорически низкую токсичность диоксида титана. Однако при вскрытии некоторое количество микрочастиц диоксида титана было обнаружено во внутренних органах мышей. Что, в общем-то, совсем неудивительно.

Является ли это доказательством того, что наночастицы диоксида титана могут попадать из еды во внутренние органы? Да, очевидно является. Могут попадать. А могут не попадать.

Является ли это доказательством вреда?

Судя по нормальному здоровью крыс, это является доказательством безвредности диоксида титана при даже при нормах, на порядки больших, чем существующее потребление.

…важные данные были получены после исследования легких, печени и селезёнки наркоманов, которые около 10 лет принимали таблетки, содержавшие в качестве неактивного ингредиента диоксид титана (0,9% от массы таблетки). В этих органах у наркоманов были обнаружены жесткие узелки диаметром около 0,5 см, которые состояли из диоксида титана и силиката магния.

ШОК!!! Диоксид титана вызывает наркоманию.

Ссылка ведет в работу про вскрытие 5 мертвых наркоманов. Наркоманы, конечно же, люди, а не мыши, что хорошо. Но они не просто (как уверяет автор статьи) употребляли таблетки с диоксидом титана. А кололи их себе в вену. После смерти у них в органах были обнаружены частицы диоксида титана во многих внутренних органах.

Что не очень удивительно: штука эта химически инертная, из крови никуда деться не может. Вот и оседает в органах. Но какое отношение этот факт имеет к диоксиду титана, как компоненту еды? Если вы не биохакер — то вы не знаете ответ.

Никакого не имеет отношения. Напоминает работы, где новорожденным мышам кололи тонны глутамата, а потом нам запрещали его ртом есть.

Влиял ли именно диоксид титана на здоровье людей, коловших себе таблетки в вену, и явился ли именно он причиной их гибели — в данном исследовании не установлено.

В 2009 году американские учёные из Калифорнийского университета в своём исследовании показали, что наночастицы диоксида титана при попадании внутрь организма вызывают повреждения ДНК и генетическую нестабильность

Работа ведет сюда и это опять не люди. Это даже не крысы. Это астроциты крыс. То есть авторы реально посыпали астроциты диоксидом титана, наблюдали от этого какие-то эффекты, а после этого самоотверженные биохакеры написали: “наночастицы диоксида титана при попадании внутрь организма вызывают повреждения ДНК и генетическую нестабильность”.

Вызывают, но для этого опять нужны охрененные условия. Нужно вскрыть череп кому-нибудь, чтобы насыпать прямо внутрь диоксида титана. И глутамата тоже можно насыпать, чтобы эксайтотоксичность вызвал. Только глутамат надо в синапсы сразу шприцом закапывать, а диоксидом — астроциты сверху удобрять.

В 2015 году ещё одна группа американских учёных продемонстрировала, что наночастицы диоксида титана способны нарушать работу головного мозга и вызывать неврологические расстройства. Учёные описали, как частицы диоксида титана повреждали митохондрии в клетках головного мозга. Что приводило, во-первых, к ухудшению обеспечения головного мозга энергией (митохондрии производят энергию для организма). А во-вторых, к повышению уровня активных форм кислорода, которые могут повреждать клеточные структуры. Кроме того, было зафиксировано нарушение поглощения астроцитами глутамата, высокие уровни которого губительны для нейронов мозга

Ссылка опять ведет на работу на мышах. Это единственная более-менее неплохая работа из всех приведенных в качестве доказательств, но и она имеет сильные ограничения.

Во-первых, потому что это мыши, специальные лабораторные мыши, которые всегда очень плохо отзываются на любые нарушения питания и результаты на них всегда показывают вред.

Во-вторых, потому что их поили специально приготовленной мелкодисперсной суспензией диоксида титана в количествах 0,5г/кг веса (в пересчете на диоксид, что примерно соответствует 35 кг окрашенной диоксидом титана еды в пересчете на человека в день).

В третьих, количество упоминаний p < 0.01 в экспериментах на 5 мышах внутри одной работы все-таки навевает на меня тоску и подозрения, что с данными поиграли.

Интересно, все остальные статьи, такие же? Подозреваю, что еще хуже, ибо (цитата):

Из-за ограниченности объёма статьи, мы здесь приводим лишь некоторые, самые значимые работы по изучению влияния диоксида титана на живой организм, хотя таких работ было гораздо больше.

Вишенка на торте.

Вся статья и все эти доказательства приводились, чтобы аккуратно подвести читателя к главному: диоксид титана виновен в эпидемии диабета.

Адам Хеллер и его коллеги исследовали 11 фрагментов тканей поджелудочной железы, 8 из которых были взяты у больных диабетом 2 типа и 3 образца — у здоровых людей. Проведённый анализ показал, что в клетках поджелудочной железы диабетиков присутствуют хорошо различимые кристаллы диоксида титана. … У здоровых людей ничего подобного в тканях поджелудочной железы обнаружено не было…. Учёные однозначно связывают своё открытие с развитием современной эпидемии диабета 2 типа, которую мы наблюдаем в последние десятилетия во всем мире.

Автор снова ссылает нас на научную работу. В которой путем вскрытия бывших 8 диабетиков и 3 недиабетиков было установлено, что у диабетиков в поджелудочной есть кристаллы диоксида титана. А у недиабетиков — нет.

Допустим, все сделано верно и мы наткнулись на причинно-следственную связь, а не просто совпадение. Тогда у нас есть 2 возможных объяснения.

1. Диоксид титана вызывает диабет.
2. Диабет вызывает диоксид титана.

Первая версия, которую озвучил автор статьи могла бы быть правдой. Если бы нам, например, уже не были неизвестны причины диабета второго типа. А нам известны. Ожирение например (которое тоже вызывает диоксид титана?)

Вторая версия косвенно подтверждается тем наблюдением, что в поджелудочной недиабетиков диоксид титана не обнаружен. То есть нарушение метаболизма у больного диабетом каким-то образом приводит…к нарушению метаболизма и проходу наночастиц диоксида титана во внутренние органы.

Но это при условии, что работа (это всего ли пилотное исследование, которое почти всегда ошибочно) выполнена верно.

Выводы.

Из сотен исследований, подтверждающих вред диоксида титана, автор статьи привел 6, наболее важных и убедительных.

Из них 4 совсем нерелевантны к происходящему, поскольку никак не описывают вред диоксида титана как компонента пищи.

Одна потенциально интересна, но является исследованием на мышах с подозрительной статистикой.

Еще одна тоже потенциально интересна. Но является пилотным маломощным исследованием на людях, выявившим ассоциацию между наличием частиц диоксида титана во внутренних органах мертвого человека и наличием у этого человека диабета при жизни, в которой нет и не может быть никакого заключения о причинах и следствиях.

Ни одного подтвержденного вредного влияния диоксида титана как пищевой добавки на здоровье человека не выявлено, что подтверждается выводами EFSA.

На примере данной популярной статьи Ржешевского Алексея про вред пищевого красителя диоксида титана мы очередной раз видим, как путем несложного подбора ссылок из пубмеда можно доказать совершенно любую идею. И эту идею мало кто будет проверять, потому что ссылки то есть. К сожалению, недоучки в своем активизме намного опаснее любого полного неуча. А любая достаточно продвинутая популяризация неотличима от мракобесия.

Хочется, чтобы впредь авторы подобных записок больше думали, а ресурсы, которых их публикуют — предварительно их проверяли. Но мы то знаем, что так это не работает и не будет работать.

Оригинал и комментарии

Этот эффект отсылает нас к знаменитому рассказу Уильяма Джекобса «Обезьянья лапа».

Некий владелец высушенной обезьяньей лапы получает магическое право на исполнение ею трех его желаний. Его первое желание (для проверки — работает ли) — хочу 200 фунтов стерлингов. Стук в дверь. Там служащий завода, где работает сын. Он сообщает, что сын погиб — его раздавило заводским молотом, и отцу причитается страховка за сына — 200 фунтов стерлингов. Потрясенный отец бросается к обезьяньей лапе и кричит: «Хочу, чтобы мой сын ожил!». Снова стук в дверь. Там стоит призрак расплющенного молотом сына. В ужасе несчастный владелец лапы молит, чтоб призрак исчез…
Три желания выполнены точно в соответствии сформулированным требованиям.

Со времен рассказа, подобного рода последствия получили название «эффект обезьяньей лапы». Его суть в следующем.

Наряду с желаемым положительным результатом, желания и действия, направленные на их осуществление, неотвратимо влекут за собой сопутствующие последствия, ущерб от которых:

- может быть непредсказуем;

- может превосходить положительный результат и обесценивать его.

Вот реальный пример «обезьяньей лапы» ИИ.

Всех поражает и все восторгаются, что ИИ не просто обыгрывает чемпионов (шахматы, го, компьютерные игры …), но делает это с применением нечеловеческих стратегий, просто не приходящих людям в голову.

Вот к чему это может вести.

Исследователи натренировали ИИ играть в компьютерную игру CoastRunners — нужно выиграть гонку на катерах, получая очки за сбитые препятствия. Обученный играть ИИ на 20% превзошел лучший из результатов, достигнутых в этой игре людьми. Однако!

ИИ в ходе обучения ухитрился найти лазейку — немыслимую для людей стратегию, основанную на недоработке алгоритма игры (как известно, нетривиальных программ без ошибок не бывает). Найденная ИИ стратегия заставляет катер просто плавать по кругу, сшибая одни и те же 3 препятствия. Результат — сногсшибательно высокое число набираемых очков и выигрыш.

Вы спросите, а как же задача опередить всех и добраться до финиша? А никак. Оказалось, из-за недоработки в алгоритме, можно без этого обойтись и выиграть чисто на набранных очках.

Но кто знал то про такой способ выигрыша?

Люди — не знали. А «обезьянья лапа» ИИ прознала про это в момент.

Предоставляю вам самостоятельно перенести этот кейс на любое из возможных промышленных применений ИИ, где ему ставится цель оптимизации чего-либо (потраченных денег или топлива) или достижения конечного результата (например, действия лекарства)…

Наши пожелания ИИ, несомненно, выполнит.

Но кто может предсказать последствия «эффекта обезьяньей лапы» ИИ?

И как вообще учитывать весь спектр последствий при проектировании ИИ систем?

Об этом (для продвинутых в вопросе) новое эссе от DeepMind Safety Research.

Его суть:

– как просто создаются чрезвычайно опасные ИИ приложения, последствия применения которых не прогнозируемы;

– как трудно и важно этого избежать;

– что конкретно с этим делать.

_________________________

Хотите читать подобные публикации? Подписывайтесь на мой канал в Телеграме, Medium, Яндекс-Дзене

Считаете, что это стоит прочесть и другим? Дайте им об этом знать, кликнув на иконку “понравилось”

Оригинал и комментарии

***
Этот пост скопирован из группы в фейсбуке потому что история занятная и нужная
***

Вот такой характерный случай произошел относительно недавно в буржуазной литературе, обрисовывающий процесс трансформации знания и сопутствующих ошибок от ученого к научному журналу и дальше в общество.

Действующие лица:
- Научный журнал (в данном случае Ланцет, то есть круче не бывает)
- Автор статьи в научном журнале
- Критики статьи в научном журнале
- Популяризатор
- Ненаучный журнал, транслирующий новости и науку в общество (в данном случае Wall Street Journal), в который написал популяризатор

В 2006 году автор написал статью в научный журнал. Критики нашли в статье массу ошибок, аргументированно изложили их и послали в научный журнал. Научный журнал устроил смешную переписку с автором, опубликовал его ответ на критику (частично признанную) но статью корректировать и отзывать никто не стал. То есть сложилась достаточно типичная история: статья состоит из буллшита, но он научная.

В 2018 году ненаучный журнал писал популяризацию и сослался в ней на статью в научном журнале, как того требуют правила популяризации. К сожалению популяризатор не смог погрузиться в тему настолько глубоко, чтобы поискать критику (действительно, не должен же он все опровержения читать). На этом бы история и закончилась так, как обычно она всегда и заканчивается, ибо “ссылка есть и ладно” (с), если бы не одно но.

Один из критиков написал в ненаучный журнал, популяризатор оперативно отреагировал и исправил текст соответственным образом. За что их мы все можем только похвалить.

В научном журнале статья по прежнему висит и снабжает других популяризаторов непременным источником ссылок. комментировать ситуацию научный журнал отказался.

Морали нет. Она умерла.

Оригинал и комментарии

Интернет-тролли — это самореализация бытовых садистов

Это фантастически интересный, предельно простой для понимания и при этом крайне важный для сохранения психического здоровья в наступившей Интернет-эпохе вывод нового сдвоенного исследования 2х университетов.

Авторы представили убедительные доказательства того, что в основе интернет-троллинга рационализация людей с выраженным бытовым садизмом, получивших в руки инструментарий для безнаказанного причинения боли.

N.B. Рационализация — это поиск и подбор человеком рационального объяснения для своего поведения или решений, имеющих иные, неосознаваемые им причины.

Психологические модели увязки рационализации с получаемым актором вознаграждением (удовольствием от причинения боли другим) оказались для бытового садиста и интернет-тролля одинаковыми. И это убедительно подтверждается анализом данных репрезентативной выборки.

Схемы психологических моделей предельно просты.

Получаемое бытовым садистом удовольствие растет с повышением уровня причиняемой боли, но не повышая при этом, а даже понижая уровень ощущения моральной виновности за причиняемую боль.

Абсолютно идентичная схема у интернет-тролля — кайф растет, подпитываемый причиняемой болью троллимого человека, а чувство моральной виновности за причиняемую боль не растет, а наоборот, — растворяется.

Почему это важно

1. Интернет-троллинг становится самым распространенным способом психологического воздействия в сети.
2. Мы все в сети все больше и больше. Ситуация такая, как если ездить в метро, в котором неуклонно и быстро растет число пассажиров, распространяющих все новые и новые заразные заболевания.
3. В этих условиях сохранение психологического, психического, да и в целом, фактического здоровья зависит от применяемых средств защиты от заражения.

Если вы понимаете:

• что троллинг — это совсем не прикольно, а опасно для вас,
• что троллящий вас — вовсе не заблуждающийся и даже не дурак, а просто садист, питающийся вашей болью, -

вы обязаны заставить себя не испытывать боль:

– либо перестроив свою психологию (что долго и трудно, но возможно),

– либо сделав так, чтобы не видеть и не слышать этого тролля (тут же забаньте его, а если нельзя, — линяйте срочно с этой площадки).

Текст исследования (скайхаб вам в помощь)

_________________________

Хотите читать подобные публикации? Подписывайтесь на мой канал в Телеграме, Medium, Яндекс-Дзене

Считаете, что это стоит прочесть и другим? Дайте им об этом знать, кликнув на иконку “понравилось”

Оригинал и комментарии

Фундаментальная проблема пенсионного обеспечения в том, что наши деньги лежат на счетах организации, экономически заинтересованной в нашей смерти. Чем меньше человек проживет, тем лучше для пенсионного фонда. Интереса к повышению пенсии у него тоже нет, зато есть интерес к сбору отчислений.

Пенсионные фонды, конечно, не осуществляют политику истребления пенсионеров. Но, забрав деньги, фондам достаточно ничего не делать, просто дожидаться похорон вкладчика.

Также глупо устроено и страхование жизни: никакого страхования нет в том смысле, что жизнь никто не возвращает, а многолетние платежи уходят родственникам. Выплата денег после смерти бессмысленна для самого человека.

И даже имея дело с медицинским страхованием, мы видим, как оплачивают наши счета, но, пардон, без души, лишнюю копейку на улучшения нашего здоровья не потратят. Деньги получены заранее, и теперь задача страховой — снизить убыточность.

Все органы социальной помощи настроены на работу с достаточно беспомощными, доживающими свою жизнь, да и по большому счету, ничего не значащими людьми. У чиновников в принципе нет оценки собственной деятельности. К примеру, а не навредил ли праздник мёда людям в преддиабетном состоянии?

Никто экономически не заинтересован ни в нашем счастье, ни в здоровья, ни в существовании.

Во многом проблема возникает из-за вносов платежей в различные фонды заранее. Попробуйте заплатить рабочим всю сумму за ремонт квартиры вперёд и посмотрите, как быстро и качественно они всё сделают. Для чистоты эксперимента добавьте, что, если сами умрете во время ремонта, квартиру завещаете строительной бригаде.

Есть ли логический выход из этой ситуации? Давайте разберемся. В чем суть пенсии?

Это пособие по немощности. Человек уже физически не может работать. Он устал, ему плохо, он не конкурентноспособен. Большинство людей подавлены, в депрессии и не способны самостоятельно улучшить свою жизнь. Всё это произошло по биологическим причинам. По причине того, что человек состарился.

Именно старение, как несовершенство нашего организма, приводит к столь плачевной ситуации. Если бы мы могли замедлить старение, это решило бы все проблемы.

Представляется разумным выдавать пенсию за биологический возраст, а не хронологический. Кроме того, подталкивать человека к отказу от пенсии в пользу сохранения молодости. Зачастую, если человек социально успешен, более-менее обеспечен, то мизерная государственная пенсия ему и не нужна. Выбор в пользу дееспособности более рационален — лучше быть здоровым, богатым и молодым.

То есть мы должны стимулировать человека к заботе о здоровье и создать агента, получающего выгоду от того, что человек дольше и счастливее живет.

Перед тем, как осуществить такой проект, мы должны разобраться, а что собственно представляет из себя биологический возраст. За сохранение каких показателей здоровья мы должны выплачивать премию?

Это показатели, ассоциированные с ожидаемой продолжительностью жизни. На сегодняшний день известно порядка 40 физиологических и биохимических показателей, достоверно связанных со старением и возникновением возрастных заболеваний. Это Индекс дряхлости (Frailty Index), Сингапурская диагностическая панель старения, Британская панель биомаркеров здорового старения, Open Longevity 1.4., SENS-диагностика. Также в список стоит включить диагностику ментальных расстройств, в частности, снижения интеллекта, ухудшения памяти и депрессии.

Кстати, что есть организации, которые уже сейчас умеют улучшать маркеры здоровья. Это фитнес-клубы. Единственное, у них достаточно мало связи с профилактической медициной, как раз во многом из-за отсутствия качественного мониторинга медицинских данных.

На сколько реален переход с хронологической пенсии на биологическую?

Старение инвалидизирует человека, и пенсии по инвалидности существуют. Мы просто должны определиться с порогом ухудшения физических и когнитивных функций, после которого выплачивается денежное пособие.

Даже само по себе внедрение диагностики старения в клиническую практику увеличило бы продолжительность жизни многих людей — за счет понимания, какая конкретно профилактика заболеваний нужна данному человеку.

Именно диагностика старения может обеспечить переход к точной медицине, основанной на обработке больших данных о здоровье человека. Масштабно эту задачу могут решить гаджеты мониторинга здоровья нового поколения.

Такой подход к делу может показаться утопичным, так как мы не видим заинтересованности государственных служащих в сохранении здоровья граждан. Не представляется вероятным, что в какой-то момент произойдет переосмысление, и государство повернется лицом к людям.

Но научно-технический прогресс не остановился, и гражданское общество в России не уничтожено полностью. Именно с сотрудничеством людей с целью сохранения здоровья, с развитием пациентских организаций, с победой трансгуманизма мы связываем надежды на преобразования как медицины, так и всей социальной сферы.

Напомню, что трансгуманизм — это идея расширения возможностей человека за счет достижений науки и техники, а также абсолютизация ценности человеческой жизни.

Сегодня ситуация такова, что нет смысла обращаться к правительству с проектами по улучшению жизни людей — с таким же успехом можно писать письма с просьбами прекратить коррупцию.

Представляется разумным направлять свои силы на создание новой социальной структуры — формы объединения людей— заинтересованной в сохранении здоровья.

Основной целью таких объединений должно стать проведение клинических исследований терапий старения. Только такие организации способны изменить социальную политику и политику в целом.

Как не дожить до пенсии was originally published in Open Longevity RUS on Medium, where people are continuing the conversation by highlighting and responding to this story.

Оригинал и комментарии

Однажды я прошел обучение на Masterclass.com у Стива Мартина. Когда запустил первый учебный ролик, то был ошарашен впечатлением, которое он на меня произвел. Это было абсолютно новое впечатление в моей жизни — знаменитый актер обращался с экрана ко мне. Он словно позвонил мне по скайпу, чтобы поделиться мудростью. Он выступал в роли учителя, а не персонажа. Он был собой и передавал знания. Это совсем не то же самое, что смотреть кино или интервью со знаменитостью, где мы наблюдаем их жизнь со стороны. Это совсем другой Audience Experience.

Я расскажу вам об этом интересном понятии, которое можно применять в самых разных областях, в том числе в разработке продукта. Мне хотелось рассказать о нем лет пять назад, но я все откладывал.

Забавно, что я не встречал ни одного человека, который бы про это понятие слышал. Есть шанс, что я первый популяризатор данной темы ;-) хе-хе

Как я откопал “Audience Experience”

Когда в 2012 году в Яндексе мне пришлось заняться дизайном презентаций на постоянной основе, многие стороны этой деятельности приходилось интенсивно изучать, а некоторые даже изобретать в силу интенсивного развития технологий.

Дизайн визуального сопровождения презентаций – это отдельная дисциплина, которая достойно освоена очень узким кругом людей. Я начал сталкиваться с вопросами, которые порой даже не существовали с точки зрения более популярных дизайнерских дисциплин. Одним из подобных открытий стало понятие Audience Experience.

Я искал данное понятие намеренно, так как понимал – должно быть что-то, что заменяет User Experience в нашей презентационной области. У нас вместо юзера – зрители.

Во-первых, меня волновало восприятие аудиторией нарисованных на слайдах элементов: иллюстраций, инфографики, схем или даже шуток. С интерфейсом человек может взаимодействовать, потратить время и разобраться, если есть мотивация. На инфографику в книге можно смотреть столько времени, на сколько хватит терпения. Но что может сделать зритель в зале во время презентации? Он либо понял либо нет. Мне нужно было научиться давать ответы на вопросы, которые не поддавались простому измерению, ибо аплодисменты не всегда показатель, а опросы чаще бестолковы.

Во-вторых, мы много экспериментировали. Делали очень смелые решения для знаковых международных выступлений руководства. Каждый раз рисковали. И каждый раз действовали почти вслепую, доверяя интуиции и своему вкусу. Да нет! Даже вкус порой уже не работал, так как вкус – это опыт. Мы часто выходили за пределы опыта, где не было никакой опоры. Взгляните, к примеру, на эти слайды, с которыми первое лицо Яндекса вышло на мегакрутую конфу. Я рисовал это утирая пот от ужаса. Но был восторг.

Постепенно нарастало ощущение, что в моей работе не хватает дисциплины, которая изучала бы данную сторону дизайна.

Интуитивно мне было ясно, что данная дисциплина находится в понятии близком к User Experience. И я начал поиск со Spectator Experience. Кое что попалось, но невнятное. Тогда я нагуглил Audience Experience. И вуаля! Сразу же попалась книга, которую я незамедлительно купил на Амазоне.

The Audience Experience: A Critical Analysis of Audiences in the Performing Arts

Что такое Audience Experience

Вы пришли в оперу. Театр начинается с давки в гардеробе. Все с мороза, шубы и куртки виснут на крючках, открывая нашему взору лучшее, что нашлось в гардеробах почтеннейшей публики. Очередь в туалет. Очередь в буфет. Проходите на свое место в партере: помните, что важно извиняться и не поворачиваться жопой к тем, по чьим ногам идёте.

Короче, занавес! Понеслось действие. Вы уже видули эту оперу, поэтому ожидали шутку, но все засмеялись и вы засмеялись за компанию. Смех социален. Вы знаете куда надо смотреть на большой сцене, где много персонажей. Они все не случайны, но есть ключевые. И есть действия, которые имеют значения. Вы их видите, потому что пришли на эту оперу уже в третий раз.

А рядом сидит студент, который видит это впервые. Он пропускает половину знаков и действий, так как сосредоточен на гульфике одного из персонажей. Студент не в курсе, что раньше так одевались и это исторически точный костюм, он думает, что режиссер извращенец и это такая современная трактовка. Он пишет об этом вконтакте и громковато обсуждает это со своей девушкой. Вы шикаете на него.

Антракт. WC. Буфет.

Спустя месяц вы смотрте постановку одного из классических оперных произведений на домашнем кинотеатре. Вы большой ценитель хорошего звука, так что сосед знает не понаслышке, что такое Surround Sound.

Всё, что происходит, вы видите глазами оператора-постановщика. Вы не управляете тем, куда смотреть на сцене. Шикарная, чуть изогнутая по последней моде яркая панель отображает лица актеров крупным планом. Вы морщитесь от нелепого оперного грима, предназначение которого – зритель на балконе третьего этажа. Вы не в первый раз смотрите оперу в условиях домашнего кинотеатра, в целом, вам нравится то, что слева и справа никто не мешает, что вы пьете вино откинувшись на мягком диване. Но грим! Мать его! Фу! Зато оператор крупно показал малозаметный ход актера второго плана, который вы не замечали ранее. Ах, шельмец! Вот так «пасхалка»!

Согласно исследованиям, любители оперы довольно четко делятся на тех, кто смотрит дома и на тех, кому принципиально присутствие в театре.

Audience Experience — это про то, «что аудитория думает, чувствует и делает в следствии их взаимодействия с продуктом искусства». Это про восприятия и чувства: в предвкушении, в процессе и послевкусие. И про следующий за всем этим выбор: «Я смотрю оперу только в театре».

В отличии от User Experience, Audience Experience больше про чувства, чем про задачи, больше про искусство, чем про бизнес-задачи. Но и про бизнес тоже. Потому что без изучения аудитории в этой плоскости ни Голливуд ни бродвейские мюзиклы не дожили бы до наших дней.

Сравните ремейки с классикой – небо и земля. Кто вырос на первых версиях фильмов, часто плюётся на ремейках, но фильмы окупаются, собирают хорошие отзывы. Есть специальные люди, которые сведущи в подобных вопросах. В конечном смысле, они умеют монетизировать чувственные параметры, изучаемые Audience Experience.

Как исследуют Audience Experience

Audience Experience – это прикладная аналитическая дисциплина. Она позволяет собирать данные по спектрам ощущений и впечатлений, которые продукт искусства вызывает у человека, который с ним соприкоснулся.

Например, вы создаете музей. Вот, на какие шкалы можно разложить ваше исследование:

По Raajpoot, Koh & Jackson:

• Pleasure
• Relaxation
• Learning
• Entertainment
• Social recognition
• Self-actualization
• Solitude
• Courtesy
• Spatial design
• Aesthetics

В книге Audience Experience приводятся другие варианты по NEF и по Brown & Novak. Но для простоты остановимя на этом. Что мы видим:

• Музей должен доставлять удовольствие.
• Очевидно, что релакснуть тоже неплохо. Помню, как регулярно ходил в Пушкинский и другие музеи в период сильного стресса, что реально помогало. Но, наверное, не все музеи хотят расслабить публику, кто-то хочет наоборот влить адреналин.
• Конечно, музеи чему-то учат.
• Развлекают.
• Дизайнер поймет свое место в жизни приехав в музей Баухауса в Берлине, а студент-архитектор лучше поймет себя в музее архитектуры.
• И т.п.

Далее, вы формируете опросники, которые позволяют провести оценку по этим показателям. Будь у вас музей, вы быстро получите параметры, по которым вы что-то продолбали, а где-то вполне норм. И вам будет понятно, что можно поправить.

Конечно, кроме исследовательского подхода к своему объекту искусства, можно изучать свою индустрию и видеть тренды. В области презентаций я увидел сильное влияние нашего президента на подход к докладам (кроме шуток!). Также выделил такое понятие, как Story Telling Tools, чья эволюция накладывает сильный отпечаток на принципы восприятия. Именно это привело меня к тому, что я теперь не выступаю со слайдами почти никогда. Подключаю iPad к проектору и рисую живьем в клевых программах, а также использую массу прикольных тулзов для вау-эффекта.

Как это может быть полезно в разработке продуктов

Приведу пример.

У меня есть давняя любовь к перьевым ручкам. К средне-дорогим. Еще в студенческие годы я купил себе Parker – очень лёгкий с тонким пером. Я писал им около 10 лет, пока тот не покрылся трещинами на столько, что начал протекать. Потом я купил Caran’d’Ache Ecridor Eclat покрытый серебром и родием. И писал им лет 5, пока он тоже не начал течь после очередного падения. Тогда я решил купить себе что-то совершенно новое и необычное, но такое же классное. Увидев рекламу пятого поколения ручек Parker я принял решение – то, что надо!

В отличие от перьевых ручек, пятое поколение ручек Parker выполнено, как ручки со сменными стержнями. Причем стержни не гелевые шариковые, а капиллярные, как графические фломастеры. По-просту говоря, эти ручки – красивая упаковка для стержней. По рекламе и картинкам я не мог составить представления об ощущениях, которые возникнут при пользовании ручкой. А «Жизнь дана нам в ощущениях», как говорил Эпикур. Цветом и толщиной стержни сильно отличаются. В одну ручку можно купить несколько разных и менять пять раз в день, если не лень. Внешность у ручки одна и та же – содержание разное — ощущения от письма меняются день ото дня, особенно с учетом того, что мягкий наконечник стержней стачивается.

Через некоторое время у меня сложилось понимание, что в моих руках фейк, подделка. Оболочка стоит от 16000 рублей на сегодня. Но лучшие фломастеры такого рода по цене не превышают 250 рублей, хотя имеют запас чернил в 3 раза больше, чем в стержне. Ты пишешь предметом, цена которому 100–150 рублей, просто засунув его в дорогой футляр. Это не тот же стабильный, точный и цельный предмет, которым я обладал до этого.

Я подарил этот супер-пупер-модный Parker, а сам вновь вернулся к перьевым ручкам. На этот раз купил суровую в металлическом неубиваемоми корпусе ручку от Faber-Castell и остался очень доволен.

Так вот, что получается. Все ручки были разные, по цене, весу, толщине пера и габаритам. Но первая, вторая и четвертая дали мне подобные ощущения. В то время, как ручка-фломастер от Parker, несмотря на то, что она нормально пишет, не прижилась.

Таким образом, Audience Experience, если упортребить это понятие к продуктам потребления, является слепком ощущений от взаимодействия.

Будет не лень, почитайте эту статью. В ней много неизмеримых эмоциональных свойств. Но за ними может стоять целая история, которая позволяет, как создавать продукт, так и продавать его.

It Leaks, It’s Analog, and I Love It

Итогируя и суммарируя

Audience Experience — классное понятие, позволяющее систематизировать наши нечеткие представления, наш чувственный опыт и ощущения так, что всё: начиная с презентаций, галерей и выставок, заканчивая мюзиклами, спектаклями на льду, играми и кино, обретает измеримые формы.

К примеру, когда поднимается вопрос про длительность видеоролика для видеоблога, обязательно кто-нибудь с умным видом заявит, что надо делать короткое видео. Но аргументация таких заявлений может быть подвергнута сомнению исследованием Audience Experience. Так же, как просмотр оперы дома по ТВ и в театре привлекают разную аудиторию, создавая разные ощущения, также разная длина видеопродукции собирает своих приверженных поклонников.

Кроме того, в продуктовом плане полезность от взгляда с другого ракурса, плюс подход к измеримости неизмеряемого.

С ошибками и улыбкой, Кир Анастасин.

Сорри за сумбур. Красиво еще год писать буду.

20. 10. 2018

Оригинал и комментарии

Простые навыки интеллектуальной эффективности в VUCA-мире

Disclaimer. Я занимаюсь «сетевыми баталиями» на горячие общественные темы как минимум с 2004 года. Больше всего меня задевали темы научного атеизма и скептицизма, клерикализации РФ, нашего политического устройства, системного угнетения женщин, и ряд других. Я вижу, что за прошедшие 15 лет популярные способы коммуникации резко изменились. Я называю эти изменения «выкручиванием люфта» (вслед за Виктором Пелевиным), и далее в статье я объясняю, что это значит.

Преследуя задачу популяризации и развитии идеи об эволюции идей в русскоязычном умопространстве (см. текст моего выступления на TEDx), я открыто публикую принципы люфт-мышления с целью развития у читатель_ниц навыков эффективного мышления в современном мире.

Одна из главных задач такого развития — личностное, персональное противодействие манипуляциям, то есть тем действиям и коммуникативным сообщениям собеседника, реальные мотивы которых скрыты в процессе коммуникации. Независимо от того, совершаются эти манипуляции для причинения пользы или вреда.

Механизмы манипуляций описываются ниже исключительно с целью понимания того, как вами могут управлять, и для самостоятельного обучения читатель_ниц эффективным способам противодействия.

Предмет статьи

В трёх главах далее я опишу три инструмента мышления, которые мы непрерывно применяем просто в ходе человеческой жизни деятельности. Для каждого из этих инструментов мы разберёмся:

1. почему его существование и действие нам жизненно необходимы и без них мы не можем;
2. к каким проблемам приводит его неосознанное применение, и как нами с его помощью манипулируют другие;
3. что делать, чтобы снизить риски вреда от использования этого инструмента в сегодняшнем мире.

«Всё есть яд, и ничто не лишено ядовитости; одна лишь доза делает яд незаметным»

Парацельс

Чтобы исследовать эти инструменты, примем следующие пресуппозиции. Каждая из них — предмет рассмотрения многих томов и авторов, а их обоснование лежит за пределами этой статьи.

1. Мир, в котором мы функционируем, не имеет объектов и границ «в себе». Любой участок мира («территории») содержит невообразимое количество потенциально доступной к восприятию информации, из которого мы активно выбираем очень узкий набор того, что будем воспринимать.
2. Мы активно пребываем в «территории», но планирование и память обусловлены «картой» — собственными ментальными моделями мира, себя и других людей. То есть, мы планируем поступки с помощью «карты», действуем на «территории», и по результатам действий можем снова скорректировать «карту».
3. То, что именно мы выбираем воспринимать, и то, как именно мы воспринимаем и запоминаем, обусловлено, как минимум:

• нашими физическими характеристиками, телесностью;
• нашей личной историей, жизненным опытом;
• языком, которым мы пользуемся;
• обществом, в котором мы выросли и живём;
• медиа, которые опосредуют нашу связь с большой частью «территории».

Модели служат ценную службу, но также и естественным образом ограничивают наши способности к устойчивому существованию и развитию. Главные проблемы моделей в непрерывно меняющемся мире:

• Модели прозрачны, если не прикладывать усилий, то их не видно
• Модели достаточно жёстки, фиксируются с возрастом
• Модели сложно заменять (но возможно!)
• Модели ограничивают набор потенциальных возможностей, доступных человеку для выбора

Управленческая метамодель гибких рамок

Рассмотрим три важных инструмента мышления, участвующих в процессе формирования и адаптации наших ментальных моделей (но не исчерпывающих весь инструментарий).

Борясь за сердца и умы, работники дискурса постоянно требуют от человека отвечать «да» или «нет». Все мышление человека должно, как электрический ток, протекать между этими двумя полюсами. Но в реальности возможных ответов всегда три — «да», «нет» и «пошел ты н…й». Когда это начинает понимать слишком много людей, это и означает, что в черепах появился люфт. В нашей культуре он достиг критических значений. Надобно сильно его уменьшить…

…Взнуздать людям мозги. Любым самым примитивным образом. Показать им какую-нибудь тряпку на швабре и потребовать определиться по ее поводу. Жестко и однозначно. И чтоб никто не вспомнил про третий вариант ответа.

Виктор Пелевин, «Empire V»

1. Концептуализация

Происхождение

Представим себе, что мы пока ничего не знаем о мире. Точнее, так было когда-то, когда мы находились в материнской утробе. Света ещё не было, поэтому мы могли воспринимать только звуки, сжатие матки и колебание уровней кислорода и гормонов в пуповинной крови. После рождения у большинства появился ещё зрительный канал, но смотреть мы тоже учились на протяжении месяцев — различать свет и тень, границы объектов, глубину, и так далее.

При этом мы непрерывно находимся в социальном взаимодействии с родными и другими людьми, от которых слышим слова, воспринимаем эмоциональные сигналы, и непрерывно ищем корреляции изменений нашего и их состояний.

В полном хаосе внешних сигналов мы начинаем прогнозировать закономерности. Некоторые прогнозы оказываются достаточно справедливыми, чтобы помогать нам физически выживать, и мы сохраняем эти закономерности на своей карте. Закономерность подразумевает, что мы обобщаем какие-то конкретные сигналы, замечая «сходства» между ними, но при этом отбрасывая «различия». Так возникает концептуализация.

Когда мы осваиваем речь, мы начинаем использовать слова и иные знаки для обозначения определённых предметов, явлений и т.п., причём слово (знак) используется в двух целях. Во-первых, мы получаем и передаём социальное подтверждение того, что некий объект действительно относится к группе объектов, которые можно именовать этим словом. Во-вторых, мы подкрепляем своё убеждение в том, что достаточно сильно отличающиеся объекты к этой группе объектов не относятся.

Вот это всё стулья, хотя с точки зрения конструкции это всё совершенно разные объекты.

А вот это — не стулья. И для нас это важно в определённом речевом или мыслительном акте.

Как мы видим, концептуализация — фундаментальный, повседневный и крайне нужный инструмент мышления.

Проблема

Ранее концептуализация соответствовала задачам физического выживания. Нам нужно было концептуализировать смену времён года и суток, растительный и животный мир, орудия труда, человеческие взаимоотношения и т.п.

Сегодня концептуализация предельно избыточна и произвольна. Некоторые концепции оказываются полезными для рефлексии и формирования более эффективной карты, а некоторые — наоборот, снижают эффективность.

Из-за некоторых когнитивных искажений (в частности, эффекта привязки, эффекта ореола, апелляции к авторитету и т.п.) первичная концептуализация — предъявление какой-то новой для нас концепции — форматирует всё последующее мышление в связанном с ней семантическом поле.

Памятка по когнитивным искажениям

Манипуляции, «выкручивание люфта»

Основная манипуляция — предъявление нового знака (слова, символа, прозвища группы людей, названия явления, и т.п.) властью, СМИ, другими собеседниками, без достаточного рефлексивного описания предметной области.

• «Национал-предатели»
• «Social justice warriors»
• «Сциентисты»
• «Чиновники-коррупционеры»
• «Ватники», «укропы», «либерасты» (здесь приведены только сами слова-знаки в качестве иллюстрации, без намерений к разжиганию розни)
• «Трансгендерный переход»

Стандартный, самый лобовой (и поэтому эффективный) метод «выкручивания люфта» — опережающее предъявление оппоненту новой категории / концепции с одновременной оценкой («хорошо — плохо», «правильно — неправильно»). К этому методу относятся индоктринация, катехизация, популяризация идеологических клише, и т.п.

Манипуляция (негативное воздействие на нас с вами, цель которого скрывается собеседником) заключается в том, что в некотором семантическом поле мы начинаем играть по правилам, установленным собеседником. Вся последующая коммуникация неосознанно для нас ведётся на условиях и в контексте, который мы не выбирали.

Люфт пустоты

В люфт-мышлении люфт пустоты это люфт первого порядка — между хаосом и возникновением упорядоченности.

Я визуализирую люфт пустоты как появление (материализацию) и растворение какого-то объекта в пустоте (либо общности в хаосе).

На практике можно расширять люфт пустоты с помощью следующих мысленных установок.

Я имею право не принять любую новую концепцию — ни немедленно, ни через некоторое время.

Я имею право отказаться от предложенного мне способа концептуализации реальности, даже если его используют все окружающие.

Я имею право сообщать о произвольности любых концепций всем, кому сочту нужным.

Концепции условны и пустотны.

К сожалению, если нам уже предъявили какую-то концепцию, мы не можем «не думать о белой обезьяне». Нам приходится исследовать и заново структурировать семантическое поле так, чтобы нас это устраивало. А потом соотносить предложенный знак с нашей собственной картой.

Поскольку люфт пустоты — наиболее фундаментальный, противодействие выкручиванию этого люфта — самое энергозатратное.

2. Категоризация

Происхождение

Одновременно с концептуализацией в голове каждого из нас с накоплением жизненного опыта происходит закрепление границ концепций.

Вот этот предмет — точно стул. А вот этот предмет стулом являться не может ни при каких обстоятельствах. Вот это — проявление любви, а вон то — проявление ненависти, и наоборот быть никогда и ни при каких обстоятельствах не может.

Какие-то из границ закрепляются жёстче, и соответствующие категории становятся полностью зафиксированными. Какие-то семантические границы остаются более податливыми, и мы в состоянии их изменять.

Классификация (категоризация) — очень полезный адаптивный инструмент. Она позволяет не думать над свойствами каждого конкретного объекта, а с минимальными мыслительными затратами применять устойчивые паттерны. «Это стул, на нём сидят. Это стол, за ним едят.»

Проблема

Как и концептуализация, классификация отбрасывает бесконечное количество внекатегорийных характеристик и сосредотачивает наше внимание и активное восприятие только на характеристиках, связанных с этой категорией.

Жёсткая категоризация развивается одновременно с усилением чёрно-белого, или дихотомического мышления, когда человек привыкает в полярным оценкам «всё или ничего», «чёрное или белое», «хорошее или плохое».

Другой пример жёсткой категоризации — убеждённость в существование чего бы то ни было «истинного» в любом смысле. Эта убеждённость предполагает, что в самой «территории», а не на «карте», существует конкретная граница, которая лишь отражается в карте. Такая убеждённость свойственна, например, верующим фанатикам и людям, склонным к научному догматизму.

Жёсткая категоризация приводит к резкому снижению эффективности карты, потому что на «территории» вообще нет чёрного и белого — там есть континуум, широчайший спектр всего.

Манипуляции, «выкручивание люфта»

Я вижу два основных типа манипуляций, взаимосвязанных друг с другом. Они могут возникать как сразу после предъявления новой концепции, так и с использованием пронафталиненных концепций и рамок, которые извлекаются из тысячелетних культурных мемохранилищ.

1. Насильная категоризация. «Вот концепция „патриот“. Определись: ты патриот?» «Ты за народное единство?» «Ты за целостность государства?» (Всем этим концепциям от пары тысяч до четырёхсот лет, и ни одна из них не описывает объекты реальности, они суть симулякры.)
   Ну и далее по списку: «Гомосексуальность это плохо или хорошо?» «Ты мужчина или женщина?» «Ты верующая или неверующая?» «Ты за прививки или против?»
2. Подмена или предъявление характеристик. «Все жители Афин — греки. Часть греков — рыжие. Значит, все жители Афин — рыжие.»
   Поразительно, насколько очевидна логическая ошибка в таком примере, и насколько часто она применяется в массовой культуре, особенно в отношении аут-групп.

Эти два способа выкручивания люфта нередко используются в формате двухходовочки, причём с предъявлением как категории, более-менее соответствующей реальности, так и полного симулякра.

• — Ты нормальный?
  — Да, конечно я нормальный.
  — Вот характеристики нормальности, соответствуй.
• — Ты женщина?
  — Да, я женщина.
  — Женщина должна быть вот такой, соответствуй.
• — Ты за справедливость?
  — Конечно.
  — Ага, значит ты SJW. Вот характеристики некоторых «радикальных SJW», значит ты тоже такой.

Аналогичным образом манипуляция (жёсткая категоризация + подмена характеристик) используется и для защиты:

• — Вот как работает парламент в некоторых европейских странах.
  — Зато там везде от мигрантов нет прохода!
• — Вот конкретные примеры гомосексуалов — обычных, совершенно разных людей.
  — Если разрешить им быть, то все станут гомосексуалами и человечество вымрет.
• — Вот конкретные примеры людей, которые делают прививки и не заболевают.
  — Повезло, на самом деле прививки всегда подрывают иммунитет.

Сегодня, прямо по цитатам из Пелевина, люди насильно выкручивают люфт друг у друга. Для этого почти не требуется участие масс-медиа и властной пропаганды — достаточно вкинуть сложную тему, и мы сами принуждаем друг друга определяться со стороной. Это тоже энергоэффективный паттерн, срабатывающий в условиях высокой когнитивной нагрузки.

Матф. 7:1 – 5, или Инструкция по осознанной эволюции

Люфт рамки

В люфт-мышлении люфт рамки это люфт второго порядка — между включённостью и невключённостью в конкретную область упорядоченности.

Я визуализирую люфт рамки как колебание границ какого-то объекта, или обмен частицами со внешней хаотической средой.

На практике можно расширять люфт рамки с помощью следующих мысленных установок.

Я имею право не относить явление (и себя) к какой-либо категории и отказываться от занятия жёсткой позиции в этом отношении.

Я имею право заявлять прямо противоречащие друг другу суждения в различных контекстах или с различными собеседниками.

Явление сложнее того ограниченного списка характеристик, которым его пытаются описать или ограничить.

Различия объектов в одних характеристиках не означают различия в других. Сходства объектов в одних характеристиках не означают сходства в других.

Границы условны и пустотны.

Замечать выкручивание люфта рамки и, наоборот, расширять люфт рамки на практике гораздо проще, чем люфт пустоты.

Более того, можно расширять люфт рамки окружающим. Например, неосознанным сторонникам гегемонной маскулинности, как это сделал Саша Барон Коэн в финальной сцене фильма «Бруно». Именно по схеме «разрыв шаблона» создаются самые выдающиеся художественные произведения.

3. Абстрагирование

Происхождение

От «стульев» и «столов» мы довольно быстро переходим к представлениям о «мебели», а от «собачек» и «кошечек» к «животным». Так работает абстрагирование, когда мы не просто выделяем отдельные группы объектов из мирового хаоса, но выделяем отдельные абстрактные характеристики объектов, и начинаем использовать их для категоризации. Так у нас появляются принципы, договорённости, и т.п.

Большинство из приведённых ранее примеров были примерами абстрактных концепций и категорий.

Но сейчас мы сосредотачиваемся не на результате (проявленных категориях или жёстких границах категорий), но на самом процессе абстрагирования — произвольном выборе отдельных характеристик объектов для «картирования» реальности.

Тоже полезный инструмент, который вместе с концептуализацией и категоризацией позволяет переносить одни паттерны поведения на другие зоны реальности. Например, менеджер с узкой отраслевой практикой и достаточно высоким уровнем абстрактного понимания менеджмента проще сможет перестроиться на работу в другой отрасли, чем в случае низкого уровня абстрактного понимания.

Проблема

Когда мы слишком «переабстрагируем» что-то, имеющее отношение к реальности, у нас высоки шансы столкнуться на практике с неправотой. Раньше я перепрыгивал палочку, пенёк, ручеёк, и даже костёр. Значит, я могу перепрыгнуть что угодно, в частности пятиметровый ров… Упс…

«Переабстрагирование» симулякров и абстракций слишком отдалено от практического взаимодействия с реальностью, поэтому риск сформировать очень неточную карту очень велик.

Манипуляции, «выкручивание люфта»

Манипуляции с абстрагированием — это обычно «выравнивание» альтернатив, связанное с упусканием одних характеристик и сосредоточением внимания на других, выгодных собеседнику.

1. Переабстрагирование

Такое абстрагирование часто используется для «натягивания совы на глобус» и сопрягания карт двух разных людей в той части, где это сопряжение не существует. Естественно, с выгодой для сопрягающего. «Мы видим примерно одно и то же, значит ты видишь то же, что и я.»

Пара типичных примеров выкручивания люфта с помощью абстрагирования:

• «Окей, если истины нет, значит истина и ложь одинаковы и равноправны»
• «Толерантные люди должны быть толерантны ко всему, в том числе к проявлениям нетолерантности»
• «Я позволяю тебе выступать за разрушение системы угнетения. Почему ты не позволяешь мне выступать за её сохранение?»

Подобное выкручивание люфта обычно довольно легко почувствовать. Если ты прямо телом ощущаешь, что эти две концепции принципиально разные и их нельзя обобщать — верь себе. Как минимум, нужно насторожиться и начать копаться в деталях.

2. Lampshade Hanging (Lampshading, «абажуривание»)

Lampshade Hanging или, коротко, Lampshading — это авторский приём в развлекательной индустрии, заключающийся в намеренной демонстрации того, что по идее должно быть скрытым (или полностью прозрачным) для зрителя, чтобы добиться особенного художественного эффекта. Название взялось из использования такого приёма в старых кинолентах, когда герой надевал на голову абажур от лампы и становился якобы «невидимым» для другого героя. Можешь посмотреть пример в этом ролике с отметки 14:00, а также ознакомиться с подробным описанием приёма.

Ещё несколько примеров из мультфильмов есть в ролике https://youtu.be/-BVvg10gv5I, а из фильмов — в ролике https://youtu.be/SnYvZGLh5uc.

Ставший широко известным российский пример Lampshade Hanging — клип Егора Крида и Филиппа Киркорова «Цвет настроения чёрный».

Lampshade Hanging — это художественный деконструктивисткий приём, и по сути ничего плохого в нём нет. Проблема возникает, когда этот приём (обычно неосознанно) выдаётся за искренность и используется в оправдание последующей манипуляции, оскорбительного высказывания и так далее.

• «Я не сексист, но бабам место на кухне»
• «Сейчас будет гомофобная шутка. …»
• «„Бога нет, значит мне всё позволено“. Итак, эта ваша церковь — …».

Люфт люфта

В люфт-мышлении люфт люфта это люфт третьего порядка и более высоких порядков. Он подразумевает поиск относительного в самой относительности. Люфта в самом люфте.

Я визуализирую люфт люфта как нечёткое расположение и ширину промежутка между двумя противо-поставленными частями пространства.

На практике можно расширять люфт люфта с помощью следующих мысленных установок.

Всё относительно, даже сама относительность.

Все истины ложны, но некоторые из них истиннее других.

Эти три истины тоже относительны, условны и пустотны.

Подчеркну, относительность истины не означает полного равенства альтернатив. Толерантность не подразумевает толерантности к нетолерантным. Невозможность познания всего на свете не означает бесполезности познания как такового.

К счастью, массовое сознание дотумкает до выкручивания люфта люфта ещё не скоро. Ты как человек думающий можешь вооружиться противоядием раньше, чем это произойдёт.

Резюме

Выкручивание люфтов происходит сейчас со всё большим усилием и нажимом. Я предполагаю, что это следствие возросшей системной связности человеческого сообщества и корявости нашего мозга, а не злого умысла каких-то конкретных людей.

Начни с того, чтобы замечать, как тебе выкручивают люфт. Обычно это раздражает.

Применяй три базовых навыка расширения люфтов:

• люфта пустоты (отказывайся от ненужной концептуализации),
• люфта рамки (отказывайся от жёсткой категоризации),
• люфта люфта (отказывайся от натянутых абстракций).

Самое главное, что может тебе помочь — символ люфт-мышления. Его нельзя доказать, это фундаментальный принцип, который можно только долгими усилиями взрастить внутри себя по собственному выбору.

Я верю, что всё относительно.

Или, если формулировать чуть более точно:

Я верю, что всё люфтит.

Post Scriptum

Эти три навыка расширения люфтов применимы для самостоятельной работы с собственным мышлением и собственными убеждениями. Если ты предельно убежден_а в истинности какой-то идеи, значит там не люфтит. А там, где не люфтит, полезно поискать люфт.

Ответ на вопрос «Зачем нужны эти навыки» простой — это три элементарнейших отмычки от всех замков для тех, кто идёт Путём Понимания. Если на своём пути ты движим_а интеллектом, умственными суждениями, то эти отмычки позволят тебе пройти очень далеко. Не нужно верить мне на слово. Не нужно принимать символ люфт-мышления.

Если ты застрял_а на истинности или ложности, важности или ничтожности, понятности или непонятности любой идеи, вспомни про три навыка и используй нужную отмычку. Проверь на практике, что они работают.

Оригинал и комментарии

Несколько лет в поле моего зрения попадали сообщения об игре Го. То в связи с тем, что это последняя игра, в которой Человек пока противостоит компьютерам. То, в связи с тем, что бастион пал, и компы победили. То в связи с тем, что эта игра чего-то там развивает. На Новый Год я подарил себе комплект игры в ГО. Игра увлекла меня, я сделал массу открытий и с удовольствием делюсь ими, вовлекая в орбиту игры новых адептов.

Правила игры на удивление просты. Их можно понять всего за 5 минут.

1. Игра идёт на доске 19х19. Есть учебные доски меньшего размера 13х13 и 9х9.

2. Начинается игра с пустой доски.

3. Игроки делают ходы по-очереди, выставляя чёрные и белые камни в пересечения линий.

4. Первый ход делают чёрные.

5. Камни, выставленные на доску в дальнейшем не перемещаются.

6. Цель игры – захватить территорию. Для этого нужно огородить свободные перекрёстки.

7. Камни одного цвета, стоящие на соседних перекрёстках, соединённых линией, представляют собой группу.

8. Если вокруг камня или группы имеются свободные перекрёстки, не занятые камнями противника, то группа считается живой. Свободные перекрёстки, непосредственно граничащие с группой, называют дыханием группы.

9. Если дыханий не остаётся, группа снимается с доски. Камни считают пленными.

10. Игра заканчивается, когда вся территория поделена, либо когда перевес одного из игроков очевиден.

11. Во избежание зацикливания, действует правило КО, запрещающее своим ходом возвращать ситуацию на доске к той, что была ходом ранее (звучит замысловато, но на доске показать просто).

Нет агрессии, но также нет страху

Поскольку в игре можно всё — любой игрок может делать ходы в любой части доски, ходы в принципе оказываются двух типов.

Агрессивными ходами игроки заявляют права на какую-то территорию, но обычно, в самом начале ни у кого нет ни каких оснований на претензии. Как в бизнесе — ты можешь заявить, что строишь частную космическую компанию. И пока у тебя не появится значимого числа наработок, эти заявления ничего не стоят.

Пассивными ходами игроки забирают территорию, на которую пока противник не может претендовать. В начале игры сделать это просто. Ты легко зарабатываешь очки в ущерб развитию. В бизнесе тоже — есть ограниченное количество ресурсов, которое можно потратить на работу, которая приносит деньги в компанию. В этом смысле, усилия, направленные в развитие быстрых денег не дают.

Игра го учит тому, чтобы был баланс между прагматикой и мечтами. Если ты только мечтаешь — проигрываешь. Как ни странно, чистые прагматики тоже проигрывают.

Пленные возвращаются

Когда в конце игры считают очки, то все снятые с доски камни возвращаются на родину и выставляются на свою территорию (уменьшая её количество). Это символично. Хоть и говорят, что “камни умерли”, репатриация рулит!

Соразмерность жизни

Если сравнивать с шахматами, где игра начинается с полным комплектом фигур, которые по ходу сражения, перемещаются по всему полю, и многие умирают. В Го, динамика иного толка.

Если шахматы — это сражение, то го — жизнь. Начинаешь жизнь с чистого листа и делаешь мелкие незначительные ходы. В дальнейшем, эти ходы могут либо развалиться, либо сплестись в сложный узор.

Искусство жизни состоит в том, чтобы узор в принципе возник, и был прекрасен. Для этого нужно одновременно быть внутри событий и в то же время, видеть целое.

Чтобы выигрывать, нужно жертвовать

В игре ГО всё построено на балансах. В ней нет однозначно выигрышных стратегий. Каждый ход имеет свою силу, но также и слабость. Понимание силы и слабости позволяет строить логику сражений — чтобы что-то получить, всегда приходится чем-то за это расплачиваться.

Никогда не поздно начинать

Даже если соперник обозначил свои намерения относительно какой-то территории, вторжение возможно. Камни го просачиваются на чужую территорию как вода. Сначала идёт подготовка — появляются камни на периметре. Затем высадка в самый центр чужих камней и постепенное распространение влияния. Отъедание территории, где только что безраздельно властвовал конкурент. Да, нужно быть осторожным и внимательным. Но если посмотреть партии профессионалов, то на доске почти нет больших островов. Всюду взаимопроникновение.

Так и в жизни. Никогда не поздно начать игру на чужой территории. Но нужна опора.

Процесс важнее результата

Начиная игру, соперники желают друг другу “хорошей игры”. По завершению, благодарят друг друга “спасибо за игру”. В каком-то смысле, важнее не победить, а получить удовольствие от процесса взаимодействия с партнёром.

Сильные игроки каждый ход интерпретируют как высказывание. Делая ход, игрок как-бы приглашает соперника поговорить. Из отдельных высказываний складываются фразы. В конечном счёте, чьё-то высказывание окажется более сильным. Но это не значит, что оппоненту плохо. Он смог попрактиковаться в красноречии, что-то узнал новое о себе, стал немного сильнее.

План — ничто, готовность к изменениям — всё

Кто знаком с Agile, знает, что подобным образом звучит одна из четырёх ценностей. При этом внедрение Agile в компаниях часто буксует и я считаю, что виной тому западная парадигма мышления — желание заранее иметь план — строить цепочки причинно-следственных событий. Поэтому даже имея декларацию в виде ценности Agile, западные люди всё равно мыслят в парадигме “цели и средства”.

Вариативность игры такова, что просчитать действия соперника на несколько ходов вперёд практически не возможно — с этим связано то, что компьютеры не могли выиграть человека. Шахматы просчитываются, а ГО — нет. Мастера играют исходя из принципа красоты и гармонии в рисунке камней — в способности чувствовать их взаимодействие. Поэтому играя в ГО начинаешь мыслить в парадигме “как в этой ситуации восстановить баланс и гармонию ситуации”.

Видеть не камни, а пустоту между ними

Когда начал потихоньку учить игре в ГО, то заметил, что начинающие не видят пространство — всё их внимание приковано к камням противника. Они пытаются захватывать камни. В то же время — цель игры в захвате территории. Но сложно смотреть в пустоту — вниманию не за что зацепиться. Камни понятнее. В итоге новички, не понимающие этого принципа делают очень смешные и бестолковые ходы. В то же время, когда смотришь партии профессионалов — наблюдаешь танец камней по всему полю доски.

В бизнесе тоже многие пытаются вступать в жёсткую конкуренцию, не обращая внимания на возможности, которые лежат под носом и которые никто не использует. Думаю, не случайно автор книги “Стратегия голубого океана” — кореец, ведь ментальность азиатов во многом отформатирована игрой ГО.

Управление вниманием — залог успеха

Как правило, во время партии на доске развивается несколько сюжетов. Когда смотришь профессиональные партии, самым сложным в понимании логики для меня является момент переключения от одного сюжета к другому. Сражения не доигрываются и какое-то время находятся в подвешенном состоянии.

С этим связано одно из базовых понятий ГО — “адзи” — скрытая угроза. Когда становится очевидным, что группа противника умирает, сильные игроки не тратят ходы на то, чтобы добить. Ведь это потеря темпа. Так в тылу остаются войска, которые в какой-то момент могут получить поддержку и неожиданно выжить.

Поэтому ГО развивает многоплановость мышления — способность удерживать внимание на множестве аспектов игровой ситуации и умение вовремя переключить его от одного сюжета к другому.

В игре ГО содержится код азиатской ментальности

Игре около 3000 лет и она всегда играла большую роль в азиатской культуре. Го было приравнено к искусствам, обязательным к освоению аристократами: калиграфии, поэзии, фехтованию. Считалось, что понимание принципов ГО является ключом к грамотному правлению. В современности есть даже академии ГО — аналог высшего образования. Есть медиаимперии, построенные вокруг ГО. Такие компании как Samsung и LG выступают спонсорами чемпионатов и выставляют призовой фонд в несколько миллионов долларов.

Можно предположить, что особый тип азиатской ментальности породил ГО, но игра — это артефакт, слабо подверженный изменениям. Поэтому я склонен полагать, что “странность” восточного менталитета во многом отражает принципы ГО.

Моё открытие игры ГО was originally published in smysloteka on Medium, where people are continuing the conversation by highlighting and responding to this story.

Оригинал и комментарии

Так работает наиважнейший для эволюции нейро-алгоритм

Знаменитый Калифорнийский институт технологий (Caltech) предъявил миру новую гениально простую «Иллюзию Кролика», позволяющую каждому удостовериться в справедливости заголовка.

— Нет никакого объективного мира.

— Наш мозг получает информацию от органов чувств и строит по ней модели мира, необходимые для принятия решений (это и есть вершина эволюции для обеспечения выживания и воспроизводства).

— Т.к. чувств несколько, приходится строить много моделей: моно-модели для каждого из чувств и мульти-модели для кросс-сенсорных пересечений.

Все эти модели нужно как-то интегрировать (иначе как принимать решения?)

Алгоритм интеграции — уникальный копирайт эволюции:

• какая из моделей возьмет верх — большой вопрос (хотя, казалось бы, модель на основе зрительной инфы должна доминировать);
• для того нас и так много, чтобы эволюции экспериментировать с этим важнейшим для нее супер-алгоритмом (подбирая параметры и подстраивая алгоритм на каждом из уникальных индивидов).

N.B. Эксперименты с «Иллюзией Кролика» также показывают, что Эйнштейн был прав, говоря «время — это иллюзия». На деле, «Иллюзия Кролика» — это иллюзия путешествия во времени (авторы так и называют её Time-Traveling Illusion)

Предлагаю каждому самому убедиться в вышесказанном:

- пройдите тестирование на «Иллюзию Кролика» (это займет 49 сек)

- прочтите описание того, как она работает

- для углубленного изучения вот доступ к авторским материалам (тексты, видео, таблицы …)

- если кому-то нужно на русском (со странным заголовком))

А также:

Про предыдущее не столь научное, но очень красивое подтверждение иллюзорности мира

_________________________

Хотите читать подобные публикации? Подписывайтесь на мой канал в Телеграме, Medium, Яндекс-Дзене

Считаете, что это стоит прочесть и другим? Дайте им об этом знать, кликнув на иконку “понравилось”

Оригинал и комментарии

Оригинал и комментарии

Рассказывает «Супергерой ИИ», соучредитель DeepMind Демис Хассабис в прекрасно структурированной, визуально привлекательной и содержащий все, что нужно для понимания темы лекции Фонда Ротшильда: 50 мин. + 20 мин интересных Q&A.

Почему это важно. Эта тема определяет будущее десятков профессий. Тот, кто её понимает, получит серьезное преимущество. Но объяснить её просто за 50 мин. могут единицы. И это — тот самый случай.

1. Два подхода в ИИ: экспертная или обучающаяся системы.

2. Почему экспертный подход оказался тупиком (на примере шахмат и го)

3. Как двигаться дальше — к интуиции и креативности ИИ. Чего не хватает для этого у ИИ.

4. Что важнее всего: концепции, абстракции, аналогии, воображения. Похоже, что последнее.

5. Как мы воображаем: от эпизодической памяти — раскладке по полочкам к обратному процессу — воображению.

6. 1я реализация этого подхода — «Генерирующая сеть запросов» (GQN) — машина воображения для порождения 3D сцен (кому нужно, подробней здесь)

7. Кейсы простого использования в искусстве, дизайне и науке.

8. А дальше путь к мета-решениям — инструментам превращения ИИ в акселератор прорывных научных открытий и недосягаемых ранее взлетов искусства.

В качестве приложения: Жизнь и карьера супергероя ИИ в фото и картинках

_________________________

Хотите читать подобные публикации? Подписывайтесь на мой канал в Телеграме, Medium, Яндекс-Дзене

Считаете, что это стоит прочесть и другим? Дайте им об этом знать, кликнув на иконку “понравилось”

Оригинал и комментарии

Отличный материал, спасибо за непредвзятый обзор. Многое увидел в своей работе в агентстве из одного человека, но вы отлично сформулировали многие тезисы.

Оригинал и комментарии

Недавно обнаружил, что легко и с удовольствием использую стикеры для организации процесса группового обсуждения. Более того, испытываю значительные неудобства, когда стикеров нет под рукой. Обещал ряду людей описать технологию, как я её понимаю. Делаю это.

Прежде всего хочу сказать о проблемах, которые наблюдаю при отсутствии стикеров:

• Высказывания могут быть пространными и расплывчатыми. Сложно ухватить сутевое содержание.
• Происходит конкуренция “за микрофон” — участники обсуждения тратят значительные усилия на то, чтобы быть услышанными. Поэтому пытаются многократно заносить свою мысль. Подтверждение происходит через то, что кто-то ещё начал транслировать данную мысль.
• Если возник спорный вопрос, сложно отследить статус принятия.
• Когда собирают финальное решение, тот кто собирает, протаскивает свою линию. Выгодно быть сборщиком :)

Теперь о стикерах:

• Есть два варианта заполнения стикеров: 1) выделенный участник обсуждения кратко (до 4 слов) формулирует тезис высказывания, согласует формулировку с автором и лепит на общую доску; 2) каждый кто высказывается, пишет свой тезис и после высказывания лепит на доску. Это даёт уверенность участникам обсуждения в том, что мысль прозвучала и не пропала — теперь её все видят.
• Если кто-то повторно пытается сказать ту же мысль, можно поинтересоваться, хочет ли он расширить уже прозвучавшее, или просто присоединяется. Если присоединяется, рисуем на карточке “+1”, если что-то другое, просим более чётко сформулировать, чтобы написать новую карточку.
• В самом начале нужно дать всем высказаться. После чего попытаться сформулировать ключевые фокусы обсуждения. Фокусы обсуждения можно написать на карточках сигнального цвета и в дальнейшем явными образом перемещать фокус группового обсуждения от одного к другому. Если вдруг у кого-то возникла мысль вне текущего фокуса обсуждения, пишем карточку и лепим в сторонку, чтобы в дальнейшем вернуться к обсуждению данного вопроса, но просим вернуться к текущему фокусу.
• Если какой-то тезис оказался дискредитирован, или доформулирован, то убираем старую карточку и при необходимости лепим новую.
• Отслеживаем, что в процессе обсуждения все фокусы получили свой ресурс внимания группы.
• Когда смысловое пространство сформировано, приступаем к сортировке. Здесь важно увидеть взаимоисключающие тезисы и понять, что с ними сделать. Есть несколько вариантов: 1) удалить лишнее, 2) перенести “лишнее” в задачи на развитие, 3) если время позволяет, попытаться найти способ оставить всё.
• После того, как сортировка проведена, переходим к сборке. Для этого на отдельном листе формируем композиционные блоки и переносим (переписываем) туда тезисы. Отработанные карточки, после того как тезис переписан, удаляем с доски (чтобы не мешал). Сборка завершается, когда все карточки убраны, а мы уверены что ничего не упустили.

Опа-ча! Готово. Все довольны, все смеются!

Отдельно хочу обратить внимание, что вместо карточек можно вести Ментальную карту и расширять её по мере высказываний. Можно писать тезисы в списки. Но фишка карточек в их динамичности. Приклеил/отклеил/переместил.

И напоследок. Оказывается, навык ёмких формулировок есть далеко не у всех. Но это навык, и он тренируем. Дерзайте!

Стикеры was originally published in smysloteka on Medium, where people are continuing the conversation by highlighting and responding to this story.

Оригинал и комментарии

Новый кошмар поп звезд — стать поющим призраком

Эх, разворошил я своим сегодняшним постом муравейник индустрии фейковых развлечений! Теперь надо отвечать за базар.

Бдительные читатели тут же мне напомнили об анонсированном сегодня мировом турне умершей 7 лет назад Эми Уайнхаус, благо её отец наконец-то дал разрешение на турне, в котором его покойная дочь примет участие в виде голограммы.

Если кто не в курсе, это будет уже 3й голографический призрак компании BASE Hologram, собирающий деньги концертами по миру, выступая вместе с живыми музыкантами.

Голографические материализации призраков пионера рок-н-ролла Роя Орбисона и одной из величайших оперных певиц XX века Марии Каллас сейчас с успехом концертируют по миру.

Почитать и, главное, посмотреть и послушать, как это все выглядит, можно здесь.

А вот здесь мне особенно нравится, как призрак Роя Орбисона растворяется в воздухе, откланявшись после оваций.

Осталось добавить 2 вещи.

1. Голограммы поющих призраков все более совершенствуются. Сегодня призраки выглядят куда свежее, чем концертировавшие с 2012 призраки Тупака Шакура, Билли Холидея и Майкла Джексона.
2. Адвокаты уже начали зарабатывать на концертах призраков не меньше коммерсантов из BASE Hologram. Судебные иски растут как грибы. И то ли еще будет.

Так что к опасениям Аллы Пугачевой при жизни быть скопированной для фейковых целей, добавился еще более страшный кошмар (если не проклятие)
— стать поющим призраком, зарабатывающим бабло для наследников бесконечным чёсом с концертами по миру.

_________________________

Хотите читать подобные публикации? Подписывайтесь на мой канал в Телеграме, Medium, Яндекс-Дзене

Считаете, что это стоит прочесть и другим? Дайте им об этом знать, кликнув на иконку “понравилось”

Оригинал и комментарии

Позавчера я писал, что главная проблема беспилотных авто — неумение предсказывать ход мыслей людей — водителей и пешеходов. Писал я это неспроста, поскольку знал о грядущей сенсации, связанной с весьма интересным мне стартапом Perceptive Automata.

И вот сенсация озвучена — Hundai Motor и Toyota AI Ventures, объявили о намерении совместно решить проблему привнесения в самоуправляемые авто возможностей человекоподобной интуиции.

Начали эти кампании с того, что инвестировали в Perceptive Automata, чтобы использовать разработанную стартапом «технологию прогнозирования человеческого поведения».

«Мы решаем то, что часто называют самой сложной проблемой для роботизированных систем: понимание поведения человека, позволяющее широкомасштабное развертывание автоматизированных систем в среде с преобладанием людей»

— пишет про себя команда молодого стартапа из Гарвардского университета и MIT.

Ребята начали с задачи анализа языка тела человека, чтобы определить, куда и с какого перепугу вдруг рванет тот или иной пешеход, убоявшись надвигающегося авто или просто вспомнив, что опаздывает. А в итоге пришли к обобщенной задаче предсказания хода мыслей пешеходов, за чьим «языком тела» ИИ-автопилот может наблюдать.

Решение основано на 2х параметрах, которые ИИ вычисляет для каждого видимого ему человека: намерения (что тот собирается делать) и осведомленность (что он знает о приближающемся авто) — см. ролик на 3 мин и толковое пояснение проблемы.

В итоге ИИ моделирует не движение объектов, а их намерения.

Сделать это страшно трудно.

Но как считают эксперты,

«беспилотные авто будут медленными, неуклюжими и убогими, если так и не смогут понять, как бороться с людьми в их сложной и непредсказуемой среде».

И заметьте, пока что у ИИ появился лишь шанс побороть непредсказуемость пешеходов. Но ведь людей — водителей других авто ИИ не видит. Как сможет ИИ побороть и этих уж совсем непредсказуемых гадов?

P.S. Для стартаперов открывается новая перспектива.

Алгоритмы прогнозирования пешеходов сильно национально-ориентированные. Их придется разрабатывать для каждой страны свои. Да и попробовать потеснить Perceptive Automata в работе с авто-грандами задачка весьма достойная и конкурентов пока мало.

_________________________

Хотите читать подобные публикации? Подписывайтесь на мой канал в Телеграме, Medium, Яндекс-Дзене

Считаете, что это стоит прочесть и другим? Дайте им об этом знать, кликнув на иконку “понравилось”

Оригинал и комментарии

В мае я рассказывал, что DARPA пытается победить «глубокие фейки» (подмена лиц на видео), но, похоже, что эта битва уже проиграна. Спустя 4 месяца это окончательно подтвердилось.

За широкое применение технологий «глубоких фейков» проголосовала индустрия развлечений.

Менее чем за год свершился ракетообразный взлет популярности этого класса технологий:

• от вставки лиц знаменитостей в порно-роликах;
• через создание фейковых видео-новостей;
• до превращения в один из самых прикольных и креативных видео-эффектов при создании музыкальных клипов.

Угнаться за креативом индустрии развлечений вояки из DARPA не смогут. А профи из креативных студий за несколько месяцев показали, что могут с помощью «глубоких фейков» не только экономить при съемках миллионы, но и творить до того невозможное — сплавлять вкусы разных поколений, поднимая популярность дипфейкового стиля клипов на недосягаемую ранее высоту.

Вот ролик ”1999" — идеальный пример использования «глубоких фейков», в котором Charli и Troye Sivan заставляют работать на себя идолов 1990-х: от Стива Джобса, до фильма «Титаник».

А здесь подробности этой темы.

В 1996 году на фестивале «Фантазия-96» (в проведении которого ключевую роль играла моя тогдашняя компания Silicon Graphics), я спросил Аллу Пугачеву, чего она больше всего опасается в компьютеризованном будущем индустрии развлечений.

Примадонна, получившая по итогам фестиваля приз за лучший анимационный клип «Зайка моя» (представлявшийся ею совместно с совсем молодым Киркоровым) уже тогда была в курсе огромных возможностей компьютерной графики, проиллюстрированных ей на демороликах Silicon Graphics.

И она ответила на мой вопрос,

что больше всего ей не хотелось бы, чтобы её образ был использован в порно-роликах, библиотеках виртуального секса и поддельных музыкальных клипах с её, якобы, участием.

Права оказалась Алла Борисовна. Прошло 2 десятка лет, и теперь все это не только возможно, но и входит в мейнстрим индустрии развлечений.

Мой майский пост про «глубокие фейки».

_________________________

Хотите читать подобные публикации? Подписывайтесь на мой канал вТелеграме, Medium, Яндекс-Дзене

Считаете, что это стоит прочесть и другим? Дайте им об этом знать, кликнув на иконку “понравилось”

Оригинал и комментарии

Революция в ИИ-революции начинается с попыток заменить «черный ящик» на «стеклянный»

COO DeepMind Лила Ибрахим в пятничном групповом интервью «пятерки посвященных» о самом важном в современном развитии ИИ сказала: критически важно, чтобы ИИ системы объясняли, как она принимают решения.

За этим признанием стоит позиция Гугла, от которого направление развития ИИ зависит, как от никого другого. И значит теперь есть шанс, что революция в ИИ-революции начинается.

Ведь 1е прорывное ИИ решение DeepMind, способное объяснять принимаемые решения уже создано. Это медицинский ИИ, разработанный DeepMind совместно с лондонской клиникой Moorfields Eye и Университетским колледжем Лондона, для подбора лечения при 50+ заболеваний глаз.

Нужно понимать, что все ИИ разработки, основанные на глубоком обучении (а это практически все прорывные решения в современном ИИ) — это наихудший путь с т.з. объяснений, почему ИИ принимает это решение, а не другое. Вот иллюстрация того, что среди разных методов реализации ИИ, глубокое обучение — лучше всех по точности прогнозов и хуже всех по возможности объяснить свои прогнозы.

Эта необъяснимость решения современных ИИ называется проблемой «черного ящика»

Я начал писать на своем канале про этот важнейший для ИИ вызов с момента его создания. Писал уже о многом:

- о «Проекте объяснимого ИИ» — XAI, начатом DARPA в 2016;

- о «черной метке черным ящикам», полученной от госсектора США;

- о нарастающих здесь рисках

- и даже о литературной интерпретации этого вызова Пелевиным.

Но сейчас с приоритезацией этого вызова DeepMind, ситуация в корне меняется.

Неделю назад на ‘2018 International Explainable AI Symposium’ Дэвид Ганнин — руководитель DARPA’вского проекта XAI — рассказал, что в мае исследователи XAI уже продемонстрировали раннюю модель системы объяснительного обучения, а в ноябре будет озвучена оценка результатов 1й фазы проекта.

Решением этого вызова фокусно занимается не только DARPA. Новейшие и уникальные доки по этому вопросу желающие найдут на ресурсах:

• Heatmapping.org (совместный проект Fraunhofer HHI, TU Berlin, SUTD Singapore) — см. подробный туториал по теме в 4х частях;
• корейского Центра объяснимого ИИ XAIC

Однако, самым важным в исследованиях названных выше центров стало открытие новыго колоссального вызова:

Объяснимый ИИ не решает всех проблем — нужен ИИ в формате «стеклянного ящика», т.е. НЕ САМ объясняющий себя людям, а дающий возможность людям видеть его насквозь, самостоятельно постигая смысл и логику его решений и рекомендаций.

Причина этого оказалась в том, что, пользуясь людской ограниченностью и зашоренностью, ИИ в состоянии так «объяснить» свои решения, что люди не смогут увидеть «разводку» со стороны ИИ.

И это значит, что последнее решение «бить или не бить» навсегда должно остаться за людьми.

Подробней об этом здесь

_________________________

Хотите читать подобные публикации? Подписывайтесь на мой канал в Телеграме, Medium, Яндекс-Дзене

Считаете, что это стоит прочесть и другим? Дайте им об этом знать, кликнув на иконку “понравилось”

Оригинал и комментарии

https://scholar.google.com/scholar?hl=en&as_sdt=1%2C5&as_ylo=2010&q=%D0%B7%D0%B5%D1%84%D0%B8%D1%80%D0%BD%D1%8B%D0%B9+%D1%82%D0%B5%D1%81%D1%82&btnG=

Оригинал и комментарии

Можно без натяжки сказать, что, по сравнению с человеком, ИИ обладает куда более развитыми истерическими свойствами.

Так здоровый, но внушаемый (с истерическими чертами характера) человек может вслед за больным “увидеть” черта, ангелов, летающие тарелки и, вообще, что угодно. Однако, подобные люди — редкость (их порядка процента).

В отличие же от людей, каждый ИИ — законченный истерик. Заставить его видеть вместо стула — черта, вместо шишек — ангелов, а вместо милиционера — летающую тарелку, — совсем не бином Ньютона.

Называется этот трюк — использование «враждебных данных» (adversarial inputs), заставляющих ИИ видеть какие-то обманные образы (а по сути, — вызывать у ИИ внушенные галлюцинации).

Вот перед вами 3 картинки:

✔️ Левая –фото ленивца, распознаваемого ИИ с вероятностью > 99%.

✔️ Средняя — фото гоночного авто. Это галлюцинация, которую нужно внушить ИИ, показавая ему слегка модифицированное с помощью «враждебных данных» фото ленивца.

✔️ Правая — это результат: модифицированное с помощью «враждебных данных» фото ленивца, в котором ИИ с вероятностью > 99% распознает гоночное авто.

❗️ Объем «враждебных данных», потребовавшихся для внушения ИИ галлюцинации гоночного автомобиля, видимого им вместо ленивца, пренебрежительно мал — всего 0,0078 отличий в пикселях правого и левого фото (человеческий глаз этого просто не видит — хотя вы можете попробовать).

Представить потенциал ущерба от использования «враждебных данных» злоумышленниками можете сами. Лишь замечу, — теоретически, он сопоставим с ядерным оружием.

И если вы думаете, что внушением галлюцинаций для ИИ никто на практике не занимается, вы жутко ошибаетесь. Всего один, но замечательный пример.

В Китайских соцсетях и мессенджерах фильтруется весь контент, затирая в ноль всё запрещенное партией и правительством (в этот список входит несколько тысяч тем!).

— Сначала фильтровали только текст.

— Но пользователи приспособились и для обмана фильтров стали запрещенные слова прятать в картинки.

— Тогда государство посадило 10 тыс. цензоров для фильтрации картинок. Но они не справились — дюже много работы.

— И вот тогда мобилизовали ИИ на фильтрацию картинок.

Вот как это выглядит:

Китайский пользователь WeChat послал картинку — обложку отчета про кампанию репрессий, получившую название “облава 709” (709 Crackdown). ИИ-цензор эту картинку удалил.

И тут внимание.

Ушлые ребята из THECITIZENLAB придумали использовать ИИ для подбора «враждебных данных», способных внушить галлюцинации «ИИ-цензорам», ведущим фильтрацию. В исходных картинках меняется совсем чуть-чуть (как в примере с ленивцем). Поэтому людям эти изменения нипочем — они их просто не замечают. Тогда как «истерический характер ИИ» заставляет его видеть вместо картинок из черного списка что-то совсем иное. И крантец фильтрации — свобода китайским пользователям!

Вот пример:

Изображения С и D фильтруются ИИ-цензором, в изображения A и B — нет 😳

Так ИИ-броня ИИ-цензуры оказалась легко пробиваема ИИ-снарядами «враждебных данных».

Но это не конец. ИИ-броня совершенствуется (равно как и ИИ-снаряды).

Детали этой борьбы можете прочесть в отчете

А это подробно про то, как работают «враждебные данные».

_________________________

Хотите читать подобные публикации? Подписывайтесь на мой канал в Телеграме, Medium, Яндекс-Дзене

Считаете, что это стоит прочесть и другим? Дайте им об этом знать, кликнув на иконку “понравилось”

Оригинал и комментарии

FYI: Тут жесточайшее противоречие с книгой Сета Година «Незаменимый»

Оригинал и комментарии

Нет, не переводили, но мы будем очень рады, если вы переведёте. Единственная просьба— ссылка на оригинал. И будет здорово, если потом поделитесь ссылкой на перевод)

Оригинал и комментарии

Готовил я, но просто убрал оттуда резкие слова, все же у Комаровского приличное место.

Оригинал и комментарии

Когда-то знакомился с этой моделью, но на практике не использовал столь осознанно. В связи с чем вопрос: мне ясно откуда взялось деление на три группы — начало / середина / конец пути, но почему на каждом отрезке по четыре типа. Каковы основания для них? Почему мы уверены, что это исчерпывающий набор архетипов?

Оригинал и комментарии

Не совсем корректно изображён “крест”. Точнее, то место, где нанесены воздух/вода/огонь/земля. Поясню…

Крест образуют две независимые дихотомии “индивидуализм / принадлежность” и “сохранение / изменение”. Соответственно, возникают 4 пары признаков:

• индивидуализм + сохранение
• индивидуализм + изменение
• принадлежность + сохранение
• принадлежность + изменение

По логике вещей, стихии как-то должны укладываться в эти пары. Но как?

Оригинал и комментарии

Удалось ли подумать над вопросами, который бы мог задать Изабель “инопланетянин?”

Оригинал и комментарии

Оригинал и комментарии

Оригинал и комментарии

Оригинал и комментарии

Оригинал и комментарии

Оригинал и комментарии

Оригинал и комментарии

Оригинал и комментарии

Оригинал и комментарии

Оригинал и комментарии

Оригинал и комментарии

Оригинал и комментарии

Оригинал и комментарии

Оригинал и комментарии

Оригинал и комментарии

Оригинал и комментарии

Оригинал и комментарии

Оригинал и комментарии

Оригинал и комментарии

Оригинал и комментарии

Оригинал и комментарии

Оригинал и комментарии

Оригинал и комментарии

Оригинал и комментарии