Недавние тренды рунета
В 2017 мало кто верил таким пророчествам Харари. А сейчас?
Харари в интервью CNN предупреждает, что важнейшим последствием коронавируса станет всемирный поворот к цифровому тоталитаризму на основе глобальной слежки.
Пройдя через эту эпидемию, человечество смирится с отказом от приватности в пользу здоровья, за которое придется платить тотальной 24/7 биометрической слежкой местоположения, температуры тела и т.д.
Еще 3 года назад в интервью Лео Уайту Харари предупреждал.
«Большая битва грядущего столетия будет происходить между приватностью и здоровьем. И здоровье победит. Большинство людей будут готовы отказаться от своей частной жизни в обмен на гораздо лучшее медицинское обслуживание, основанное на 24-часовом мониторинге того, что происходит внутри их тела.
Очень скоро люди будут ходить с биометрическими датчиками на теле или даже внутри него и позволят Facebook, правительству Китая или кому бы то ни было постоянно следить за тем, что происходит в их телах…
В день, когда начинается эпидемия гриппа, они сразу узнают, кто ее переносит, и смогут предпринять очень эффективные, быстрые и дешевые действия для ее предотвращения.»
То интервью Харари было озаглавлено
«Человеческая история “закончится, когда люди станут богами”».
Моя трактовка подобного сценария иная. Люди не станут богами.
Но власть над ними перейдет к Большому брату — сыну Большого бога.
________________________________
Если понравился пост:
- нажмите на “палец вверх”;
- подпишитесь на обновления канала на платформе Medium;
- оставьте комментарий.
Еще больше материалов на моем Телеграм канале «Малоизвестное интересное». Подпишитесь
Оригинал и комментарии
Медики и математики спорят, какой путь верный
Проблема в том, что точный ответ не знает никто. А цена вопроса — много жизней.
Вариантов борьбы с вирусом два.
1) «Смягчение» с целью замедлить распространение, путем изоляции подозреваемых инфицированных и членов их семей, но без ограничений для общества в целом (пример — Британия)
2) «Подавление» с целью обратить рост эпидемии вспять, сократив количество заражений до низкого уровня и сохранения это на неопределенный срок, путем ограничений для общества в целом (пример — Италия)
Эпидемиологи с высочайшей репутацией придерживаются прямо противоположных позиций.
“Массовое блокирование мира с потенциально огромными социальными и финансовыми последствиями может быть совершенно иррациональным. Это как слон, на которого напала домашняя кошка. В возбуждении пытаясь избавиться от кошки, слон случайно спрыгивает со скалы и умирает”
Это мнение Д. Иоаннидиса — профессора эпидемиологии Стэнфордском универе и со-директора Стэнфордского инновационного центра мета-исследований.
“Мы не должны принимать решения без надежных данных. А их у нас пока нет”
- пишет Иоаннидис.
Иными словами, Иоаннидис пока за политику «смягчения».
Прямо противоположное мнение у М. Райана — Исполнительный директор Программы ВОЗ по чрезвычайным ситуациям в области здравоохранения.
“Если вы будете делать лишь ходы, в которых абсолютно уверены, вы никогда не выиграете у эпидемии… Чтоб победить, вы должны всегда ходить первым, опережая противника… Таков главный урок, вынесенный нами из подавления предыдущих эпидемий”.
Из слов Райана можно сделать вывод, что он за политику «подавление».
У математиков, строящих модели эпидемии (только так можно предсказать их развитие) мнения также противоположные.
Взорвавший британское общество доклад группы Фергюсона из Имперского колледжа основан на новой матмодели.
Из результатов моделирования следует, что правительство Британии капитально лопухнулось, приняв политику «смягчения».
«Смягчение последствий вряд ли будет осуществимо без многократного превышения лимитов аварийных мощностей систем здравоохранения Великобритании и США, возможно, в восемь раз».
В этом сценарии команда Имперского колледжа предсказала 250 000 смертей в Великобритании.
«Мы рассчитывали на создание стадного иммунитета. Теперь мы понимаем, что с этим невозможно справиться»,
— заявил журналистам на брифинге в понедельник профессор Азра Гани, соавтор отчета, заведующий кафедрой эпидемиологии инфекционных заболеваний.
Другая группа известных математиков, работающих с матмоделями эпидемий в NECSI (Бар-Ям и Со), считает, что в модели Фергюсона много чего не учтено. И что группа Фергюсона поторопилась с выводами.
А сегодня председатель Всемирной медицинской ассоциации Ф.У. Монтгомери высказался против запрета для граждан покидать свои дома с целью не допустить дальнейшего распространения пандемии.
«Я не сторонник локдаунов. Тот, кто вводит подобные меры, должен также объяснить, когда и как он намерен их отменить.»
Так какой путь верный?
Не будучи ни эпидемиологом, ни математиком, лишь напомню вывод Нассима Талеба.
«В реальном мире, при отсутствии надежных данных, необходимо снижать риски, используя наиболее надежный (помехоустойчивый при моделировании) метод.»
________________________________
Если понравился пост:
- нажмите на “палец вверх”;
- подпишитесь на обновления канала на платформе Medium;
- оставьте комментарий.
Еще больше материалов на моем Телеграм канале «Малоизвестное интересное». Подпишитесь
Оригинал и комментарии
1. Эта эпидемия — уникальное поворотное событие в истории цивилизации.
С точки зрения биологии, человечеству, как виду, коронавирус совершенно не опасен. Более того, — происходит весьма полезный процесс омоложения население. С точки зрения экономики и социальной политики, тоже все хорошо — решается необоримая до сих пор проблема демографического старения.
Но с гуманистической точки зрения человечества 21 века, равно как и с позиции отдельного человека, не желающего терять своих родителей, вышеназванная «польза» от коронавируса отвратительна и неприемлема.
Именно это противоречие стало главным вызовом происходящей глобальной эпидемии. От избранного человечеством способа ответа на этот вызов во многом будет зависеть, насколько изменится система ценностей людей после окончания этой эпидемии.
2. Человечеству предъявлен новый вызов, возможно, самим мирозданием.
Если совершенно отстраненно анализировать развитие земной цивилизации, например, с точки зрения сверх-разумных негуманоидов из другой галактики, просматриваются два главных тренда: физический и биологический.
- Физический — проявляется в неуклонном технологическом прогрессе (потребление энергии, новые материалы и т.д.)
- Биологический — в неуклонном росте продолжительности жизни биологического вида людей.
Герои повести Стругацких «За миллиард лет до конца света» столкнулись с непреодолимой силой Гомеостатического Мироздания (природы, утробных законов эволюции, Бога, какой-то иной силы истории) сохранить положение вещей как оно есть. Гомеостатическое Мироздание, каким-то неведанным людям способом, препятствует потенциальным радикальным отклонениям человечества от гомеостазиса, вследствие технологического прогресса.
Герои повести пытаются бороться с мирозданием. Но это безликая сила, искать которую бесполезно, и борьба с которой предрешена.
И потому главным вызовом для людей становится не борьба (которая бессмысленна), а то, — как жить в новой ситуации, когда побороть противника заведомо невозможно.
Эпидемия коронавируса на наших глазах будто бы пишет продолжение повести «За миллиард лет до конца света». Однако теперь Гомеостатическое Мироздание взялось восстанавливать равновесие, нарушенное вторым главным трендом — биологическим.
Человечество слишком «разгулялось по буфету». Население мира в возрасте 60 лет и старше насчитывало в 2000 году 600 млн. человек, что почти втрое превышало численность этой возрастной группы в 1950 (205 млн. человек). В 2009 она превысила 737 млн.. А согласно прогнозам, эта возрастная группа к 2050 составит более 2 миллиардов, ещё раз утроившись за период времени в 50 лет.
И вот всего за 3 месяца становится ясно, что эти прогнозы следует пересмотреть. А поскольку сделать с этим ничего нельзя, все мы остаемся перед главным вызовом,
— как жить в новой ситуации, когда побороть противника заведомо невозможно?
________________________________
Если понравился пост:
- нажмите на “палец вверх”;
- подпишитесь на обновления канала на платформе Medium;
- оставьте комментарий.
Еще больше материалов на моем Телеграм канале «Малоизвестное интересное». Подпишитесь
Оригинал и комментарии
Прорыв за горизонт проверяемых знаний ведет к пониманию отличий интеллекта человека и машины
Коронавирус в комплекте с обнулением достали. Поэтому хочу перенестись на год вперед, где вышеупомянутое, надеюсь, останется в прошлом. А вместо всякой гадости, люди будут обсуждать произошедший прорыв в науке. Что это будет за прорыв, можно предположить уже сегодня. Об этом я и собираюсь рассказать. Так что заголовок — вовсе не кликбейт, и уж тем более не шутка.
Международное исследование чеиырех авторов из Австралии, США и Канады, поданное в январе 2020 на рецензирование, выполнено на стыке физики, информатики и математики, и его название сильно смахивает на Е = mc². Эта 165-ти страничная работа, содержащая 155 формул размером до 6 строк, называется « MIP * = RE».
Рецензировать работу такого объема будут до года. И как считают некоторые весьма авторитетные ученые, она успешно пройдет рецензирование. А после этого начнется большой бэнц. Ведь эта работа не только опровергает пару крутейших современных теорий (одну из физики, вторую из математики). Она еще и открывает новый горизонт будущей науки, которая настолько превзойдет современный уровень, что будет решать задачи, сегодня считающиеся неразрешимыми. Речь идет о расширении границ проверяемых знаний. А точнее, знаний, поддающихся компьютерной проверке.
Современная наука устанавливает горизонт доступных нам проверяемых знаний. Что за горизонтом, — не известно. А чтобы отодвинуть этот горизонт, нужны другие законы физики, описывающие нашу реальность. При ином описании реальности иными законами физики, возможно использование более сложной теории вероятностей с иными, более сложными причинно-следственными связями. И возможно, тогда удастся заглянуть за горизонт проверяемых знаний и, среди прочего, понять, как построить сильный ИИ.
Но ведь у нас уже есть иная физика с иными законами, описывающими нашу же реальность, но с другими причинно-следственными отношениями. Это квантовая теория.
И что — это реально работает и позволяет решать какие-то неразрешимые для современной науки проблемы?
Новое исследование доказывает, что да. Это работает. И еще как!
Неразрешимые проблемы
Дело в том, что в цифровом мире для любой задачи есть два ключевых вопроса.
- Насколько сложно это решить?
- Насколько сложно проверить правильность ответа?
Со сложностью решения можно бороться деньгами, привлекая больше спецов и наращивая вычислительные мощности.
А вот со вторым, увы, это работает не всегда. Т.к. при определенном уровне вычислительной сложности никакие деньги не помогут — проверка правильности ответа становится теоретически невозможной. Иными словами, мы сталкиваемся с неразрешимой проблемой. Следовательно, нам остается лишь смирить гордыню и признать — мы достигли границы проверяемых знаний.
Открытие же, о котором рассказывает этот пост, заключается в том, что
придуман метод, позволяющий проверить ответы на решение задач почти непостижимой и, даже можно сказать — эзотерической сложности.
Вот всем понятный пример такой проблемы.
Проблема остановки.
Еще Алан Тьюринг придумал задачу, которую современные компьютеры никогда не смогут решить. Это т.н. «проблема остановки» (или проблема останова).
Допустим, есть некий алгоритм, записанный в виде программы, и входные данные для нее.
Вопрос: остановится ли эта программа или зациклится и будет выполняться вечно?
Тьюринг доказал, что не существует универсального алгоритма (реализуемого машиной Тьюринга), который мог бы определить, остановится ли компьютерная программа или нет. Вы должны запустить программу, чтобы узнать это.
Но что, если вы запустили программу, и она не остановилась за год, а потом и за 10 лет, и век спустя? Все равно ответа нет. Может она через 327 лет остановится. Или через 100 тыс. лет. А может и не остановится никогда.
Т.е. согласно доказательству Тьюринга,
проблема остановки неразрешима — даже самый мощный современный компьютер не сможет ее решить ни за какое конечное время.
После Тьюринга ученые-компьютерщики начали классифицировать другие проблемы по их вычислительной сложности. И обнаружилось, что есть и другие неразрешимые на компьютерах проблемы.
Интерактивные доказательства
Когда проблемы относительно просты, вы можете проверить ответ самостоятельно. Но как быть с чрезвычайно сложными для проверки задачами?
В 1985 году придумали использовать метод, основанный на логике полицейского допроса. Если подозреваемый рассказывает чрезвычайно сложную для проверки историю, вам нет надобности искать подтверждение каждой детали. Вместо этого, просто задавая правильные вопросы, вы можете поймать своего подозреваемого на лжи или увериться, что он говорит правду.
Допустим, вы дальтоник и вам нужно определить, одинаков ли цвет двух кубиков А и Б или разный (допустим, зеленый и красный).
Сосед утверждает, что кубики разного цвета: А зеленый, а Б красный. Но как определить, не врет ли он? Не ошибается ли? Правильное ли это решение задачи?
И тогда вы используете хитрую процедуру.
- Прячете кубики за спиной и там их тасуете, запоминая при этом, в какой руке окажется в итоге кубик А (по словам соседа, зеленый) и кубик Б (якобы, красный).
- Предъявляете кубики соседу и спрашиваете: в какой руке какой кубик?
- Фиксируете ответ и повторяете снова с п.1.
Если кубики действительно разного цвета, сосед не будет ошибаться (как тут ошибешься: зеленый — он и в Африке зеленый, равно как и красный). Если же сосед дал вам неверный ответ (и на самом деле, кубики одного цвета), он будет ошибочно отгадывать вашу загадку примерно в половине случаев (как с отгадыванием орла или решки при случайном бросании монеты).
С точки зрения информатики, такую схему легко повторить. Взять мощный компьютер для решения задачи — назовем его «Решающий» (Prover). И менее мощный компьютер, который будет задавать вопросы Решающему, чтобы определить, является ли ответ Решающего правильным. Этот второй компьютер назовем «Проверяющий» (Verifier).
Подобные стратегии, получившие название «интерактивные доказательства», позволяют проверять решения задач, имеющих класс вычислительной сложности IP (Interactive polynomial time). Этот класс сложнее класса P (Polynomial time) — такие задачи легко решаются и проверяются (за полиноминальное время). Класс IP также сложнее класса NP — класс проблем, которые легко проверить, даже если некоторые из них трудно решить.
Еще более мощные интерактивные доказательства включают несколько Решающих.
Этот более сложный сценарий похож на допрос в полиции двух подозреваемых, находящихся в отдельных комнатах, которые не могут согласовать свои ответы, чтобы обмануть следователя. Такая схема проверки дает больше рычагов для Проверяющего. Если подозреваемые говорят правду, их ответы большую часть времени будут совпадать. Если же они лгут, ответы будут зачастую конфликтовать.
Такой класс сложности задач называется MIP (Multi-proven interactive proofs). Для него было доказано, что при опросе двух Решающих можно быстро проверять решения большего класса задач, чем при одном Решающем.
Т.о. получилось следующее.
- Множество задач класса сложности MIP самое большое. Оно включает в себя множество задач класса IP.
- Последний, в свою очередь, включает в себя множество задач класса NP,
- А класс NP, в свою очередь, включает в себя множество задач класса P.
Все это было бы хорошо, — но выяснилось следующее.
Класс сложности MIP исчерпывает возможности проверки правильности решений на классических компьютерах.
Проверка правильности решения неразрешимых проблем (типа проблемы остановки) не по зубам даже MIP. Т.е. все неразрешимые для современной науки задачи (включая задачу остановки) так и остаются неразрешимыми.
Мы натолкнулись на границу современной науки. Горизонт доступных нам проверяемых знаний. Что за горизонтом, мы не знаем. А чтобы пересечь границу и попытаться отодвинуть горизонт, нужно изменить законы физики.
Ибо физика определяет реальность.
Изменив законы физики, мы попадем в другую реальность, в которой, например, будет более сложная теория вероятностей.
Имея более сложную теорию вероятностей, мы сможем усложнить причинно-следственные связи и тем самым замахнуться на более высокий, чем MIP класс вычислительной сложности.
И оказывается, подрывная идея лежала под ногами. Просто, если мы исчерпали возможности классических компьютеров для трудно решаемых, но легко проверяемых задач классов P, NP, IP и MIP, надо перейти на квантовые компьютеры.
Теоретически просто. А как на практике?
Осталось понять, как там с возможностями проверки конкретных задач большей сложности.
Запутывание — как средство решения неразрешимых проблем
Квантовая физика открыла нам одно из самых странных и непостижимых разумом явлений — квантовое «запутывание».
В 1935 году (за год до того, как Тьюринг доказал неразрешимость проблемы остановки) Эйнштейн, Подольский и Розен открыли новый закон квантовой физики: две частицы могут быть запутаны или коррелированы, находясь друг от друга на любых сколь угодно огромных расстояниях. Когда две частицы запутаны, они фактически не влияют друг на друга — у них нет причинно-следственной связи.
А раз так, возникает довольно сумасшедшая мысль в контексте стратегий допроса двух подозреваемых.
Что будет, если установить между подозреваемыми квантовую связь посредством запутанности?
На вскидку, кажется, что подобное запутывание будет работать против Проверяющего. Ведь двум подозреваемым легче согласованно лгать, если у них есть способ связи для согласования своих ответов (например, перестукиваясь через стену).
Но оказывается, все наоборот. Запутывание не может обеспечить такую корреляцию показаний подозреваемых, которая бы способствовала их согласованному вранью. А вот следователь может использовать эту корреляцию в своих интересах выяснения истины.
Оказалось, что следователь (Проверяющий), вместо того, чтобы самому задавать вопросы подозреваемым (Решающим), может организовать процедуру так, чтобы подозреваемые допрашивали сами себя. В этом случае запутывание предоставляет фантастическую возможность переложить процесс проверки с Проверяющего на «запутанных Решающих».
Фишка здесь в том, что квантовая механика — это математическая система, не просто описывающая способ взаимодействия субатомных частиц, но и построенная на более сложной версии теории вероятностей.
Этим мы обязаны другому удивительному закону квантовой реальности — принципу неопределенности.
Этот принцип не позволяет нам одновременно знать положение и импульс частицы — если вы измеряете одно свойство, вы уничтожаете информацию о другом. Принцип неопределенности строго ограничивает то, что вы можете знать о любых двух «дополнительных» свойствах квантовой системы.
В случае же «допроса подозреваемых» запутанность позволяет Решающим генерировать взаимосвязанные вопросы, а принцип неопределенности не позволяет им вступить в сговор при ответе на них.
Образно говоря,
принцип неопределенности заставляет Решающих мгновенно забывать свои ответы, и потому они физически не могут вступить в сговор (ведь что сказал каждый из них, они уже забыли).
Прорыв за горизонт
Применение квантовой запутанности нескольких Решающих компьютеров позволяет Проверяющему компьютеру относительно быстро проверять решения более широкого класса задач, чем класс сложности MIP. Этот новый класс сложности, охватывающий и расширяющий все другие уже названные классы, назван MIP *, что означает Multi-Prover Interactive Proof с квантовой запутанностью.
И тут мы, наконец, добираемся до рассказа, почему новое исследование имеет хорошие шансы стать претендентом №1 на «оскара в науке» в 2021.
Во-первых, авторам удалось доказать, что класс сложности MIP * включает в себя все проблемы класса сложности RE. Что, собственно, и следует из названия работы «MIP * = RE».
Но что такое класс сложности RE? А вот что.
Класс RE — это огромное множество задач, названных рекурсивно перечислимыми. А насколько это множество огромно, хорошо определил один из соавторов новой работы Генри Юэн
«Это множество содержит все проблемы, которые могут быть решены с помощью компьютеров, и еще некоторые».
Это значит, что, теоретически, устройство класса MIP * может проверить решение даже неразрешимых проблем, включая проблему остановки. Т.е. если некий универсальный алгоритм способен решить для любой программы, остановится ли она, устройство класса MIP * сможет проверить правильность этого решения.
Звучит фантастически! Но есть огромное сомнение. И даже два.
- Сначала ведь задачу нужно решить, а уж потом проверять.
- Это ведь теоретически, а как на практике, слабо доказать что-то доселе неразрешимое?
А нисколечко, — отвечают авторы. Ща возьмем и решим.
И разрешили две проблемы о том, может ли нечто действительно бесконечное быть представлено его конечным приближением.
Проблемы Конна и Цирельсона
Когда была поставлена задача создания математической модели квантового запутывания, придумали два варианта.
В первом варианте договорились считать частицы пространственно изолированными друг от друга. Например, одна на Земле, а другой на Юпитере. И тогда само расстояние между ними предотвращает любые причинно-следственные связи. Такой вариант математического описания квантовой запутанности представляется моделью тензорного произведения.
Второй вариант более практичный (до Юпитера ведь долететь надо, чтоб туда частицу отвезти). Тогда решили просто считать, что частицы запутываются, если их свойства коррелированы, но порядок, в котором выполняются измерения показателей этих частиц, не имеет значения. Т.е. операции измерения обладают свойством коммутативности (типа, 3 x 2 — то же самое, что 2 x 3). На деле это означает: измеряете частицу A, чтобы предсказать импульс частицы B или наоборот, в любом случае, получите тот же ответ. Эту модель запутывания называли моделью коммутирующего оператора (или коммутирующей операторной — кому как нравится).
А теперь, в чем соль. Обе модели описываются матрицами. Но!
- Модель тензорного произведения использует матрицы с конечным числом строк и столбцов.
- А модель коммутирующего оператора использует матрицу с бесконечным числом строк и столбцов.
Известный математик по имени Ален Конн предположил в 1976 году, что квантовые системы с бесконечным числом измеримых переменных могут быть аппроксимированны более простыми системами с конечным числом измеримых переменных. Это предположение было следствием из т.н. гипотезы вложения Конна.
Эта проблема чисто математическая. Однако спустя 10 лет после Конна «бывший наш» прекрасный физик Борис Цирельсон переложил эту проблему для физики.
Он предположил, что тензорное произведение и коммутирующие операторные модели запутывания примерно эквивалентны. Основанием такого предположения был здравый смысл. Ведь теоретически это два разных способа описания одного и того же физического явления.
Последующая работа подтвердила, что математически, гипотеза о вложении Конна и проблема Цирельсона про одно и то же — может ли нечто действительно бесконечное быть представлено его конечным приближением. Из этого следовало: докáжете гипотезу Конна — решите проблему Цирельсона. И наоборот.
Решали долго. Но так и не пришли к итоговому решению.
А потом появилась работа «MIP * = RE», и как говорится в анекдоте, — “пришел лесник и выгнал из леса и нас, и немцев”.
Неправы оказались и физик, и математик.
Ответ на проблему Цирельсона — нет — т.е. две модели запутанности не эквивалентны.
Ответ на гипотезу Конна — нет — т.е. гипотеза неверна.
Теперь о самом главном
Весь предыдущий текст основан на информации от авторов работы, профильных специалистов и экспертов. Их главные выводы таковы.
Если в результате рецензирования этой работы, ее результаты будут подтверждены, можно будет зафиксировать следующее.
- Преодолён горизонт проверяемых знаний (т.е. знаний, в которых мы абсолютно уверены). Значительно увеличилось число проблем, которые подпадают под категорию «трудно решить, но легко проверить». Насколько увеличилось это число, и где теперь пролегает новая линия горизонта, — пока неизвестно. Но уже ясно, — потенциал возможностей квантовых интерактивных мультипруверов колоссален.
- Замена матмоделей бесконечных систем их конечными приближениями, как многие годы предполагали физики, больше не работает.
- Будут стараться физически реализовать урезанную версию компьютерной системы с квантово-запутанными Решателями. Полная реализация таких систем, вроде как, невозможна, но это еще надо проверять. А первые попытки реализации (на базе транзисторов с квантовой спиновой связью HEMT) уже начались.
Далее следуют мои собственные соображения.
У этой работы есть и 4-ое важнейшее следствие, о котором пока остерегаются писать солидные медиа, и его обсуждают лишь в «курилках» типа Matematics.
Следствие, точнее его логика, — такова.
- Вычислительные машины, имеющие архитектуру фон Неймана,
функционально эквивалентны универсальной машине Тьюринга. - Согласно «Nogo теореме» Пенроуза, сильный ИИ невозможно создать на машинах, идеальной моделью которых является машина Тьюринга.
- Машина, описанная в работе «MIP * = RE», является более мощной, чем машина Тьюринга (за счет чего она и способна решать проблемы, нерешаемые на машине Тьюринга).
Можно ли на основе «MIP * машины» создать сильный ИИ, пока не понятно.
Тот же Пенроуз считает, что сильный ИИ не реализуем и на классических квантовых компьютерах, строящихся на основе вычислимой квантовой физики.
Нужна другая — невычислимая физика, ибо мозг, помимо вычислительной активности реализует невычислимую активность. А без последней человеческий и человекоподобный интеллект невозможны.
Так ли это, точно пока неизвестно. Но если выводы работы «MIP * = RE» подтвердятся, то описанная в ней идеальная модель, превосходящая вычислительные возможности машина Тьюринга, открывает новое окно возможностей.
Что за этим окном? Ведет ли оно к построению сильного ИИ?
Тоже пока неизвестно. Но это шаг за горизонт современной науки.
И даже если ответ будет подобен тем, что уже получены для гипотезы Конна и проблемы Цирельсона — нет, сильный ИИ невозможен на основе вычислимых законов физики — это будет гигантский научный прорыв, стóящий не одного «научного Оскара».
Подробней о новом открытии см. две публикации Кевина Хартнетта в Quantamagazine:
- Computer Scientists Expand the Frontier of Verifiable Knowledge
- Landmark Computer Science Proof Cascades Through Physics and Math
________________________________
Если понравился пост:
- нажмите на “палец вверх”;
- подпишитесь на обновления канала на платформе Medium;
- оставьте комментарий.
Еще больше материалов на моем Телеграм канале «Малоизвестное интересное». Подпишитесь
Оригинал и комментарии
Недалекость хуже короновируса. А она у нас запредельная.
- Самые доходчивые призывы к ограничению контактов и самоизоляции большинством игнорируются (мол, это все паникёры).
- Правительство ограничивается полумерами, как всегда, с лазейками обхода, и потому не достигающими целей (напр. свободное посещение школ и ограничение мероприятий более 5 тыс.)
«Мудрые аналитики» пишут — людей не переделать. И т.к. 100% людей не будут следовать верным рекомендациям, эпидемию не остановить, пока большинство не пройдет через заражение.
Но это не так.
Даже соблюдении лишь 40%-ми населения верной политики на уровне сообществ способно остановить эпидемию, а 60%-ное соблюдение быстро прекращает вспышку.
Подтверждение см. на этой гифке — как останавливает эпидемию политика скрининга сообществ (вместо отслеживания контактов) в сочетании с ограничениями на поездки, провоцирующие контакты между сообществами.
Каждый квадрат — это человек: серые неинфицированы, но восприимчивы к инфекции; желтые инфицированы в латентном периоде и еще не заразны; красные инфицированы и заразны; черные либо умерли, либо выздоровели; а светло-синие изолированы политикой скрининга сообществ.
Цветные блоки — это сообщества: все сообщества начинались как серые; синие прошли период мониторинга и вирус здесь не был выявлен; желтые не имеют активных инфекций, но все еще находятся под наблюдением; и красные имеют инфицированных и заразных людей.
После того, как вспышка началась, проводится скрининг на уровне локальных сообществ. Сначала существует много красных сообществ, но по мере того, как происходит сдерживание, красные зоны становятся окруженными желтым и начинают сжиматься, пока каждое сообщество не станет синим или очищенным.
И конец эпидемии.
История, к сожалению, ничему не учит. А математика — тем более.
Но ведь пример выше — это не гипотетическая модель. Она прошла проверку на вспышка Эболы в Западной Африке в 2014. Именно на этот кейс ссылается Дерипаска в своем обращении.
Остается уповать на гражданскую ответственность.
Самоизолируйтесь.
Оригинал и комментарии
Привет. Уже год я работаю арт-директором в международном маркетинге Яндекс.Такси. Мы запустили сервис в Румынии, Гане, Финляндии, Узбекистане, Израиле и Кот-д’Ивуаре. Это рассказ про Аккру и съемку для банеров в Африке.
Сервис в Аккре уже с лета 2019. В новых странах мы называемся Yango. Новый бренд нужен по одной простой причине — людям тяжело прочитать и выговорить связку Yandex.Taxi. Именно поэтому логотип Yango на борту машин и в рекламе.
Обычно приток новых клиентов обеспечивает перфоманс (банеры в сетках гугла и фейсбука) и сарафанное радио про скидки. Наружную рекламу в странах Африки мы почти не используем, это дорого, ее очень много на улицах и померять эффект при и так растущих поездках сложно. Достаточно брендинга машин и коммуникации с водителями.
Со временем банеры выгорают и их надо обновлять. В декабре мы c Лешей Косилиным запланировали съемку для Африки и составили бриф. В брифе мы детализируем сцены и подбираем персонажей. Кроме стандартных сцен с поездками на работу или в магазин, в Гане, например добавился сюжет про церковь (для местных важно попасть на воскресную службу).
Всего за съемку мы стараемся получить для каждого персонажа 6 планов в 8–10 сценах за два съемочных дня. Такой большой объем нужен для разных компоновок с текстами в форматах (горизонтальный, квадрат и вертикальный для сториз). Ну и чтобы не возникало вопроса, что поставить на новую кампанию.
Из Москвы мы долетели за 16 часов. Ночью Ганна очень красива — россыпь огоньков до горизонта. Для визы понадобилась обязательная прививка от желтой лихорадки, мы ее сделали заранее весной в офисе. Кроме нее я еще сделал от гепатита и менингита. Сертификат об обязательной прививке проверяют прямо в аэропорту по прилету. Без него могут не пустить. В залах стоят тепловизоры, чтобы было видно пассажиров с повышенной температурой (еще до эпидемии короновируса). На континенте совсем недавно были очаги заболевания эболой и SARS, до сих пор есть случаи заболевания полиомиелитом.
После захода солнца появляется много москитов и можно подхватить малярию. Мы об этом не подумали и первые дни просто отмахивались от них. Пришлось, по совету местных, купить репелленты и Коартем (это курс лечения из трех таблеток от малярии) и забрать с собой на всякий случай в Москву. Заболеть можно через несколько недель после укусов.
Вся питьевая вода — в опечатанных бутылках и пакетах с qr-кодом для проверки, другую пить нельзя. Из еды всё есть — жаренное, вареное, разнообразное. Рис, картошка, рис с солью, рис острый, рис с кокосовым молоком (очень вкусный), картошка порезанная кругляшками, батат (на вкус как сладкая картошка).
На улице можно выпить кокос. Свежий — тот, что упал вчера. Через два дня говорят уже не то. Его чистят и наливают в пакет с трубочкой. Но вкус все равно так себе.
Первые два дня— на осмотреться и поиск локаций. Аккра находится на берегу океана. Это столица с плотной, одноэтажной застройкой и деловым центром. Стоит отметить, что такси всегда развивается хорошо там, где плохо развит общественный транспорт. Вечером можно застрять в пробках на полтора-два часа.
Тро-тро — маленькие маршрутные автобусы. Чаще всего они битком набиты, иногда внутри есть дополнительные деревянные табуреты.
В каждом Тро-тро кроме водителя есть зазывала, который всех набивает в салон, протирает стекла и может что-то для вас купить у дорожных продавцов. Дешево и сердито.
Разносят все, что угодно. Яйца, воду, молоко, дыни, хлеб. Это очень красиво и очень тяжело. Обычно в профессию входят еще подростками и долго не бросают.
Кроме Тро-тро ходят и большие автобусы, но реже.
Все кто может себе позволить, предпочитают такси. Кондиционер работает не во всех, и часто это дополнительно оплачиваемая опция.
Поездка по городу обычно стоит 10–15 седи (примерно 140–200 рублей).
Все машины такси должны получить лицензию и покрасить передние и задние крылья в оранжевый цвет. Первое время казалось, что это просто битые машины с новыми крыльями. Каждый водитель старается украсить машину как может. Снаружи:
И внутри:
Первая локация в Джеймс-Тауне. Выбрали церковь. Ищем улицы знакомые местным, без мелких деталей, без разрушенных домов и без рекламы.
Наш локейшен-менеджер Эдвард советует снять старый форт у моря и показывает хорошие места в деловом центре.
Но у форта оказывается сложно получить разрешение на съемку. Одну из тем, выбранных в Москве, про поездки на пляж, приходится выкинуть — местные точно не ездят на такое море. Весь пляж используется рыбаками. Они разделывают и выбрасывают здесь рыбу.
Выбираем для съемок деловой центр города, Университет Ганы, церковь, район вилл, колоритные фоны в Джеймс-Тауне.
Но этого точно не хватает, чтобы снять все сцены. Большинство зданий в плохом состоянии или завешаны рекламой. Мы просто решили покрасить стену за ночь. Эдвард приходит на помощь. 750 седи за покраску и еще 750 седи за то, чтобы ее перекрасили обратно в белый после съемки. Это примерно 20 000 рублей.
Уезжаем на коллбек выбрать моделей. Если на кастинг в Москве приходят вовремя, то в Гане все приходили в течение 3 часов. Котдивуарцы, ганцы, нигерийцы — у всех разные оттенки кожи, формы носов и затылков. Так что слушаем советы местных. Здесь в девичьей красоте очень ценится полнота, пышечки плюс — прям суперлайк. А в парнях — качки постарше. Но мы не хотим в кадре агрессивной привлекательности, ищем обычных, приятных людей.
Начинаем два дня съемок. Самое сложное — это проснуться в 6 утра. В Аккре все просыпаются рано, а заканчивают работу в 16 из-за жары. В 7 утра все на площадке, стилисты отпаривают платья, местные бегают под ногами. Интересно, что muah в Москве может час убирать дефекты кожи моделей и укладывать волосы. Здесь основная задача — каждые 5 минут прикладывать губку к лицу модели, чтобы кожа оставалась матовой.
Одна из первых локаций — рядом с церковью, вокруг нее крошечные домики-коробки, в которых часто спят на полу. Вся канализация течет в канавах вдоль дорог. Чем выше становится солнце, тем тяжелее становится снимать.
Температура поднимается выше 37, но модели не вешают нос. Перемещаемся по городу и снимаем сцены по брифу.
На съемки нам выдали охрану, на всякий случай. Ребята хорошие, всю съемку тупят в телефон. Аккра — один из самых безопасных городов Африки. В Кейптауне, например, после 18.00 вы не сможете выйти вечером одни в город, в любой магазин на вашей улице надо ехать на такси. Вечером таксисты и сами предпочитают не работать.
За ночь стену покрасили, она высохла, можно снимать. Вот, видна в центре.
Ставим экраны. За стеной слева — старый заброшенный голландский форт. Справа — речка и трущебы. Стоит маленькая установка по перегону солярки со сливом чего-то в океан, весь мусор выбрасывают в эту же речку. Местным детям мы сначала показались интересными, но выгуливание коз, тверк и игра в футбол получше будет.
То что надо.
За два дня получается снять пару тысяч кадров, из которых мы отберем 57 и отдадим в ретушь на неделю. Еще через неделю будет готова половина фотографий для перфоманса Yango. А еще через месяц со второй половиной этих кадров мы запустим сервис в новой стране.
Я тем временем успеваю попасть на воскресную службу. Это одно из самых значимых событий. Здесь обсуждают выборы, выпускников университета, зарплаты, поют госпелы. Атмосфера самая дружелюбная, все одеты, как на коктейльной вечеринке, красивые, танцуют и поют. Неделя прошла, нам пора улетать.
Спасибо!
Оригинал и комментарии
Про ужасы жизни в VUCA мире давно говорят на различных бизнес конференциях. Но похоже, никто всерьёз эту концепцию не воспринимал до недавнего времени. Одно дело — интеллектуальная конструкция, а совсем иное — чувственный опыт. Одно дело — рассуждения о том, как хорошо было бы организовать работу удалённых команд. Другое — быть поставленным перед фактом, что теперь все переведены на удалёнку.
В своей книге “Путь к великой цели. История одной экономической идеи”, Сильвия Назар изложила точку зрения на создание Капитала Марксом. Маркс с 1849 года жил в Лондоне и разрабатывал свою теорию. Однако дело не шло. Теория говорила о том, что эксплуатация должна усиливаться и жизнь рабочих становится всё хуже. Но реальность показывала обратное — рабочие хорошо зарабатывали, хорошо питались, могли позволить образование для детей. “Выручил” экономический кризис, разразившийся в 1857 году. Именно этому кризису мы обязаны появлением марксизма. Но я сейчас хочу сказать не о марксизме, а о нашем восприятии теоретической концепции VUCA мира.
Концепцию VUCA придумали военные, когда выяснилось, что управление из центра перестаёт быть эффективным и порой, обходится слишком дорогой ценой. Тактические подразделения и отдельные группы должны получить возможность самостоятельного принятия решений исходя из их понимания своей роли и складывающейся в моменте ситуации. Это серьёзный шаг для военных, ведь требует от людей принципиально иных качеств:
- вместо подчинения приказам, способность самостоятельно принимать решение
- вместо повышение безопасности, принятие риска и ответственности
- вместо поддержания стабильности в отлаженных процессах, активное экспериментирование и
- вместо вещания истин, работа с вопросами
- вместо сокрытия информации, работа в условиях высокой прозрачности
- вместо постановки задач подчинённым, сотрудничество
Почему это так важно? Возьмём, к примеру, ситуацию с массовым переходом многих организаций в режим удалённой работы из дома. Казалось бы, что такого, многие работают удалённо и вполне успешно. Однако, только оказавшись в этих обстоятельствах начинаешь замечать, что реальность соткана из сотен мельчайших привычек и тело реагирует на столь радикальные изменения не так как бы этого хотелось. Как запустить процесс адаптации к изменениям?
В компании Смыслотека мы пользуемся формулой “Осмысление — Проблематизация — Переосмысление”. Эта формула описывает Идею, ведь идея — это шаг развития любой системы. Мир в котором мы живём — это мир реализованных Идей. Есть идея стола, идея велосипеда, идея денег, идея смартфона, идея интернета, идея продукта, вида деятельности, подразделения и даже предприятия. Есть идея работы в кабинете, идея openspace, идея удалённой работы.
Проблема заключается в том, что обычный человек, если он не философ или не методолог, воспринимает свою реальность через фоновое знание. Нас обучают и мы привыкаем, что улицу переходим на зелёный, а на красный стоим. Что продукты можно купить в супермаркете. Что на самолёте можно за сутки добраться в любой уголок планеты. Это прекрасно работает если мир относительно стабилен. Нам нет надобности видеть идеи, вплетённые в ткань реальности.
И когда мир меняется, у нас есть два пути.
- Найти эксперта, который разобрался в сути происходящего и готов объяснить, указать пусть.
- Обрети способность самостоятельно разбираться в сути происходящего.
Считаю, что первый путь хоть и выглядит привычно, хоть и сулит быстрые решения, таит в себе ловушку. Во-первых, при нарастающей скорости изменений, вы только и будете, что тратить время на экспертов. Во-вторых, нет никакой возможности проверить качество идей эксперта, ведь для проверки нужен эталон, которого нет ни у кого.
Второй путь состоит в том, чтобы переосмыслить ситуацию. Но как можно переосмыслить фоновое знание? Его нужно сделать явным через осмысление. Результатом осмысления является модель. Нет готовых рецептов как создавать модели, но мы используем несколько рабочих моделей о которых я писал в этом блоге. Например:
- Сторителлинг глазами технаря
- Целеполагание и проекты трансформации. Модель балансов 0.1
- Пять ключей к проактивному мышлению
Имея модель, можем её проблематизировать — то есть, найти части целого, которые плохо согласуются между собой. Говорить о проблеме нет смысла без чётко определённого системного контекста.
Переосмысление — это построение новой модели из элементов исходной модели, возможно с добавлением небольшого количества новых элементов, и возможно, даже с сокращением набора элементов.
По большому счёту, любая инновация — это переосмысление существующего статус кво. Поэтому формула “Осмысление — Проблематизация — Переосмысление” является гигиенической нормой для мышления в VUCA мире. Инновации перестают быть уделом гиков из гаражей, без инновационного мышления в изменчивом, неопределённом, сложном, неоднозначном мире делать нечего.
Но мало найти решение, важно сделать так, чтобы новое понимание стало достоянием группы. Напомню, что группа по прежнему живёт в мире, созданном фоновым знанием. А значит, даже если вы расскажете о новой концепции, для них теория останется теорией. Помните с чего я начал эту заметку? Нужен чувственный опыт.
Лучший способ донесения новой идеи — провести людей через осмысление ситуации, проблематизацию и переосмысление. Сделать это можно в ходе фасилитационной сессии. Мы даже разработали специальный формат таких сессий — Смыслотон, пройдя через который, участники осмысливают такие сложные понятия, как ценности компании, производственную систему, удалённую работу, бизнес-процессы, новые продукты.
Смыслотон — тимбилдинг со смыслом
Вещественным результатом Смыслотона становятся объясняющие ролики, раскрывающие идеи сложных понятий. Например, таким может быть ролик об организации рабочего пространства дома:
Формат объясняющего ролика фокусирует создателей формулировать идеи коротко, ёмко и ясно. Это требует не малых усилий, но в условиях информационного шума, такие ёмкие сообщения работают значительно лучше чем презентации или тексты. Также хочу обратить внимание, что композиционно, объясняющий ролик также имеет структуру “осмысление — проблематизация — переосмысление”.
В завершение заметки хочу сделать несколько акцентов на тех изменениях, которые принёс в нашу реальность коронавирус:
- Процесс перехода в онлайн радикально ускорился
- Даже если к осени и произойдёт откат к оффлайну, онлайн останется
- В онлайне потребуется другое качество коммуникаций — чтобы идеи и сообщения достигали цели, их нужно будет особым образом упаковывать и снижать цену понимания.
- Переход в онлайн создаёт дополнительную сложность, а значит и дополнительные транзакционные издержки, поэтому потребуются компенсирующие действия по переосмыслению всей деятельности — и тут, возможны прорывы. А двигаться есть куда, согласно исследованию Global Simplisity Index, крупнейшие мировые компании теряют в среднем 10,2% прибыли из-за ненужной сложности.
Если вам откликаются идеи, изложенные в этой заметке и вам бы хотелось освоить версию мышления, которую мы разработали в Смыслотеке, приглашаю оставить заявку на онлайн курс “Кто ясно смыслит, тот ясно излагает”. Первый поток этого курса мы набрали за неделю, практически без рекламы и это была попытка осмысления практики Смыслотеки.
Ясномыслие — проектирование курса
Сегодня мы успели переосмыслить этот опыт, нашли инструменты, позволяющие проводить групповую работу онлайн, успешно запустили работу целой команды в Израиле и готовы поработать с открытым набором, или корпоративным заказчиком.
Регистрируйтесь на курс, если есть вопросы, пишите в комментарии к заметке, или в личку.
Online курс: VUCA-мышление в VUCA-мире / События на TimePad.ru
Как оставаться продуктивным в период турбулентности was originally published in smysloteka on Medium, where people are continuing the conversation by highlighting and responding to this story.
Оригинал и комментарии
Либо от вируса, либо от борьбы с ним
Рекомендую прочесть о ходе и перспективах пандемии.
Каждый из отобранных мною 25ти самых толковых профи генерирует 7–15 ссылок на важнейшие материалы по теме в день. За неделю получается 250–300. Прочесть успеваю, но обобщать не берусь, поскольку сам в этих вопросах не профи.
Поэтому адресую вас к тому, кто берется и делает это, имхо, хорошо — Скотт Александер. Вот его новый отчет с напоминанием не рассматривать написанное, как медицинские рекомендации.
А это, что мне показалось здесь особенно интересным.
1) Борьба 2х стратегий (смягчать или подавлять — см. здесь) продолжается. И похоже, что истина в комбинированной стратегии — периоды подавления чередуются с периодами смягчения. Иначе либо миллионы жертв от вируса, либо — от борьбы с вирусом.
2) Соотношение зарегистрированных и незарегистрированных случаев заражений в разных странах разное (зависит от объемов, политики и гласности результатов тестирования): незарегистрированных случаев примерно в 5–20 раз больше чем зарегистрированных.
3) Перелом наступит раньше появления вакцины (через год или годы), когда появятся миллионы наборов тестов (через несколько месяцев).
4) Не советуют принимать препараты с ибупрофеном и аспирином (тайленол/ацетаминофен и парацетамол пока ОК).
5) Надежды на сезонность (что эпидемия тормозится с потеплением) пока не совсем подтверждается (в Малайзии +35С и 900 официальных случаев).
6) Все приводимые данные о смертности пока сомнительны. Это не значит, что они неверные, но и доверять им сложно. Нужно форсировать тестирование случайных выборок населения.
7) Большинство образованных рационалистов самоизолировались очень рано, — еще до того, как это стало социально приемлемым, и их работодатели согласились позволить им работать из дома.
8) Запрещенный в России ИГИЛ из-за коронавируса инструктирует террористов не ездить в Европу для джихада.
________________________________
Если понравился пост:
- нажмите на “палец вверх”;
- подпишитесь на обновления канала на платформе Medium;
- оставьте комментарий.
Еще больше материалов на моем Телеграм канале «Малоизвестное интересное». Подпишитесь
Оригинал и комментарии
ИИ — это идеология, а не технология
Автономный интеллект не существует, - ни наш, ни машинный
Эта тема куда более долгоиграющая, чем COVID-19. И трудно даже предположить, что случится раньше:
- люди научатся с опережением нейтрализовать потенциальные эпидемии коронавирусов,
- или люди поймут, как устроены и работают интеллект, разум, сознание.
Обе темы пока в тумане. А специалисты лишь спорят, как эти проблемы правильно сформулировать и с какого бока к ним подступиться.
По коронавирусам я не спец. А вот про 2й сабжект кое-что понимаю. И поэтому имею основания предположить, что статья Глена Вейла и Джарона Ланье «ИИ — это идеология, а не технология. По своей сути, ИИ — это опасное убеждение, не принимающее во внимание деятельную роль людей», — важный шаг в прояснении постановки 2й из названных проблем.
Вот конспект этой интересной и важной работы.
- Одна из главных техно-проблем Запада — опасение, что Китай обгонит их в ИИ-гонке из-за тоталитарной централизации ресурсов и беспредела в конфиденциальности данных.
Но что если это не так? Что если это опасение — лишь плод ошибочного понимания концепции ИИ? - Вот уже 10 лет техно-мир воспринимает ИИ исключительно через призму маркетинга — стоит назвать разработку программ термином «ИИ», как она волшебно преображается: на разработку куда охотней дают инвестиции, а пользователи, еще не видя результатов, кричат «хочу такое!»
- Но весь этот маркетинг — обман. ИИ — вовсе не технология (и не спектр технологий). Это одна из множества конкурирующих философий (а если хотите, идеологий), направляющих наше мышление о природе и использовании вычислений.
— Если программа способна отличить кошек от собак, это вовсе не значит, что машина (выполняющая эту программу) научилась видеть.
— Если программа способна переводить, это вовсе не значит, что машина научилась понимать тот или иной язык.
— и т.д. - Без людей, чье умение отличать кошек от собак, переводить с языка на язык и т.д. в виде тысяч и тысяч примеров загрузили в эти программы, они сами бы не смогли научиться ничему. По сути, эти программы — просто автоматизация какой-то деятельности с помощью вложения в машины кусочков интеллекта людей. Но данный метод, однако, сильно зависит от человеческих данных. Например, знаменитый алгоритм генерации текста Open AI прошел обучение на миллионах веб-сайтов, созданных людьми.
- Даже не пытайтесь приводить в пример программы типа AlphaZero, которым не требуются образцы деятельности людей, т.к. одна программа вырабатывает образцы для оценки другой. ИИ без человеческих данных возможен только для узкого класса проблем, которые можно определить точно, а не статистически, или основываясь на текущих измерениях реальности. Обычные примеры — настольные игры, такие как шахматы и некоторые научные и математические задачи. Но даже в этих случаях человеческие команды, использующие так называемые ресурсы ИИ, обычно превосходят автономный ИИ. И потому, хоть самообучаемые примеры могут быть важны, они редки и не представляют собой решение реальных проблем в жизни и деятельности людей.
- Из-за ошибочной недооценки роли людей в ИИ, возникают химерические виды некоммерческой деятельности. Например, недавние исследования показали, что без созданной человеком Википедии ценность поисковых систем резко упала бы (поскольку именно здесь часто можно найти лучшие результаты для релевантного поиска). Но при этом поисковые сервисы рекламируются как передовые примеры уникальной ценности AI. А несчастная Википедия остается нерентабельной некоммерческой организацией, в то время, как поисковые системы являются одними из самых ценных активов современной цивилизации.
- В свете всего вышеназванного, ИИ лучше всего понимать как политическую и социальную идеологию, а не как корзину алгоритмов. Суть идеологии заключается в том, что набор технологий, разработанных технической элитой, может и должен стать автономным ИИ, который, в конечном итоге, заменит (а не дополнит) большую часть человечества.
- Прискорбно, но не удивительно, что лидеры западных технологических компаний и правительств так быстро приняли эту идеологию, поддерживающую интересы гиперконцентрированного богатства и политической власти.
- Однако перспективы совсем не радужные для человечества: расцвет цифрового авторитаризма и AI-driven (ИИ-стимулируемая) новая холодная (как минимум) война.
- Противоположностью такой «маркетинговой идеологии ИИ» может стать «гуманистически-плюралистическая идеология ИИ».
Ее гуманизм в понимании того, что
только люди (а не машины) являются конечным источником и определителем ценностей, от которых, в конечном счете, зависит любой ИИ.
Ее плюрализм в том, что
никакой разум (человека или машины) никогда не будет по-настоящему автономным: все, что мы делаем, зависит от социального контекста, созданного другими людьми, которые определяют смысл того, что мы хотим достичь.
Резюмировать можно так.
Если «плюралистические общества» хотят выиграть гонку не против Китая как нации, а против авторитаризма, где бы он ни возник (в том числе, в их собственной стране), они не могут победить в гонке за развитие такого ИИ, который бросает игру еще до ее начала. Они должны сделать это, победив на своих собственных условиях, условиях, которые являются более продуктивными и динамичными в долгосрочной перспективе, чем иерархическая технократия, как это было продемонстрировано во время Холодной войны.
________________________________
Если понравился пост:
- нажмите на “палец вверх”;
- подпишитесь на обновления канала на платформе Medium;
- оставьте комментарий.
Еще больше материалов на моем Телеграм канале «Малоизвестное интересное». Подпишитесь
Оригинал и комментарии
Как работодателю защитить сотрудников в случае вспышки COVID-19? ВОЗ предлагает список простых мер
Прогнозы экспертов сбываются — мы стремительными шагами приближаемся к пандемии COVID-19. По состоянию на 2 марта, из 193 стран мира подтвержденные случаи инфекции нового коронавируса зарегистрировали на своей территории 68. Только за один день 1 марта к этому клубу присоединились пять стран — Азербайджан, Эквадор, Ирландия, Монако и Катар. Настал момент, когда вероятность появления COVID-19 практически в любом городе стала высокой. Всемирная организация здравоохранения разработала инструкцию для работодателей — список простых мер, направленных на то, чтобы защитить сотрудников в случае вспышки COVID-19 и позволить бизнесу устоять. Публикую сокращенный перевод инструкции ВОЗ. Полный текст здесь.
Как распространяется COVID-19
Когда человек, который болен COVID-19, чихает или выдыхает, в воздух выбрасываются капельки инфицированной жидкости. Капельки попадают на окружающие поверхности и предметы — например, экраны компьютеров, столы, телефоны. Люди могут получить инфекцию, притрагиваясь к зараженным поверхностям или предметам — а затем прикасаясь к глазам, носу, рту. Если человек с вирусом COVID-19 находится к вам ближе, чем на расстоянии один метр, есть вероятность вдохнуть капельки, которые выбрасываются при дыхании и чихании. Иначе говоря, COVID-19 распространяется практически так же, как грипп. Большинство инфицированных вирусом COVID-19 испытывают слабо выраженные симптомы и выздоравливают. Однако у некоторых развивается более серьезное недомогание: им требуется госпитальная помощь. Риск серьезных последствий увеличивается с возрастом. Люди в возрасте после 40 более уязвимы, чем те, которым менее 40. К группе риска относятся также люди с ослабленной иммунной системой и хроническими заболеваниями — например, с диабетом, сердечно-сосудистыми, легочными заболеваниями.
Простые способы предотвратить распространение COVID-19 на рабочих местах
Работодателям рекомендуется начать принимать эти меры сейчас, не дожидаясь момента, когда COVID-19 появится в населенном пункте, где находится их бизнес.
- Позаботьтесь о чистоте и гигиене рабочих мест. Поверхности (например, экраны компьютеров и столы) и объекты (телефоны, компьютерные клавиатуры) должны регулярно протираться дезинфицирующим средством. Почему? Заражение поверхностей, до которых люди часто дотрагиваются, — один из главных путей распространения COVID-19.
- Обеспечьте регулярное и тщательное мытье рук сотрудниками, контрагентами и клиентами. Разместите на виду диспенсеры с антисептиком для рук. Убедитесь, что эти диспенсеры регулярно наполняются. Обеспечьте доступ сотрудников, контрагентов и клиентов к местам, где они могут вымыть руки с водой и мылом. Разместите объявления о необходимости мыть руки. Почему? Мытье уничтожает вирус и предотвращает распространение инфекции.
- Обеспечьте соблюдение правил респираторной гигиены на рабочем месте. Убедитесь, что запасены медицинские маски и/или бумажные салфетки для людей с насморком или кашлем. Убедитесь также, что есть закрытые емкости для использованных масок. Почему? Это предотвращает распространение COVID-19.
- Проинструктируйте сотрудников, контрагентов и клиентов — в случае, если COVID-19 начнет распространяться в вашем городе, каждый, кто испытывает даже слабо выраженные симптомы или небольшую температуру (начиная от 37,3), должен оставаться дома. Сотрудникам необходимооставаться дома (или работать из дома) и в том случае, если они приняли жаропонижающие препараты, которые маскируют инфекцию. Разместите объявления об этом. Передайте сообщение по тем коммуникационным каналам, которыми вы обычно пользуетесь в вашей организации. Подтвердите сотрудникам, что будете считать такое отсутствие отсутствием по болезни.
- Создавайте в вашей организации возможности для удаленной работы. В случае вспышки COVID-19 в вашем городе людям может быть рекомендовано не пользоваться общественным транспортом и избегать людных мест. Создав возможности для удаленной работы, ваша организация продолжит функционировать, при этом сотрудники будут в безопасности.
- Планируя деловые поездки, ознакомьтесь с национальными рекомендациями. Убедитесь в том, что ваша организация и сотрудники в курсе свежей информации о регионах распространения COVID-19.
- Если ваши сотрудники возвращаются из поездки в регион распространения COVID-19, им необходимо в течение 14 дней проверять себя на наличие симптомов и дважды в день измерять температуру. В случае, если у них развивается даже слабый кашель и небольшая температура (выше 37,3), они должны остаться дома, избегать контактов даже с членами семьи (на расстоянии один метр и менее) и позвонить врачу, сообщив о недавней поездке и симптомах.
- Заранее разработайте план действий на случай, если вы заподозрите инфекцию COVID-19 у кого-то из сотрудников.
- Заранее разработайте план ведения вашего бизнеса на случай возникновения вспышки COVID-19 в вашем городе. Этот план поможет приготовиться к возможной ситуации, когда значительная часть сотрудников вашей организации не сможет выйти на работу из-за болезни или карантина. Сообщите сотрудникам об этом плане и убедитесь, что они знают, что делать, если такое произойдет.
Комментарий известного российского инфекциониста, советника директора Центрального НИИ эпидемиологии Роспотребнадзора, академика РАН Виктора Малеева
Стоит помнить, что это общий план действий, который, кстати, пригодится не только на случай вспышки COVID-19, но и, например, эпидемии гриппа. Всемирная организация здравоохранения задала направления. Об их конкретной реализации нужно подумать самостоятельно, исходя из местных условий, устройства рабочих мест и особенностей бизнеса. Разрабатывая такой план, лучше посоветоваться с врачом, пусть и не инфекционистом. Я бы добавил рекомендацию подумать о защите сотрудников из групп риска. Например, если есть возможность, их на время вспышки лучше перевести на удаленную работу.
Другие материалы автора на сайте “Алла Астахова.Ru”
Оригинал и комментарии
Позднее статья будет размещена на сайте “Алла Астахова.Ru”
Оригинал и комментарии
Исследование MIT: вирусы разлетаются в воздухе гораздо дальше, чем думали.
На каждый чих не наздравствуешься. А вот что делать, чтобы не заразиться? Отойти от чихающего в сторонку. Результаты работы ученых MIT — Массачусетского технологического института, опубликованные в журнале Experiments in Fluids, показывают: идти придется далеко.
Исследователи подошли к процессу чихания, используя законы аэродинамики. Раньше казалось, все просто: человек чихнул, брызнули капельки слюны и слизи, в которых находятся вирусы. Если от них увернуться, от инфекции удастся спастись. Однако высокоскоростная съемка добровольцев, согласившихся чихать в лаборатории в порядке эксперимента, показала, что дело обстоит иначе. Оказывается, чихнув, мы «выстреливаем» в воздух не отдельные капли, а плотное облако слюны и слизи в форме шара. Физики назвали его словом «мешок». Под действием сил аэродинамики этот «мешок» сплющивается и в нем появляются прорехи. Затем он распадается на отдельные нити. И только потом нити разбиваются на капли. Все это время взвесь слюны и слизи несется вперед. Как далеко она может залететь? Это зависит от объема легких чихающего, формы его голосового аппарата, вязкости слюны и многих других факторов. Чем более вязкая слюна, тем крупнее капли. Чем мельче капли, тем дальше они могут улететь в «мешке». Исследования, проведенные в MIT, показали: капли размером в 100 микрометров могут пролететь в пять раз дальше, чем считали раньше. А капли размером в 10 микрометров — в целых 200 раз. Среди добровольцев, участвовавших в эксперименте, встречались настоящие чемпионы по чиханию. Именно они во время эпидемии гриппа дальше всего «разбрасывают» вирусы.
Сейчас в MIT создают специальную лабораторию, где в особой камере с климат-контролем подробности процесса чихания изучат еще лучше. На этот раз для участия в эксперименте пригласят и людей с гриппом, чтобы сравнить результаты у здоровых и больных. Свои выводы они обещают донести до эпидемиологов. В результате может оказаться, что существующие противоэпидемические меры при гриппе, основные на старых представлениях, придется изменить.
Другие материалы автора на сайте “Алла Астахова.Ru”
Оригинал и комментарии
Оригинал и комментарии
Сценарий, в котором год уйдет на борьбу с вирусом, а 19 — на закручивание гаек
Сейчас все экспертные ресурсы брошены на текущую аналитику борьбы с пандемией. Всех волнует лишь будущее ближайших месяцев. До того, как мировая пандемия будет остановлена, никому не будет дело «что потом». Посему столь ценны сейчас серьезные наработки пост-пандемийных сценариев, созданных еще в «прежнем мире», когда были время, деньги и возможности этим заниматься. Ибо сейчас их нет, и скоро не появятся.
В мае 2010 The Rockefeller Foundation и Global Business Network выпустили совместный отчет «Сценарии будущего технологий и международного развития».
Он посвящен сценарному исследованию 4-х вариантов развития мира в контексте прогресса технологий и международного развития. Каждый из сценарных вариантов представлял собой один из 4-х квадрантов при пересечении 2-х осей.
- Вертикальная ось: степень политического и экономического размежевания (можно условно назвать «Антиглобализм»);
- Горизонтальная ось: адаптационные способности общества к сохранению устойчивости при сильных изменениях и непредвиденных потрясениях (можно условно назвать «Антихрупкость»).
Первый из сценарных вариантов назывался «LOCK STEP». Это левый верхний квадрант:
- с максимальным уровнем «Антиглобализма» в мире
- и минимальным уровнем мировой «Антихрупкости».
Суть метафорического выражения LOCK STEP в следующем.
Это сценарий «расколовшегося мира», в котором ужесточается правительственный контроль и авторитарное правление, ограничиваются и берутся под контроль инновации, нарастает откат гражданских прав и свобод.
Причиной и катализатором возникновения «расколовшегося мира» в сценарии LOCK STEP становится глобальная пандемия. Однако, причина и катализатор могли быть и другими. Ибо в основе скатывания мира к расколу и авторитаризму, тотальному контролю и принуждению масс «ходить в ногу», слепого подчинения воле невидимых или вполне видимых «отцов», — лежит вовсе не пандемия. Все это лишь результат нарастания в мире «Антиглобализма» и «Антихрупкости».
Как вчера написал об этом Нассим Талеб.
«Нынешняя пандемия — вовсе не черный, а белый лебедь. Это событие, так или иначе, с большой вероятностью должно было произойти. Неизбежность мировой пандемии — следствие структуры современного мира, его чрезмерно возросшей связности и чрезмерной оптимизации. Вот почему правительство Сингапура, которое мы консультировали в прошлом, было готово к такому сценарию с разработанным еще в 2010 году четким планом действий.»
Так что же это был за сценарий, план действий по которому был у Сингапура (а еще у Китая )?
Последовательность событий, описанных в этом сценарии, можно резюмировать так.
- В мире произошла глобальная пандемия нового штамма гриппа, более заразного и смертоносного, чем свиной грипп H1N1 в 2009.
- Даже самые подготовленные к эпидемиям государства не устояли в ходе взрывов национальных эпидемий, когда вирус пронесся по Земле, заразив 20% процентов мирового населения и убив 8 млн. человек всего за семь месяцев.
- Мировая пандемия также оказала смертельное воздействие на экономику: международная мобильность людей и товаров остановилась, что привело к катастрофическому ослаблению многих отраслей и разрыву глобальных цепочек поставок.
- Даже в развитых странах (США и Европа) остановить эпидемию еле смогли. Первоначальная половинчатая политика «решительно отговаривающая» граждан от авиаперелетов и лишь «призывающая» граждан социально дистанцироваться, оказалась смертельно опасной из-за своей мягкости. Она способствовала распространению вируса через границы, порождая все новые очаги пандемии.
- Всего несколько стран проявили способность оперативно справиться с пандемией. И в первую очередь, — это был Китай. Введение правительством Китая жесточайшего обязательного карантина для всех граждан и герметичное перекрытие/закрытие всевозможных границ (внутренних и внешних) спасло миллионы жизней, остановив распространение вируса намного раньше и эффективней, чем в других странах, а потом сделав более быстрым восстановление после пандемии.
N.B. Все 5 вышеописанных пунктов сценария устрашающе похожи на нынешнюю реальность. Ну а дальше в сценарии события развиваются так. - Особенно большое количество людей погибло в не столь развитых странах Африки, Юго-Восточной Азии и Центральной Америки, где вирус распространялся как лесной пожар при отсутствии официальных протоколов сдерживания.
- Во время пандемии национальные лидеры во всем мире усилили свои полномочия и установили герметичные правила и ограничения, от обязательного ношения лицевых масок до проверки температуры тела на входах в общественные места, такие как вокзалы и супермаркеты.
- Но после того, как пандемия закончилась, жесткий авторитарный контроль и надзор за гражданами и их деятельностью остались и даже усилились. Под лозунгом защиты нации от новых глобальных угроз — от пандемий и транснационального терроризма до экологических кризисов и растущей нищеты, — лидеры во всем мире стали закручивать гайки тотального контроля.
- В первые годы после пандемии, идея более контролируемого и более безопасного мира получила широкое признание и одобрение. Граждане охотно отдали часть своего суверенитета и свою частную жизнь все более патерналистским государствам в обмен на большую безопасность и стабильность. Общество становилось все более терпимыми и даже жаждущим нисходящего руководства и надзора, а у национальных лидеров становилось все больше возможностей для наведения такого порядка в стране, который власть считала для себя оптимальным.
- В развитых странах этот усиленный надзор принимал разные формы: например, биометрические идентификаторы для всех граждан и более жесткое регулирование ключевых отраслей, стабильность которых считалась жизненно важной для национальных интересов. Широкое распространение получили следующие техно-новации.
- Сканеры, использующие усовершенствованную технологию функциональной МРТ в аэропортах и других общественных местах для обнаружения ненормального поведения, которое может указывать на потенциальные «антиобщественные намерения».
- Новая диагностика для выявления инфекционных заболеваний. Применение скрининга здоровья также меняется — скрининг становится необходимым условием при выходе из больницы и освобождения из тюрьмы, что успешно замедляет распространение многих заболеваний.
- Технологии дистанционной работы становятся повсеместными.
- Под влиянием растущего протекционизма и нагнетания проблем национальной безопасности страны создают свои собственные независимые национальные и региональные инфосети, на манер китайской. Правительства достигают различной степени успеха в контроле интернет-трафика, но в итоге эти усилия, тем не менее, разрушают «всемирную сеть».
11. Все это продолжается примерно 20 лет. А потом у запаянных национальных котлов начинает срывать крышки. Сначала жахнуло в Нигерии, а потом пошло-поехало. Начался переход к другому сценарию …
Не верьте конспирологам
Целенаправленно извращенный вариант этого провидческого сценария уже начали активно продвигать спецслужбы, распространяя через своих агентов и экзальтированных энтузиастов конспирологическую идею, плодотворно развивающую уже запущенную в Интеренет тему «Глобальная пандемия планировалась давно».
Вот примеры их заголовков.
- «Операция LOCK STEP (она же COVID-19) по переходу к новому рабовладельческому строю началась»
- «Коронавирус родился не в Китае, а в сознании бесноватых хозяев денег»
- «История с коронавирусом — первый акт в процессе построения нового рабовладельческого общества с тотальным контролем населения»
- «Кто создал Коронавирус? Заговоров Рокфеллеров!»
Ссылки не привожу из-за соображений инфо-гигиены. Энтузиасты-конспирологи на этом повышают популярность. Ну а для спецслужб это работа и новые перспективы, аля Операция «Инфекция» (подробней о которой можно прочесть в этом доке из архива ЦРУ).
Главное, в чем нас пытаются сейчас убедить.
Что возврата к прежней жизни после окончания пандемии не будет. Что мир входит в полосу страшных угроз (климатических, террористических, пандемических, энвайронментальных). И поэтому надо забыть о демократии, свободе, правах человека, к которым привыкли за десятилетия, забыть о прежнем уровне жизни. Безопасность — превыше всего. Но она требует жертв.
А заодно еще, как обычно, убеждают и в другом.
Что главный источник всех этих угроз — заговор и козни врагов. И потому нужно сплотиться вокруг мудрого, великого и несменяемого лидера …
Всю эту идиотскую конспирологию и камлания троллей спецслужб даже обсуждать не интересно. Но интересно другое.
Ведь нельзя не признать, что сценарий LOCK STEP:
✔️ в описании развития эпидемии и ее уже просматриваемых («тактических») последствий, — поразительно точен;
✔️ в описании более дальних («стратегических») последствий, — весьма похож на кошмарный вариант будущего, которого хотелось бы избежать.
Именно поэтому и написан данный пост.
А еще потому, что даже если человечеству удастся избежать сценария LOCK STEP, нужно помнить и о других возможных сценариях.
Лишь один из них «CLEVER TOGETHER» позитивный. А два других «HACK ATTACK» и «SMART SCRAMBLE» — может статься, будут похуже сценария LOCK STEP, в котором, надеюсь, мои постоянные читатели признали тот вариант будущего, что я называю «Большой Брат — сына Большого Бога».
Так что шансы у человечества выбраться к позитивному будущему примерно 1 к 3. И это не самые плохие шансы в истории человечества. Было и пох.
Но сначала нужно прорваться через пандемию так, чтобы общими усилиями не расколоть мир по сценарию LOCK STEP.
________________________________
Если понравился пост:
- нажмите на “палец вверх”;
- подпишитесь на обновления канала на платформе Medium;
- оставьте комментарий.
Еще больше материалов на моем Телеграм канале «Малоизвестное интересное». Подпишитесь
Оригинал и комментарии
Тайваньский подход — образец для мира
Сдерживание пандемии и эффективное цифровое общество имеют общую основу
Пандемия COVID-19 стала серьезнейшим испытанием систем управления, социальных и технологических систем многих государств.
- Обе сверхдержавы — Китай и США, — облажались (по-разному, но непростительно сильно) на начальной стадии пандемии.
- Бюрократический и технофобный Евросоюз движется по еще более опасной траектории эпидемии.
- Зато Тайвань выступил в роли супермена.
Про успех Тайваня на начальной фазе эпидемии я уже коротко писал.
Куда более детальный и глубокий разбор причин этого феномена делают Глен Вейл и Джарон Ланье в новой статье «Как гражданские технологии могут помочь остановить пандемию. Первоначальный успех Тайваня — модель для остального мира»
Новая статья продолжает тему предыдущей, о которой я писал вчера.
Речь об альтернативной парадигме (идеологииции/философии) цифровизации мира, цель которой:
✔️ не автоматизация, заменяющая людей,
✔️ а повышение эффективности их коллективной деятельности.
Кейсом новой статьи является подход Тайваня на этапе разгона пандемии — один из, если не самый успешный подход среди всех стран мира. Основанный на слиянии технологий, активизма и гражданского участия, этот подход стал самым сильным иммунным ответом страны на новый коронавирус.
Обмен информацией снизу-вверх, партнерские отношения между государственным и частным секторами, «хактивизм» (активизм путем создание быстро сварганенных, но годных для апробации пилотных версий онлайновых госсервисов) и коллективные действия на основе широкого участия, — были центральными факторами успеха страны в координации согласованных и прозрачных ответов на вызовы коронавируса.
Конкретные примеры читайте в статье. Мне же хочется обратить ваше внимание на особый момент —
что значит подход Тайваня в более широком контексте идеологии (философии) развития цифровых технологий и, естественно, того, что мы называем ИИ.
Обе цифровые сверхдержавы Китай и США имеют технократическое, нисходящее видение будущего, в котором небольшая цифровая элита, сконцентрированная в нескольких технологических центрах и в значительной степени отделенная от проблем остального населения, производит инструменты, предназначенные для использования остальным населения.
И хотя локус этой элиты разный — КПК и технологические центры Западного побережья, —
их логика и мотивация схожи:
✔️ нисходящий надзор за населением, осуществляемый государством;
✔️ движимый рекламой бизнес западных техногигантов.
Зарождающаяся тайваньская модель иная. Она основана:
- не на вытеснении людей из активной деятельности и превращения в поставщиков данных и потребителей цифровых услуг;
- не на тщетных попытках (как пытается делать Европа) ограничить пугающий вред надзора за населением;а на превращении цифровых технологий в инструмент коллективного демократического творчества.
Тем самым Тайвань демонстрирует миру модель, имеющую большие перспективы в продолжающейся борьбе не только с коронавирусом, но и с угрожающим антиутопическим технологическим будущим.
Ведь «Каждая эпоха должна иметь свои утопии. Тем и живем», — продолжаю я этот разговор в сегодняшнем интервью ответственному редактору приложения «НГ-сценарии» Юрию Соломонову.
________________________________
Если понравился пост:
- нажмите на “палец вверх”;
- подпишитесь на обновления канала на платформе Medium;
- оставьте комментарий.
Еще больше материалов на моем Телеграм канале «Малоизвестное интересное». Подпишитесь
Оригинал и комментарии
Будущее эпидемии неясно, но из-за чего она началась уже понятно
Если бы можно было открутить время назад и изменить там хотя бы один из этих факторов, мировая пандемия COVID-19, с большой вероятностью, не произошла. Если же можно было бы изменить оба фактора, — мировой эпидемии точно не было.
Эти факторы таковы.
- Попытки скрыть негативную информацию о происходящем в стране властями Китая.
Как минимум, месячное замалчивание Китаем информации о новом опасном заболевании, а затем еще и месячное запаздывание с введением локдауна в Юхане и отмены авиаперелетов. - Примерно месячное запаздывание с принятием правительствами очевидных мер, препятствующих распространению эпидемии через пассажиропоток авиаперелетов.
Когда эти меры начали предприниматься, вспышки мировой пандемии были уже зарегистрированы в 30 городах 26 стран мира.
Как эти 2 фактора породили мировую пандемию, прекрасно видно на интерактивной инфографике распространения коронавируса от 1го зараженного до сотен тысяч в 26 странах.
Смотрится круче фильмов-катастроф. И лишь одна мысль крутится в голове, пока смотришь.
Как же просто можно было не допустить этого ада!
- Ведь как низко должна цениться человеческая жизнь руководителями КПК, позволившими миллионам (!) потенциально зараженных разъехаться по Китаю в декабре 2019 и январе 2020 (175 тыс. только за один день 1 января)
- Ведь вот как массировано и беспрепятственно зараза разлеталась по миру (толщина линий — общий пассажиропоток, красные точки — инфицированные люди)
- Вот какие очаги пандемии эта зараза успела создать в мире к 31 января
- А вот как расцвели эти очаги всего за месяц, пока не перекрывалось авиасообщение
Всего два фактора
Но слишком дорогая цена у них оказалась в современном суперсвязанном мире, в который г. Юхань вплетен вот так.
А какая могла быть замечательная альтернативная история у COVID-19.
Остался бы в истории лишь очередной зафиксированной и погашенной вспышкой в Китае.
И никакой мировой пандемии…
________________________________
Если понравился пост:
- нажмите на “палец вверх”;
- подпишитесь на обновления канала на платформе Medium;
- оставьте комментарий.
Еще больше материалов на моем Телеграм канале «Малоизвестное интересное». Подпишитесь
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оставить отзыв с помощью аккаунта FaceBook: