Недавние тренды рунета
Новый подход — краудмониторинг сценариев будущего
В конце июня я писал о признаках, сулящих окончание «зимы краудсорсинга»:
- Разгромный проигрыш ЦРУшников и сотрудников прочих разведок непрофессионалам-краудсорсерам в проекте Hunt Challenge 2020.
- Принятие Facebook’ом решения (долго и трудно вырабатывавшегося) попытаться-таки монетизировать коллективный интеллект своих участников на задачах предсказания будущего.
Прошло полтора месяца. И уже можно поделиться впечатлениями об участии в первом значимом проекте «весны краудсорсинга» в области предсказания будущего. Этим проектом стал вовсе не Facebook Forecast, о бета-версии которого я все же скажу ниже пару слов. Речь идет о проекте «Foretell» (предсказатель) Центра безопасности и новейших технологий (CSET) при Школе иностранной службы Уолша в Джорджтауне.
Проект сильный, хотя в нем и нет специальной разведывательной специфики, изрядно впечатлившей меня при взгляде на Hunt Challenge 2020 изнутри. Проект CSET Foretell основан на оригинальной методике — простой и эффективной, как автомат Калашникова. Но прежде чем рассказывать о CSET Foretell, скажу все же пару слов о том, что делает Facebook, и почему там пока не приходится ждать прорывов в практике предсказания будущего.
Facebook пока идет проторенным путем
Платформа Facebook Forecast позволяет организовывать работу сообществ прогнозистов, дающих индивидуальные прогнозы о будущих событиях. В череде множества подобных платформ, создаваемых с конца прошлого века, Facebook Forecast имеет три характерных свойства:
- это чрезвычайно стабильное, простое и удобное мобильное приложение;
- платформа основана на модерируемом краудсосрсинге;
- задача платформы не только генерация прогнозов, но и выявление «суперпрогнозистов» путем рейтингования «репутации» прогнозистов и её учёта при вычислении совокупных прогнозов сообщества.
Очевидно, что ближайшим прототипом Facebook Forecast является проект Good Judgment Филипа Тетлока, уже более 30 лет целенаправленно занимающегося выявлением «суперпрогнозистов» и опубликовавшего результаты своих изысканий в книге «Суперпрогнозирование: искусство и наука предсказаний» (подробней о работах Тетлока см. в моем посте №4 из цикла «ЦРУ создает кентавров для предсказания будущего» и в новой статье Стивена Госсетта).
Итог многолетних исследований Тетлока укладывается в короткую формулу. Суперпрогнозист — это тот, кто (1) показывает хороший результат на тесте Равена (распознавание образов), (2) обладает активным открытым мышлением (активно ищет причины своих ошибок) и (3) отличается когнитивно-рефлексивным мышлением (имеет привычку подвергать сомнению свои внутренние чувства).
В том, что Facebook в проекте Forecast идет путем Good Judgment, легко удостовериться на сайте последнего. И методика коллективного прогнозирования, и состав вопросов весьма похожи. Так что, при всем уважении к Тетлоку и проекту Good Judgment, ждать прорыва в точности прогнозов от Facebook Forecast пока не приходится. И тем не менее, благодаря Forecast у Facebook теперь появляются чрезвычайно надежные опросы, которые он может продавать всем видам организаций, таким как политические группы, рекламодатели и финансовые спекулянты.
Впрочем, Facebook и не скрывает, что это лишь самое-самое начало, и они пока не решили, в какую сторону будет развиваться их проект предсказаний будущего. Время покажет.
А вот следующий проект — совсем другое дело. Это интересно и может быть весьма перспективно.
CSET Foretell — анализ материализации сценариев будущего
Оригинальная методика этого проекта такова.
1. Делается визионерский прогноз сценариев будущего по конкретному вопросу. Его делает человек, работающий над изучением данного вопроса и имеющий в данной области репутацию визионера. В этом прогнозе, помимо самих сценариев, визионер определяет: (1) основные тренды, от развития которых будет зависеть материализация того или иного сценария; (2) набор параметров, характеризующих каждый из трендов (насколько он в данный момент силен).
2. Сообщество краудсорсеров:
- предлагает дополнительные тренды и характеризующие их параметры;
- ведет мониторинг текущих прогнозов состояния параметров, характеризующих тренды.
В итоге получается динамический мониторинг трендов на основе прогнозов их параметров. Результат текущего анализа трендов дает текущую оценку вероятности материализации конкретных сценариев.
Т.е. никакой магии и алхимии. А вполне разумный механизм предсказаний.
Вот метафорический пример.
Допустим, требуется 1го января предсказать, доживет ли конкретных пациент реанимации с COVID-19 до 1 февраля.
Кто-то скажет — это невозможно, ибо вопросы жизни и смерти решаются на небесах. Но можно подойти к вопросу иначе, — с позиций динамического мониторинга трендов на основе прогнозов их параметров.
- Рассмотрим два сценария: (1) пациент выживет и (2) пациент не выживет.
- Тренды: дыхание, состав крови, гемодинамика.
- Параметры: почасовые средние и пиковые значения частоты дыхательных движений, давления, температуры, уровня насыщения крови кислородом, лактата артериальной крови.
Коллективные предсказания параметров, на основе знания динамики их предыдущих значений, обновляются ежедневно. Легко предположить, что результат такого прогнозирования будут весьма точен. И по мере приближения даты прогноза к 1 февраля, прогноз будет становиться все точнее.
А вот уже настоящий пример вопроса CSET Foretell.
Усилит ли авторитарные режимы внедрение систем контроля для борьбы с COVID-19?
Визионерский прогноз сценариев будущего сделан Джеком Кларком из OpenAI, ведущим часто мною цитируемого отличного обзорного блога Import AI (рекомендую).
Кларк считает, что сейчас наибольшую угрозу демократии представляет не противостоящие политические идеологии, а широко доступные недорогие технологии слежки. Пандемия COVID-19 привела к быстрому развитию и внедрению технологий эпиднадзора, которые в настоящее время в основном разрабатываются и продаются авторитарными странами. Использование технологий видеонаблюдения значительно варьируется в зависимости от того, где вы живете. В США относительно мало открытого наблюдения, а в Китае крайне широко используется ультрасовременное наблюдение с использованием технологий ИИ.
Авторитарные страны получают конкурентное преимущество в базовых технологиях слежки, захватывая этот растущий рынок. Чтобы обеспечить себе экономические и политические преимущества, они активно экспортируют технологии наблюдения в развивающиеся страны. Поскольку экономия масштаба снижает цены на эти технологии, демократические страны сталкиваются с растущим давлением, требующим последовать примеру авторитарных стран.
Поэтому, по мнению Кларка, задача второй половины десятилетия будет состоять в том,
чтобы противостоять, казалось бы, непреодолимому распространению элементов авторитарного управления, основанного на слежке.
Сценариев по сути два:
- Системы контроля, внедряемые для борьбы с COVID-19, усилят авторитарные режимы.
- Системы контроля, внедряемые для борьбы с COVID-19, НЕ усилят авторитарные режимы.
В качестве трендов, повышающих вероятность 1го сценария названы такие 5 трендов:
a) НИОКР в области ИИ все больше сосредотачиваются на вопросах, связанных с наблюдением.
b) Правительства увеличивают финансирование НИОКР, связанных с эпиднадзором.
c) В демократических странах растет озабоченность нарушением приватности.
d) Увеличиваются доли Китая на мировых рынках, связанных с наблюдением, а также доли профессионалов и исследовательских групп, работающих в данной области.
e) Проталкивание правительствами приложений, связанных с наблюдением и контролем.
Для каждого из трендов определены от 2 до 5 измеримых параметров, по которым можно судить, нарастает ли тренд и насколько быстро.
Вот пример 1го тренда — НИОКР в области ИИ все больше сосредотачивается на вопросах, связанных с наблюдением.
О динамике этого тренда предлагается судить по двум параметрам:
- число научных публикаций в области компьютерного зрения;
- объем инвестиций, получаемых компаниями, занимающимися распознаванием лиц.
Участник должен оценить первый параметр — процент публикаций arXiv в области компьютерного зрения от общего числа публикаций во 2-м полугодии 2020. Перед принятием решения участнику предлагается информация к размышлению — как менялась доля публикаций arXiv в области компьютерного зрения за последние 5 лет.
Познакомившись с историческими данными, нужно сделать прогноз, распределив 100% между пятью вариантами ответа: от менее 30% до более 39%. После того, как прогноз сделан, участнику показывается динамика и текущее состояние коллективного прогноза (на картинке ниже справа).
Из диаграммы видно, что подавляющее число участников (64% = 31% + 33%) считает, что доля публикаций в области компьютерного зрения во 2-м полугодии 2020 увеличится и составит 30–36%. Далее участника спросят, с какой периодичностью он предполагает обновлять свой прогноз с тем, чтобы присылать ему напоминалки.
Второй параметр для оценки тренда — это суммарный объем инвестиций, получаемых компаниями, занимающимися распознаванием лиц. Перед принятием решения участнику предлагается такая информация к размышлению о том, как менялся объем инвестиций, получаемых компаниями, занимающимися распознаванием лиц за последние 12 лет.
Познакомившись с историческими данными, нужно сделать прогноз, распределив 100% между пятью вариантами: от менее $200 млн. до более $1,1 млрд. После того, как прогноз сделан, участнику показывается динамика и текущее состояние коллективного прогноза.
Из диаграммы видно, что наибольшее число участников (21%) считает, что объем инвестиций увеличится и составит от $200 млн. до $500 млн. Как и после предыдущего прогноза, участника спросят, с какой периодичностью он предполагает обновлять свой прогноз с тем, чтобы присылать ему напоминалки.
Т.о. текущий прогноз состояния 1-го тренда говорит в пользу сценария, согласно которому системы контроля, внедряемые для борьбы с COVID-19, усилят авторитарные режимы.
И кстати, я с интересом отметил, что мои прогнозы обоих параметров для этого тренда совпали с прогнозами большинства участников.
Как видите, методика предсказаний CSET Foretell довольно проста, но эффективна. Набор прогнозов также куда интересней, чем на платформах Facebook Forecast и Good Judgment.
Например:
✔️ Три возможных сценария мира в 2025 года, формируемые сегодняшними действиями политиков.
✔️ Каково будет влияние COVID-19 на развитие машинного обучения?
✔️ Угрозы для демократии, исходящие от технологических компаний.
За каждым из вопросов — интересный визионерский прогноз, а также историческая и текущая динамика трендов и определяющих их параметров. Глядишь, и поймем, куда ветер дует по мере материализации различных сценариев.
Буду держать интересующихся в курсе.
________________________________
Если понравился пост:
- нажимаете на кнопку аплодисментов, — автору будет приятно :-)
- подпишитесь на обновления канала на платформе Medium;
- оставьте комментарий.
Еще больше материалов на моем Телеграм канале «Малоизвестное интересное». Подпишитесь
Оригинал и комментарии
Новость в том, что в политике люди оказались столь же нерациональны, как и в экономике. В результате этого, политический раскол провоцируют не «злобные элиты», а сам народ своей нерациональностью.
События в Беларуси начинают все более напоминать Венесуэлу (Лукашенко в роли Мадуро, а Тихоновская в роли Гуайдо). Позиции политических противников все более поляризуются. И это вполне соответствует глобальному тренду политической поляризации, наблюдаемому в большинстве демократических стран. И США, между прочим, в этом тренде явный лидер.
Казалось бы, что может быть общего в столь разных обществах, следствием чего становится нарастающий политический раскол? Похоже, ответ найден — человеческая нерациональность в принятии политических решений.
Нобелевскую премию 2017 получил профессор Чикагского университета Ричард Талер за «вклад в изучение поведенческой экономики». Нобелевский комитет отметил, что исследования Талера «создали мост между экономикой и психологическим анализом индивидуальных решений». Эти исследования показали:
экономический выбор людей зачастую нерационален. Эта, мягко говоря, ограниченная рациональность, в основе которой социальные предпочтения, эмоциональные и когнитивные факторы, — сильно влияет на принятие людьми экономических решений.
Новое открытие, имхо также тянущее на Нобеля, переносит выводы Талера с экономики на политику. Только что опубликованное исследование «Why are U.S. Parties So Polarized? A “Satisficing“ Dynamical Model» показывает,
что при голосовании на выборах люди не рациональны, а вместо этого руководствуются принципом «разумной достаточности».
Но это, как говорится, цветочки. А ягодки — это нарастание раскола (следствие такого принципа выбора).
Второй удивительный вывод исследования — объяснение неразрешимого доселе вопроса, почему в демократических странах неуклонно растет политическая поляризация. Оказывается, тренд на поляризацию идет не от элиты (политических партий), а от самого народа. Будучи нерациональными, люди вовсе не пытаются максимизировать собственную выгоду, а предпочитают голосовать (или не голосовать), особенно не заморачиваясь. Такой нерациональный выбор заставляет конкурирующие партии менять стратегию борьбы за голоса. И вместо смещения к политическому центру (стратегии — выгодной для партий в случае «рациональных избирателей»), позиции партий все более поляризуются. Такая политическая стратегия оказывается максимально эффективной, когда имеешь дело с «нерациональными избирателями».
Трактовка общества, как «рациональных избирателей», лежит в основе большинства политических моделей демократии. Например, модель, предложенная в 1950-х годах экономистом Энтони Даунсом, популярна благодаря своей простоте. Но беда в том, что эта модель в одном важном моменте не соответствует эмпирическим данным. Модель Даунса предполагает, что голосуют все, а избиратели выбирают кандидата, идеологически наиболее близкого их мнению. Такое предположение кажется достаточно логичным. Однако модель предсказывает, что политические партии должны со временем смещаться к центру политического спектра, чтобы получить наибольшее количество голосов. А в жизни все с точностью до наоборот. И США здесь отличный пример, т.к. здесь нарастание раскола неуклонно происходит с середины 1970-х.
Предложенная в новом исследовании модель отменяет рациональность выбора избирателя.
Средний избиратель особенно не заморачивается с расчетом потенциальных выгод от своего выбора, а просто следует принципу «разумной достаточности»:
- если он доволен кандидатом, то отдает ему свой голос;
- если его на вскидку устраивают любой из кандидатов (или просто влом разбираться, программа какого из них принесет избирателю больше пользы), то голосование проводится по методу «орёл или решка»;
- а если его не устраивает ни одна из сторон (или ехать на голосование с дачи сильно не хочется), он просто забивает на выборы и не голосует.
Тестовые прогоны такой модели, где избиратели следуют не рациональной стратегии, а принципу «разумной достаточности», выявили оптимальную стратегию борьбы за голоса избирателей.
Исследователи обнаружили, что политические противники увеличивают вероятность получения голосов, когда они идеологически уходят как можно дальше от середины политического спектра.
Вот и всё объянение нарастания поляризации в демократических странах.
Получается, что Homo оказался не такой уж sapiens не только в экономике, но и в политике. И с рацио у людей явные проблемы.
Что же до русских людей, то у нас принцип «разумной достаточности» вообще главный.
«И так сойдет» — это точно про нас.
И в экономике, и в политике, и ….
________________________________
Если понравился пост:
- нажимаете на кнопку аплодисментов, — автору будет приятно :-)
- подпишитесь на обновления канала на платформе Medium;
- оставьте комментарий.
Еще больше материалов на моем Телеграм канале «Малоизвестное интересное». Подпишитесь
Оригинал и комментарии
✔️ Сегодняшнее обновление «Оценки истинных инфекций» (отчет самого продвинутого моделирования распространения пандемии в США)
✔️ в сочетании с вышедшей на прошлой неделе в Science статьёй о перекрестно-реактивном иммунном ответе Т-клеток
позволяют сформулировать три главные фактора в динамике пандемии, о таинственных механизмах которых человечество уже догадалось, но доказательно объяснить их пока не может.
1) Скорость распространения коронавируса сильно растет (в США с 300 тыс. кейсов в день в марте-апреле до 450 тыс. в июне-июле), а летальность (IIFR) резко падает (с 1% в марте до 0,6% в мае до 0,25% в июле). Причины и того, и другого дискуссионны. Предполагается, что 1е — следствие ослабления государственных мер сдерживания и снижения страха населения перед вирусом, а 2е — результат снижения среднего возраста инфицируемых, улучшения лечения и более раннее выявления.
2) Выявлен порог «эффективного коллективного иммунитета», составляющий 10–35% населения. Его достижение не останавливает передачу вируса, но явственно её замедляет. Значительная гетерогенность (неодинаковость) этого порога в разных странах объясняет, почему показатели пандемии в разных регионах столь разительны.
3) Также выявлена значительная гетерогенность Т-клеточного иммунного ответа населения по отношению к SARS-CoV-2 — разные популяции с разной демографией, демонстрируют разные уровни перекрестно-реактивного Т-клеточного иммунного ответа (особый вид иммунитета, уже выработавшегося у части населения, ранее зараженного предыдущими простудными коронавирусами).
Из этих трех ключевых и пока таинственных факторов следуют три важных практических вывода.
A. Гипотеза Фристона о «темной иммунной материи» (сначала обсмеянная эпидемиологами) подтверждается.
B. 2я волна COVID-19 там, где 1я волна была высока (Нью-Йорк, Москва и т.п.), будет существенно ниже (т.е. история «Испанки», когда 2я волна впятеро перекрыла 1ю, не повторится)
C. 1й волне вакцин будет намного легче остановить пандемию. Даже посредственные вакцины, даже при бессистемном их применении, даже в условиях «вакцинных войн» с вакциноскептиками, — все равно способны довольно быстро обеспечить защиту населения.
К похожим выводам пришёл и Дэвид Уоллес-Уэллс из Intelligencer, назвавший свой вчерашний подробный анализ «Хорошие (но не отличные) новости о Т-клетках и коллективном иммунитете».
________________________________
Если понравился пост:
- нажимаете на кнопку аплодисментов, — автору будет приятно :-)
- подпишитесь на обновления канала на платформе Medium;
- оставьте комментарий.
Еще больше материалов на моем Телеграм канале «Малоизвестное интересное». Подпишитесь
Оригинал и комментарии
Эволюция считает — Китай
Мягкие рекомендации без вмешательства в экономику? Или жесткие ограничения и локаут?
Ответ на этот вопрос — самый важный для человечества в контексте не только пандемии COVID-19. Ведь эта пандемия, к сожалению, далеко не последняя и, скорее всего, не самая опасная.
Но окончательного ответа пока нет, хотя всё большее число людей склоняются, что Шведский опыт оказался верным.
Так теперь думают не только завзятые коронаскептики, типа Майка Уитни. Он еще в апреле объявил, что «Швеция права. Экономику следует оставить открытой», а в июле подвел итог «Похоже Швеция все таки была права».
Сегодня даже умудренные и взвешенные комментаторы среди визионеров науки также склоняются ко мнению коронаскептиков. Например, всемирно известный российский междисциплинарщик (физика, астрофизика, космология, квантовая теория, теория эволюции, большая история, проблема SETI, искусственный интеллект, методология науки) Александр Дмитриевич Панов, так отреагировал на последнюю статью Майка Уитни:
«Реакция мира на пандемию коронавируса была неадекватной, как теперь уже ясно из опыта Швеции».
Спорить бессмысленно. И у коронаскептиков и у коронаэнтузиастов свои аргументы. И обе стороны убеждены в правоте именно своей аргументации. Хотя, казалось бы, позиция коронаэнтузиастов шатается. Начинает казаться, что против них здравый смысл, если смотреть статистику смертности. Она падает в обеих странах (а в Китае даже норовит снова подняться), хотя жесткость мер сдерживания в них была несравнима.
Кроме того, открытая Карлом Фристоном вирусная «темная материя» тоже будто бы работает на коронаскептиков. Ведь возможно, для 80% населения COVID-19 вообще не страшен.
Кабы то ни было, но позиция коронаскептиков крепчает. В апреле Майк Уитни лишь предполагал:
«Шведский эксперимент демонстрирует, что есть способ справиться с этими беспрецедентными проблемами общественного здравоохранения без безрассудного навязывания государственной политики полиции и без нанесения непоправимого вреда экономике».
А в июле приговор Уитни окончателен и обжалованию не подлежит.
«Это означает, что Швеция с самого начала была на правильном пути и быстро возвращается к нормальной жизни, в то время как США все глубже погружаются в кризис своего собственного производства».
И действительно. Если исходить из сопоставления статистики смертности с экономическим и косвенным ущербом здоровью населения, получается будто Швеция права.
Однако, на стороне коронаэнтузиастов играют два супер-игрока высочайшего уровня: эволюция и математика.
И это заставляет усомниться в правоте коронаскептиков. Ибо оказывается, что эволюция следует стратегии Китая. А математика дает исчерпывающее подтверждение оптимальности именно этой стратегии.
О козах и верблюдах
Как эволюция учитывает мультипликативные риски
Скотоводы на засушливом севере Кении держат в своих стадах смесь коз и верблюдов. Это кажется экономически нерационально, поскольку козы размножаются втрое быстрее и тем самым обеспечивают куда более быстрый рост стада в ближайшей перспективе. Но держа смесь коз и верблюдов, скотовод снижает изменчивость роста из года в год. А это повышает шансы на выживание его семьи.
Ибо это, по сути, азартная игра, в которой вероятность выживания является функцией потребления домашних хозяйств. При этом, мультипликативный процесс такой эволюционной игры стремится исключить возможности катастрофического проигрыша.
Держать помимо коз еще и верблюдов заставляет эволюция. Кенийские скотоводы потому и выжили в течение тысяч лет, т.к. не допускали никакой возможности «влезть в долги» перед эволюцией. Если вымрешь, обратного пути нет, и долг эволюции уже не отдашь. А чтобы семье не вымереть, нужно помимо выгодных для разведения коз, держать и невыгодных для разведения верблюдов. Семьи, которые держат верблюдов, имеют несравнимо большую вероятность длительного существования. Приученные эволюцией, кенийские пастухи не задаются вопросом о том, какова вероятность супер-засухи, при которой может погибнуть 100% поголовья коз. Для скотовода достаточно понимать, что такая вероятность существует, даже если подобного не помнит тысячелетняя история его рода.
Даже если такого вообще никогда не было, скотовод ежегодно перестраховывается от появления «черного лебедя» и держит в стаде число верблюдов, позволяющее семье не вымереть, даже если вымрут все козы.
Эволюция заставила кенийских пастухов твердо усвоить урок единственно работающей стратегии выживания. В отличие от бизнеса или правительств, семьи не могут влезать в эволюционные долги — ведь нет никакого пути назад, если случится вымирание.
Вопрос о том , как биологическое выживание соотносится с экономическим выбором, лежит в основе новой статьи «Максимизаторы выживания используют пессимистическое взвешивание вероятности при принятии рискованных решений», опубликованной в журнале Evolution Human Sciences Майклом Прайсом, антропологом и специалистом по прикладным аспектам сложности Института Санта-Фе, и Джеймсом Холландом Джонсом, биологическим антропологом и адъюнкт-профессором Стэнфордского отделения наук о земных системах.
Вопрос схожести и различии между эволюционными и экономическими стратегиями поставлен давно. Многие исследователи пытались приравнять экономическую идею максимизации полезности — удовлетворения, получаемого от потребления блага — к эволюционной идее максимизации приспособленности, проявляющейся в долгосрочном репродуктивном успехе. В течение десятилетий в разных научных дисциплинах считалось, что полезность просто эквивалентна приспособленности. Но это уподобление оказалось ошибочным.
Человеческий мозг эволюционировал так, чтобы решать проблемы, избегая т.н. нулевого результата (вымирания).
На первый взгляд, в кенийском примере смешанного скотоводства нет ничего нового и удивительного, — кажется, что они просто диверсифицируют риск. Но здесь есть нечто, куда более важное. Рост этих стад, как и любой биологический процесс роста, является мультипликативным, а скорость роста — стохастической. Тогда как большая часть экономических процессов аддитивна — стоимость стада, как и его полезность добавляются во времени. В отличие от аддитивной экономики, эволюционная приспособленность мультипликативна и поэтому не может допускать обращения в ноль (вымирание — умножение на ноль не имеет обратного хода). Размер стада кенийца в следующем году по существу равен размеру стада в этом году, умноженному на чистый коэффициент рождаемости. Если в этом уравнении когда-нибудь будет ноль — засуха убьет все стадо коз, — это станет катастрофой, которую скотник и его семья могут не пережить.
Мультипликативные факторы определяют эволюционную приспособленность — долгосрочное выживание семьи. Выжить любой ценой! Этот эволюционный приоритет оказывается выше любого экономического приоритета.
Как показало новое исследование, стратегия, обеспечивающая выживание, благоприятствует “пессимистическому взвешиванию вероятности “ — выбору менее прибыльных верблюдов, несмотря на непосредственный потенциальный выигрыш содержания коз. В долгосрочной перспективе это может “упустить выгоду”, но зато это позволяет людям остаться в эволюционной игре.
В жизни оптимальный уровень взвешивания зависит от конкретных условий окружающей среды. Более того он изменяется по мере изменения условий «азартной игры» выживания. Однако, авторам удалось доказать, что независимо от деталей оптимальное взвешивание вероятности основано на «пессимистическом взвешивании вероятности».
Если некий катастрофический для выживания фактор в принципе возможен (хоть с какой-то мизерной вероятностью), эволюция придает этому фактору высочайший вес. Тем самым избегая потенциального риска вымирания.
Иными словами, эволюция предпочитает следовать «принципу предосторожности» (Precautionary Principle).
С эволюцией понятно. Нам же осталось понять, насколько это применимо к пандемиям и конкретно к пандемии COVID-19. И как показало опубликованное на прошлой неделе другое исследование, применимость стопроцентная.
О черных лебедях и толстых хвостах
Что значит “принцип предосторожности” для пандемий
Исследование «Об одноточечных прогнозах для толстохвостых переменных» является заключительным аккордом в серии научных работ на эту тему трех соавторов: Нассим Талеб, Янир Бар-Ям и Паскуале Сирилло. Можно сказать, что эта работа резюмирует наработки авторов в области исследования «черных лебедей», прячущихся в толстых хвостах распределений (см. «Чем “толще хвост», тем сильней он “виляет собакой”»). Причем это резюме сделано на примере пандемии COVID-19.
Авторы исследуют ключевые свойства толстохвостых мультипликативных процессов с катастрофическими системными рисками. Тем самым они подводят математическую базу под результаты рассмотренного выше исследования Майкла Прайса и Джеймса Холланда Джонса. Центральным вопросом исследования Талеба, Бар-Яма и Сирилло является тот же вопрос, что был поставлен двумя антропологами —
как биологическое выживание соотносится с экономическим выбором.
Основные выводы исследования «Об одноточечных прогнозах для толстохвостых переменных» таковы.
1. Прогнозирование одиночных переменных в областях с толстым хвостом противоречит как здравому смыслу, так и теории вероятности.
2. Пандемии — это чрезвычайно толстохвостые события c потенциально разрушительным хвостовым риском. Любая модель, игнорирующая это, неизбежно ущербна.
3. Наука состоит не в том, чтобы делать одноточечные прогнозы, а в том, чтобы понимать свойства изучаемого (которые иногда могут быть проверена с помощью одноточечных оценок и прогнозов).
4. Рациональное управление рисками связано с экстремумами, хвостами и их полными свойствами, а не со средними значениями, основной частью распределения или наивными оценками.
5. Наивные методы доказательств, аля «печенья-гадания», не работают при управлении рисками вероятностных распределений с толстыми хвостами, поскольку отсутствие непосредственных доказательств может играть огромную роль в определении свойств.
6. Существуют механизмы обратной связи между прогнозом и реакцией на него, которая влияет на обоснованность некоторых прогнозов.
7. Индивидуальные риски не переводятся в системные риски при мультипликативных процессах.
8. Никогда не следует рассматривать “издержки” смягчения последствий без учета издержек болезни, поскольку в некоторых случаях наивный анализ затрат и выгод терпит неудачу (и так бывает наверняка, если статистические средние значения неконвергентны или недействительны для оценки хвостовых рисков).
9. Исторически сложилось так, что после Великой чумы, экономика была менее уязвима к пандемиям, будучи оснащенной механизмом учета издержек политики сдерживания (карантина). Поэтому имеет смысл скорее винить чрезмерную оптимизацию, чем реакцию на болезнь.
Эти выводы можно собрать в три генеральное обобщение.
А) Для вопросов выживания, имеющих системный характер, при наличии мультипликативных процессов (типа пандемии), требуется не «доказательство причиненного вреда”, а “доказательство отсутствия вреда”.
Б) Для толстохвостых мультипликативных процессов с катастрофическими системными рисками (типа пандемий) традиционный анализ «затрат-выгод» неприменим.
В) Экономику и пандемию неверно рассматривать, как отдельные независимые элементы, а поиск компромисса между экономическими издержками и мерами по смягчению пандемии наивен и ошибочен.
Резюме исследования весьма созвучно основному посылу моего поста «Большое откровение. Что явил миру джокер постнормальной пандемии».
«Мы живем в чрезмерно сложной оптимизированной среде, в которой небольшое падение продаж или изменение в потребительских предпочтениях могут вызвать цепочку разрушительных коллапсов. Эта нелинейность делает наш мир подобным огромному кинотеатру с маленькими дверьми при возникновении пожара. Поэтому более обоснованно винить в катастрофе чрезмерно оптимизированную экономическую структуру, а не общую реакцию людей, правительства или бизнеса на пандемию и меры по ее сдерживанию».
Так что же мы узнали на опыте этой пандемии? — спрашивают авторы. И отвечают так.
Что разумное применение принципа предосторожности состоит в следующем.
«Мудрое решение является здравым как в перспективе, так и в ретроспективе, как в умении предвидеть риск, так и в способности осознать, оглядываясь назад, какого риска удалось избежать».
Так что нас ждет?
Ответ на этот вопрос, по большому счету, зависит от двух факторов.
✔️ Готово ли человечество к осознанию того, насколько сильно изменился мир — насколько он стал сложен, взаимосвязан, хрупок и нелинеен.
✔️ Готовы ли правительства руководствоваться не экономическими, а эволюционными стратегиями. Не наивным анализом затрат и выгод, а пониманием, что взять в долг у эволюции себе дороже.
Мы не знаем будущего, потому что оно не предопределено. В нем возможны самые разные варианты.
- Например, последствия COVID-19 могут оказаться куда страшнее, чем предполагается. Чего стоят, например, обнаруженные изменения головного мозга у 55% пациентов с COVID-19, выявляемые в одинаковой мере у людей, перенесших тяжелые и легкие формы заболеваний.
- И что будет, когда при очередной пандемии показатель смертности окажется сильно выше, чем у COVID-19. Ведь Китай тогда будет иметь абсолютное преимущество перед Швецией, если станет вопрос не о компромиссе потерь от локаутов и от смертности, а о выживании нации.
Вспомнят ли тогда люди о том, что они знали еще при Аристотеле, а потом забыли. О фронезисе — «практической мудрости», позволяющей быстро сообразить, что в данной ситуации хорошо, а что плохо.
И о том, что еще до Христа знали кенийские скотоводы, — что брать в долг у эволюции нельзя. И нет смысла гадать, насколько мала вероятность катастрофы, грозящей потенциальным вымиранием. Если системная катастрофа возможна в принципе, есть лишь одна верная эволюционная стратегия выживания — считать, что этот гипотетический наихудший прогноз имеет максимальный вес при оценке риска… И срочно бежать на рынок, чтоб обменять часть своих коз на верблюдов.
________________________________
Если понравился пост:
- нажимаете на кнопку аплодисментов, — автору будет приятно :-)
- подпишитесь на обновления канала на платформе Medium;
- оставьте комментарий.
Еще больше материалов на моем Телеграм канале «Малоизвестное интересное». Подпишитесь
Оригинал и комментарии
Данные — это новый мусор
Объемы данных не дают стратегических преимуществ
Китай и США сделали ставку на военные приложения ИИ. Причина этого кажется очевидной и политикам, и военным. Все они повторяют мантру из книги «Супердержавы ИИ» Кай-Фу Ли —
«В век ИИ, когда данные — это новая нефть, Китай — новая Саудовская Аравия».
Но реальность гораздо сложнее. Все далеко не так просто в обретении военного превосходства в ИИ-системах.
Новый отчет CSET не открывает новых истин, а всего лишь резюмирует :
объемы данных имеют такое же значение для обретения военного преимущества, как объемы производимого страной мусора.
Кому придет в голову делать вывод о национальном технологическом превосходстве, если страна — мировой чемпион по мусору? А ведь с данными еще хуже, ибо данные грязнее любого мусора.
Отчет резюмирует.
- Объемы необработанных данных вообще не о чем не говорят.
- Ценность имеют лишь очищенные, преобразованные, маркированные данные, оптимизированные для обучения конкретными алгоритмами машинного обучения.
- Коммерческие данные из п. 2, хотя и полезны, но мало актуальны для военного оперативного ИИ. Данные подбираются под конкретные задачи, а ценность коммерческих данных и моделей машинного обучения для военных приложений крайне мала.
- Синтетическая генерация данных (типа той, что делал DeepMind для триумфа AlphaZero в настольных играх), будучи сделана с умом, в тысячу крат ценнее, чем горы данных, произведенных 1.4 миллиардом китайцев, звонящих по телефонам и оплачивающих покупки онлайн.
Ключевой вывод отчета:
будущее ИИ (и в том числе военного ИИ) не в больших данных.
А политикам, военным (да и бизнесменам) пора понять
«супердержавой ИИ» станет не страна с горами мусорных данных. А страна, что научится превращать их в еду, питье, энергию и стратегическое военное преимущество.
Китай и США в этом пока не сильно преуспели. И в этой игре никто не проиграл, пока никто не выиграл.
________________________________
Если понравился пост:
- нажимаете на кнопку аплодисментов, — автору будет приятно :-)
- подпишитесь на обновления канала на платформе Medium;
- оставьте комментарий.
Еще больше материалов на моем Телеграм канале «Малоизвестное интересное». Подпишитесь
Оригинал и комментарии
«Люди живут в мире мифов. Мифы формируются на основе личного опыта или извлекаются из той среды, в которой человек живет… Мифологично не только бытовое знание. Научное знание столь же мифологично… Жрецы науки поддерживают миф о всесильности науки. Часть из них делает это искренне, веря в миф о всесильности, а остальные не утруждают себя критикой того, что дает им право на работу и высокое положение в развитом обществе».
Эти слова основоположника советской школы искусственного интеллекта Дмитрия Александровича Поспелова написаны в 1997 году. На тот момент искусственный интеллект (ИИ), как самостоятельное научное направление существовал уже более четверти века. И тогда казалось, что будущее данного направления за интеллектуальными системами для правдоподобной аргументации, концептуальными моделями предметных областей, порождением объяснений и пониманием текстов, поиском релевантных знаний и построением интеллектуальных обучающих систем на основе метазнаний. Об этом Д.А. Поспелов писал в вышедшей годом раньше работе «Десять “горячих точек” в исследованиях по искусственному интеллекту».
Увы, но почти ничего из того, о чем писал Д.А.Поспелов в этой статье, не произошло. А произошло то, чего он никак не предполагал.
✔️ По прошествию двух десятилетий ИИ превратился в самую мифологизированную область прогресса, вокруг которой формируется новая техно-религия всезнания больших данных и всемогущества машинного обучения.
✔️ Целью этой техно-религии провозглашен «прорыв в техно-сингулярность», где супер-ИИ решит все нерешенные проблемы человечества и дарует людям неистощимое здоровье, прорыв к заоблачным вершинам знаний и даже вечную жизнь среди цифровых облаков, куда будет выгружаться оцифрованное сознание человека.
Однако, не предвидя такого поворота, Д.А. Поспелов все же назвал его возможную причину. Перефразируя его слова из приведенной выше цитаты, — причина произошедшей мифологизации в интересах «жрецов ИИ», поддерживающих миф о его всесильности. «Часть из них делает это искренне, а остальные не утруждают себя критикой того, что дает им право на работу и высокое положение в развитом обществе».
Так оно и происходит. С каждым настоящим достижением в области ИИ мы наблюдаем параллельный рост шумихи, мифов, заблуждений и неточностей. Эти недоразумения способствуют непрозрачности систем ИИ, делая их в глазах общественности волшебными, непостижимыми и недоступными.
Цель проекта команды Даниэля Лойфера «Мифы об ИИ» — помочь распутать и развенчать некоторые из этих вводящих в заблуждение идей. Авторы проекта анализируют, как эти идеи появляются в средствах массовой информации, и указывают читателям высококачественные ресурсы для дальнейшего чтения.
Мне же остается, в качестве тизера этого проекта, кратко изложить структуру и свое представление о сути четырех направлений мифологии ИИ.
Представление — что из себя представляет ИИ
Mиф №1: ИИ обладает агентностью
Интеллектуальный агент может быть определен, как существо (не обязательно биологическое), самостоятельно действующее, движимое собственной мотивацией (определяемой собственными потребностями), и руководствуясь при этом собственными целями. ИИ таковым агентом не является, ибо он не воплощен и не имеет собственных потребностей, мотивации и целей. ИИ всего лишь набор алгоритмов, мотивацию и цели которых формируют его разработчики. Т.о. ИИ лишь следуют мотивации и целям создавших или использующих его людей, будучи при этом интеллектуальным агентом не более, чем смартфон или лаптоп.
Mиф №2: ИИ человекоподобен
Чтобы быть человекоподобной, машина должна реагировать на получаемые из окружающей среды стимулы в соответствии с традиционными реакциями людей, с учетом человеческих потребностей, а также способностей к созерцанию, суждениям и намерениям. И пока все это у машин отсутствует, они не могут считаться человекоподобными.
Определение — смысл термина и его толкования
Mиф №3: Сверх-ИИ появится в ближайшем будущем
Создание сверх-ИИ превратилось в главную цель развития ИИ, приближение к которой считается основным мерилом прогресса в этой области. Вместе с тем, сама возможность создания сверх-ИИ крайне проблематична, если это вообще возможно. В итоге, главной целью и мерилом прогресса ИИ остается химера. Это в значительной мере затрудняет прогресс в области ИИ, поскольку «кто не знает, куда плывет, тому нет и попутного ветра».
Mиф №4: Термин ИИ имеет определенный смысл
За 70+ лет своего существования, научное направления, названное ИИ, породило одно из главных направлений научно-технического прогресса. В современном мире ИИ воплощает в себе тысячи объектов исследований, продуктов и услуг, использующих интеллектуальные алгоритмы в сотнях областей применения. В результате этого, термин ИИ превратился в общую характеристику всех этих исследований, продуктов и услуг. При этом конкретный смысл данного термина сам по себе мало что говорит в отрыве от того, к чему он относится (подобно «электро», применимое теперь почти к чему угодно: электрооборудование, электроарматура, электроприборы, электроемкость, электролитье, электропоезд, электроэнергия, электротяга…)
Управление развитием разработок и внедрения ИИ
Mиф №5: Для безопасного ИИ нужно разработать этику
Все что мы называем ИИ — всего лишь инструменты, применение к которым этических принципов бессмысленно. И даже разработка таких принципов впрок — на случай, если когда-то ИИ обретет агентность, — пустое занятие. Для того, чтобы оснащенная ИИ электропила будущего не пилила людей, не нужна машинная этика. Вполне достаточно трех законов робототехники.
Mиф №6: Правовое регулирование ИИ невозможно
Аргументы, будто ИИ слишком сложен для регулирования, и что оно убьет инновации, несостоятельны и крайне опасны. Определение юридических рамок и «красных линий», ограничивающих разработку и применение технологий двойного назначения (коих в области ИИ уже много и их число будет расти и расти) — стандарт де-факто в современном мире. Без этого немыслимо выживание человечества в условиях постоянно возрастающих военных, террористических и техногенных рисков.
Использование ИИ
Mиф №7: ИИ может быть непредвзятым
Не являясь человекоподобным агентом, ИИ вбирает в себя всевозможные когнитивные искажения создателей своих алгоритмов. Другим неизбежным источником предвзятости ИИ служат данные, используемые в процессе машинного обучения ИИ. Создатели алгоритмов — не идеальные существа. А свойства и качества данных зависят от множества факторов (кто, где и как их собирает). В результате непредвзятость становится недостижимым идеалом для ИИ, не реализуемым на практике.
Mиф №8: ИИ может решить любую задачу
Современные ИИ системы, построенные, в основном, на алгоритмах глубокого обучения, могут эффективно решать лишь задачи, стоящие перед человеческим восприятием (зрение, слух …) и человеческими двигательными действиями (действия рук, ног, тела). Задачи, решаемые мозгом человека, эффективно реализуемы ИИ, лишь если задача описывается строгой системой правил. Круг таких задач, за пределами игр, весьма ограничен. Для решения огромного множества задач, не решаемых современным ИИ, необходимо искать иные способы его реализации.
В завершение тизера забавная иллюстрация к мифу №4 “Термин ИИ имеет определенный смысл”. Подставьте в нижеследующий текст вместо слов “искусственный интеллект” любое сочетание слов из приведенных под текстом или придуманных вами (например, “изысканный сепульк” или “умудренный крокодавр”). Мифологичность текста от такой замены ничуть не изменится. 😊
P.S. Читать о мифологии прорывных направлений науки куда интересней, чем о банальных фейк-ньюс. Про пять мифов о сознании я писал здесь.
________________________________
Если понравился пост:
- нажимаете на кнопку аплодисментов, — автору будет приятно :-)
- подпишитесь на обновления канала на платформе Medium;
- оставьте комментарий.
Еще больше материалов на моем Телеграм канале «Малоизвестное интересное». Подпишитесь
Оригинал и комментарии
Магические жесты подсознательного влияния
Новое исследование переворачивает представления о методах подсознательного влияния на аудиторию. Оказалось, что при обработке избирателей можно обойтись без навороченных словесных хитросплетений, а ля НЛП. И не так уж нужны знойные красавицы, детки и котятки в кадрах рекламы, склоняющей к покупке пылесоса. Оказывается, можно просто использовать пару жестов, и аудитория послушно последует за навязываемым ей выбором. Но главное, что кардинально отличает «магические жесты» от НЛП и красоток в кадре, — заметить такое влияние люди не в состоянии. А не заметив, они не смогут поставить ментальный блок такому влиянию.
Что же до оригинальности и научной новизны исследования отделения психологии Лондонского универа, то оно показало
колоссальную уязвимость когнитивной обработки мозгом разных типов поступающей в него информации. Хакнуть человека гораздо проще, чем считалось.
И всякие «маги» начали использовать подобные «магические жесты» задолго до этой публикации в Трудах Национальной академии наук США.
Сначала маленький экскурс в оптические иллюзии, показывающий крайнюю уязвимость восприятия. Вот уже полгода, как иллюзия будто бы вращающихся кубов будоражит пользователей сети, практически не оставляя равнодушных. Эта иллюзия действительно поражает.
Синие каркасы двух кубов на мигающем черно-белом фоне, несомненно, вращаются в разных направлениях, время от времени меняя направление вращения. Но никакого вращения нет. И вся эта иллюзия — результат «фи-феномена», открытого Вертхеймером в 1910 году и положившего начало возникновению школы гештальт — психологии.
Быстрое мигание между белым и черным фоном, наряду с изменением цвета контуров граней кубов заставляет мозг воспринимать два неподвижных куба вращающимися.
Проверить, что это так, не просто. Вы можете упереться пальцем в середину передней грани куба, и он на пару секунд остановит вращение. Но еще через секунду куб резко изменит угол наклона, как бы уворачиваясь от вашего пальца, и снова начнет вращаться, продолжая обманывать восприятие.
Видите, насколько иллюзорен мир, реконструируемый мозгом. А теперь посмотрим, как можно использовать уязвимости восприятия для манипулирования людьми, незаметно влияя на их выбор.
Исследование «Influencing choices with conversational primes: How a magic trick unconsciously influences card choices» посвящено эффекту прайминга, заставляющего мозг интерпретировать событие или информацию в контексте предшествовавшего. Этот эффект, широко используемый в рекламе и прочих технологиях влияния на людей, известен каждому. По его милости сразу после фильма ужасов многие опасливо озираются в собственной квартире, а сексуальная красотка в начале рекламного ролика позитивно влияет на восприятие мужчинами рекламируемой затем лопаты.
Новое исследование копнуло глубже. А можно ли заставить людей совершать определенный выбор такими нейтральными действиями, чтобы люди этого никак не заметили. Т.е. никаких слов убеждений, красоток, красавцев, детишек, котиков и т.д. Просто пара нейтральных жестов, и люди делают нужный вам выбор.
Оказалось, можно. Чтоб заставить среди карт выбирать тройку бубен, исследователи несли перед испытуемыми полную пургу, временами используя в жестикуляции «магические жесты», которые мозг может бессознательно ассоциировать со знаком бубен и тройкой. Например (см. открывающий пост рисунок),
Рисунок a): пальцы в форме ромба при фразе «представьте кадр вашего сознания».
Рисунок b): распальцовку из трех пальцев при фразе «представьте символ в центре карты».
И всё, дело сделано! При «голосовании» победила тройка бубен, и никто не заметил влияния на их выбор.
Так что ж, теперь слушать политиков и рекламу лишь по радио, а ТВ и Ютуб в отстой?
Получается так, если не хотите, чтобы вас развели на «магические жесты».
________________________________
Если понравился пост:
- нажимаете на кнопку аплодисментов, — автору будет приятно :-)
- подпишитесь на обновления канала на платформе Medium;
- оставьте комментарий.
Еще больше материалов на моем Телеграм канале «Малоизвестное интересное». Подпишитесь
Оригинал и комментарии
Оригинал и комментарии
Подтверждение теории светоносных глаз
Первое в мире экспериментальное исследование эффекта «отклонения взгляда» дало удивительные результаты. Этот эффект знаком любому.
Допустим, вы в вагоне метро. Ваше внимание чем-то привлекла читающая девушка, сидящая в паре метров от вас. Вы внимательно смотрите на нее. И вдруг она мгновенно поднимает глаза от книги и смотрим прямо вам в глаза. Вы резко отворачиваетесь в другую сторону, как будто она поймала вас на подсматривании ее интимных подробностей.
Подобное случалось многократно с каждым из нас. Естественно, на месте девушки может быть человек любого пола и возраста. Но одно неизменно. Как только ваш взгляд «поймали», вы резко отворачиваетесь — вот так.
И делаете это рефлекторно. Также, как отдергиваете руку от раскаленной поверхности.
Почему мы так делаем? Какая зашитая в нас эволюцией программа заставляет делать это? Чего мы опасаемся или чего хотим достичь, резкой переменой направления нашего «пойманного» кем-то взгляда?
Совместное экспериментальное исследование Йельского и Гарвардского универов показало: модель состояния внимания другого человека, существующая в мозге каждого из нас, ориентирована не на отслеживание его глаз, а на попытки чтения по глазам его мыслей.
Но как и почему эволюция встроила в нас именно такую модель? Зачем это ей? Ведь читать по выражению глаз мысли других невозможно, и никаких лучей мысли глаза не излучают.
Оказалось, не совсем так. И еще древние греки об этом знали.
Платон в своем знаменитом естественнонаучном диалоге «Тимей» писал: «Из органов боги, прежде всего, устроили светоносные глаза … И боги сделали так, что родственный дневному свету огонь, находящийся внутри нас, вытекает очищенным через глаза». А великие математики древности — Евклид, Птолемей и др. — на основе учения о зрительных лучах, исходящих из глаз, создали теорию отражения света, заложив основу геометрической оптике.
Последняя не потеряла значения и поныне. А вот учение о зрительных лучах признано лженаукой. И оказалось, зря.
- Во-первых, недавнее исследование Принстонского универа показало, что эволюция, весьма возможно, встроила в мозг имплицитную модель зрительного внимания других людей как невидимый, несущий силу луч, исходящий из глаз.
- Во-вторых, как показало недавнее авторитетнейшее международное исследование на стыке биологии с физикой, — Платон был прав: глаза действительно светоносны. Было достоверно зафиксировано световое излучение из глаз людей, проходящих лучевую терапию. Этот свет похож на черенковское излучение (возникает при движении заряженной частицы в прозрачной среде со скоростью большей скорости света в этой среде) и имеет синий цвет, подобно свету, исходящему от окруженных водой ядерных реакторов.
Суммируя названные 3 исследования, получается одно из двух.
✔️ Либо со временем обнаружится светоносность глаз и без воздействия лучевой терапии. И значит, читать мысли по глазам мозг таки умеет.
✔️ Либо эволюция решила в целях повышения нашей приспособленности закодировать в нашем мозге ошибочную модель восприятия внимания других, в основе которой излучение чужих глаз.
В пользу 2го варианта говорит то, что он для эволюции типовой. Так появились запаянные в нас десятки когнитивных искажений, включая главное — о высочайшей цели собственного существования. Эволюция, в этом смысле, действует тупо, но оптимально. Наплевать, что эта модель реальности (и поведения) ошибочна. Зато она лучше приспособлена для выживания.
Вот и хлебаем мы по жизни из-за своих когнитивных искажений. Но зато выжили.
________________________________
Если понравился пост:
- нажимаете на кнопку аплодисментов, — автору будет приятно :-)
- подпишитесь на обновления канала на платформе Medium;
- оставьте комментарий.
Еще больше материалов на моем Телеграм канале «Малоизвестное интересное». Подпишитесь
Оригинал и комментарии
ИИ Китая и США — далеко не одно и то же
Станет ли это решающим фактором их противостояния
Hастоящий пост о том, почему к 100-летию КНР в 2049 юань и мандарин, а не доллар и английский могут стать общепринятыми для всего человечества.
Резюме таково
✔️ Превосходство в технологиях искусственного интеллекта (ИИ) становится ключевым условием обладания статуса сверхдержавы в 21 веке.
✔️ Считается, что в области ИИ два ключевых преимущества Китая — колоссальные объемы данных и авторитарный режим.
✔️ В США хотят нейтрализовать эти преимущества сменой госстратегии в области ИИ, устанавливая главными приоритетами обновленной стратегии:
— обесценивание превосходства в объеме данных для машинного обучения, путем соверщенствования алгоритмов и архитектур;
— централизацию управления R&D за счет передачи лидерства в этой области от частного бизнеса к государству (как это было во времена Манхэттенского проекта).
✔️ Однако, главное преимущество Китая вовсе не в объеме данных и авторитаризме. США, как и весь западный мир, не хотят видеть, что китайский и западный подходы к ИИ имеют принципиальные отличия, дающие потенциальное преимущество Китаю. И эти отличия не компенсируются предложенными изменениями в госстратегии США.
Как в США хотят улучшить ИИ стратегию
3автра Центр двухпартийной политики США представит свои рекомендации по национальной стратегии ИИ для Конгресса США. Суть рекомендаций такова.
Для сохранения статуса единственной сверхдержавы в 21 веке, США обязаны сохранить первенство в ИИ. И сделать это нужно во что бы то ни стало. Иначе Китай и Россия замесят США и низвергнут их с Олимпа.
Чтобы разобраться в деталях рекомендаций Конгрессу, можно прочесть четыре сопроводительных отчета, перейдя по приведенной выше ссылке. А можно сэкономить время, прочтя лишь меморандум «Как сделать 21 век еще одним веком Америки», опубликованный на этой неделе одним из двух лидеров проекта Уиллом Хердом — конгрессменом от Техаса, сделавшим карьеру в качестве тайного сотрудника ЦРУ, «останавливая террористов, предотвращая кражу наших секретов российскими шпионами и выводя из бизнеса распространителей ядерного оружия».
«Меморандум Херда» прям и конкретен:
- К 100-летию КПК в 2049 в мире будут царить либо мандарин и юань, либо английский и доллар.
- Китай — «плохой парень», и план его сдерживания должен быть предельно жёстким.
- Ни нынешняя, ни предыдущая администрация не смогли выполнить этот принцип.
- Только доминирование в ИИ обеспечит США сохранение статуса доминирующей боевой силы в мире.
- Чтобы не потерять преимущество в передовых технологиях, нужно кратно наращивать федеральные расходы на R&D и обеспечить здесь альянс частного бизнеса с государством при лидерстве последнего.
На первый взгляд, этот меморандум выглядит резонным. Но зададимся вопросом — хватит ли этого для первенства США в ИИ? Судя по тому, что США до сих пор не понимают истинного источника преимуществ Китая в этой области, действий в духе «Меморандума Херда» может оказаться недостаточно. США (и всему Западу) необходимо понять, что «китайский ИИ» и «западный ИИ» — далеко не одно и то же.
В чём специфика китайского подхода к ИИ
У меня давно не доходили руки написать о том, насколько велика эта разница в подходах к ИИ. А теперь уже и не нужно. Ибо это превосходно сделала Бин Сон — главный редактор сборника “Intelligence and Wisdom: AI Meets Chinese Philosophers”, занимающая позицию вице-президента и директора Центра Китая в Berggruen Institute (подробней об этом уникальном и крайне интересном институте читайте в моем посте «На смену человечеству идет новый вид. Каким он будет, зависит от Китая, если Запад, наконец, не одумается»).
В только опубликованном великолепном эссе «ИИ в свете древнекитайской философии» Бин Сон пишет о том, что остается скрытым от глаз большинства даже самых проницательных экспертов по ИИ. Понять, насколько различны китайское и западное отношение к ИИ, можно, посмотрев через призму различий их оценок потенциальных рисков использования ИИ.
✔️ Для Запада ИИ — источник экзистенциальных рисков, а для Китая — исключительно мощный инструмент (типа лазера), применять который нужно осторожно, ибо он становится опасным при неумелом или злонамеренном применении.
✔️ Для Запада ИИ — соперник человека, а для Китая — даже не партнер, а лишь сильно продвинутое средство достижения старых и, главное, - открытия новых целей (типа все того же лазера).
✔️ Для Запада нужно срочно разрабатывать мораль для ИИ, а для Китая очевидно, что невозможно сделать «морально здоровый ИИ», если люди сами не будут этически рефлексивны и ответственны.
Причина этих радикальный отличий в философских основах общества (христианство на Западе; конфуцианство, даосизм и буддизм в Китае), сформировавших за многие поколения разное понимание места человека в мироздании и разное отношение индивида к обществу.
Эта разница формирует в китайском и западном обществах (и в конкретных их представителях: ученых, инженерах, политиках, военных) разные “ядра патернальных культур” — разные сочетания врожденных представлений, ценностей, норм, идей (подробней см. в великой книге Карла Кантора “Двойная спираль истории: Историософия проектизма”).
В результате, в западном и китайском обществах складываются различные представления о том, “что такое хорошо, и что такое плохо” в области технологических инноваций в целом и, в частности, в области ИИ.
- На Западе царит антропоцентризм. Человеческие существа рассматриваются отдельно от природы и выше ее. Homo sapiens, с их уникальной рациональностью, самосознанием и субъективностью, ставятся выше других животных, растений и других форм жизни.
- В Китае царит неантропоцентризм. Ни одна из трех господствующих школ китайской философии не ставит человека на первое место во Вселенной. Люди могут процветать и жить устойчивой жизнью, только если они следуют законам природы и достигают единства природы и человека.
- В Китае индивид не выделяет себя из общества (Я — это ОНИ). Как это сформулировал К.Кантор, — общество безраздельно господствует над индивидом прежде всего в его сознании, и только поэтому он умаляет себя перед обществом, перед всем, что это общество олицетворяет, — перед вождями, шаманами, символами.
- На Западе индивид обособился от общества и противопоставляет себя ему (Я против НИХ). Снова цитируя К.Кантора, — этот индивид находится в состоянии постоянной борьбы со всем светом, с обществом, с другими людьми и с самим собой.
- На Западе ИИ трактуется как интеллект, которому суждено догнать и превзойти человека.
- В Китае мало кого убеждает перспектива превосходства машинного интеллекта над человеческим. По их философии, люди всегда жили среди иных форм существования, которые могут быть более способными в некоторых отношениях, чем люди. Кроме того, ИИ не является “естественным” развитием человеческого интеллекта, поэтому, с точки зрения единства человека и природы, ИИ разработка должна руководствоваться, а иногда и подавляться уважением к естественному образу жизни.
- На Западе развитие ИИ движимо стремлением к максимальному созданию богатства и необузданному индивидуализму.
- В Китае социальное благо начинается в индивидуальном самосовершенствовании и связано с ним. ИИ при таком подходе становится помощником государства в деле совершенствования индивидов для максимизации социального блага (отсюда и полная толерантность к всеобщему наблюдению Большого брата и никаких моральный страданий граждан от проживания во всекитайском паноптикуме).
✔️Из вышесказанного следует, что там, где Запад упирается в частокол труднопреодолимых проблем в развитии и применении ИИ, у Китая подобных проблем в принципе нет.
Список таких проблем обширен. Вот лишь некоторые: приватность, конфиденциальность, права на данные, ограничение свобод индивида и бизнеса, примат общечеловеческих ценностей, этические ограничения при достижении целей, согласование моральных принципов сторон, юридическая ответственность, общественное благо.
Отсутствие у Китая большинства из перечисленных факторов, сдерживающих развитие и внедрение технологий ИИ на Западе, может превратиться в решающее преимущество Китая в борьбе за статус мирового ИИ лидера и связанного с этим признания сверхдержавой №1.
И здесь нужно особо отметить, что роль перечисленных сдержек нарастает по мере совершенствования технологий. Пока объемы онлайн операций были ограничены, число самоуправляемых авто на улицах составляло десятки, а востребованность массового отслеживания передвижений граждан отсутствовали, — главное преимущество Китая оставалось номинальным. Теперь, когда онлайн операции начали доминировать над офлайном, число самоуправляемых авто на дорогах неуклонно растет, а массовое отслеживание за передвижениями граждан превратилось во всеобщий приоритет, — главное преимущество Китая уже в ближайшие годы станет не просто ощутимо, но и превратится в основной фактор, определяющий скорость развития технологий ИИ.
Так что намерения США навалиться на Китай финансированием и хитрой стратегией R&D могут не сработать. Еще Сухов, комментируя ограниченную применимость западных подходов, заметил: «Восток — дело тонкое».
P.S. О том, почему на открывающей пост картинке место России столь невелико, надо бы написать отдельный пост.
________________________________
Если понравился пост:
- нажимаете на кнопку аплодисментов, — автору будет приятно :-)
- подпишитесь на обновления канала на платформе Medium;
- оставьте комментарий.
Еще больше материалов на моем Телеграм канале «Малоизвестное интересное». Подпишитесь
Оригинал и комментарии
Наше “Я” — история написанная другими
Что имел в виду Карл Фристон
Многие интереснейшие высказывания Карла Фристона мало кто понимает, — слишком сложные мысли, слишком мудрёно поданные слишком мудреным языком. И здорово, что хоть изредка кому-то удается облачить эти мысли в понятные слова, рассказанные понятным образом.
Поэтому весьма рекомендую этот 6 минутный ролик Дарио Веллирилли (Dario Villirilli).
А здесь текст озвучки. В этом ролике разъясняется фраза Фристона, будто наша идентичность, самоощущение, чувство собственного «я» — не что иное, как история, которая пишется в нашей памяти большим коллективом авторов (по сути, всеми, с кем мы очно и заочно знакомимся после 3-х лет и до смерти).
Вот это место в интервью.
Фристон говорит следующее:
«Если я живу в мире, состоящем из таких же как я — в социальном мире, в сообществе, — мне необходимо понимать, что это я говорю, а не кто-то другой. Но мне это не понадобилось бы, если б я был один одинешенек на Марсе или если б я рос диким ребенком в джунглях».
Расшифровывая и развертывая эту фразу, Веллирилли, объясняет.
✔️ Ваше “Я” — творение вашего мозга, полученное на основе схемы социальных коммуникаций, сформулированной еще Чарлзом Кули:
«Я не то, что я о себе думаю, и я не то, что другие думают обо мне. Я то, что я думаю о том, что другие обо мне думают».
✔️ Наша идентичность — это сложная история, создаваемая нами в соавторстве с людьми, с которыми общаемся на протяжении всей жизни. Мы пишем эту историю, делясь мнениями в кругу семьи, сплетничая на работе, делясь воспоминаниями в социальных сетях или болтая с другом. Но мы также пишем её в своей голове, например, когда находимся в душе, прокручивая разговор с партнером, задаваясь вопросом, что мы могли бы сказать по-другому, или представляя себе будущее, пытаясь предугадать, что бы мы могли сказать, изменись ситуация.
✔️ Мы часто неправильно воспринимаем свою идентичность, как реальную сущность, тогда как, на самом деле, — это просто ментальная конструкция, записанная в виде истории в мозге. Попадая в эту ловушку — историю о том, что, по нашему мнению, другие люди ожидают от нас, — мы тратим жизнь, пытаясь, будто бы, улучшить представления о нас других людей, а вовсе не то, что мы, на самом деле, чувствуем.
✔️ Причина вышеназванного в том, что эволюция вложила в мозг примата механизм формирования личности — ментальной конструкции в виде записи истории социальных представлений и отношений. Этот механизм был нужен эволюции для колоссального рывка приспособленности вида. Он достигался неограниченно масштабируемым сочетанием социального обучения и сотрудничества. Но цена этого для индивида оказалась весьма высока: тревога, подавленность, невыносимая душевная боль, комплексы и т.п. — все это не существует в реальной жизни, а лишь является результатом неумения «обезьяньего мозга» справиться со слишком сложной историей, записанной в него другими.
Поэтому так важно выбирать себе личность с умом. Активно и осмысленно участвовать в написании истории собственной личности. И не позволять другим напихать всякой ерунды и гадости в ваш собственный мозг. Ведь вам потом с этими представлениями о себе жить.
________________________________
Если понравился пост:
- нажимаете на кнопку аплодисментов, — автору будет приятно :-)
- подпишитесь на обновления канала на платформе Medium;
- оставьте комментарий.
Еще больше материалов на моем Телеграм канале «Малоизвестное интересное». Подпишитесь
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оригинал и комментарии
Оставить отзыв с помощью аккаунта FaceBook: