Недавние тренды рунета

Его источник — социальные сети. А честные выборы теперь невозможны

Мы на пороге открытия ОТО ноосферы — инфопространства идей, мифов, мемов и (по Пелевину) ноофресок.

Соцсети реформатируют ноосферу не менее сильно, чем язык, письменность и компьютеры.

Как написать про это коротко, мне неведомо. Но попробую.

1. Пространство объективной реальности материально. Его теоретическим описанием является ОТО, постулирующая его кривизну. И хотя её причины спорны (гравитация — то ли причина кривизны, то ли, наоборот), похоже, что кривизна лишь атрибут материи, сосуществующий вместе с ней.
А как тогда с пространством субъективной реальности?

2. Человек живет в 2х пространствах: объективном и субъективном. Оба они — инь и ян нашей реальности. 1е позволяет взаимодействие с материальным миром. 2е — с информационным миром знаний и представлений, как о 1ом мире, так и о 2м.
Из п.1 известно, что объективное (материальное) пространство имеет кривизну — его важнейший атрибут.
А есть ли кривизна у субъективного инфопространства?

3. До сих пор трактовки кривизны инфопространства были довольно эзотерическими. И вот прорыв. Только что опубликованная в Nature работа «Информационные махинации и недемократические решения» экспериментально доказала следующее:

• соцсети искажают коллективное инфопространство, следствием чего является искажение коллективных действий;
• причина этого в сетевой топологии, определяющей инфопотоки, от которых зависят принимаемые людьми решения.

Поясню этот ребус на примере.

1. Допустим, мы собрали 1000 человек, из которых 500 собираются голосовать за А и 500 — за Б.
2. Все 1000 стали участниками некой соцсети, набрав себе френдов среди 999 остальных ее участников.
3. Дальше стали, как обычно: постить, лайкать, спорить, ругаться, обижаться и отфрендивать.
4. Так продолжалось какое-то время. А потом провели голосование. Результат: 70% проголосовало за А, 30% — за Б.

Как так? Ведь изначально голоса были поровну?

А вот так. Это и есть искривление инфопространства под воздействием соцсети. В нем самопроизвольно образуются «инфопузыри» и «эхо-камеры». Эксперимент показал, что их самопроизвольное образование способно искривлять инфопотоки и, соответственно, искажать решения до 20% участников.

Причина в том, что конфигурация инфопотоков зависит от топологии связей. И в то же время, эта конфигурация влияет на то, как люди интегрируют разные источники информации при принятии решений, особенно в социальном контексте. Итогом же этой интеграции являются поступки людей. В нашем примере — голосование за А или Б.

Авторы исследования назвали обнаруженный ими эффект «информационным джерримандерингом» (точный перевод — это синтез предвыборных махинаций, манипулирования, реструктурирования и перекройки избирателей с целью получить на выборах нужный результат).

Потенциальная мощность информационного джерримандеринга куда выше +20% голосов. Даже при соотношении 2 к 1, искривление инфореальности позволяет меньшинству победить.

А т.к. мир уже превратился в мир соцсетей, честные выборы здесь отныне невозможны.

Мы думали, главная проблема — интернет-тролли и фейковые новости.

Наивные мы были.

✔️ Изменение кривизны инфопространства — более тонкая и пагубная проблема для демократического принятия решений.

Антиутопия будущего — не Черное зеркало, а кривое.

________________________________

Если понравился пост:
- нажмите на “палец вверх”;
- подпишитесь на обновления канала на платформе Medium;
- оставьте комментарий.
Еще больше материалов на моем Телеграм канале «Малоизвестное интересное». Подпишитесь

Оригинал и комментарии

ML-стартапы, — либо делайте комплексные решения либо расходитесь

Обращение венчурного инвестора и топового ИИ-эксперта

Уже 2 года, как лучшим отчетом о состоянии ИИ в мире является «State of AI» Натана Бенайха и Яна Хогарта. И если вы его читаете, то обладаете «всей самой актуальной и нужной информацией о состоянии ИИ».

А теперь прочтите манифест Натана Бенайха «Machine learning: go full stack or go home» (Машинное обучение: станьте комплексными или расходитесь) — обращение к стартапам, работающим в области машинного обучения (ML).

Ключевая мысль обращения такая.

1. (Преамбула 1) ML — самое хайповое направление для современных стартапов.
2. (Преамбула 2) Будущее ML во многом зависит именно от них (ибо даже если когда-то они станут новыми DeepMind и их купит Google, инновационный вектор их разработок складывается сейчас).
3. (Это и есть, собственно мысль) Подавляющее число ML-стартапов имеет устаревшую и малоперспективную бизнес-модель.

• Они делают ML-инструментарий, чтобы продавать его, как сервис (Software as a Service).
• А куда перспективней для них и нужнее рынку модель разработки комплексных решений, сквозным образом решающих конкретную задачу бизнеса (Solution as a Service).

Только работая по модели Solution as a Service в области ML,

✔️ ML –стартапы могут создавать значительную новую ценность для его пользователей

✔️ и обретают возможность не сколько просаживать миллионы на НИРоподобных полуисследовательских разработках, сколько созидать новый реальный бизнес, вмонтировав в свой сервис новую ценность для пользователей.

Рекомендации Натана Бенайха конкретны и детальны. И потому нет смысла их пересказывать. Прочтите сами.

Мне же остается лишь добавить, что Кай-Фу Ли и прочие Чингачгуки китайского ИИ это поняли одними из первых. Но при этом они никого не увещевают и, вообще не говорят про это. А просто делают. На то они и китайцы.

Но большинство стартапов за пределами Китая (и у нас тоже) предпочитают идти устаревшим путем времен SaaS-бума. И потому так ценен манифест Натана Бенайха. И будь моя воля, я бы расписал им стены не только стартапов, но и инвест-фондов, так пока и не понявших, где зарыта основная Value успешных ML–стартапов.

Манифест

Отчет «State of AI» Натана Бенайха и Яна Хогарта за 2019

________________________________

Если понравился пост:
- нажмите на “палец вверх”;
- подпишитесь на обновления канала на платформе Medium;
- оставьте комментарий.
Еще больше материалов на моем Телеграм канале «Малоизвестное интересное». Подпишитесь

Оригинал и комментарии

Глубокое обучение повторяет судьбу пороха

В Китае еще 1,5+ тыс. лет назад порох использовался для зажигательных снарядов «хо пао» (огненный шар), ставших основой петард и фейерверков. Прошли века, пока догадались использовать силу взрывных газов, возникавших при горении пороха, для метания снарядов и пуль.

С глубоким обучением прогресс был похожим, хотя и шел несравненно быстрее.

Потребовался всего 10+ лет, чтобы перейти от задач распознавания котиков и предсказания покупок к прогностическим моделям на стыке традиционных дисциплин: физики, химии, биологии и материаловедения.

И хотя для обывателя умная колонка и самоуправляемый авто по-прежнему интересней и прикольней, пользы человечеству от них, как от петард и фейерверков (деньги гребут лишь производители, а мы лишь тупо, но радостно палим в небо на НГ, тратя на это кровно заработанное).

Тогда как решение многоэлектронного уравнения Шредингера на основе глубокого обучения открывает такие перспективы в квантовой химии, что дух захватывает.

А ведь идея проста, как все гениальное. Нейронные сети можно рассматривать как аппроксиматоры функций. То есть вы даете нейронной сети учиться, поставляя ей на вход данные из обучающего набора x. Сеть, обучаясь, пытается как можно точнее определить f (х). А когда она научается генерировать известные значения f (x), то может выдавать довольно точные результаты для тех x, которых не было в обучающем наборе данных.

Все выглядит просто.

Но кто сказал, что в качестве f (x) можно использовать лишь простые функции?

А что если подсунуть нейронной сети многоэлектронную волновую функцию, удовлетворяющую статистике Ферми-Дирака?

Так и сделали кудесники из DeepMind, построив Fermionic Neural Network. В сети примерно 70 тыс. параметров, и в реальности никто не понимает, что там происходит. Но сеть обучается только один раз, и после этого она, похоже, способна находить приближенные волновые функции, дающие хорошие результаты для предсказанных свойств химических веществ.

В отличие от самоуправляемого авто, непонимание нами алгоритма, избранного сетью для решения уравнения Шредингера, не влечет никаких моральных терзаний и юридических тупиков.

А пользы от одного такого решения больше чем от всех умных колонок мира вместе взятых.

Прочтите о прорывном решении Ab-Initio — популярно и супер-сложно.

Но не подумайте, что лишь супербогатый DeepMind способен нынче на такое.

Вот «наш человек» Александр Исаев, закончивший Днепропетровский универ, а теперь доцент кафедры химии в Универе Северной Каролины, — делает аналогичные вещи. Будучи первым пользователем суперкомпьютера Frontera — самого быстрого академического суперкомпьютера в мире, — он обучил нейронную сеть решать уравнение Шредингера, сначала решая уравнение теории функционала плотности (DFT) для органических молекул.

В отличие от вынужденной политкорректности DeepMind, Александр говорит открытым текстом:

«Момент спутника происходит именно на стыке разных наук и ИИ. Международная гонка за первенство здесь уже началась. И очень важно, чтобы наша страна выиграла эту гонку».

Плохая новость: «наша страна» — это США.

Хорошая — это шикарный пример, как история пороха может повториться. В результате чего Штаты могут сделать в ИИ-гонке Китай.

Пока тот будет зарабатывать на «огненных шарах» ширпотреба, завороженный рассказами Кай-Фу Ли об абсолютном превосходстве Китая в объемах данных, США изобретают пистолет.

А ведь «добрым словом и пистолетом можно добиться гораздо большего, чем одним только добрым словом».

________________________________

Если понравился пост:
- нажмите на “палец вверх”;
- подпишитесь на обновления канала на платформе Medium;
- оставьте комментарий.
Еще больше материалов на моем Телеграм канале «Малоизвестное интересное». Подпишитесь

Оригинал и комментарии

«Большой Брат — сын Большого Бога» приходит в наш мир

Пока я допишу свой лонгрид «Большой Брат — сын Большого Бога», этот «брат и сын» успеет легализоваться в половине стран мира.

C Китаем всё ясно. Там на полных парах строится тотальная идеальная е-тюрьма по-китайски.

В США народ дружно поддерживает тотальное распознавание лиц полицией. Лишь 20% считают, что здесь нужны какие-то ограничения. А раз так, то спецслужбы вовсю внедряют «Взгляд Горгоны». А простодушные жители Канзасщины при этом наивно радуются, полагая, что к ним, наконец, прилетела НЛО (см. там же).

В России, по-прежнему, народ и партия едины. Вчера все СМИ сообщили о построении в Москве 2й по величине после Китая системы видеонаблюдения с распознаванием (на самом деле, она будет третья; вторая — британская). Так что гасить протесты станет еще проще, когда можно будет с помощью распознавалки загасить каждого по отдельности через самый гуманный в мире из трех букв.

Последний оплот противостояния «брату и сыну» — старейшая в мире демократия Великобритании. Там полиция выиграла на днях дело в суде, получив тем самым законное разрешение использовать массовое распознавание лиц. Но! Во-первых, только в поисках тех, кто уже есть в полицейской базе подозреваемых. А лица всех остальных из просеиваемой толпы полиция обязана затирать в памяти их компов в течение 24 часов. Во-вторых, большинство британцев пока что за запрет бесконтрольного массового распознавания лиц полицией и, уж тем более, частными компаниями.

Молодцы, британцы! Но как ни прискорбно, их борьба не имеет шансов. «Брат и сын» в итоге победит. А европейская инициатива объявить ИИ для массового распознавания лиц технологией с запредельным риском, имхо, не имеет шансов.

А все потому, что он не просто Большой Брат.
Он — сын Большого Бога.
И его воцарение в мире неизбежно.

Детали этого объясню во 2й части заканчиваемого мною лонгрида.

Первая же часть здесь.

________________________________

Если понравился пост:
- нажмите на “палец вверх”;
- подпишитесь на обновления канала на платформе Medium;
- оставьте комментарий.
Еще больше материалов на моем Телеграм канале «Малоизвестное интересное». Подпишитесь

Оригинал и комментарии

Оригинал и комментарии

Знаете, бывает так, что страна тебе “не заходит”. Причём добро, если это страна типа Румынии, о которой итак мало кто знает чего хорошего, кроме замка Дракулы и того, что это — цыганский край, где все всех норовят обмануть и обобрать. Хуже, когда тебе не заходит страна, которая почему-то заходит всем или многим. Как Италия.

Сколько людей твердили мне, что “старик, ты просто не понял”, “не прочувствовал”, не, не, не.

…У итальянцев и французов есть популярный анекдот. Про американца, который (в итальянском варианте — вино, а во французском — коньяк) попросил разбавить спиртной напиток (будучи где-то на дегустации, толи в коньячных провинциях Франции, толи в винодельных — Италии) — кока-колой или льдом. Ах-ха-ха, ну, тупы-ы-ые!

Сегодня мне этот анекдот не кажется хоть сколь-нибудь смешным, потому что я себя в Европе всё чаще ощущаю этим американцем. Который а) не понимает, почему он должен пить горькое (горькое, горькое, не спорьте — и вино, и коньяк мало похожи на лимонад или сок по вкусу, какой бы там выдержки они не были) спиртное не так, как он привык — без льда и не в коктейле? б) не понимает, почему обычное пойло стоит каких-то конских денег, когда даже самый дорогой коллекционный односолодовый 12-ти летней выдержки из Кентукки у него на родине обойдётся максимум в 100–200 долларов ЗА ПОЛ-ГАЛЛОНА (примерно 1,75 литра). в) ну и вообще не понимает, чего это все вокруг так радуются и посмеиваются от счастья, при виде его.

К хорошему быстро привыкаешь. Америка — страна удивительного (по сравнению с Европой) порядка. Порядка от слова упорядоченности. Здесь нет очередей, а если они вдруг появляются — сразу делают всё, чтоб они исчезли. Не буду разливаться мыслью по древу, приведу только один пример: даже в малых аэропортах в пердях Америки в самолёт садятся по секторам. ПО СЕКТОРАМ, КАРЛ! У вас на посадочном талоне пробита дополнительная цифра, и в нужный момент объявляют: сейчас садятся в самолёт группа 1. Группа 1, подойдите, пожалуйста, на посадку. Так, теперь группа 2, группе 3 приготовиться. Это не бизнес-класс и эконом, это просто эконом, разделённый на сектора. Очень удобно и, главное, эффективно, быстро, без очередей. Вспомните в следующий раз, когда будете занимать крайним в Домодедово или Шереметьево перед гейтом очередь в три круга-два хвоста…

Из-за повышенной упорядоченности в Америке всё очень предсказуемо. Если навигатор тебе сказал — exit 36c — то тебе остаётся только не проебать exit 36c — не сложная ведь задача, тем более, что о приближении к этому экзиту тебя предупредит и навигатор, и куча знаков на дороге.

Не так в Италии.

Неоднозначность начинается с порога рент-э-кара. В терминале зала прилета бойко говорящая по-английски девушка (что редкость для Италии) справилась с задачей практически с американской чёткостью: быстро, весело, по разумной цене. Дала бумажку с надписью “David”, и показала путь на стоянку за машиной, где я у Дэвида должен был получить ключи.

…На стоянке скучал-находился только один симпатичный молодой человек, чутка смахивающий на совсем юного Роберта де Ниро. Я осторожно спросил: — David? — он ответил тоже осторожно: — May be…

…На самом деле, насчёт Дэвида — шутка, но не шутка насчёт неоднозначности. Это на каждом шагу, и это подбешивает.

Вторая проблема — языковая. Итальянцы, как и французы — очень горды за свой язык. С французами в лобовую меня ещё не сталкивало, но с итальянцами — уже пятнадцать раз. В нужный (читай — в трудный, для себя или для тебя) момент эти люди вообще ничего и никого не понимают, кроме итальянцев. Ну, так, включают дурака по-полной. И всё, обращайтесь в спортлото. Плюс в стране реально не так уж много людей, достойно владеющих английским. Особенно в провинции.

Вы можете мне возразить, мол, в России ещё меньше даже, чем в Италии, людей, достойно владеющих английским хотя бы на уровне объяснить дорогу. Да. Не спорю.

…Языковую проблему, проблему неоднозначности, должна бы искупать природа и красоты. И климат. С климатом всё в порядке. А вот с природой уже не так хорошо.

Нет, море обалденное. С любого берега. Хотя во время второй попытки полюбить Италию мою ногу укусила какая-то местная злоебучая рыбина, которой я даже не знаю название (было дело на восточном берегу), яд её был ужасно злоебучий, скажу только, что когда я доплыл до берега, по ощущениям — правой ноги у меня не было, из плавок торчала кровоточащая культя — так было больно и одновременно — онемело. Не помню, как я дохромал до ресепшена отеля (а куда ещё? Медпунктов и спасателей на пляже человеколюбиво непредусмотрено, тем более, что объяснить им, чего со мной, не было никакой возможности — про языковую проблему помним, да?). На ресепшене была девка, говорящая по-английски.

А-а, сказала девка, так это вас рыбка “нахуй” укусила. Ну, она назвала какое-то название, я не запомнил. Та вы не волнуйтесь, донт ворри. Би хеппи. Идите в номер и суньте ногу в ведро с горячей водой. И скоро всё пройдёт.

Так оно и оказалось, только прошло всё не так уж, чтоб скоро — пару часов я кунал ногу в ведро с кровати, и только через полтора часа почувствовал облегчение, а через два часа яд полностью “отпустил” организм.

С тех пор в Италии я без коралловых тапок не купаюсь даже на самых распесчаных пляжах. Кстати, небольшой шрам на месте укуса (или пореза, говорят, у этой водяной бляди — шипы какие-то злоебучие) так до сих пор и остался, но спишем это на старость моего организма и медленную регенерацию тканей.

Проблема с природой рыбкой, однако, не исчерпывается. В этот приезд задело особенно:

В каждой вилле, которую снимали, — подробная инструкция-квест, как надо распределять отходы в ПЯТЬ (мать твою!) контейнеров. Органика, стекло, пластик, что-то ещё, что-то ещё, совсем уж радиоактивное. При этом инструкции все на итальянском (разумеется, в этих виллах никогда не живут иностранцы, то-то на букинге и эйрбиэндби отзывы со всего мира!).

И вот живёшь ты, такой, арбузную корку в пакет не клади, выкидывай без пакета, потому что пакет вон туда надо класть, родной, — а по улице у тебя реально мусорный ветер гуляет.

Едешь ты, такой, на Везувий, или просто на гору живописную, на вью поинт, или сценик вью, как они во всём мире называются, а там, на этом сценик вью, под ноги лучше не смотри — замусорено так, что ахуй и мизантропия. Да ещё и обоссано, судя по запаху…

…И глядя, как равномерно вдоль вьющийся по горе дороге рассыпан мусор, словно кто-то старался его ровным слоем уложить, не пропуская и не допуская разрывов, — ты начинаешь думать: а точно всё говно с твоей виллы не в море течёт, в котором ты купаешься? Может быть, здесь всё ещё проще, чем кажется? М-де…

К древностям и средневековью отношение соответствующее.

После неоднозначности, языковой проблемы, мусора — переходим к моему любимому: кухне! Ох уж эта “высокая итальянская”, хех.

…За все поездки в Италию пиццы нормальной так и не получилось замутить. В разных местах едали. Хуй. Лепёшка, смазанная сыро-помидорным соусом. В центре оливка или кусочек чего-то, что заявлено, как начинка. Пепперони, сыр… В общем, ни о чём.

Р — Распиздяйство и Воровство.

Каждый раз ловлю себя на мысли, что итальянцы должны в родстве состоять с кубаноидами. По части наебать и вытащить денег за незначительную хуйню — вот просто нет равных. Все старые добрые уловки в ходу: меню на английском может реально отличаться по ценам от меню на итальянском. А чек может совершенно спокойно включать дополнительные позиции и целые блюда, которые вы не заказывали. И официант в заведении будет объяснять, что это “всё правильно”, это вы просто не понимаете. В тот момент, когда вы начнёте понимать, что вас просто разводят на деньги, официант забудет все языки, включая родной итальянский.

Самое главное: сами итальянцы в разгар сезона (как сейчас) с удовольствием создают свою собственную Анапу даже в Сорренто. Да хоть на Капри! Просто пофиг: лежат, как на тюленьей лёжке, пластами. Наряду с распиздяйством, воровством и неоднозначностью — это вот самое большое, почему в Италию я больше предпочту не ехать.

В целом мы, конечно, всё увидели, побывали везде, где хотели, отсмотрели, отфотографировали, ели, пили, купались, загорали, но…

По уровню распиздяйства, воровства и желания наебать путешественника, Италия у меня на почётном четвёртом месте после Румынии, Молдовы и Приднестровья (в принципе, все три последних географии можно объединить в одну точку-нацию, один народ живёт).

Но всё-таки обидно: Рим, Коллизей, Великая Римская Империя, вся хурма… И так спуститься…

В общем, закрываем Италию, как недочитанную книгу, читать которую себе дороже. Пусть итальянцы сами на своих курортах развлекаются, нам, видимо, не дано понять этой радости.

Впрочем, это не в первой (с)

Оригинал и комментарии

Увидел тут в России, в магазине. Новый бренд. Так тонко, что аж толсто. Зато честно. И ведь маркетолухи, небось, всё просчитали: есть запрос на бренд, хорошо пойдёт. “Премиальные консервы”, йопт…

Откуда на каком-нибудь американском Брайтоне ностальгия по советской колбасе — я, кстати, понимаю, и могу даже объяснить молодому поколению вставших с колен, хотя и не факт, что поймут.

Дело в том, что основной массив ныне доживающих на Брайтоне уезжал от пустых советских полок с мозаиками из консервов. Сегодня в России выросло уже пара поколений, которое вообще не представляет, как это так — нет ничего в магазине?! — а тем, кто как я или старше и объяснять нечего, помнят, как это так… И вот представляете: вы уехали, и оказались в стране, где наоборот, все полки забиты и пустыми не бывают даже после рождественских распродаж или блэк фрайдей какой! Да у людей башка ехала от того, что водки родной (одной только водки!) может быть сорок сортов, а пресловутой колбасы — за сто и более. Но… при этом они сразу в полный рост столкнулись с тем, что все вкусы надо менять. Потому что из родного вкуса только водка осталась такой же горькой. И то, если не покупать какой-нить блэк карэнт абсолют…

И со временем ужасно начинало не хватать родимого говнеца. Вот этой самой “бумажной” колбасы, “нефтяной” водки, “хлебных” котлет из диетической кулинарии, серых разваренных макарон, и т.д.

Вообще-то СССР хоть и выпускал красивые книги о вкусной и здоровой пище, кулинарию и кухни мира ничем таким особо не обогатил. Хороших продуктов в СССР, считай, не было (чтоб там не говорили совкодрочеры), уникальных (которых бы не было больше нигде) — не было совсем (ну, если не считать за уникум те пресловутые макароны, которые можно было употреблять в пищу даже если вы на углеводной диете: у них энергетическая ценность — около нуля, и по всем белкам-жирам-углеводам — что простой воды напиться).

Но в мире здоровых людей спрос рождает предложение. Ушлые поляки (не знаю, почему именно они, но до сих пор значительная часть продуктов “под СССР” на Брайтон и вообще в американские русские магазины попадает из Польши, с которой только Белоруссия конкурирует немножк) наладились выпускать кучу всего: консервы “Завтрак туриста”, колбасу “Советскую Любительскую”, вот такое вот сгущённое молоко, тушёнку в банках “с армейского склада”, сало в разных ипостасях, и даже ромовые бабы а-ля эсэсэсэр (не путать с ром-бабами Неаполя и прочими кондитерскими изделиями здорового человека — ром-баба из СССР не имела в себе ни капли рома, ни капли бабы, чтоб вы знали).

Более того. Родимых малосольных огурцов и пельменей “Останкинских” многим было недостаточно. Нужна была ещё привычная подача!

На Брайтоне большинство кафешек сделаны в точной стилистике советских столовок. Правда, с той лишь разницей, что подаёт всё-таки официант. Всё остальное — от клеёнок на столах со столешницами из изрезанной дсп и металлическими ногами, до солонок из дешёвого пластика, от вилок из дрянного металла, которые гнутся взглядом, до несообразной месту одежды официанта — копия. И еда тоже такая же. Диетическая, угу. Но гастроностальгию, если появилась, удовлетворяет чуть более чем полностью, авторитетно подтверждаю.

Но вот откуда ностальгия по советским продуктам в современной России, где до сих пор каждый мясокомбинат в ассортименте своих колбас имеет “Докторскую”, “Любительскую”, и ещё и подчёркивает в промо, что сделаны они якобы строго по ГОСТу советскому, и где сгущёнку тоже, вроде, из Польши никогда не завозили — вот это мне, конечно, сложно понять.

Потому что, при всей моей любви к тем же пельменям, пельмени бренда “Совок” я бы себе не купил, даже если они там совершенно охуительные и аутентичные на вкус (на вкус не надо, при совке пельмени были говно и никогда — ручной лепки) были.

Как-то противно, знаете ли. Всё равно как блины с лопаты. Так-то блины я люблю, но вот с лопаты есть — в жопу себе эту лопату засуньте, можете вместе с блинами.

…А люди берут, походу. Людям нравится.

Оригинал и комментарии

Apple — не продавец, а провидец «Смежного Возможного»

После презентации новых iPhone и другой продукции капитализация Apple превысила $1 трлн. Многие уверены, что понимают, в чем секрет долгосрочного фантастического успеха Apple. Но они ошибаются.

Потому что знать что-то по-настоящему — значит уметь это смоделировать на матмодели, имеющей строгое теоретическое обоснование.

Людей же, способных сделать это на примере успехов Apple, — на Земле всего 1 (один). И его зовут Стюарт Кауффман (Stuart Kauffman).

Более противоречивой личности в современной науке нет. С одной стороны, куча почетных научных званий, премии и награды, 350+ научных публикаций и 6 бестселлеров … С другой, — репутация самого амбициозного и радикального современного ученого, бросившего вызов самому Дарвину.

Но это еще не все!

Все абсолютно революционные теории Кауффмана (а их несколько) построены на едином фундаменте, — близком идеям Канта и Гёте, но не соответствующем мейнстриму современной науки. Подобно великим мыслителям прошлого, Кауффман утверждает,

• в основе структуры природы лежат общие математические принципы или правила;
• сформулировав их, можно смоделировать что угодно — жизнь, разум, свободную волю, квантовую критичность …

И это еще не все!

На этом фундаменте Кауффман

• уже построил несколько обалденных теорий, например:

— теорию антихаоса, для которой естественный отбор Дарвина — лишь некое приложение,

— теорию происхождения жизни и разума, на основе самоорганизованной критичности (Кауффман применил модели булевых сетей для упрощения генетической схемы);

• а на их основе создал компьютерные модели.

Извините, но и это еще не всё!

✔️ Модели Кауффмана показывают результаты очень близкие к реальности, что буквально ставит на уши мировую науку.

Что ж теперь, — признавать теории Хауффмана, а теории Дарвина и пр. низводить до частных случаев?

Да никогда! — заявляет современная наука. И выкладывает на стол свой джокер — невозможно признать истинность статистических моделей Кауффмана, т.к. описываемые ими явления не имеют статистики.

- Жизнь ведь образовалась единожды.

- И естественный отбор на Земле имеется в единственном экземпляре.

- И разум тоже появился единожды.

Какая здесь на фиг статистика!!!

А причем здесь успехи Apple, спросите вы.

А вот причем.

В прошлом году Хауффман опубликовал новую теорию — «Простая комбинаторная модель мировой экономической истории».

Эта теория объясняет появление промышленной революции комбинаторным взрывом инноваций.

А этот взрыв, как водится у Хауффмана, происходит в его матмодели, как говорится, на глазах почтеннейшей публики. И потому возразить на это нечего.

И вот теперь (на прошлой неделе) Хауффман замутил еще одну революцию. Теперь про инновации.

В основе новой теории (называется Экономический WEB) открытое ранее Хауффманом понятие «реальности смежных возможностей», со скрипом, но все же признанной мейнстримом экономики. Теория Экономического WEBа объясняет, откуда растут ноги взрыва инноваций.

Согласно ей, экономика представляет собой сеть дополнений и заменителей уже существующих товаров и услуг. Как и в случае с биосферой (которая, по Кауффману, тоже сеть), эволюция сети экономики в значительной степени непредсказуема, зависит от контекста и создает свой собственный растущий контекст, который включает в себя элементы из реальности «смежного возможного». Смежное возможное — это то, что может возникнуть следующим в ходе эволюции. Эта эволюция «втягивается» в те самые возможности, которые она сама создает.

Таким образом, инновации в Смежное Возможное стимулируют рост Экономического WEBа.

Просто чума, как интересно. И сводит в ноль почти все современные экономические теории.

А вопрос один.

Что мир будет делать, когда и эта модель Кауффмана даст 98%ную точность при моделировании?

________________________________

Если понравился пост:
- нажмите на “палец вверх”;
- подпишитесь на обновления канала на платформе Medium;
- оставьте комментарий.
Еще больше материалов на моем Телеграм канале «Малоизвестное интересное». Подпишитесь

Оригинал и комментарии

Закон это не решит. Производитель тоже. Но появился выход.

Пора признать, не решив этот вопрос, цивилизация не станет человеко-ИИшной. Только решив, как наказывать людей за убийства, люди смогли построить цивилизацию. В итоге люди не перестали убивать. Но вопрос о наказании за убийство позволил избежать логико-этического тупика прогресса. А теперь надо решать по новой.

Теперь на смену цивилизации людей идет человеко-ИИшная. И как теперь наказывать за убийство?

Ведь ИИ будет убивать: на войне и без; случайно и умышленно (напр. делая выбор, кого спасать, а кого убить); по одиночке и массово …

Пока ИИ работает в паре с человеком, проблем нет, т.к. спрос за смерть предъявляется человеку. В США за 14 лет ошибки роботизированной хирургии убили 144ёх. Но хирурги не понесли ответственности за это, т.к. остальные 2+ млн. роботизированных операций, прошли гладко. И, следовательно, роботы делает хирургию более безопасной.

Но ведь и беспилотные авто сделают вождение безопасней. Однако, справедливо отмечает Макс Тегмарк, как с роботизированной хирургией здесь не получится. Как только ИИ останется со смертью один на один, возникает юридический тупик.

«Если появление на дорогах беспилотных автомобилей сохранит жизнь половине от тех 32 тыс., что ежегодно гибнут на дорогах США, то производители таких автомобилей получат не 16 тыс. благодарственных открыток от спасенных, а 16 тыс. исков в защиту погибших. В случае, когда беспилотный автомобиль попадает в аварию и в результате страдают люди, кто должен нести за это ответственность — пассажир авто, владелец или производитель?»

Т.е. все упирается в законы, регулирующие эту область. Но законы пишут политики. И ждать от них интеллектуальных откровений, способных решить этот логико-этический мега-пазл, было бы наивно. Задушить регулированием безопасности отрасль беспилотных авто у себя в стране они могут. Но тогда исследования, а затем и производство просто сбегут в страны с менее требовательными правительствами.

И этот регуляторный тупик касается далеко не только самоуправляемых авто. ИИ для дронов, энергетики, связи, инфраструктуры, оружия … Всюду ИИ будет убивать. И всюду один и тот же регуляторный тупик:

• либо задушить развитие технологии у себя в стране, проиграв из-за этого в международной конкуренции;
• либо забить на регулирование, и будь что будет.

Но ведь и «забить» не спасает.

Как только регуляторные ограничения будут сняты, уровень рисков зашкалит. А это дорога в хаос невосполнимых потерь.

Есть ли выход?
Jack Clark из Open AI и Gillian K. Hadfield из Универа Торонто считают, что есть.

Они предлагают революционное решение — новый способ регулирования высокорисковых технологий, названный «Регуляторный рынок».

Его суть в переходе от двухуровневой системы регуляторных отношений правительство — бизнес к трехуровневому правительство — частно-правовой регулятор — бизнес. Причем отношения между двумя последними будут регулироваться не законами, а деньгами.

Мне это предложение чем-то напомнило идею правоведа Дэвида Владека

сделать ответственным за смерть на дороге … сам автомобиль.

Суть в том, чтобы для беспилотных авто требовалась специальная страховка. Те авто, чья страховая история будет чистой, получат премию за свою безопасность. А плохо разработанные модели от небрежного производителя получат право лишь на такие дорогие страховые полисы, что владение ими окажется невыгодным. Так и сложится подобие «Регуляторного рынка».

Предложение по созданию для ИИ «Регуляторного рынка» будет впервые представлено авторами 26го сентября на конференции «Economics of Artificial Intelligence».

Желающие познакомиться с ним уже сейчас, а заодно протестировать его на кейсе Adversarial-атак на коммерческие дроны, могут это сделать здесь.

P.S. Какой станет Фемида, столкнувшись с таким вызовом?

Возможно, такой, как на картине под заголовком поста.

Вам такая Фемида не нравится?
Мне тоже.
Но пока что в вопросах убийства людей искусственным интеллектом Фемида выглядит примерно так.

________________________________

Если понравился пост:
- нажмите на “палец вверх”;
- подпишитесь на обновления канала на платформе Medium;
- оставьте комментарий.
Еще больше материалов на моем Телеграм канале «Малоизвестное интересное». Подпишитесь

Оригинал и комментарии

Оригинал и комментарии

Небольшая история и наблюдения кофезависимого, который искал зерно и кофейню в некоторых малых городах Самарской и Оренбургской областях.

Недавно выбрались семьей, на расширенные выходные, поездить по восточной части Самарской области.

Поездка получилась удачной, стояла теплая погода и мы захватили немного Оренбургской области:

Не могу претендовать на полноценный обзор, так как 3 дня это мало для понимания местных городов и культуры потребления, но…

Из-за определенных рекомендаций врачей мой кофе сместился к одной кружке в день. Это может быть 200–400 мл, но один раз в день. А с учетом того, что если я пью кофе после 17 часов дня, то потом засыпаю ближе к 2-м часам ночи — приходится пить его утром или днем (привет офисная болезнь).

В совокупности все это возвысило значимость и качество той самой чашки кофе до абсолюта.

Приученный мозг просит дозу кофеина, распорядок дня подталкивает к поиску хорошего кофе, которое чаще всего бывает именно в кофейнях.

Но возникла проблема…

В Отрадном я не смог найти кофейню. именно кофейню, где есть больше 2–3 кофейных напитков, где есть бариста и понимание культуры кофе. В Похвистнево мы смогли найти вот такую вывеску:

Зайдя туда увидели покрытый пылью и без зерна аппарат. Кофе нет, но есть конфеты, печенька и куры.

Напротив мы увидели обнадеживающую вывеску “Кофейня”:

Забежали туда, услышали местное радио, увидели большую вывеску-меню, нашли там “плов” и “лагман”, но про кофе не было ничего. В углу барной стойки-плиты стоял маленький аппарат, который был похож на домашнюю версию кофемолки.

Мы спросили какое кофе есть. На нас посмотрели как на сумасшедших и с неким удивлением сказали:

“А какое вам еще надо? Можем сварить, а можем насыпать!”.

Фразу мы запомнили надолго. :)

Была большая надежда на Бугуруслан, так как в нем живет аж 49500 человек, по сравнению с Похвистнево — 28200 и Отрадным — 47500 + есть кинотеатр, известный гоголевский театр и т.п.

Но опять повторюсь, что три дня это малый срок для каких-то особых сравнений. Я просто хотел кофе, оно мне было нужно, я искал кофейню…

В Бугуруслане есть вот такие заведения:

Есть вот такие:

Или:

В итоге мы нашли бар “Нью-Йорк”, оформленный под комиксы и рок-н-ролл, где был полноценный кофейный аппарат, но почему-то играла клубная музыка и было только 2 кофе на выбор.

Я получил свое кофе и даже смог поставить музыкальный трек Элвиса Пресли через приложение Grabli (хорошее решение), но…

кофе было отвратным. Посуда была хорошей. заведение было неплохим, но кофе был ужасным.

В нашем случае — мы нашли кофе, мы его выпили и поехали дальше.

Спросите зачем этот длинный пост с обилием фотографий?

Как маркетолог, я в принципе понимаю ситуацию: низкая покупательская способность, консервативность, другие культурные традиции напитков, но все равно хочется подумать — почему в малых городах практически нет малых кофеен. Где можно попить кофе или чай.

Я не буду проводить параллели с Англией или арабским миром, которые сильно повлияли на культуру потребления кофе в 16-19х веках, но возьмем ту же “Додо-пиццу”.

Основная масса пиццерий у компании в городах до 100 тысяч населения. Есть своя ниша и есть свой спрос.

По идее 1 кофейня на 1 город может выжить, особенно если ее разбавить чаем и местными сувенирами с пряниками. Кстати, помимо кофе, мы не смогли найти магнитиков этих городов.

Мы нашли и купили магнитики музея-усадьбы, но городов не нашли.

Я дискутировал на ту тему с близкими и коллегами.

Контраргументы идут про бедственное положение и выживание людей в малых городах, ориентацию на недорогие “ТМ” и огород. Кофе же тут относится к условно “деликатесам” и той категории товаров у которой есть высокая кросс конкуренция с алкоголем и другими товарными категориями.

С другой стороны, мы с вами знаем про бурный рост китайских кофеен, которые проникают во все деревни в Китае, несмотря на низкую платежеспособность. Тут контраргументы — инвестиционные деньги, легко тратить, легко расти…

Резюмируя: хочется увидеть кофейню, где делают кофе, а не плов с лагманом. Хочется, чтобы разнообразие и возможности безалкогольных напитков расширялись и мы все жили немного лучше. Даже в малых городах.

А вы что думаете про кофе в малых городах?

Как там с кофе на окраинах… was originally published in Caffeinated and Coffee on Medium, where people are continuing the conversation by highlighting and responding to this story.

Оригинал и комментарии

Взрыв инфобомбы оказался отвлекающим маневром

Мир взорвался инфобомбой — Google достиг квантового превосходства.

Полагаю, это не совсем так. Точнее, совсем не так.

Бомбу позавчера заложили два журналиста FT . А вчера и сегодня все СМИ, включая самые полярные издания, просто сошли с ума.

За всем этим хайпом кроются два интересных момента.

• Первый смешной. Если правда, будто бы «расчет, на выполнение которого устройству от IBM требуется 10 тысяч лет, компьютер от Google совершил за 200 секунд», то как смогли проверить правильность ответа компьютера Google?
• Второй момент серьезный. Пока спорят на каком из лабораторных опытных экземпляров (54-кубитном Sycamore или 72-кубитном Bristlecone) Google «добился квантового превосходства», IBM объявила о запуске в октябре коммерческих продаж вычислений на 53-кубитном квантовом компьютере для клиентов своей IBM Q Network.

Ну а теперь о главном — это действительно прорыв Google к квантовому превосходству?

Китайцы ответили на этот вопрос так:

“Google 的一小步” (“это маленький шаг Google”).

Весь вчерашний хайп оказался лишь отвлекающим маневром с целью реабилитировать Google после взрыва их 72-кубитного Bristlecone в марте этого года, после чего группу расформировали, а работавших в ней специалистов перебросили на форсирование 54-кубитного Sycamore с 53 функциональными кубитами.

Подробное объяснение вопроса 如何评价 Google 率先实现量子霸权？(“как оценить первую квантовую гегемонию Google?”) приведено здесь. Оно также сделано китайцами, что не удивительно.

Западному миру так приятно хотя бы на день почувствовать себя победителями в «последней битве сверхдержав» за квантовое превосходство.

Но его пока нет. И до него еще пилить и пилить.

Чтобы увидеть это наглядно, — вот текст.

А вот совсем простая картинка.

________________________________

Если понравился пост:
- нажмите на “палец вверх”;
- подпишитесь на обновления канала на платформе Medium;
- оставьте комментарий.
Еще больше материалов на моем Телеграм канале «Малоизвестное интересное». Подпишитесь

Оригинал и комментарии

Оценка мировых перспектив АНБ США

Вовсе не собираюсь грузить вас очередной страшилкой перед выходными. Тема куда практичней и актуальней.

✔️ Какие тренды в ближайшие годы возобладают в мире, во многом зависит от позиций Белого дома.

✔️ Какова будет позиция Белого дома по отношению к конкретным трендам, в значительной степени связана с их видением разведсообществом США в контексте угроз и вызовов для своей страны.

✔️ Каково это видение, только что обстоятельно разъяснил главный юридический советник Агентства национальной безопасности Гленн Герстелл.

Ну а поскольку этот лонлонггрид станет читать далеко не каждый из вас, вы рискуете не только пропустить откровения АНБ (Гленн Герстелл — лишь рупор агентства), но и упустить важную информацию, весьма важную при прогнозировании трендов мирового развития.

Посему вот вам максимально отжатый сухой остаток 5,4 тыс. слов (в переводе Google) до 185 слов моего резюме.

1. Финансирование разведсообщества США сильно возрастет с нынешних $60 млрд в год. Огромные деньги будут впрыснуты в два ключевых технологических направления.
2. Эти направления: ИИ и Квантовый компьютинг.
   Главная цель по направлению ИИ — спасти ИИ от «отравления данными». Эта метафора у Герстелла означает весь спектр угроз, когда злоумышленники могут передать дезинформацию системам ИИ, чтобы заставить их нанести вред кому-либо (например: обмануть машину без водителя, чтобы она игнорировала знак остановки, или обмануть систему управления энергосистемой, военным объектом, выборами и т.д.)
   Главная цель по направлению Квантовый компьютинг — в корне изменить баланс геополитической мощи в мире за счет прорыва в технологии шифрования. Поскольку до середины века это в любом случае сделают либо США, либо Китай, нужно бросить все силы, чтобы США победили в этой «последней битве» сверхдержав.
3. Для выполнения 2х названных целей необходимо подмять под себя (принудить к партнерству) университеты и бизнес. Основание этого очевидно, поскольку «разработка самых мощных вычислений и сложных алгоритмов в настоящее время происходит не в Пентагоне или АНБ, а в университетских исследовательских лабораториях, а также в Google и Amazons коммерческого мира».

Мои постоянные читатели помнят, что еще год назад я назвал это «ИИ-национализацией», которая уже началась.

________________________________

Если понравился пост:
- нажмите на “палец вверх”;
- подпишитесь на обновления канала на платформе Medium;
- оставьте комментарий.
Еще больше материалов на моем Телеграм канале «Малоизвестное интересное». Подпишитесь

Оригинал и комментарии

Остановитесь, — это путь к гибели цивилизации!

Разработана 1я дорожная карта спасения

Великий космолог и астрофизик, обладатель премий Эйнштейна и Фарадея, золотых медалей Ньютона и Брюса, кавалер Ордена Заслуг, автор десятка выдающихся открытий, 500 научных работ и восьми книг лорд Мартин Джон Рис два года назад поставил вопрос ребром [1]:

Нам всем конец?

Этот же вопрос он поставил неделей раньше в суперпрестижной лекции «Как пережить это столетие: как сохранить нашу «бледно-голубую точку» [2].

Мысли проф. Риса просты, как все гениальное.

• Экзистенциальные риски для выживания человечества подошли к тому пределу, когда само уже не рассосется.
• Ждать, что правительства развитых стран всерьез возьмутся за поиск возможностей снижения этих рисков, не приходится. Они озабочены лишь ближайшей перспективой. А все, что за пределами очередного электорального цикла, их вообще не волнует.
• Только общественность своей активностью может заставить правительства озаботиться этими рисками не на словах, а на деле.

Наивысший из этих рисков несет разработка Автономных систем вооружений (AWS): систем вооружений, которые после активации могут сами выбирать и атаковать цели без дальнейшего вмешательства человека-оператора.

То, что цивилизация на Земле еще существует, — огромная удача. Ей мы обязаны конкретным людям.

• Василий Архипов — единственный из 3х ответственных за пуск ядерной торпеды офицеров подводной лодки Б-59. Он отказался нанести удар по США 27 октября 1962, когда капитан Савицкий уже принял решение пустить эту торпеду, а торпедный офицер, задыхаясь от нехватки воздуха и адской жары, прохрипел: “Мы сейчас по ним шарахнем! Сами погибнем, их потопим
  всех, но флот не опозорим!”[3]. Но Архипов остановил ядерный удар, имевший все шансы начать ядерный апокалипсис на планете.

• Станислав Петров — дежурный офицер системы раннего предупреждения. Он поверил своей интуиции, что США вряд ли стали бы атаковать всего лишь 5ю ракетами, и нарушил инструкцию, не доложив командованию, что на СССР уже летят 5 ядерных ракет США. Потом выяснилось, что это была ошибка — спутник принял солнечные блики от облаков за пламя ракетных двигателей. Петров остановил начинающуюся ядерную войну.

✔️ И вот теперь, с появлением Автономных систем вооружений, в цепочке принятия решений не будет Архипова, Петрова… никого не будет, кто мог бы остановить ИИ, самостоятельно принявшего решения стрелять.

Сегодня под Открытым письмом специалистов по ИИ и робототехники о необходимости запретить все автономные системы вооружений стоит уже 26215 подписей [4].

Но как провидчески писал Мартин Рис, на правительства полагаться в этом вопросе бессмысленно.

Какая же альтернатива?

Давить на правительства, чтобы все же запретили?

Бессмысленно. Все равно какие-то страны или фанатики не последуют запрещению. А там и все остальные спохватятся.

Тогда, как обычно с технологиями — война план покажет?

Но это путь к гибели цивилизации.

Третий вариант — дорожную карту из 5 компонентов [5], предложила «великолепная семёрка» спецов по ИИ. Это результат работы, института FutureOfLife после выпуска ими меморандума в марте 2019 [6] и проведения 28–29 августа с.г. воркшопа на эту тему.

Предлагается.

• ограниченный по времени мораторий;

• исключения для определенных классов оружия;

• протоколы против непреднамеренной эскалации;

• стратегии по предотвращению распространения;

• разработка «кентавров» людей и ИИ.

________________________________

Если понравился пост:
- нажмите на “палец вверх”;
- подпишитесь на обновления канала на платформе Medium;
- оставьте комментарий.
Еще больше материалов на моем Телеграм канале «Малоизвестное интересное». Подпишитесь

Оригинал и комментарии

Раскрыт последний секрет «формулы городов»

Bопрос в заголовке лишь кажется диким. Но он столь же реален, как сама жизнь. Ибо рост числа изнасилований следует тому же математическому закону, что и рост числа инноваций.

Это т.н. «формула жизни», описывающая рост не только биологических существ, но и социумов больших городов

Поразительно, но скорость роста всего живого описывается единой формулой с показателем степени b больше 1. То же самое и с ростом городов — его экономическая активность, бюджеты, число инноваций, автопарк, заболеваемость, энергопотребление и т.д. — все это растет со сверхлинейной скоростью с ростом числа жителей M.

Город как будто живой.

Это удивительное открытие единой «формулы жизни» и «формулы городов» до сих пор портило лишь одно.

Наличие нескольких непонятных исключений из правила.
Например, рост числа изнасилований.

Как понять — число ограблений банков, угонов автомобилей, разбоя и т.п. растет сверхлинейно (также быстро, как инновации и т.д.) с увеличением числа жителей города (b >= 1,5), а рост числа изнасилований всего лишь линейно (b = 1)?

И вот секрет раскрыт. Новое исследование Modeling the origin of urban-output scaling laws объяснило различия в масштабировании разных типов преступлений и подтвердило гипотезу на матмодели.

Оказалось, что все зависит от степени социальности (коллективности) действий (и в частности, преступлений).

• Чтобы ограбить банк, нужна банда сообщников.
• Угонять автомобиль тоже сподручней не в одиночку.
• А вот изнасиловать — без проблем и одному. Более того, делать это без подельников для большинства преступников — больше кайфа.
• Аналогично с угоном мопеда или карманным воровством. Здесь напарники совсем не обязательны.

Этот вывод — серьезное подтверждение гипотезы, лежащей в основе «формулы городов».

Большие города — катализаторы социальных связей, позволяющих под любое дело (от стартапа до ограбления банка) найти оптимальную команду исполнителей.

И потому в больших городах растут, как на дрожжах, абсолютно все виды коллективной деятельности: бизнес, наука, развлечения, командный спорт, … и даже групповые преступления.

Ну а плохая новость в том, что Facebook, ВКонтакте и т.п. — это тоже, своего рода, «большие города».

И подобрать группу для любого вида коллективной деятельности здесь тем проще, чем больше соцсеть. Причем эта простота растет сверхлинейно, опережая рост размера сети. И поэтому рекрутеры идут в сеть. Но и преступники тоже.

Групповая креативность в соцсетях растет также сверхлинейно. И в том числе, преступная креативность. Новые невиданные методы преступлений и поиск исполнителей на них, — эффективность всего этого растет сверхлинейно в больших городах и в больших соцетях.

Так уж устроена жизнь.

За все надо платить.

А за сверхлинейное масштабирование, — тем более.

• Подробней о единой формуле: жизни, городов, выборов в моем посте.
• О том, что этой же формуле подчиняется динамика внимания к новостям в СМИ — во 2м моем посте.
• Каким образом та же формула связана с фрактальной геометрией инноваций, порождая «Дилемму инноватора» и «Модель инновационного консильери» — в 3ем моем посте.

________________________________

Если понравился пост:
- нажмите на “палец вверх”;
- подпишитесь на обновления канала на платформе Medium;
- оставьте комментарий.
Еще больше материалов на моем Телеграм канале «Малоизвестное интересное». Подпишитесь

Оригинал и комментарии

Оригинал и комментарии

Оригинал и комментарии

Оригинал и комментарии

Оригинал и комментарии

Оригинал и комментарии

Оригинал и комментарии

Оригинал и комментарии

Оригинал и комментарии

Оригинал и комментарии

Оригинал и комментарии

Оригинал и комментарии

Оригинал и комментарии

Оригинал и комментарии

Оригинал и комментарии

Оригинал и комментарии

Оригинал и комментарии

Оригинал и комментарии

Оригинал и комментарии

Оригинал и комментарии

Оригинал и комментарии

Оригинал и комментарии

Оригинал и комментарии

Оригинал и комментарии

Оригинал и комментарии

Оригинал и комментарии

Оригинал и комментарии

Оригинал и комментарии

Оригинал и комментарии

Оригинал и комментарии

Оригинал и комментарии

Оригинал и комментарии

Оригинал и комментарии

Оригинал и комментарии

Оригинал и комментарии

Оригинал и комментарии