ЖЖ Топ-50 постов сегодня

Недавние тренды рунета

Смена парадигмы будущего для ИИ ^от sergey_57776

Будущее определяет коэволюция технологий и собственности

Наскальная живопись коровы и лошади, Ласко, Франция. Фото Alamy

Смены научной парадигмы — кардинальная трансформация модели реальности в конкретной науке — в прошлом случались редко. В XX веке подобные перевороты стали чаще, а ближе к концу века стали происходить каждое десятилетие, и даже не по одному. Причина этого — ускорение в накоплении и осмыслении новых знаний и нового опыта человечеством.

В XXI веке это ускорение еще нарастает. И люди уже просто не успевают осознавать и фиксировать все новые смены научных парадигм. Ну поменялось в какой-то науке или даже в ряде наук какое-то базовое представление, — ну и бог с ним. За всеми изменениями, даже базовыми, все равно не угонишься.

Увы, такой подход чреват большими рисками.

Не отрефлексировав в коллективной памяти человечества произошедшую смену какой-то научной парадигмы, можно этим исказить коллективные представления социума о надвигающихся важнейших переменах в будущем.

А ведь будущее не предопределено. Оно будет таким, каким сложится в коллективных представлениях миллионов людей.

И таким образом, пренебрегая осознанием какой-то изменившейся научной парадигмы, люди этим своим незнанием могут способствовать материализации худшего варианта будущего, чем если бы они вовремя это осознали.

Вот яркий пример, о котором я уже не раз писал.

Как изменится экономика и социальные отношения в результате уже вплотную приблизившейся лавины ИИ-автоматизации и ИИ-роботизации (эти два понятия, в принципе, почти одно и то же, но мы по традиции привыкли их различать)?

99% людей — от профессиональных экспертов и аналитиков до журналистов и массовой аудитории — рассматривают достижения в области технологий как экзогенную движущую силу инноваций в экономических и социальных отношениях и институтах.

Считается, что глобальные изменения (климат, демография и т.д.)

➡️ ведут к изобретению новых технологий,

➡️ которые приносят новые возможности,

➡️ которые трансформируют социо-экономические отношения и институты.

А как же иначе? Ведь так уже было всегда в истории человечества. И только чудак Маркс что-то там расписывал про роль частной собственности.

Такова сложившаяся к началу XXI века научная парадигма.

Но она устарела. На основании новой модели, вот уже 10 лет тщательно проверяемой и перепроверяемой на множестве археологических данных, новая парадигма принципиально меняет логику культурной эволюции человечества на логику коэволюции.

Глобальные изменения (климат, демография и т.д.)

➡️ ведут к изобретению новых технологий.

А дальше начинается пинг-понг между новой технологией и социо-экономическими отношениями и институтами. В ходе их коэволюции либо меняются существующие, либо появляются принципиально новые отношения и институты.

И лишь когда новая технология «уживется» с трансформированной или измененной системой отношений/институтов

➡️ новые возможности новой технологии будут востребованы и получат развитие.

Так уже было в ходе неолитической земледельческой революции.

В старой парадигме считалось так.

С улучшение климата 12 тыс. лет назад охотники-собиратели сочли выгодным заняться сельским хозяйством из-за его преимуществ в производительности труда, а распространение и развитие частной собственности стало побочным продуктом сельскохозяйственной революции.

Новая парадигма (на основе матмодели, проверенной на археологических данных) показывает, что все было иначе.

Привычные объяснения неолитической земледельческой революции — повышение производительности труда в сельском хозяйстве, демографическое давление, неблагоприятные изменения климата — не согласуются с имеющимися в настоящее время доказательствами.
Новая модель, наряду с археологическими свидетельствами, показывает, что новая система прав собственности была предусловием, достаточным для распространения сразу в нескольких регионах Земли новой мега-технологии сельского хозяйства.

Таким образом, сельское хозяйство, вначале приносившее людям больше убытков и ухудшающее жизнь большинства людей, все равно победило и распространилось.

Это произошло, поскольку распространение сельского хозяйства облегчило применение частной собственности в более широкой сфере экономической деятельности (уменьшая конфликты внутри социумов).

Что из этого следует.

Прогнозы McKinsey и Big 5 глобальных консультантов, базирующиеся на оценках повышения производительности отдельных секторов экономики в результате ИИ-автоматизации и ИИ-роботизации, дают искаженные сценарии будущего.
Это будущее будет зависеть от коэволюции:
— новых разновидностей технологий аналитико-предиктивных ИИ и интеллектуальных роботов
— новых форм собственности на данные, информацию и результаты труда ИИ-роботов (а также новых, развивающих эти формы институтов)
А также, от решения вопроса нового взрыва неравенства, вследствие невиданной ранее концентрации собственности на алгоритмы и данные.

Неучет 2го и 3го из вышеназванного принципиально искажает сценарии будущего. И может иметь следствием материализацию его худших вариантов.

Новая работа The Neolithic Agricultural Revolution and the Origins of Private Property.

Для лучшего ее понимания, помогут:

Origins of Agriculture and Private Property;
Coevolution of farming and private property during the early Holocene;
мой предыдущий пост на эту тему «2я революция роботов ведет к большому скачку неравенства. Как и «1я революция роботов» 4 тыс. лет назад»

P.S. Этот постскриптум написан уже после опубликования поста, в связи с жалобами читателей на “недостаточное раскрытие темы”. Как же так? — пишут мне. Ведь и ежу понятно, что широко распространяться может только та технология, которая не сильно противоречит социальной системе.

В чет тогда здесь новация? И где смена парадигм?

Резюмирую свой ответ так.
Из материалов рекомендуемых мною ссылок следует.

В том то и фокус, сюрприз и пазл, что новая Большая технология — фермерство, — сильно противоречила жизненным интересам людей.
Но каким-то загадочным образом она победила куда более выгодное людям фуражирование.
Моделирование и архео-исследование (10летнее) показали, что причина в возникновении новых типов собственности и новых собственников (о чем я и написал выше) — “новая система прав собственности была предусловием, достаточным для распространения сразу в нескольких регионах Земли новой мега-технологии сельского хозяйства.”

Дальше продолжаю уже собственные спекуляции.

Сейчас аналогичная ситуация с ИИ. С точки зрения экономических интересов людей, от ИИ одни неприятности. Главная из них (но далеко не единственная) — потеря работы.

Спрашивается — если людям от ИИ на работе сплошные неприятности, зачем его внедрять?

Ответ такой же, как и с фермерством — внедрение мотивируется интересами новых собственников нового типа собственности: алгоритмы, данные и результаты труда ИИ-роботов.

Так что опять, как 4 тыс лет назад:

технологии — ничто, собственность — все.

________________________________

Если понравился пост:
- нажмите на “палец вверх”;
- подпишитесь на обновления канала на платформе Medium;
- оставьте комментарий.
Еще больше материалов на моем Телеграм канале «Малоизвестное интересное». Подпишитесь

Оригинал и комментарии

SAPIENTISSIMUS — Альтернативное будущее человечества ^от sergey_57776

SAPIENTISSIMUS — Альтернативное будущее человечества

Как борьба добра и зла внутри нас делает нас людьми

Черный монолит. Кадр из фильма «2001 год: Космическая одиссея»

Часть 1

Историческая сослагистика развития интеллекта

«… возможно ли продолжать жить как в ни в чем не бывало, зная, что и ты сам, и весь вообще мир — не более чем эманация чьего-то разума? И ответил — а почему бы и нет? Велика ли разница — быть продуктом прихоти Бога, сцепления случайных атомов или интеллектуальных игр существ, которых нельзя ни вообразить, ни увидеть?»

Василий Звягинцев «Бульдоги под ковром»

— 1 —

КАРГО-КУЛЬТ ИИ

Все, что нынче принято называть Искусственным интеллектом (ИИ), им вовсе не является. Эти весьма разнообразные запрограммированные и/или самообучаемые вычислительные системы можно называть интеллектом лишь в том смысле, что они способны решать те или иные интеллектуальные задачи, поставленные перед ними людьми. Однако, к человеческому интеллекту — так, как его интуитивно понимают люди — все эти вычислительные системы имеют, примерно, такое же отношение, как стрела автокрана к человеческой руке, на том основании, что обе способны поднимать и перемещать грузы. Ведь вряд ли кто-то в здравом уме всерьез согласится считать стрелу автокрана искусственной заменой своей руки. Что, впрочем, ничуть не уничижает возможности автокрана, способного в узком функциональном сегменте легко превзойти возможности руки любого из чемпионов по армреслингу. С нынешним ИИ, — аналогично. Никакой он не ИИ, на самом деле.

Впрочем, не нужно быть специалистом для понимания интуитивно очевидной вещи — прежде чем становится возможным создание искусственного аналога чего-либо, людям необходимо разобраться и понять, как оно устроено, и как работает. При этом совсем не обязательно, разобравшись и поняв устройство и принципы работы интеллекта человека, копировать это при создании ИИ. Не было же 100%ного копирования природы, например, при создании «искусственных птиц» — самолетов. Однако, принципиально важно было понять, что у «искусственной птицы» должны быть какие-то крылья, обеспечивающие ей подъемную силу и некая силовая установка для создания тяги в полете. Ну а будет ли это одно или несколько крыльев, будут ли они подвижными или нет, и на каком физическом принципе будет работать силовая установка, — уже не принципиально.

Что же до текущего состояния понимания принципов устройства нашего интеллекта, то, к сожалению, можно констатировать следующее.

Признанной научным сообществом и экспериментально подтвержденной теории об устройстве и принципах работы человеческого интеллекта, пока не существует.

Есть различные теории-кандидаты, базирующиеся на совершенно разных структурах, процессах и даже физических принципах, лежащих в основе их представлений о работе интеллекта. Но даже самые проработанные и широко известные из этих теорий пока что весьма далеки от того, чтобы считаться хотя бы общепонятыми, не говоря уж об общепринятыми.

Таким образом, задача создания интеллекта искусственного по-прежнему упирается в недостаточное понимание устройства и принципов работы интеллекта естественного — того человеческого интеллекта, что сложился у нас в результате миллионов лет эволюции. А без этого понимания все создаваемые нами ИИ оказываются чем-то вроде бамбуковых муляжей самолетов в туземных карго-культах. Т.е. какую-то практическую задачу туземцев они все-таки решают, — например, сплачивают их в едином танце вокруг соломенного самолета и подпитывают суеверные убеждения туземцев, что припасы вот-вот прилетят. Но реальной практической заменой оригинала муляжи быть не могут, поскольку функционально с оригиналом не совпадают и, в силу этого, не способны доставлять туземцам столь желанные им материальные блага.

Группа туземцев возле сооруженного ими «самолета», который должен, в их понимании, принести полезные дары с неба.

Возможно, человеческий интеллект все еще слишком сложен для его деконструкции современной наукой. Но если так, и мы, подобно туземцам, не в состоянии охватить своим скудным умом устройство и принцип работы столь сложной машины, то, может быть, стоит попытаться рассмотреть и понять, каким образом эта машина создавалась природой? Ведь единственное, что мы практически точно знаем, так это то, что наш интеллект — продукт миллионов лет работы эволюции.

А что, если бы нам удалось проследить многоэтапный процесс «производственной сборки» нашего интеллекта — его усложнений и усовершенствований в его организации и принципах работы, проделанных за миллионы лет эволюцией?

Может, таким образом мы бы могли, наконец, приблизиться к пониманию, как устроен и работает интеллект современного человека?

— 2—

СВЕРХМАРАФОН АНТРОПОГЕНЕЗА

При постановке задачи реконструировать процесс эволюции человеческого интеллекта, было бы удобно, в качестве стартовой этапа процесса, считать эволюционное выделение далекого предка людей из мира животных. По современным оценкам, это произошло, примерно, 6 млн. лет назад, когда разошлись эволюционные траектории предков людей и шимпанзе.

Рис. 2. Клада шимпанзе (верхняя ветвь) и клада человека (нижняя ветвь). Источник: Л.Б. Вишняцкий «Человек в лабиринте эволюции»

При этом мы понимаем, что эволюционные корни интеллекта уходят на десятки миллионов лет дальше этой развилки, в те далекие времена, когда формировался интеллект многих других видов млекопитающих, несомненно также обладающих теми или иными формами интеллекта. Однако, наиболее близкие нам и наиболее интеллектуально развитые животные — китообразные, слоны, человекообразные обезьяны — обладают иной, отличной от человека формой разума. И потому их интеллект и сознание (а оно у животных, скорее всего, тоже есть) нам понять куда сложнее.

Ведь в том, что касается человека, мы хотя бы худо-бедно представляем итоговый результат эволюции, экспериментируя с собственным интеллектом. Тогда как попытки оценки интеллекта высших животных так и не позволили современной науке продвинуться дальше понимания того, что их интеллект, хоть и можно как-то сопоставить с интеллектом 2–4 летних детей, но это всего лишь грубое, неточное, да и не совсем корректное сопоставление, поскольку разум этих животный просто иной, чем человеческий.

И потому развилка эволюционных траекторий предка человека и животных, после которой появился новый потенциально сверх-разумный вид, видится обоснованной стартовой точкой для анализа эволюционного процесса формирования человеческого типа разума. После прохождения этой стартовой точки в ходе дальнейшей эволюции получилось разумное существо, способное освоить всю планету и создать цивилизацию Именно тогда был включен «пусковой механизм» антропогенеза. И если представить следующие 6 млн. лет эволюции человеческого интеллекта в виде популярной метафоры Густава Эйхельберга, уподобившего динамику развития человеческого общества 60ти километровому сверхмарафону, получится примерно следующее (при сопоставлении 1 км. дистанции ста тысячам лет эволюции).

Старт 60ти километрового сверхмарафона
(примерно 6 млн. лет назад)

Оценки разных исследований здесь расходятся, соглашаясь на том, что это произошло где-то в интервале от 8 до 4,5 млн лет назад.

Включен «пусковой механизм» антропогенеза. Разошлись эволюционные пути наших предков и предков наших ближайших родственников — современных африканских человекообразных обезьян. Как следствие — на Земле может появиться новый потенциально сверх-разумный вид.

35й км. дистанции
(2,5 млн. лет назад)

И этот род появился. Начинается самостоятельная история рода Homo, объединяющего современных людей и десятки тысяч поколений их предков. Появление первых каменных орудий.

40й км. дистанции
(2 млн. лет назад).

Люди распространились из Африки в Евразию. Параллельно идет эволюция различных видов людей.

56й км. дистанции
(500 тыс. лет назад)

Неандертальцы эволюционируют в Европе и на Ближнем Востоке.

58й км. дистанции
(300 тыс. лет назад)

Люди освоили повседневное использование огня и членораздельной речи.

59й км. дистанции
(200 тыс. лет назад).

Началась эволюция Homo sapiens в Восточной Африке.

60й км. дистанции
(70 тыс. лет назад).

Происходит «Большой переход Homo» (другие названия: Human revolution, верхнепалеолитическая революция, когнитивная революция и пр.) — грандиозный переход, в ходе которого движущая сила эволюции изменилась от биологии к культуре — совокупности поведенческих паттернов, разделяемых членами сообщества, основанного на информации, передаваемой социальным путем. Культурная эволюция становится доминирующей, а жизнь человечества становится все более зависимой от распространения идей, а не генов. «Большой переход Homo» стал возможен, как только мозг человека развился настолько, что появилась возможность использовать его не только для хранения информации и прогнозирования окружающей среды в целях выживания, но и для социального обучения, а также для инноваций.

Описанный эволюционный сверхмарафон наводит на размышления, как минимум, по следующим 4 вопросам.

Что запустило «механизм антропогенеза» и стало его катализатором, в результате чего разошлись эволюционные траектории шимпанзе и далеких предков Homo sapiens?
Что за принципиальное отличие возникло у далеких предков людей от шимпанзе, позволившее нашим предкам после шестимиллионолетнего эволюционного сверхмарафона преодолеть когнитивную пропасть, отделяющую разум животных от разума человека?
На что эволюции потребовалось «59+ км. сверхмарафона», подготовивших менее чем километровый победный спурт Homo sapiens?
Почему только на последних нескольких сотнях метров сверхмарафона заработал допинг, запустивший «Большой переход Homo» — экспоненциально ускоривший «бег» Homo sapiens?

— 3—

СЛУЧАЙНОСТЬ ИЛИ …?

По поводу 1го из поставленных вопросов сегодня существуют довольно разные предположения.

Известный российский археолог, д. и. н., ведущий научный сотрудник Отдела археологии палеолита Института истории материальной культуры РАН Леонид Борисович Вишняцкий считает запуск «механизма антропогенеза» результатом случайности — уникального стечения столь же уникальных обстоятельств.

«Толчком, заставившим его начать работу, послужило маловероятное в принципе пересечение в нужном месте и в нужное время практически независимых друг от друга биологических
(формирование у какой-то группы или групп интеллектуально продвинутых гоминоидов морфологической предрасположенности к прямохождению), климатических (аридизация) и тектонических (образование Восточноафриканского рифта) процессов. Это случайное стечение обстоятельств закрыло для наших предков возможность адаптации к меняющимся условиям существования обычным — биологическим — путем и подтолкнуло к более активной реализации уже имевшегося у них достаточно высокого интеллектуального потенциала».

Определяющей ролью случайности — «результатом целого ряда совпадений, следствием далеко не обязательного и даже маловероятного пересечения в одном месте и в одно время независимых или очень мало зависимых друг от друга природных процессов» — Л.Б. Вишняцкий объясняет

и появление человека вообще,
и выделение ветви, ведущей к человеку, когда она была еще практически неразличима на генеалогическом древе отряда приматов, и наши предки делали лишь первые шаги в направлении гоминизации,
и возникновения вида Homo sapiens.

Что ж. Набором маловероятный случайностей можно объяснить все, что угодно. Возможно, так и было. Но есть и иные предположения.

Например, автор мирового бестселлера «SAPIENS. Краткая история человечества» Юваль Ной Харари, ссылается на иную точку зрения, что могло спровоцировать когнитивную революцию.

«Наиболее распространенная теория утверждает, что случайные генетические мутации изменили внутреннюю «настройку» человеческого мозга и сапиенсы обрели умение думать и общаться, используя словесный язык. Можно именовать это мутацией Древа познания».

Согласно этой, доминировавшей с 2002 гипотезе, две уникальные мутации т.н. «гена речи» FOXP2 позволили человеку качественно оторваться от всего живого, превратившись в единственное на Земле существо, способное членораздельно говорить.

Однако со времени написания бестселлера Харари прошло уже 8 лет, и за это время гипотеза о генетической мутации «гена речи» так и не подтвердилась.

Более того, в 2018 году гипотеза объяснения уникальности разума человека двойной мутацией «гена речи» была опровергнута. Оказалось, что эта мутация произошла около 500 тыс. лет назад — задолго до «митохондриальной Евы» — проматери всех современных людей, жившей где-то 200 тыс. лет назад. Такой же как у нас вариант этого гена был обнаружен и у неандертальца. И теперь понятно, что изменения в FOXP2 произошли до того, как начал развиваться язык, — примерно более полумиллиона лет назад. Т.е. FOXP2 оказался не объяснением, а лишь частичкой объяснения сложного и пока не совсем понятного пазла.

Как признает выдающийся российский биолог, палеонтолог и популяризатор науки Александр Владимирович Марков — охота за «подлинно человеческими» особенностями в геноме человека пока дала сравнительно небольшой «улов». Но, тем не менее, что-то ведь изменилось в геноме наших далеких предков около 6 млн. лет назад, когда разошлись клады шимпанзе и человека. Иначе бы они просто не разошлись.

Среди версий, объясняющих «запуск антропогенеза» есть и версия великого фантаста Артура Кларка, экранизированная гениальным Стэнли Кубриком в лучшем фантастическом фильме всех времен и народов «2001: Космическая одиссея». Согласно этой версии, некий артефакт был оставлен на Земле несколько миллионов лет назад инопланетными исследователями, которые наблюдали за поведением обитавших тогда на Земле человекообразных существ и решили кардинально повлиять на их эволюционное развитие.

И сделали они это путем превращения зла (агрессии и насилия, уже заложенных в природу высших приматов эволюцией), в добро (катализатор развития разума).

Сцена, в которой обезьяна поднимает с земли кость и под симфонию Рихарда Штрауса «Так говорил Заратустра» превращается в убийцу, отображает ключевую мысль авторов «Космической Одиссеи»: насилие ведет к разуму, разум — к оружию, а оружие — к новому насилию. Так круг насилия становится основой будущей цивилизации.

Кадр из «2001: Космическая одиссея», когда обезьяна поднимает с земли кость под симфонию Рихарда Штрауса «Так говорил Заратустра», запуская механизм антропогенеза

Могло ли быть такое, — неизвестно. Сегодня убедительных доказательств за или против просто нет.

Но давайте зададимся более конкретным вопросом.

А в принципе, как это можно было бы сделать, пожелай того некая сверхразумная сущность?

Лежащая в основе подобного проекта идея, скорее всего:

✔️ гениально проста (иначе какая это сверхразумная сущность?);

✔️ связана с минимальной генетической корректировкой уже существующего биологического вида, меняющей его дальнейшую эволюционную траекторию в сторону превращения в потенциально сверх-разумное существо;

✔️ рассчитана на воплощение при любых вариантах развития событий на временном горизонте в несколько миллионов лет (поскольку в реальной истории Земли это заняло примерно 6 млн. лет).

Пример подобной идеи, удовлетворяющей трем названным требованиям, в форме отрывка из фанстастической повести, мог бы выглядеть так.

— 4—

ПРОЕКТ «ЧЕРНЫЙ МОНОЛИТ»

6 млн. лет назад Землю посетили представители Межгалактического совета сверхцивилизаций. Целью визита было принятие решения о целесообразности точечного вмешательства в ход эволюции на Земле. Такое вмешательство — проект под кодовым названием «Черный монолит» — должно было стать поворотным моментом эволюции, вследствие которого через миллионы лет на Земле появилась бы цивилизация.

Разговаривают двое:

Межгалактический координатор эволюционных корректировок (К)
Руководитель проекта «Черный монолит» (Р).

— — —

(К): Этот проект чем-то отличается от всех прошлых точечных корректировок эволюции на обитаемых планетах?

(Р): Раньше мы использовали точечные корректировки лишь для совершенствования каких-то конкретных видов животных на планетах. Теперь же мы хотим создать принципиально новый вид. Это должен быть не просто новый вид животных, а существа, способные эволюционировать настолько, чтобы, примерно, через 6 миллионов лет создать уникальную культуру и собственную цивилизацию. Мы рассчитываем, что эволюция созданной ими культуры ускорит развитие вида по сравнению с биологической эволюцией на несколько порядков. В итоге такого ускорения на протяжении нескольких миллионов лет, скорость эволюционного совершенствования нового вида станет колоссальной. И после обретения видом языка и зачатков культуры, он всего лишь за какие-то 50–100 тыс. лет эволюционирует до масштабов планетарной цивилизации.

(К): Амбициозный план. А с чего планируете начать?

(Р): Первым шагом планируется появление на земле нового промежуточного вида, воплощающего в себе т.н. “парадокса добра”. Именно это и должно стать поворотным моментом, а потом и постоянным катализатором длительного процесса трансформации зверя в потенциально сверх-разумное существо.

(К): Тут давайте поподробнее.

(Р): Суть “парадокса добра” в том, что воплощающие его особи будут одновременно одним из наименее и наиболее агрессивных видов. Наименее агрессивны они будут по отношению к «своим». А наиболее агрессивны, — по отношению к «чужим». В отличие от большинства животных, в своих повседневных отношениях с ближайшим окружением («своими») они будут терпимы, доброжелательны, дружелюбны и неагрессивны. Но в то же время, они будут предельно агрессивны ко всем “чужим”, существенно чаще и эффективней, чем другие виды, убивая «чужих». Причем делая это с куда большей жестокостью и изобретательностью.

(К): А почему для перевода вида из состояния зверя в состояние потенциально сверх-разумного существа обязательно нужен такой промежуточный вид? И какова здесь роль “парадокса добра”?

(Р): На Земле идет эволюция класса 17.9.4, в основе которой постоянная конкуренция (межвидовая и внутривидовая) за ресурсы для выживания. Конкуренция предельно жестокая: либо убьешь ты, либо тебя. А поскольку эволюция работает на отбор самых приспособленных к такой жизни видов и особей, понятиям типа добра и зла здесь просто нет места. Добро здесь — это то, что позволяет выжить и оставить потомство. Даже если за это придется поубивать много других особей.

(К): Это понятно. Но почему для данного типа эволюции нельзя вообще не заморачиваться с «добром» и обойтись лишь уже развитыми эволюцией агрессивностью и жестокостью?

(Р): Можно. Но ждать развития разумности такого вида до уровня планетарной цивилизации придется слишком долго. Мы промоделировали все основные варианты дальнейшей эволюции наземных и водных приматов Земли в течение ближайших 30 млн. лет. Если по-прежнему, лишь агрессивность и жестокость останутся в качестве главных качеств в борьбе за выживание, то вероятность чисто эволюционного развития разума за указанный срок до уровня всепланетарной цивилизации не превышает долей процента.

(К): А при условии точечного вмешательства, встраивающего в эволюцию поведение, индуцирующее «добро»?

(Р): Шансы становятся выше 90% на горизонте около 6 млн. лет.

(К): За счет чего такое ускорение?

(Р): Тут довольно широкий комплекс причин. Назову три главных. Первая в том, что добрые, просоциальные отношения развивают способности к сотрудничеству и передаче культурных знаний. Во-вторых, «добрые» особи становятся умнее своих «злых» сородичей из-за сниженного у них уровня стресса, который подавляет в организме многие процессы. Третья по счету, но не по значению причина в том, что доброе, просоциальное поведение на гормональном уровне связано с неотенией — сохранением младенческих качеств у особи, достигшей половозрелого возраста. А это, помимо свойственной детенышам высокой терпимости, доброжелательности, дружелюбия и неагрессивности, пролонгирует у особи два важнейших для познания качества — любознательность и увлеченность в исследовании окружающего мира. У земных животных эти качества сохраняются лишь в раннем детстве. Потом они безвозвратно исчезают. Но в раннем детстве они жизненно необходимы, поскольку нужны для обучаемости и приобретению знаний.

Три названных причины радикального ускорения развития разума нового вида начнут постепенно действовать практически сразу после проведения нами точечного вмешательства. А примерно через 6 млн. лет, как показывает моделирование процесса культурной эволюции, просоциальное поведение и сотрудничество станут фундаментом для возникновения больших сообществ, государств и цивилизаций.

(К): Звучит довольно заманчиво. [И после небольшой паузы] Какой из вариантов корректировки эволюции вы выбрали в результате моделирования?

(Р): На практике, самой надежной и эффективной будет точечная корректировка агрессивности одного из видов: реактивная агрессивность (ответная реакция на обиду) снижается примерно вдвое. Тогда как активная агрессивность (агрессивность, мотивированная целями особи) остается неизменной — т.е. на чрезвычайно высоком уровне.

(К): А почему бы не понизить уровни обоих видов агрессивности?

(Р): Вид просто не сможет широко распространиться по планете. Столь доброжелательные и к своим, и к чужим существа могут выживать лишь в особых точках планеты, где для них полностью отсутствует какая-либо конкуренция за необходимые для выживания ресурсы. Нам же нужен вид, способный заселить всю планету.

(К): Понятно. С корректируемым видом уже определились?

(Р): Тут особо и выбора нет. Есть как раз три наиболее эволюционно продвинутых вида приматов. Один из них мы возьмем в качестве целевого и установим ему пониженную реактивную агрессивности, сохраняя при этом высокий показатель активной агрессивности. Два других вида будут контрольными: у первого из них обе агрессивности оставим как есть — на максимуме; у второго же сделаем в точности наоборот, по сравнению с целевым видом: оставим неизменным высокий уровень реактивной агрессивности, но понизим примерно вдвое уровень активной агрессивности.

(К): А как выбираете целевой вид из этих трех?

(Р): Да просто случайным образом. Это ведь в принципе все равно. Они же потенциально практически одинаковые.

(К): Хорошо. Последний вопрос — планируется ли контрольная точка в проекте до формирования на Земле цивилизации планетарного уровня?

(Р): Мы не считает целесообразным расширять объем точечного вмешательства ранее, чем через полученные нами при моделировании 6 млн. лет. Все должно идти без нашего вмешательства. Вплоть до момента, когда цивилизация столкнется с глобальными вызовами, которые уже не сможет преодолеть без превращения в цивилизацию планетарного уровеня. И лишь когда это случится, мы начнем 2ю фазу проекта, снова проведя точечную корректировку агрессивности. Но теперь уже понизив активную.

(К): Ну что ж. Интересный может получиться проект. Готовьте к активации оборудование «Черного монолита». Завтра я доложу ситуацию на Межгалактическом совете. И полагаю, что завтра же Совет санкционирует запуск проекта. Мне даже интересно, что из всего этого получится через 6 млн. лет. Ну да время летит быстро. И у нас с вами есть неплохие шансы самим увидеть результаты.

Ну а теперь о самом интересном.

В приведенном отрывке, как в любой околонаучной фантастике, есть и чистая фантазия, и вполне научные факты.

Так вот, — фантазией является лишь:

наличие именно таких героев,
факт их беседы (никто свечку при этом не держал),
и информация о проведении инопланетного проекта «Черный монолит» (тут все вопросы к Кларку и Кубрику).

Ну а все остальное, — чистая правда.

✔️ «Парадокс добра»

✔️ Два типа агрессивности в природе

✔️ Кардинальное снижение реактивной агрессивности у людей по сравнению с животными

✔️ Три совершенно разных итоговых «микса агрессивности» у людей и двух видов шимпанзе

✔️ Влияние снижения реактивной агрессивности на просоциальное поведение, сотрудничество и социальное обучение

✔️ Связка просоциального поведения на гормональном уровне с неотенией

✔️ Влияние неотении на любознательность и увлеченность в исследовании окружающего мира

✔️ Социальное обучение, как основа культурной эволюции

✔️ Решающая роль культурной эволюции в «Большом переходе Homo»

Все это, повторяю, — чистейшая правда. И, следовательно, все могло быть примерно так, как рассказано.

А могло и не быть. Свидетелей, понятное дело, нет. А свидетельства, в основном, — из области чистого разума. Поэтому можно, воспользовавшись неологизмом от Л.Б. Вишняцкого, считать изложенный логический конструкт «исторической сослагистикой». Однако практически все элементы данного конструкта — и это принципиально важно, — экспериментально подтвержденные научные факты, пусть пока еще и не ставшие частью научного мейнстрима, но прошедшие все надлежащие проверки и пир-ревю.

Первым же и, так сказать, опорным элементом предложенного логического конструкта, является теория эволюции человеческой агрессивности, разработанная известным приматологом Ричардом Рэнгемом — профессором антропологии, основателем и директором исследовательского центра по изучению шимпанзе в проекте «Шимпанзе в Кибале», Уганда. Он посвятил изучению шимпанзе 50 лет и в этом году опубликовал итоговую монографию своих исследований, озаглавленную «Парадокс благости: странные отношения между добродетелью и насилием в эволюции человека».

Можно без большого преувеличения сказать, что эта книга подтверждает известную библейскую мудрость .

Человек стал человеком в результате противостояния борющихся в нем добра и зла.

Лишь с одним уточнением из области эволюционной психологии.

Результат этой борьбы внутри нас определяется тонкой настройкой нейро-химических алгоритмов, сформированных в результате миллионов лет эволюции.

Оригинал и комментарии

У нас в России и счастье особенное ^от sergey_57776

Коллаж на основе работы SerjioLe / iStock

Вчера увидел малоизвестный интересный материал о том, как измерить уровень счастья в России. Помимо того, что материал социолога Понарина сам по себе мне показался интересным, он также:

хорошо дополняет мой рассказ о «международном рейтинге счастья» за 2019, показавшем, что «формула всеобщего счастья проста и понятна»;
позволяет увидеть довольно тонкое различие в «приоритетах счастья» интеллектуалов и просто творческих людей в России и в США.

Чуть поясню, а дальше сами читайте по ссылкам, если заинтересует.

1) В России, как я писал, со счастьем незадача. Наша страна в этом году лишь на 68м месте, за год потеряв 9 позиций, а за два года — 19.

Но вот оказывается (как пишет Понарин) уровень счастья в России стабильно падал с его первого замера в 1981 г. Особенно резко он падал, понятно, в 90-е годы, достигнув минимума в середине десятилетия. Где-то с 2000-го он стал подниматься и в 2016 почти достиг уровня начала 80-х. Однако и тут не срослось. Теперь снова падает.

В общем, мы невыгодно контрастируем и со Скандинавией, получающей счастье через богатство и равенство, и с Латинской Америкой с ее тесными родственными и дружескими связями и опорой на религию.

2) Из рассказа Понарина следует, что население России, в основном, состоит из материалистов, то есть тех, кто во главу угла ставит экономическое благополучие и безопасность. О свободе выбора или интересной работе они думают во вторую очередь, если вообще думают.

Кроме того, нашим соотечественникам быть счастливыми довольно сильно мешает зависть. И хотя в Москве больше всего доля людей творческих профессий, но счастливых людей здесь меньше, чем, скажем, в Чебоксарах. Там разрыв в доходах не столь вопиющий.

Сравните это с «приоритетами счастья» интеллектуалов и прочих творческих людей в США. Там в «мире чистогана и желтого дьявола» у творческих людей совсем иные «приоритеты счастья».

Как бороться с «психопрофессиональной гравитацией» (когда еще молодым стартапером взлетел на вершину творческого счастья, — а потом оттуда так высоко падать…)?
Как с возрастом становиться счастливей, используя теорию «текучего и кристаллизованного интеллекта» (1й — позволяет анализировать и решать новые проблемы, а 2й — это способность использовать знания, полученные в прошлом)?

Источник: https://www.theatlantic.com/magazine/archive/2019/07/work-peak-professional-decline/590650/

Как перестать видеть свою жизнь огромным полотном картины, которую вам предстоит написать, а начать воспринимать жизнь, как глыбу мрамора, от которой нужно постараться отколоть все лишнее, чтобы придать ей шедевриальную форму?

Короче, — нам бы их заботы! 🥴

________________________________

Оригинал и комментарии

Алгоритм подготовки спикера ^от innubis

МЕТОДИКИ КИРИЛЛА АНАСТАСИНА

История в картинках :-)

Подробнее о целеполагании:

С чего начать готовить презентацию

Мой канал на YouTube

Kirill Innubis

©Кирилл Анастасин

Оригинал и комментарии

Профдеформация, которая сделала меня лучше ^от innubis

НАВЫК СЛЫШАТЬ

Что на самом деле определяет коммуникацию.

Когда-то слушая человека я думал о том, как ему отвечу, что могу добавить к сказанному, как выглядеть умно.

Нынешняя профессия изменила мой навык слушать и слышать кардинально. Когда-то мне пришлось выстроить все презентационное дело Яндекса, а сегодня приходится много консультировать будущих спикеров технологических конференций.

Например, вот разработчик готовится рассказывать что-то на HighLoad++. Его выступление длится 45 минут. И я слушаю все 45 минут не перебивая, записывая все косяки, вникая в суть, ловя противоречия в логике. И не важно, выспался я или нет, сколько кофе влил в себя и на сколько сырой и скучный рассказ — я внимателен и сосредоточен все 45 минут. А потом еще 45 и еще, и еще. Все в один день.

Вчера слушал выступления 6 команд. А потом еще дискутировал 2 часа с теми, у кого наиболее тяжелая задача. За это время отвлекся один раз. Вдруг вспомнил фильм «Полночь а Париже», потому что там у Сальвадора Дали, в исполнении Эдриена Броуди, была офигенная интонация, когда он представлялся. Секунд 30 я был мыслями в фильме.

Однажды меня решили протестировать друзья. На даче под вино Вадим минут 20 рассказывал про свой проект. Я кивал.
— Кирилл тебя не слушает давно, просто кивает — заметила его жена.
— Нет. Я слушаю.
— Ну и о чем он тебе сказал, сможешь повторить?
И я повторил. Если бы я так умел слушать на изложениях в школе, то мне бы ставили двойки за то, что списал с книги.

Вот такая профдефоомация. Чему она меня научила:

За способность слышать платят хорошие деньги, потому что это очень редкая способность.

Лишь правильно и до конца выслушав человека, ты можешь ответить что-то в тему и по делу.

Коммуникация = (количество воспринятой информации / количество упущенной информации) х (все что ты мог бы сказать в тему)

Кирилл Анастасин

Оригинал и комментарии

Vladimir Lira да забыли просто. Вот и кажется щас, что “мясом пахнет”… ^от real_baxus

Vladimir Lira да забыли просто. Вот и кажется щас, что “мясом пахнет”…

Оригинал и комментарии

Vitaliy Ganzhin Интересно, как на эту концепцию влияет двушка в Долгопрудном, в человейнике… ^от real_baxus

Vitaliy Ganzhin Интересно, как на эту концепцию влияет двушка в Долгопрудном, в человейнике, купленная в ипотеку, и половина дееспособной жизни, потраченная индивидуумом на её ремонт, выплату оной ипотеки, и прочее унылое облагораживание и унавоживание этого “гнёздышка”, хе-хе.

Оригинал и комментарии

Практика создания User Generated Content (UGC) ^от https:

Копилка идей

Практика создания User Generated Content

Многие компании задумываются над тем, чтобы стать самообучаемыми. Для этого важно, чтобы новые знания упаковывал в отчуждаемый вид не только учебный центр, но каждый сотрудник, порождающий новые знания и лучшие практики. В этой заметке мы предлагаем подход, основанный на фасилитации.

Фасилитация

Представьте себе: у вас в компании есть крутой специалист. Например, продажник или программист, или маркетолог. И вы размышляете примерно так: “Если бы все были такие как он/она, наша компания давно бы уже порвала рынок! Надо его/её знания передать остальным. Пусть запилит курс на тему, как стать лучшим продажником / программистом / маркетологом”. Скорее всего, у вас ничего не получится. Тому несколько причин:

“Запиливание” курса отвлекает от основного занятия, которое приносит деньги.
Не у всех есть мотивация на создание конкурентной среды. Скорее всего, ваш супер-звёздный специалист будет выжигать поляну вокруг себя.
И даже если он таки решился упаковать свои знания в курс, ему сложно понять, что он такого знает и делает особенного. Скорее всего, курс будет из единственного и очень короткого урока: “будь собой и всё получится”. Так работает когнитивное искажение “проклятие знаний”.
Также есть большой вопрос верификации знаний. Что из того, что я делаю, действительно даёт результат? Самостоятельно ответить на этот вопрос невозможно - нужно анализировать репрезентативную выборку.
Кроме того, нужны не только предметные знания, но и понимание, как эти предметные знания распаковать. Для этого важно быть не столько специалистом, сколько методистом. Упс…

Вот мы и вернулись к тому состоянию, от которого собирались уйти. Крутой специалист не может сам описать свою компетенцию? А как же мечты о самообучаемой организации?

Выход есть — фасилитация. Если поместить специалиста в определённую среду и запустить процесс фокусировки внимания и вытаскивания смыслов, то окажется, что создание содержательных курсов силами специалистов вполне возможно!

Мы разработали и за несколько лет провели несколько десятков сессий по упаковке смыслов — Смыслотонов. За счёт групповой динамики и особой технологии вопрошания специалисты выходят на озарения и упаковывают смыслы в формат объясняющего видео: коротко. ёмко, ясно.

Суть того, что происходит на Смыслотоне поясняет схема:

Хорошее “сообщение” (читай “курс”, “учебный модуль”) должно учитывать не только содержательную сторону, но и специфику аудитории;
Концепт сообщения — это квинтэссенция смысла, то, что остаётся в сухом остатке в сознании аудитории;
Сильный концепт рождается как синтез на пересечении глубокого понимания аудитории и глубокого понимания темы;
Прийти к глубокому пониманию можно через исследование, в том числе кабинетное. Многие знания есть, но не проявлены и могут быть проявлены в диалоге специального типа.

Смыслотон — тимбилдинг со смыслом

Смыслотон позволяет решить классическую дилемму и получить три из трёх дважды:

С точки зрения процесса: Быстро + Качественно + Недорого
С точки зрения контента: Коротко + Ёмко + Ясно

Визуализация

Особая роль в том, чтобы сообщения стали ясными, принадлежит визуализации. Тому есть как минимум две причины:

Если текст воспринимается последовательно и понимающему нужно прилагать усилия к тому, чтобы собрать в своём сознании целостный образ, картинка или схема считывается целостно изначально.
Для понимания текста самого текста не достаточно. Важен контекст. С помощью визуализации довольно легко управлять контекстом восприятия.

На Смыслотонах мы часто слышим фразу “я не умею рисовать”. Уточняем: “Что вы имеете ввиду?”. Оказывается, люди просто не понимают, что значит рисовать. Мы предлагаем разложить компетенцию “рисование” на отдельные компоненты:

владение визуальным алфавитом
владение визуальной грамматикой
владение визуальной метафорой

Визуальный алфавит

Простейшее владение этим навыком заключается в способности рисовать овалы, прямоугольники, треугольники, линии, стрелки.

На втором уровне желательно уметь изображать простейшие предметы: дерево, солнце, ракета, дом, облако и т.д.

На третьем уровне изображаем качества: забота, скорость, качество, бесперебойность, удовлетворённость и т.д.

Сравните:

“Дерево” слева считывается однозначно. Руки с малышом справа считываются как “забота”. Чтобы изобразить качество, нужно просто немного подумать: какие предметы обладают заданным качеством и изобразить именно эти предметы. Правда, нужно не забывать про аудиторию. Из нескольких вариантов следует выбрать тот, что наилучшим образом подойдёт тем, для кого вы создаёте сообщение.

Визуальная грамматика

Это то, как вы компонуете элементы на плоскости листа — композиция, или визуальная сортировка.

Визуальная метафора

Теперь давайте рассмотрим, как можно визуализировать фразу:

Чтобы увидеть цель, необходимо пройти часть пути

Эта фраза не визуализируется через прямую трансляцию слов в образы. Важно понять, какой смысл мы хотим передать этой фразой — прочувствовать контекст. Для этого на помощь приходит метафора.

После того, как вы освоите визуальный алфавит, визуальную грамматику и работу с метафорами, процесс рисования уже не покажется вам чем-то запредельным.

Сторителлинг

После того, как участники Смыслотона разобрались со смыслами, возникает необходимость упаковать контент в виде короткого текста. Мы обнаружили, что формат истории подходит оптимально в большинстве случаев.

Вот разобранные кейсы: для упаковки учебного модуля и упаковки ценностного предложения.

Мы предлагаем участникам Смыслотона использовать изобретённую в Смыслотеке схему “колесо истории”, которая подробно описана в заметке:

Сторителлинг глазами технаря

Использование историй позволяет получить три эффекта:

Создать для аудитории узнаваемый контекст
Обеспечить эмоциональную включённость аудитории
Обеспечить лучшую запоминаемость

В заключение

Знания в головах сотрудников принадлежат сотрудникам. Упакованное знание принадлежит компании и является её конкурентным преимуществом;
Фасилитация процесса упаковки знаний и опыта специалистов существенно экономит время и повышает качество упаковки;
Компоненты эффективного кодирования знаний и опыта:
Визуализация + Сторителлинг.

Если заметка понравилась, нажмите на иконку с ладошками. Поаплодируйте :)

Подпишитесь на блог “Смыслотеки” в Медиуме Подписаться

Если удобно получать обновления блога на почту, подпишитесь по ссылке Подписаться

Практика создания User Generated Content (UGC) was originally published in smysloteka on Medium, where people are continuing the conversation by highlighting and responding to this story.

Оригинал и комментарии

Китайский ответ на глобальный политический лайфхак Суркова ^от sergey_57776

Как в цифровом мире выглядит настоящий технологически усовершенствованный авторитаризм… А не его пародия

Иллюстрация с обложки отчета: автор Badiucao, https://www.badiucao.com

Как же дремуче самобытны, технологически-отсталы и сермяжно-спесивы воззрения тех, кто полагает, будто Путинизм «представляет собой глобальный политический лайфхак, хорошо работающий метод властвования». И хотя в технологически отсталой России этот домотканый лайфхак пока что работает, но для современного цифрового мира он подходит не более, чем русские сани для передвижения по дорогам Южной Европы.

Чтобы понять это, достаточно взглянуть на настоящий политический лайфхак Китая. На его глобальную, технологически продвинутую, стратегически выверенную и, при этом, скромную, предельно тихую и не бросающуюся в глаза стратегию распространения по миру технологически усовершенствованного авторитаризма.

• Цель этой стратегии — формировать, управлять и контролировать глобальную операционную среду Китая таким образом, чтобы мировое общественное мнение благоприятствовало его собственным интересам.

• Её подход — неуклонное повышение государственной безопасности и, в первую очередь, политической безопасности Коммунистической партии Китая (КПК).

• Её базовый принцип — интересы КПК имеют приоритет, как над интересами китайского государства, так и над интересами китайского народа.

• Её тактика — постоянное расширения власти КПК за рубежом, поскольку (согласно ее собственному выражению) угрозы и риски для КПК, с такой же, если не с большей вероятностью по отношению к внутренним угрозам, могут возникнуть за пределами Китая.

• И наконец её основа и суть — массовый сбор данных в качестве средства генерирования информации для повышения обоснованности и действенности государственных решений, направленных на обеспечение безопасности.

Что же до предлагаемой тактики, то она состоит из двух ключевых направлений.

Принудительные и явно инвазивные технологии, типа камер наблюдения, а в дальнейшем и с добавлением био-мониторинга.
Технологии предоставления населению полезных услуг. Эти услуги призваны обеспечить эффективность повседневного управления и удобство повседневной жизни, типа «умного города» и «Интернета вещей» (IoT).

Цель 1 и 2 одна и та же.

✔️ ️Тот, кто имеет возможность получить доступ к данным, которые система генерирует и собирает, может извлечь выгоду из них, превратив в информацию.

✔️ То, как эти данные обрабатываются, а затем используются, зависит от целей и намерений того, кто их обрабатывает (а какие у них цели и намерения — читай выше).

Теперь понятно, почему китайские технологии видеонаблюдения, умного города и инета вещей уже внедрены или внедряются в полусотне стран мира? Вот это глобальный лайфхак, а не домотканая пародия на него.

Алё, гараж! Это к нам Huawei приходит, а не МТС в Китай. Или снова на выстрел «Авроры» надежда?

Подробней можно прочесть в новом отчете Саманты Хоффман из ASPI — «Инжиниринг глобального одобрения. Расширение власти КПК через контроль над данными».

Это куда ближе к реальности, чем фанаберии про Путинизм.

Карикатура Сергея Елкина. Источник: https://www.svoboda.org/a/28620611.html

________________________________

Оригинал и комментарии

Реальный ИИ ^от sergey_57776

Будущее критически важных технологий решает не рынок, а правительство

Об этом я рассказал в программе «Искусство интеллекта» на Радио Медиаметрикс. Слушать или смотреть можно по ссылке или в конце поста.

Если же вы не уверены, стоит ли тратить на это 46 мин, — вот тизер темы, что же такое Реальный ИИ, и почему сейчас это самое важное?

Практические результаты взаимоотношений между странами мало зависят от того, что говорят или пишут политики. И от того, насколько действия политиков и военных моральны, правдивы и соответствуют международному праву. И даже от идеологии сторон.
В основном, результаты взаимоотношений между странами определяются реальными практическими соображениями, вытекающими из интересов руководителей стран — правительств или авторитарных правителей. Со времен Бисмарка это называется Реальная политика (нем. Realpolitik). И поэтому не стоит всерьез анализировать, что говорят и пишут о политике в медиа. Куда продуктивней анализировать, что выгодно на практике тем, в чьих руках реальная власть.
С технологиями аналогично. Как только власти осознают критичность технологии для достижения своих международных и геополитических целей, они переключаются в режим Realpolitik по отношению к ней. Это не значит, что интересы исследователей и бизнеса перестают с этого момента влиять на развитие технологии. Но доминирующая роль теперь за интересами правительства.
Так было не раз в истории человечества с тех пор, как в мире появились государства. В итоге таких действий государств новая технология могла колоссально развиться (как ядерная или космическая). А могла и быть придушена государством (как парусный флот в истории Китая).
Сейчас пришла очередь ИИ. Правительства ведущих стран мира поняли критичность этой технологии. И отныне то, как она будет развиваться, более всего зависит от действий правительств.

Конечно, гордые исследователи и отважные бизнесмены будут пытаться отстаивать свои интересы в ИИ. Однако история показывает, что это тщетно. Пока мир поделен не корпорациями, а государствами, решающее слова всегда будет за последними.

В связи с чем ИИ вдруг стал столь критичен для правительств?
Что важнее для национального ИИ России: принятая нацпрограмма по ИИ или прогнозируемая национализация Яндекса?
Что важнее для национального ИИ США: очередной триумф AlphaZero над человеком в новой игре или введение санкций против 28 хайтек компаний Китая?
Что дальше будут делать правительства в уже начавшейся гонке за мировое лидерство в ИИ?
Каковы возможные сценарии — куда мир может приплыть, ведомый шкурными интересами капитанов ведущих стран мира по отношению ИИ?

На все эти вопросы в контексте развития реального ИИ в мире я попытался ответить в своем рассказе.

________________________________

Оригинал и комментарии

Переворот в представлениях об интеллекте людей и машин ^от sergey_57776

Это лишь 1й шаг, но за ним идут супер-прорывные открытия

Источник https://www.instagram.com/zouassi/

Назвав Альберта-Ласло Барабаши Эйнштейном 21 века, я все же не ошибся. Он открыл безмасштабные сети (scale-free network) и математически обосновал: они — основа мира. Вселенная на всех уровнях как бы энергетически запитывается этой безмасштабностью, главный механизм которой «предпочтительность установления связей» (preferential attachment) — следствие из 2го закона термодинамики, гласящего, что для вселенной в целом энтропия (мера хаоса) возрастает.

Что такое безмасштабные сети. Источник Lucy Reading-Ikkanda https://www.quantamagazine.org/scant-evidence-of-power-laws-found-in-real-world-networks-20180215/

Последние несколько лет ушли на проверку — действительно ли сеть, образованная миллиардами нейронов человеческого мозга, работает по тем же информационным законам, что и Интернет.

Это сейчас самый фундаментальный вопрос на пути понимания интеллекта людей и машин.

Ибо если ответ «да»,

• раскрывается тайна того, как мозг, просеивая шум, выборочно запоминает только самое важное и не захлебывается в деталях;

• это сулит переворот в алгоритмике глубокого обучения ИИ, сегодня просто не обладающего механизмом нахождения компромисса между степенью детализации данных и продуктивностью выявления закономерностей в них.

Новое экспериментальное открытие (популярно и детально) позволило вплотную подойти к раскрытию загадки:

• каким образом мозг обрабатывает информацию, отбрасывая большую часть её в пользу более простых нейронных описаний;

• как усовершенствовать алгоритмы глубоко обучения ИИ, дабы они работали не тупо, как сейчас (за счет безумной производительности вычислений), а умно и экономно, как это делает мозг.

В основе эксперимента новая техника записи процесса одновременной работы 10 тыс. нейронов. С ее помощью мышам показывали тысячи изображений, наблюдая за реакциями в зрительной коре и обнаруживая паттерны, соответствующие более высоко-размерной (более детальной) картине нейронной активности.

В результате удалось понять, как работает «балансировочный акт» — тот самый механизм компромисса между объемом данных и вылавливаемым из них «смыслом».

Все объясняется наличием критический («фазовых») переходов при наращивании размерности (детализации) входной информации.

Эти переходы нарушают свойство процесса обработки информации, названное «гладкостью» (непрерывностью), в результате чего небольшие изменения на входе могут генерировать большие изменения на выходе.

По сути, этот механизм позволяет выявлять во входных данных тот «один пиксель», изменение которого приведет к отображению в памяти уже другой ситуации. Извините за не совсем корректный пример, но похожим образом работает развертка на экранах — меняются только определенные пиксели, а не все изображение.

Но как идентифицировать эти «критические пиксели»?

Ответ тоже найден —

нужно найти критический порог размерности (детализации), после которого появится фрактал (функция потеряет гладкость).

Иными словами, представления в памяти должны быть настолько подробными и объемными, насколько это было возможно, чтобы они оставались гладкими.

Итоговый новый закон —

паттерны нейронной активности настолько детализированы (многомерны), насколько это возможно, не становясь фрактальными (негладкими).

В заключение пример.

Изрезанная береговая линия — это фрактал. Если идете вдоль берега, открывающаяся взору картинка все время меняется, т.к. вся кромка берега состоит из зубцов. Избавьтесь от фрактала, не дав «взорваться» степени детализации. Например (условный, но похожий на правду), — сфоткайте этот берег из космоса. И получите компромиссную по точности картину, информационно в миллионы раз меньшего объема, чем миллионы фото, снимаемых на каждом 10ом шаге обхода побережья. А «смысл» (понимание очертания побережья) вы при этом не потеряете.

________________________________

Оригинал и комментарии

И снова о панических атаках ^от shvaratsky

Оригинал и комментарии

The diamond cutter, Michael Roach, 2000, краткий конспект ^от victorosyka

Толя М. принёс когда я ещё лежал в больнице в январе

Про буддистские подходы в бизнесе выпускника Принстона и пожившего в Тибете на стипендии, а потом в 80ые пошедшего работать в Нью-Йорке в бизнес по огранке и продаже бриллиантов (60% продаж в США ювелирная отрасль на рождественские праздники)
Ключевая идея: буддизм и бизнес — очень взаимодополняющие — люди в бизнесе должны очень интенсивно духовно развиваться потому что:
а) «видят очень много жизни», а также
б) бизнес сурово подчиняется эволюции по Дарвину/эффективности
Концентрация на активности даёт душевное умиротворение
Мир меняется, успешные организации культивируют креативность и инновации (помимо внутренней этичности)
На личном уровне для этого нужна душевная энергия, а чтобы ее было больше, самое главное — не позволять своим негативным импринтингам (см ниже) отжирать внимание мозга
Он делал $2 млн в год (все равно что сейчас 4–5), а ездил на автобусе из Нью Джерси и утром медитировал в это время в молчании
Ежедневно утром практиковать медитацию молчания, в одно и то же время, 15–30 минут. Это начнёт снижать напряжение и в бизнесе (будет формироваться отношение что любые бизнес проблемы это не враги и угроза, а просто события),
и
в частной жизни аналогично — будет появляться отстранённый взгляд в суть приходящих проблем, видеть вещи как есть, приходить решения
В итоге подсознательный отказ от цикла негативности в восприятии мира начнёт реально очищать вашу жизнь
Это связано с тем, что наш мозг за жизнь накопил тысячи импринтингов о ситуациях и наших реактивных реакциях на них, а теперь нам это мешает. Полчаса молчания в тишине каждое утро расчищают мозг и душу от хаоса наших накопленных реакций, мы познаем успокоение блуждающего ума
Из механики работы импринтингов негативные действия ведут к негативным результатам, позитивные — к позитивным. Когда наши импринтинги ушли в подсознание — они начинают подталкивать нас к преследованию соответствующего опыта в нашей жизни (!). **Ни один импринт не расходуется нагим мозгом даром — они _всегда_ влияют на наше текущее восприятие чего угодно**.
А
Медитация расчищает наши фильтры восприятия, и мы начинаем видеть успокоенным умом — а как именно наши импринтинги искажают наше восприятие мира от нейтрального или ненаполненного (empty)
Money itself is created by maintaining a generous state of mind
Помимо осознания как все прошлые импринтинги влияют на наши фильтры восприятия, буддизм рассказывает что делать, чтобы не копить новые (!). Нужно отслеживать в себе и отказываться испытывать чувства, нарушающие спокойствие разума:
1 неправильным образом like things
2 неправильным образом don’t like things
3 гордыня
4 не понимать как реально все работает
5 сомневаться про важные истины
6 неправильная картина мира
Если отслеживать все эти вещи и отказываться поддаваться им и в моменте (первые секунды эмоций), и в течении дня (возвращаться по кругу в прошлое)
то
дыхание и сердцебиение не поменяются от стресса, мозг будет в ресурсе, и можно будет решать здесь и сейчас (present moment) проблемы максимально спокойно, и, как следствие, наиболее эффективно
Душевное спокойствие, кстати, является лучшим путём к здоровью тела.
Менеджеры являются банально зависимыми от ежедневного адреналина (обычно не понимают это, поэтому на пенсии ещё несколько лет не могут успокоиться).
Инструмент: один день в неделю уделять, не прерываясь, не работе, а тишине: никаких звонков, встреч, работы. Это позволяет обрести ясность души и ума, и хотя локально на автомате кажется, что что-то упускаешь, но обретённая душевное спокойствие и ясность в мыслях окажутся гораздо эффективнее для бизнеса. А то бизнесмены в сша «work themselves to death». Можно делать какие-то физические активности и индивидуальный спорт
Он описывает, что можно сделать по сути випассану где угодно: на неделю полторы в абсолютно безлюдном природном месте живешь и гуляешь, попутно можно мысли в дневник записывать. У нас в жизни не было такой возможности, переосмысляешь себя, затихает напряжение души, открываются инсайты про все и меняешь жизнь потом (идёшь на риск).
Emptiness: Все в мире ничто, негативный или позитивный смысл вещам даём только мы сами
Медитация смерти — медитировать и представлять что завтра умрешь. Позволяет глубоко пересмотреть импринтинги и автоматизмы и очистить 75% жизни и сделать что-то что давно откладывал. Нужно периодически делать

Оригинал и комментарии

Власть ИИ над людьми хотят узаконить ^от sergey_57776

Это может стать самым страшным наследием Трампа для мира

Алгоритм COMPAS, используемый судьями для оценки, должны ли обвиняемые быть задержаны или освобождены под залог до суда, привлек внимание к заявлениям о потенциальной расовой дискриминации. (Фото: Stephen Lam/Reuters)

Признаки тектонических изменений в обществе, в момент их первых проявлений, мало кому заметны. Однако уже через десяток лет, при развитии этих процессов, жизнь человечества кардинально изменится.

Главным таким процессом сегодня является повсеместная передача принятия решений от людей к алгоритмам, — о губительности чего вот уже несколько лет тщетно пытается предупреждать Харари.

Однако, реакция мира на это почти никакая. И все бы ничего. Процесс мог бы еще годы и годы идти медленно и неправильно, подобно попыткам законодательно разрешить проблемы внедрения самоуправляемых авто.

Но миру сильно не повезло. Президентом первой страны мира стал Трамп. Сочетание его ограниченности и недалекости с ковбойской готовностью сначала стрелять, а потом думать, способно теперь изменить будущее не только США, но и всего мира.

Дело в том, что Трамп решил законодательно освободить алгоритмы от ответственности за дискриминацию людей.

Пытаясь остановить США от этого страшного необратимого шага (не ошибки, а, скорее всего, преступления перед человечеством), 18 октября группа из десяти компьютерных ученых, социологов и юристов из «Лиги алгоритмической справедливости», представила официальный ответ на предложение Департамента жилищного строительства и городского развития США.

Последний, выполняя пожелания Трампа, планирует кардинально пересмотреть «Закон о справедливом жилье», освобождая алгоритмы от ответственности за дискриминацию из-за предвзятости.

Что хочет Трамп

Департамент жилищного строительства и городского развития США издает новые правила, которые делают практически невозможным судебное преследование банков, землевладельцев или домовладельцев, когда их алгоритмы непропорционально много отказывают в жилье, например, людям с небелым цветом кожи.

Пересмотр закона отменит 50ти летний прецедент, поддержанный Верховным судом в 2015 году, узаконивавший использование статистического анализа для выявления дискриминации.

В соответствии с предлагаемыми администрацией Трампа правилами, компания, обвиняемая в дискриминации, сможет «победить» это обвинение, если в ее решении будет задействован алгоритм. Например, гипотетический банк, который отклонял каждую заявку на кредит, поданную афроамериканцами, и одобрял каждую, поданную белыми, должен будет доказать лишь то, что зависимость оценки надежности заемщика от расы непосредственно не закладывалась при построении компьютерной модели кредитоспособности.

Правило вводит и другие лазейки для бизнеса, чтобы сбивать требования о дискриминации. Бизнес может «победить» претензию, заявив, что он проверил свой алгоритм у нейтральной третьей стороны. Если алгоритм, который привел к дискриминации, был разработан сторонней фирмой, такой как кредитное бюро или технологическая компания, банк, использующий его, не будет нести ответственность за результат.

Это может стать первым шагом вниз по скользкому склону, — считает Лиза Райс, президент Национального альянса справедливого жилья.

«Как только они сделают это в жилищном секторе, следом дискриминацию алгоритмов узаконят в сфере образования, а затем в сфере транспорта, здравоохранения и так далее, и так далее. И это уже будет не остановить».

Подробней см. здесь.

А тем временем, уже в декабре 2018 года президент Трамп подписал Закон о первом шаге, — новый закон об уголовном правосудии, который поощряет использование алгоритмов по всей стране.

В частности, система будет использовать алгоритмы для первоначального определения того, на кого может распространяться сокращение сроков наказания по завершению образовательных, профессиональных или реабилитационных программ. Отсюда выпадают заключенные, которые считаются более подверженными риску. Существует вероятность того, что алгоритмы будут увековечивать расовые и классовые различия, которые уже включены в систему уголовного правосудия. В результате афроамериканцы и бедные люди в целом с большей вероятностью будут отбывать более длительные сроки тюремного заключения.

И это не смотря на все новые и новые примеры, демонстрирующие, как алгоритмы копируют и потом усиливают предвзятости людей.

Пример предвзятости при найме

Amazon отказалась от алгоритма рекрутинга после обнаружения, что это привело к гендерному уклон при найме (Фото: Brian Snyder/Reuters)

Интернет-магазин Amazon, где 60% персонала составляют мужчины и где они занимают 74% управленческих должностей, недавно прекратил использование алгоритма найма после обнаружения гендерных предубеждений. Данные, которые инженеры использовали для обучения алгоритма, были получены из резюме, представленных в Amazon за 10-летний период, — в основном от белых мужчин. Алгоритм научили распознавать шаблоны слов в резюме, а не соответствующие наборы навыков. Эти данные сравнивались с преимущественно мужским инженерным отделом компании, чтобы определить соответствие заявителя. В результате программное обеспечение ИИ снижало рейтинг любых резюме, которые содержали слово «женщины» в тексте, и понижало резюме женщин, которые посещали женские колледжи. В итоге, сложилась явная гендерная предвзятость.

Другие примеры предвзятости алгоритмов, а также конкретные шаги, необходимые для снижения влияния предвзятости на решения, принимаемые алгоритмами, см. в свежем отчете Brookings на эту тему.

Кто этому противостоит

Конкретную критику сверхопасного идиотизма, проталкиваемого администрацией Трампа, читайте в документе «Лиги алгоритмической справедливости» — официальном ответе на предложение Департамента жилищного строительства и городского развития США.

По мнению экспертов, поправки к закону, относящиеся к алгоритмам, основаны на фундаментальной неспособности понять, к каким последствиям может привести перекладка решений на алгоритмы … и насколько тонким может быть процесс проверки предвзятости алгоритмов. Мы плохо понимаем логику работы современных алгоритмов машинного обучения, в работе которых часто проявляются очень сложные корреляции, о которых даже их разработчики могут не знать. Любая комбинация факторов, от данных о местоположении до истории покупок и музыкальных предпочтений, может коррелировать как прокси для расы или другой защищенной характеристики, с разрушительными последствиями для той или иной группы населения.

В своем письме эксперты выдвигают четыре аргумента против предлагаемого законодательства:

1. Чтобы гарантировать, что алгоритм не оказывает предвзятости, недостаточно показать, что отдельные входные факторы не являются «заменой или близким прокси» для защищенных характеристик.

2. Невозможно провести аудит предвзятости алгоритма без адекватного уровня прозрачности или доступа к алгоритму.

3. Предоставление ответчикам возможности отклонить ответственность за предвзятость сторонних алгоритмов в принципе аннулирует ответственность за последствия предвзятости.

4. В предлагаемом регламенте не учитывается совокупное влияние нескольких пользователей алгоритмов (банки, суды и т.д.), которое приводит к разным воздействиям на защищенные классы, где ни один отдельный пользователь не несет ответственности в соответствии с предлагаемым регламентом.

От себя добавлю.

Если весь этот идиотизм пройдет в США, то нет сомнений, у нас мгновенно сделаю то же самое.

Отмазка будет безотбойная.

________________________________

Оригинал и комментарии

Могут ли российские ИИ-разработчики реализовать для мира новый сюжет «Чёрного зеркала» ^от sergey_57776

Стало общим местом утверждать, будто бы российские ИИ разработчики способны в ближайшие годы войти в число мировых лидеров. Это даже записано главной целью в нашу национальную стратегию развития ИИ.

Реален ли подобный взлет?

Полагаю, что да.

Что для этого нужно?

Да много чего. Но в первую очередь, российским стартапам нужно сменить приоритеты разработок ИИ-технологий:

вместо приоритета на госзаказы от государства на распознавалки лиц, ловилки, давилки и глушилки онлайн контента и 5й колонны в офлайне,

приоритет на прорывные ИИ-платформы, переопределяющие старые и создающие новые сегменты крупнейших мировых рынков и основанные на ИИ-технологичных моделях бизнеса.

Как это может выглядеть?

Вот совсем свежий красивый пример, как можно за счет ИИ-технологий переопределить рынок так:

чтобы увеличить его на порядок,
а покупателем решения стал цифровой гигант с миллиардной аудиторией.

Эта идея идеально подходит под новый сюжет «Черного зеркала» —

бесшовно вшиваемый автоматический продукт-плейсмент в кино и сериалы.

Смотрите сами.

1) Самый большой трафик в сети — кино и сериалы.

2) Что, если вместо прерывающих просмотр рекламных вставок встраивать рекламу прямо в существующий видео-контент:

заменой уже имеющегося там продукт-плейсмента (всевозможная наружка, мимо которой ходят и ездят герои, брендированная атрибутика и т.д.)
накладыванием рекламы на объекты («брендировать» стаканчик с кофе или стоящий на столе пакет сока) и внедрением виртуальных бигбордов (при этом интегрированная «контекстуалка» выглядит настолько естественно, что кажется, будто она изначально была в кадре).

3) Если все это будет делать автоматом ИИ, то будет быстро и дешево. В итоге же становятся не нужны навязчивые рекламные вставки, которые прерывают видео. Т.е. выигрывают все: рекламодатели, стриминг и зрители.

Тысячи шедевров кино и сериалов предоставят сотни тысяч часов под размещение там рекламы. И никаких ограничений. В «Терминаторе» 1984 г. появится реклама последнего iPhone 2019 г. А в «Игре престолов» 2011 г. — реклама «Терминатор: Темные судьбы» 2019 г.

А через месяц можно поменять весь продукт-плейсмент на другой. И т.д.

Выглядеть это будет так.

Придумал и сделал это английский стартап Mirriad — обладатель 14 патентов и многих международных наград, занимающийся автоматически встраиваемой в видео рекламой (in-video advertising) на основе ИИ-технологий и оригинальной бизнес-модели.

У них хватает конкурентов: Scorch London, Bold Content, Blueprint, YuMe, …

Но секрет Mirriad не в технологии. А в умении создать новый сегмент рынка и соответствующую новую ИИ-технологичную бизнес-модель.

Вот почему в октябре Mirriad объявил об эксклюзивном соглашении с Tencent, одной из крупнейших онлайн-видео платформ Китая (Tencent Video имеет аудиторию в 900 млн.)

Представьте, что этот эксклюзив с Tencent подписала бы не лондонская, а московская компания. Или что-то наподобие …

Чем не путь в лидеры мирового рынка ИИ-технологий?

________________________________

Оригинал и комментарии

ИИ, Китай, Россия и мировой порядок ^от sergey_57776

Лидеров в мире оказалось все же три

Этот новый отчет послужит детализирующим послесловием к моему позавчерашнему рассказу о Real AI и новом переделе мира. Не вздрагивайте от объема в 291 страницу. Читать его целиком нужно только аналитикам со Старой площади, Знаменки и Лубянки. Остальные же, потратив всего четверть часа, удостоверятся, насколько серьезно стратегические эксперты США учитывают влияние Real AI на новый миропорядок.

Что особенно интересного пишут в этом отчете.

Привычных типов режимов (демократия и т.д.) среди стран, влияющих на мировой порядок, уже нет. Все новые типы режимов уже цифровые — цифровая демократия и т.д.
Лидеров в мире (сюрприз-сюрприз!) все же три, а не два. Это цифровая демократия США, цифровой авторитаризм Китая и цифровой гибридный режим России.
Борьба этой троице предстоит нешуточная и сразу на 3х фронтах: (1) укрепление своего режима внутри страны (в то время, как два противника его будут подтачивать), (2) экспорт своего режима по миру, (3) военное соперничество.
Основу битв на всех 3х фронтах обеспечивает Real AI, который весьма рационально трактуется расширительно: аналитика больших данных, автономизация/роботизация, всевозможные умные устройства Интернета вещей, когнитивные технологии и эффекты и пр.
Естественно, нам особенно интересно читать главы про Россию. И тут есть немало интересного:

— что российский приоритет не на экспорте режима, а на удержании (у Китая приоритет — экспорт, т.к. внутри все зацементировано);

— что инфостратегии России и Китая по удержанию своих режимов сильно разные (у Китая основана на фильтрации, цензуре и ограничениях контента; а у России — на «затролливании» медийной повестки и заваливании ее фейковыми новостями;

— что создание полноценного Большого Брата и в России, и в Китае — приоритет №1, но делается это по-разному (в Китае ставка не превосходные технологии наблюдения, а у нас на триаду технонаблюдение-агентура-карательное законодательство;

— что «суверенный Интернет» — это приоритет №2 и в России, и в Китае; делается это, понятно, по-разному, ну а детали читайте сами;

— что и в части экспорта своего гибридного режима (хотя в России это не приоритет), у России неплохие шансы: есть богатые страны, кому супер-техно-подход Китая по карману, а есть бедные, кому бюджетный гибридный подход зайдет лучше.

________________________________

Оригинал и комментарии

Обезьянья лапа прорывных технологий ^от sergey_57776

Соцсети мы от нее уже получили. На очереди Сильный ИИ

Коллаж на основе картины Samuel Bak “The Creation of Wartime III”

B знаменитом рассказе Джейкобса «Обезьянья лапа», мумифицированная лапа обезьяны, на которую наложено заклятье, выполняла любые желания, но с чудовищными последствиями для пожелавших. Для людей подобные последствия были просто невообразимы из-за их чудовищной бесчеловечностии, немыслимой для человека.

Но у прОклятой старым факиром обезьяньей лапы была иная — нечеловеческая структура предпочтений. И потому, выполняя желания людей, она вовсе не со зла, а просто автоматом, преподносила людям страшные сюрпризы, выходящие за пределы воображения имевших несчастье обратиться к ней с просьбой.

Но причем здесь прорывные технологии?

Bедь общеизвестно, что сами по себе новые технологии не являются воплощением добра или зла. И что лишь от людей зависит, во благо или во зло будет использована та или иная технология.

Все так. Но увы, — этот подход устарел. Он не учитывает третьего варианта, становящегося все более частым из-за нарастающего усложнения технологий, особенно, информационных.

Когда результат распространения прорывной технологии — и не зло, и не добро. А просто совсем иной, чем предполагался.

Когда комплекс последствий распространения технологии столь широк и непредсказуем заранее, что главным по силе воздействия на миллионы людей результатом использования технологии становится совсем не то, что задумывалось, а то, чего вовсе не предполагали. Подобно тому, как это получалось у обезьяньей лапы.

Эффект обезьяньей лапы и социальные сети.

Pазработчики алгоритмов социальных сетей имели благую цель объединять людей, находя им новых друзей, помогая им общаться и совместно обсуждать интересующие темы, вопросы и события.

На пути к этой замечательной цели, разработчики решили, что хорошо было бы повысить вовлеченность людей в процесс взаимодействия с сетевым контентом. Для этого алгоритмы выбора контента работали так, чтобы показывать нам материал или рекомендовать его, таким образом, чтобы максимизировать наши клики — нажатия на кнопку мыши (потому что это ровно то, что приносит доход платформам социальных сетей). В результате алгоритмы показывают нам контент, на который мы, скорее всего, кликнем.

Казалось бы, что это относительно безвредно.

Но в результате этого в соцсети возникают пузыри фильтрации и эхо-камеры, где мы видим только то, что нам нравится, и не видим почти ничего за пределами своей зоны комфорта.

Возникновение культурной изоляции и кластеризации в социальных сетях. Подробней см. “Фейсбук — удивительная машина сбивания в стада”

Хуже того. Это только нам кажется, что алгоритмы пытаются показать нам то, что нам нравится. На самом деле, они пытаются превратить нас в максимально предсказуемых кликеров. Они как бы понимают, что могут сделать это, постепенно изменяя наши предпочтения. И делают это.

В результате, эти алгоритмы постепенно перемещают каждого из нас по шкале собственных предпочтений, к тому или другому полюсу, чтобы довести нас до одной из двух крайностей: на крайности политического спектра или экологического, или любого другого. Но на самый край.

В итоге, мы становимся максимально предсказуемыми кликерами ценою максимизации раскола между участниками соцсети.

И это всего лишь следствие алгоритмов обучения с подкреплением, которые оптимизируют переход по кликам.

Оглядываясь назад, мы теперь понимаем.

Оптимизация переходов по ссылкам была ошибкой. Это была неправильная цель.

Точнее, цель, сформулированная без учета общей структуры предпочтений тех, кто эту цель ставил. Ведь мы не хотим раскола. Нам не нужен срач между френдами. Нас не устраивает сооружение вокруг нас пузырей и запертых от иных мнений эхо-камер.

Но поздно! Теперь уже слишком поздно это изменить. И потому все продолжается без изменений.

Мы не можем отключить эти системы, потому что они уже тесно связаны с нашей повседневной жизнью и существуют практически непреодолимые экономические стимулы, чтобы ничего здесь не менять.

Хорошо. Допустим с социальными сетями поезд ушел (хотя чего уж тут хорошего!)

Что будет, если с Сильным ИИ снова повторится история обезьяньей лапы?

Скорее всего, цена новой ошибки может оказаться для человечества неподъемной.

Эффект обезьяньей лапы и Сильный ИИ

Tакие пионеры ИИ, как Алан Тьюринг, Джон фон Нейман и Норберт Винер, четко осознавали проблему выравнивания ценностей разных интеллектов: людей и машин. В противоположность им, последующие поколения исследователей ИИ имели тенденцию забывать об этой проблеме, как только появлялись работающие приложения, открывающие возможности для бизнеса.

Аптон Синклер однажды сказал:

«Трудно заставить человека понять что-то, когда его зарплата зависит от того, что он этого не понимает».

И поэтому неудивительно, что сегодняшние эксперты по ИИ в бизнесе менее склонны озадачиваться проблемой выравнивания ценностей разных интеллектов, чем такие ученые, как Тьюринг, фон Нейман, Винер, а теперь и Рассел.

В своей только что вышедшей книге «Human Compatible: Artificial Intelligence and the Problem of Control» Стюарт Рассел бьет тревогу.

Если исследования ИИ преуспеют в своей первоначальной цели построения ИИ общего назначения (AGI), то может повториться страшная ошибка, уже случившаяся с широким распространением технологии социальных сетей. Но теперь цена новой ошибки может оказаться для человечества неподъемной.

Попробуем проследить логику этого страшного прогноза.

Сначала аксиома: одинаковое понимание цели ее постановщиком и исполнителем (которому придется эту цель достигать своими действиями) возможно лишь при условии выравнивания ценностей между ними. Для этого они, как минимум, должны понимать общую структура предпочтений друг друга.

Например, вы просите кого-нибудь принести вам кофе. Но это вовсе не значит, что ваш порученец должны добыть для вас кофе любой ценой. Это значит, что вы хотели бы получить кофе, но выполняя вашу просьбу, не надо для этого никого убивать, да и просто наносить кому-то вред чтобы получить кофе. Не нужно опустошать ваш банковский счет. Не нужно далеко ехать на такси, если рядом кофе почему-то не окажется … и еще 1000 разных «не нужно», которые просто невозможно все перечислить. Их должен сам знать ваш порученец, вследствие того, что он понимает вашу общую структура предпочтений.

А без этого понимания, ваш порученец может запросто выполнить задание примерно так же, как обезьянья лапа из рассказа Джейкобса. Ведь даже в элементарном примере про кофе без понимания вашей общей структуры предпочтений порученцу не обойтись. А что говорить для действительно сложных задач!

И тут мы сталкиваемся с поразительным откровением.

Похоже, мы неправильно определили, что такое Сильный ИИ.

В общепринятом понимании Сильный ИИ способен справиться с любой познавательной задачей по крайней мере не хуже, чем человек. И если мы поставили перед ИИ некую познавательную цель, то будем считать его разумным, если его действия достигают поставленной цели.

А как оценить, например, вариант, когда порученец-ИИ достиг поставленной перед ним цели и принес-таки вам кофе, но ценой нанесения материального ущерба кофейне?

Зададимся вопросом, — почему вообще такое могло бы произойти?

Ответ лежит на поверхности. Мы предполагали, что машина точно знает поставленную нами цель, а оказалось, что она обладает несовершенным или частичным знанием цели (ведь про ущерб кофейне мы ей ничего не говорили).

Описанная ситуация — пример того, что Стюарт Рассел называет «стандартная модель ИИ». Она состоит в том, чтобы поставить системе машинного обучения цель, а затем обучить ее, используя большое количество данных, добиваться как можно большего успеха в достижении этой цели. Такова общепринятая модель большинства сегодняшний разработок.

Риски использования «стандартной модели» невозможно оценить, поскольку системы с неправильной или с частично понятой целью могут порождать произвольно плохие последствия.

Но возможно ли в принципе заложить в машину общую структуру человеческих предпочтений, позволяющую ей избегать при достижении поставленных перед ней целей вариантов, сулящих плохие последствия в общечеловеческом понимании?

Скорее всего, нет.

Причина в том, что, во-первых, — всего не перечислишь.

А во-вторых, — люди и не знают всего о собственной структуре предпочтений, хотя бы, из-за ограниченности своего опыта. Как мы можем точно знать, хорошо для нас нечто или плохо, если мы этого еще не пробовали?

В своей книге Стюарт Рассел приводит пример плода дуриана, который некоторым людям очень нравится, а некоторые находят его отвратительным. Как узнать свое отношение к плоду дуриана, если я никогда его не пробовал? А сколько еще я не знаю, не сталкивался не пробовал. Откуда же взяться полноте в моей структуре предпочтений?

Получается, куда ни кинь — всюду клин. Опять натыкаемся на обезьянью лапу.

Нестандартная модель ИИ

Professor of Computer Science and Smith-Zadeh Professor in Engineering, University of California, Berkeley
and Honorary Fellow, Wadham College, Oxford

Уникальность новой книги Стюарта Рассела «Human Compatible: Artificial Intelligence and the Problem of Control» в том, что он не просто описывает в деталях вышеизложенную проблему «стандартной модели ИИ».

В книге предлагается конкретное и многообещающее решение этой супер-важной проблемы.

И это не просто общие лозунги об ответственности политиков или призывы что-то запретить, а умное техническое решение, которое переопределяет саму основу машинного обучения. Рассел в деталях объясняет свое решение в книге, и поэтому я лишь сформулирую его суть.

Радикальное решение состоит в том, чтобы полностью отказаться от «стандартной модели» для достаточно мощных ИИ-систем, обучая их достигать не фиксированную цель, которую перед ними поставили, а «вашу истинную цель», которая, возможно, сформулирована в начале работы весьма неполно, а может, и вообще неверно.

Это решение основано на методике, известной под названием «Обратное обучение с подкреплением» (“Inverse Reinforcement Learning” — IRL). ИИ-система, работающая по методике IRL, не имеет никакой функции награды. Т.к. она не может быть уверена, что полностью поняла ваши цели, она будет активно пытаться узнать больше о том, что вы действительно хотите, и при этом всегда будет открыта для вас, позволяя переориентировать себя или даже вообще выключить.

Как написал про эту идею Макс Тегмарк:

«Во многом благодаря Расселу, IRL в настоящее время является цветущей областью исследований ИИ, и если эта книга побудит больше людей использовать ее в критически важных для безопасности системах, то это, несомненно, увеличит вероятность того, что наше высокотехнологичное будущее будет счастливым»

А мне остается лишь присоединиться к сказанному Тегмарком.

Подробней:

В книге Стюарта Рассела «Human Compatible: Artificial Intelligence and the Problem of Control»
И в его подкасте на эту тему

________________________________

Оригинал и комментарии

^от

Оригинал и комментарии

^от

Оригинал и комментарии

^от

Оригинал и комментарии

^от

Оригинал и комментарии

^от

Оригинал и комментарии

^от

Оригинал и комментарии

^от

Оригинал и комментарии

^от

Оригинал и комментарии

^от

Оригинал и комментарии

^от

Оригинал и комментарии

^от

Оригинал и комментарии

^от

Оригинал и комментарии

^от

Оригинал и комментарии

^от

Оригинал и комментарии

^от

Оригинал и комментарии

^от

Оригинал и комментарии

^от

Оригинал и комментарии

^от

Оригинал и комментарии

^от

Оригинал и комментарии

^от

Оригинал и комментарии

^от

Оригинал и комментарии

^от

Оригинал и комментарии

^от

Оригинал и комментарии

^от

Оригинал и комментарии

^от

Оригинал и комментарии

^от

Оригинал и комментарии

^от

Оригинал и комментарии

^от

Оригинал и комментарии

^от

Оригинал и комментарии

^от

Оригинал и комментарии

^от

Оригинал и комментарии

^от

Оригинал и комментарии

^от

Оригинал и комментарии

Недавние тренды рунета

Будущее определяет коэволюция технологий и собственности

Вот яркий пример, о котором я уже не раз писал.

В старой парадигме считалось так.

Новая парадигма (на основе матмодели, проверенной на археологических данных) показывает, что все было иначе.

Что из этого следует.

SAPIENTISSIMUS — Альтернативное будущее человечества

Как борьба добра и зла внутри нас делает нас людьми

Часть 1

Историческая сослагистика развития интеллекта

— 1 —

КАРГО-КУЛЬТ ИИ

— 2—

СВЕРХМАРАФОН АНТРОПОГЕНЕЗА

— 3—

СЛУЧАЙНОСТЬ ИЛИ …?

— 4—

ПРОЕКТ «ЧЕРНЫЙ МОНОЛИТ»

Ну а теперь о самом интересном.

МЕТОДИКИ КИРИЛЛА АНАСТАСИНА

История в картинках :-)

Подробнее о целеполагании:

Мой канал на YouTube

НАВЫК СЛЫШАТЬ

Что на самом деле определяет коммуникацию.

Копилка идей

Практика создания User Generated Content

Фасилитация

Визуализация

Визуальный алфавит

Визуальная грамматика

Визуальная метафора

Сторителлинг

В заключение

Как в цифровом мире выглядит настоящий технологически усовершенствованный авторитаризм… А не его пародия

Будущее критически важных технологий решает не рынок, а правительство

Это лишь 1й шаг, но за ним идут супер-прорывные открытия

Это может стать самым страшным наследием Трампа для мира

Что хочет Трамп

Кто этому противостоит

Лидеров в мире оказалось все же три

Соцсети мы от нее уже получили. На очереди Сильный ИИ

Но причем здесь прорывные технологии?

Эффект обезьяньей лапы и социальные сети.

Эффект обезьяньей лапы и Сильный ИИ

Нестандартная модель ИИ

Оставить отзыв с помощью аккаунта FaceBook: