Недавние тренды рунета

Недавние тренды рунета

Сверхзадача памяти — не помнить, а забыть — 2 от sergey_57776

Это продолжение поста об открытии, способном перевернуть понимание интеллекта (человека, компьютера и животных)

Jedrzej Kaminski / EyeEm / Getty Images

В опубликованном мною полгода назад одноименном посте рассказывалось о вызове, брошенном общепринятым представлениям о назначении памяти — способности сохранять информацию в мозге.

На основе анализа новейших нейробиологических исследований, была предложена и обоснована альтернативная гипотеза. Ее суть в том, что

ключевой целью и функцией памяти является способность забывать информацию — способность, без которой живые существа просто не могли бы, не то что эволюционировать, но и просто жить.

В новом эссе Далмита Сингха Чавла «Чтобы помнить, мозг должен активно забывать», собраны новейшие доказательства и разобраны механизмы, каким образом нейронные системы активно удаляют воспоминания. По сути, эти доказательства вплотную подводят к признанию революции в теории памяти.

✔️ Целью работы механизмов памяти является не передача информации во времени, а оптимизация процесса принятия решений.

✔️ Забывание («чистка чердака») — это основной режим работы мозга, необходимый для выполнения им данной цели.

Ну а работает это, примерно, так.

1) Мозг не знает сразу, что важно, а что нет. Поэтому он сначала пытается запомнить, как можно больше, но постепенно забывает о большинстве вещей, отфильтровывая материал, который он считает несущественным.

2) Забывание — функциональная потеря воспоминаний — происходит в разных формах, обеспечиваемых разными механизмами активного стирания «следов в памяти» — энграмм.

3) Одна из форм активного забывания называется естественным забыванием. В основе ее механизма нейротрансмиттер дофамин, работающий также и в процессе запоминания.

  • Как только в мозге появляется новая энграмма, включается процесс естественного забывание, цель которого затирать все новые энграммы. Этот процесс работает подобно морскому прибою, неуклонно стирающему все новые надписи на прибрежном песке.
  • Но где-то в мозгу, похоже, скрыт некий судья, который отменяет процесс забывания конкретной энграммы, поскольку считает, что ее стоит помнить на будущее. И как бы ставит заслон для прибоя вокруг этой надписи.
  • Что это за судья, и как он работает, теперь предстоит разобраться.

4) Другая форма активного забывания обеспечивается механизмом нейрогенеза — рождением новых нейронов в мозге. Связь нейрогенеза с памятью и забыванием чрезвычайно сложна. Но если запредельно упростить, получается, примерно, так.

  • Активные процессы забывания в мозге не всегда полностью стирают воспоминания, а как бы подзатирают помаленьку. Процесс похож на наложение записи на старую магнитофонную ленту плохо работающим магнитофоном. В результате из-под новой записи тихонько слышна старая.
  • Более старые воспоминания менее чувствительны к этому эффекту, потому что мозг постепенно передает важные воспоминания от гиппокампа в кору для длительного хранения. Таким образом, нейрогенез в гиппокампе сегодня является более разрушительным для воспоминаний недельной давности, чем для тех, которым месяцы или годы.

5) Что происходит с забытыми воспоминаниями? Когда воспоминания затираются каким-либо механизмом, что с ними происходит? Все ли следы их устранены? Или они сохраняются в какой-то форме, недоступной нам?

  • Увы, ответы на все эти вопросы пока не ясны. Но есть прогресс. Исследования морских слизней помогли выявить некоторые гены, которые, кажется, помогают поддерживать фрагменты стертой памяти в нервной системе.
  • Авторы исследования осторожно предполагают, что, если эти результаты окажутся переносимы на людей, то это позволит создать препараты для управления воспоминаниями. Например, помогающие людям быстрее и легче забывать плохие воспоминания, а хорошие помнить долго и ярко.

_________________________

Хотите читать подобные публикации? Подписывайтесь на мой канал в Телеграме, Medium, Яндекс-Дзене

Считаете, что это стоит прочесть и другим? Дайте им об этом знать, кликнув на иконку “понравилось”

Оригинал и комментарии

Руки прочь от трансгуманизма от https:

Почему находятся люди, которые желают смерти другим и считают возможным агитировать против продления жизни человека? Как так получается, что подобные человеконенавистнические высказывания позволительны и собирают тысячи лайков?

Алекс Пёрлман из США закатила истерику на весь мир на тему того, что идея продления жизни — это идея для «богатых, трусливых или скучающих», несущая в себе вселенское неравенство.

Её аргументы — плод извращённого ума. Типа, гражданские свободы попраны, полицейские убивают американцев и нельзя даже думать о борьбе со смертью.

Дорогая! Сядьте, успокойтесь, попейте воды, посмотрите на реальную картину мира. Основная причина смерти в США, как и в других странах — это не иммиграционная служба, а старение и вызванные им заболевания. Более полутора миллионов американцев умрут в этом годом, потому что они состарились.

Люди по всему миру будут умирать, в том числе из-за того, что исследований по продлению жизни крайне мало. Вам приснились триллионы долларов на борьбу со смертью. Такого нет, в том числе и потому, что есть подобные вам, выступающие против бессмертия, то есть сторонники смерти.

Для вас смерть — акт справедливости, акт социального равенства. Какое чудовищное измышление! Смерть — самое несправедливое, что может случится с человеком. Вне зависимости от цвета кожи, пола, социального статуса, смерть ужасна, отвратительна и необратима.

Противопоставлять стремление к бессмертию гражданским свободам— это просто не иметь никаких представлений ни о человеке, ни о том, что такое свобода.

Я напомню, что в Декларации Независимости США написано:

«Мы исходим из той самоочевидной истины, что все люди созданы равными и наделены их Творцом определенными неотчуждаемыми правами, к числу которых относятся жизнь, свобода и стремление к счастью».

Право на жизнь — основное политическое право во всех странах свободного мира. Человек не может быть счастлив и свободен, если он мертв. Никакая «морфологическая свобода» не может быть в приоритете, если у тебя рак. Именно старение прежде всего создает морфологическую несвободу. Ты можешь пришить себе три пениса, но это не будет компенсацией потери нейропластичности и усыханию головного мозга.

Нельзя экстраполировать возможность сделать аборт на уже родившегося человека — это убийство. Как и отказ от продления его жизни.

Заявлять, что стремление к бессмертию оскорбляет людей, которые не могут сделать аборт или сводят концы с концам, — это утверждать о том, что бедных оскорбляют большие дома, самолеты, больницы, университеты, солнечные батареи и прогресс в целом.

А ведь именно технологиями люди побеждают бедность и страдания. Именно прогресс создает невиданные возможности для человека. И да, центральная задача прогресса — победить смерть.

Есть люди, которые хотят стареть и умирать, это их выбор. Зачем всех тащить в свою могилу? Мы хотим использовать шансы, которые появились в 21 веке. Тем более, что открытий в биологии старения всё больше.

Технологии, обеспечивающие супердолгую жизнь, могут на первом этапе оказаться доступны единицам. Но из этого следует задача создать доступное для всех бессмертие, а не лишение жизни всех, и бедных и богатых. Пока не сделаешь что-то для одного, не получится такое сделать для миллиардов.

Алекс Пёрлан заявляет:

«Вместо того, чтобы финансировать продление жизни, давайте профинансируем политиков, поддерживающих аборты, а также создание медицинских клиник и обучение акушерок».
Вместо того, чтобы говорить о правах богатых и образованных на то, чтобы ковыряться в сомнительной науке, давайте сначала сосредоточимся на том, чтобы каждый, независимо от класса или цвета кожи, мог чувствовать себя в безопасности на наших улицах».

Почему здесь написано «вместо»? Почему смерть миллиона человек от сердечно-сосудистых заболеваний менее важна, чем гибель тысячи человек на улицах? Разве не надо противостоять смерти в принципе, по какой бы причине она не происходила?

Неравенство возможностей отвратительно. Но задумались ли вы, что именно пожилые люди — самый большой класс угнетенных людей. Старение — их надзиратель и палач. Оно приносит больше всего страданий и лишает человека всех возможностей: остроты и гибкости ума, привлекательности, физической силы, востребованности обществом.

Движение за радикальное продление жизни — это борьба за справедливость во всем мире, это новые возможности для всех людей.

Пёрлман пишет:

«Но я что-то не слышала, чтобы кто-то из тех, кто выступает за право человека жить вечно, также выступал за всеобщее бесплатное здравоохранение».

Ты просто ничего не знает про трансгуманизм. Идея объединения людей в борьбе со смертью принадлежит русскому философу Николаю Федорову. Это идея абсолютизации ценности человеческой жизни.

Мы выступаем против смерти по всем причинам, а уж тем более по причине отсутствия денег. Как раз победа над старением ведет к бесплатной медицине. Наша же задача — чтобы люди перестали болеть.

При этом Алекс Пёрлман не отрицает возможности радикального продления жизни, хотя пытается проиллюстрировать свои соображения не самыми удачными примерами:

Тот же Джорж Черч сам является не только справедливым критиком Лиз Пэрриш, но и, прежде всего, активным борцом за радикальное продление жизни.

Крионика не так уж безнадежна, если из замороженных эмбрионов уже родились миллионы людей. Просто это технически очень сложная задача.

В трансгуманизм записываются разные люди: есть очень странные, есть откровенные мошенники или люди чудовищно некомпетентные. Но всё-таки основная масса сторонников — рационально мыслящие люди, стремящиеся к всеобщему благу, победе над старением и смертью.

Не одна Алекс Пёрлман пытается использовать биоэтику, как оружие инквизиции. Я нахожу отвратительным её идею запретить людям жить, запретить бороться за свою жизнь.


Руки прочь от трансгуманизма was originally published in Open Longevity RUS on Medium, where people are continuing the conversation by highlighting and responding to this story.

Оригинал и комментарии

Ответ Илье Ясному про то, а надо ли бороться со старением от https:
Иллюстрация Анастасии Икусовой для статьи Ильи Ясного в The Brights.

Статью Ильи Ясного «Таблетка от старости? Сейчас!» надо было бы назвать по-другому: «Почему борьба со старением требует нечто большего, чем психологию наживы, и как говорить одно, а подразумевать совсем другое».

В предисловии к статье сказано:

«Некоторые общественные деятели призывают направить основополагающие ресурсы общества на победу над старением, утверждая, что на исследования выделяется недостаточно денег, и требуется повышенное внимание к этой проблеме».

Судя по взятому тону, материал как бы должен показать несостоятельность подобных утверждений. Тем более, обвинительные пассажи сохраняются на протяжении всей статьи.

При этом сам автор всё же призывает:

«Продолжать и усиливать фундаментальные исследования физиологии человека и животных, процессов старения у них, признавая, что мы находимся в самом начале пути и ещё не знаем очень многого».

Тут возникает вопрос к Илье Ясному: а где существительное в этом предложении? Кто будет «продолжать и усиливать»? Как это произойдет? То есть прав «некоторый общественный деятель», когда говорит, что надо направлять «основополагающие ресурсы», или хотя бы какие-нибудь направлять?

Финансирования фундаментальных исследований старения и долголетия как не было, так и нет в России. Кругом венчурные фонды, которые хотят вложить десять миллионов, а получить триллион. Всё время ахают, что им домой в кровать никак не принесут курочку с золотыми яйцами.

Ещё одна “позитивная” иллюстрация в статье Ильи. Ученые они такие.

В статье все исследователи Альцгеймера поголовно объявлены жульем:

«Причём ситуация с неясной эффективностью лекарств выгодна в короткой перспективе всем: врачи и менеджеры компаний получают свою зарплату и бонусы, пациенты включаются в исследования, где за ними лучше ухаживают, разработчики продают свои продукты крупным компаниям… Когда происходит провал, разработчики разводят руками и говорят: «Что же вы хотели? Это наука».

Ясный ошибается: нет злого умысла у исследователей старения. Просто задача чрезвычайно сложная, и к тысяче попыток вылечить Альцгеймер надо добавить еще тысячу.

Автор выступает против неких «победных реляций». Где они эти реляции? Если кто-то дул в уши инвестора, что у него лекарство от старости в кармане, да-к вы и назовите фамилию, приведите цитату —при чем здесь вся борьба со старением в целом?

К слову сказать, нет варианта «обеспечение здоровой старости» —это оксюморон. Старение — потеря здоровья. Не будет никакого здорового старения, оно может быть только замедлено.

Моё основное возражение к статье: борьба со старением — это попытка остаться в живых, а не разговор про то, что нам в фонд не принесли готового лекарства от старости. Признаться, мне весь этот подход участников конференций JP Morgan кажется чуждым и вредным для реализации идеи продления жизни. Они хотят только промасштабировать непонятно кем достигнутый результат.

Основной аргумент Илья Ясного: раз хорошей теории старения нет, то и мишеней мы не знаем, а значит, лекарство от старости не разработаем.

Но всё-таки кое-что мы о старении знаем: существенно продлили жизнь животным как раз за счет понимания молекулярных механизмов старения; есть несколько десятков регуляторов старения и долголетия, каждый из которых что-то дает в продолжительности жизни — их еще толком никто не посмотрел в комбинации.

Кстати, почему решение задачи перебором, методом постепенного приближения, объявлено не рациональным? Ведь ровно так и решает задачу нейросеть, обучаясь на примерах. Точно также мы можем обучать и лекарство от старости, не понимая до конца старение.

Я готов биться о заклад, что методом направленной эволюции можно обучать Е.coli продлевать жизнь нематоде совсем не понимая в начале, как она действует на организм хозяина.

Илья Ясный пишет, что нужны масштабные исследования для валидизации биомаркеров. Но из того, что нужны масштабные исследования, не следует, что мы ничего не сможем делать. Тот венчурный бизнес, который представляет Илья, просто не в состоянии это сделать, но это не значит, что такой проект неосуществим.

Как только на рынке появится хорошее приложение для участия в КИ, обобщение медицинской практики, ситуация поменяется: мы увидим миллионы людей, тестирующих как показатели старения, так и интервенции.

Ясный поучает читателя:

«Необходимо помнить, что одних теоретических предпосылок недостаточно для утверждений об эффективности терапии. То, что какое-то лекарство оказалось эффективно у животных, — также не доказательство правильности концепции».

Мне не понятно, кому это он говорит? Разве есть вменяемые люди, которые утверждают обратное? Такие заявления просто создают иллюзию содержания, что, вот, смотрите, к какому важному выводу пришел Ясный. Секрет Полишинеля.

К тому же классу заявлений можно отнести и мысль о том, что антиоксиданты не работают. Это уже ясно последние пятнадцать лет. А вот выяснить, почему они не работают, мне представляется крайне интересным.

Когда Илья пишет, что исследования метформина на 3 000 человек ничего не дадут по той причине, что все участники эксперимента начнут питаться правильно, и это нивелирует действие препарата, он берет это утверждение с потолка. Во-первых, так не произойдет —питаться правильно на много сложнее, чем есть метформин. Не перейдут 3 000 человек сами по себе на некое правильное питание. А во-вторых, совершенно не факт, что режим питания отменит действие метформина: надо смотреть, как пойдет эксперимент, хотя бы на контрольные точки, на те же показатели, ассоциированные со смертностью.

Сам Илья очень рекомендует всем правильное питание. А что такое «правильное питание»? Нельзя ли узнать рецепт? На какие молекулярные пути и как оно действует? Можем ли мы создать фармацевтический аналог?

Я скажу так: если есть режим питания, способный продлить жизнь, значит, возможно и такое лекарство.

Автор считает:

«В этом контексте популярные сейчас споры, является ли старение болезнью, с точки зрения разработки лекарств не имеют никакого смысла».

Признание старения заболеванием как раз нужно для финансирования исследований и разработок тех самых лекарств.

Раньше и ожирение не было признано заболеванием. Теперь же мы видим большое внимание со стороны страховых, фармы, докторов.

В техническом смысле, лекарства против старения — это воздействие на доклиническую стадию развития патологии.

Кто заинтересован сейчас проверить хотя бы старые лекарства, не рассчитывая на патентную защиту? Той же фарме не выгодно, а для государство это не болезнь.

Мало того, посыл «одна молекула — одна мишень — одна болезнь» — не наш путь. Как раз, может быть, при разработке лекарства от старости, надо пренебречь идеей как можно быстрей зарегистрировать препарат и не рассматривать терапии, которые бы не действовали на несколько патологий одновременно.

Можно сколько угодно злорадствовать, что эпопея со стволовыми клетками провалилась, но никто не сделал еще пересадку костного мозга между клонами с целью омоложения. Сюда же я добавлю и пересадку тимуса.

И ещё одна картинка из его статьи с ясным намеком, что из себя представляют исследователи старения.

В целом, в статье разбираются в основном старые идеи: антиоксиданты, метформин, активация теломеразы, удаление сенесцентных клеток. Переливание крови от молодых к старым обобщено до одного небольшого исследования:

«В исследовании на 18 пациентах с болезнью Альцгеймера ни у одного из них не наблюдалось когнитивных улучшений».

Давайте-ка дождемся хотя бы пресс-релизов Амброзии. Все-таки там миллион решений, что убирать из крови и каким образом.

А как на счет омоложения межклеточного матрикса, подавления активности транспозонов, управления микробиотой, исследования стресс-ответа, влияния на системное воспаление? Основной фронт борьбы за омоложение организма идет вокруг эпигенетической регуляции.

Автор пишет:

«Тем не менее, эксперимент доктора Бельмонте даёт надежду, что в принципе омолаживающего эффекта добиться возможно. По крайней мере, это удалось сделать у генетически модифицированных мышей с преждевременным старением, скрестив их с мышами, у которых под воздействием антибиотика доксициклина вырабатывались факторы Яманаки. Правда, как я покажу ниже, между этим экспериментом и применением подобных технологий у людей огромная пропасть. Удастся ли её преодолеть — покажет время».

Время само по себе ничего не покажет — покажут деньги. Как быстро мы сможем разработать оптимальный протокол репрограммирования на человеческих клетках и разработать метод генной терапии для внедрения кассеты с факторами репрограммирования, так чтобы это было безопасно. Одна из главных проблем — метод доставки кассеты. Конечно, успех никто не гарантирует. Но вот скажите, кто-то в России пытается сделать такое?

Илья часто возвращается к мысли, что не всё, что сделано на мышах, автоматически получится на человеке. Еще раз отвечу — это банальность. Другое скажу: всё, что сделано на мышах, рано или поздно получится и на человеке, может по-иному, но получится. Человек не на Луне родился, и биологические законы все те же самые. Мы совершаем переходы от червей к мухам, от мух к мышам, от мышей к человеку. Сделаем это и в замедлении старения.

Кратные увеличения продолжительности жизни модельным животным автор игнорирует. Типа к человеку такое не может относиться. А вот может, просто надо дорабатывать.

Ясный всегда находится в негативном предположении и в подозрении к авторам статей:

«Авторы утверждают, что в низких дозах он (эвералимус) оказал благоприятный эффект на функционирование иммунной системы у пожилых. Впрочем, вряд ли эверолимус, как и рапамицин, можно будет использовать для продления жизни, так как перечень его побочных эффектов очень широк…»

Но ведь речь идет о существенно более низких доза аналогов рапамицина! Нам не нужно отключать иммунную систему и уничтожать почки, как это делается при первом назначении рапамицина — пересадке органов.

Терапевтическая доза при замедлении старения на много меньше. Рапамицин продлил максимальную продолжительность жизни мыши. Нет никаких оснований говорить, что его аналоги не сработают на человеке, так как он миметик ограничения калорийности питания, а снижение калорийности доказано имеет множество положительных эффектов.

Полное ощущение, что как-то пришло начальство к Илье Ясному и спрашивает: «А что мы в старение не вкладываемся?» И теперь ему нужно доказать, что он такой провидец, и не надо вкладываться. При чём, давать негативные прогнозы — всегда более выгодно: в 90% случаях ты будешь прав.

Поиск лекарства от старости — он не для венчурных фондов со вчерашней логикой. Да, это очень рискованное мероприятие, и оно интересно только в том случае, если оцениваешь собственные риски состариться и умереть. Их не назовешь призрачными.

Экономика не рассматривает феномен смерти инвестора. Была Coca-Cola и осталась Coca-Cola. А то, что её акционеры все умерли, никакого значения не имеет. Но по идее человек должен обнулять ценность своих инвестиций, когда его жизнь закончилась.

В таком случае вложения в лекарство от старости с низкими шансами будет выгодней, чем тонна денег, вываленная на надгробную плиту. В этой логике умереть богатым — нерационально, так как это означает, ты не использовал все шансы остаться в живых.

Не знаю, когда будет открыто сильное лекарство от старости, но уже прямо сейчас мы можем продлить ожидаемую продолжительность жизни большинству. К примеру, занимаясь профилактикой ССЗ, в том числе и фармацевтической, а не только улыбаясь, как советует Илья Ясный.


Ответ Илье Ясному про то, а надо ли бороться со старением was originally published in Open Longevity RUS on Medium, where people are continuing the conversation by highlighting and responding to this story.

Оригинал и комментарии

Найден оптимальный алгоритм выявления «скрытых пружин» в устройстве общества от sergey_57776
Превосходство алгоритма SpringRank над другими широко используемыми алгоритмами при тестировании на синтетических наборах данных, где ранжирование уже известно.

На основе данных о коммуникации людей в любой социальной сети (онлайновой, типа ФБ, или офлайновой — в реальной жизни) можно выявить скрытую иерархическую структуру среди участников сетевых коммуникаций. Это делается путем анализа асимметричных моделей взаимодействий участников.

Подобные иерархии существуют в любых социальных группах: от птиц, приматов и слонов до людей. Все эти группы организованы в соответствии с иерархиями доминирования, определяющими модели повторяющихся взаимодействий, при которых доминирующие особи склонны утверждать себя над менее влиятельными членами групп.

Чем больше и сложнее сеть участников социальных взаимодействий, тем больше в нем скрытых иерархий, порою неведомых самим участникам коммуникаций.

Выявление архитектуры таких иерархий — критически важная задача для:

- понимания характера существующих и предсказания возникновения новых иерархий;
- увязки этих иерархий со «струями и течениями» социальных взаимодействий;
- оказания влияния на них в целях управления динамикой социальных коммуникаций.

Т.е. в наше время, — это важнейшая задача для социологов, политтехнологов, спецслужб и СМИ.

Поскольку задача столь важная, то для ее решения уже разработаны несколько подходов, в каждом из которых построено по несколько типов алгоритмических моделей и, соответственно, алгоритмов выявления иерархий.

Алгоритмов много, но их производительность и масштабирование до последнего времени оставляли желать лучшего.

Новая прорывная модель и алгоритм SpringRank навеяны элементарной физической аналогией

— представить социальную сеть коммуникаций, как физическую систему, в которой между каждой парой участников натянута ориентированная пружина определенной длины и упругости.

Гениальная идея нового алгоритма — минимизировать общую энергию всех пружин системы. И поскольку эта задача оптимизации требует только линейной алгебры, ее можно решить для сетей с миллионами узлов и ребер за считанные секунды.

Натурные испытания алгоритма SpringRank на синтетических и реальных наборах данных (включая данные о поведении животных, найме преподавателей, сетях социальной поддержки и спортивных турнирах) показали замечательные результаты — алгоритм жутко эффективен, как по скорости, так и по масштабируемости.

Он также может выявлять и предсказывать появление ненаблюдаемых ребер в сети, — так сказать выявлять «скрытые пружины», влияющие на поведение общества.

Принципиальное преимущество SpringRank перед прежними алгоритмами в том, что

- старые алгоритмы, как правило, лишь «выявляют элиту» — дают высокие ранги небольшому числу важных узлов, что дает мало информации об иерархии узлов с более низким рейтингом;
- новый алгоритм выявляет всю многоуровневую иерархию, — и в том числе, латентную: неявную, скрытую и неочевидную.

Новый алгоритм, возможно, произведет революцию в т.н. «системах одобрения» (Systems of Endorsement ), в которых статус участников обусловлен престижем, репутацией или социальным положением.

К ним, в той или иной мере, относится почти все: от рекомендательных систем в Интернете, до социального устройства общества.

Подробней см. только что опубликованную работу «A physical model for efficient ranking in networks»

_________________________

Хотите читать подобные публикации? Подписывайтесь на мой канал в Телеграме, Medium, Яндекс-Дзене

Считаете, что это стоит прочесть и другим? Дайте им об этом знать, кликнув на иконку “понравилось”

Оригинал и комментарии

Экономика ИИ — как удешевление предсказаний изменит мир от sergey_57776

Публикация этой новой статьи в Forbes означает возможную смену парадигмы понимания ИИ бизнесом. Когда это произойдет, то одна из главных тем моего канала — «ИИ и предсказания» — превратится из «малоизвестного интересного» в мейнстрим бизнеса.

Статья пересказывает разговор ее автора — Бернарда Марра с Джошуа Гансом о ключевых темах новой книги последнего — 
Prediction Machines: The Simple Economics of Artificial Intelligence.

Три ключевые мысль этой книги таковы.

✔️ В практическом плане в экономике и бизнесе термин ИИ относится не к интеллекту, а всего лишь к одному из его аспектов, коим является предсказание.
✔️ Основная задача ИИ в бизнесе — снижение показателя цена/качество предсказаний.
✔️ Ключом к успеху при решении этой задачи будет то, смогут ли люди, работающие ИИ-менеджерами научиться различать задачи, связанные с предсказанием, и те, в которых по-прежнему более важен человеческий фактор.

В этом разговоре есть и другие ценные мысли. А в книге, — так и тем более.

Тем ни менее, названные три — самые суперважные, суперценные и пока еще мало кем понимаемые.

А значит, и самые годные, чтобы на их понимании начать хорошо зарабатывать.

P.S. Некоторых читателей коробит термин «предсказание», и мне рекомендуют заменить его на «прогноз».
Так вот. Термин «предсказание», а не «прогноз» используется мною осмысленно и намеренно, чтобы подчеркнуть особенности нашего времени, когда большие данные уже есть, а умения ими эффективно пользоваться пока мало.

Как по этому поводу хорошо написал Michael Schrage:

«In the good old days, of course, predictions were called forecasts and stodgy statisticians would torture their time series and/or molest multivariate analyses to get them. Today, brave new data scientists discipline k-means clusters and random graphs to proffer their predictions».

Прогноз подразумевает понимание, как и почему нечто произойдет. Предсказание же не отвечает на вопросы «как и почему».

Без понимания этого различия, получается ошибочный перевод Гугла и Яндекса:

«В старые добрые времена, конечно, прогнозы назывались прогнозами …» 😂

_________________________

Хотите читать подобные публикации? Подписывайтесь на мой канал в Телеграме, Medium, Яндекс-Дзене

Считаете, что это стоит прочесть и другим? Дайте им об этом знать, кликнув на иконку “понравилось”

Оригинал и комментарии

Предвзятость ИИ порождает несправедливость, и наконец это начали осознавать от sergey_57776

Мой недавний пост про «справедливый ИИ» некоторым читателям не понравился, — мол, кликбейтовая подача второстепенной темы.

Это не так. Тема наиважнейшая и куда более актуальная, чем ИИ-страшилки или ИИ-восторги, заполонившие СМИ и блогосферу.

Вот краткая подборка в подтверждение сказанного.

1️⃣ Google опубликовал свои принципы этики, включающие, проверку алгоритмов на предвзятость, для чего на специальном сайте «Ответственные AI-практики» даются рекомендации по способам защиты от Предвзятости Данных (Data bias) и обеспечения ИИ-справедливости (AI Fairness).

2️⃣ Комитет по науке и технологиям Конгресса США проводит слушания по вопросу, как обязать техкомпании решать проблему предвзятости ИИ.
«Нам нужно решать проблемы, связанные с данными, которые используются для обучения машин. Предвзятые данные ведут к предвзятым действиям только кажущихся нам объективными машин», — сказал конгрессмен Дэн Липински.

3️⃣ Accenture выпустила 1й инструмент для борьбы с Предвзятостью Данных (Data bias) при машинном обучении. Он называется «Инструментарий AI-справедливости» (AI Fairness Tool) и позволяет выявлять корреляции в данных по отношению к возрасту, расе, полу и иным демографическим данным. Определив эти корреляции, можно перенастроить системы, чтобы дать более справедливые результаты по всем демографическим показателям.

Джоди Уоллис, управляющий директор по ИИ в Accenture, сказала:

«Даже если вы намеренно исключаете из своих данных чувствительные переменные, типа этническая принадлежность, пол, возраст и другие очевидные источники несправедливой предвзятости, система машинного обучения может использовать какую-то другую переменную или комбинацию переменных, которая тесно коррелирует с половой принадлежностью или расой, тем самым делая “инъекцию несправедливости“ в действия системы».

4️⃣ А тем временем, примеры банальной, но при этом тотальной Предвзятости Данных встречаются повсюду.

— Системы распознавания лиц проявляют черты гендерной и расовой дискриминации. С 99%ой вероятностью распознаются лишь белые мужчины. Тогда как темнокожие женщины в трети случаев распознаются, как мужчины.

— И даже Google Translate ухитряется делать переводы с гендерным уклоном. Например, на турецком языке существует одно местоимение «o» для он, она, оно. Поэтому, когда Google Translate переводит с турецкого, например, на английский, нужно угадать, означает ли «о» он, она или оно. И эти переводы раскрывают гендерный уклон алгоритма:

✔️ если переводится слово трудолюбивый, то подставляется он;

✔️ если же переводится ленивый, … то она, т.е. ленивая.

_________________________

Хотите читать подобные публикации? Подписывайтесь на мой канал в Телеграме, Medium, Яндекс-Дзене

Считаете, что это стоит прочесть и другим? Дайте им об этом знать, кликнув на иконку “понравилось”

Оригинал и комментарии

ДНК-тест интеллекта уже работает от sergey_57776
Credit: Jamie Grill Getty Images

Сегодня уже бесспорно, что большая часть индивидуального и социального поведения наследуется — т.е. подвержена генетическому влиянию и не полностью программируется социальными факторами.

Более того, революционным прорывом в знаниях о наследственности стало открытие, что естественный отбор продолжается и, возможно, даже ускоряется в последние 10К лет после аграрной революции.

Наследственность — доля вариации признака в популяции, которая объясняется генетическими различиями, колеблется:

  • от примерно 1/3 — для религиозности,
  • 2/3 для персональный качеств, уровня образования и даже дохода,
  • до примерно 3/4 для IQ.

Генетическое влияние на поведение человека настолько широко распространено, что привело психолога Эрика Туркхаймера к формулировке «1го закона генетики поведения»: все черты человеческого поведения наследуются (его 2й закон идет еще дальше, утверждая, что в формировании поведения гены сильнее семьи и среды).

Наследственная предрасположенность к заболеваниям уже широко известна. Те, кто еще не используют ДНК-тесты типа 23andMe, зря рискуют и поступают глупо. Они пренебрегают знанием наиболее вероятных заболеваний (от язвы до психзаболеваний и рака), которые врачи еще не обнаружили у них или их детей. А зная где упадешь, есть шанс подстелить соломку.

В отличие от наследуемых заболеваний, с интеллектом получалось сложно:

  • слишком много факторов на него влияют;
  • и сильно попахивает всякими теориями врожденного превосходства.

Поэтому решили не дразнить гусей и политкорректно исследовать влияние наследственности на уровень образования, которое получит человек (в количестве лет: неполная или полная школа, техникум, вуз, аспирантура …).

Ну а если без политкорректности, то и ежу ясно, — такой полигенный показатель склонности к образованию напрямую характеризует когнитивный потенциал личности.

Впервые корреляция полигенного показателя склонности к образованию была выявлена в двух масштабных исследованиях по поиску полногеномных ассоциация (GWAS), проведенных в 2006. Тогда были выявлены 74 варианта участвующих в развитии мозга генов, имеющих прогностическую ценность для прогноза уровня образования.

Новое исследование, данные которого только что опубликованы (1М+ участников из 15 стран), дало феноменальные результаты:
  1. выявлены 1271 вариант участвующих в развитии мозга генов, связанных с межнейронной коммуникацией и секрецией нейротрансмиттеров;
  2. построена биохимическая архитектура и схема функционирования мозга при формировании индивидуальных качеств, влияющих на уровень образования (см. рисунок);
  3. прогностическая сила этой архитектуры определяет 11–13% генных вариаций, влияющих на уровень образования, что уравнивает ее с прогностической силой демографических факторов (таких, как доход домохозяйств, образование родителей и т.д.)
Биохимическая архитектура и схема функционирования мозга при формировании индивидуальных качеств, связанных с образованием и когнитивными функциями. Инфографика сделана Emily Willoughby для цитируемой статьи, где она в списке автотов

Авторы предупреждают, что:

— «наличие низкой полигенной оценки абсолютно не означает, что кто-то не достигнет высокого уровня образования»;
— и «что амбиции, семейная ситуация, социально-экономический статус и все остальное — в сумме играют большую роль, чем гены».

Т.е. это все вероятностные оценки, варьируемые в разных условиях окружающей среды.

Мы все это понимаем…

Но ведь и предрасположенность к заболеванию, определяемая ровно таким же методом, — тоже вероятностная оценка и тоже не означает, что у конкретного человека это заболевание обязательно появится…

И все же лучше заранее знать вероятностную оценку способностей ребенка к образованию, спорту, музыке … при определении его в спецшколу или секцию, вкладываясь в репетиторов для поступления в ВУЗ и т.д. и т.п.

_________________________

Детали:

популярно;

— и научно.

А также для наводки на резкость:

Что геном говорит о предрасположенности к полигенным болезням

Каков ваш полигенный показатель?

_________________________

Хотите читать подобные публикации? Подписывайтесь на мой канал в Телеграме, Medium, Яндекс-Дзене

Считаете, что это стоит прочесть и другим? Дайте им об этом знать, кликнув на иконку “понравилось”

Оригинал и комментарии

Лучший способ объяснить и быть понятым от sergey_57776
Пример Explorable Explanations

Был просто поражен, узнав, что лишь единицы у нас слышали про «Исследуемые объяснения» (Explorable Explanations)— чрезвычайно полезный и жутко интересный интерактивный обучающий научно-популярный нон-фикшн.

Это одновременно:

✔️ инновационный подход к обучению

✔️ и новый жанр интерактивного просвещения на стыке:

— образовательного развлечения,
— инди-игр и головоломок,
— аналитики визуальных исследований.

4 года назад проект Explorable Explanations запустил великолепный Ники Кейс (Nicky Case), тогда 20летний вундеркинд и гений дизайна визуализации.

С тех пор его сообществом сознано уже 122 «исследуемых объяснения» в 15 областях: искусство, биология, химия, обществоведение, науки о земле, экономика, журналистика, математика, философия, физика, программирование, психология, исследуемые разъяснения и неклассифицируемые улеты.

Бессмысленно рассказывать, насколько это интересно, прикольно, полезно и перспективно, — надо самим видеть.

Поражает, что новый кроссдисциплинарный, синтетический жанр позволяет создавать продукты, одинаково годные для:

— самообучения и просвещения,
— дизайна UI и UX,
— маркетинга и рекламы,
— пиара и коммуникаций
— написания тизеров стартапов …

и вообще, для любых задач, когда нужно свою идею аккуратненько и играючи, быстро и незаметно вдвинуть в голову другим людям, да еще и так, чтобы:

✔️ они эту идею правильно поняли,

✔️ и им понравились: как сама идея, так и ощущение от процесса ее постижения.

Затыкаю фонтан восторженного красноречия. Дальше смотрите сами.

1) Каталог 122ух «исследуемых объяснений» в 15 областях

2) «Исследуемые объяснения» Ники Кейса, что такое «исследуемые объяснения» и как их делать:

— два текста — первый и второй

видео на 24 мин.

3) Резюме на русском 4х «исследуемых объяснений» :

— что такое доверие,

— как вирусно распространяется информация,

— как в обществе возникает сегрегация

— как работают нейроны в человеческом мозгу,

— как признаться родителям в своей бисексуальности.

4) Пример применения «исследуемых объяснений» для суперсложного вопроса — как объяснить, что такое комплексные системы:

— обстоятельно в лекции на 1.5 часа

— кратко во фрагменте этой лекции на 5 мин.

_________________________

Хотите читать подобные публикации? Подписывайтесь на мой канал вТелеграме, Medium, Яндекс-Дзене

Считаете, что это стоит прочесть и другим? Дайте им об этом знать, кликнув на иконку “понравилось”

Оригинал и комментарии

Кого бы я посоветовал, как работодателя лучшему другу. от innubis

Уйдя из Яндекса, я работаю с большим количеством людей из разных компаний, как по центральным каналам подключения, так и в частном порядке. Хотя особо не афиширую, но много, где был, даже в московском Google читал лекцию. И постепенно у меня складывается ощущение, по тому, где я вижу больше всего счастливых людей, куда бы посоветовал пойти искать вакансии.

Конечно, я не работаю на постоянной основе ни в одной из этих компаний. И, в принципе, не могу толком знать, как оно изнутри. Но есть маркеры состояния дел. Ими я с вами сейчас поделюсь.

Представьте, что вы пришли на рыбалку к пруду. Вы не можете знать, как в нем живется. Но вот закинули невод и выловили стайку молодняка. Бросьте их обратно, по ним судить бесполезно. Этот Понд-Югенд, обитающий в любой корпорации, уважающей кадровою работу с молодежью. Они счастливы от того, что вчера перестали быть стажерами. Им еще не надоела брендированная одежда, они готовы ходить строем и кричать «мы команда» просто потому, что их еще не ели заживо и не глушили динамитом.

Самый интерес для исследователя представляют рыбы, живущие в пруду более 5 лет. Эти, сформировавшиеся в условиях экосистемы пруда особи, впитали в себя образ жизни и мышления, выработали набор условных рефлексов и всевозможных рефлексий.

Во-первых, показателем является их численность. Если их мало, значит в пруду идет игра FPS по сюжету «Last man standing». В таких прудах можно найти матерую рыбу, но она вся будет привозная.

Во-вторых, если ты вытаскиваешь рыбу, а она кожа да кости, один глаз больше, другой красный и дергается, зубастая рожа перекошена в гримасе ужаса и ненависти, и пытается тебя сразу за пальцы хвать-хвать-хвать — потому что self-esteem надо непрерывно фиксить, то можно представить, как ей жилось все эти годы. Что сформировало ее такой жуткой, дерганой и перекошенной? — Страшно представить. А если это толстое спокойное, как удав существо, лениво приоткрывшее глаз со словами: «Мне на тонком тесте…» — можно быть уверенным, что в пруду дзен и благорастворение.

Мудрый Эпикур, отвечая на вопрос: «По каким бизнес-показателям оценивать достижение целей?», — ответил: «Жизнь дана нам в ощущениях». Как бы подметив тем самым, что способные быть счастливыми люди — это подходящая компания. А подходящая компания, это такая компания, которая Badoo.

Вот и все, что я мог бы посоветовать лучшему другу в плане выбора направления поиска работы.

Оригинал и комментарии

Ревью: как растоптать отличника. от innubis

Отжимая мокрую от слез жилетку, могу смело сказать, что наслышан про распространенную систему оценок по ревью, в которой нормальной оценкой считается средняя в шкале: трехбалльной или пятибалльной. Например, при A,B,C,D,E — нормальной оценкой считается C.

И это лучший способ заставить человека ненавидеть просыпаться и ехать в офис.

Одним из обоснований такого подхода является нормальное распределение. Мне всегда становится до ехидности весело, когда в работе с людьми для выстраивания мотивации используется не психология, социология, конфликтология и прочий плохо калькулируемый «буллшит», а математика. Строительство фабрики искусственно спятивших интеллектов: в нормальном для них обществе норма тусуется в середине, влево и вправо отваливаются маргиналы.

Но у меня возникает вопрос, как вы вообще нанимаете отличников в компании, организованные подобным образом? Отличник в школе был на шкале от 1 до 5 крайним маргиналом. И так 10–12 лет. Потом вуз 5–6 лет, где он сильно переживал, каждый раз, когда получал 4. И упаси Боже получить 3! Оценка 5 была его нормальным состоянием. В школе и вузе он знал критерии, как быть лучшим и с упорством следовал им.

В результате, отличники, вроде как, лучшие, самые мотивированные и работоспособные. И тут они приходят в корпорацию. Причем, в такую корпорацию, где технологии, концентрация знаний и средний IQ как бы намекает. Приходят, чтобы «делать мир лучше», чтобы «свернуть горы», чтобы «выкладываться по полной». Потому что они привыкли так жить. Они привыкли пахать на 100% своих возможностей. Они верят в созидательное творчество…

Добро пожаловать на аттестацию четыре раза в год. Нет, мы не госкорпорация. И нормально, если у вас будет оценка 3.

И мы затрудняемся дать вам четкие критерии, что надо сделать, чтобы всегда быть с оценкой 5.

Но точно можем сказать, что это невозможно.

Но Невозможное — это 15 лет работать за пятерки! Такие люди не верят в то, что им не по силам быть там, где они всегда были. Они начинают стремиться в привычное маргинальное положение — к максимальной оценке. Но искусственно созданная сила нормального распределения возвращает их в посредственную реальность, частью которой они отныне являются. Вырваться в отличники по ревью сложнее, чем сперматозоиду вырваться из гандона.

Ну да, ну да. Не давать же премии каждый квартал. Это ж тогда не премия. Это ж зарплата. «Никакой мотивации», — говорят эксперты по мотивации. Поэтому надо кинуть людей в яму со скользкими берегами и радостно наблюдать, как они из нее лезут. Вот это зрелище!

В дополнении забавно, что премирование по оценке, делает человека индивидуалистом. Я слышал такое, что высокую оценку человек может получить за какой-то исключительный прорыв или особо большой доход добытый им.

Вы когда-нибудь слушали хор бардов? Хор, где каждый поет свою песню. В коллективном труде не может быть исключительно индивидуальной заслуги! Так зачем же вообще распределять премии по отдельным людям? Премии вполне могут получать, как большие подразделения, так и небольшие группы умных людей, сделавших что-то исключительное. Более того, я на себе испытал хорошую практику распределения премий на временные коллективы — мы проводили мероприятия.

Еще одним очень простым, честным и понятным критерием является сверхурочная работа. Авралы случаются. И люди, которые разгребают эти авгиевы конюшни, должны награждаться. Просто за работу в ночь, в выходные, в отпуске, во время родов жены…

Ой! Так они начнут читерствовать! Будут тупить в фейсбуке в основное время, потом жаловаться, что вынуждены брать работу на дом.

Тут я закину ногу на ногу и, сомкнув кончики пальцев рук в позу умного, намекну на менеджерскую дисквалификацию тому, кто выдвинет мне подобный тезис. Потому что если менеджера можно нае…ть — он троечник. Оценка C — вот, чего он заслуживает. А в интеллектуальных корпорациях троечники уверенно катятся на выход с горки логарифмически нормального распределения.

Если потратить время и поискать корни этой системы оценок, уверен, выяснится, что они в US Navy & Army. Что логично для их системы подготовки. Армия не должна поставлять спецназ оптом, иначе стоимость пушечного мяса станет неприятной темой на заседании министров. А несколько миллионов новобранцев средней путёвости — годная история. И она же понятна контрактнику поменявшему грязные штаны работника уездного автосервиса на камуфляж с лампасами.

Читать по теме «Простите, я разрушил вашу компанию», «Сверху вниз» Гарольда Ливитта, «Незаменимый» Сета Година, книги Дэна Ариэли и «Наставление по разведению пауков-птицеедов».

Предыдущий материал по теме:

Грейды. Ярлыки. Погоны.

Оригинал и комментарии

На шаг ближе к тайне мировосприятия от sergey_57776
NeuroscienceNews.com image is credited to Cruger Creations

Новое открытие Университета Дьюка приоткрывает тайну того, как мозг способен обрабатывать сразу несколько внешних сигналов — например, слушать рассказ приятеля на вечеринке с музыкой, играющей в фоновом режиме, выделять жужжание цикады из ночной симфонической трели множества насекомых или слышать дыхание спящего ребенка, наблюдая за перипетиями сюжета нового сериала.

Удивительно, но оказывается в мозге эта задача решается уже известным нам инженерным способом. Еще на заре телекоммуникаций инженеры разработали хитрый способ одновременной передачи нескольких телефонных звонков по одному проводу. Названный временным мультиплексированием, этот метод позволяет несколько сигналов или битовых потоков передавать одновременно как подканалы в одном коммуникационном канале.

Оказалось, что нейроны работают ровно так же, сохраняя информацию о двух разных раздражителях из внешнего мира одновременно, просто переключаясь между ними.

Кажется просто? Но это меняет наши представления о перцептивных и когнитивных ограничениях мозга.

Это позволяет понять, как мы можем реагировать и на визуальный образ диванной подушки, и дивана, на котором она лежит, — т.е. как мозг заключает, что и подушка, и диван присутствуют в том, что мы видим.

Эти данные дают ключ к пониманию механизма работы мозга, когда он должен делать больше, чем что-то одно с помощью ограниченного набора нейронов. Например, наша рабочая память — количество вещей, которые мы можем держать в уме за один раз, — ограничена примерно пятью-семью элементами. И хотя проведенные пока что эксперименты непосредственно не тестируют рабочую память, исследователи считают, что дальнейшие исследования могут помочь объяснить это ограничение.

Подробней:

_________________________

Хотите читать подобные публикации? Подписывайтесь на мой канал в Телеграме, Medium, Яндекс-Дзене

Считаете, что это стоит прочесть и другим? Дайте им об этом знать, кликнув на иконку “понравилось”

Оригинал и комментарии

Комиксы в PowerPoint с участием OneNote от innubis

Быстро сделать задорные слайды теперь стало легче благодаря классным стикерам из Microsoft OneNote.

OneNote — не самая популярная программа. Но она великолепна своими возможностями. Там явно кто-то очень креативный за ней стоит. А вот недавно я заметил появление Stickers на вкладке Insert.

Пять тем стикеров позволяют разбавить документ. Но не только. Их можно копировать в PowerPoint создавая тем самым более веселые и разнообразные презентации.

Например, можно вставить котика и приделать к нему бабл с текстом:

Или вставить осминожку-единооржку и использовать его, как буллиты в списке:

Но самое клевое — это 22 лица настоящих комиксов, с которыми можно выстроить массу сюжетов и навыдумывать мемасики, благодаря тому, что текст в баблах кастомизируется в специальном окне под стикером.

Подсказка: Если использовать стикеры одного стиля, стильность презентации стильнеет с каждым слайдом.

Недосып вам в помощь!

5.6.18

Кирилл Анастасин

P.S.: Принимаю поздравления по поводу этой картинки :-)

Оригинал и комментарии

ИИ в роли преступника от sergey_57776

Причины и условия возможных преступлений Искусственного Интеллекта (ИИ) пока что в корне отличаются от человеческих.

Первое ключевое отличие в том, что:

  • у людей эти причины и условия определяются личностью преступника — совокупностью социально-психологических свойств и качеств человека,
  • а у современных ИИ-систем, к счастью, личности пока что нет и в ближайшие годы не предвидится.

Тем не менее, одна из присущих людям основ возникновения преступного поведения у современных ИИ все же смогла сформироваться.

В криминологии она называется Теория дифференциальной ассоциации.

Ее суть в том, что девиантному поведению учатся — человек становится потенциальным преступником в результате обучения противоправному поведению в социальных микрогруппах (семья, улица, школа и т. д.).

Попросту говоря, Теорию дифференциальной ассоциации, применительно к человеку, можно упрощенно резюмировать народной мудростью «с кем поведешься — от того и наберешься».

С ИИ несколько по-другому. Так уж получилось, что ключевым свойством современного ИИ является то, что его не программируют, а он учится сам в процессе анализа предоставляемых ему для обучения тренировочных наборов данных. И здесь Теория дифференциальной ассоциации выражается в том, что «на каких данных поучишься — того и наберешься».

Примеров того, как в результате обучения ИИ обретали сексистские, нацистские или хамские черты, множество. Про предвзятость и прочие когнитивные заморочки, — что и говорить.

В итоге понятно, что если обучать ИИ на «Майн Кампфе» Гитлера, дневниках Чикатило и подобной тренировочной базе данных, то как и у людей, ничего хорошего из него не получится.

Второй ключевое отличие причин и условий возможных преступлений человека и ИИ таково.

Это абсолютная “недоразвитость” ИИ — отсутствием у него свободы воли и хоть каких-то этических и моральных принципов.

Из этого следует, что, попадая в руки людей, имеющих преступные замыслы (диктаторы, криминал или террористы), ИИ со 100%ной вероятностью будет способствовать исполнению их преступных намерений.

Иными словами, — попадая в руки преступников ИИ, сколь бы он ни был умен, обязательно превращается в наитупейшее орудие преступлений.

А степень злобности, безнравственности и бесчеловечности последствий применения такого ИИ ограничивается лишь личностью применяющего его преступника.

Если это что-то типа Гитлера или Чикатило, последствия могут быть сколь угодно ужасными и необратимыми. И от ИИ здесь вообще ничего не зависит.

Названные два ключевые отличия преступлений ИИ распространяются на все три сферы криминальной деятельности:

✔️ Цифровые преступления

✔️ Физические преступления

✔️ Политические преступления

Однако, специфика ключевых отличий преступлений ИИ существенно расширяет криминальный ландшафт, порождая 3 новых класса криминальных угроз:

  1. ухудшенные и усиленные варианты уже существующих угроз;
  2. принципиально новые угрозы;
  3. изменение типичного (привычного) характера, как существующих, так и только вообразимых угроз.

Детальный анализ перспектив ближайшего десятилетия

  • для 3х сфер криминальной деятельности,
  • в плане 3х новых классов криминальных угроз,

а также

  • с демонстрацией нескольких возможных сценариев, демонстрирующих, какие виды преступных атак с применением ИИ мир скоро увидит, если не предпринять специальные меры;
  • с попыткой анализа мер, способных, если не предотвратить, то хотя бы препятствовать этим атакам

➡️ можно прочесть в 100 страничном отчете «Злонамеренное использование ИИ: прогнозирование, предотвращение и смягчение последствий», выпущенном 26ю экспертами из 14 организаций в феврале 2018 и с тех пор, к сожалению, почти что не упоминавшийся в российских медиа.

Резюме отчета в 2х взаимодополняющих статьях: и .

Моё резюме (банальное как сама жизнь):

Вся польза и весь вред от технологий ИИ в долгосрочной перспективе зависят не от технологий, а от того, как люди предпочтут их применять.

_________________________

Хотите читать подобные публикации? Подписывайтесь на мой канал в Телеграме, Medium, Яндекс-Дзене

Считаете, что это стоит прочесть и другим? Дайте им об этом знать, кликнув на иконку “понравилось”

Оригинал и комментарии

Зомбирование нейросетей уже возможно от sergey_57776

В феврале исследователи из Google Brain опубликовали работу, из которой следовало, что:

— состязательную нейронную сеть для распознавания образов можно запросто хакнуть и заставить видеть совсем не то, что ей показывают, например, собаку вместо кошки;
— похожим образом можно хакнуть и зрительное восприятие человека.

Та статья звучала страшновато. Однако новая статья исследователей из Google Brain — вообще жуть.

Дальнейшие исследования показали:

✔️ Нейронные сети распознавания образов запросто можно так хакнуть, что они не просто будут видеть ложные изображения, а станут выполнять иные, совершенно левые функции.

Без преувеличений можно сказать, что это способ зомбирования нейросетей — превращение их в послушного исполнителя чужой воли.

Это значит, что хакеры, например, могут:

— перепрограммировать классификатор компьютерного зрения в облачной службе фотографий с тем, чтобы начать воровать вычислительные ресурсы, скажем, для майнинга криптовалюты;
— или перепрограммировать любой смартфон, использующий нейросети для функций цифрового помощника и тем самым получить доступ к почте, паролям, кредиткам …

Авторы пока точно не выяснили, какие конкретно задачи злоумышленники смогут заставить выполнять зомбируемые нейронные сети. Однако, как они пишут, успешная атака может побудить их выполнять «очень большой набор задач».

И еще одна гордая по тону и убийственная по сути цитата:

«Наши результаты впервые демонстрируют возможность … состязательных атак, направленных на перепрограммирование нейронных сетей … Эти результаты демонстрируют как удивительную гибкость, так и удивительную уязвимость в глубоких нейронных сетях».

В общем, приехали!

Авторы успокаивают. Мол, рандомные сети (random neural networks) так просто не хакнешь, как состязательные. Но тут же признают, что с тотальной уязвимостью состязательных нейронных сетей придется разбираться ох как серьезно.

Ведь этот тип сетей повсюду: от дизайна до Facebook.

_________________________

Хотите читать подобные публикации? Подписывайтесь на мой канал вТелеграме, Medium, Яндекс-Дзене

Считаете, что это стоит прочесть и другим? Дайте им об этом знать, кликнув на иконку “понравилось”

Оригинал и комментарии

После Трампа и Брекзита: раскол и война или есть выход? от sergey_57776

В чем причина нарастающего ксенофобского национализма и нетерпимости, ведущих к расколу общества в таких разных стран, как Россия и США, Турция и Великобритания, Франция и Иран?

Попытка найти ответ на этот вопрос была предпринята мною год назад в лонгриде «Пора разделяться». В нем я постарался, на основе объективно проверяемых данных, вывести «формулу раскола», объясняющую нарастание поляризации в обществе развитых стран (Трамп, Брекзит и т.д.) столкновением модерна и архаики.

Дмитрий Быков, обсуждая предложенный мною вариант ответа, нашел его оптимистичным. Ведь из него следует, что глобального конфликта можно избежать, если стороны, повинуясь различным скоростям жизни, просто физически разделятся и перестанут видеть друг друга.
И тогда у «добрых ангелов человечества» Стивена Пинкера, появился бы шанс остановить мир от сползания к ситуации, описанной мною ранее в лонгриде «Большой войны не миновать».

Но что, если в основании «формулы раскола» не столкновение модерна и архаики, а нарастающая разбалансировка в экономической модели развитых стран?
Разбалансировка между мотивацией правительств, реакциями рынков и потребностями обществ.

Ели так, то без кардинальной трансформации в экономике развитых стран нарастающий раскол не остановить и тогда большой войны все же не миновать.

В новой лекции два известных экономиста и профессора Венди Карлин и Сэмюэл Боулз обсуждают механизм работы «формулы раскола» на 2х ключевых кейса — Трамп и Брекзит — и намечают новую экономическую парадигму, как основу для более устойчивого и справедливого глобального будущего без Большой войны.

Видео лекции «После Трампа и Брекзита: новая экономика» -1 час 22 мин.

Мой лонгрид «Пора разделяться»

и его обсуждение Дмитрием Быковым в аудио-формате (начиная с 7й мин).

_________________________

Хотите читать подобные публикации? Подписывайтесь на мой канал в Телеграме, Medium, Яндекс-Дзене

Считаете, что это стоит прочесть и другим? Дайте им об этом знать, кликнув на иконку “понравилось”

Оригинал и комментарии

Обидно как-то за MBA. от sgevlich

Обидно как-то за MBA. Мне кажется, когда говорят о людях с узким взглядом на мир, с натаскиванием простым приёмам, это странные бизнес-курсы, которые могут использовать аббревиатуру из 3-х букв, но реально с мба не имеют ничего общего. Я помню вводную лекцию по менеджменту, когда нам профессор сказал: нет правильных моделей, но чем больше моделей вы знаете, тем объёмнее у вас картинка ситуации. Так что для меня мба — это прежде всего, гибкость и широта взглядов.

Оригинал и комментарии

ВШЭ читает курсы по эндаументу для ректоров. Жалуются на низкий интерес ☺ от sgevlich

ВШЭ читает курсы по эндаументу для ректоров. Жалуются на низкий интерес ☺

Оригинал и комментарии

Зенитные кодексы Аль-Эфэсби. Пелевин. от sgevlich

Зенитные кодексы Аль-Эфэсби. Пелевин.

Оригинал и комментарии

www.smysloteka.ru в формочку напишите от sgevlich

www.smysloteka.ru в формочку напишите

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

от

Оригинал и комментарии

Отзывы (через аккаунты в социальных сетях Вконтакте, Facebook или Google+):

Оставить отзыв с помощью аккаунта ВКонтакте:

Оставить отзыв с помощью аккаунта FaceBook:

Архив лучших постов