Как получается, что профессиональные эксперты, привлекаемые обществом при выработке важных и ответственных решений, дают диаметрально противоположные заключения?
Увы, но такое происходит постоянно и повсеместно. И порой касается даже самых важных вопросов, от которых зависят жизни и судьбы конкретных людей, а то и всего общества.

Сталкиваясь с полярными суждениями по важным вопросам (напр. касательно изменения климата и рисков автономного оружия, вреда социальных сетей и методов борьбы с пандемией …), мы примыкаем к одной из сторон, считая суждения противоположной стороны ошибочными. Причины этой ошибочности могут нам видеться разными: от некомпетентности и мотивированности людей, до непреодолимых изъянов их разума и/или морали.

✔️ Но как быть с институтом профессиональной экспертизы, на суждения которой опираются при принятии решений все прочие институты от суда и медицины до политиков и военных?
✔️ Гарантируют ли обществу репутация и опыт профессиональных экспертов непредвзятость их оценок, точность их анализа и верность их рекомендаций?

В моём новом лонгриде предпринята попытка ответить на оба вопроса.
Итог моего анализа резюмируется так.
• В эпоху постнормальной науки и постнормальной истины полагаться лишь на «рациональных ангелов нашей природы» не следует никому, включая профессиональных экспертов.
• Авторитет, знания и опыт профессиональных экспертов, сами по себе, не гарантируют верных выводов и решений, ибо даже лучшие из экспертов не меньше обычных людей (а подчас и больше) уязвимы для когнитивных искажений и шумов.
• Единственный способ минимизации ошибок общества при принятии сложных и ответственных решений — наличие строгого контроля за тем, насколько неукоснительно все вовлеченные в выработку решений эксперты следуют методам, противодействующим влиянию когнитивных искажений и шума.
• Эти методы, основанные на адаптации самых продвинутых теоретических научных представлений о человеческом разуме, мозге и познании, уже разработаны и многократно проверены. Однако, их практическое применение ограничено (1) в силу незнания о них многими профессиональными экспертами, и также (2) из-за нежелания большинства экспертов признавать влияние собственных предубеждений (когнитивных искажений) и шума на их профессиональные суждения и выводы.

А если в институте экспертизы ничего не менять, оставляя всё как есть (что мы, сожалению, пока наблюдаем на практике), даже лучшие и честнейшие из экспертов легко превращаются для общества в слепошарых поводырей.

Читайте мой новый лонгрид “Cлепошарые поводыри. Истоки и причины интеллектуальной слепоты экспертов” (примерно 19 мин):
• на Medium https://bit.ly/3gJIzSk
• на Яндекс Дзен https://clck.ru/bFW3Q
#КогнитивныеИскажения #ИнтеллектуальнаяСлепота #Вызовы21века

​​Опубликован список самых влиятельных ученых мира в области ИИ в 2022 году.
Сверхдержава пока одна – США. И один кандидат на это звание – Китай.
Список 2 тыс. самых влиятельных ученых мира в области ИИ (по состоянию на январь 2022) составлен Zhipu AI Research и опубликован Университетом Цинхуа.
Список AI 2000 сформирован из 100 самых влиятельных ученых в каждой из 20 подобластей ИИ. В список вошли ученые из 43 стран мира.

✔️ ИИ сверхдержава - США (1146 топовых ученых - это 57%).
✔️ Китай нагоняет, но пока отстает аж в 5 раз (232 топовых ученых - это 12%).

Однако важно вот что.
Китайцы составляют более 30% среди ведущих мировых групп специалистов по ИИ, и их число продолжает расти. Среди них 63% китайцев работают за границей (49% в США) и только 37% работают в Китае, а остальные – в более чем в десяти странах мира, таких как Сингапур, Великобритания, Канада и Австралия. Т.е. в США работает на 12% больше талантливых китайских специалистов по ИИ, чем в самом Китае. Следовательно, в области глобального ИИ лучшие китайские ученые составляют большую силу.

Список самых влиятельных ученых мира в области ИИ в 2022 году по месту их работы выглядит так.
Как видите:
• Google всех рвет (у них 181 топовый ученый)
• Из 20-ки лучших 16 (и все 10 лучших) - представители США
• 2 представителя Китая (университет Цинхуа и Alibaba, соответственно, 13-е и 20-е места с 20 и 14 учеными), по 1 из Канады и Сингапура.

Детали см. в отчете https://static.aminer.cn/misc/pdf/AI200022.pdf

P.S. Про Россию можно сказать ставшей крылатой фразой – «нас там нет».
#ИИ #Китай #США

​​Шансы России в ИИ-гонке не хуже Китая.
Но нужна стратегия типа ИИ-ГОЭЛРО плюс ИИ-Ликбез.
«Начиная с механизации в 18 веке (1я промышленная революция), потом электрификации в 19 веке (2я промышленная революция) и затем информатизации в 20 веке (3я промышленная революция), - гигантские волны прорывных технологических инноваций...коренным образом меняли траекторию развития истории человечества...Сегодня мы переживаем еще более колоссальную по масштабу волну технологической революции и промышленной трансформации»
— Председатель КНР Си Цзиньпин
Искусственный интеллект - это новое электричество
— Эндрю Ын, ведущий исследователь ИИ и соучредитель Google Brain

Парадокс в том, что смысл ставшей крылатой фразы Ына мало кто понимает. А без понимания этого, высказывание Си – просто затасканная банальность.
Смысл сказанного Ыном в том, что прогресс в области ИИ (представляющего собой спектр Технологий Общего Назначения - ТОН) имеет совершенно иную траекторию, чем прогресс в области Технологических Продуктов и Услуг (ТПУ).

Разные траектории прогресса ТПУ и ТОН определяются разными (1) механизмами получения преимуществ от технологий и разными (2) сроками получения экономической отдачи.
• В ТПУ: ключевой механизм – монополия на инновацию, а получение экономической отдачи начинается прямо на начальной стадии внедрения.
• В ТОН: ключевой механизм – широта проникновения, а получение экономической отдачи отсрочено на позднюю стадию внедрения.

Разные траектории прогресса ТПУ и ТОН требуют совершенно разных национальных стратегий, направленных на вхождение страны в группу мировых технолидеров. И эти стратегии должны предусматривать абсолютно разную институциональную поддержку государства и бизнеса.
Для ТПУ:
• стратегия направлена на углубление технологического уровня ТПУ, обеспечивающего лидерство на мировом уровне;
• а институциональная поддержка ориентирована на помощь конкретной индустрии – производителю ТПУ в удержании ею лидирующих (а в идеале, монопольных) позиций на международном рынке.
Для ТОН:
• стратегия направлена на расширение сфер применения ТОН в различных индустриях;
• а институциональная поддержка – на стимулирование как можно более широкого применения ТОН как можно большим числом индустрий.

Отсюда следуют три вывода:
1. В отличие от ТПУ, для ТОН не принципиально важно быть в числе мировых лидеров по R&D, числу статей и патентов и даже по числу топовых ученых и инженеров, создающих и совершенствующих ТОН.
2. Самым важным для прогресса ТОН является:
(А) совершенствование инфраструктуры и оргподдержки, стимулирующих создание инновационных цепочек взаимодополняющих применений ТОН в большинстве секторов экономики;
(Б) обеспечение большого пула инженерных специалистов среднего и нижнего уровня, необходимых для внедрения и поддержки ТОН в самых разнообразных применениях широкого спектра индустрий;
(В) ориентация не на замену людей, а на расширение их возможностей.
Пояснение п. (А). Точно так же, как инфраструктура и оргмероприятия при внедрении беспроводной телеграфии отличались от оных при внедрении городского электроосвещения, пути внедрения для различных приложений ИИ будут сильно отличаться.
Пояснение п. (Б). Аналогично возникновению в ходе электрификации всей страны целой армии инженеров и техников-электриков в разных профессиональных ипостасях и во всех отраслях от авиации до колхозов, для прогресса ИИ потребуется армия специалистов из сотен тысяч ИИ-инженеров, на каждого из которых будет приходиться по 10+ ИИ-ПТУшников.

США изначально были и остаются лучше других стран подготовлены к прогрессу ИИ, как ТОН.
Руководство Китая в явном виде ориентирует национальную стратегию, как стратегию ТОН.
В России это, как мне видится, совсем не так.
Но страна в состоянии присоединиться к ИИ-гонке в группе лидеров. Для этого нужно менять стратегию, - что-то типа интегрированной стратегии ИИ-ГОЭЛРО плюс ИИ-Ликбез.

См. также 1 2 3
#ИИгонка #Китай #США #Россия

Прорыв в расшифровке кода разума.
Установлено - разум кодируется телом и эмоциями.
2я половина 20го века ознаменована выдающимся триумфом человеческого разума – расшифровка «кода жизни» (генетического кода).
В 1й половине 21 века ожидается следующий «криптографический» прорыв –расшифровка «кода самого разума», шифрующего в мозге представления о мире – его объектах и событиях.

Способность идентифицировать отдельные объекты и события в общей таксономии представлений о мире (например, «дерево», «собака», «лошадь» или «визит к зубному врачу») является фундаментальным аспектом разума. Эта способность позволяет нам быстро получать доступ к большому количеству информации, относящейся к знакомому нам объекту или событию, и использовать ее для управления своим поведением.

Но как эта информация представлена в мозге, наука до сих пор не знает. Расшифровка этого «кода разума» позволит совершить колоссальный скачок в нейронауке, когнитивных науках и создании ИИ.

Новое исследование неврологов и биомедицинских инженеров Medical College of Wisconsin (1) позволяет науке вплотную подойти к расшифровке «кода разума». Авторы исследования использовали функциональную МРТ для анализа паттернов активности мозга, соответствующих сотням знакомых понятий, и количественно охарактеризовали информационную структуру этих паттернов.

Результаты исследования показывают, что концептуальные знания хранятся в виде паттернов нейронной активности, которые кодируют сенсомоторную и аффективную информацию о каждом понятии, вопреки давней идее о том, что представления понятий не зависят от сенсомоторного опыта.

Переводя это на понятный язык, можно сказать так.
Представления об объектах и событиях, кодируемых в мозге «кодом разума», представляют собой набор из двух типов воспоминаний о прошлом опыте:
1. воспоминания о наших сенсорных ощущениях и двигательных реакций на них (сенсомоторная информация), связанных с формированием в нашем опыте представлений о конкретном событии или объекте;
2. воспоминания о наших эмоциях (аффективной информации), испытанных нами в ходе восприятия конкретных сенсорных ощущений и двигательных реакций (см. п.1).

Это значит, что «кода разума» записан с использованием двух «алфавитов» (типа букв и цифр): алфавит тела (для записи сенсомоторной информации) и алфавит чувств (для записи аффективной информации).

Из чего, как мне видится, можно сделать следующий вывод.
Разум, не обладающий телом и чувствами, невозможен. По крайней мере, - биологический разум, типа разума человека, дельфина, ворона и осьминога.
(подробней см. (2))

1 2
#Разум

NVIDIA бросает вызов Meta и Google
Ставка в этой борьбе – лидерство в Метаверсе и ИИ.
Вы не пожалеете, посмотрев хоть 20 сек нового WEEKEND VIDEO о том, что такое Omniverse от NVIDIA.
Неотличимые от реальности, чарующие и пленяющие взор предметы неповторимой красоты: светящийся изнутри нефритовый тигр, маслянистая желтовато-зеленая мякоть авокадо, зыбучий песок дзен-сада, игра отражений и всплесков воды бассена …
Всей этой красоты нет в физическом мире. Но она есть в Омниверсе – 4х мерной пространственно-временной виртуальной вселенной, творимой художниками, исследователями, дизайнерами и инженерами на открытой расширяемой платформе Omniverse от NVIDIA.

Далее в этом видео калейдоскоп разнообразных образов и явлений Омниверса: от антикварной мебели и бегающих животных, до эпицентра торнадо и галактического ветра.
У всех этих образов и явлений одно общее свойство.
Являясь образами и явлениями VR-среды, они физически точно моделируются в реальном времени.
Физическая точность симуляции означает, что в ней выполняются все важные аспекты физики:
• то, как вещи выглядят в физическом мире — это физика взаимодействия света с материей;
• и то как вещи взаимодействуют друг с другом — это физика твердого тела, физики мягкого тела и гидродинамика.
Такая физическая точность Омниверса в корне отличает его от примитивного наполнения Мультиверса, как его понимают в Meta или Baidu.

Вы, наверное, уже видели убогие обрубки аватаров людей (дабы не было за что хватать и харасить), тусующихся на социальной VR-платформе Horizon от Meta и будто скопированных из видеоигр прошлого нелепых человечков Метавселенной по-китайски Xirang от Baidu.

Цель физической точности симуляции – далеко не только в привлекательности и достоверности 4-х мерной картинки.
Главная цель точности моделирования физического мира – возможность обретения людьми сверхспособностей в объединенном физически-цифровом мире, и в первую очередь способности телепортации.

Об этом открытым текстом сказал третьего дня вице-президент по Omniverse и технологиям моделирования NVIDIA Рев Лебаредиан в развернутом интервью IEEE Spectrum (1):
«Because we believe that if you can simulate the real world closely enough, then you gain superpowers… First, you get teleportation.»
О механизмах обретения в Мультиверсе сверхспособностей и, в частности, телепортации, я подробно рассказывал в январе в своем видео-интервью (2). Тогда некоторым это показалось завиральным. Теперь о том же публично сказал отвечающий за Omniverse ВП NVIDIA. И это реальный вызов концепции позиционирования Метаверса, предлагаемой Цукербергом.

Противостояние подходов Meta и NVIDIA определит будущее Метаверса на десятилетие:
1) точная VR-симуляция для объединения физического и цифрового миров в целях обретения людьми сверспособностей
или
2) условная VR-симуляция упрощенной копии реального мира для перевода в такой Мультиверс социальных медиа, е-торговли и е-развлечений.

1-е много сложней и затратней. И как ни могуча NVIDIA, но победить Meta в этой борьбе может не сдюжить.
Единственное, что может позволить это сделать NVIDIA – их сумасшедший по наглости трюк. NVIDIA бросает вызов еще и Google. Суть вызова в опровержении тезиса «данные – это новая нефть».

• Что если данные из физического мира перестанут быть первостепенным ресурсом для обучения ИИ?
• Что если удастся заменить данные физического мира на данные, полученные в Омниверсе?

Об этом и рассказывает Лебаредиан в интервью (1).
Получается, что:
✔️ к 2030 ¾ данных будут синтетическими - не из физического мира (3)
✔️ этим также удастся побороть предвзятость ИИ из-за предвзятости данных

Так что, если Meta и Google не объединятся, NVIDIA может испортить бизнес обоим.

1 2 3
#Metaverse #ИИ

​​ИИ превращается в ящик Пандоры с неисчислимой стаей Черных лебедей внутри.
Два жутких отчета о рисках «злонамеренного ИИ», снизить которые может лишь институциональная защита.
Обобщить выводы двух новых отчетов авторитетных исследовательских организаций, можно примерно так.

А) Масштабирование (увеличение размера) больших генеративных моделей ИИ (также называемых «базисные модели) - типа CLIP, Ernie 3.0 Titan, FLAN, Gopher, GPT-3, HyperClova, Jurassic-1-Jumbo, Megatron Turing NLG, LaMDA, Pan Gu, Yuan 1.0 и пр.), - неостановимо.
(1) Этот путь уже доказал свою эффективность для решения все более сложных задач.
(2) Он экономически выгодней любых иных путей.
Т.о. используемые в ИИ размеры моделей будут неуклонно расти.

Б) Последствием роста больших генеративных моделей ИИ является непредсказуемость рисков его применения. С увеличением размера моделей ИИ буквально превращается в ящик Пандоры, в котором обитает неисчислимое множество Черных лебедей – серьёзных, «злонамеренных» последствий действий ИИ, которые заранее невозможно предсказать.
Например:
-- ИИ самоуправляемого авто может начать максимизировать безопасность своих пассажиров за счет снижения безопасности пассажиров чужих авто
-- ИИ, управляющий балансировкой нагрузки электросетей, может максимизировать удовлетворение потребностей одного класса потребителей за счет другого.
N.B. Кавычки означают, что никаких намерений у ИИ конечно нет, а «злонамеренность» получается просто по факту.

В) Поскольку предсказать Черных лебедей «злонамеренности» ИИ невозможно, остается лишь строить универсальную систему защиты, способную понизить потенциальный урон.

Г) Цивилизация придумала лишь две универсальные системы защиты от злонамеренных действий интеллектуальных агентов (людей): мораль и закон.
-- Мораль в случае ИИ не подходит, ибо это не живой продукт эволюции, а машина, у которой нет базы для существования морали.
-- А вот система регулирующих ИИ законов, устанавливаемых соответствующими институтами, а другими институтами контролируемая, - может помочь.

Д) В частности, для регулирования самого перспективного из существующих ИИ – систем на основе обучения с подкреплением (Reinforcement Learning), - необходимо срочно создать институт нормативных «отчетов о вознаграждениях». Эти отчеты для ИИ-агентов будут подобны комбинации отчетов, существующих у людей – типа интеграции финансовой декларации человека с его психометрической оценкой и личным делом.

Е) Забить на ящик Пандоры с Черными лебедями для человечества себе дороже.
-- Системы обучения с подкреплением будут действовать на все более длительных временных горизонтах, принимая все более независимые решения, напрямую манипулируя реальностью и меняя ее в соответствии со своими неизвестными людям критериями.
-- ИИ-системы глубокого обучения – это «усилители культуры», которые повторяют и усиливают когнитивные искажения, мемы и идеологию людей, в скрытой форме содержащиеся в наборах данных, на которых ИИ обучался. Но поскольку эффект масштабирования ИИ несоизмеримо сильнее даже самых влиятельных лидеров мнений, интеллектуальная слепота, предвзятость и зашоренность людей будут катастрофически расти.

• 1й отчет Predictability and Surprise in Large Generative Models опубликовала компания Anthropic, являющейся на сегодня лидером в исследованиях потенциала и рисков масштабирования ИИ.

• 2й отчет Choices, Risks, and Reward Reports: Charting Public Policy for Reinforcement Learning Systems выпущен CLTC (Центр долгосрочной кибербезопасности Беркли).

О рисках базисных моделей также см. мой пост
#БазисныеМодели #РискиИИ

​​Интеллектуальная война – это гипервойна, война на истощение, междоменные боевые действия и операции когнитивного контроля.
Резюме отчета Минобороны США о военной мощи Китая.
Вопросы войны сейчас как никогда актуальны. Но кроме России и Украины, в мире есть и другие игроки, от военной мощи которых будущее зависит куда сильнее.
В первую очередь, - это Китай, до завершения «великой модернизации» которого осталось пять этапов.

1. К 2025 осуществить импортозамещение ключевых высокотехнологичных товаров: от сельскохозяйственных технологий до морской и аэрокосмической техники.
2. К 2027 модернизировать армию Китая до уровня, позволяющего успешно вести «интеллектуальную» войну.
3. К 2030 стать мировым лидером в ИИ.
4. К 2035 завершить мировое продвижение китайских стандартов функциональной совместимости новых технологий.
5. К 2049 году достичь своей столетней цели и превратиться в «современную социалистическую страну, которая будет процветающей, сильной, демократической, культурно развитой и гармоничной».

Только что опубликованный отчет Минобороны США о текущем состоянии и перспективах наращивания военной мощи Китая – это обстоятельный (173 стр) разбор п. 2 (как Китай модернизирует армию для ведения интеллектуальных войн).

Выделенные мною ключевые моменты таковы.

✔️ Ракетно-ядерное оружие больше не приоритет (если потребуется Китай уже способен нанести непоправимый урон любой географической точке Земли, но доктрина взаимного уничтожения делает подобные удары неприемлемыми для Китая).

✔️ Взят 100%-ный курс на «интеллектуальную» войну.
Она включает в себя:
-- Гипервойну, при которой во многих случаях отсутствует доступ к оперативным данным на поле боя, а скорость и темп операций превосходит физическую и ментальную реакцию людей.
-- Войну на истощение , которую ведут рои интеллектуальных дронов.
-- Междоменные боевые действия включают в себя ИИ-конфронтацию в космосе, радиоэлектронную борьбу и кибероперации.
-- Операции когнитивного контроля - направленное изменение восприятия, оценок и прогнозов динамики военного противостояния в сознании лиц, принимающих решения на стороне противника.

✔️ Детальный анализ, основные открытые положения которого приведены в отчете, приводит к трём выводам:
-- Ставка Китая на технологическое военное лидерство верная.
-- Шансы достичь технолидерства у Китая есть, и никто в мире (кроме США) не способен этому помешать.
-- Имеет место разрыв между видением Китая будущей «интеллектуальной» войны и реальными возможностями Китая. Это делает заявления, будто лидерство США в оборонных инновациях «почти потеряно», преждевременными.

N.B. Согласно отчету, Россия – единственный стратегический военный партнер Китая. И поэтому в отчете 67 упоминаний России.
#Китай #Война #ИИ #БПЛА

​​Выживут только инфорги.
Как распознать человека новой эпохи.
Мы живем в интересное время. На смену антропоцену, эпохе технологического освоения материи и энергии, приходит новацен – эпоха технологического освоения информации. И жить в новой эпохе, скорее всего, будут не Homo sapiens, а инфорги – люди следующего поколения, проводящие в онлайне больше времени, чем во сне. Причем они уже здесь.
Такой преамбулой главный редактор журнала "Популярная механика" Александр Грек предваряет моё интервью, публикуемое в мартовском номере журнала.
В интервью рассказывается:
• Как новоцен и онлайф привели к появлению инфоргов.
• Как апгрейды когнитивных гаджеты меняют подключение людей к гигантской распределенной когнитивной сети.
• Об ускорении эволюции в эксперименте академика Беляева.
• О детях инфоргов с перепрошитыми когнитивными гаджетами.
• О переходе к «алгокогнитивной культуре», ведущей к двум разломах человечества.
#БудущееHomo #УскорениеЭволюции #Инфорги #АлгокогнитивнаяКультура

​​Китай об уроках 2й подрывной стратегической ошибки северного соседа.
Теперь партнерские отношения Китая и США обрели новую перспективу.
• В сегодняшнем выпуске главной газеты Китая Жэньминь Жибао нет ни слова про российско-украинский конфликт (1).
• В опубликованном сегодня выступлении члена Госсовета Китая Ван И в качестве главного приоритета Китая во внешней политике однозначно названа дружба с США (2).
Что связывает два столь удивительных факта?
Короткое объяснение дано в заголовке речи Ван И - «Воспользуйтесь исторической мудростью и осветите себе путь вперед».
А чтобы в деталях понять, о какой «исторической мудрости» идет речь, и куда направлен «путь вперед», необходимо прочесть эссе «Украинская война и восстановление мирового порядка?» (3), автором которого является известный политический ученый и политический комментатор профессор Чжэн Юннянь (Zheng Yongnian) – директор ведущего национального аналитического центра Advanced Institute of Global and Contemporary China Studies.

Два года назад Чжэн Юннянь рассказал об уроках, извлеченных Китаем из подрывной стратегической ошибки - развала СССР (4).
1. «Китаю необходимо придерживаться двух принципов: открытых инноваций и рыночной ориентации».
2. «Необходимо понять, что современное поле соперничества США и Китая лежит не в сфере территориальных споров, как было раньше, а в сфере высоких технологий».
СССР не понял ни 1го, ни 2го, и это была подрывная стратегическая ошибка. Китай вовремя понял и избежал подобной ошибки.

Теперь же в новом эссе Чжэн Юннянь анализирует уроки 2й за 30 лет подрывной стратегической ошибки северного соседа, открывающей перед Китаем новые геополитические перспективы.
• «Причина, по которой великая держава является или хотя бы считается таковой, заключается не в ее способности бросить вызов старому порядку, тем более в ее способности вести войну, а в ее ответственности за поощрение и поддержание международного мира.»
• Теперь, когда «Путин шокировал Европу, шокировал США и шокировал мир полномасштабной украинской войной…, Китай и США должны отказаться от мифа об игре с нулевой суммой и навязчивой идеи сдерживания друг друга… теперь необходимо рассматривать друг друга, как партнеров по развитию, а не как врагов в силовой игре».
• Поскольку «Путин рассчитывает, что у него будет от 15 до 20 лет для дальнейшего формирования и улучшения «маленького Советского Союза», для американцев утверждение о том, будто Китай является угрозой №1 для Америки, будет надолго подвергнуто сомнению.
Это означает, что пока мы сами не совершим подрывных стратегических ошибок, -
(1) процесс модернизации Китая не будет прерван со стороны США.
(2) Китай сможет играть более важную роль в построении нового мирового порядка».

Вот о какой «исторической мудрости» идет речь. Вот куда направлен «путь Китая вперед». И вот какова, по мнению проф. Чжэн Юнняня цена 2й подрывной стратегической ошибки северного соседа – «кровь, огонь, насилие и война».

1 2 3 4
#Китай #США #Россия

​​1 марта 2022 - начало войны андроритмов с алгоритмами.
В Китае началось регулирование сетевых алгоритмов, устанавливающих цены, контролирующих поиск, рекомендующих и фильтрующих любой контент.
История человечества закончилась, трансформировавшись в 21 веке в «гиперисторию». Это качественно иной способ жизни и развития человечества, в котором теперь два типа акторов: люди (точнее, «андроритмы») и алгоритмы. Теперь культурная составляющая генно-культурной эволюции вида Homo sapiens зависит от обоих типов акторов, ведущих деятельность в условиях нового типа культуры – «алгокогнитивная» (синтетическая) культура андроритмов и алгоритмов.

Про алгоритмы особенно объяснять ничего не нужно. Всем уже более-менее понятно, что по мере превращения людей в «инфоргов» (проводящих в сети больше времени, чем во сне), их представления о мире, пожелания, предпочтения, восприятие плохого и хорошего (а в пределе - добра и зла), а также их решения, - все больше зависят от сетевых алгоритмов, выступающих в качестве некоего «мозга» планетарной инфосети Интернет.

Однако, помимо доступной для управления алгоритмами «вычислительной» составляющей людей, они обладают и чисто человеческой «невычислительной» составляющей – андроритмами.

Этот уже ставший мемом неологизм Герд Леонхард использовал в своей книге «Технологии против человечества» для обозначения чисто человеческих свойств и качеств людей:
сочувствие, сострадание, творчество, любовь, интуиция, нерациональность, тяга к тайне, способность совершать ошибки и бесконечно придумывать инновации. И конечно же, - неизбывное стремление задавать вопросы («компьютеры глупы — они дают только ответы» (Пикассо); компьютеры — для ответов, люди — для вопросов (Кевин Келли)).

Оставить людям лишь «человеческое», положившись в остальном на оптимизационные сверхспособности алгоритмов крайне опасно. А ведь именно это и происходит, когда ответственные решения за людей принимают алгоритмы. Да и не самые ответственные решения (типа, что читать, смотреть, купить …) все равно ведут к ответственным (за какого политика голосовать, поддержать войну или нет …).

Если не начать регулировать деятельность алгоритмов, они со временем подомнут под себя андроритмов во всем (как это уже нередко происходит, например, при использовании популярных приложений для знакомств).

Китай первым в мире ввел c 1 марта регулирование сетевых алгоритмов:
• перевод положения о регулировании,
• предварительный экспертный анализ,
• популярный анализ

Как это будет работать на практике, одному богу известно. Если буквально следовать новому регулированию, сетевым алгоритмам персонализации и рекомендаций хана. Равно как и персонализации цен (как сейчас при заказе такси). Компаниям запрещено использовать личную информацию, чтобы предлагать пользователям разные цены на продукты и услуги.

За неисполнение регулирования, государство обещает душить большими штрафами и проблемами с IPO. Также нарушителям может быть запрещено регистрировать новых пользователей, их бизнес-лицензии будут изъяты, а их веб-сайты или приложения закрыты.

Главная проблема этого регулирования в том, что:
• нарушать его бизнесу будет себе дороже;
• а выполнять его непонятно как, ибо непонятно, как контролировать поведение алгоритма, который постоянно меняется из-за новых входных данных.

Спорить о мотивации властей Китая, объявивших войну сетевым алгоритмам, нет смысла.
✔️ Официально объявляется, что цель – социальная, финансовая и психологическая защита граждан от манипулирования, монополий, дискриминации и фейков.
✔️ В реальности, главным мотивом может быть нежелание терять 100%ный контроль над обществом и делиться властью: ни с бизнесом, ни с алгоритмами.
#Китай #Интернет #АлгокогнитивнаяКультура

Выполняя указание Си, в Китае объявлена мобилизация алгоритмов.
В Метаверсе и реальном мире обязаны быть те же политические ценности, идеалы и стандарты.
Если б мог, Си запретил бы Метаверс. Но это не под силу даже ему. Понимая это, Китай решил пойти другим путем – взять под партийный контроль бесконечное множество новых цифровых миров Метаверса, подобно тому, как в Китае уже взят под контроль 1й из созданных человечеством глобальных цифровых миров – современный Интернет.

В Интернете Китаем уже создана самая крупная и функционально изощренная в мире система мониторинга и цензуры контента и поведения людей.
• Система «Великая Китайская стена» фильтрует содержимое всего интернета
• Система «Великая пушка» может блокировать трафик при входе или выходе из Китая
• Свод правил, известный как «семь базовых показателей», ограничивает характер контента, доступного в сети.
• Действуют жесткие ограничения на распространение слухов в Интернете (до 3х лет тюрьмы)
• Специальная система контроля «ванхунов» (инфлюенсеров среди интернет-блогеров и медийных персон, имеющих большую популярность в китайских социальных сетях).
• С 1 марта 2022 взяты под тотальный контроль сетевые алгоритмы, работающие на бизнес (устанавливающие цены, контролирующие поиск, рекомендующие и фильтрующие контент).

Все это, по замыслам КПК, будет работать и во всех новых виртуальных цифровых мирах Метаверса, которые в ближайшее десятилетие будут возникать и расти как грибы.

Но как в Метаверсе влиять на общественное мнение, формирующее политические ценности общества, его идеалы и стандарты?
Ведь число миров Метаверса будет огромным. И потому ни одна система мониторинга и контроля, в которой хоть минимально задействованы люди, не справится с этой задачей неограниченного масштаба.

Решение Китая очевидно и неотразимо:
провести мобилизацию алгоритмов, создав из них армию контролеров, филеров, цензоров, ревизоров, следователей и полицейских, следящих за самими собой. За тем, насколько правильное общественное мнение они формируют своей работой.

Ну и как любая мобилизация, процесс начали со сверки «личных карточек» всех сетевых алгоритмов, влияющих на формирование общественного мнения или возможности социальной мобилизации.
Администрация киберпространства Китая (CAC) заявила в уведомлении, опубликованном в понедельник, что новые правила требуют, чтобы поставщики услуг регистрировали свои алгоритмы в течение 10 рабочих дней после начала их работы. При регистрации алгоритмов указываются: область применения, тип алгоритма, отчет о самооценке алгоритма, содержание его работы и др.

Такой дивный новый мир не смогли предвидеть даже самые гениальные визионеры от Хаксли до Стругацких.
#Китай #Интернет #Metaverse

Тайный язык людей непостижим для ИИ.
Большой брат и цензура в Метаверсе преодолимы.
В 1й в истории битве андроритмов и алгоритмов победа будет за нами.
Китай (и не только он) стремиться взять под контроль властей политические ценности, идеалы и стандарты цифровой социо-коммуникационной инфосреды. Уже сегодня эта среда (Интернет) настолько огромна, что для контроля за ней в Китае работает целая армия спецов. Ну а чтоб держать под контролем бесчисленное множество цифровых миров Метаверса, никакой армии уже не хватит. Это могут сделать лишь специально настроенные и обученные алгоритмы.
Китай первым понял это и начал мобилизацию сетевых алгоритмов. Его примеру последуют и другие страны, узаконивающие уголовку за сетевой контент определенного смысла и тупо табуирующие отдельные фамилии и слова.

Казалось бы, ничто не сможет противостоять колоссальной вычислительной мощи госмашины алгоритмов контроля и цензуры цифровой социо-коммуникационной инфосреды.
И тем не менее, это не так. В 1й в истории цивилизации битве андроритмов и алгоритмов с неотвратимостью победят люди. Ибо мы обладаем тайным языком, не доступным для алгоритмов.

Известно, что люди – уникальный вид из-за наличия у нас развитого абстрактного языка. Он обладает безграничной смысловой мощью, ибо он «открыто-бесконечен» (т.е. обладает свойством ничем не ограниченной открытости для любых изменений, исправлений и дополнений (в английском это open-endedness).
На практике это позволяет:
1) бесконечно расширять язык новыми словами, символами и знаками;
2) бесконечно адаптировать смысл элементов языка и их сочетаний;
3) когда 1-2 недостаточно, строить на основе языка новые метаязыки более высокого уровня абстрагирования.

Алгоритмы же так не умеют. И если по отношению к т.н. «явным коммуникационным сигналам» у алгоритмов сохраняются шансы научиться их распознавать, то в отношении т.н. «скрытых коммуникационных сигналов» (понимаемых лишь «своими» - разделяющими контекст коммуникации) у алгоритмов нет ни шанса.

Как показало новое исследование «Стратегическая передача сигналов идентификации в гетерогенных сетях», поставившее целью экспериментально проверить «Теорию скрытой передачи сигналов» Пола Смальдино:
1) Как только риски и иные связанные с проявлением своей социально-политической идентичности издержки становятся высоки, люди переходят к «скрытым сигналам», которые кодируют информацию таким образом, что ее могут понять лишь те, кто разделяет их взгляды. Т.е. эти сигналы точно воспринимаются целевой аудиторией («своими» - «мы»), но весьма затруднительны для понимания «чужими» - «они».
2) Скрытые сигналы позволяют людям получать выгоду от того, что их идентифицируют «свои», одновременно избегая затрат, связанных с обнаружением себя «чужими». Это происходит за счет того, что общение с использованием скрытых сигналов содержит несколько одновременных смысловых слоев, которые не одинаково очевидны для всех типов получателей. Фоновые знания получателя и восприятие контекста влияют на то, будут ли раскрыты эти слои и каким образом.
3) Если значение некоторых слов или фраз, как маркеров веры, известно только «своим», их использование на публике позволяет говорящему передать сообщение «своим» слушателям («я разделяю ваши ценности»), не засвечиваясь перед остальными (среди которых немало «чужих»).

Т.к. для алгоритмов ИИ тайный язык скрытых сигналов непостижим, исследователи набирали оценщиков для классификации явных и скрытых сигналов среди сообщений Twitter среди людей на платформе Mechanical Turk. Отобрали 2 тыс. оценщиков: примерно по 500 крайне левых, умеренно левых, крайне правых и умеренно правых (определялось их ответами на вопросы анкеты).

Для выявления скрытых и явных твитов оценщики использовали методику Смальдино (чем экстремальней позиция, тем выше доля скрытых сигналов и аффектация).

Как и язык, скрытые сигналы open-endedness. Цензуре и Большому брату с этим не совладать.
https://www.pnas.org/doi/10.1073/pnas.2117898119
#Цензура #БольшойБрат #Metaverse

Что будет дальше.
Новый прогноз человека, точнее всех предсказавшего случившееся.
1) ПРОВАЛ ЭКСПЕРТОВ
Происходящее сейчас совсем недавно представлялось крайне маловероятным с рациональных позиций. И потому практически никто из публичных экспертов не прогнозировал подобное. При этом, прогнозы разведки США упорно не воспринимались экспертами всерьез, а то и просто высмеивались.
Не буду сыпать соль на раны позорно лоханувшихся в своих прогнозах экспертов всех мастей. Многие из них уже повинились за это, аргументируя свой промах неверием в публичные прогнозы разведки США, уже не раз оказавшихся полным фуфлом.
Эдвард Сноуден так, например, написал 15-го февраля в своей ленте Twitter:
«Источник моего скептицизма в том, что разведка США (уже который раз) делает воистину впечатляющие заявления, не представляя никаких доказательств – и все потому, что вы от них этого не потребовали».
Скепсис Сноудена, как и других критиков точности прогнозов разведки, можно понять. Общеизвестно, насколько бездарно неточны эти прогнозы. Исследование Филипа Тетлока о точности прогнозировании — Good Judgement Project (2011–2014), оплаченное Агентством передовых исследований в сфере разведки IARPA, показало ужасные результаты.
Качество прогнозов профессиональных экспертов разведки примерно соответствует вероятности попадания шимпанзе в яблочко при игре в дартс, и уж никак не точнее прогнозирования путем подбрасывания монеты.
Такие прискорбные результаты, объясняющие бесчисленные провалы прогнозов (развал СССР, крах операции в заливе Свиней и т.д.) заставили разведку США искать альтернативные пути повышения качества своих прогнозов. Подробно об этом читайте в серии моих постов «ЦРУ создает кентавров для предсказания будущего».

А если совсем кратко, то дело было так.
Сначала попытались задействовать «мудрость толпы» с помощью краудсорсинга и рынков предсказаний.
Получили весьма скромные результаты:
• «безумие толпы» доминировало над её «мудростью»,
• а инфошум, порождаемый активными крикунами, забивал ценные мысли толковых участников.
Тогда исследователям пришла в голову новая идея – искать среди игроков на рынках предсказаний аномально успешных.

2) СУПЕРПРОГНОЗИСТЫ
Так назвали 2% аномально успешных в проекте Тэтлока. Прогнозы этих «обычных» людей, имевших доступ лишь к открытым источникам информации, оказались существенно точнее прогнозов других участников, включая профессиональных аналитиков разведки, имевших доступ к материалам с грифом «секретно».
Выявленные суперпрогнозисты оказались штучными людьми с довольно высоким (но не выдающимся) интеллектом, способные удивительно эффективно:
а. структурировать предметную область прогноза;
б. выявлять и группировать источники информации;
с. потреблять информацию тоннами – буквально «пить из брандспойта цифровых медиа».
N.B.
I. Разведку интересовали не все прогнозы, а лишь суперкачественные
– прогнозы верных результатов, базирующиеся на верных основаниях.
II. Одним из самых востребованных направлений форкастинга стал варкастинг, второй год осваиваемый дюжиной рынков предсказаний (Good Judgement, Metaculus, Hypermind …), на которых уже выявились свои суперпрогнозисты: Robert de Neufville, Balkan Devlen и один абсолютный чемпион, чьи прогнозы с декабря 2021 точнее всех.

3) ЕГО ЗОВУТ CLAY GRAUBARD
Этот молодой выпускник Оксфорда, специализирующийся на прогнозировании международных отношений и рынках предсказаний, недавно основал проект Global Guessing - прогнозы геополитических событий с углубленным анализом и ретроспективой. Логика прогнозов основана на анализе 3х списков мониторинга «важнейших сигналов», которые Clay ретвитит в своей ленте.
Насколько глубок анализ, можно судить по опубликованному 7-го марта Newsletter с вероятностями 4х сценариев до конца года. Каждый сценарий зависит от ответов на 4 ключевые вопроса: 2 ответа – это прогнозы и 2 - предсказания.

Всё предыдущее сбылось. Посмотрим, что теперь.

#РынкиПредсказаний #Прогнозирование

​​За 10 секунд до перезвона о конце света.
Часы Судного дня можно остановить, пока не начался бой.
«А затем, когда бьет на часах бездействия час и час отстраненья от дел повседневных, тогда приходит к нам раздвоенье, и мы ни о чем не мечтаем»
Гийом Аполлинер
В конце января Часы Судного дня (символически показывают время до ядерного апокалипсиса) впервые в истории были выставлены всего на 100 секунд до полуночи - 23:58:20.
А через месяц события понеслись столь стремительно, что мир даже не успел ужаснуться близости гибели. И теперь, в середине марта, о январских 100 сек можно лишь мечтать. Минутная стрелка Часов Судного дня резко скакнула и сейчас, полагаю, уже где-то в районе полуминуты до полуночи. А это значит, что 11 нобелевских лауреатов в составе совета директоров, принимающих решение об очередном переводе стрелки, могут уже не успеть собраться за оставшиеся несколько секунд.

Дело в том, что Часы Судного дня, скорее всего, устроены подобно курантам Кремля. Последние отмечают начало нового года вовсе не 12-м ударом (как уверены многие), а началом перезвона. И после того, как 20 секунд перезвона заканчиваются, с неотвратимостью начинает бить колокол, чьи удары звучат уже в первую минуту нового года.
Так и Часы Судного дня, готовые вот-вот начать перезвон (от этого нас отделяет всего лишь секунд 10). Когда после перезвона начнет бить колокол, это будет звон по концу человечества: по его науке и культуре, по искусству и технологиям, по мечтам о сильном ИИ и телепортации в Метаверсе.

Впрочем, последний, даже не успев состояться, все же предоставил нам возможность переживания виртуального имерсивного опыта при погружении в мир ядерного апокалипсиса: увидеть и почувствовать теплую кровь на своих руках и тотальное озверение людей, впадающих от всеобщей ненависти в ядерное безумие.

Об этом виртуальный имерсивный фильм Samsara - призер VR программы Венецианской Биеннале Venice VR Expanded — Satellite Programme 2021 от режиссера Хуан Синь-цзянь (Тайвань).

В фильме человечеству относительно повезло в том, что ядерный апокалипсис случился уже после освоения средне-дальнего космоса. И когда Земля оказывается полностью разрушена и отравлена, остатки людей покидают планету, чтобы найти новый дом в космосе. После сотен лет космических скитаний люди смогли модернизировать ДНК и искусственно эволюционировали в новую форму жизни. Прыгнув через космическую сингулярность, новые люди нашли планету, на которой можно обосноваться. Но внезапно люди понимают, что это не новый мир, а все та же Земля, только в другое время. Люди понимают, что время — это иллюзия. Наше прошлое, настоящее и будущее слиты воедино …

Пережить все это в виртуальном мире позволяет формат фильма 6DOF (6 степеней свободы) – это количество направлений, в которых объект может перемещаться/вращаться в трехмерном пространстве. Гарнитуры для VR в формате 3DOF могут отслеживать ориентацию головы, зная куда вы смотрите. Получается, как на рисунке: три оси вращения: качание головой, поворот/наклон влево и вправо и наклон вперед/назад.
Гарнитуры с шестью степенями свободами 6DOF вдобавок позиционно отслеживают ориентацию, и положение, получая информацию куда вы смотрите, а также где вы находитесь в пространстве.
Так что впечатление от виртуального конца света при просмотре фильма с гарнитурой улетное: мороз пробегает по коже, остужая теплую кровь на ваших руках…

Ну а без гарнитуры есть немалые шансы быстротечно ощутить конец мира в реале.
Ибо перезвон Часов Судного дня запускается применением тактического ядерного оружия.
И лишь в течение 20 сек этого «перезвона», часы еще можно остановить. Но не секундой позже.

Начав бить, колокол 3й мировой неостановимо пробьет конец цивилизации на Земле, доказав, что ядерное сдерживание – всего лишь миф рационального мышления.

Вариант фильма в пассивном, плоском формате видео

#ЭкзистенциальныеРиски

Через пару часов выйдет один из важнейших отчетов по ИИ.
Он почти как Библия для верующих.
Сегодня для всех ИИ-любов, равно как и для всех ИИ-ведов, особый день. Выходит новый (5-й) годовой отчет Стенфордского центра Institute for Human-Centered AI (HAI), - «2022 AI Index»
https://hai.stanford.edu/research/ai-index-2022
229 стр. хорошо структурированного текста с обилием инфографики, призваны дать количественные ответы на два ключевых вопроса:
1) Каково текущее состояние главных трендов развития ИИ в 2021.
2) Каково текущее состояние мировой «ИИ-гонки» среди 29 стран по 23 ключевым индикаторам.

8 важнейших выводов отчета
1) В 2021 частные инвестиции в ИИ резко выросли (более $93 млрд, что в 2 раза больше, чем в 2020), а концентрация инвестиций усилилась (в 2020 было 4 раунда финансирования на сумму $500+ млн, а в 2021 их было 15).

2) США и Китай доминируют в межстрановом сотрудничестве в области ИИ (Китай опубликовал наибольшее количество межстрановых совместных публикаций по ИИ, увеличив показатель в 5 раз с 2010.)

3) Языковые модели все более функциональны, но и все более предвзяты (модель с 280 млрд параметров, разработанная в 2021, показывает увеличение «токсичности» предубеждений на 29% по сравнению с моделью с 117 млн параметров – самой продвинутой моделью в 2018).

4) Этика ИИ теперь среди самых горячих тем (число публикаций увеличилось в 5 раз)

5) ИИ становится более доступным и более эффективным (с 2018 стоимость обучения классификации изображений снизилась на 63,6%, а время обучения сократилось на 94,4%)

6) Наилучшие результаты в технических тестах все больше зависят от использования дополнительных обучающих данных (на них в 2021 обучались 9 из 10 современных ИИ систем)

7) Государства пытаются взять ИИ под контроль (количество законопроектов про ИИ, принятых в качестве закона, выросло с 1 в 2016 до 18 в 2021)

8) Роботизированные руки манипуляторов дешевеют (средняя цена робота-манипулятора за последние 6 лет снизилась в 4 раза — с $50 000 в 2016 до $12 845 в 2021. Роботизация становится все более доступной и продуктивной.

Что касается текущего состояния мировой «ИИ-гонки» среди 29 стран по 23 ключевым индикаторам, то как обычно, можно будет посмотреть эту гонку в динамике :
• В 2015 Россия была на предпоследнем 25-м месте (обогнав ЮАР)
• В 2016 Россия опустилась на последнее 26-е место и оставалась там в течение 5-и лет
• В новом индексе стран уже 29. А на каком месте Россия, вы сможете увидеть в ближайшие часы, как только Андре Барбе допилит последние данные.
https://aiindex.stanford.edu/vibrancy/

В свете последних событий, могу лишь так прокомментировать эти результаты:
«Мы с вами чужие на этом празднике жизни …»
https://www.youtube.com/watch?v=8-YtQZR2wUE
… и надолго.
#ИИ #ИИгонка

Был ужас, а станет ужас-ужас.
ИИ США, Китая и России до и после железного занавеса.
США и Китай – заклятые конкуренты в борьбе за статус ИИ-супердержавы №1. И в то же время, как это ни парадоксально, ключевым фактором мирового прогресса в области ИИ является кооперация этих двух стран.
Как следует из опубликованного вчера отчета HAI «2022 AI Index», уровень кооперации США и Китая в области ИИ-исследований не только недостижим для других стран, но и просто не представим для них.
Количество совместных научных публикаций в 2021, как показатель уровня кооперации пар стран в области ИИ:
• США и Китай - 9,6К
• Китай и Великобритания - 3,6К
• США и Великобритания - 3,3К
• Китай и Австралия - 2,6К
• США и Германия - 3,3К
Такой отрыв в кооперации США и Китая объясняется тем, что эти страны как бы связаны одной цепью в силу трех причин.
 Обе страны вложили огромные ресурсы в искусственный интеллект и проводят огромное количество исследований.
 Многие китайские исследователи прошли обучение в США и сохранили тесные профессиональные связи с американскими коллегами.
 Максимум отдачи от любой технологии зависит не только от страны - пионера (изобретшей технологию), но и страны - внедренца (лучше всего применяющей технологию в широком спектре отраслей). Например, в сталелитейных технологиях пионером была Британия, а внедренцем США. В ИИ, понятное дело, США – пионер, а Китай – внедренец.

А что же Россия?
Увы, по данным соредактора «2022 AI Index» Рэя Перро, число совместных международных научных публикаций (проектов) в области ИИ в 2021 было таково.
• В США 1200 институтов опубликовали результаты примерно 3000 трансграничных совместных проектов ИИ.
• В Китае 500 институтов опубликовали результаты 2000 трансграничных проектов.
• В России только 60 институтов опубликовали результаты максимум 600 проектов по ИИ.

И это до железного занавеса, который отсечет 2/3 некитайских проектов российских институтов.
Т.е. в 2022, предположительно, будет примерно 20 институтов и менее 200 проектов. Это хуже, чем, например, у Венгрии или Мексики, но чуть лучше, чем у Египта и Нигерии.

#ИИ #Китай #США #Россия

В Китае скоро не будет слухов. И это не слух, а решение КПК.
Создается уникальный механизм борьбы со слухами: ИИ + журналисты + армия стукачей
Информбюро госсовета Китая, Администрация киберпространства Китая и Бюро комплексного госуправления сетью Интернет провели совместную пресс-конференцию, на которой рассказали о серии специальных операций «Цинлан», направленной на уничтожение в стране слухов.
Резюме.
1. Генсек Си считает киберпространство «общим духовным домом для сотен миллионов китайцев». И задача партии – «сделать этот дом чистым от слухов». В первую очередь необходимо сосредоточить внимание на слухах, связанных с политикой, экономикой, культурой, историей и научно-популярными темами.
2. Для этого в Китае будет создан механизм
-- отслеживания источников слухов;
-- подавления инфокаскадов распространения слухов;
-- жесткого и неотвратимого наказания источников слухов (с привлечением их к ответственности с последующим включением в «черные списки», запрещающие дальнейшую работу в сети);
3. В основе создаваемого механизма будет человеко-машинная коллаборация по контролю онлайн слухов:
-- ИИ системы + армия журналистов + армия стукачей (мобилизация большинства пользователей сети для активного доносительства и разоблачения слухов).

В свое время, по решению партии в Китае уничтожили воробьев (потом, спасаясь от насекомых, пришлось завозить воробьев из СССР). Теперь же для борьбы со слухами будут использовать аналогичный подход всеобщей мобилизации, но с применением ИИ.

Интересно, смогут ли другие страны, имеющие продвинутый опыт использования армии стукачей, последовать путем Китая? (может, даже ИИ применять не потребуется, учитывая продвинутость опыта)?

https://www.163.com/dy/article/H2MCMGT4051481US.html

#Китай #ГосконтрольИнтернета

话语权– магическое заклинание Китая для власти над миром.
В 21 веке 3й закон Артура Кларка столь же важен для понимания траектории развития человечества, как законы Ньютона для понимания траектории бильярдных шаров:
«Любая достаточно развитая технология неотличима от магии».

А что такое магия?
Это действия, связанные с верой в способность человека контролировать мир (т.е. влиять на силы природы, предметы, судьбы людей …), подчиняя себе сверхъестественные силы или манипулируя ими с помощью заклинаний.

В 21м цифровом веке знания открыли людям особый - технологический путь подчинения сверхъестественных сил. Воплотился афоризм Бэкона знание – сила с уточнением Мишеля Фуко сила – это власть (ибо знание теперь дает власть над людьми).
Фуко назвал эту новую парадигму знаний эпистема контроля. Она стала движущей силой цивилизации, основываясь на возможности властей получения тотального доступа к информации.
Принцип манипулируя информацией, можно манипулировать людьми успешно осваивается властями многих стран для контроля и манипулирования своими гражданами. Но абсолютный лидер здесь Китай, где эпистема контроля используется еще шире - она положена в основу «большой стратегии» превращения Китая к 2050 в сверхдержаву №1.

В Китае эта «магическая» эпистема контроля определяется термином 话语权 (Huàyǔ Quán, хуаюцюань). Чаще всего, это переводится, как «сила дискурса» и «право говорить», и используется в контексте целенаправленных действий китайского правительства и средств массовой информации «хорошо рассказывать историю Китая» (讲好中国故事), т.е. по сути, для пропаганды и цензуры.

• Термин «сила дискурса» стал активно использоваться в трудах Лу Вэя - крупного деятеля онлайн-пропаганды и цензуры, бывшим главой Управления киберпространства Китая в годы его становления.
• Начиная с 2013 года, этот термин стал постоянно использовать Си Цзиньпин. В 2016 он напрямую связал «силу дискурса» с кибербезопасностью: «В настоящее время игра в кибербезопасность крупных стран — это не только техническая игра, но также игра идей и игра силы дискурса».
• С 2016 в официальных документах Управления киберпространства Китая «технологические инновации трактуются, как способ улучшить влияние силы дискурса».
• В 2021 The People's Daily, резюмируя пропагандистскую и идеологическую работу Си Цзиньпина, характеризует силу дискурса, как форму «мягкой силы» (软实力).

В последние годы эпистема контроля по-китайски была распространена на глобальную сеть:
- «Интернет – это ключевое пространство для формирования глобального общественного мнения, в котором нации соревнуются за силу дискурса»
- «Тот, кто доминирует в Интернете, может доминировать в мировой силе дискурса»
- «В контексте силы дискурса, границы между международным и внутренним, а также между онлайном, офлайном и виртуальной реальностью становятся все более размытыми»

Подробный анализ семантики, контекста и практики применения понятия «сила дискурса» в «большой стратегии» Китая см. в новой публикации стэнфордской DigiChina
https://digichina.stanford.edu/work/lexicon-discourse-power-or-the-right-to-speak-huayu-quan/

Мне же в заключение остается лишь отметить, что магия эпистемы технологического контроля и манипулирования информацией позволяет сверхъестественно эффективно манипулировать людьми. Манипулировать их сознанием и судьбами так, как это было немыслимо до Интернета.
Вслед за Мишелем Фуко это поняли Лу Вэй и Си Цзиньпин, превратившие силу дискурса в магическое заклинание на пути Китая к власти над миром в 21 веке.

Но и для государств, не способных претендовать на мировое господство, магия силы дискурса крайне полезна. Она позволяет как никогда раньше «хорошо рассказать свою историю»:
• запрещая доступ к информации и возможность «говорить, что хотят и когда хотят»
• вводя «новые табуированные слова» (которые нельзя говорить и писать)
• устанавливая, «какую речь и по каким причинам можно считать истинной, а какая заведомо будет ложной»

#Китай #ГосконтрольИнтернета

​​Если не можешь выиграть честно – подтасуй колоду.
Как Китай планирует стать Суперкибердержавой №1.
Китай не был бы Китаем, если б стремился лишь к обладанию конкурентными преимуществами в строящемся на Земле цифровом мире.
Истинная цель Китая – стать гегемоном цифрового мира, его законодателем, и тем самым обрести желанный статус Суперкибердержава №1.

Достичь этой цели путем технологического лидерства Китай не может, т.к. США – более сильный игрок.
США определенно сильнее:
• в верхнем квартиле самых продвинутых научных и инженерных талантов (для которых США остаются наиболее желанным местом работы и жизни);
• в изобретении наиболее передовых и прорывных инноваций (что определяется не только лучшим пулом талантов, но и самой конкурентной в мире бизнес-средой).

Поэтому Китай решил: мы пойдем другим путем – «подтасуем колоду».
Китай станет законодателем цифрового мира, диктуя ему свои технологические стандарты и правила.
Если суметь заставить мир (правдами и неправдами: спонсорством и лоббированием, активным участием в международных комитетах, работой агентов влияния и прямым подкупом) принимать техностандарты, продвигаемые Китаем, то технологическое лидерство США можно будет нейтрализовать чисто бюрократическим путем.

О том,
• каков этот план в деталях,
• каков текущий статус и перспективы,
• что и как может (если может) помешать претворению этого плана, -
читайте в отчете Asia Society Policy Institute «Stacking the Deck: China’s Influence in Digital Rules Setting»
А также в только что вышедшем обновлении отчета экспертами ChinaFile

На приложенной диаграмме показано абсолютное лидерство Китая в предложениях стандартов 4G и 5G. Со связью 6G (важнейшей для реализации Метаверса) ситуация еще хуже (см. здесь).
#Китай #США #Сверхдержавы

Kанадо-британское исследование «A New Era: Intelligent Tutoring Systems Will Transform Online Learning for Millions» может ознаменовать поворот к новой эре в обучении  —  персонализированное активное обучение под руководством ИИ-тьютора.

Значимость этой кардинально трансформирующей культуру инновации для дальнейшего развития цивилизации сейчас оценить сложно. Но может статься, эта значимость будет соизмерима с появлением у людей письменности.

Этому посвящен мой новый лонгрид на 10 мин чтения:
- на Medium https://bit.ly/3LoNGnV
- на Яндекс Дзен https://clck.ru/eYNG5

В нем я прихожу к следующим трем выводам.
1. Создание и совершенствование технологий «трезориума для инфоргов» на основе ИИ-тьюторов персонализированного активного обучения видится мне наиболее перспективной областью из всех существующих областей разработки ИИ-технологий в мире.
2. Полагаю, что разработка технологий в этой области могла бы стать наиболее конкурентным направлением для российских ученых, инженеров, педагогов, психологов и специалистов по ИИ (в силу широкого спектра объективных факторов: научно-технологических, экономико-политических и социо-культурных, обсуждать которые здесь нет места).
3. Создание лучшей в мире системы образования на базе «трезориумов для инфоргов» с ИИ-тьюторами могло бы стать той самой объединяющей целью для «прекрасной России будущего», способной сплотить воедино федерацию ее региональных субъектов. Об этом уже не раз говорил и писал Борис Акунин. Но теперь, в свете новых ИИ-технологий, эта идея перестает быть «образовательной утопией» и обретает вполне реальные (как минимум, с технологической точки зрения) перспективы.
#Образование #ИИ #AGI #AIA #ИнтеллектКентавра

​​Мы не представляли сколь велик айсберг когнитивных искажений.
Наши представления о мире становятся все более кривыми.
Таков весьма неутешительный вывод о состоянии представлений человечества о мире и самих себе, впервые вербализован на уровне профильного госагенства технологической сверхдержавы - Национальным институтом стандартов и технологий США (NIST).
Авторы нового отчета NIST, озаглавленного «Towards a Standard for Identifying and Managing Bias in Artificial Intelligence», поставили перед собой такую задачу.
1. Среда взаимодействий отдельных людей и сообществ становится все более виртуальной (в моей терминологии это называется переходом человечества к иному типу культура – алгокогнитивная культура).
2. Цифровые следы людей в новой инфокоммуникационной среде глобальной сети превращаются в самый востребованный и дорогой товар.
3. За формирование этого товара отвечают алгоритмы, которые пытаются количественно оценивать поведение и высказывания людей. Эти оценки используются алгоритмами для классификации, сортировки, рекомендаций и принятия решений о жизни людей.
4. Но к сожалению, в основе алгоритмических оценок лежат неоднозначные по своей природе представления об устройстве мира и поведении людей, подчерпнутые алгоритмами из океана собираемых ими данных о людях – их настоящем и прошлом опыте.
5. Все обобщаемые алгоритмами данные об опыте людей насквозь пропитаны искажающими реальность ошибками, являющимися результатами когнитивных искажений людей.
6. Это ошибки переносятся (с мультиплицирующим эффектом) алгоритмами во все технологические процессы, автоматизирующие деятельность людей и принятие ими решений с применением ИИ-систем, что может вести к весьма вредным последствиям независимо от намерений их создателей.
7. Для снижения рисков вредных последствий вышеописанных процессов необходимо, в первую очередь, идентифицировать и классифицировать все типы когнитивных искажений, приводящих к ошибкам в данных об опыте людей.

В результате 1й систематической попытки такой классификации авторы пришли к следующим выводам (в моей интерпретация, - подробней и точнее см. отчет).
A. «Айсберг» когнитивных искажений оказался куда больше чем предполагалось.
B. Помимо статистически-вычислительных искажений, вносимых алгоритмами, и когнитивных искажений людей, чей опыт воплощен в исходные данные для алгоритмов, существует огромная нижняя часть «айсберга» - системообразующие когнитивные искажения институтов общества.
C. Эта лежащая в основе «айсберга» колоссальная по размерам область является результатом исторически сложившихся процедур и практик, кодирующих социокультурные предубеждения в миропонимании конкретных институтов общества. В результате этих когнитивных искажений, определенные социальные группы получают преимущества или привилегии, а другие оказываются в неблагоприятном положении или обесцениваются. И это не обязательно является результатом какого-либо сознательного предубеждения или дискриминации, а скорее следствием того, что большинство следует существующим правилам или нормам.

▶️ ️ Специалисты по ИИ умеют минимизировать статистически-вычислительные искажения.
▶️ ️ Психологи и специалисты по когнитивному мышлению учатся учитывать когнитивные искажения и шум при принятии решений отдельными людьми.
▶️ ️ Но для системообразующих когнитивных искажений институтов общества, к сожалению, пока не существует признанных систем их идентификации и классификации. И более того, - в разных обществах они по-разному идентифицируются.

Это значит, что:
✔️ нет пока способов предотвращения мультиплицирования махины когнитивных искажений институтов алгоритмами ИИ;
✔️ наши представления о мире, формируемые в рамках новой алгокогнитивной культуры, будут становиться все более кривыми (рост интеллектуальной слепоты и падение рациональности).

См. также мои посты по тэгам:
#Рациональность #КогнитивныеИскажения #ИнтеллектуальнаяСлепота #Вызовы21века