Малоизвестное интересное
63.9K subscribers
90 photos
1 video
11 files
1.8K links
Авторский канал Сергея Карелова о самом важном на фронтирах науки и технологий, что кардинально изменит людей и общество в ближайшие 10 лет.




Рекламы, ВП и т.п. в канале нет.
Пишите на @karelovs
加入频道
Инфорги для людей, как люди для неандертальцев.
Не киборги и сильный ИИ вытеснят нас с планеты.

Цель поста обозначить 2 важных момента.
1. На примере показать, что инфоргов среди нас уже много.
2. Обосновать, почему инфорги вытеснят «обычных» людей, ровно так же, как наши предки ранее вытеснили с планеты неандертальцев.

Начнем со 2го тезиса (подробней: 1, 2, 3)
Инфорги – почти те же люди (сверхразумные биологические существа). Но есть принципиальная разница:
• когнитивные сеть инфоргов работают иначе, чем у людей;
• следствие - у инфоргов иная культура обмена мыслями;
• результат - иная траектория когнитивной эволюции, превращающая инфоргов в новый подвид людей.

Почему так?
Причины две.
• В когнитивные сети инфоргов, кроме них самих, включены алгоритмы.
• В инфосфере инфоргов и алгоритмов царит «инфозапутанность».

К чему это ведет?
Проще всего пояснить на примере вымирания неандертальцев.
• Наиболее обоснована гипотеза об интеллектуальном превосходстве наших предков.
• В чем она заключалась, достаточно споров, но скорее всего, причина в развитии символического языка. Без него не могла бы сформироваться культура обмена мыслями, как локомотив, разогнавшая когнитивную эволюцию наших предков.
• В ходе развития символического языка появились его новые, еще более совершенные формы: математика, музыка, живопись, художественная литература, поэзия, театр, кино.

С инфоргами будет аналогично:
• иная культура обмена мыслями породит новые языки;
• на их основе разовьются новые науки и искусство;
• они сформируют иную цивилизацию с иной траекторией развития.

Теперь пример того, как множатся инфорги
Вот 3 новости из последнего выпуска еженедельника по ИИ IMPORT AI Джека Кларка.

1. Spotify выпустил набор данных речи из 100000 подкастов - аудиопотоки и текст, порожденный преобразователем речи в текст.

Что это значит (в контексте инфоргов):
Алгоритмы сейчас учатся на текстах людей создавать новые тексты, чтобы потом обходиться без людей.
Набор данных Spotify содержит 50 тыс часов аудио и 600 млн слов.
Кларк показывает, что это всего 0,5% от объема речи, произносимой в Нью-Йорке за 1 день.
А теперь представьте, что будет, когда начнут автоматически расшифровывать ВСЕ слова, произносимые людьми в крупных городах! Какие модели будут созданы? Похоже, такие, что как и в текстах, в устной речи алгоритмы догонят и перегонят людей.
Но главная фишка в том, что различить источник текста и речи (человек или алгоритм) станет невозможно. Т.е. люди, читающие и слушающие любой текст (!), из-за «инфозапутанности» будут превращаться в инфоргов.

2. Междисциплинарная группа исследователей проанализировала 230 языков в 5и огромных многоязычных наборах данных. Результаты шокируют.
Широко представленные в сети и оцифрованные языки (напр. английский и немецкий), имеют хорошее качество, а мало представленные имеют отвратительное качество (хуже всего с африканскими языками, но ошибок масса и в наборах данных из латинизированного алфавита языков, обычно написанных с использованием других скриптов (например, урду, хинди, китайского и болгарского).

Что это значит:
Догадайтесь, какими языками предпочтут пользоваться алгоритмы ближайшего будущего. И как в среде инфоргов просто исчезнут сотни языков планеты.

3. MIT создал ThreeDWorld - программную среду для тестирования виртуально воплощенных агентов ИИ.

Что это значит:
Чтобы учить роботов движениям в реальном мире, люди в среде ThreeDWorld сами превращаются в роботов с 2 руками и 9 степенями свободы. Роботы потом учатся на данных людей.
А теперь представьте, что так же можно учить не только движению, но и получению алгоритмом ощущений.
А наученные алгоритмы использовать для рекомендательных систем по ощущениям, персонально привлекательным инфоргам при серфинге инфосети. Кто ж откажется тогда стать инфоргом?
1 https://bit.ly/3fk8YFj
2 https://bit.ly/3xm1L1s
3 https://bit.ly/3tYzH5y

#Культура #ЭволюцияЧеловека #Разум #Инфорги
​​Компас, порох, бумага, книгопечатание и «цифровой шелковый путь».
Лидер транснационального управления данными будет править миром.

Скорость цивилизационных изменений зашкаливает. Анализ экономических, геополитических и военных аспектов соревнования сверхдержав не успевает адаптироваться к этим изменениям. И потому, аналитики либо по-прежнему ориентируются на устаревшие индикаторы, типа ВВП, либо в погоне за хайпом переключаются на химерические индикаторы, типа лидерства в области ИИ.

А тем временем Китай, когда-то привнесший в мировую цивилизацию четыре великих изобретения - порох, производство бумаги, печать и компас, - снова близок к тому, чтобы вновь подтвердить лидерство в области глобальных инноваций и с их помощью выиграть соревнование сверхдержав.

При этом у Китая есть два колоссальных преимущества, играющие в 21 веке большую роль, чем численность населения и природные ресурсы (хотя, и они все еще немаловажны).
• Китайцы - реалисты и прагматики.
• Китай предпочитает играть в долгую.

Поэтому магистральной линией глобальных инноваций Китай выбрал не ИИ и не квантовые компьютеры, а транснациональное управление данными, воплощаемое глобальным проектом «Цифровой шелковый путь».

Суть проекта – поставлять цифровую инфраструктуру на развивающиеся рынки.
Цель проекта – превращение Китая в сверхдержаву №1, путем экспорта в принимающие государства не только своих технологий, но и своих ценностей и системы управления.

Это и есть «цифровой авторитаризм в мировом масштабе».

Правительства стран с развивающейся экономикой, привлекая Китай для создания национальной цифровой инфраструктуры, подражают китайскому подходу к управлению данными в стремлении к «суверенитету данных» и китайским методам цифрового развития. «Цифровой шелковый путь» Китая - масштабная попытка создать физические компоненты цифровой инфраструктуры (напр., оптоволоконные кабели, антенны и центры обработки данных) для повышения функциональной совместимости цифровых экосистем, - материализует в развивающихся странах «эффект Пекина».
Подобно «эффекту Калифорнии» и «эффекту Брюсселя», КПК с помощью китайских технологических компаний породила «эффект Пекина». Этот эффект через пару десятков лет сделает китайские ценности и методы в области управления данными стандартом де-факто для 80% человечества.

О том, как это может происходить, и можно ли этому помешать, читайте в 59-и страничной работе Мэтью С. Эри и Томаса Стрейнца «Эффект Пекина: «Цифровой шелковый путь» Китая, как транснациональное управление данными», которая будет опубликована в апрельском выпуске New York University Journal of International Law and Politics.

#Китай #МировоеГосподство #ТранснациональноеУправлениеДанными
​​«COVID-19 превращается из «Чёрного лебедя» в «Розового фламинго» (3-я волна COVID-19 прогнозируется уже в марте)» - так назывался мой пост от 11 ноября 2020.

А на приложенных графиках текущая статистика поступивших, состоящих, скончавшихся и выписанных пациентов, а также число пациентов в отделении реанимации и интенсивной терапии «Коммунарки» (ГКБ № 40 Москвы). Источник

На графиках очевиден приход 3-й волны. И весьма неслабой (главврач Проценко заявил о рекордном количестве поступающих пациентов).

Остается лишь напомнить, что «Розовый фламинго» — это самая страшная и уродливая птица среди символов катастроф. Это известный катастрофический риск, игнорируемый из-за когнитивных предубеждений руководителя или группы руководителей под воздействием мощных институциональных групп интересов. В отличие от «Серых лебедей», это не просто риски, на которые люди склонны закрывать глаза или бессознательно игнорировать. Это риски, игнорируемые высоким начальством под воздействием конкретных групп влияния.

#РозовыйФламинго #Эпидемия
Математик Вики Чуцяо Ян, социолог Тамара ван дер До и когнитивист Хенрик Олссон впервые математически смоделировали когнитивно-социальные процессы того, как люди классифицируют друг друга по спектру мнений.

Результаты моделирования показали, что в соцсетях центристы неотвратимо превращаются в экстремистов.
Остановить это может только радикальная реформа платформ социальных сетей.

Подробней (3 мин.):
-на Medium https://bit.ly/3ToKPAo
- на Яндекс Дзен https://clck.ru/U7osF
#СоциальныеСети #Polarization #Раскол
Разные общества по-разному реагируют на нестандартные и экстремальные действия граждан, да и нормы поведения в разных странах сильно отличны: где-то майдан – это норма, где-то – не дай бог.

✔️ Почему так?
✔️ Почему одни могут, а другие нет?


Если к выводам знаменитой работы Мишель Гельфанд о «строгих» и «свободных» культурах добавить новую прорывную модель Сергея Гаврилца, анализирующую совместную динамику действий и установок индивидов и их представлений о действиях и установках других людей, - можно не только ответить на поставленные два вопроса. Но и понять, как это можно изменить.

Подробней (до 5 мин.):
-на Medium https://bit.ly/3uCge5j
- на Яндекс https://clck.ru/UADXx
#Ценности #Нормы #Общество #КультурныеОтличия
Техноавторитаризм Китая стал глобальным.
Его формула проста и эффективна, как автомат Калашникова.

• Хотите эффективно повышать благосостояние, безопасность и стабильность – соглашайтесь с социальным контролем.
• Тотальная слежка – важнейший элемент социального контроля.
• Внедряйте в своей стране китайские технологии слежки путем подключения к китайским технологическим экосистемам

Вчерашний выпуск FOREIGN AFFAIRS формулирует это так.
«Слежка - это факт жизни китайских граждан и, все чаще, тех, кто живет в странах, принявших китайские технологии слежки, от Эквадора до Кыргызстана. Что еще более тревожно, эта экосистема китайских технологий несет в себе набор ценностей, лежащих в основе китайского государства, - форму авторитаризма 21го века, сочетающую в себе социальный контроль и эффективность».

Никогда ранее в истории Китай не был альтернативным Западу источником позитивных образцов для мира – политических, технологических, моральных или интеллектуальных.
Сейчас же проект «Цифрового шелкового пути» становится таким образцом.

Если США (а никто больше и не способен здесь потягаться с Китаем) не предложит альтернативный образец, образец Китая просто автоматом будет воспринят 80% населения мира (от Южной Америки до России).

А чтобы создать такой альтернативный образец, США должны реформировать свои собственные методы наблюдения, защитить конфиденциальность и безопасность граждан и, работая с союзниками, установить глобальные стандарты в области технологий с соблюдением прав человека.
Начать же США должны с того, чтоб прекратить вешать лапшу на уши миру, будто противостояние США и Китая в области технологических экосистем – это борьба добра со злом.
Ибо для большей части остального мира – это борьба двух зол.
• Правительство США также практикует массовое наблюдение.
• Крупные технологические компании США приняли бизнес-модель, основанную на наблюдении, используя данные людей в обмен на их бесплатное обслуживание.
• Разведывательная коалиция Five Eyes (США, Австралия, Канада, Новой Зеландия и Великобритания) воюет с шифрованием, оказывая давление на компании, чтобы они предоставили правительствам черный доступ ко всем цифровым коммуникациям. В этой мрачной глобальной гонке за цифровое дно больше всех проигрывают обычные пользователи технологий во всем мире

Это ни есть альтернатива вторжению китайского техно-авторитаризма. Это примерно такое же зло (ну может не такое дно, как у Китая, но и никак не добро).
Альтернативой будет, если сначала США наведут порядок у себя. И только потом с этой альтернативой США могут остановить распространение китайского техно-авторитаризма по миру.

О противостоянии США и Китая, а также о месте в нем России и Украины, я вчера говорил в интервью каналу КРТ

Вчерашняя статья FOREIGN AFFAIRS о том, как техноавторитаризм Китая стал глобальным.

О том, станет ли Китай единственной сверхдержавой – мое интервью каналу Дмитрия Солодина.

#Китай #США #Россия
​​Суперкомпьютерный Blacklist.
Сильный удар США по Китаю.

8го апреля правительство США включило в черный список организаций, деятельность которых противоречит интересам национальной безопасности или внешней политики США, семь суперкомпьютерных центров Китая (официальный пресс-релиз

Де-факто это значит, что:
• Эти центры теперь не смогут приобрести ничего (даже кофемолку) американского производства без специального разрешения правительства США.
• Ни одна компания мира, в здравом уме, не пойдет на нарушение этого запрета. Ибо она не только заплатит многомиллионный штраф, но и получит запрет на продажу всей её продукции в США.
То есть суперкомпьютерный Blacklist – это очень серьёзно.

Официальная причина запрета 8 апреля – «эти организации участвуют в создании суперкомпьютеров, используемых военными силами Китая, в его дестабилизирующих усилиях по модернизации вооруженных сил и / или в программах создания оружия массового уничтожения».
Конечно же, это стандартная отмазка. Правительство США использует их уже десятки лет: сначала, ограничивая поставки суперкомпьютеров в СССР, потом в Россию, сейчас в Китай, а скоро, полагаю, опять и в Россию.

Мне эта кухня с черными списками, экспортным контролем, лицензиями и штрафами известна до мельчайших деталей. С 1996 по 2002 я был одним из главных действующих лиц грандиозного скандала о, якобы, нарушении законов США при поставке суперкомпьютеров SGI в Россию. Обвинения правительства США были те же: суперкомпьютеры могут использоваться для «модернизации вооруженных сил и / или в программах создания оружия массового уничтожения» (см. 1, 2, 3, 4).

На деле же шла подковерная борьба за расширение НАТО на Восток, и США нужно было найти точки давления на Россию.

Так что же за причина заставляет США снова использовать ту же схему давления на Китай?
Полагаю, дело вот в чем.


2020е годы станут десятилетием триумфа машинного обучения. А главный ограничивающий фактор здесь - производительность компьютеров при обучении моделей.
Потенциал вычислительной мощности страны – наилучший показатель её перспектив в гонке за место среди технологических лидеров мира в самом широком спектре областей: от физики до медицины. Про ИИ я и не говорю. Здесь вообще все пока замыкается на машинное обучение.

Попадет ли страна в восьмерку или двадцатку лидеров, можно примерно оценить по суммарной вычислительной мощности её суперкомпьютеров.

На приведенном графике сравнение России, Китая и США по суммарной вычислительной мощности суперкомпьютеров каждой из стран, входящих в сотню самых высокопроизводительных компьютеров мира (по состоянию на конец 2020).

Комментировать положение России не буду. Всё, увы, очевидно.
А вот про более чем троекратный отрыв США от Китая скажу.

США знают, что от сохранения их лидерства по этому показателю в значительной мере зависит итог цифровой битвы с Китаем за звание сверхдержавы №1. Поэтому они и начали снова свои «танцы с бубном» вокруг черных списков суперкомпьютеров и комплектующих к ним.

Но только остановить Китай будет трудно. Самый мощный из их суперкомпьютеров уже оснащен процессорами только китайского производства. И 3 из 7 центров, внесенных США в черный список, заняты разработкой новых процессоров для 100%ного избавления китайских суперкомпьютеров от поставок из США.

К слову, на прошлой же неделе в Китае запущен проект создания завода по производству процессоров для квантовых компьютеров.

Так что к 2025му суперкомпьютеры из США Китаю могут уже не понадобиться.

#Россия #Китай #США #HPC
Каждый из нас на примере своего круга общения офлайн и онлайн может обнаружить тотальный поляризационный тренд.
1. Мнения наших знакомых и френдов поляризуются по все более широкому спектру вопросов.
2. Эта поляризация усиливается и количественно («центристов» всё меньше, а «радикалов» все больше), и качественно (уровень и формы неприятия противоположного мнения становятся все менее цивилизованными).
3. (И самое поразительное!) Две образующиеся группы как будто исповедуют враждебные идеологии, сформировавшие между ними тотальный конфликт мировоззрений (в том смысле, что мнения пары любых агентов, принадлежащих разным группам, будут полярными по большинству актуальных дискуссионных тем).

Все три элемента этого тренда неприятны для общества. Но 3й — еще и крайне опасен. Ведь глобальные риски растут из-за усложнения мира, вследствие все более усложняющихся технологий.

✔️ Как обществу вырабатывать эффективные стратегии снижения глобальных рисков, если по каждому из них оно расколото на две непримиримые группировки (включая ученых и экспертов, журналистов и политиков, бизнесменов и врачей …)?
✔️ И как быть, если в такой тупик упираются дискуссии практически по любому из важных вопросов (изменение климата и экология, ГМО и автономное оружие, карантины и вакцинация …)?


Выход из этого тупика невозможен, пока не понят механизм тотального поляризационного тренда. Попытками прояснить и описать этот механизм с использованием результатов далеко не самых известных, но реально прорывных междисциплинарных работ, я занимаюсь уже не первый год.

И сегодня с радостью делюсь с вами чрезвычайно крутой и очень перспективной новостью.

Впервые удалось создать и проверить на реальных данных модель механизма порождения тотального поляризационного тренда в обществе, раскалывающего его на два конфликтующих «племени», исповедующих диаметрально противоположные мировоззрения или, если угодно, идеологии.

Это открытие — весьма убедительное подтверждение на математической модели гипотезы о том, что
создаваемая в 21 веке инфосоциальная среда цивилизации провоцирует тотальный “племенной” раскол, неизбежно ведущий к культурным войнам полярных идеологий.

И если общество не найдет способ изменить свою инфосоциальную среду,

поиск решения любой из важнейших проблем с неизбежностью будет заходить в тупик невозможности достичь консенсуса.

Продолжить чтение (еще 9 мин.):
- на Medium https://bit.ly/3mHKVmC
- на Яндекс Дзен https://clck.ru/UGYs7

#Поляризация #Идеология #Трайбализм #Культура #ЭволюцияСознания
​​От всевидящего ока к всезнающему богу.
Дроны учат ИИ понимать наши действия.

Даже самые крутые из современных систем распознавания лиц, поз и жестов – просто детские игрушки по сравнению с системами слежки ближайшего будущего. Новое поколение таких систем будет всевидящим оком, скрыться от которого будет не просто.
Более того.
Такие системы будут понимать, что мы делаем – гуляем, читаем, удим рыбу, играем на смартфоне, садимся в машину, открываем зонтик и т.д. и т.п. Они будут способны понимать (!) поступки людей и прогнозировать их ближайшие намерения, подобно всезнающему богу.

Все эти фантастические возможности ИИ получит, если обучать его с помощью данный, собираемых специально оснащенными дронами.

Ведь в чем сейчас заминка? Просто не хватает данных, чтобы научить ИИ понимать поведение человека. Откуда бы этим данным взяться? Не посадишь же тысячи волонтеров неделями, например, открывать и закрывать зонт, чтобы ИИ научился распознавать эти два примитивных действия.

Прорывная идея оказалась в том, что можно использовать дроны, которые будут наблюдать за людьми. Причем не просто смотреть на их действия, а видеть эти действия так, как люди просто не могут: меняя углы зрения, широкоугольным охватом объектива «рыбий глаз» (180+ градусов), ночным видением, RGB, в инфракрасном диапазоне и т.д.

Новейшая разработка – система «Дрон-Человек» (UAV-Human) позволяет собирать море данных о любых действиях людей, решая тем самым проблему наборов данных для обучения ИИ. Данные собираются в различных погодных условиях и в различных модальностях (диапазонах), включая съемку в специальных режимах, когда дрон спускается, движется и вращается или зависает на месте.

И вполне может статься, что очень скоро проблем застреленных полицией по ошибке парней станет куда меньше. Ибо убивать будут уже не они. Всевидящее с неба око за миллисекунды распознает не только остроту инцидента с полицией, но и что за штуку потянул из кармана парень с не самым незапятнанным прошлым. Ну а всезнающий бог еще за несколько миллисекунд вынесет приговор и приведет его в исполнение.

На приложенной картинке реальные примеры видео действий в наборе данных «Дрон-Человек». Первая строка показывает различные модальности данных. Второй и третий ряды показывают две видеопоследовательности значительных движений камеры и вариаций вида, вызванных непрерывно меняющимися ориентациями полета, скоростями и высотами. Последние три строки отображают больше образцов действий этого набора данных, показывая различные виды, места захвата, погоду, масштабы и размытие движения.
https://arxiv.org/abs/2104.00946
#БПЛА #БольшойБрат
Лет через 100 главными на Земле будут уже не люди.
Харари и Канеман о глобальных трендах, перекраивающих человечество.

Сильнейшее подкрепление моим постам об алгокогнитивной культуре, кардинально меняющей не только вектор развития человечества, но и самих людей, пришло от двух, возможно, самых известных философов, исследователей и авторов бестселлеров: Юваля Харари - автора знаменитого «Sapiens», и Даниэля Канемана - психолога и лауреата Нобелевской премии по экономике.
Их совместное позавчерашнее интервью [«Глобальные тренды перекраивают человечество»](https://www.youtube.com/watch?v=7yhg7NmTeVg) (1,5 часа) ломает догматику современного мейнстрима академической науки о человеке и человечестве.
Вот самое важное из первых 15 минут этого интервью.
1. Мир вошел в новую эпоху абсолютной непредсказуемости. Эта непредсказуемость – следствие столь кардинальных изменений эволюционного пути Homo sapiens, подобных которым просто не было.
2. Масштаб и последствия начавшихся изменений несоизмеримы ни с одной революцией в истории людей. Ибо поменяются не только экономика, политика или технологии, а сами люди: их тело, мозг, ментальная структура разума. Даже при самых кардинальных изменениях за всю историю человечества, Homo sapiens всегда оставались собой. Теперь же начинает меняться наш вид.
3. Через 1-2 века Земля будет населена существами, гораздо больше отличающимися от нас, чем мы от неандертальцев и даже от шимпанзе. После 4 млн лет органической эволюции, она переходит (полностью или частично) в форму неорганической.
4. Неважно, какая часть новых существ, что идут на смену людей, будет неорганическая. Важно, что у них будут кардинально иначе приниматься решения. У этих уже не 100%но биологических гибридных носителей интеллекта, решения будут приниматься алгоритмами.
5. Сложность социально-технических систем достигла уровня, непосильного для людей. Алгоритмы обладают двумя абсолютными преимуществами, позволяющими преодолеть эту ограниченность людей.
6. «Малое преимущество» в том, что алгоритмы, в отличие от людей, свободны от шума. Люди принимают решения, в которых много предубеждений и шума. Шум – это нестабильность решений в пространстве (у разных людей) и во времени (когда человек принимает решение в точности в такой же ситуации). Это ведет к тому, например, что нестабильность решений у страховых компаний при определении страховой премии составляет 55% (хотя компании думали, что всего 10%). Иными словами, всюду, где решают люди, их решения забиваются шумом, и этот шум всегда больше, чем люди думают (подробней см. в выходящей в мае книге Канемана [«Шум: изъян человеческого суждения»](https://www.amazon.com/Noise-Human-Judgment-Daniel-Kahneman/dp/0316451401), а пока можно почитать [здесь](https://hbr.org/2016/10/noise) .
7. Даже несовершенный алгоритм способен дать более аккуратное решение, чем профессиональный человек. Этого «малого преимущества» вполне хватает, чтобы передавать решение алгоритмам. А ведь есть еще и «большое преимущество» алгоритмов – их умение находить скрытые закономерности в больших данных, не доступных для анализа людьми.
8. В этом новом мире представители уходящей натуры - биологических людей, - уже не только не будут в состоянии самостоятельно принимать решения, но и станут все более подвергаться манипуляциям со стороны алгоритмов.

Хотелось бы надеяться, что этими 8ю пунктами тизера мне удастся сподвигнуть многих своих читателей посмотреть все 1,5 часа этого замечательного интервью.

#Культура #ЭволюцияЧеловека #Разум #Homosapiens
Вакцинация от COVID-19 демонстрирует очередной поразительный пример раскола общества на два конфликтующих «племени», исповедующих диаметрально противоположные мировоззрения или, если угодно, идеологии: вакциноэнтузиасты и вакциноскептики.
И те, и другие были всегда по отношению к любым вакцинам. Но как получается, что вакциноэнтузиасты – преимущественно, сторонники Байдена, а вакциноскептики – сторонники Трампа? Причем уровень поддержки каждого на выборах был тем сильнее, чем теперь выше степень поддержки или скептицизма к вакцинации от COVID-19.
Как говорится в популярном меме: «Совпадение? Не думаю».

Совсем недавно я писал в посте про «культурные войны инфоргов» о том, как поляризация мнений в соцсетях раскалывает общество на два враждебных племени.
Создаваемая в 21 веке инфосоциальная среда цивилизации провоцирует тотальный “племенной” раскол, неизбежно ведущий к культурным войнам полярных идеологий.
Поэтому поиск решения любой из важнейших проблем с неизбежностью заходит в тупик невозможности достичь консенсуса.
А без него, общество
• либо топчется на месте, будучи не в состоянии решать проблемы,
• либо одно «племя» должно навязать другому «племени» свою точку зрения.
Причем навязать силой. Ибо диалог невозможен из-за непреодолимой пропасти между «племенами», видящими решение любой проблемы, как столкновение добра и зла, и воспринимающими всех представителей другого «племени»
— либо неисправимо глупыми и дезинформированными,
— либо безнадежно коррумпированными,
— либо неискренними и даже злыми, плохими людьми.

И если в США этот идеологический раскол хотя бы совпадает с политической поляризацией общества, то в России ситуация еще сложнее. Ведь здесь не менее сильный чем в США раскол общества на вакциноэнтузиастов и вакциноскептиков не укладывается в идеологические рамки политической поддержки Путина и Навального.

Так что же тогда в основе идеологического раскола российского общества?

Боюсь, что ответа на этот вопрос не знает никто.
Но пока ответ не будет найдет, противостояние «племен» в ходе «культурных войн» будет неуклонно крепчать.
#Эпидемия #Раскол #США #Россия
​​Есть «железо» - участвуй в гонке. Нет «железа» - кури в сторонке.
В 2020-х расклад сил в технологическом соревновании стало предельно просто оценивать. Революция «Глубокого обучения Больших моделей на Больших данных» превратила вычислительную мощность в ключевой фактор прогресса практически всех интеллектуально емких индустрий: от разработки новых лекарств до новых видов вооружений. А там, где задействован ИИ (а он уже почти всюду) вычислительная мощность, вообще, решает все.

Формула превосходства стала предельно проста:
• собери как можно больше данных;
• создай как можно более сложную (по числу параметров) модель;
• обучи модель как можно быстрее.
Тот, у кого будет «больше-больше-быстрее» имеет максимально высокие шансы выиграть в технологической гонке. А здесь все упирается в вычислительную мощность «железа» (HW) и алгоритмов (SW).

И при всем уважении к алгоритмам, но в этой паре их роль №2. Ибо алгоритм изобрести, скопировать или даже украсть все же проще, чем HW. «Железо» либо есть, либо его нет.
Это мы проходили еще в СССР. Это же стало даже более критическим фактором в эпоху «Глубокого обучения Больших моделей на Больших данных».

Вот два самых свежих примера.
1) Facebook раскрыл свою систему рекомендаций. Она построена на модели рекомендаций глубокого обучения (DLRM). Содержит эта модель 12 триллионов параметров и требует суммарного объема вычислений более 10 Petaflop/s-days.
2) Microsoft скоро продемонстрирует модель для ИИ с 1 триллионом параметров. Она работает на системе вычислительной производительности 502 Petaflop/s на 3072 графических процессорах.

Для сравнения, языковая модель GPT-2, разработанная OpenAI 2 года назад, поразила мир тем, что у нее было 1,5 миллиарда параметров. А GPT-3, вышедшая в 2020 имела уже 175 млрд. параметров.
Как видите, модели с триллионами параметров – уже данность. И чтобы их учить не годами, а днями, нужно «железо» сумасшедшей вычислительной мощности.

Т.е. сами видите, - есть «железо» - участвуй в гонке, нет «железа» - кури в сторонке.

На приложенной картинке свежие данные о размерах моделей и требуемой для них вычислительной мощности.
#HPC #ИИгонка
​​ROADMAP контакта с иным разумом.
Появились шансы установить контакт за 5 лет.

Поиском иного разума на других планетах проект SETI занимается уже полвека. И пока безрезультатно. Космос молчит.
Тем временем, серия недавних открытий поставила крест на концепции когнитивной исключительности Homo sapiens. Мы – не венец природы, а лишь один из возможных вариантов разума, созданных эволюцией по различным «техзаданиям». Помимо людей, на Земле живут представители еще трёх вариантов разума, демонстрирующих сложное поведение, во многом не уступающее людям, а в чем-то и превосходящее (об этом я подробно писал здесь).

Существует единственная, но пока непреодолимая преграда для контакта людей с иным типом разума. Мы не понимает их язык, а они наш. Попытки понять язык иного разума китообразных предпринимаются даже дольше, чем попытки найти инопланетян в рамках проекта SETI. И столь же безуспешно.

И вот наметился прорыв. Новый проект с умышленно похожим на SETI названием CETI (Cetacean Translation Initiative) - инициатива перевода языка китообразных- абсолютно прорывной. Он имеет реальные шансы расшифровать язык кашалотов. Проект запущен только что. Его дорожная карта направлена на решение этой задачи за 5 лет.

В конце поста будут ссылки, где можно узнать детали проекта.
Здесь же напишу о главном – почему после полувекового тупика появились реальные шансы контакта с иным разумом.

1) Контакт означает понимание языка.
2) Понимание языка китообразных подразумевает возможность раскодировать их «азбуку Морзе» свистов и щелчков. То, что с их помощью они обмениваются информацией (очень быстро и очень точно) – установленный факт. Но все попытки понять код пока тщетны. Не понятно даже, язык ли это вообще. И есть ощущение полного тупика.
3) Причин тупика две.
А) Их язык устроен непостижимым для людей образом. Чтобы понять нечеловеческую «систему кодирования» нужен нечеловеческий интеллект, ибо люди ищут лишь то, что сами понимают (подробней здесь).
Б) Чтобы понять чужой язык не достаточно слушать чужие разговоры. Надо видеть и понимать, кто говорит и к чему речь ведёт. Это проблема «коктейльной вечеринки». Допустим вы записываете все разговоры на такой вечеринке, где люди говорят на неизвестном вам языке. И чёрта с два вы что-либо поймете. Однако, если вы будете знать, кто говорит, и видеть последствия отдельных фраз и разговоров, у вас появится шанс понять язык.
4) Причину тупика А решено преодолеть с помощью машинного обучения. Нечеловеческому ИИ все равно, в чем распознавать паттерны. И даже если они будут нечеловеческими, ИИ от этого ни холодно, ни жарко. Он вообще не понимает никаких человеко-специфичных черт наших языков, как и шахматный ИИ от DeepMind не понимает человеческих методов игры.
5) Однако, наличия нечеловеческого ИИ мало. Проекты расшифровки языка дельфинов с помощью ИИ уже идут в США и Китае. Но упираются в тупик Б - проблему «коктейльной вечеринки». Инициаторы проекта CETI (Гарвард, Массачусетский технологический институт (MIT), Калифорнийский университет в Беркли, Городской университет Нью-Йорка (CUNY) и Хайфский университет Израиля) нашли способ решить и её. Проект CETI строится на базе проекта «Доминиканский кашалот» канадского биолога Шейна Геро. Он уже 13 лет изучает социальную жизнь, диалекты и генетические взаимоотношения 30 семейств кашалотов (этот вид имеет самый большой мозг на Земле) на Доминикане, зная про жизнь каждой особи, семьи и всего сообщества, кто они и что делают.

Ну и, помимо преодоления тупиков А и Б, куча техно наворотов.

Подробности читайте и смотрите здесь.
Научно
Популярно
Двухминутный рассказ о проекте его руководителя
Поддержать проект донатом

#ИнойИнтеллект #Дельфины #Разум
Мы перестаем быть людьми. И это не кликбейтная фраза, не преувеличение и не спекуляция. Homo sapiens не может оставаться таким же, каким он был, как минимум, десятки тысячелетий. Ибо кардинально меняется культура, на фундаменте которой стоит человеческая цивилизация: наука, искусство, социальные коммуникации, обучение, механизмы обретения знаний и производства инноваций.

Основа и суть культуры - гиперсеть обмена и накопления информации индивидами и социумом, - принципиально меняется. Она обретает совершенно новые, несвойственные людям черты, присущие коллективным насекомым (цифровая стигмергия) и вирусам (инфокаскады), - о чем я уже писал в предыдущих постах серии «Алгокогнитивная культура».

Теперь я хочу рассказать о третьем, совсем уж нечеловеческом свойстве формирующейся алгокогнитивной культуры – об «инфозапутанности». Миллионы лет эволюционной траектории Homo sapiens три уникальных линии производства и передачи информации не пересекались. Потоки генетической, нейронно-культурной и экзосоматической (записанной вне генов и мозга) информации, образующие основу основ цивилизации, не сливались и тем самым не порождали информации новых невиданных ранее свойств.

Все изменилось с появлением на Земле еще одного типа акторов. Помимо людей, акторами культуры стали алгоритмы. В результате, три потока информации, порождаемой двумя типами акторов, начали сливаться. Роль образующейся при этом информационной «запутанности» потенциально может быть столь же фундаментальной в дальнейшей социально-когнитивной эволюции нашего вида, как и роль квантовой запутанности в квантовой механике микромира.

Об этом мой новый пост серии «Алгокогнитивная культура» (8 мин. чтения)
- на Medium https://bit.ly/3tUCjf9
- на Яндекс Дзен https://clck.ru/UW4Wr

#Культура #ЭволюцияЧеловека #Интеллект #Разум
​​Японский взгляд на прорывные технологии ближайших 20 лет.
Технологические прогнозы американцев слишком маркетинго-ориентированные.
А у китайцев - предельно политизированы, вынужденные учитывать официальную линию КПК.
Европейские технологические прогнозы – бюрократическая имитация осмысленности.
Лишь японские технологические прогнозы, на мой взгляд, заслуживают внимания (с учетом того, что любой технопрогноз – это бросание дротиков с закрытыми глазами в движущуюся мишень).

Вот как выглядит прогноз перспектив будущего технологического развития до 2040, подготовленный Японским институтом научно-технической политики (NISTEP).

Прогноз NISTEP описывает:
• 37 важнейших новых технологий, которые, как ожидается, появятся к 2040 году (на картинке слева ТОР10 из них)
• 16 специализированных областей исследований, на которых Японии следует сосредоточиться в будущем (на картинке справа ТОР8 из них)

Вчитайтесь в этот прогноз. Ведь если он сбудется, в ближайшее десятилетие, в частности, появятся:
• носимые сенсоры – детекторы вирусов;
• медиасреды для записи и разшаривания персональных ментальных состояний, чувств и предпочтений;
• устройства синхронного перевода с любого языка на любой;
• универсальная цифровая среда обучения;
• ИИ системы, понимающие контекст.
Перевод прогноза выполнен Джеффри Дингом
#Будущее #Прогноз #Технологии
​​О качестве прогнозов. Всё познается в сравнении 😊
Вот хорошая иллюстрация катастрофических ошибок в маркетинго-ориентированных прогнозах, что так любят американцы.

На приложенной картинке прогноз компании Lyft от 2016 года (всего 5 лет назад) будущего автономных авто.

Для справки.
1) Позавчера компания Lyft продала свое подразделение автономных транспортных средств дочерней компании Toyota Woven Planet Holdings за 550 миллионов долларов (это последняя в череде продаж бизнеса, из-за катастрофических ошибок в прогнозах стоимости и сроков коммерциализации технологий автономных транспортных средств).
2) Сегодняшние маркетинго-ориентированные прогнозы будущего автономных авто от их разработчиков (в том числе, российских) повторяют красивую сказку компании Lyft пятилетней давности.
3) Прогнозы на основе оценок независимых экспертов, имхо, куда ближе к реальности.
«Зарождающийся рынок беспилотных автомобилей вовлек в работу сотни компаний. Однако в ближайшее десятилетие беспилотники будут перевозить только большие грузы, пиццу и подъезжать к клиенту по каршеринговому заказу. В то, что беспилотники когда-нибудь заменят личный транспорт, пока не верит никто».

#Будущее #Прогноз #Технологии #БеспилотныеАвто
Экспериментально подтверждено базовое уникальное отличие Homo.
Это новый аргумент в пользу вычислительной теории разума.

Мы – не венец природы, а лишь один из возможных вариантов разума, созданных эволюцией по различным «техзаданиям».
✔️ Но что конкретно, что за уникальное качество было «записано в техзадании» Homo, чего не было в «техзадании» человекообразных обезьян?
Есть несколько гипотез, отвечающих на этот вопрос. Но точного ответа мы никогда не узнаем. Ибо земная эволюция – неповторимый эксперимент. И как там было в точности никто уже не докажет.

При этом все согласны, что уникальность людей в умении создавать и манипулировать очень сложными структурами: языка, математики, музыки ... Но такой ответ лишь порождает новые вопросы.
• На чем основаны эти уникальные умения людей?
• Какого базового свойства нет в «когнитивном стартере» разума животных, без чего эти умения не смогли у них сформироваться?
• И главное, - можно ли отсутствие этого базового свойства экспериментально обнаружить у наиболее когнитивно близких нам животных?

Новое исследование ответило на все три вопроса.

Оказалось, что прав был Галилей, -
«мироздание написано математическим языком, а его буквы - это треугольники, круги и другие геометрические фигуры, без которых люди не смогли бы понять ни слова».

Исследование экспериментально подтвердило - интуиция геометрии (интуитивный математический “язык мышления”) присутствует у людей, но отсутствует у бабуинов.

Простое задание - найти, какая из шести геометрических фигур отличается, выполняется людьми и бабуинами совершенно по-разному. Люди, независимо от культуры и образования, чувствительны к наличию геометрических закономерностей (прямые углы, параллелизм, симметрия …) и выполняют даже элементарные задачи визуального восприятия совсем не так, как бабуины.

Для объяснения распознавания объектов бабуинами достаточно модели вентрального зрительного пути. Но для объяснения распознавания людьми необходима символическая модель. Эти результаты доказывают:
склонность человека к символической абстракции, даже при решении элементарных задач восприятия формы фигур.

Для справки.
• Самым ранним гравюрам, приписываемым Homo sapiens, состоящим из треугольной сетки параллельных линий, около 73000 лет.
• Даже Homo erectus уже рисовал абстрактные узоры примерно 540 000 лет назад.
• Нечеловеческие приматы никогда не создают структурированные фигуры, если им предоставляется возможность рисовать.
• Напротив, разнообразие и абстрактность рисунков маленьких детей поражает. Предыдущие исследования показали, что даже дошкольники и взрослые аборигены Амазонки уже обладают сложной интуицией в геометрии, формирующей интуитивный математический “язык мышления”.
• Эти предыдущие результаты предполагали, но не доказывали, что люди обладают гораздо более глубоким уровнем понимания абстрактных свойств геометрии, чем другие приматы.
• Целью нового исследования было разработать простой эмпирический тест, способный проверить эту гипотезу. И это удалось сделать.

Наличие у людей спецумения оперировать интуитивной геометрией многоугольников может также стать новым аргумент в пользу вычислительной теории разума.
Полигональная графика (картинка, состоящая из многогранников - полигонов), появилась в 3D моделировании для создания видеоигр. Там полигон — это минимальная поверхность, элемент, из которого складываются каркасы форм любой сложности. Чем больше полигонов, тем более детализованной будет модель.
Преимущество такого представления 3-х мерного мира в том, что у объектов полигональной графики низкое разрешение, обеспечивающее высокую скорость рендеринга. Отображение объекта как бы в виде его каркаса позволяет экономить ресурсы вычислительного устройства для реализации более продвинутого разума. Чем и воспользовалась эволюция.

#ВычислительнаяТеорияРазума #ИнтуицияГеометрии #Мозг #Эволюция
Прозрение отца ИИ о том, как ИИ сможет понимать мир.
GLOM – революционная теория Джеффри Хинтона (о которой в России почему-то никто не знает).

Можно научить ИИ понимать окружающий мир так, как его понимают люди. Ключом к этому станет техника восприятия мира, подобная человеческой.
• Человеческое восприятие построено на интуиции, и чтобы ИИ понимал мир, нужно смоделировать для ИИ интуицию.
• Интуиция – это способность легко проводить аналогии. С её помощью ИИ, подобно человеческому мозгу, будет понимать мир и обладать проницательностью.
• С детства и на протяжении всей жизни мы осмысливаем мир, используя рассуждения по аналогии, отображая сходство одного объекта (идеи, концепции …) с другим - или, в терминологии GLOM, - сходство одного большого вектора с другим.
• Современные теории исходят либо из того, что в ходе восприятия мозг обрaбaтывaет изобрaжение («пиксели»), либо из того, что мозг обрабатывает символы. GLOM утверждает, что обa подходы неверны: мозг оперирует не пикселями и не символaми, a большими векторaми нейронной aктивности (т.е. нaборaми aктивaций тех или иных нейронов).
• Если удастся на основе GLOM создать новый класс моделей и алгоритмов глубокого обучения, это может стать прорывом к ИИ, умеющему гибко решать проблемы. Такой ИИ будет способен понимать вещи, с которыми никогда раньше не сталкивался, извлекать сходства из прошлого опыта, экспериментировать с идеями, обобщать, экстраполировать – одним словом, понимать.


GLOM – это новая гипер-прорывная теория ИИ, разработанная Джеффри Хинтоном. То, что его называют отцом ИИ, - вовсе не преувеличение. По словам соучредителя и члена правления Института искусственного интеллекта Vector Джордана Джейкобса: «Через 30 лет мы оглянемся назад и скажем, что Джефф — Эйнштейн для ИИ, глубокого обучения, всего, что мы зовем ИИ».
Из всех исследователей ИИ Хинтона цитируют чаще, чем трех идущих за ним, вместе взятых. Его студенты и аспиранты уходят работать в лаборатории ИИ Apple, Facebook и OpenAI; сам Хинтон — ведущий ученый в команде Google Brain AI. Практически любое достижение в области ИИ за последние десять лет — в переводе, распознавании речи, распознавании изображений и играх — так или иначе касается работ Хинтона.

Его новая теория GLOM решает две самые сложные проблемы для систем визуального восприятия (и то, и другое современный ИИ не умеет в принципе):
понимание всей сцены в терминах объектов и их естественных частей (например, если такому ИИ показать 10 фрагментов тела подорвавшегося на мине солдата, он опознает, что это труп мужчины);
• распознавание объектов при взгляде с иной точки зрения (современный ИИ не может даже распознать автобус, перевернувшийся и лежащий на крыше).

И хотя GLOM фокусируется на визуальном восприятии, Хинтон ожидает, что эти же идеи можно применить и к языку, чтобы воспроизвести дерево синтаксического анализа в нейронной сети (пока это несбыточная мечта).

Ключевые идеи GLOM недавно были опубликованы Хинтоном в 44-х страничной статье. Эти идеи представляют собой существенный пересмотр архитектуры капсульных нейронных сетей, изобретенной Хинтоном 4 года назад.

И хотя GLOM сегодня – не более, чем «новая философия нейронных сетей», но звучит эта философия чарующе и маняще. Ибо обещает открыть перед ИИ почти что неограниченные горизонты.

Подробней:
- популярно за пэйволом и в обход его
- научно
- очень интересный видео-рассказ о сравнении теории GLOM с «Теорией интеллекта тысячи мозгов»

#КудаИдетИИ #ГлубокоеОбучение
С 1 июня Сингапур станет мировым полигоном Большого брата.
И все в мире увидят, каким ему быть через несколько лет.

Споры о границах приватности и правах Большого брата в постковидном мире можно заканчивать. Через несколько лет во всех развитых странах будет так, как уже с 1 июня в Сингапуре:
обязательное приложение на телефоне и/или специальный брелок, без которых закрыт вход во все людные места, за исключением маленьких магазинчиков и аптек;
• это приложение (или брелок) отслеживает и пишет в специальную базу данные о перемещениях человека и его «контактах» (всех людях, с кем человек был в пределах 2 метров не менее 30 мин – эти два параметра настраиваемые).


Собираемые данные считаются анонимными. Однако:
1. как только у кого-то появится положительный тест на COVID (скоро в Сингапуре это будет делаться прямо по дыханию), его данные перестают быть анонимными, и все люди, имевшие с ним «контакт», оповещаются об этом (ну и, понятное дело, «компетентные органы»).
2. также возможна передача собираемых данных и полиции, даже при отсутствии у человека положительного теста на COVID (подробней в расследовании Кирстена Хана).

Никто против такой системы особо не возражает, поскольку всех устраивает, что коронавируса в Сингапуре почти нет, и люди жертвуют приватностью, чтоб не болеть.

Общеизвестно, что в госинициативах добровольное легко становится обязательным, а временное - постоянным. Для этого даже не требуются политические решения на высоком уровне. Просто работают сила привычки, инерция и обычная осторожность.
А еще работает фактор «роста функциональности» - тенденции правительств и корпораций объединять отдельные IT системы, создавая тем самым нечто большее, чем функционал составных частей.

Никто ведь, например, не возмущается, что наши лица записываются и распознаются. А потом приходит полиция с наездом об участии в несанкционированной акции.
А сингапурская система еще круче. Совмещая данные о перемещениях с данными о контактах, она открывает такой ящик Пандоры, что о приватности уже можно будет забыть.
#Эпидемия #БольшойБрат
Расчет лифтов сложнее расчета полета на Марс.
Супер-высшая математика повседневной жизни.

Мир настолько парадоксален, насколько парадоксально наше сознание. А оно предельно парадоксально. Вот довольно типичный пример.
Мы убеждены, что расчет траектории полета на Марс несравненно сложнее расчета оптимального оснащения высокого здания лифтами. Но это не совсем так, ибо марсоходы уже вовсю ездят по Марсу, в то время как алгоритмы расчета оптимального оснащения лифтами лишь пытаются разрабатать.

Представить, насколько сложна супер-высшая математика «лифтовой жизни», нам довольно трудно. Но если пролистать многие страницы многоэтажных формул интегралов в новой работе профессора неравновесной статистической физики Сидни Реднера «Когда приедет лифт?», сложность этого нагромождения формул здорово прочищает мозги.
Оказывается, что мы просто не представляем уровень сложности математики повседневной жизни.
Полет на Марс или расчет кинетики ядерного реактора – для нас это да! Мы понимаем, насколько это сложно. Но оказывается, что «лифтовая жизнь» (сколько лифтов, какого размера и с какими алгоритмами работы нужно, например, для 100-этажного офисного здания определенной планировки для обеспечения максимального времени ожидания < Х) еще сложнее.

И хотя инженеры считают, что уже давно разработали вычислительные модели для максимально реалистичного моделирования лифтовых систем, каждый знает, что временам почему-то начинается ад: толпа людей в вестибюле, толкотня при загрузке и выгрузке и непрогнозируемый катастрофический рост времени ожидания.

Новая работа – первая попытка понять, почему это происходит, и как этого можно избежать (например, проектируя сужающиеся кверху здания).
Исследование показало сложную нелинейную динамику работы системы лифтов, когда при увеличении пассажиропотока лифты начинают синхронизироваться, создавая пробки. Устранить такое возможно лишь когда несколько лифтов одновременно вернутся на первый этаж. И это всего лишь одна из проблем, число которых лавинообразно растет с усложнением схемы поэтажного распределения числа работающих в здании и его посетителей.
Решений тут много: хитрые соотношения числа лифтов и офисных площадей; группы лифтов, обслуживающие группы этажей и т.д.
Короче, фронт работ – огромный. А с учетом темпов урбанизации мира, задачка оказывается поактуальней расчетов межпланетных перелетов.

Подробней:
3х минутное видео с объяснением задачи
Популярный рассказ в EurekAlert!
• Научная статья с тонной формул: за пейволом и без него

И в заключение снова о главном:
✔️ супер-высшая математика повседневной жизни крайне сложна;
✔️ а наши повседневные представления о сложности устройства мира – далеки от реальности.


P.S. Еще одна прорывная работа проф. Реднера – «Улучшен и доказан оптимальный алгоритм парковки. Он минимизирует общие затраты времени при парковке и выезде». Усовершенствование этого алгоритма может претендовать на «нобеля в математике»
#СтатистическаяМеханника
​​ИИ от Цукерберга готовят на смену Госсекретарю США.
Новый шаг ИИ к превосходству над людьми.

Потенциал способностей ИИ позволит ему:
• либо превзойти людей только в отдельных областях,
• либо превзойти во всем, и тогда привет.
Прояснение этого вопроса происходит этапами. И только что начался 3й - решающий этап.
Дело было так.

Этап 1.
Сначала ИИ превзошел людей в состязательных играх (где стороны интеллектуально противостоят друг другу).
Первым пал бастион игр с открытой информацией, в которых игроки обладают полным знанием всех прошлых событий и нынешней ситуации в игре: шахматы, Го – всюду ИИ от DeepMind сумел выйти на недостижимый людям уровень игры.

Этап 2.
Взят бастион игр с неполной информацией. В таких играх игроки знают не все: напр., в покере, - какие карты у других игроков (этот класс игр особенно интересен для экономистов, т.к. включает практические проблемы — поиск оптимальных стратегий для заключения сделок и аукционов). В 2017 ИИ Libratus победил в 20-дневном покерном турнире и выиграл у профессиональных игроков более 1,7 миллиона долларов.
Отличительной особенностью ИИ Libratus стало его свойство минимизировать «сожаление» о собственных плохих решениях. Специальный алгоритм для каждого решения вычисляет значение «сожаления» — насколько алгоритм «сожалеет» о том, что он не сделал определенный шаг в прошлом. Сначала алгоритм принимает решения случайно, но затем подключает к каждому решению значение «сожаления», в зависимости от того, насколько плохим оно было. К этому умению ИИ «сожалеть» добавили 262 терабайта информации для выработки стратегии, сумев ужать её до 11 терабайт, и привет: профессионалам пришлось слиться и в игре с неполной информацией.

Этап 3 (2021).
Потерпев полный крах в состязательных (конкурентных) играх, за людьми оставалось преимущество:
- в играх кооперативных (где нужно кооперироваться с другими игроками)
- и в самом сложном - смешанных конкурентно-кооперативных играх.
Казалось, что здесь ИИ ловить нечего. Но увы, пал и этот, почти что последний бастион.

5 мая на ICLR-2021 (одна из 3х самых крутых ИИ конференций) троица из Facebook AI Research рассказала о новом ИИ, уже играющем на уровне ТОР 2% лучших мировых игроков в конкурентно-кооперативную игру «Дипломатия».

Это стратегическая игра в меняющиеся альянсы, которая включает в себя как сотрудничество, так и конкуренцию в Европе, разделенной на 75 провинций. В игру играют семеро игроков, которым, помимо умения конкурировать и сотрудничать, требуется хитрость, обман и коварство, (как и в реальной дипломатии). А еще (т.к. на каждом ходу игроки делают ходы одновременно) нужно моделировать, что другие думают о вас и вашей стратегии. Игроки строят и мобилизуют воинские части для оккупации провинций, пока кто-либо не захватит большинство центров снабжения. Игроки могут атаковать или защищаться, могут, создавая союзы, поддерживать атаки и защиту других игроков. В полной версии игроки могут вести переговоры. В упрощенном варианте игры «дипломатия без прессы», переговоров нет.

Перебор вариантов здесь невозможен. В самой короткой 20-ходовой игре можно сыграть почти 10^868 способами (это 10 с 868 нулями). Поэтому Facebook применил убойный сдвоенный алгоритм, сочетающий контролируемое обучение на человеческих данных с одноэтапным поиском с помощью минимизации «сожалений». Алгоритм реализован в боте SearchBot, который превзошел бот DeepMind’a, анонимно играя против людей на веб-сайте Diplomacy и войдя в 2% лучших игроков. Но это лишь начало.

Ждать абсолютного превосходства ИИ над людьми в игре Дипломатия не долго. В планах Facebook: задействовать обучение с подкреплением, минимизировать «сожаление» более чем на 1 ход, расширить союзы умением координировать действия. Подробней.

Если всё получится, взращенный Цукербергом ИИ сможет со временем сильно упростить работу Госсекретаря США.
#ИИ