Малоизвестное интересное
64K subscribers
90 photos
1 video
11 files
1.8K links
Авторский канал Сергея Карелова о самом важном на фронтирах науки и технологий, что кардинально изменит людей и общество в ближайшие 10 лет.




Рекламы, ВП и т.п. в канале нет.
Пишите на @karelovs
加入频道
Создана энергетическая модель понимания ИИ сложных сцен.
Это еще не человек, но уже и не совсем машина, ибо кое-что понимает.

Современный ИИ водит авто лучше большинства людей. Но при этом не понимает ничего из того что видит. ИИ-автопилот способен аккуратно обогнать грузовик, но не в состоянии по вашей команде «ехать за грузовиком с красной кабиной». Причина в том, что ИИ-автопилот научили ориентироваться среди объектов, встречающихся на дорогах, но он не понимает композитной структуры окружающего мира: их взаиморасположение, взаимосвязь и т.д. Из-за этого он не понимает, что это грузовик, у него есть кабина, она имеет цвет и может быть красной.

Есть два способа проверить понимание ИИ композитной структуры окружающего мира:
• Visual Relation Understanding: предлагать ИИ описать на естественном языке, что он видит;
• Language Guided Scene Generation: предлагать ему сгенерировать изображение сцен по их описанию на естественном языке.

Например, «понимающая» окружающий мир умная колонка со встроенной камерой может, на ваш вопрос «как расставлена мебель в комнате», ответить что-то типа: слева у окна письменный стол, а перед ним стул, справа книжный шкаф, а за ним этажерка, на окне бежевые шторы, а на подоконнике цветок в горшке.
Или, например, она способна сгенерировать верную 3D картинку по вашему описанию: на дворе трава, а на траве дрова.
Умеющему сделать такое ИИ будет еще далеко до человеческого понимания мироустройства. Но и сказать, что он совсем не понимает, как устроен окружающий его мир, уже будет не справедливо.

Новый весьма оригинальный способ обучения ИИ пониманию сложных композитных сцен из многих предметов и их взаимоотношений описан в только что опубликованной работе Лаборатории компьютерных наук и искусственного интеллекта (CSAIL) MIT. Способ основан на «энергетической модели»: описание реляционной сцены отношений объектов, как произведение отдельных распределений вероятностей отношений между ними, причем каждое отдельное отношение определяется на изображении своим распределением вероятностей. Такая композиция позволяет моделировать взаимодействия между несколькими отношениями (популярно, научно).

Новый способ скоро позволит ИИ строить сцены по описаниям типа «на златом крыльце сидели: царь, царевич, король, королевич, сапожник, портной». И совсем не за горами понимание ИИ фраз типа «графиня изменившимся лицом бежит пруду».

Вместе с тем, даже столь обещающие перспективы «энергетической модели» не позволяют надеяться на понимание ИИ фраз типа «на меня наставлен сумрак ночи тысячью биноклей на оси». Ибо здесь, как с аффордансами, - проблема не в неисчислимости вариантов объектов и их отношений, а в неопределенности этих отношений (см. здесь). Это значит, что пока Борис Пастернак не создал этих отношений между объектами: «сумрак ночи», «тысяча биноклей» да еще и «на оси» в контексте «ощущения неотвратимости трагедии», - они просто не существуют в нашем мире.

И даже если они существуют в каком-то из иных миров Метаверса, люди уровня Бориса Пастернака умеют их оттуда извлекать, а алгоритмы ИИ – нет (т.к. преодолеть неопределенность с помощью вычислений нельзя).
#ИИ #МашинноеОбучение #Аффорданс
​​Без смены бизнес-модели соцсетей любая демократия скатится к диктатуре.
Это следствие социосетевого хейта, искривляющего пространство субъективной реальности.

Крайняя поляризация взглядов отрезает путь к их сближению и ведет лишь к конфликтам. Увы, но в этом смысле мы мало чем отличаемся от шимпанзе. Но это полбеды. А беда в том, что крайняя поляризация взглядов неотвратимо рушит любую демократию.
Демократии требуют компромисса. Но он становится практически невозможным, когда общество разделено на диаметрально противоположные лагеря. Опасность в том, что в такой конфигурации общества: нетерпимость лишь растет, демократические нормы приходят в упадок, а властная группировка идет на все, чтобы не позволить противникам когда-либо прийти во власть. Именно это и наблюдается (за редким исключением) во всем мире.

Новое исследование 3х универов США на предельно простой и элегантной (и потому весьма привлекательной) модели – всего два параметра (толерантность и реактивность коммуникаций), - получило убийственный вывод (1).
При уровне толерантности ниже 0,5 (что довольно типично для развитых стран), если давать людям все больше и шире активно общаться (соцсети – идеальные площадки) – дело неотвратимо кончится тотальной сварой, т.е. произойдет предельная поляризация, когда обе группы сочтут других нелюдями (со всеми вытекающими).

О механизмах того, почему и как это происходит, я уже не раз писал.
• Бизнес–модель соцсетей питается социосетевым хейтом, способствующим инфодемиям ненависти (2)
• Инфодемии ведут к искривлению инфопространства субъективной реальности участников соцсетей, что меняет сетевую топологию, определяющую инфопотоки, от которых зависят принимаемые людьми решения (3)
• В искривленном инфопространстве соцсетей происходит «скатывание» центристов на края, превращая их в ультракрайних (4).
Остановить это может только радикальная реформа платформ социальных сетей, о чем я писал в «Детокс Фэйсбука возможен. Он оздоровит общество и уменьшит раскол» (5)

На приложенном рисунке из нового исследования видно:
✔️ Сколь лавинообразно скатывание в раскол при уровне толерантности 0,25-0,45 (ось X)
✔️ Как по-южному быстро восходит поляризация (переход общества в желтый цвет раскола) при росте реактивности коммуникаций (ось Y), вовлекая в раскол все более толерантных (от чего спасает лишь толерантность > 0,75, а где такую найдешь кроме Северной Кореи, - впрочем, у нас всё впереди).
#СоциальныеСети #Раскол #Polarization #Толерантность #Соцсети

Ссылки:
1 2 3 4 5
Технологии таки превзошли эволюцию.
Ни одно существо на Земле не умеет так летать.

Последствия этого будут серьезней всех предыдущих технологических революций, - о чем рассказывает Мартин Бранденбург в новом Weekend Video о создании полностью автономных дронов.
Многоногие роботы ловко передвигаются, танцуют и показывают акробатические номера. Но им далеко до гепардов, пауков и кузнечиков. Продукты технологий здесь существенно хуже продуктов эволюции.
Однако технологии в 2021 смогли превзойти эволюцию, создав полностью автономных дронов, которые:
1. прекрасно видят: шесть 4К навигационных камер для обзора на 360 ° (при таком зрении не нужны компасы, гироскопы, GPS, лидары … ничего более).
2. понимают, что они видят (распознавание объектов и сцен):
a. 256-и ядерный графический процессор 1.3Т операций / сек, обрабатывающий за секунду 500М пикселей;
b. 9 нейронных сетей, в реальном времени строящих 3D модели всего, что видят.
3. интеллектуально действуют: алгоритмы глубокого обучения работают как «предиктивный мозг», предсказывающий будущее для принятия разумных решений.
Эти дроны абсолютно автономны. Им нужно лишь дать задание, а дальше они все сами (см. видео)
https://www.youtube.com/watch?v=d1fZNmI5AHc

Но вот беда. Такие дроны – идеальные киллеры, отследить и помешать которым почти нереально. А их летающие группировки (а то и рои) полностью дегуманизируют войны, принимая автономные решения, кому жить, а кому нет.

Посмотрите всего 1 минуту, как это может быть очень скоро.
https://youtu.be/9rDo1QxI260?t=184

Послезавтра начнется конференция по конвенции о «негуманном» оружии. На ней будет рассмотрен предложенный Международным комитетом Красного Креста (МККК) мировой юридически обязывающий запрет на автономное оружие с искусственным интеллектом.

По экспертным оценкам, это предложение не пройдет, т.к. против запрета выступят США, Россия, Китай, Индия и Великобритания.
#Война #ИИ #БПЛА #AWS
Военный ИИ в разы превосходит людей по двум показателям.
И в штабе ВВС США они хорошо известны: уязвимость и самонадеянность.

В своем официальном выступлении генерал-майор Дэниел Симпсон (помощник заместителя начальника штаба по разведке, наблюдению и рекогносцировке Штаб-квартиры ВВС США) лишь озвучил три хорошо известных для американских военных факта.
1. Не самая высокая точность алгоритмов военных ИИ (из-за дефицита обучающих данных, несопоставимого, например, с морем данных для самоуправляемых авто) – это еще не самое плохое.
2. Куда хуже, что попытки преодолеть дефицит данных, используя небольшие наборы с локальной спецификой или синтетические – искусственно сгенерированные данные), делают военный ИИ крайне уязвимым. Т.е. малейшее отличие данных реальной военной ситуации (например, смена угла зрения) от ситуаций, на которых учился ИИ, ведет к катастрофическому снижению точности решений и действий ИИ.
3. Такую потерю точности люди прекрасно видят. Но в отличие от них, военный ИИ продолжает считать, что он - «верная рука – друг индейцев». В примере экспериментальных стрельб, приведенном генералом Симпсоном, ИИ продолжал считать свою точность 90%, даже когда по факту она была всего лишь 25%.
Подробней здесь https://www.defenseone.com/technology/2021/12/air-force-targeting-ai-thought-it-had-90-success-rate-it-was-more-25/187437/

Этот (как и вчерашний) пост приурочен к открывающейся завтра международной конференции. Теоретически, человечество уже на следующей неделе могло бы принять решение двигаться к юридически обязывающему запрету на автономное оружие с ИИ.
Но на практике, этого скорее всего не будет из-за нежелания США и ряда других стран пойти на полный запрет.

Целью же этого поста было подчеркнуть, что несовершенство и уязвимость любых разновидностей автономного ИИ оружия, в сочетании с их нечеловеческой аморальностью и самонадеянностью, - прокладывают путь к таким массовым убийствам, за которые и осудить будет некого. Ибо главное преимущество ИИ не в уровне его интеллекта. А в том, что он неподсуден.

• Специалисты по ИИ это знают и 73% опрошенных среди них против автономного ИИ оружия.
• Военные (судя по тому, что сказал генерал Симпсон) тоже в курсе того, насколько это неэффективно и опасно.
Получается, что против запрещения автономного ИИ оружия лишь политики?
#Война #ИИ #БПЛА #AWS
Лет через 30 (а может и через 300) «конституция биоматематики» (так я называю систему фундаментальных принципов жизни и разума, объединяющую их физическую, математическую, биологическую и когнитивную основы), возможно, будет считаться главным научным законом природы. Пока же это лишь система эвристических гипотез, хотя и на крепкой математической основе.
Тем интересней узнавать о появлении первых экспериментальных подтверждений, согласующихся с предсказаниями «конституции биоматематики».
✔️ Первым таким прорывом, стало исчерпывающее научное объяснение «иллюзии Луны», над которым человечество билось более двух тысяч лет. Оказалось, что магия великой иллюзии объясняется проективной геометрией в основе пространственной модели, используемой сознанием.
✔️ Новое экспериментальное подтверждение проективной модели сознания объясняет, каким образом в нем строится субъективное представление о времени.
✔️ Следствиями этого нового экспериментального подтверждения могут стать два научных прорыва:
• прорыв к полноценной теории сознания, воплощающего в себе субъективную точку зрения, необходимую для интеграции информации субъективного опыта и позволяющую интеллектуальному агенту создавать субъективные смыслы в понимании биологической кибернетики;
• прорыв в понимании механизма дистального моделирования – свойства людей мысленно улетать далеко от реальности “здесь и сейчас”; а в перспективе, – возможность экспериментального выявления «имаджинавтов» (супер-креативных людей, способных к ничем не ограниченным перемещениям по неисчерпаемой вселенной воображаемых миров Мультиверса).

Продолжить чтение моего нового поста (еще на 6 мин)
- на Medium https://bit.ly/3oO9CQV
- на Яндекс Дзен https://clck.ru/ZJzRK
#ПринципСвободнойЭнергии #ПроективнаяТеорияСознания #Имаджинавты #Воображение #Креативность
Угробит ли Китай свои инновации, или госмонополия на данные важнее.
Надзорный капитализм может стать спасительной модернизацией ленинизма.

🔹 Наличие океанов данных – один из важнейших факторов лидерства в цифровой экономике 21 века.
🔹 Тотальная слежка - один из важнейших факторов обеспечения несменяемости власти.
В странах с авторитарным режимом (Китай и не только):
1. надзорный капитализм (создание экосистемы тотальной цифровой слежки во благо интересов власти и большого бизнеса) душит инновационный потенциал (что для страны очень плохо);
2. госмонополия на данные позволяет ускорять развитие всего комплекса завязанных на «большие данные» технологий - в первую очередь, это ИИ (что для страны очень хорошо).

В зависимости от того, какой из двух факторов окажется сильнее в условиях конкретной страны, во многом зависит успешность ее экономики и крепость её политического режима.

Разведка и лучшие «мозговые центры» мира бьются над вопросом, какой из двух названных факторов окажется сильнее в Китае. Но данных для точного ответа на этот вопрос пока маловато (да и Китай все активней их прячет).

И все же первое из серии подобных исследований опубликовано - Artificial Intelligence, Surveillance, and Big Data (1).

Его предварительный вывод таков.
Негативные последствия цензуры и слежки в Китае могут быть смягчены – или даже перевешены – положительными эффектами наличия больших объемов доступных данных.

Т.е. получается, что надзорный капитализм может стать спасительной техномодернизацией китайского варианта ленинизма (о которой только что вышла интересная книга Retrofitting Leninism: Participation without Democracy in China (2))

Полагаю, что такой вывод применим не только к Китаю. И если это действительно так, то приход Большого Брата – сына Большого Бога может стать глобальным будущим человечества.
#Китай #НадзорныйКапитализм #ГосмонополияДанных #БольшойБрат #БольшиеБоги
Ссылки 1 2
Со времен моей работы в SGI, иллюзии визуальных киноэффектов – моя слабость.
Но посмотрев трейлер новой «Матрицы» (собравший в сете более 50М просмотров), пришел к печальному выводу. Даже такие суперпрофи, как Райан Урбан с его командой Turncoat Pictures, уже не могут чем-то удивить больше, чем зрители видели в их прежних работах.
Увы, но все упирается в технологические ограничения современных кинотеатров. И это прекрасно иллюстрирует пример новой корейской маркетинговой кампании джипа Wrangler.

На одной из главных улиц Сеула компания Jeep создала 3D-проекционный экран, на котором прохожие могут увидеть, как новый Wrangler 4XE буквально вываливается из экрана. Эффект 3D поражает своей реалистичностью и впечатляет даже самых технически продвинутых корейцев.
На вашем экране это, конечно, смотрится куда скромнее. А в Сеуле прохожие шарахаются весьма натурально, спасаясь от обрушивающегося на них джипа.
https://www.youtube.com/watch?v=yFKYEXMkk90

Ну а о том, что хакнуть человека гораздо проще, чем считалось, и что это можно делать через иллюзии восприятия, я уже писал здесь https://yangx.top/theworldisnoteasy/1104
#Восприятие #Иллюзия
Сверхдержава - это способность государства решать сверхзадачи.
Две новые техно-битвы Китая и США за мировое первенство в 21 веке.

Достигнутые Китаем фантастические масштабы и скорость строительства дорог и зданий широко известны. Но мало кто предполагал, что новыми чемпионскими битвами Китая с США станут
🔹 национальный экологический инфраструктурный проект (всекитайская сеть зарядных станций для электромобилей)
🔹 три мегапроекта мирового уровня в области открытого программного обеспечения

Зарядка электромобилей
На этой неделе администрация Байдена обнародовала амбициозную федеральную стратегию стоимостью $7,5 млрд по строительству 500К зарядных станций для электромобилей по всей стране. Объявлено, что «это крупнейшие в истории США вложения в зарядку электромобилей станет преобразующим первоначальным взносом при переходе к будущему с нулевыми выбросами» (1).
Этот план США – ответ на абсолютное доминирование Китая в важнейшем техно-экологическом соревновании 21 века: в 2020 в Китае было 800К зарядных станций, а в США лишь 110К (2)
Но беда США в следующем:
• их план предусматривает строительство 500К зарядных станций, чтобы хоть как то приблизиться по числу станций к показателю Китая в 2020;
• но Китай в 2021 ввел в строй еще более миллиона (!) зарядных станций, доведя их общее число до 2220К.

Чтобы читатель мог понять колоссальность масштаба и скорости развития этого китайского нацпроекта, просто сравните китайский миллион станций в год с Россией:
• к началу 2020 зарядных станций в России было 161 (из них около 100 в Москве (4), а к 2023 в Москве должно стать 600 (5))

Теперь о мега-проектах ПО с открытым кодом.
Китайское Министерство промышленности и информатизации заявило, что «ПО определяет мир будущего, а Open source определяет будущее ПО». И поэтому поставлена цель – «к 2025 году создать 2-3 сообщества с открытым исходным кодом, обладающих “глобальным влиянием” в мире» (6).
О том, что это могут быть за мега-проекты мирового уровня можно прочесть в (7). Здесь лишь назову три таких проекта.
• Проект Apollo от Baidu – переход на роботакси в 65 городах к 2025. Этот проект – вызов Илону Маску. Если закрытая система управления Tesla является iOS для самоуправляемых авто, то Apollo может стать в этой области подобием ОС Android.
• Второй проект – OpenHarmony от Huawei. Это open source альтернатива ОС iOS и Android для всех, кому не нравится гегемония США, всякие там санкции и т.п.
• Третий проект OpenXuantie от Alibaba. Это RISC-V архитектура проектирования полупроводников с открытым исходным кодом. Этот проект может определить будущее полупроводниковой промышленности мира.

В заключение вернусь к сети зарядок и процитирую мнение редакции (3), ибо то же самое можно сказать и про открытое ПО.
• Неважно, расстроены вы этими цифрами или нет, они не лгут.
• Независимо от ваших мыслей или мнений о КПК, более 10 лет назад они решили бороться со своими обширными выбросами парниковых газов с помощью внедрения NEV, и они стали мировым лидером в этой области.
• Трудно сказать, что более удивительно (и, возможно, обескураживает), - размер сети зарядки в Китае или насколько она больше, чем в любой другой стране.
• Китай - действующий чемпион, нравится вам это или нет. Это факт, а не мнение, так что сдерживайте ксенофобию в себе и в коментах.
• Если вы расстроены, обратитесь к правительственным чиновникам и спросите, что они делают для создания в стране инфраструктуры для автомобилей с нулевым уровнем выбросов.
#Китай

1 2 3 4 5 6 7
Китай начинает заселение Метаверса.
Первые 100К колонистов прибудут туда через 10 дней.

Пока Марк Цукерберг и Билл Гейтс лишь пиарят фантастическое будущее человечества в Метавселенной, прагматичный Китай начал его заселение. 27 декабря китайский поисковый гигант Baidu запускает процесс колонизации первой планеты Метавселенной Xirang (Земля Надежд). Это гигантская VR лента мёбиуса, созданная на VR-платформе Baidu, внутри которой до 100 тыс. аватаров участников конференции Baidu AI Developer Conference на 3 дня погрузятся в виртуальное 3D пространство Земли Надежд.
Похожая на Страну чудес иммерсивная виртуальная планета подарит участникам конференции улетные впечатления. Здесь аватары всех участников будут:
• смотреть панельные выступления и участвовать в дискуссиях;
• отрываться на дискотеках;
• посещать выставочные стенды участников;
• развлекаться на концертах с участием героев мультфильмов (Оптимус Прайм из Трансформеров и пр.);
• путешествовать по древним монастырям, где монахи будут обучать их шаолиньскому кунг-фу;
• и много чего еще: делать покупки, знакомиться с новыми людьми ...
см. WEEKEND VIDEO https://www.youtube.com/watch?v=RiXby8NNupg

Пользователи смогут переноситься на планету «Земля Надежд» с различных устройств (компьютеры, телефоны и носимые устройства), подключать своего аватара к глобальному голосовому чату и напрямую общаться с аватарами других людей на планете «Земля Надежд».

Так что пока многие западные скептики сомневаются в прогнозах Цукерберга и Гейтса о переводе в течение 2-3 лет большинства встреч и конференций в Метавселенную, в Китае всё уже закрутилось на практике.
Помимо Baidu, засуетились три китайские государственные телекоммуникационные компании - China Mobile, China Unicom и China Telecom. Уже в ноябре они объединились с несколькими технологическими компаниями, чтобы сформировать Metaverse Industry Committee - первую отраслевую группу Китая, посвятившую себя массовому заселению Метавселенной китайцами. А заодно и планирующую через 3 года получить изрядную долю $800-миллиардного рынка Метаверса.

#Metaverse #Китай
Лицензия ИИ на убийство людей продлена на неограниченный срок.
8 лет экспертных обсуждений спущены в унитаз.

Завершившаяся в пятницу в Женеве 6-я конференция по рассмотрению действия Конвенции о запрещении или ограничении применения конкретных видов обычного оружия теперь войдет в историю.
• 8 лет человечество обсуждало необходимость введения юридически значимых международных правил защиты людей от автономного смертельного оружия (роботов-убийц, принимающих решения с минимальным участием человека или без него).
• Впервые большинство из 125 стран заявили, что хотят ограничить возможности роботов-убийц.
• США, Россия, Великобритания и Индия заблокировали такое решение.

Моральные, этические и гуманитарные риски, риски безопасности и правовые риски, применения роботов-убийц оказались далеко не самым важным вопросом для Конвенции ООН.
Конференция завершилась в пятницу лишь расплывчатым заявлением о целесообразности в 2022 рассмотреть возможность поиска приемлемых для всех стран мер по данному вопросу.
«Я подумаю об этом завтра», - говорила в подобных случаях героиня «Унесенных ветром» Скарлетт О`Хара. Но проблема в том, что завтра может быть поздно.

За день до этого, в ходе дискуссии, организованной Международным Красным Крестом, я предсказал ровно этот бесславный итог конференции, за который очень скоро будет заплачено многими жизнями людей.

Мое выступление и ответы на вопросы (22 мин) можно посмотреть здесь.
https://www.youtube.com/watch?v=oG9FICaJRcI

#Война #ИИ #БПЛА #AWS
​​Кто есть кто в мире ИИ по итогам 2021.
Рейтинг стран и перспективы 2022

Сначала главный прогноз – «зимы ИИ» в 2022 не будет. Она откладывается, как минимум, до 2023.
«Библия верующих в ИИ», как и Главная книга человечества, состоит из старого и нового заветов.
• «Старый завет» - отчет Стенфордского центра HAI «AI Index», публикующего в начале каждого года итоги «старого» (прошлого).
• «Новый завет» - отчет Tortoise «The Global AI Index», как и положено «новому», опережает всех, публикуя итоги уходящего года уже в декабре.
Оба отчета призваны дать количественные ответы на два ключевых вопроса:
✔️ Каково текущее состояние главных трендов развития ИИ
✔️ Каково текущее состояние мировой «ИИ-гонки» стран по ключевым индикаторам.



Об итогах 2020 по версии «AI Index» я писал в марте (рекомендую обновить в памяти)
Теперь же об итогах 2021, согласно новому «The Global AI Index».

1. Как уже сказано, - «зимы ИИ» в 2022 не будет. Такой впрыск денег ($78 ярдов – рост на 109%) и снег растопит, и холода сдует.
2. Три лидера (США, Китай, Великобритания), как несокрушимые авианосцы, возглавляют рейтинг 62 стран вот уже 4й год (но при этом Китай медленно достает США)
3. Израиль прёт в рейтинге как на дрожжах. С 2019, болидом промелькнув мимо Германии и Франции, Израиль поднялся с 12 на 5 место. Еще бы не переть, имея 1е места в мире: по доле ВВН на НИОКР и по финансированию ИИ на душу населения. Россия, - алё гараж!
4. Кстати о России. Всё стабильно, как на кладбище. Даже приподнялись со времен 2019 с 33 на 32 место, сделав-таки Мальту.

К сожалению, результаты России заставляют меня повторить то, что уже писал 2 года назад.

Можно дискутировать, насколько хороши методики отчетов. Но чудес не бывает даже в области аналитики ИИ. Как ни оценивай, но Россия в области ИИ уже не входит не только в восьмерку, но и в двадцатку.
И это главный итог, который необходимо осознать всем ответственным за реализацию российской ИИ стратегии.
Иначе погружение на дно мировых ИИ индексов продолжится и в новом году.

P.S. И конечно же, об этом нужно честно писать. Если не официальным СМИ (с них какой спрос), то хотя бы независимым аналитикам и журналистам.
#ИИгонка
​​65% топ-выдачи Яндекса искажают инфореальность, продвигая теории заговора.
Проведен сравнительный аудит конспирологичности поисковиков.

К сожалению, информатизация общества имеет и отрицательные последствия. Одно из них - рост «интеллектуальной слепоты» все большего числа людей. Ее характерными признаками являются: (1) неумение отличить фейк от правды и (2) повышение доли конспирологических убеждений в мировоззрении людей.
Маршевыми двигателями процесса «интеллектуального ослепления» масс стали социальные сети и поисковики.
И если ослепляющий эффект первых можно хотя бы минимизировать (стерев экаунт или заходя в соцсеть пореже), с поисковиками дело совсем хана: без них как без рук.

В этой связи, важнейший для каждого из нас вопрос:
насколько сильно конкретный поисковик искажает инфореальность в пользу конспирологического мировоззрения - всевозможных теорий заговора.
Проверить это можно лишь путем сравнения первых страниц поисковой выдачи разных поисковиков на запросы, так или иначе связанные с теориями заговора. Чем больше в выдаче ссылок на отстойные ресурсы конспирологов, и чем они выше в выдаче, тем сильнее алгоритмы поисковика искажают инфореальность, пропагандируя теории заговора.
Важно также, что следствием такого искажения инфореальности, помимо роста «интеллектуальной слепоты», становится усиление раскола общества и повышение в нем градуса хейта.

Только что опубликованное исследование четырех солидных институтов из Швейцарии и Германии «Where the Earth is flat and 9/11 is an inside job: A comparative algorithm audit of conspiratorial information in web search results» описывает результаты аудита 4х поисковиков: Google, MS Bing, DuckDuckGo, Yahoo! и Яндекс.
Обобщение результатов вы видите на приложенной диаграмме.

Главных результатов три:
✔️ Степень искажения инфореальности у MS Bing, DuckDuckGo, Yahoo! составляет от 25% до 40%.
✔️ Абсолютный чемпион по продвижению теорий заговора – Яндекс (65% его топовой выдачи продвигает источники, пропагандирующие теории заговора.
✔️ Алгоритмы поисковиков настолько подвержены предвзятости в пользу теорий заговора, что вычистить их пропаганду из поисковой выдачи могут лишь люди (что и делает среди поисковиков лишь Google).


P.S. В пандан к этой теме - о том, что благодаря поисковикам, мы знаем все больше, а понимаем все меньше, я недавно писал.

#КогнитивныеИскажения #ИнтеллектуальнаяСлепота #Вызовы21века
​​Безумие ИИ.
Решения на основе полной бессмыслицы
.
Популярная метафора, приводимая ИИ-энтузиастами, напоминает, что люди смогли «научить» самолеты летать, не уподобляясь машущим крыльями птицам. Вот и машинное обучение нейросетей, считают ИИ-энтузиасты, также способно обеспечить функции разума без 100%-го повторения способностей разума людей.
Ошибочность этого сравнения в том (говоря языком той же метафоры), что машинное обучение обеспечивает совсем иную способность, чем способность летать. Эта лишь на первый взгляд похожая способность – умение подняться выше уровня земли. И реализуется эта способность путем залезания на ближайшее дерево. Но полет – это далеко не только способность подняться над землей. И так же, как влезание даже на очень высокое дерево не способно обеспечить полета, машинное обучение в принципе не способно дать машине разум.

Недавно проведенное исследование MIT обнаружило, что нейронные сети, обученные на популярных бенчмарках, демонстрируют новый тип сбоя, называемый гиперинтерпретация или чрезмерная интерпретация (overinterpretation).
Суть этого сбоя в том, что алгоритмы машинного обучения делают уверенные прогнозы на основе информации, которая не имеет смысла для людей и не имеет отношения к решаемой задаче.

Посмотрите на приложенные изображения.
• Изображения в нижней строке отличаются от исходных изображений (верхняя строка):
-- на них отсутствует 95% исходного изображения;
-- и эти отсутствующие 95% изображения несут ВСЮ смысловую информацию для верной классификации изображения.
• Тем не менее, сети классифицируют нижнюю строку изображений с достоверностью 90%+
Это значит, что сети, на самом деле, вовсе не учатся распознавать собаку или панду, а вместо этого могут распознать животное просто по типу травы на заднем плане.

Происходит это из-за того, что ИИ решает совершенно иные задачи, чем разум (как в метафоре – задачу подняться выше уровня земли, вместо задачи полета).
Цель разума – умение выбирать эффективные действия.
Это умение – ключевое эволюционное преимущество животных перед растениями, для обеспечения которого у животных появилась нервная система, а потом и мозг.

Как пишут про это Сломан и Фернбах в «Иллюзии знаний»:
Если бы мы эволюционировали в условиях, в которых вместо умения выбирать
эффективные действия требовались бы какие-то другие способности, то человеческий разум, наверное, опирался бы на какую-то другую логику, отличную от существующей. Если бы наша эволюция проходила в мире, где вознаграждались бы победители в азартных играх, мы, вероятно, безошибочно рассуждали бы о плотности распределения вероятностей и об уравнениях статистики. Если бы мы эволюционировали в мире, в котором поощрялось бы дедуктивное мышление, мы все, подобно Споку, были бы виртуозами по части логических заключений. Но мы в большинстве своем не сильны в этих делах. Вместо этого мы развивались в мире, где правит логика действий, и именно поэтому такой вид мышления составляет основу того, что делает нас людьми.


Современный ИИ устроен совершенно иначе. Он учится на огромных массивах данных, выявляя в них ЛЮБЫЕ статистические особенности. Не обладая пониманием решаемой задачи:
✔️ ИИ не способен отличать статистическую значимость от практической важности;
✔️ ИИ способен принимать решения на основании полной бессмыслицы (статистических закономерностей, не только не имеющих отношения к задаче, но и вообще ни к чему)

В коментах к моему недавнему посту об автономном оружии, некоторые разработчики ИИ (так они себя определяют) корили меня за незнание матчасти – мол, ребенка от низкорослого мужчины ИИ отличит лучше человека.

Исследование MIT, увы, говорит об ином. И куда худшем.
Из-за гиперинтерпретации автономный дрон-киллер способен классифицировать ребенка, как мужчину, на основе чего угодно: узора проплешин травы на газоне, тени деревьев на стене дома ... И такое решение автономного дрона-киллера будет окончательным.
https://bit.ly/3HaSVpe
#Гиперинтерпретация
​​Полвека в плену иллюзии закона Мура.
По вычислительной мощности люди уже давно превзошли Бога.

На Weekend Сartoon изображены:
• слева – реклама Boing 707 Clipper Jet 1958 г
• справа вверху - мэйнфрейм IBM 7090 (фото 1961 г)
• справа внизу – фото вводимого в строй до конца 2021 г суперкомпьютера Frontier

В 1985 Амар Гупта написал в книге Insights into Personal Computers:
«Если бы авиастроительная промышленность за последние 25 лет развивалась так же стремительно, как компьютерная индустрия, Боинг 767 сегодня стоил бы 500 долларов, и облетел бы земной шар за 20 минут на пяти галлонах топлива».
Сегодня это сравнение звучало бы так.
«Если бы авиастроительная промышленность за последние 75 лет развивалась так же стремительно, как компьютерная индустрия, Боинг 787 сегодня стоил бы дешевле коробка спичек, и облетал бы земной шар менее чем за 1 секунду, затратив менее 1 грамма топлива».

Чтобы ощутить вселенский масштаб прорыва человечества в области обработки информации не помогает даже стремящийся к экспоненциальности закон Мура. Он ведь оценивает лишь скорость удвоения количества транзисторов, размещаемых на кристалле интегральной схемы. А для оценки роста скорости вычислений нужно учитывать не только тактовую частоту вычислительных элементов, но и архитектуру вычислений, объем оперативной памяти, а также скорость и ширину каналов обмена информацией в вычислительной системе.
Если учесть рост всех этих показателей со времен знаменитого мэйнфрейма IBM 7090, появившегося 75 лет назад, как и Boing 707 Clipper Jet, получается просто немыслимый рост вычислительный мощности (1).
Хороший современный лаптоп примерно в квадриллион раз (10^15) превышает вычислительную мощность мэйнфрейма IBM 7090.
Объем недельных вычислений на современном ноутбуке потребовал бы на IBM 7090 больше времени, чем возраст Вселенной (14 миллиардов лет).

И это в сравнении с обычным современным лаптопом.
А если сравнить IBM 7090 с первым эксафлопным компьютером Frontier (выполняющим 1 000 000 000 000 000 000 операций в секунду), сборка которого на днях закончится в Национальной лаборатории Ок-Ридж (США) (2), то разрыв будет на несколько порядков больше, чем при сравнении мощности двигателя детской машинки и судового двигателя Wartsila-Sulzer RTA96-C (100+ тыс. л.с.)

Все вышесказанное относится к фантастическому прорыву в вычислениях (обработке информации).
Сравнивать это с «вычислительной мощностью» мозга (чтоб опровергнуть провокационный тезис подзаголовка), на мой взгляд, нет смысла, ибо мозг, скорее всего, вообще не вычисляет.
• Мозг работает не как компьютер.
• К мозгу не применима метафора HW и SW: он вовсе не HW (аппаратура) для выполнения алгоритмов SW (сознания и мышления)

Ссылки: 1 2
#Мозг #ВычислительнаяТеорияРазума
Проект имени предводителя всех медиумов планеты позволит людям преодолеть «зловещую долину».
Сегодня во WEEKEND VIDEO новый ролик о реалистичном роботе-гуманоиде Ameca компании Engineered Arts, который уже довел до кипения споры экспертов вокруг этого проекта.
• Его сторонники восхищаются тем, что Ameca теперь не только очень похоже имитирует мимику, жесты и даже «кокетство» людей, но первым среди роботов-гуманоидов, обрел «чувство собственного пространства». Совсем недавно об имитации подобных «чувств» у роботов не было и речи. Они лишь, подобно Софии (Sophia) бесстрастно вещали человеческим голосом, не вызывая у видящих их людей ничего, кроме снисходительной улыбки. Ameca же, как признаются его разработчики, уже начинает своей реалистичностью их самих пугать… Эта имитация действует уже на уровне подсознания людей.
• Противники же проекта продолжают настаивать на его, якобы, бессмысленности. Мол, кому и зачем нужны такие человекоподобный роботы, кроме как с понтом народ удивлять на выставках и шоу?

Но все не так просто, ибо у Engineered Arts есть сверхзадача, о которой они пока публично не говорят (но есть шанс, что объявят в январе на CES 2022).

Дело в том, что компания намерена совершить прорыв в робототехнике – найти способ обхода «зловещей долины».

Согласно гипотезы "зловещей долины" японского робототехника Масахиро Мори, робот-гуманоид, выглядящий и действующий почти как человек, вызывает отвращение у людей.
Казалось бы, чем больше робот похож на человека, тем симпатичнее он должен казаться людям. Но оказывается, что так происходит до определенной границы, за которой провал в симпатиях людей - "зловещая долина" с зомби, трупами и отвращением к протезам частей человеческого тела. То есть гуманоид, выглядящий почти как человек, но подсознательно воспринимаемый не человеком, нас пугает.

Как заставить наше подсознание не пугаться "зловещей долины" - задача на много миллиардов. Уже через несколько лет роботы начнут заменять людей в деятельности, проходящей среди людей (а не только на заводах и складах, как сегодня). И вот тут-то и понадобиться умение сделать таких гуманоидных роботов, чтобы они вызывали у людей не испуг, не отвращение и даже не равнодушие. Нужно, чтобы они на подсознательном уровне вызывали расположение людей.

Для решения этой задачи в Engineered Arts уже несколько лет ведется зонтичный проект Месмер (видео), от которого отпочковался фронт-проект Ameca. Оба проекта работают на решение сдвоенной вышеназванной сверхзадачи: кожа, волосы, глаза, рот проекта Mesmer, а также мимика и движения проекта Ameca – все в комплексе должно подсознательно вызывать у людей расположение, позволяющее преодолеть "зловещую долину".

В заключение, почему проект назван Месмер.
• Франц Антон Месмер (Mesmer 1734-1815) — австрийский врач, создатель учения животного магнетизма («месмеризм»). Согласно Месмеру, люди выделяют особого рода энергию (флюиды), которые позволяют им устанавливать телепатическую связь друг с другом.
• В романе Пелевина «Смотритель» (процитирую Г. Юзефович) «предводитель всех медиумов планеты Франц-Антон Месмер — силою мысли сумели надуть огромный ментальный пузырь, то есть визуализировать, а после расширить и обжить целый новый мир (Идиллиум), основанный на так называемом Флюиде — особом веществе, связывающем дух и материю, а по проявлениям очень похожем на джедайскую Силу».

Однако, как показано в романе Пелевина, Идиллиума не существует. Это всего лишь проекция человеческого сознания, существующая только благодаря тому, что герой романа на него смотрит.

Названием Месмер авторы проекта также дают понять, что и "зловещая долина" – лишь плод нашего сознания. И поэтому проект Месмер вовсе не про роботов-гуманоидов, а про нас.
#роботы
Накануне Нового года особенно приятно писать не только о малоизвестном интересном, но и о чем-то абсолютно прорывном и сулящем буквально каждому интригующие перспективы.

Всю жизнь я тужил, что так и не научился метко бросать мяч в кольцо, да и на теннисном корте точностью не отличался.
Казалось бы, в чем проблема – точно повторить то же самое движение, что как-то уже получалось при удачном броске в кольцо или при ударе по мячу на корте?
Но увы, все было без вариантов. Как будто в памяти немедленно затирались команды мозга мышцам, приведшие к успешной попытке.

И вот появляется новая теория (среди авторов которой сам Дэн Уолперт), которая, по идее, сможет помочь восстанавливать затертые в памяти команды мышцам.

Да что там восстановление памяти!
Новая теория, возможно, станет единой универсальной моделью познавательных способностей, позволяющей понять, как в материальном мозге рождаются нематериальные сознание и мышление.

В посте много видео (2 художественных фильма и 3 часовых лекции). Так что, если в предновогодней горячке время не найдете, отложите на длинные выходные – оно того стоит.

Мой новый пост (8 мин чтения без учета кучи видео)
- на Medium https://bit.ly/3z8TIo6
- на Яндекс Дзен https://clck.ru/aeEY6

#ВоплощенныйИнтеллект #Разум #Движение #Память
​​Поздравляю всех читателей с наступающим Новым Годом!
Что он нам несет, не знает никто. Одно лишь известно точно: 1го февраля 4718-й год белого быка сменится 4719-м годом черного тигра!
Большинство из нас замечают, что годы сменяются все быстрее, и кажется, будто время ускоряется.
В этой связи у меня к Вам три пожелания в Новом Году, связанные с малоизвестными интересными недавними открытиями.
1. Часы нашей жизни можно притормозить, дабы они тикали помедленнее. Определяющие наш биологический возраст эпигенетические часы тикают тем быстрее, чем сильнее и дольше испытываемые нами стрессы. Замедлить ход этих часов можно путем усиления регуляции своих эмоций и повышением самоконтроля. Короче, держите себя в руках, не психуйте, и ваши часы жизни пойдет медленнее, продлевая время вашей здоровой жизни.
2. Время на изучение видео-лекций можно сократить вдвое (что весьма важно в свете неотвратимого роста доли удаленного образования и самообразования). Эксперимент с лекциями по гуманитарным предметам показал, что при двукратном ускорении не страдает ни понимание, ни усвоение материала. Осталось проверить, как это работает с естественными науками. Но потенциал многообещающий.
3. Неожиданность – важный фактор познания, позволяющий лучше запоминать сюрпризы, с которыми сталкивается наша машина предсказаний – мозг. Наше удивление увеличивается по мере роста разъяснительной работы мозга, необходимой для объяснения, как такое возможно. Но есть вещи, которые мозг объяснить не в силах – например, иллюзии. Их ценность для нас в том, что они как бы взвинчивают работу мозга на максимальные обороты.
Так что желаю вам периодически разгонять свой мозг до максимума, предъявляя ему иллюзии, которые он в принципе не может объяснить.
Например, иллюзию того, что все кружки на приложенном рисунке разноцветные (на самом деле, все они одного цвета)

Еще раз, с наступающим НГ! И будьте здоровы!
Ваш С.К.
Китай проложил первый канал выхода в Метаверс.
Цель – отправить по нему Запад, освободив физический мир для китайцев.

Первые дни 2022 высветили контуры нового тектонического цивилизационного раскола Китая и Запада.
🔹 В 2021 стало ясно, что гиганты западного БигТеха и БигФина делают ставку на Метаверс, как новое поколение потребительской Интернет-индустрии, сулящее в ближайшее десятилетие триллионные доходы и усиление контроля над массами.
🔹 Однако Китай это не устраивает. Стратегический план председателя Си основан на том, чтобы китайцы жили в физическом мире: рожали детей, выплавляли сталь и производили лучшие в мире полупроводники.

В свете этого принципиального противоречия, воистину знаменательным событием стал запуск «китайским Гуглом» Baidu в последние дни 2021 процесса колонизации первой планеты Метавселенной Xirang (Земля Надежд). Это гигантская VR лента мёбиуса, созданная на VR-платформе Baidu, внутри которой до 100 тыс. аватаров участников первого в истории симпозиума по технологиям Метавселенной (в рамках Baidu AI Developer Conference) на 3 дня погрузились в виртуальное 3D пространство Земли Надежд. Там они смотрели выступления докладчиков, участвовали в дискуссиях, отрывались на дискотеках и концертах, ходили по выставкам и древним шаолиньским монастырям, делали покупки и знакомились с новыми людьми - см. мой пост от 18 декабря.

Конференцию-симпозиум открыл Робин Ли - основатель, генеральный директор и председатель совета директоров Baidu, миллиардер №5 Китая. Выступая, то в футуристическом антураже Земли Надежд, то переносясь своим аватором в невесомость космической станции (напоминающей своей белизной станцию из фильма «Солярис»), Робин Ли провозгласил наступление «Золотого десятилетия ИИ», которое изменит мир.
https://youtu.be/ZyY30XnH5WU?t=1015

Полагаю, что реминисценция с «Солярисом» появилась в выступлении Ли не случайно. Как никто разбирающийся в струях и течениях «гражданского слияния» стратегии БигТеха и линии КПК стратегический аналитик шанхайской компании Gavekal Dragonomics Дэн Ван, позавчера тонко подметил.
«Китай подобен мыслящему океану в "Солярисе" Станислава Лема - гигантская сущность, генерирующая видения, персонализированные для каждого наблюдателя. Эти видения могут быть механизмом самозащиты, позволяющим левым увидеть социализм, а инвесторам – капитализм. А на самом деле, подобно океану Лема, Китай совершенно равнодушен к иностранным наблюдателям и создает видения, лишь чтобы играть с ними. В любом случае, извне крайне трудно понять эту страну. Слишком много комментаторов фокусируются на возможностях краха Китая. Но когда крах не наступает, они теряют интерес и двигаются дальше. Здесь же требуется куда более важный и тонкий навык - понять, как эта страна может добиться успеха, - ибо именно этим занимается китайское руководство».

Истина же в том, что Пекин не будет дружелюбен по отношению к Метавселенной.
Государственные СМИ и Народный банк Китая уже выразили подозрение в отношении этой концепции. КПК считает, что Метаверс станет мета-провалом Запада. Отвергая потребительский Интернет как вершину технологий, Пекин считает, что интернет-платформы приносят не только большие деньги, но и множество социальных проблем.

В своей октябрьской речи о всеобщем процветании Председатель Си отмечал: «Богатые и бедные в некоторых странах поляризовались, доводя до краха средний класс. Это привело к социальной дезинтеграции, политической поляризации и безудержному популизму».

Метавселенная, представляющая инновационный способ побега американской элиты из физического мира, может только усугубить социальные различия, - считает Дэн Ван. Как и криптовалюты, это слишком увлекательная игра, в которую играет небольшая часть населения, в то время как средний класс озабочен более материальными проблемами, такими как оплата счетов за электроэнергию.

Все это наводит на мысль, что Метаверс нужен Китаю лишь для того, чтобы отправить туда Запад, освободив физический мир для китайцев.
#Metaverse #Китай
​​Объединение физического, биологического и цифрового миров уже к 2030 становится реальным.
Суперпрорыв Китая в технологии 6G.

Вчера китайская лаборатория Purple Mountain в Нанкине официально сообщила об установлении мирового рекорда скорости передачи 6G в режиме реального времени для беспроводной связи в терагерцовом диапазоне.
(новость на китайском, на английском)
Количественно масштаб этого прорыва покажет такое сравнение.
• Сегодняшняя скорость нашего 4G мобильного интернета до 100 Мбит/с
• Китайцы достигли скорость в 2 тыс раз больше - до 200 Гбит/с
• На примере поезда Сапсан Москва-Питер подобное увеличение скорость позволило бы сократить время в пути с 3 часов 46 мин до 7 сек.

Нельзя сказать, что подобного никто не ожидал. 18 декабря 2021 года Ван Цзяньчжоу (экс-председатель правления China Mobile, а ныне старший консультант ассоциации GSMA) заявил, что Китай планирует запустить первую сеть 6G уже к 2030 году.
Но никто в мире не мог даже представить, что стенд терагерцовой 6G связи заработает всего через 2 недели.

99,9% читателей полагают, что значимость достигнутого прорыва исчерпывается лишь сумасшедшим скачком скорости связи. Но это совершенно не так. 6G – это далеко не только скорость связи, а еще и много чего. Это еще и:
• сверхнизкая задержка сигнала
• сверхвысокие плотность связи и энергоэффективность связи
• сверхвысокие надежность и безопасность
• сверхвысокая чувствительность и локализация

Все вышеназванное делает возможным такие новые классы юзкейсов, что изменят мир до неузнаваемости:
✔️ технологии ультра-умного города (не путать с умным городом) - полная автоматизация едущего и летящего транспорта, городской инфраструктуры и здравоохранения)
✔️ многомерная дополненная реальность (ака Метаверс), как основа всех бизнес и бытовых приложений
✔️ «интернет чувств» - передача комплексного спектра чувств (напр. понюхать новый парфюм или вкус новой искусственной еды)
✔️ голографическая коммуникация
✔️ ультра-умная телемедицина на основе тактильной связи (умная повязка на голове, реконструирующая сигналы мозга и представляющая их в 3D-видео)

Принципиальное отличие всех этих новых юзкейсов в том, что мир станет объединением физической, биологической и цифровой реальности, в которой будут жить и функционировать около 10 млрд людей и примерно 50 млрд ультра-умных устройств 6G-интернета вещей. И эта гиперсеть людей также будет включать в себя все типы распределенных ИИ, обитающих и работающих повсюду: от земной орбиты до глубин океана. И всё это обеспечит 6G.

Подробней как это будет устроено можно прочесть в документе IEEEXplore «6G Ecosystem: Current Status and Future Perspective»

#Китай #6G
​​Си превзошел Мао.
Как сравнить двух «императоров», между которыми более полувека.

Степень культа личности национальных лидеров - хороший маркер «монархичности» режима.
Особенно интересно сравнивать тех немногих партийных и государственных деятелей, которым удалось достичь заоблачного уровня «император» (за последнее столетие таких совсем немного, хотя некоторые из них и по сей день на вершине власти).

На приведенном графике статистика упоминаний руководителей Китая на передовицах главного официального издания КПК (указан % передовиц, содержащих имя 1го человека страны).
Помимо двух нацлидеров, вышедших на уровень «император» - Мао и Си, - приведена статистика и по «обычным» нацлидерам: от преемника Мао - Хуа Гофэна до предшественника Си - Ху Цзиньтао.

Резюме статистики очевидно. Уровень культа личности и, следовательно, «монархичности» режима «императора» Си уже существенно выше, чем во времена «императора» Мао.

Автор и создатель диаграммы – специалист по Китаю, проф. Christian Goebel https://twitter.com/Chri5tianGoebel
Может кто теперь и других «императоров» сравнит.
#Китай #Авторитаризм