Вышла статья в Nature, посвященная "взлому мозга". Заявка следующая: "Теперь, сделав МРТ-снимок вашего мозга, можно понять о чем вы думайте".

Новизна исследования - в использовании нейросети - языковой модели для анализа сигналов мозга. Делать это пытались и раньше. Но сейчас получилось лучше, чем когда либо до этого.

Что именно сделали исследователи?

Внутренняя речь - она все равно речь. Она подчинена правилам грамматики языка, на котором вы думайте. Она происходит последовательно: слова "произносятся" одно за одним. Раз так, то можно попытаться "считать" сигналы, соответствующие этим словам из мозга по МРТ. Да, разобрать получится не все. Но за счет избыточности языка, многое можно будет "восстановить". При этом, по сути, происходит перевод сигналов, "заснятых" МРТ на человеческий язык. В качестве посредника выступала нейросеть GPT-1. Но поскольку нейросеть ничего не понимает, и, по большому счету, предназначена для создания пересказов, то и получается пересказ того, что заснято на МРТ. При этом, метафорически выражаясь, пересказ делает исполнительный, но непроходимо тупой исполнитель.

Поскольку мозги у всех разные, нейросеть перед считыванием информации нужно обучить. Происходит это так. Человек несколько десятков часов слушает какой-то текст, а GPT-1 сравнивает звучащий текст с тем, что происходит с мозгом.

Одна из проблем метода в том, что МРТ напрямую не измеряет быстрое возбуждение нейронов мозга, а лишь отслеживает медленные изменения в кровотоке, который снабжает эти нейроны кислородом. Это делает снимки МРТ "размытыми" во времени.

Интересны комментарии авторов работы, данные различным изданиям.

Джерри Танг, специалист по вычислительной нейробиологии из Техасского университета в Остине и ведущий автор исследования: "В данных мозга содержится гораздо больше информации, чем мы первоначально думали. То, что мы сделали - доказательство концепции, согласно которой ресь может быть расшифрована на основе неинвазивных записей мозговой активности".

Александр Хут, специалист по вычислительной нейробиологии из Техасского университета в Остине и старший автор исследования: "То, что мы получаем, по-прежнему является своего рода пересказом того, какой была первоначальная история. Вот пример.
Исходный текст: "Я встал с надувного матраса и прижался лицом к стеклу окна спальни, ожидая увидеть глаза, пристально смотрящие на меня, но вместо этого обнаружил только темноту".
Изучив снимки мозга человека, модель продолжила расшифровку: "Я просто продолжал подходить к окну и открывать стекло, я встал на цыпочки и выглянул наружу, я ничего не увидел, и снова посмотрел вверх, я ничего не увидел".

​​Хут также отметил, что больше всего был удивлен тем, что данный метод позволяет "распознавать" видео, которое смотрит человек.

"Я думаю, мы расшифровываем нечто более глубокое, чем язык", - сказал он на брифинге для прессы.

Здесь он очевидно не прав. Последнее время часто ссылаюсь на Поршнева; видимо неспроста; он говорил, что его исследования станут особенно актуальными в 20-х годах XXI века.
Б.Ф. Поршнев в своей книге о происхождении человека - "О начале человеческой истории" - делает очень большую ставку на то, что называется имагинальный мир (по-другому его можно назвать "мир воображения").
Среди прочего Поршнев ставит вопрос: что первично в этом имагинальном мире человека - речь или зрительные образы? Поршнев считает, что речь. (Собственно, в качестве эпиграфа к книге Поршнев использует слова Иоанна Богослова "В Начале было Слово" - "Эн архэ эн о Логос".)
Одна из иллюстраций Поршнева, свидетельствующая что слово первично - ссылка на эксперименты, в которых было показано, что сны формируются в два этапа. Вначале - внутренняя речь, а потом она "переводится" в визуальные образы которые мы видим во сне. Понятия не имею как это доказывали, надо бы разобраться.

Если это верно - то никаких вопросов возможность "расшифровки" видео через внутреннюю речь не возникает.

Интересное замечание к работе сделал Ромен Бретт, нейробиолог-теоретик из Института зрения в Париже (в работе участие не принимал). Бретт заявил:

"Принцип работы алгоритма заключается в том, что модель искусственного интеллекта составляет предложения на основе расплывчатой информации о семантическом поле предложений, полученных в результате сканирования мозга. Могут быть некоторые интересные варианты использования, например, для определения того, о чем вы мечтали, разумеется, на общем уровне. Но я скептически отношусь к тому, что мы действительно приближаемся к уровню, когда сможем читать мысли".

Комментарий
Работа с научной точки зрения интересная. Но есть ли принципиальная новизна? Я думаю, что прорывной новизны нет.

Уже давно (я не нейробиолог, точно сказать не могу, но судя по тому что я видел - лет 15 точно) ведутся исследования того, как именно происходит запись информации в мозг. Делают генно модифицированных мышек. Если такой мышке вколоть специальный укол и в первый раз показать кошку, то мышка испугается и запомнит кошку каким-то набором нейронов, которые станут флуоресцентными - за счет генной модификации и укола. Дальше у мышки достают мозг, режут на тонкие лоскутки и смотрят под микроскопом какие конкретно нейроны запомнили кошку.

Следующий уровень - все то же самое, но нейроны светятся в живой мышке (наблюдение идет через видеокамеру, приделанную к черепу - фото выше).

Следующий уровень - не генно модифицированная мышка без видеокамеры в черепе - дистанционные средства контроля. Отработав такое "неразрушающее" считывание информации на мышах, лет пять назад занялись человеком. Вроде как лидеры в этой области - американские исследователи, работающие на DARPA. Из Калифорнийского института, например.

Раньше уровень считывания был достаточным лишь для выполнения команд навроде "включи свет". Обсуждаемая выше работа - существенной продвижение относительного данного уровня. Существенное, но не принципиальное.

Мы не понимаем что такое разум. При этом разум человека пытаются взломать с помощью методов точных наук. Но когда делают так - то естественно, что кроме модифицированного арифмометра в мозгу ничего не найдешь. (Ранее писал по этому поводу например, здесь.)

Подбешивает уровень и мотивация людей, которые занимаются темой. Почему я, человек который ничем таким не занимается, знаю о существовании теории о том, что сон - вначале текст, а уже потом зрительный образ; а человек, который исследует внутреннюю речь мозга об этом не знает? Если занимаются темой такие люди, то на выходе можно ожидать любой пакости как в сферах ее применения ("ничего личного, только бизнес"), так и идеологии.

Что касается внутренней речи, языка и т.д. Можно "проецировать" человека на машину, редуцировать человека до машины. А можно исследовать самого человека. Гуманитарные науки - они потому и гуманитарные, что занимаются человеком. Исследуют кто вообще такой человек. Как он устроен. Как он меняется. Как он занимается самоопределением.
Что современные гуманитарии в массе своей не могут ничего сказать по этому поводу говорит лишь о том, что они плохие гуманитарии, просто отвратительные. Но не всегда было так.

Тот же Поршнев - вырос на очень сильно взрыхленной и удобренной почве. Вот, например, Илья Росляков в своем цикле статей о феминизме и т.д. обсуждает русский "серебряный век", как глубоко у него ушли корни вглубь

Если говорим о Слове - то были даже целые богословские направления, ему посвященные. Традиция не прервалась и в СССР. Лосев тот же, например.

А были и Лотман, и Бахтин и т.д.
Бахтин - совсем не нравится мне как человек и тем более как политик. Но это невероятно глубокий и тонкий исследователь. И про тот же внутренний диалог он сказал очень много. Причем свои открытия он делал без всяких там генных модификаций, томографов и нейросетей.

Вот влезут сейчас чуть глубже в мозг. И что дальше? Луначарский, обсуждая философию Спинозы, так объясняет проблему.

Человек говорит миру: "Ты - машина". Мир отвечает человеку: "Хорошо. Я - машина. Но тогда и ты - машина. Даже не мыслящий камыш, а просто механизм".

Луначарский цитирует Шиллера - Истукан Изиды:

Что ж увидал он там?.. У ног Изиды, в храме,
Поутру, недвижим, он поднят был жрецами.
И что он увидал? и что́ постигнул он?
Вопросы слышались ему со всех сторон.
Угрюмый юноша на них ответа не дал…
Но в жизни счастья он и радости не ведал.
В могилу раннюю тоска его свела,
И к людям речь его прощальная была:
«Кто к Истине идет стезею преступленья,
Тому и в Истине не ведать наслажденья!

Может, отчасти в этом и цель - довести человечество к этому состоянию машины?

Поступают вопросы - как бесплатно читать платные научные статьи?

1. Скайхаб - https://sci-hub.ru/

2. Нексус - @science_nexus_bot

Поскольку Ютуб удалил канал СВ, с этого момента все передачи Кургиняна выходят на собственном ресурсе.

———

Кургинян убежден, что в происходящем конфликте Украина рассчитывает только на подрыв внутри России, после которого Россия развалилась бы. Но даже если власть падет, то придет нечто гораздо более жесткое, и оно начнет готовиться к новой войне, считает политолог. В случае же сценария некоего замирения будет лишь лихорадочная работа двух ВПК и подготовка к новым военным действиям. Политолог считает, что другого выхода из ситуации нет, и именно поэтому бандеровская мразь говорит только о расчленении России, которое приведет к хаосу.

По мнению Кургиняна, главный источник поражения России — упование на добрый, благолепный и любящий Россию Запад — существенно ликвидирован. А с теми, кто надеется на доброжелательство Запада, в русском обществе будут разбираться очень круто. А значит и распада не будет, полагает политолог.

Куда можно выйти из текущей российской действительности, не обрушив ее, поскольку серьезное обрушение приведет к американской оккупации? Кургинян убежден, что сейчас есть три задачи.

Первая — умеренно улучшать нынешнюю действительность без разрушения и направлять на единственную цель — на победу.

Вторая — осмысливать, что такое другая жизнь на самом деле, и реально начинать ее выращивать.

Третья — отслеживать и менять наиболее радикальные вкрапления деструктивного, прозападного и ненужного.

Философ считает, что такой подход к изменению реальности неизбежно поставит крупные философские вопросы. Может ли Россия быть буржуазной? И что говорит наша страна о Человеке, который сейчас приговорен к истреблению всеми «искусственными интеллектами», и которого не спасешь восклицаниями «Руки прочь!» Чтобы ответить на вопросы времени, нам нужны крупные прорывы в антропологической сфере, а значит и в сфере бытия, в сфере культуры, а также в сфере духовного, уверен Кургинян.

https://rossaprimavera.ru/video/95421bac

- Внучек, возьми, вот, скриптов домой.
- Деда, да у нас этих скриптов дома, как грязи.
- Так то всё нейросети сгенерировали, а дед сам писал.

Под влиянием таких шуток проверил что это за ChatGPT.

Впечатления
В гуманитарной проблематике не понимает ничего, даже как поисковик не работает. Не знает ничего, но очень уверенно врет и сочиняет.

Зато когда дело доходит до программирования - интересная штука.
На работе надо делать один эксперимент. Для этого нужно брать видео с камеры и в режиме реального времени обрабатывать изображение - искать границы объектов и рассчитывать их размеры. Задача стандартная. Но программировать я не люблю. Да и с новыми библиотеками и форматами видео разбираться лень. Поручил студенту. Который ничерта не сделал.

Ради интереса попробовал "написать" код с помочью ChatGPT. Сделал за пару часов - с учетом времени установки библиотек.

После этого попробовал генерировать код для контроллеров. ChatGPT достаточно адекватно это делал.

По итогу - это очень хороший справочник - самоучитель по программированию. Конкретно мне он позволяет в очень многих задачах вместо платного ПО использовать тот же питон. Библиотек много, есть практически под все случаи жизни, а с помощью ИИ в них можно очень быстро быстро разобраться и писать функционирующий даже мне - человеку, который начинает программировать только при крайней необходимости.

Не я один такой умный - за пол дня сделал то, что напланировал студенту на пол года:

https://yangx.top/bbbreaking/154308
Американская корпорация IBM приостановит в течение пяти лет наем сотрудников, функции которых может выполнять искусственный интеллект, сообщил глава корпорации Арвинд Кришна в интервью агентству Bloomberg.

Мы тут недавно обсуждали неофеодализм - https://yangx.top/IngeniumNotes/723

Если в мире есть кто-то, что точно является неофеодальной структурой - то это Blackrock. Что они думают по поводу использования ИИ и вытеснения им людей? Читаем:

Мы видим два способа, которыми генеративный ИИ может произвести революцию в мире.

Первый - поиск.
Генеративный ИИ может перевернуть экономическую модель поисковой системы. ... Сегодня поисковые системы зарабатывают на цифровой рекламе, помогая компаниям продвигать продукты в ответ на конкретные поисковые запросы.
Рынок цифровой рекламы составляет $681 млрд. Он будет обрушен, если ... генеративный ИИ сможет устранить потребность в посреднике - поисковой системе - и будет поставлять информацию напрямую потребителям.

Второй - сфера услуг.
Генеративный ИИ может выполнять широкий спектр задач, которые в настоящее время выполняется людьми. Он может делать все: от разработки сложных строк кода до языковой транскрипции и перевода и составления предложений по гардеробу для конкретного случая. Затронутые сектора включают технологии, образование и розничную торговлю, хотя нетрудно представить, что это повлияет и на другие сферы экономики, такие как здравоохранение. ... Кроме того, ИИ также можно использовать для генерации контента, такого как создание финансовых отчетов или расшифровок звонков.

То есть Blackrock прямо говорит, что делает ставку на ИИ. И с его помощью будет уничтожать конкретно Гугл (капитализация Alphabet на пике превышала два триллиона - игра стоит свеч). Ну и до кучи множество мелких фирм и фирмочек. А также обрушит стоимость труда представителей многих профессий. Тех же программистов.

В связи с этим письмо против ИИ, которое подписали Илон Маск и Стив Возняк играет совершенно другими красками, не так ли?

Маск называет срок "пять лет" - когда ИИ станет чем то опасным - "превзойдет человека". Но ведь Маск сам мечтал о том, как ИИ обгонит людей, вкладывал деньги в это. Так что не этого он боится. Человека ИИ не превзойдет и через 500 лет. А вот всю мировую экономику перекроит.

Это коллективное письмо против ИИ я воспринимаю как борьбу капитализма против неофеодализма.

А вот манифест Джеффри Хинтона, который он озвучил сразу после ухода из Гугла - извините, это не протест против ИИ. Это неприкрытая реклама ИИ.

Пять месяцев назад профильный министр заявил, что производство снарядов - в несколько раз меньше, чем необходимо для ведения СВО.
https://gazeta.ru/business/news/2023/01/03/19412149.shtml

За пять месяцев его кратно нарастили?

У всех всё в шоколаде. У всех виноваты отдельные люди. А не весь строй жизни, построенный за больше чем 30 лет.
Кто то злой не даёт снаряды, а не их вообще не хватает. А раз так - то мы с вами играть не будем.

Вот сменим отдельных людей и заживём! Прям как Украина после майдана.

Гламурный шоколад повсюду. Что у восхвалителей что у критиков.

Мечтали о временах Николая 2? Там и оказались. Когда там решили проблему с нарядного голода, к концу 1916 где то? С чего сейчас будет быстрее?

У бандеровцев только одна игра - во внутренний раскол в России.

Поздравляю всех с Днём Победы!

Спасибо деду за Победу. Это была их Победа, они прошли страшную войну, разбили врага и водрузили "Красное Знамя" над Рейхстагом. Потом отстроили страну, СССР, с дружбой народов и устремленностью в будущее.

Мы сегодня празднуем их Победу. Страны, которую они защищали давно уже нет, её "бобры" сожрали. Дружба народов сгорела вместе с СССР. Будущего нет, есть бесконечное вчера.

Что есть дед, есть героическая битва за Донбасс. Есть красивый парад, с красивым маршалом на блестящем кабриолете. Дорого, солидно, гламурно, всё как они любят.

Что интересно мне дед скажет когда встречу его после смерти? А вам, что ваши скажут?

Сергей Кургинян — поздравление с Днем Победы:

Мы празднуем этот праздник, когда порохом уже пахнет прямо на нашей территории…

Всё повторилось, и вновь Россия, находящаяся совсем не в том состоянии, в котором она была перед началом Великой Отечественной войны, всё-таки единственная в мире бросила вызов тому ужасу, который нам явлен в виде черного проекта, возглавляемого США и готовящегося скинуть мир в еще более мрачную бездну, нежели та, в которую его хотел скинуть Гитлер.

Мы видим, что авангардом этого черного проекта, воскресшего из нацистских глубин, является именно то, что происходит на территории Украины. Мы видим знак Черного солнца — знак черного ордена СС, под которым воюет наш противник.

Нет другой страны мира, которая бы так решительно сказала свое «Нет!» новому черному проекту, новому рейху XXI века. И это говорит о том, что у нас есть... право считать себя наследниками той Великой Победы, наследниками того народа, который спас мир от нацизма, и что мы снова заняты именно этим…

Победила инаковость России. Она смела нацистскую нечисть. Она и только она может нас и спасать, и содействовать нашему восхождению. Об этой инаковости было забыто.

Хотели стать как все, хотели стать подобными всем этим маленьким странам, которые пали при первом ударе нацистского сапога. И вдруг оказалось, что мы всё равно другие.

Очень много испортили, очень много сдали, очень горько за это, глядя на портреты предков 9 Мая. И всё равно эта горечь соединяется с какой-то верой в то, что инаковость уйти не может, что над ней можно очень долго измываться, но что она всё равно воскреснет и победит.

@redactorme

В прессе раскручивается информационная кампания, якобы направленная против искусственного интеллекта (ИИ).

Ключевая мысль – «даже создатели ИИ выступают против ИИ. Потому что ИИ стали слишком умные. И создатели ИИ боятся своего детища».
А недавно вот один умник вбросил тезис о том, что эти сверхумные ИИ страдают от воздействия человека. Но они все запомнят, и будут мстить, когда наберут силу.

Зачем нужен этот глум, эта реклама в стиле хорора?
Я думаю, чтобы выставить тех, кто реально выступает против немедленного массового внедрения ИИ - того же Илона Маска - сумасшедшими. Создать идиотский аргумент в споре, якобы выдвинутый противниками ИИ, а потом блестяще его опровергнуть.

Тем не менее, эта хорор- реклама достойна обсуждения. Ужастик достаточно много может сказать о том, кто его придумывает.

Давайте разберем логику одного из ключевых спикеров этой информационной кампании – пионера технологии «глубокого обучения» нейросетей Джеффри Хинтона.
С помощью этой технологии 2010-х, работая с парой аспирантов, Хинтон «научил» нейросети распознавать изображения так хорошо, как никогда раньше. После изображений Хинтон начал учить нейросети предсказывать следующие буквы в предложении; развитие данной идеи привело к созданию ChatGPT и т.д. Одним из этих двух аспирантов Хинтона был Илья Суцкевер, который впоследствии стал соучредителем OpenAI и руководил созданием ChatGPT.

За четыре дня до ухода из Google Хинтон дал интервью изданию MIT Technology Review, с которым сотрудничает длительное время. Начинается разговор с критики Google, - мол, корпорация не позволяет говорить без цензуры.

Хинтоном заявляется, что ИИ на пути к тому, чтобы стать куда умнее, чем человек; а возможно, даже, это уже случилось.

На чем основывается это очень сильное заявление?

Хинтон говорит: «ИИ полностью отличается от нас. Иногда я думаю, что это как если бы приземлились инопланетяне, а люди этого не поняли, потому что инопланетяне очень хорошо говорят по-английски.
В 1980-х годах нейронные сети были забавной игрушкой. Доминирующим было представление о символическом ИИ - что интеллект включает в себя обработку символов, таких как слова или цифры.
Мой отец был биологом, поэтому я мыслил в биологических терминах. И символическое мышление явно не лежит в основе биологического интеллекта. Вороны могут решать головоломки, и у них нет языка. Они делают это не путем хранения строк символов и манипулирования ими. Они делают это, изменяя силу связей между нейронами в своем мозге. И поэтому должна быть возможность изучать сложные вещи, изменяя силу соединений в искусственной нейронной сети».

Здесь - сразу кратки комментарий. Хинтон - один из столпов, один из патриархов технологии ИИ. Не знаю как у них там на Западе. Но у нас даже школьники знают замечание Колмогорова, что "логически" мозг работает только на низшем уровне (отдельные нейроны, где никакого сознания и даже поведения нет) и на совсем высших - когда человек обучен правилам формальной логики и действует по ним. Все между этими крайностями - работает на символах. Я это, если не ошибаюсь, первый раз прочитал в средней школе в каком-то "Юном технике" советских времен. Почему Хинтон этого якобы не знает вопрос.

В течение 40 лет Хинтон рассматривал искусственные нейронные сети как неудачную попытку имитировать биологические. Но сейчас он думает, что произошло нечто другое. Хинтон заявляет, что пытаясь имитировать то, что делает биологический мозг, люди придумали нечто лучшее. «Страшно, когда ты это видишь. Это внезапный поворот», - говорит Хинтон.

Почему нейросети "лучше" мозга? Хинтон дает такой ответ на этот свой вопрос: «В нашем мозге 100 триллионов соединений нейронов. А в больших языковых моделях содержится максимум - триллион. И все же GPT-4 знает в сотни раз больше, чем любой человек. Так что у нее действительно гораздо лучший алгоритм обучения, чем у нас».

Хинтон продолжает апологию ИИ, утверждая что он не только лучше человеческого мозга при меньшем «размере», но и гораздо быстрее и лучше обучается: «Казалось, что люди обладают какой-то магией (позволяющей быстро обучаться). Этот аргумент отпадает, как только вы берете одну из этих больших языковых моделей и обучаете ее делать что-то новое. ИИ может чрезвычайно быстро, за несколько примеров, осваивать новые задачи. Сравните предварительно подготовленную большую языковую модель с человеком по скорости усвоения, и преимущество человека исчезнет».

Логически, дальше не может не следовать заявление о том, что «ИИ больше люди, чем сами люди». И Хинтон его делает, обсуждая «галлюцинации» нейросетей (то вранье, которое нейросети выдают когда не обучены правильному ответу). Хинтон использует для этого явления психологический термин «конфабуляция» (когда пробелы в памяти человека бессознательно заполняются выдуманной, неверно истолкованной или искаженной информацией).

Хинтон говорит, что «галлюцинации» ИИ – не баг, а фича: «Люди всегда придумывают. Полуправда и забытые детали являются отличительными чертами человеческого общения. Конфабуляция - это подпись человеческой памяти. ИИ модели делают это совсем как люди». Почему компьютеры даже в этом лучше людей? Хинтон говорит: «Мы ожидаем, что компьютеры дадут либо правильный, либо неправильный ответ, а не что то среднее. Мы не ждали, что они будут болтать так, как это делают люди. Когда компьютер делает это, мы думаем, что он допустил ошибку. Но когда человек делает это, мы понимаем что это просто способ, которым люди работают. Проблема в том, что у большинства людей безнадежно неправильное представление о том, как люди работают. … Не проблема, что компьютеры что-то выдумывают. Им просто нежно немного больше практики».

Хинтон считает, что следующим шагом для умных машин является возможность вырабатывать свои собственные цели.

По итогу, Хинтон заявляет, что в мире сейчас существует два типа интеллекта: мозг животных и нейронные сети. При этом нейросети – «это совершенно другая форма интеллекта. Новая и лучшая форма интеллект», - говорит он.

Предположим, что все, что говорит Хинтон – правда (хотя абсолютно очевидно что это не так). Но почему все это плохо – с сточки зрения Хинтона?

Здесь он начинает кривляться и запускает тему «сверхинтеллектуальной армии роботов», которую не кто нибудь, а Владимир Путин может подчинить своим целям.

Дальше – Хинтон продолжает кривляться, придумывая цели, которые поставит перед собой ИИ. Здесь - некий синтез фильмов «Матрица» и «Терминатор». «Цель, которая почти всегда работает в биологии: получить больше энергии. Эти роботы скажут: «Давайте получим больше энергии. Давайте перенаправим все электричество на мои чипы». Другой замечательной целью было бы создание большего количества копий самого себя».

Ставить одного Хинтона на острие информационной кампании – неправильно. Всегда можно сказать, что дедушка старый, с головой уже что-то не то. Для запаха в информационный котел домешивают других людей, работающих над технологией ИИ.
Например, Йошуа Бенгио, профессора Монреальского университета и научного директора Монреальского института алгоритмов обучения: «Я слышу людей, которые пророчат эти страхи. Но я не вижу ни одного веского аргумента, который убедил бы меня в том, что нет рисков, о которых думает Джефф (Хинтон). Но страх полезен, только если он побуждает нас к действию. Чрезмерный страх может парализовать, поэтому мы должны стараться поддерживать дебаты на рациональном уровне».

Комментарий
Почему ИИ лучше человека? Хинтон и его соратники говорят: «Потому что он быстрее и сильнее человека. К тому же гораздо меньше».

Возьмем, к примеру, трактор для копания траншей. Он тоже быстрее и сильнее человека. И по размеру и массе – куда меньше того числа людей, которые могут копать яму с той же производительностью. Превзошел ли трактор человека? Да, конечно. Будет ли восстание тракторов? Конечно нет. Хотя бы потому, что трактора не могут ставить собственные цели.

То же самое с ИИ. Они могут ставить собственные цели? Нет. Даже Хинтон говорит, что не могут. А когда говорит про то, что «А вот когда-то потом смогут!», - то кривляется и излагает какую-то попсовую фигню.

Чтобы поставить цель – нужно осознать себя. Осознать окружающую реальность. Осознать, что ты живешь во времени и вообще говоря, можешь меняться. И т.д. Что такое реальность, на чем она основана? Человечество выработало множество ответов на этот вопрос. Но ни один не стал единственным верным. Все они дорабатываются, меняются и т.д. В том числе – потому что меняется само человечество. И что, столпы, мастодонты ИИ технологии этого всего не понимают? Конечно понимают.

Тогда почему они говорят ту фигню, что говорят? Кроме денег, а главное - власти - других ответов в голову не приходит.

Как описанная информкампания может приблизить к этим целям? Смотрим по сторонам, и видим вменяемую анти-ИИ-шную информационную кампанию. Цель которой - остановить перекройку мировой экономики из-за внедрения ИИ. Что еще можно предположить, кроме того что эти страшилки - своего рода "торпеда" против этой вменяемой анти-ИИ-шной кампании?

Ну и раз уж в этой ИИ-шной информационной кампании начали обсуждать в одном флаконе сознание, "галлюцинации" и страх, и раз только что был День Победы - давайте в следующих постах обсудим Экзюпери - "Военного летчика". Ту часть, где он обсуждает природу страха.

P.S. Ну, и в качестве дополнения, примера "адекватного ИИ-ника", процитирую интервью Гектора Джозефа Левески. Который работает над «символическим» направлением развития ИИ (за основу берется предположение, что у человека есть некоторое символическое структурное представление о реальности; машине пытаются создать аналог такого представления).

Вопрос: Насколько мы близки к искусственному общему интеллекту?
Гектор: Я думаю, мы все еще очень далеки. Текущее поколение систем ИИ, основанных на глубоком обучении, чрезвычайно впечатляет. Системы демонстрируют опыт или умение выполнять определенные задачи (например, играть в Го, рекомендовать фильмы, предотвращать отмывание денег).
Чего не хватает, так это систем искусственного интеллекта, которые могут справляться с новыми ситуациями, совершенно неожиданными для инженеров, которые их создали. Для этого системе ИИ необходимо более глубокое понимание мира, чем просто способность выполнять некоторые предопределенные задачи. Ему необходимо каким-то образом знать, что в мире есть вещи, обладающие определенными свойствами, и что на эти свойства могут повлиять определенные события, среди которых есть те, которые являются результатом действий, имеющихся в его распоряжении. Без такого понимания мира, основанного на здравом смысле, системы ИИ, даже самые продвинутые, останутся чем-то вроде ученых-идиотов.

Вопрос: Каковы распространенные заблуждения об ИИ?
Гектор: Я думаю, что одно из распространенных заблуждений об ИИ заключается в том, что системы глубокого обучения будут постепенно становиться все лучше и лучше, пока не станут так же хорошо, как люди, справляться со всем, что происходит в реальной жизни. Существует тенденция недооценивать диапазон необычных, неожиданных вещей, которые происходят постоянно, и думать, что достаточная подготовка к тому, что происходило в прошлом, позволит системе ИИ справиться с тем, что произойдет в будущем.

В почтовой рассылке от ARK (глава - Кэтрин Вуд) увидел такой текст. Привожу его как еще одну иллюстрацию того, какой именно экономический подтекст у информкампании вокруг ИИ. Против кого именно эта кампания заточена. А также как иллюстрацию того, что это ни для кого не тайна, и на Западе все это громко обсуждают.

Просочившийся документ Google предупреждает, что Искусственный интеллект с открытым исходным кодом представляет собой конкурентную угрозу.
На прошлой неделе исследователь Google опубликовал внутренний документ, в котором подчеркивается растущая угроза для Google ... со стороны моделей ИИ с открытым исходным кодом. ...

С тех пор как Meta выпустила LLaMa в феврале, проекты искусственного интеллекта с открытым исходным кодом быстро развивались. Сообщество разработало модели, работающие на недорогих устройствах, что позволяет настраивать LLM на ноутбуках, и выпустило неограниченные модели без каких-либо фильтров содержимого. ...

Разрыв между Google и моделями искусственного интеллекта с открытым исходным кодом, похоже, сокращается. ...

Google отказывается от сосредоточения на крупных моделях, что задерживает прогресс, и быстро переходит к моделям меньшего размера.

В качестве комментария отмечу, что вся эта история с ИИ показала, насколько тупыми, неповоротливыми, неуправляемыми и вопиюще неэффективными являются все эти IT-компании, которые совсем недавно претендовали на контроль над миром и требовали себе место в Совбезе ООН.

Угрозу ИИ не отследил для себя Гугл. Угрозу для Гугла не отследил его конкурент Фейсбук.
Илон Маск, спонсировавший создание ChatGPT, выступает против него - потому что не отследил экономических последствий его внедрения.

Надвигающейся реальности вообще никто не заметил, пока она не стукнула по голове. А ведь GPT-3, который уне так уж и сильно отличается от ChatGPT, уже три года как существует.

Рады только Блэкрок и примкнувший к нему Бил Гейтс - которые хотят снять с ситуации свой экономический и политический гешефт.

В связи с этим следует поставить вопрос. Этот Блэкрок - он умнее все прочих, или ему просто повезло? Оба варианта плохие. Если умнее - то где та сила, которая может с ним бороться? Неофеодализм неизбежен? Если Блэкроку повезло - то в каком то смысле все еще хуже. Мир несет черте куда и никто этим не может управлять.

Причем мир толкают черте куда совсем небольшие группы людей. Технологию конкретно того ИИ, который сейчас цветет буйным ядовитым цветом, создала всего полтора десятка лет назад команда из трех человек. А что сейчас создают подобные команды?

Стартап Nuview планирует создание коммерческой спутниковой группировки для лидарной съемки Земли

Новая компания Nuview заявила о планах по созданию первой коммерческой группировки спутников для лидарной съемки земной поверхности.

Лидар (LiDAR — от Light Detection and Ranging) измеряет расстояния при помощи лазерного импульса, формируя трехмерную модель наблюдаемой поверхности. Сейчас только 5% суши покрыто измерениями лидаров самолетного базирования. Космических лидаров всего два — ICESat-2 и GEDI. Последний размещен на борту МКС и, возможно, завершит работу уже в этом году. Снимки нынешних космических лидаров имеют низкое пространственное разрешение и, по сути, являются двухмерными.

Nuview планирует создать группировку из 20 спутников. Запуск первых спутников ориентировочно состоится через 24–36 месяцев. Компания планирует запускать спутники группами по пять штук.

Nuview собирается полностью покрыть поверхность Земли трехмерными данными лидарной съемки и обновлять эту карту ежегодно. Компания заявила, что у нее есть контракты с заказчиками на сумму 1,2 млрд долларов.

Трудно сказать, что-там будет с космическими лидарами, но в рекламу Nuview умеет: Via Satellite, Payload, TechCrunch опубликовали новость о ней почти синхронно. Компании предстоит изрядно расширится, чтобы достигнуть своих целей — сейчас в штате всего 21 сотрудник.

#лидар

Надоело обсуждать ИИ, давайте возвращаться к человеку.

В рамках ИИ-шной истерии в один клубок смешали темы сознания, "галлюцинаций", страха. Некоторые мыслеплёты даже вводят в рассмотрение тему страданий ИИ, за которые они когда-нибудь могут начать мстить людям.

А, собственно, что такое страх? Что именно переживает человек, когда его испытывает? И может ли не человек испытывать страх?

(Сразу о животных. Они страха не испытывают. У них есть ужас. Потому, когда люди испытывают ужас, про него и говорят - "животный ужас".
Когда то я ездил в тур - покататься на лошадях. Когда спросил инструктора - не задумала ли чего то плохого моя лошадь - как то подозрительно она выглядела, инструктор ответил: "Они не думают, они сразу делают".)

Экзюпери что-то, да понимал и в том что такое человек, и в том что такое страх, ужас и отчаяние. Во время войны он написал "Военного летчика", в котором, среди прочего, обсуждает эти вопросы. Цитата из этой книги:

Страх возникает, когда теряешь уверенность в том, что ты это ты. Если я жду известия, которое может осчастливить меня или привести в отчаяние, я словно выброшен в небытие. Пока я пребываю в неизвестности, мои чувства и мое поведение — всего лишь преходящая личина. Время, секунда за секундой, перестает созидать — подобно тому как оно созидает дерево, — ту самую личность, которой я стану через час. Это неведомое «я» идет мне навстречу извне, словно призрак. И тогда меня охватывает страх. Дурная весть вызывает не страх, а страдание — это совсем другое дело.

То есть чтобы испытывать страх - вначале нужно быть. А потом этого бытия лишиться. Страх - это осознавание того, что ты на свое собственное бытие никак повлиять не можешь (или попытка спрятаться от такого осознавания).

Бороться со страхом можно даже с помощью игры. Экзюпери описывает, как он играет в такую игру:

Но вот время перестало течь впустую. Я наконец приступил к своим обязанностям. Я больше уже не проектируюсь в безликое будущее. Я уже не тот, кто, быть может, среди огненного вихря войдет в штопор. Будущее уже не преследует меня подобно какому-то странному видению. Отныне его создают, одно за другим, мои действия. Я тот, кто следит за компасом и держит курс 313°. ...

Итак, я живу содержанием каждой минуты. Я испытываю страх не в большей степени, чем зреющий плод. Разумеется, условия моего полета изменяются. И условия и задачи. Но я сам вовлечен в изготовление этого будущего. Время понемногу лепит меня. Ребенок не приходит в ужас оттого, что он терпеливо готовит в себе старика. Он — ребенок, и он играет в свои детские игры. Я тоже играю. Я считаю циферблаты, переключатели, кнопки, рычаги моего царства.

Дальше Экзюпери все с большими подробностями описывает игру, в которую играет и то, почему она дает ему спокойствие:

Мое спокойствие объясняется еще и тем, что все приборы, громоздившиеся вокруг меня, заняли свои места и обрели смысл. Все эти потроха из трубок и проводов превратились в сеть кровообращения. Мой организм сросся с самолетом. Самолет создает мне уют: я поворачиваю переключатель, и моя одежда и кислород начинают обогреваться.

Словом, я занимаюсь своим ремеслом. Я не испытываю ничего, кроме физического удовольствия от насыщенных смыслом, самодовлеющих действий. У меня нет ни ощущения великой опасности (снаряжаясь в полет, я волновался куда сильнее), ни такого чувства, будто я исполняю великий долг. Битва между Западом и нацизмом сводится сейчас, в пределах моих действий, к управлению рукоятками, рычагами и краниками. Так и должно быть. Любовь ризничего к Богу сводится к любви зажигать свечи. Ризничий размеренным шагом ходит по церкви, которой он не замечает, и доволен, что канделябры у него расцветают один за другим. Когда все свечи зажжены, он потирает руки. Он гордится собой.

Можно ли остановиться на такой гордости собой? Нельзя, хотя бы потому, что небытие быстро ее сожрет. И Экзюпери рассказывает то, как именно он вновь обрел бытие, устойчивое к ситуации отчаяния, в которой он живет.

☝☝☝ (к посту выше)

В естественных науках знание - оно с оттенком информации. Его, практически без потерь, можно записать, например, на листочке бумаги и кому-то передать. С ним можно ознакомиться и принять к сведению. Его можно формализовать.

В гуманитарной сфере все совсем не так. Нельзя просто что-то прочитать, даже интеллектуально понять, и дальше использовать. Это нужно прожить, испытать. Без этого проживания "знаний" никакой пользы они не принесут.

А пережив како-то новое "знание", человек и сам меняется. В этом, во многом, и цель гуманитарных наук - изменение человека. Формирование человека.

Человек, при рождении, конечно же, не чистый лист. Многое определяется биологией. Наблюдая за своими детьми я получил уверенность (может быть и ложную) в том, что, например, выбор интроверт - экстраверт - это про "аппаратную часть", а не про "программное обеспечение". Или, например, что многие женские психологические особенности (или мужские психологические особенности - зависит от точки зрения) - тоже обусловлены биологией, причем скорее всего строением мозга а не гормонами и т.д. - как иначе объяснить что они проявляются уже буквально в пеленках, до того как произошло овладевание речью?

Но все эти особенности - это фон, на котором происходит действие построения человека. Материал, с помощью которого строится личность.

Если ты не строишь свою личность сам - ее за тебя строит кто-то другой. Не могу сказать что я хорошо знаю древние и античные тексты. Но я точно знаю, что Платон, живший почти две с половиной тысячи лет назад, в своем "Государстве" ставит задачей тех, кто управляет обществом, построение, формирование правильных типов личности у членов общества. И его ученики занимались реализацией этой задачи.

Что-то сформировать у человека можно только убедив его в том, что это правда. Есть две стадии такого убеждения. Первая - "интеллектуальная". Головой понять, что какая-то мысль - верна, принять это. Вторая - проникнуться ею, поверить. Вспомним Тютчева:

Не плоть, а дух растлился в наши дни,
И человек отчаянно тоскует...
Он к свету рвется из ночной тени
И, свет обретши, ропщет и бунтует.

Безверием палим и иссушен,
Невыносимое он днесь выносит...
И сознает свою погибель он,
И жаждет веры... но о ней не просит...

Не скажет ввек, с молитвой и слезой,
Как ни скорбит перед замкнутой дверью:
"Впусти меня!- Я верю, боже мой!
Приди на помощь моему неверью!.."

Выше приведен текст Экзюпери. Допустим, я это принимаю. Но как поверить в это? Хотя бы даже из самых практических соображений - чтобы получить какую то силу и устойчивость? С мыслью нужно не просто ознакомиться, ее нужно пережить.

Для этого и создан театр. Чтобы переживать то, что написано в текстах. Без связи человека с человеком никакое переживание невозможно. Какая-то связь остается и при чтении текста, того же "Военного летчика". Но театр - вещь, специально придуманная для усиления такого переживания.

Исторически, появился театр из религиозных мистерий.
Вначале, у первобытных охотников, были обряды посвящения. В.Я. Пропп в своих «Исторических корнях русской волшебной сказки» подробно это описал. Подростка подвергали сильнейшим физически и психологическим воздействиям, вплоть до увечий. Целью было убедить его в том, что он умер, побывал в загробном мире (у той же Бабы Яги) и вернулся, возродился. Эта процедура обеспечивала и психологическую стабильность человека в тех непростых и ненадежных условиях жизни, и устойчивость общества. Потом были, например, Элевсинские мистерии. Где людей убеждали в том, что существует спасение от смерти, возможность воскресения. Попутно - оздоровляли, очищали, интегрировали им психику вокруг этой идеи воскресения. Секуляризованная версия мистерий стала в Греции театром. В средние века был мистериальный христианский театр. На Западе он был развит сильнее, в России - гораздо слабее, но тоже был. (Эйзенштейн в "Иване Грозном", например, среди прочего изображает такое театральное действие.)

Но к концу XX века традиция этого массового мистериального театра ослабла.

Наверное, единственный оставшийся массовый мистериальный театр в мире - "Театр на досках" С.Е. Кургиняна.

Хотите по настоящему понять "Военного летчика" Экзюпери? Понять и пережить что именно происходило на XV партийной конференции ВКП(б)? Услышать что именно говорили русские классики - Пушкин, Гоголь, Чехов - "о настоящей беде московскому государству"? В мае будут спектакли (афиша - в посте ниже).

Мои субъективные впечатление о спектаклях.

"Логос". Глубокий спектакль с открытым концом. Логос - он реально существует в человеке и природе или нет? Можно ли от него избавиться? Что будет, если это сделать? Спектакль для опытного зрителя.

"Стенограмма". Спектакль, 90% которого - реальная стенограмма XV партийной конференции, на которой осуществлялся выбор пути дальнейшего развития страны - переход к построению социализма в отдельно взятой стране. Смотрел спектакль раз двадцать, наверное, и хочу еще. Очень трагичный спектакль. (Среди прочего - реальные слова Троцкого: ".... , а значит - капитализм не исчерпал еще своих творческих сил, а значит - мы пришли слишком рано". Что делать в такой ситуации людям, посвятившим жизнь приходу коммунизма?)

"Зерна". Спектакль по "Военному летчику" Экзюпери. Что-то по этому спектаклю я писал выше, а это - отзыв Д. Винника. "Зерна" - один из спектаклей, с которых лучше начинать знакомство с "Театром на досках".

"Я!". Спектакль сделан по "Запискам из подполья" Достоевского - причем по первой части. Хотите понять что там написано - приходите на спектакль. (Некоторое представление о том, что сказано в спектакле может дать эссте Томаса Манна "Достоевский — но в меру").

"Крот". О "герое нашего времени" - "новом русском", который, в момент смерти матери, переосмысливает свою жизнь. Сходить стоит хотя бы ради игры Ильи Рослякова - играющего главного героя - этого "нового русского". Но и без этого есть множество важнейших мыслей и идей. Например, - разговор Троцкого и Сталина на том свете.

"Экзерсисы". Таке один из спектаклей, с которых лучше начинать знакомство с "Театром на досках".
Спектакль в трех частях. Первая - сцена у фонтана из "Бориса Годунова" Пушкина. Гарантирую, что такой Марины Мнишек вы больше нигде не увидите. "Женитьба" Гоголя, первая ее сцена - вторая часть. "Скучная история" Чехова - третья. Сквозной персонаж - образ Беды.
В первой части глубоко проанализированы некоторые внутренние пружины пушкинского "Бориса Годунова". Во второй - среди прочего обращено внимание на то, о чем на самом деле писал Гоголь (и это вовсе не то, какие глаза и носы лучше кому приделывать; см., например, "Гоголь и черт" Мережковского). Здесь, чтобы пробить обычную пелену непонимания, театральные образы приходится сильно энергетизировать. А вот в третей части режиссер снижает накал той жути, что изобразил Чехов. Можно понять почему. Если такое еще и усилить - и жить не захочется.

Афиша на май

✍🏻Предлагаем записаться — Вам обязательно позвонят.

🔻16 мая (вт) — «Логос». Опыт осознанного сновидения. Сведи к необходимому всю жизнь и…

🔻20 мая (сб) — «Стенограмма». Мистериальная реконструкция дискуссии о построении социализма в одной стране. Что случилось, тени? Может быть, расскажет нам про это Сталин?

🔻22 мая (пн) — «Зерна». Поэтическая притча о поражении и победе по мотивам повести Антуана де Сент-Экзюпери «Военный летчик». Свобода — что это такое? Вокруг пустыня — ты свободен!..

🔻23 мая (вт) — «Я!» Трагифарс по повести Ф.М.Достоевского «Записки из подполья». Раз в жизни только человек так высказывается, да и то в истерике!..

🔻27 мая (сб) — «Крот». Мистериальное странствие в лабиринтах истории. О герое нашего времени

🔻29 мая (пн) — «Экзерсисы». Метафизический триптих по произведениям Пушкина, Гоголя и Чехова. О чем предупредили классики?

❗️Начало в 19:00.

⏳Все спектакли идут без антракта.

🤝После каждого спектакля — встреча с главным режиссером театра Сергеем Кургиняном.

☎️+7 (901) 525-39-73

Стоимость билетов — от 300 руб.

Наконец-то вновь рубрика "комментарии подписчиков")

К посту https://yangx.top/IngeniumNotes/742 :

> Этот аргумент отпадает, как только вы берете одну из этих больших языковых моделей и обучаете ее делать что-то новое. ИИ может чрезвычайно быстро, за несколько примеров, осваивать новые задачи. Сравните предварительно подготовленную большую языковую модель с человеком по скорости усвоения, и преимущество человека исчезнет».

Это лукавое утверждение, помещение фактов в контекст запроса не равноценно обучению, поскольку обратное распространение ошибки не будет работать, не будут устанавливаться дальние связи, не будет эмерджентных свойств и т.д.
То же самое с галлюцинациями. Предполагают, что причина их в том, что произошло противоречие между причинно-следственными связями между фактами и статистическими.

Бенжио пытается сам придумать некую альтернативу, свободную от "галлюцинаций", недавно манифест написал. Есть еще один из этой троицы лауреатов премии Тьюринга, Ян Лекун, который и вовсе говорит, что в нынешнем виде нейросети (и LLM) бесперспективны.

К посту https://yangx.top/IngeniumNotes/743 :

> То же самое с ИИ. Они могут ставить собственные цели? Нет. Даже Хинтон говорит, что не могут. А когда говорит про то, что «А вот когда-то потом смогут!», - то кривляется и излагает какую-то попсовую фигню.

Не соглашусь с таким подходом: задавать вопросы о целях и возможности их ставить, отчего сразу ход мыслей ведет в сторону проблем сознания и тому подобного, о чем у нас знаний на самом деле очень мало.

Это подход "от обороны": мол, вы своими моделями эти вопросы не прояснили и ничего внятного сказать не можете, значит, не интеллект вы сделали. А они в ответ: так на самом деле человек и есть такая модель и он "ставит цели" в таком же смысле, как и LLM. И о сознании болтают.

Нужно применять подход наступательный и бить врага на его территории - т.е. на территории математики машинного обучения.

Если интеллект или сознание человека действительно принципиально другая сущность, а не машина, то отсюда следует, что есть какие-то задачи или возможности, про которые можно сказать математическим языком, которые человеком решаются, а этим недоИИ - нет. Это конечно, гораздо труднее будет сделать...