В программе Neuroscience 2023, ежегодной мега-конференции нейронаук, обещают симпозиум, который смотрится непривычно: "Advances in the Neuroscientific Study of Consciousness". Конференция обычно собирает под 30 тысяч участников, всегда очень много разных тем, но все мимо сознания — во всяком случае, не припоминаю за прошлые годы. Флуктуация это или начало тренда, пока не ясно. Как не ясно и то, о каких “теоретических, методологических, экспериментальных и клинических достижениях в области исследования сознания” пойдет речь. Ну подождем до ноября.

Меж тем, в журнале Cognition вышла статья, авторы которой утверждают, что им впервые удалось эмпирически отделить ‘феноменальное сознание’ от ‘сознания доступа’. Оценить даже не буду пытаться, но думаю, это может быть интересно философам сознания, таким как Антон Кузнецов, например.

Еще из любопытного: мозг людей, пребывающих в состоянии минимального сознания, способен формировать ассоциации, грубо говоря, обучаться, о чем нам сообщает Cerebral Cortex.

Фототерапия болезни Альцгеймера: стимуляция лимфатических сосудов головного мозга во время сна. Биологи из Саратовского государственного университета пишут о том, что если светить красным или ближним ИК сквозь череп, когда человек спит, это может помочь в терапии нейродегенеративных заболеваний, например, AD.

Почему во время сна — потому что активируется лимфатическая дренажно-выводящая система головного мозга (LDRSB), а фотобиомодуляция усиливает эффект очищения.

Недавно я упоминал статью в PLOS Biology, где сказано, что LDRSB можно активировать и во время бодрствования — просто показывая людям мерцающие картинки типа черно-белой шахматной доски. Отсюда следует, что можно, вероятно, объединить два подхода: картинки и светодиоды на голове.

Наглядно видно, за счет чего может работать электрическая стимуляция языка. Язык напрямую подключен нервами к стволу мозга, откуда сигналы расходятся дальше вверх, достигая таламуса и вплоть до участков коры. Про эффекты я писал много и много общался с Юрием Петровичем Даниловым, соавтором Paul Bach-y-Rita, которые вместе и стояли у истоков метода, но иногда одна картинка лучше тысячи слов.

Кому нужны подробности — вот, оказывается, есть руководство на русском: “Транслингвальная стимуляция”

Эндоваскулярный нейроинтерфейс стал тоньше — теперь он может считывать активность мозга изнутри мелких сосудов и даже записывать один нейрон. Это шаг вперед в технологии, и примечательно, что его сделал не Synchron, а инженеры Стэнфорда и Гарварда. Они создали сетчатый зонд, который тоньше и гибче прежнего, он вводится в сонную артерию и может быть развернут в ее мелких ветвях диаметром <100 мкм. Для сравнения, стентрод Оксли требует крупного сосуда ~ 2 мм.

Для интерфейса такого типа не нужно делать дырку в черепе, катетер заходит через прокол в шее и достигает артерий в мозге. Там тончайшая сетка раскрывается, опирается на внутреннюю поверхность сосуда и, [якобы] не мешая кровотоку, записывает потенциалы 🧠. Правда, пока испытали на крысах, в отличие от Synchron, где уже работают с пациентами. Но технически Стэнфорд/Гарвард продвинулись заметно. Только что опубликовано в Science.

В разных медиа пишут про россиянина, который сам себе сделал хирургическую операцию на дому и вставил в мозг чип. Сопровождается история жуткими кадрами, он сверлил голову дрелью, а самого “героя” спустя пять недель по его просьбе спасли врачи, удалив имплант. Заметку выпустила Daily Mail, и ее пересказывают другие издания.

Сюжет прекрасен своей абсурдностью, но часто упускают контекст, а он тоже хорош. Дело в том, что про этого человека я знаю уже много лет. Михаил Радуга широко известен в узких кругах — в РФ это главный “практик и теоретик” осознанных сновидений. Автор книг и статей. У него много учеников и последователей, 16 тыс. подписчиков в vk.

Спать, а точнее бодрствовать во сне, стало делом его жизни. И чип он вставил “ради науки”, чтобы проверить идею — как влияет стимуляция мозга во время ОС на сновидения. Вот вы смеетесь, а все всерьез. По итогам эксперимента они с соавтором написали статью “Electrical stimulation of the motor cortex during REM sleep, sleep paralysis, and lucid dreams” (DOI: 10.13140/RG.2.2.17037.10728/1)

А в vk Михаил уже наяву поясняет:

“17 мая 2023 года в Алматы я без посторонней помощи провел на себе трепанацию, установку электродов и электрическую стимуляцию моторной коры мозга. Эксперимент по стимуляции мозга в БДГ-сне готовился полтора года и был моей главной целью. [...] Не повторяйте! Это гораздо сложнее и опаснее, чем вы можете представить. 4-часовое видео операции наглядно это демонстрирует. Мне не хватило реального опыта хирургии, что привело к большой потери крови и другим сложностям, которые чудом не стоили жизни”.

И вот не ясно, то ли практика осознанных сновидений привела Михаила к такой одержимости, то ли он изначально был с прибабахом, что и привело его в осознанные сновидения. Согласитесь, вопрос о причинности — это тоже научный вопрос.

А сама тема ОС безумно интересна, Михаилу скорейшего выздоровления (во всех смыслах).

Запись 13-минутного выступления на TED2023 основателя и гендира OpenBCI. Гвоздем номера стало управление дроном прямо со сцены инвалидом-колясочником с помощью гарнитуры на голове. Гарнитура мультимодальная, и управление идет не столько от мозга, сколько от активности лицевых и глазных мышц (ЭМГ/ЭОГ).

Вместо дрона, в принципе, может быть что угодно, и многие интерфейсы будут работать на нательной мягкой электронике, снимающей сигналы разной модальности. Здесь возникает более широкое поле, нежели только нейро, и есть смысл смотреть на разные типы биометрии.

На сайте TED есть и транскрипт выступления.

Куда движется нейронаука?
27 июля NINDS — Национальный институт неврологических расстройств и инсульта, один из десяти институтов и центров, входящих в NIH BRAIN Initiative — проведет открытый вебинар, где рабочая группа представит проект рекомендаций по развитию исследований в области фундаментальной нейронауки. Драфт выложен для обсуждения, и в нем кратко обоснованы выбранные приоритеты для НИРов.

Текст м.б. интересен как сигнал о том, какие научные направления с высокой вероятностью станут активно развивать в ближайшие годы. Если в двух словах, группа сосредоточилась на клеточной и молекулярной нейронауке. Особо отмечу призыв уделить внимание периферической НС, не только мозгу.

Я сделал и перевод на русский (спасибо deepl): можно читать в telegra.ph или google, кому как удобнее.

Про «момент Оппенгеймера» в ИИ
NY Times в рубрике Opinion публикует отповедь разработчикам, не желающим создавать IT для военных применений. Автор — СЕО компании Palantir Technologies, которая работает с Министерством обороны США. Текст выдержан в стиле и духе времен холодной войны, вот главная мысль:

“Мы не должны успокаиваться. Способность свободных и демократических обществ преобладать требует чего-то большего, чем моральная привлекательность. Для этого нужна жесткая сила, а жесткая сила в этом столетии будет основываться на программном обеспечении”.

Автор возмущен тем, что “многие инженеры Кремниевой долины противятся работе над проектами, которые могут иметь наступательное военное применение” и стыдит их за неуместное желание остаться в белых перчатках:

“Я боюсь, что взгляды целого поколения инженеров Кремниевой долины существенно отклонились от центра тяжести американского общественного мнения. Увлечения и политические инстинкты прибрежной элиты могут быть важны для поддержания их чувства собственного достоинства и культурного превосходства, но мало способствуют продвижению интересов нашей республики. Вундеркинды Кремниевой долины — их состояния, бизнес-империи и, что более важно, самоощущение — существуют благодаря нации, которая во многих случаях сделала возможным их взлет. Они берут на себя строительство огромных технологических империй, но отказывают в поддержке государству, чья защита и базовая социальная ткань создали необходимые условия для их восхождения. Им не мешало бы осознать этот долг, даже если он остается неоплаченным”.

На сайте NY Times идет бурное обсуждение в комментариях.

По совпадению, этим же днем Nature публикует лонгрид “ChatGPT преодолел тест Тьюринга — начинается гонка за новыми способами оценки ИИ”. Отличный рассказ о том, как исследователи пытаются найти способ проверить языковую модель на способность мыслить. Чтобы подтвердить “искры общего интеллекта” или же их опровергнуть.

Лонгрид сопровождается редакционной статьей о том, что пора уже разобраться в черном ящике: “трудно представить себе более важную задачу для области ИИ, чем понимание сильных и слабых сторон LLMs и механизмов, которые ими управляют”.

А буквально четырьмя днями ранее в Nature Machine Intelligence вышел свой editorial “Языковые модели и лингвистические теории за пределами слов”, он начинается так:

“Фредерик Елинек, известный чешско-американский исследователь в области обработки естественного языка и распознавания речи, в 1985 году сказал: "Каждый раз, когда я увольняю лингвиста, производительность распознавателя речи возрастает". Это говорит о том, что, возможно, не существует эффективного способа включения лингвистических знаний в такие системы.”

Текст рассматривает тезис о том, что лингвистика, возможно, будет бесполезна для описания работы LLMs.

При этом языковые модели все лучше имитируют типичные реакции людей, что позволяет проводить социальные эксперименты без живых участников. Об этом недавно вышла статья в Science, и ее первый автор излагает более популярно и кратко суть идеи здесь.

Группа ученых продлила жизнь старым мышам, соединив их кровеносные сосуды с сосудами молодых мышей. Такое попарное “сшивание” особей на три месяца с последующим их разделением позволило старым животным прожить на 6-9 % дольше, что эквивалентно шести годам для человека.

Авторы статьи в Nature Aging пишут, что организм старых мышей помолодел, если смотреть на молекулярные маркеры. Что меня удивляет в таких экспериментах — а парабиоз изучают давно, эта группа далеко не первая — так и не ясно, за счет чего молодая кровь омолаживает старый организм. Не знают этого и авторы нового исследования.

Бросилось в глаза, что в их команде из Duke, UCLA и Harvard есть и такие люди: Вадим Гладышев, Сергей Дмитриев, Анастасия Шиндяпина, Александр Тышковский. Не знал, что к таким проектам имеет отношение НИИ ФХБ МГУ. Любопытно.

Новая китайская собачка, версия Go2, которую недавно анонсировала компания Unitree. Стоит всего $1.600, что удивляет при таких умениях. Оснащена камерой и лидаром.

На днях в Японии прошла ALIFE 2023, конференция по 'искусственной жизни' (клеточные автоматы, гибриды, роботы, искусственные агенты и проч.). Под этим зонтиком собрано много разных идей, исследований и просто попыток смотреть за горизонт. Тема в этот раз: Ghost in the Machine

На сайте MIT выложены proceedings, т.е. труды участников конференции. Вайб примерно такой: “методы воспроизводства мозга для морфологически эволюционирующих роботов” или, например, “когнитивная археология социокультурных форм жизни”. Охват широк: теория разума, резервуарные вычисления, эволюция, коллективное поведение, симбиоз, обучение, самосбрка и мн. др. Пример сессии: (Не)человеческие ценности и искусственная свобода воли.

Словом, state-of-the-art темы ‘искусственной жизни’ (не путайте с инженерной биологией). Текстов много, залипательно.

Это, конечно, перебор. Амплитуда изрядно преувеличена. Но сам характер колебаний — правда. Так и происходит у нас в 🧠. Амплитуду изменили ученые, на компьютере, чтобы сделать пульсации и деформации более заметными. Чтобы отслеживать биомеханику тканей и жидкостей мозга. Они называют это "МРТ с трехмерным усилением" (3D amplified MRI).

Даглас Хофштадтер смог совместить приятное с полезным: он рассказал, как создавал "Гедель, Эшер, Бах", принесшую ему Пулитцеровскую премию, и заодно расправился с большими языковыми моделями, по поводу которых давно испытывает неприязнь. Он описывает такой случай: один из читателей задумал разместить на своем сайте историю написания “ГЭБ”, но постеснялся обременять Хофштадтера и попросил GPT-4 написать эссе "Почему я написал ГЭБ?" от имени автора. И затем выслал эссе Хофштадтеру на утверждение. С глубоким уважением.

Хофштадтер в Atlantic приводит текст эссе полностью, а затем свой вердикт:

“Эта проза не имеет практически ничего общего с моим стилем письма, а то, что в ней написано, совершенно не соответствует реальной истории, лежащей в основе генезиса книги. Хотя человек, не знакомый с моими текстами, может принять эту слащавую смесь напыщенности и скромности за подлинную, для меня она настолько далека от моего настоящего голоса и от реальной истории ГЭБ, что это просто смешно”.

Cледом он излагает подлинную историю создания книги, и это самый увлекательный фрагмент. На контрасте он показывает, что LLM не создала ничего кроме пресных общих фраз, слабо связанных с реальностью и не имеющих глубины. Хофштадтер говорит, что он против разработки и широкого использования больших языковых моделей, они противоположны его способу видеть мир: “На мой взгляд, нет никакого смысла в том, чтобы искусственный голос чатбота, беспорядочно болтающего с ослепительной скоростью, заменял гораздо более медленный, но подлинный и рефлексивный голос думающего, живого человека”.

Всем поклонникам легенды рекомендую.

Том Оксли, CEO Synchron, встал на защиту нейроинтерфейсов. Он увидел, как Кип Людвиг, бывший директор по нейроинженерии в NIH, обесценивает BCI: "Это очень дорогая и сложная технология, требующая обслуживания. Это очень маленький рынок. Кто будет платить за нее?” — и разразился возражением. Вот доводы Оксли:

Опровержение 1: Дорого и сложно

Снижение стоимости (с того уровня, на котором находился Second Sight) будет иметь большое значение. Отчасти это связано со сложностью системы. Мы узнаём, что пациенты хотят простоты в функциях. На конференции BCI в Брюсселе в прошлом месяце Ник Рэмси сделал убедительное заявление о том, что пациентам необходимы простые, удобные в использовании, надежные системы, которые просто работают: не нужно полагаться на сиделок или инженеров для устранения неполадок – минимальное обучение пациентов, не месяцы и не недели – когнитивная нагрузка должна быть низкой.

В "гонке вооружений" за высокую производительность и пропускную способность BCI упускается из виду, что пациентам нужна простая и стабильная система, которая работает сразу. И она должна продолжать работать. Долговечность устройства имеет значение.

Мы остановились на простой конструкции, которая должна снизить стоимость, быть простой в использовании и универсальной для различных платформ/операционных систем.

Опровержение 2: Маленький рынок

Это миф. Нарушение двигательных функций — не маленькая проблема. Инсульт, БАС, травма спинного мозга, рассеянный склероз, артропатия — существует множество заболеваний, при которых нарушаются двигательные функции. Моторные BCI (нейропротезы) не устраняют основное заболевание, а создают новый "обходной" путь для вывода управляющих сообщений из мозга в цифровом виде. Технология не зависит от заболевания и может помочь большому количеству людей, у которых не работают руки и которые хотят вернуть контроль над своими смартфонами.

Опровержение 3: Кто будет платить?

Как и все новые имплантируемые медицинские устройства класса III, BCI должны быть доказаны в клинических испытаниях как безопасные и эффективные. Затем эти данные передаются в Medicare/CMS, где запрашивается покрытие и оплата. Если технология работает, за ней следуют частные страховщики. Если испытания покажут, что технология необходима и целесообразна для пациентов, Medicare/CMS имеет отличный послужной список по покрытию технологий, прошедших путь предварительного одобрения FDA. (Но да, вы должны провести испытания).

Мы говорим о технологии, которая восстанавливает использование персональных устройств для людей, чьи руки больше не работают. В этом пространстве много шума, но в целом мы движемся к ясности в отношении нормативных требований и путей возмещения расходов, которые сделают эту технологию доступной для многих людей и улучшат их жизнь так, как это невозможно в настоящее время.

* * *

Макс Ходак сразу поддержал Оксли: “Кип будет продолжать рассказывать нам о том, что BCI невозможны, в то время как пациенты будут создавать баскетбольную лигу”.

Посмотрел, наконец, дебаты об угрозах искусственного интеллекта: Бенжио и Тегмарк vs. Лекуна и Митчелл. Думаю, примерно так проходили споры схоластов о том, сколько ангелов уместится на кончике иглы. Сверхразумный ИИ, экспоненциально умнеющий и ускользающий от любого контроля, столь же неуловим для предметного анализа, что и ангелы. Отсюда в ход шли аналогии и примеры из прошлого. Если интересно, дебаты начинаются после 13-й минуты (YT).

Более содержателен, однако, вопрос о том, можно ли оценивать интеллект ИИ метриками, разработанными для людей. Когда человек сдает тест/экзамен, мы неявно ожидаем, что он научился решать задачи данного типа. В случае ИИ это может быть не так. На этот счет рекомендую июльское эссе той же Мелани Митчелл в Science: How do we know how smart AI systems are? и подкаст Эрика Тополя с ней же: Straight Talk on A.I. Large Language Models. Это ключевой вопрос, влияющий на всю дальнейшую политику по отношению к ИИ.

По случаю напомню, что прошло уже четыре месяца с момента публикации открытого письма о приостановке обучения ИИ моделей на полгода. Паузы не случилось, признаков неконтролируемого возрастания рисков не видать, зато случился курьез, который подписанты письма не предвидели — GPT-4 “поглупел”. Что само по себе занятно и может создать барьер широкому использованию таких моделей из-за непредсказуемости подобных эффектов. Последствия хорошо разобрал Александр Сергеев в 14-минутном видео.

Заголовок NYT вводит в заблуждение. Впрочем, как и название оригинальной статьи в PLoS Biology: о реконструкции музыки по сигналам мозга тут говорить явно не приходится. Можете сами послушать аудио-фрагменты и оценить, насколько они похожи на песню Pink Floyd.

Увы, результат еще хуже, чем с реконструкцией картинок. Почему авторы пишут “We successfully reconstructed a recognizable song from direct neural recordings”, не ясно.

Вышел свежий манифест группы авторов, включая таких звезд как Эд Бойден и Джордж Чёрч, с призывом создать работающую модель нервной системы червя: не коннектом, который не дал понимания, а именно все взаимодействия клеток, то есть, по сути, сделать “цифрового двойника” нервной системы.

💥 "To reverse engineer an entire nervous system" | arXiv (2023)

Они считают, что следует пока отложить эксперименты с мышами и попытаться вывести принципы нейронных вычислений, работая с более простой моделью:

“Reverse engineering the causal interactions in the nervous system of C. elegans promises to establish in-silico simulations as a way of accelerating neuroscience. It promises to teach us how to run experiments that reveal the causal ways of how circuits work”.

В манифесте читается образ науки, который предвещают и приближают авторы: нейронаука будет питаться, с одной стороны, возросшими возможностями инструментов, которые могут видеть активность и организацию живых сетей в мельчайших деталях, и ресурсами машинного обучения, с другой, которое позволит извлекать корреляции из петабайтов данных, строить модели и экспериментировать in-silico.

Концепция “живых электродов” получила развитие. Напомню, придумали ее в University of Pennsylvania: в мягких гидрогелевых трубках выращивают аксоны живых нейронов и затем имплантируют эти трубки в мозг крысы, где отростки связываются с клетками грызуна и проводят сигнал, словно обычный электронный зонд.

Идея убедила инженеров из University of Utah. Они сделали из таких "электродов" матрицу 4х4 и выложили препринт. Пока ее проверили in vitro, но уже планируют эксперименты in vivo, в том числе сделать иглы разлагаемыми. Так в перспективе решается проблема биосовместимости: в мозге останутся только живые клетки в роли проводящего кабеля к чипу.

Не хотел писать про очередное мыслительное упражнение на тему “сознание в машине”, но новость расходится, отклики разные, и пару моментов все же стоит пояснить. Например, ряд авторов препринта еще в апреле подписали открытое письмо Association for Mathematical Consciousness Science (да, есть и такое) с посылом: “мы подчеркиваем, что быстрое развитие ИИ обнажает острую необходимость ускорения исследований в области науки о сознании”.

К августу они провели свое “исследование”, хотя оно было изначально обречено — препринт вышел длинным, но почти лишен содержания. Их ключевой вывод “The evidence we consider suggests that […] conscious AI systems could realistically be built in the near term” примечателен тем, что его никак не проверить, особенно in the near term. Нет научного способа обнаружить сознание в неоднозначной ситуации, в серой зоне.

Корректнее их вывод звучал бы так: мы считаем, что можно создать такую ИИ систему, у которой будут свойства из списка, что мы составили, изучив некоторые теории сознания. Словом, свойства будут, а будет ли сознание — не ясно. Потому что “теории сознания” сами еще сырые, чтобы на них полагаться. По некоторым тезисам в тексте видно, что авторы все понимают. Тем удивительнее этот порыв перелить из пустого в порожнее на 70 страниц.

Неделей раньше вышла статья, главная мысль которой отражена в названии: “Системы ИИ не должны вводить пользователей в заблуждение относительно их разумности или морального статуса”. Или чуть подробнее:

“Системы ИИ не должны сбивать с толку с моральной точки зрения. Этически правильный способ обращения с ними должен быть очевиден из их дизайна и интерфейса. Никто не должен вводить себя в заблуждение, например, думая, что неразумная языковая модель на самом деле является разумным другом, способным испытывать истинное удовольствие и боль. К сожалению, мы находимся на пороге новой эры морально запутанных машин”.

Проблема поймана верно, оттого и 'острая необходимость ускорения исследований в области науки о сознании'. Причем наука эта, вероятно, должна предвидеть возможность разных форм сознания и изучать в т.ч. поведение ИИ систем. Пока же мы ходим по кругу, бормоча одни и те же заклинания, ни к чему не обязывающие и не проверяемые — ровно так и окажемся в компании морально запутанных машин. 🦜🧠