Малоизвестное интересное
69.3K subscribers
139 photos
2 videos
11 files
1.85K links
Авторский взгляд через призму новейших исследований на наше понимание реальности, человеческой сущности и того, как ИИ меняет их.




Рекламы, ВП и т.п. в канале нет.
Пишите на @karelovs
加入频道
Нужно быть готовым к неизбежному появлению искусственного сознания.
«К такой трактовке сознания следует относиться весьма серьезно», - считает Карл Фристон.
«Если он прав, последствия будут фундаментальными», - считает Анил Сэт.
Обе оценки двух корифеев мировой нейробиологии относятся к концепции сознания, разработанной третьим корифеем – Марком Солмсом, известным психоаналитиком и нейропсихологом, открывшим мозговой механизм сновидений и теперь готовящем новый научный прорыв.

Концепция сознания Солмса отвечает на два наиболее интригующих вопроса человечества:
▪️ Как разум связан с телом?
▪️ Как можно чувствовать, что нечто - это я?

Эта концепция ставит с головы на ноги 4 современных мэйнстримных представления о сознании.
(1) Что сенсорное восприятие является хорошим модельным примером сознания.
(2) Что сознание генерируется в коре головного мозга.
(3) Что «уровень» сознания (т.е. «возбуждение» или «бодрствование») лишен какого-либо качества и содержания.
(4) Что мы можем понять, как и почему возникло сознание, взяв его наиболее сложную форму (а именно, человеческое познание) в качестве отправной точки.


Всё вышеназванное ошибочно, утверждает и доказывает концепция Солмса.

✔️ Сенсорное восприятие - это самый неподходящий модельный пример сознания, поскольку сенсорные ощущения по своей сути не является сознательными процессами. Такими процессами являются аффекты (чувства), поскольку именно они по своей сути являются осознанными.
✔️ Аффект - это форма гомеостаза, а гомеостаз имеет довольно простой механизм. И следовательно, сознание может быть объяснимо механистически.
✔️ Сознание генерируется в стволе мозга и, соответственно, его основная форма - это довольно простое биологическое явление (грубое чувство), которое почти не имеет ничего общего с интеллектом.
✔️ Фундаментальный механизм человеческого мозга, генерирующий сознание, идентичен таковому у рыб. И эту фундаментальную форму (грубое чувство) можно искусственно спроектировать. Следовательно, миру нужно готовиться к неизбежной разработке искусственного сознания. И это произойдет задолго до прорыва в понимании механизма работы человеческого интеллекта.

Подробней:
- читайте в только вышедшей книге
- смотрите и слушайте из уст самого Солмса
- (для готовых к трудному чтению) читайте в работе Солмса и его совместной работе с Карлом Фристоном.

#Сознание #АнилСет #Фристон
​​Прорыв в ИИ может произойти уже до конца этого года.
Начинается всемирный поиск новых ИИ-моделей, в котором вы можете участвовать.

Речь идет об объявленном AIcrowd Facebook AI крауд-конкурсе проектирования и обучения альтернативных ИИ-агентов, работающих иначе, чем современный мейнстрим машинного обучения с подкреплением.

Недавно DeepMind объявил, что обучение с подкреплением — метод, когда ИИ-агент ничего не знает об окружающей среде, но может самообучаться, взаимодействуя с ней, - может позволить прорыв к ИИ человеческого уровня (AGI). Этот метод, действительно, весьма перспективен. Но он требует значительного объема вычислений и мощного компьютерного оборудования. А это, к сожалению, не очень подходит за пределами демонстрационных игр, когда цель – не удивить общественность, а решение практических задач в реальном мире.

Facebook решил попробовать обойти эту проблему, организовав всемирный поиск новых ИИ-моделей, позволяющих ИИ-агентам ориентироваться в сложных средах при низких вычислительных затратах.

В качестве супер-теста была выбрана NetHack — старая, но до сих пор одна из самых сложных игр. В ней игроки должны спуститься на 50+ уровней подземелья, чтобы найти магический амулет. Шансов выиграть в эту игру мало даже у ИИ-агентов, разгромивших людей в StarCraft II, Dota 2 и Minecraft. Ведь в этой игре игроки просто мрут, как мухи. А после каждой смерти подземелье полностью перестраивается, тем самым сводя почти что к нулю набранный опыт.

Единственный способ выиграть в таких адских условиях — каким-то образом суметь совместить нестандартное мышление, исследовательские навыки и удачу. Такой ИИ-агент должен уметь совмещать оптимальное применение уже имеющихся знаний со способностью исследовать совершенно неизученные области (т.е. сочетать exploitation & exploration).

Идея исследователей из Facebook проста. Авторитеты машинного обучения так пока и не преуспели в создании ИИ-агентов, способных учиться с малыми вычислительными затратами. Поэтому вместо того, чтобы самим пытаться поймать «золотую рыбку» прорывной ИИ-модели, Facebook решил провести открытый конкурс, пригласив участвовать всех желающих и предоставив каждому участнику высокотехнологическую «удочку». Ею будет специально разработанная учебная среда с открытым кодом - NetHack Learning Environment (NLE). Это масштабируемая, процедурно генерируемая, стохастическая, весьма сложная среда для исследования обучения с подкреплением в ходе игры ИИ-агента в NetHack.

Работая в среде NLE, участники смогут тратить больше времени на тестирование новых перспективных идей, а не на ожидание результатов длительных вычислений. Перед ними поставлена задача спроектировать и обучить своего агента каким угодно существующим или изобретенным способом - с машинным обучением или без него, с использованием любой внешней информации, любого метода обучения с любым вычислительным бюджетом.

Единственное требование – создать ИИ-агента, который может быть оценен жюри конкурса. О его результатах будут судить по тому, как часто этот агент выживает и поднимается из подземелья с Амулетом.

Среди альтернативных концепций создания моделей ИИ-агентов – имхо, самой перспективной является модель процесса активного вывода (active inference). Суть такого процесса в:
• статистической генерации предсказаний (бессознательных выводов об окружающем мире и самом себе на основе внутренней модели);
• проверке этих выводов на основе сенсорных данных;
• и постоянной минимизации ошибок предсказания.

Активный вывод и прогностическое кодирование, объединенные фундаментальным принципом свободной энергии Карла Фристона я называю «конституция биоматематики». Это, по сути, - высший закон, определяющий основной принцип жизни и разума (подробней см. мой пост).

А теперь о самом важном и интересном.
Дочитать (еще всего на 1 мин):
- на Medium https://bit.ly/3j9Qaf8
- на ЯДзен https://clck.ru/VgSju
#ИИ #МашинноеОбучение #ПринципСвободнойЭнергии #Фристон #АктивныйВывод
2023 может стать годом трёх великих переломов.
Конституция биоматематики расширяет наше понимание законов природы.

Этот год войдет в историю не только «революцией ИИ», но и тремя кардинальными трансформациями в научном понимании природы сложности, жизни и интеллекта. Основой всех трёх трансформаций становится сформулированный и формализованный Карлом Фристоном принцип свободной энергии (Free Energy Principle) - главный претендент на звание «единой теории мозга» и даже «единой теории всего».

Еще в 2020 я назвал принцип свободной энергии «конституцией биоматематики», т.к. на его основе строится ряд важнейших научных теорий, объясняющих и математически описывающих возникновение и развитие сложности, жизни и интеллекта.
Теперь, спустя 3 года, можно констатировать, что на основе «конституции биоматематики» происходит кардинальное переосмысление всех трех названных фундаментальных понятий. По сути, новые работы Карла Фристона, Майкла Левина, Криса Филдса, Йошуа Бонгарда, Ричарда Уотсона и др. дают новые теоретические описания законов природы более высокого уровня, для которых наши прежние научные представления остаются лишь их частными случаями (подобно законам Ньютона после открытия Теории относительности).

Рост сложности - это следствие двунаправленного обмена информации между системой и ее окружением
Используя формальные рамки принципа свободной энергии, рост сложности является следствием общих термодинамических требований к двунаправленному обмену информацией между системой и ее окружением. Это приводит к возникновению иерархических вычислительных архитектур в системах, которые работают достаточно далеко от теплового равновесия. В таких условиях окружающая среда любой системы увеличивает ее способность предсказывать поведение системы путем "инженерии", направленной на увеличение морфологической сложности и, как следствие, более масштабного, более макроскопического поведения.

Принцип свободной энергии вызывает нейроморфное развитие
Любая конечная физическая система с морфологическими, т. е. трехмерными вложениями или формой, степенями свободы и локально ограниченной свободной энергией будет, при ограничениях принципа свободной энергии, со временем развиваться в сторону нейроморфной морфологии, которая поддерживает иерархические вычисления, в которых каждый «уровень» иерархии выполняет укрупнение своих входов и, соответственно, мелкозернистость своих выходов.

Индивидуальный интеллект не существует. Все интеллекты являются коллективами
Индивидуальный интеллект в привычном обличье центральной нервной системы или мозга возникает в результате взаимодействия многих неразумных компонентов (нейронов), расположенных в правильной организации с правильными связями. Т.е. отдельный нейрон — это не то место, где происходят познания и обучение. Именно распределенная коллективная деятельность в сети представляет собой познание, а изменения в организации сетевых связей составляют механизм обучение. Т.о. мозг является разумным коллективом правильного типа, способным познавать и учиться. А произвольную нейронную сеть можно рассматривать как агента, который подчиняется принципу свободной энергии, обеспечивая универсальную характеристику мозга».

Каждый из трёх великих переломов заслуживает своего лонгрида. И если получится, я их для вас напишу.
А пока перечитайте лонгрид «Конституция биоматематики», популярно объясняющий суть принципа свободной энергии для неспециалиста.
Три года назад, представляя лонгрид, я написал – «подобного рода высокоуровневое описания принципа свободной энергии, насколько мне известно, в мире еще не публиковалось»
Увы, и спустя 3 года это по-прежнему так.

#ПринципСвободнойЭнергии #Фристон
Команда Карла Фристона разработала и опробовала ИИ нового поколения.
Предложено единое решение 4х фундаментальных проблем ИИ: универсальность, эффективность, объяснимость и точность.

✔️ ИИ от Фристона – это даже не кардинальная смена курса развития ИИ моделей.
✔️ Это пересмотр самих основ технологий машинного обучения.
✔️ Уровень этого прорыва не меньше, чем был при смене типа двигателей на истребителях: с поршневых (принципиально не способных на сверхзвуковую скорость) на реактивные (позволяющие летать в несколько раз быстрее звука)


Новая фундаментальная работа команды Карла Фристона «От пикселей к планированию: безмасштабный активный вывод» описывает первую реальную альтернативу глубокому обучению, обучению с подкреплением и генеративному ИИ.
Эта альтернатива – по сути, ИИ нового поколения, - названа ренормализирующие генеративные модели (RGM).

Полный текст про новый тип ИИ от Фристона доступен подписчикам моих лонгридов на Patreon, Boosty и VK
Картинка https://telegra.ph/file/18129fcce3f45e87026e6.jpg
#ИИ #AGI #ПринципСвободнойЭнергии #Фристон
Сознание как "энергетический резонатор" и "глобальный эволюционный паноптикум".
Математика нейрофеноменологии позволяет выдвигать интригующие гипотезы.
Хочу отметить 8-летие канала новым лонгридом на крышесносную тему. На его написание меня вдохновили Карл Фристон и Анил Сет. А с проецированием их идей в пространство эвристических гипотез мне помогал симулякр интеллекта Станислава Лема, реконструированный группой моих ИИ-консультантов..
Лонгрид четырехчастен, и в свете дня рождения канала он открыт для всех читателей на Medium, Дзене, Patreon, Boosty и VK.

1я часть лонгрида — об очередной эпохальной работе Карла Фристона (гения, похожего одновременно на Эйнштейна и Леонардо да Винчи), озаглавленной «Математика нейрофеноменологии». В ней Фристон с соавторами приоткрывают завесу над тайной тайн формирования субъективного опыта — как мозг формирует наше уникальное и неповторимое «Я» из триллионов осколков пережитого нами субъективного, чувственного, алгоритмически не сжимаемого опыта. И как это связано с нейронными процессами.
Авторы работы применяют математический аппарат “конституции биоматематики” для описания феноменологии — т.е. содержания субъективного опыта, — через модель обновления убеждений. Одной из ключевых гипотез является то, что содержание нашего опыта можно описать как вероятностное распределение, которое обновляется на основе новых данных. Такой подход позволяет не только теоретически описать восприятие, но и количественно оценить, насколько различным может быть восприятие одного и того же события у разных людей.

2я и 3я части — это краткое изложение двух увлекательных эвристических гипотез, навеянных духом Станислава Лема и имеющих ненулевую вероятность оказаться верными в свете «математики нейрофеноменологии» Фристона и Со.

2я часть посвящена гипотезе сознания как "энергетического резонатора".
Один из выводов статьи предполагает, что процесс формирования субъективного опыта требует энергии. Что, если пойти дальше и представить, что сознание — это не просто система обновления убеждений, а нечто более фундаментальное? С точки зрения математики это выглядит как процесс минимизации неопределённости, но что, если за этим кроется нечто большее?
• Например, можно предположить, что наш мозг действует как своеобразный «энергетический резонатор», который улавливает скрытые ритмы Вселенной, переводя их в осознанный опыт.
• И что именно благодаря этому резонансу возникают моменты озарений, глубокой интуиции или даже предвидения будущего
Если эта гипотеза верна, то человечество стоит на пороге нового понимания не только сознания, но и нашего места во Вселенной.
Это открывает дверь для невероятных возможностей: от создания технологий, основанных на сознании, до возможности отправляться в «ментальные путешествия» не через пространство, а через само восприятие времени.

В 3й части представлена гипотеза "глобального эволюционного паноптикума".
Что, если сознание — это не только способ минимизации неопределённости внутри субъекта, но и инструмент, через который Вселенная "наблюдает" за собой?
В таком случае человеческое сознание и его способность к самосознанию — это не случайное эволюционное приобретение, а необходимый механизм, встроенный в глобальную систему эволюции Вселенной. И возможен сценарий, в котором развитие ИИ и когнитивных систем приведет:
• к созданию "синтетических наблюдателей", которые смогут минимизировать неопределенность на глобальном уровне быстрее и точнее, чем человек;
• к зарождению новой формы эволюции — “эволюции наблюдателей”.

4я часть лонгрида содержит тизер-путеводитель по публикациям моего канала, посвященным самым увлекательным и важным работам Карла Фристона, которого через 100 лет, наверняка, будут вспоминать в одном ряду с Эйнштейном и Дарвином.

Ну а лучшим подарком каналу на 8-летие могли бы стать ваши донаты или подписка на лонгриды канала, публикуемые на платформах Patreon, Boosty и VK.
#Сознание #Фристон #Восприятие