#видео
Доклады прошлого года семинара "Математические основы искусственного интеллекта", который проводит Математический институт им. В.А. Стеклова. Выложены записи выступлений Бурнаева, Гасникова, Ветрова, Наумова, Оселедца, Разборова и многих других.
https://www.mathnet.ru/conf2402
П.С. Рисунок взят из доклада Димы Ветрова, когда он объясняет, как попадать в широкие минимумы функций потерь.
Доклады прошлого года семинара "Математические основы искусственного интеллекта", который проводит Математический институт им. В.А. Стеклова. Выложены записи выступлений Бурнаева, Гасникова, Ветрова, Наумова, Оселедца, Разборова и многих других.
https://www.mathnet.ru/conf2402
П.С. Рисунок взят из доклада Димы Ветрова, когда он объясняет, как попадать в широкие минимумы функций потерь.
#книга
Фридман Д. П., Мендхекар А. "The Little Learner. A Straight Line to Deep Learning" (Чудесное машинное обучение)
Недавно на русском вышла книга. Меня заинтересовала манера изложения - она сделана в виде диалога (показан на рисунке). Как будто читатель задаёт вопросы, а автор на них отвечает и так происходит обучение. Подход известен, даже в книгах про ML было что-то подобное (в книге Шлезингера и Главача было обучение в переписке). Примеры кода здесь на Scheme (кажется, что это только увеличивает порог входа). Забавный факт - предисловие написал Питер Норвиг и сделал это "по правилам повествования" (в виде диалога).
Фридман Д. П., Мендхекар А. "The Little Learner. A Straight Line to Deep Learning" (Чудесное машинное обучение)
Недавно на русском вышла книга. Меня заинтересовала манера изложения - она сделана в виде диалога (показан на рисунке). Как будто читатель задаёт вопросы, а автор на них отвечает и так происходит обучение. Подход известен, даже в книгах про ML было что-то подобное (в книге Шлезингера и Главача было обучение в переписке). Примеры кода здесь на Scheme (кажется, что это только увеличивает порог входа). Забавный факт - предисловие написал Питер Норвиг и сделал это "по правилам повествования" (в виде диалога).
#интересно
Более 10 лет назад была создана платформа для соревнований в анализе данных DrivenData - она поставила своей целью приспособить DS в первую очередь для блага общества (а не для выгоды коммерческих компаний). Недавно у них был юбилей, и они в своём блоге сделали очень неплохой пост, в котором подвели итоги 10-летней деятельности, описали удачи и проблемы.
https://drivendata.co/blog/10-years-of-data-science-for-social-good
Более 10 лет назад была создана платформа для соревнований в анализе данных DrivenData - она поставила своей целью приспособить DS в первую очередь для блага общества (а не для выгоды коммерческих компаний). Недавно у них был юбилей, и они в своём блоге сделали очень неплохой пост, в котором подвели итоги 10-летней деятельности, описали удачи и проблемы.
https://drivendata.co/blog/10-years-of-data-science-for-social-good
#таланты
Если кто-то умеет и хочет попридумывать задачки в стиле современных олимпиад по ИИ для школьников, то можно помочь Саше Гущину отобрать таланты в этом году.
Подробности по ссылке:
https://yangx.top/aguschin_ai/113
Если кто-то умеет и хочет попридумывать задачки в стиле современных олимпиад по ИИ для школьников, то можно помочь Саше Гущину отобрать таланты в этом году.
Подробности по ссылке:
https://yangx.top/aguschin_ai/113
#книга
Илья Шпигорь Искусственный интеллект в стратегических играх
Выложена на leanpub в открытом доступе. Мне в целом понравилась, что-то подобное искал и нашёл.
+ есть история исследования игр и логического перебора,
+ повествование доходит до AlphaZero и современных игровых движков,
+ попутно разбираются концепции машинного обучения,
- кажется, что некоторые концепции типа альфа-бета отсечений стоило бы разобрать подробнее,
- широта повествования может быть неудобна начинающим (например, объясняются свёрточные сети на задачах с картинками и тут же рассказывается, где они применяются в играх).
https://leanpub.com/ai-in-strategy-games
Илья Шпигорь Искусственный интеллект в стратегических играх
Выложена на leanpub в открытом доступе. Мне в целом понравилась, что-то подобное искал и нашёл.
+ есть история исследования игр и логического перебора,
+ повествование доходит до AlphaZero и современных игровых движков,
+ попутно разбираются концепции машинного обучения,
- кажется, что некоторые концепции типа альфа-бета отсечений стоило бы разобрать подробнее,
- широта повествования может быть неудобна начинающим (например, объясняются свёрточные сети на задачах с картинками и тут же рассказывается, где они применяются в играх).
https://leanpub.com/ai-in-strategy-games
#полезно
Очень классный источник обзорных статей с красивыми визуализациями от одного из авторов книги "Hands-On Large Language Models". Есть обзоры по LLM-агентам, рассуждающим моделям, смеси экспертов, квантованию, моделе Mamba.
https://newsletter.maartengrootendorst.com
Очень классный источник обзорных статей с красивыми визуализациями от одного из авторов книги "Hands-On Large Language Models". Есть обзоры по LLM-агентам, рассуждающим моделям, смеси экспертов, квантованию, моделе Mamba.
https://newsletter.maartengrootendorst.com
#визуализация
Игра, в которой по картинке надо догадаться, что на ней изображено.
https://www.graphs.world
Когда я составлял свою книжку, такие задачи даже не рассматривал, думая, что интересно вряд ли получится. Теперь можно посмотреть, как получилось у других.
Игра, в которой по картинке надо догадаться, что на ней изображено.
https://www.graphs.world
Когда я составлял свою книжку, такие задачи даже не рассматривал, думая, что интересно вряд ли получится. Теперь можно посмотреть, как получилось у других.
#математика
Лемма о малом искажении (Джонсона – Линденштрауса) утверждает, что множество точек многомерного пространства можно отобразить в пространство меньшей размерности так, что расстояния между точками почти не изменятся. Интересно, что этого можно добиться ортогональными проекциями.
Этот красивый результат упоминается даже в помощи sklearn, а доказательство можно найти в книге Roman Vershynin
«High-Dimensional Probability An Introduction with Applications in Data Science» (кстати, скоро выходит 2е издание).
П.С. Картинка к посту из материалов Джефри Гордона.
Лемма о малом искажении (Джонсона – Линденштрауса) утверждает, что множество точек многомерного пространства можно отобразить в пространство меньшей размерности так, что расстояния между точками почти не изменятся. Интересно, что этого можно добиться ортогональными проекциями.
Этот красивый результат упоминается даже в помощи sklearn, а доказательство можно найти в книге Roman Vershynin
«High-Dimensional Probability An Introduction with Applications in Data Science» (кстати, скоро выходит 2е издание).
П.С. Картинка к посту из материалов Джефри Гордона.
#визуализация
Интересная подборка визуализаций - порфолио Сантьяго Ортиза. Например, есть визуализация распределений вероятностей при генерации текстов с помощью языковых моделей.
https://moebio.com/
Интересная подборка визуализаций - порфолио Сантьяго Ортиза. Например, есть визуализация распределений вероятностей при генерации текстов с помощью языковых моделей.
https://moebio.com/
#книга
Хэйвилл Дж. «Замечательные математические кривые»
Математика для фанатов (и только для них, тут не будет кода или приложений) уровня студентов первых курсов. Я ожидал некоторую энциклопедию по всем кривым. Здесь скорее набор обзорных глав, каждая посвящена конкретной теме: эллиптические кривые, Безье, заполняющие пространство. Написано интересно, есть классные истории (некоторые ещё ниже напишу), вот на картинке одна из них.
Хэйвилл Дж. «Замечательные математические кривые»
Математика для фанатов (и только для них, тут не будет кода или приложений) уровня студентов первых курсов. Я ожидал некоторую энциклопедию по всем кривым. Здесь скорее набор обзорных глав, каждая посвящена конкретной теме: эллиптические кривые, Безье, заполняющие пространство. Написано интересно, есть классные истории (некоторые ещё ниже напишу), вот на картинке одна из них.