#статья
Статья от Майкла Джордана и соавторов
О темпах обучения о операторах Шрёдингера
- связь между стохастическим градиентным спуском и дифференциальными уравнениями
https://arxiv.org/pdf/2004.06977.pdf
Статья от Майкла Джордана и соавторов
О темпах обучения о операторах Шрёдингера
- связь между стохастическим градиентным спуском и дифференциальными уравнениями
https://arxiv.org/pdf/2004.06977.pdf
#статья
Работа ребят из Беркли
Zitong Yang et al Rethinking Bias-Variance Trade-off for Generalization of Neural Networks
о пересмотре для нейросетей концепции разброс-смещение
https://arxiv.org/pdf/2002.11328.pdf
Работа ребят из Беркли
Zitong Yang et al Rethinking Bias-Variance Trade-off for Generalization of Neural Networks
о пересмотре для нейросетей концепции разброс-смещение
https://arxiv.org/pdf/2002.11328.pdf
...это всё было на тему теоретических работ по настройке сетей. Сегодня посмотрел около сотни новых статей. Эти зацепили больше остальных.
Что в этом списке лишнее?
Anonymous Quiz
25%
saliency maps
20%
deconvolution
5%
guided backprop
24%
batch normalization
19%
GradCAM
7%
integrated gradient
#обучение
Ещё одна магистерская программа по биоинформатике, теперь в МФТИ
https://biotech.napoleonit.com/
Ещё одна магистерская программа по биоинформатике, теперь в МФТИ
https://biotech.napoleonit.com/
#обучение
Тут нобелевские лауреаты зазывают на магистерские программы в Европу:
https://sit.timepad.ru/event/1342712/
Тут нобелевские лауреаты зазывают на магистерские программы в Европу:
https://sit.timepad.ru/event/1342712/
sit.timepad.ru
SIT Master’s Insights с Нобелевским лауреатом Константином Новосёловым / События на TimePad.ru
Вебинар пройдет специально для России и стран СНГ и все выступления спикеров будут на русском языке. Участники мероприятия смогут узнать о преимуществах новой учебной программы как от бизнес-лидеров, так и от первых студентов SIT.
#конференции
Ещё одно мероприятие в Сириусе в августе по оптимизации, управлению и теории информации:
https://sochisirius.ru/obuchenie/graduates/smena673/3258
Ещё одно мероприятие в Сириусе в августе по оптимизации, управлению и теории информации:
https://sochisirius.ru/obuchenie/graduates/smena673/3258
Что выдаст следующий код?
import torch x = torch.tensor([[1, 2], [3, 4]]) print ((3 * (x - 2) ** 2).mean())
import torch x = torch.tensor([[1, 2], [3, 4]]) print ((3 * (x - 2) ** 2).mean())
Anonymous Quiz
5%
4
16%
4.5
12%
tensor(4)
34%
tensor(4.5000)
2%
0
5%
NaN
16%
ошибку
8%
ничего не выдаст
код без переносов сделался... ну ладно, так и оставлю (редактировать опросы нельзя, можно создать новый). Будем считать, что они есть. Для тех, кто не знает, можно смотреть комментарий с объяснением правильного ответа, если кликнуть на "лампочку" в правом верхнем углу.
#книга
Посмотрел книгу Deep Learning Architectures. Думал, что она о разных архитектурах сетей, как следует из названия. Но оказалось, что она о математике, которая стоит за DL. В принципе, книжка очень неплохая, там много задачек вида «как с помощью ReLU-сети реализовать максимум от нескольких переменных».
https://www.springer.com/gp/book/9783030367206
Посмотрел книгу Deep Learning Architectures. Думал, что она о разных архитектурах сетей, как следует из названия. Но оказалось, что она о математике, которая стоит за DL. В принципе, книжка очень неплохая, там много задачек вида «как с помощью ReLU-сети реализовать максимум от нескольких переменных».
https://www.springer.com/gp/book/9783030367206
Springer
Deep Learning Architectures | SpringerLink
The book is a mixture of old classical mathematics and modern concepts of deep learning. The main focus is on the mathematical side, since in today's developing trend many mathematical aspects are kept silent and most papers underline only the computer science…
#интересно
Построение эго-графа по Гугл-запросу вида « ... vs ... »... это же просто и гениально:
https://medium.com/applied-data-science/the-google-vs-trick-618c8fd5359f
Построение эго-графа по Гугл-запросу вида « ... vs ... »... это же просто и гениально:
https://medium.com/applied-data-science/the-google-vs-trick-618c8fd5359f
Medium
The Google ‘vs’ Trick
How ego graphs can help you learn about AI, play chess, eat healthier, buy a dog and find love.
#забавно
Один из классических датасетов изображений был удалён MIT, более того, всех призвали удалить его копии, поскольку там есть что-то околорасистское...
https://venturebeat.com/2020/07/01/mit-takes-down-80-million-tiny-images-data-set-due-to-racist-and-offensive-content/
Один из классических датасетов изображений был удалён MIT, более того, всех призвали удалить его копии, поскольку там есть что-то околорасистское...
https://venturebeat.com/2020/07/01/mit-takes-down-80-million-tiny-images-data-set-due-to-racist-and-offensive-content/
VentureBeat
MIT takes down 80 Million Tiny Images data set due to racist and offensive content
The 80 Million Tiny Images data set was taken offline following an audit that found images labelled with racist, sexist, or otherwise offensive words.
Forwarded from Food&Science
Как математики смотрят на кондитеров?
Как на тетраэдры с лепестковыми диаграммами.
Несколько лет назад в Гарварде решили скачать несколько тысяч рецептов блинов, печений, бисквитов с сайта allrecipes и построить диаграммы.
Представьте себе яйца, молоко, муку: каждый ингредиент на своей оси. Там, где они пересекаются, стоит точка. Каждая точка означает определённые пропорции трёх ингредиентов.
Например, кто-то готовит блины в пропорциях 2:2:1. Но рецептов блинов много, пропорции могут до определённой степени отличаться. А раз пропорции отличаются, то и точки будут в разных местах стоять.
При этом все точки будут ограничены какой-то областью, за рамками которой будет уже не блин, а что-то другое. К примеру, если в пропорции увеличить число яиц, то будет не блин, а омлет.
В Гарварде проанализировали несколько кондитерских изделий и сделали цветные области с точками, расположив их на тетраэдре. Если его собрать, то очень удобно смотреть на рецепты и размышлять о природе брауни или сконов.
Но главное – это пустые места. Вот куда нужно смотреть – это пустоты, которые можно заполнить своим креативом.
Такой дата сайнс можно проводить более точечно: с бисквитами, тестом на пиццу, шоколадными печеньями.
#scientificbreakfast
Как на тетраэдры с лепестковыми диаграммами.
Несколько лет назад в Гарварде решили скачать несколько тысяч рецептов блинов, печений, бисквитов с сайта allrecipes и построить диаграммы.
Представьте себе яйца, молоко, муку: каждый ингредиент на своей оси. Там, где они пересекаются, стоит точка. Каждая точка означает определённые пропорции трёх ингредиентов.
Например, кто-то готовит блины в пропорциях 2:2:1. Но рецептов блинов много, пропорции могут до определённой степени отличаться. А раз пропорции отличаются, то и точки будут в разных местах стоять.
При этом все точки будут ограничены какой-то областью, за рамками которой будет уже не блин, а что-то другое. К примеру, если в пропорции увеличить число яиц, то будет не блин, а омлет.
В Гарварде проанализировали несколько кондитерских изделий и сделали цветные области с точками, расположив их на тетраэдре. Если его собрать, то очень удобно смотреть на рецепты и размышлять о природе брауни или сконов.
Но главное – это пустые места. Вот куда нужно смотреть – это пустоты, которые можно заполнить своим креативом.
Такой дата сайнс можно проводить более точечно: с бисквитами, тестом на пиццу, шоколадными печеньями.
#scientificbreakfast
#статья
Обзор по представлениям в обработке аудио
Deep Representation Learning in Speech Processing:Challenges, Recent Advances, and Future Trends:
https://arxiv.org/abs/2001.00378
Обзор по представлениям в обработке аудио
Deep Representation Learning in Speech Processing:Challenges, Recent Advances, and Future Trends:
https://arxiv.org/abs/2001.00378
#курс
Бесплатный курс от Авито по аналитике данных (никакого фидбэка о качестве программы у меня нет):
https://avito-analytics-academy.ru
Бесплатный курс от Авито по аналитике данных (никакого фидбэка о качестве программы у меня нет):
https://avito-analytics-academy.ru
avito-analytics-academy.ru
Академия Аналитиков Авито
Академия Аналитиков Авито — это образовательная среда и программа, созданные в Авито для подготовки аналитиков данных и DS инженеров
#курс
Неплохой курс по обработке сигналов - собрано основное с примерами на питоне:
https://habr.com/ru/post/460445/
Неплохой курс по обработке сигналов - собрано основное с примерами на питоне:
https://habr.com/ru/post/460445/
Хабр
Курс лекций «Основы цифровой обработки сигналов»
Всем привет! Часто ко мне обращаются люди с вопросами по задачам из области цифровой обработки сигналов (ЦОС). Я подробно рассказываю нюансы, подсказываю нужные...
За что Бенжио, Хинтон и ЛеКун получили премию Тьюрига? (какая упрощённая официальная формулировка)
Anonymous Quiz
27%
За вклад в развитие искуственного интеллекта
17%
За концептуальные и инженерные прорывы, позволившие применять DNN в компьютерных вычислениях
18%
За научный вклад в теоретическое обоснование нейронных сетей, а также дифф-ых суперпозиций функций
19%
За создание нового научного направления - глубоких вычислений и автоматического дифференцирования
19%
За выдающиеся заслуги, которые приближают учёных к прохождению теста Тьюринга