Small Data Science for Russian Adventurers
11.3K subscribers
307 photos
3 videos
13 files
708 links
БЕЗ ЧУЖОЙ РЕКЛАМЫ Авторский канал Александра Дьяконова (dyakonov.org)
машинное (machine learning) и
глубокое обучение (deep learning)
анализ данных (data mining)
наука о данных (data science)
ИИ (artificial intelligence)
математика (math)
и др.
ЕСТЬ ЧАТ;)
加入频道
#статья
Работа ребят из Беркли
Zitong Yang et al Rethinking Bias-Variance Trade-off for Generalization of Neural Networks
о пересмотре для нейросетей концепции разброс-смещение
https://arxiv.org/pdf/2002.11328.pdf
#статья
Обзор по представлениям в обработке аудио
Deep Representation Learning in Speech Processing:Challenges, Recent Advances, and Future Trends:
https://arxiv.org/abs/2001.00378
#статья
Работа «старая», но всё время забываю на неё сослаться, когда рассказываю студентам об Adam - это метод оптимизации используется наиболее интенсивно при обучении нейронных сетей, но он может не сходиться. Пример приведён в этой работе, метод «исправили», он стал теоретически обоснован, но практически показывает себя хуже и Adam-ом продолжают пользоваться;)
https://arxiv.org/abs/1904.09237
#статья
Скаченные со sci-hub статьи цитируются в 1.72 раз чаще:
https://arxiv.org/abs/2006.14979
#статья
Ещё на тему функций ошибки. Интересное обобщение нескольких известных функций - alpha-loss:
https://arxiv.org/pdf/1906.02314v5.pdf