#код
Ну вот, российские компании всё больше выкладывают кода в общий доступ:
https://habr.com/ru/company/abbyy/blog/506808/
Ну вот, российские компании всё больше выкладывают кода в общий доступ:
https://habr.com/ru/company/abbyy/blog/506808/
Хабр
ABBYY NeoML: как мы делали библиотеку машинного обучения и зачем она нужна
Привет, Хабр! Меня зовут Стас, и я отвечаю за направление Common Libraries в компании ABBYY. Недавно мы выложили на GitHub созданную нами библиотеку для машинно...
#код
Заинтересовался, а что есть из доступного по аудио-стеганографии... нашёл эту библиотечку, правда она под Матлаб:)
https://github.com/ktekeli/audio-steganography-algorithms
Заинтересовался, а что есть из доступного по аудио-стеганографии... нашёл эту библиотечку, правда она под Матлаб:)
https://github.com/ktekeli/audio-steganography-algorithms
GitHub
GitHub - ktekeli/audio-steganography-algorithms: A Library of Audio Steganography & Watermarking Algorithms
A Library of Audio Steganography & Watermarking Algorithms - ktekeli/audio-steganography-algorithms
#код
Куча полезных библиотек. В заголовке написано "для продакшена", но, на самом деле, там много для чего, например, есть коллекция для поиска аномалий:
https://github.com/EthicalML/awesome-production-machine-learning
Куча полезных библиотек. В заголовке написано "для продакшена", но, на самом деле, там много для чего, например, есть коллекция для поиска аномалий:
https://github.com/EthicalML/awesome-production-machine-learning
GitHub
GitHub - EthicalML/awesome-production-machine-learning: A curated list of awesome open source libraries to deploy, monitor, version…
A curated list of awesome open source libraries to deploy, monitor, version and scale your machine learning - EthicalML/awesome-production-machine-learning
#код
Небольшой лайфхак для тех, кто перешёл из Jupyter notebook в Jupyter lab. Непривычно пропало меню работы с изображением, когда щёлкаешь правой кнопкой мыши по картинкам. Вместо этого выводится стандартное меню Lab. Чтобы вернуть "классическое", надо удерживать клавишу Shift при правом клике мыши;)
Небольшой лайфхак для тех, кто перешёл из Jupyter notebook в Jupyter lab. Непривычно пропало меню работы с изображением, когда щёлкаешь правой кнопкой мыши по картинкам. Вместо этого выводится стандартное меню Lab. Чтобы вернуть "классическое", надо удерживать клавишу Shift при правом клике мыши;)
#код
Не так давно NVIDIA выпустила фрейворк NeMo для создания разговорного ИИ. Мои знакомые отнеслись к нему с понятной долей подозрения (ещё сырой, никто не использует и т.п.), но стали появляться статьи, в которых он используется: https://arxiv.org/pdf/2010.13886.pdf
NeMo
https://github.com/NVIDIA/NeMo
Не так давно NVIDIA выпустила фрейворк NeMo для создания разговорного ИИ. Мои знакомые отнеслись к нему с понятной долей подозрения (ещё сырой, никто не использует и т.п.), но стали появляться статьи, в которых он используется: https://arxiv.org/pdf/2010.13886.pdf
NeMo
https://github.com/NVIDIA/NeMo
GitHub
GitHub - NVIDIA/NeMo: A scalable generative AI framework built for researchers and developers working on Large Language Models…
A scalable generative AI framework built for researchers and developers working on Large Language Models, Multimodal, and Speech AI (Automatic Speech Recognition and Text-to-Speech) - NVIDIA/NeMo
#код
Какой потрясающий ресурс! Здесь примеры кода на Pytorch с разъяснением как по базовым конструкциям, так и по современным сетям.
https://nn.labml.ai/
Какой потрясающий ресурс! Здесь примеры кода на Pytorch с разъяснением как по базовым конструкциям, так и по современным сетям.
https://nn.labml.ai/
#код
В постах на этом сайте фактически дана инструкция по написанию торгующего бота.
https://conorjohanlon.com/
В постах на этом сайте фактически дана инструкция по написанию торгующего бота.
https://conorjohanlon.com/
#код
Наверное, я стал совсем старым и отсталым... так принято сейчас код оформлять на питоне? Это какой-то стандарт? С такими отступами и запятой в начале при перечислении? Гитхаб набит подобным оформлением...
Наверное, я стал совсем старым и отсталым... так принято сейчас код оформлять на питоне? Это какой-то стандарт? С такими отступами и запятой в начале при перечислении? Гитхаб набит подобным оформлением...
#код
Библиотека для активного обучения (пока не пробовал, да и задач таких сейчас у меня нет, но выглядит симпатично, самые известные подходы реализованы, заявлена совместимость с другими библиотеками)
modal-python.readthedocs.io
Библиотека для активного обучения (пока не пробовал, да и задач таких сейчас у меня нет, но выглядит симпатично, самые известные подходы реализованы, заявлена совместимость с другими библиотеками)
modal-python.readthedocs.io
image_2021-06-27_18-59-07.png
38.7 KB
#код
Забавный баг (появился относительно недавно): в jupyter lab без выделенных строк ядро умирает при вызове imshow. Весь старый код, в котором есть хотя бы один вызов imshow сейчас не работает...
Забавный баг (появился относительно недавно): в jupyter lab без выделенных строк ядро умирает при вызове imshow. Весь старый код, в котором есть хотя бы один вызов imshow сейчас не работает...
#код
Серия полезных ресурсов от Майкрософт (есть полезные хорошо реализованные методы):
NLP
https://github.com/microsoft/nlp-recipes
Computer vision
https://github.com/microsoft/computervision-recipes
Forecasting
https://github.com/microsoft/forecasting
Recommendation systems
https://github.com/microsoft/recommenders
Серия полезных ресурсов от Майкрософт (есть полезные хорошо реализованные методы):
NLP
https://github.com/microsoft/nlp-recipes
Computer vision
https://github.com/microsoft/computervision-recipes
Forecasting
https://github.com/microsoft/forecasting
Recommendation systems
https://github.com/microsoft/recommenders
GitHub
GitHub - microsoft/nlp-recipes: Natural Language Processing Best Practices & Examples
Natural Language Processing Best Practices & Examples - microsoft/nlp-recipes
#код
Сам не пробовал, но когда-то что-то подобное было актуально. Только вот автоматический выбор размера батча проблемы с памятью не решит.
https://github.com/rentruewang/koila
Сам не пробовал, но когда-то что-то подобное было актуально. Только вот автоматический выбор размера батча проблемы с памятью не решит.
https://github.com/rentruewang/koila
GitHub
GitHub - rentruewang/koila: Prevent PyTorch's `CUDA error: out of memory` in just 1 line of code.
Prevent PyTorch's `CUDA error: out of memory` in just 1 line of code. - rentruewang/koila
👍1
#код
Сижу тут, пытаюсь тексты кластеризовать, взял представления из трансформеров, решил посмотреть, как в пространстве главных компонент будет получаться... а получается какая-то ерунда, качество то высокое, то низкое. Хорошо, что люблю всё визуализировать - ошибка сразу нашлась - обратил внимание, что порядок сингулярных значений какой-то странный.
Что в итоге... Если Вы пользуетесь функцией scipy.sparse.linalg.svds, то в помощи есть забавная фраза "The order in which the singular values are returned is not guaranteed". Вроде как её раньше не было (я часто пользовался этой функцией, так как она получает нужное количество компонент, и проблем не возникало).
Сижу тут, пытаюсь тексты кластеризовать, взял представления из трансформеров, решил посмотреть, как в пространстве главных компонент будет получаться... а получается какая-то ерунда, качество то высокое, то низкое. Хорошо, что люблю всё визуализировать - ошибка сразу нашлась - обратил внимание, что порядок сингулярных значений какой-то странный.
Что в итоге... Если Вы пользуетесь функцией scipy.sparse.linalg.svds, то в помощи есть забавная фраза "The order in which the singular values are returned is not guaranteed". Вроде как её раньше не было (я часто пользовался этой функцией, так как она получает нужное количество компонент, и проблем не возникало).
😱54👍16🤔6
#код
Вот вам простейшая, но хорошая для собеседования DL-исследователей/инженеров задача. Попробуйте решить сами прежде, чем посмотреть ответ.
Даны два тензора - X размера MxN и Y размера KxN, нужно получить тензор размера MxK, ij-й элемент которого норма разности i-й строки X и j-й строки Y.
Понятно, что задачка возникает на практике и должна решаться на автомате;)
Пример: для входа
(X.unsqueeze(1) - Y).norm(dim=2)
Вот вам простейшая, но хорошая для собеседования DL-исследователей/инженеров задача. Попробуйте решить сами прежде, чем посмотреть ответ.
Даны два тензора - X размера MxN и Y размера KxN, нужно получить тензор размера MxK, ij-й элемент которого норма разности i-й строки X и j-й строки Y.
Понятно, что задачка возникает на практике и должна решаться на автомате;)
Пример: для входа
tensor([[0., 0., 0., 0.],выход
[1., 1., 1., 1.],
[1., 2., 3., 4.]])
tensor([[1., 0., 0., 0.],
[0., 0., 0., 1.]])
tensor([[1.0000, 1.0000],Решение (для PyTorch):
[1.7321, 1.7321],
[5.3852, 4.7958]])
👍60👏4
#код
В прошлом опросе по питону в комментариях есть ссылки на хорошие ресурсы. Большинство из них я использовал, когда когда-то готовил занятия по питону. Из "странностей" языка моя любимая, пожалуй, эта -
В прошлом опросе по питону в комментариях есть ссылки на хорошие ресурсы. Большинство из них я использовал, когда когда-то готовил занятия по питону. Из "странностей" языка моя любимая, пожалуй, эта -
a = [lambda: i for i in range(3)](ниже опрос). Легко объясняется, но совсем нетривиальна до тех пор, пока сам не столкнёшься.
b = [f() for f in a]
print (b)
🔥10👍1