​​Интегрируем свои данные в LLM с помощью RAG
 
В данной статье рассматривается вопрос добавления собственных данных в предобученные языковые модели при помощи метода RAG (Retrieval Augmented Generation).
 
Автор подробно анализирует концепцию RAG и показывает, как этот подход внедрить на практике с использованием API OpenAI и сервиса Azure Cognitive Search. Материал объясняется на примере чат-бота, который даёт пользователям дополнительную информацию о продукции конкретной компании.
 
А для ещё более глубокого понимания RAG рекомендуем обратить внимание на это учебное пособие от FreecodeCamp.

#rag #llm

Это было вопросом времени: SQL-запросы из естественного языка

На HuggingFace появилась Text-to-SQL-модель ChatDB на 6.91 млрд. параметров, что позволяет превращать обычный текстовый запрос к БД в SQL-выражение:

Вопрос: Покажи день, в который пришло больше всего пользователей

Ответ:

SELECT created_at::DATE AS day, COUNT(*) AS user_count
FROM users
GROUP BY day
ORDER BY user_count DESC
LIMIT 1;

#sql #llm

​​Llama 3 теперь доступна в РФ

Meta AI наконец вспомнили, что такое настоящий опенсорс, свободный от политики, и открыли доступ к своей LLM для граждан РФ без VPN.

Попробовать Llama 3

@neuro_channel

#llm

​​scrapegraphai | LLM-скрейпер

Это библиотека Python для очистки веб-страниц, которая использует LLM и логику прямого графа для создания конвейеров очистки веб-сайтов и локальных документов (XML, HTML, JSON и т.д.). Просто скажите, какую информацию вы хотите извлечь, и библиотека сделает это за вас.

Репозиторий проекта

#llm

@neuro_channel

julius.ai | Новая степень автоматизации EDA

Бомбическая условно бесплатная нейронка на видео съедает таблицу с кандидатами из HeadHunter на 6,5К (!) строк, фильтрует её от всех неразработчиков и затем строит группированную столбчатую диаграмму по грейдам (Junior, Middle, Senior) и языкам (Go, PHP, Python etc.).

#llm #gpt

@neuro_channel

open-interpreter | Управление компьютером с помощью естественного языка

Python-библиотека, которая позволяет управлять ПК с помощью обычной челочеческой речи, в том числе на русском. На видео переключаются со светлой темы на тёмную, конвертируют docx-файлы на рабочем столе в .pdf.

Репозиторий проекта
Интерактивная демка в Colab

#llm #библиотека

Учим наш компьютер понимать естественный язык

В этом нам поможет open-interpreter — библиотека, которая позволяет управлять ПК с помощью обычной речи, в том числе на русском.

На видео выше можно посмотреть, как это работает на примере переключения со светлой темы на тёмную и конвертации docx-файлов в .pdf. 

Репозиторий проекта: https://github.com/OpenInterpreter/open-interpreter

#библиотека #llm

Упрощаем создание приложений на основе языковых моделей

В этом нам поможет фреймворк LangChain. Он упрощает разработку, поддержку и развёртывание приложений благодаря лёгкой интеграции нужных вам компонентов.

С помощью него можно гораздо проще создавать чат-ботов, ассистентов и другие инструменты, использующие LLM.

#llm #ai

Использование face_recognition и OpenCV для автоматического распознавания лиц и отправки уведомлений в Telegram

Эта статья поможет вам разобраться, как с помощью Python и библиотек face_recognition и OpenCV создать систему, которая будет распознавать лица, делать скриншоты при обнаружении лица в кадре и отправлять эти скриншоты в Telegram.

https://habr.com/ru/articles/822637/

#telegram #ai #llm #opencv

torchtitan | Фреймворк от PyTorch для LLM

Проект в стадии proof-of-concept, однако уже собрал 2К+ звезд на GitHub. Создатели самого влиятельного ML-фреймворка современности создали специфическую версию для обучения собственных Large Language Models. Теперь войти в эту игру среднему бизнесу станет еще проще.

Репозиторий проекта

#llm #инструмент

@zen_of_python