Локально развертываемая LLM Ollama для извлечения текста из документов (включая PDF). На примере выглядит отлично, как оно будет на практике - надо проверять. #llm

NVIDIA анонсировала чятбота с локальными LLM моделями на RTX 3х и 4х серий. 8 GB VRAM минимум, на моём ноутбучном RTX 3060 c 6 ГБ VRAM не идёт :(

demo app - 35 ГБ 😳

#llm

Ещё одна штука, которая позволяет делать примерно то, что было в посте выше. Требуется рассмотрение и тесты. Жаль конечно, что примеры в основном на питоне. #llm #ai