Tele-FLM-1T

Велика мовна модель на трильйон параметрів в Open Source.

#LLM

Flowise

Flowise - це чудовий інструмент для швидкого прототипування та створення LLM-додатків. Він особливо корисний для розробників та дослідників, які хочуть експериментувати з різними архітектурами LLM без глибокого занурення в код. Спробуйте Flowise, якщо ви працюєте над проектами, пов'язаними з обробкою природної мови та штучним інтелектом!

#JavaScript, #TypeScript, #LLM

🚀 Нова вершина у світі відкритих LLM!
Зустрічайте Reflection Llama-3.1 70B - найпотужнішу відкриту мовну модель, навчену за допомогою інноваційної техніки Reflection-Tuning. Ця модель здатна виявляти помилки у своїх міркуваннях та виправляти їх, що значно підвищує якість відповідей. Reflection Llama-3.1 70B використовує стандартний формат чату Llama 3.1 і додає спеціальні токени для розділення внутрішніх міркувань та фінальної відповіді. Модель показує вражаючі результати в різних бенчмарках і може бути використана так само, як і інші моделі Llama. Спробуйте її прямо зараз і переконайтеся в її можливостях!

#AI, #LLM

@sourcefuture

g1 - проект використовує Llama-3.1 70b на Groq для створення ланцюжків міркувань, схожих на o1. Цей експеримент показує, як промптинг може покращити логічні здібності LLM. g1 створює динамічні ланцюжки міркувань, дозволяючи моделі 'думати' і вирішувати складні логічні задачі. На відміну від o1, тут видно всі токени міркувань, і використовується модель з відкритим кодом. Проект має зручні Streamlit та Gradio інтерфейси для легкого використання та експериментів.

#Python, #AI, #LLM

@sourcefuture

llmio - легка Python бібліотека для роботи з LLM. llmio спрощує створення агентів на основі великих мовних моделей, використовуючи анотації типів для автоматичної генерації схем функцій. Підтримує OpenAI, Azure OpenAI, Google Gemini, AWS Bedrock та Huggingface TGI. Переваги:

• Легковісність 🪶: Просто інтегрується без зайвого навантаження
• Анотації типів 🏷️: Легке визначення інструментів
• Широка сумісність 🌍: Працює з основними LLM API

llmio - відмінний вибір для розробників, що працюють з великими мовними моделями, дозволяючи створювати агенти з мінімальними зусиллями.

#Python, #AI, #LLM

@sourcefuture

LitGPT - це потужний інструмент для роботи з великими мовними моделями (LLM). Він пропонує понад 20 високопродуктивних LLM з рецептами для попереднього навчання, тонкого налаштування та розгортання у великих масштабах. LitGPT підтримує такі передові функції як Flash Attention v2, багатогрупова підтримка через повністю розділений паралелізм даних, квантизацію та ефективне налаштування параметрів. Проект побудований на основі Lightning Fabric і розширює можливості Lit-LLaMA та nanoGPT.

#Python, #LLM

@sourcefuture

awesome-llm-apps - Чудова колекція додатків на основі великих мовних моделей (LLM) з використанням RAG (Retrieval Augmented Generation) та AI-агентів. Репозиторій містить проекти, що використовують моделі OpenAI, Anthropic, Google та навіть відкриті моделі, які можна запускати локально. Тут ви знайдете AI-агентів для підтримки клієнтів, інвестицій, журналістики, фінансів, подорожей та інших сфер. Також представлені туторіали з RAG, LLM з пам'яттю, чат-боти для роботи з різними джерелами даних та багато іншого. Це чудовий ресурс для вивчення практичного застосування LLM у різних доменах.

#Python, #LLM, #AI

@sourcefuture

Letta (раніше відомий як MemGPT) - це фреймворк для створення LLM-сервісів з пам'яттю. Letta дозволяє будувати статичні агенти з розширеними можливостями міркування та прозорою довготривалою пам'яттю. Фреймворк є відкритим та модельно-агностичним. Ключові особливості:

• Підтримка різних LLM-бекендів (OpenAI, Anthropic, vLLM, Ollama та ін.)
• Графічний інтерфейс Agent Development Environment (ADE) для створення та керування агентами
• REST API для інтеграції з іншими застосунками
• Можливість розгортання як локально, так і в хмарі
• Підтримка збереження стану агентів у базі даних

Letta - потужний інструмент для розробки AI-агентів з довготривалою пам'яттю та розширеними когнітивними здібностями.

#Python, #AI, #LLM

@sourcefuture

Dify - відкрита платформа для розробки LLM-додатків. Інтуїтивно зрозумілий інтерфейс Dify поєднує в собі робочий процес AI, конвеєр RAG, можливості агентів, управління моделями, функції спостереження та багато іншого, дозволяючи швидко перейти від прототипу до продакшену. Платформа підтримує різноманітні LLM-моделі, має вбудований RAG-движок, агентів, робочі процеси та інструменти для моніторингу. Dify можна розгорнути локально або використовувати хмарну версію.

#AI, #LLM

@sourcefuture

leaked-system-prompts - репозиторій, який містить колекцію витоків системних промптів від широко використовуваних сервісів на основі LLM. Тут ви знайдете системні промпти від таких гігантів як OpenAI ChatGPT, Google Gemini, Anthropic Claude, Microsoft Copilot та багатьох інших. Це чудовий ресурс для розробників та дослідників, які цікавляться внутрішньою роботою популярних AI-асистентів та хочуть краще зрозуміти, як вони налаштовані.

#AI, #LLM

@sourcefuture