Red Hat усиливает позиции в области ИИ, приобретая стартап Neural Magic, который разрабатывает ПО для ускорения вывода больших языковых моделей. Ключевые разработки Neural Magic включают DeepSparse и nm-vllm, обеспечивающие высокоскоростную работу моделей на разных аппаратных платформах.
Теперь Red Hat намерена сделать генеративный ИИ более доступным для бизнеса, используя подход с открытым исходным кодом. Проект vLLM от Neural Magic поддерживает модели на AMD, Nvidia, Intel и других процессорах, что позволит организациям разворачивать ИИ-приложения на гибридных облачных платформах.
🔓 Открытые инновации для быстрого внедрения ИИ — шаг Red Hat к упрощению работы с большими языковыми моделями для всех.
#МирРобототехники #RedHat #ИИ #GenAI #NeuralMagic #ОткрытыйКод #Технологии
Please open Telegram to view this post
VIEW IN TELEGRAM
👍7