Американский стартап Cerebras Systems объявил о том, что его инференс-платформа позволила установить мировой рекорд производительности при использовании «рассуждающей» ИИ-модели DeepSeek R1 в модификации с 70 млрд параметров (DeepSeek-R1-Distill-Llama-70B).
#hardware #cerebras #deepseek #ии #инференс
#servernews @servernewsru

https://servernews.ru/1117588/?utm_source=nova&utm_medium=tg&utm_campaign=sn

Шок, вызванный недавним триумфом китайского ИИ-стартапа DeepSeek, представившего дешёвые и эффективные ИИ-модели, заставил многих усомниться в результативности масштабных вложений в инфраструктуру на базе дорогих ИИ-ускорителей, сообщает The Register. Тем не менее эксперты уверены, что отказываться от инвестиций было бы нецелесообразно.
#hardware #инвестиции #ии #цод #китай #llm #инференс #оптимизация #строительство #deepseek #прогноз
#servernews @servernewsru

https://servernews.ru/1117625/?utm_source=nova&utm_medium=tg&utm_campaign=sn

Китайский стартап DeepSeek наделал много шума в Кремниевой долине, анонсировав «рассуждающую» ИИ-модель DeepSeek R1 c 671 млрд параметров. Утверждается, что при её обучении были задействованы только 2048 ИИ-ускорителей NVIDIA H800, а затраты на данные работы составили около $6 млн. Это бросило вызов многим западным конкурентам, таким как OpenAI, а акции ряда крупных ИИ-компаний начали падать в цене. Однако, как сообщает ресурс SemiAnalysis, фактические расходы DeepSeek на создание ИИ-инфраструктуры и обучение нейросетей могут быть гораздо выше.
#hardware #deepseek #nvidia #ии #ускоритель #кластер #китай #разработка #llm
#servernews @servernewsru

https://servernews.ru/1117640/?utm_source=nova&utm_medium=tg&utm_campaign=sn

После того, как ИИ-индустрия немного отошла от шока, вызванного неожиданным триумфом китайской DeepSeek, эксперты пришли к выводу, что отрасли, возможно, придётся пересмотреть методики обучения моделей. Так, исследователи DeepMind заявили о модернизации распределённого обучения, сообщает The Register.
#ии #deepmind #сети #deepseek #кластер #google #интерконнект
#servernews @servernewsru

https://servernews.ru/1118392/?utm_source=nova&utm_medium=tg&utm_campaign=sn

Компания SambaNova объявила о том, что в её облаке SambaNova Cloud стала доступна большая языковая модель DeepSeek-R1 с 671 млрд параметров. При этом благодаря применению фирменных ускорителей SN40L обеспечивается рекордно высокая скорость инференса.
#hardware #sambanovasystems #deepseek #ии #инференс
#servernews @servernewsru

https://servernews.ru/1118739/?utm_source=nova&utm_medium=tg&utm_campaign=sn

Китайские техногиганты Alibaba, ByteDance и Tencent наращивают закупки урезанных ускорителей NVIDIA H20. Даже ослабленные чипы весьма востребованы китайским бизнесом для обеспечения работы ИИ-моделей, сообщает Reuters. Это опровергает опасения относительно падения спроса на фоне того, что модели DeepSeek для обучения и инференса требуют гораздо менее производительного оборудования.
#hardware #h20 #nvidia #ии #китай #санкции #deepseek
#servernews @servernewsru

https://servernews.ru/1118871/?utm_source=nova&utm_medium=tg&utm_campaign=sn