Государственные китайские организации используют облачные сервисы Amazon, Microsoft и их конкурентов для доступа к передовым американским чипам и технологиям ИИ, пишет Reuters со ссылкой на тендерную документацию, размещённую в общедоступных китайских базах данных. О попытках китайских компаний получить доступ к ИИ-ускорителям на территории США в условиях запрета на их поставки в Китай сообщалось и ранее.
#ии #облако #сша #китай #aws #microsoftazure #санкции #llm #software
#servernews @servernewsru

https://servernews.ru/1109914/?utm_source=nova&utm_medium=tg&utm_campaign=sn

Создание и обучение мощных ИИ-моделей может обходиться компаниям в сотни миллионов и миллиарды долларов в год. Например, OpenAI в 2024-м намерена потратить на эти цели до $7 млрд. Основная часть затрат приходится на аппаратные ресурсы, включая дорогостоящие ускорители NVIDIA. Но, как сообщает Fortune, существует ещё одна важная статья расходов, которая зачастую упускается из виду — необходимость качественной маркировки данных. Между тем именно эта работа требует всё больших финансовых вложений.
#software #ии #финансы #llm #разработка
#servernews @servernewsru

https://servernews.ru/1109968/?utm_source=nova&utm_medium=tg&utm_campaign=sn

Южнокорейский стартап FuriosaAI на мероприятии анонсировал специализированный чип RNGD (произносится как «Renegade»), который позиционируется в качестве альтернативы ускорителям NVIDIA. Новинка предназначена для работы с большими языковыми моделями (LLM) и мультимодальным ИИ.
#hardware #furiosaai #llm #ии #ускоритель #инференс #pciexpress50
#servernews @servernewsru

https://servernews.ru/1110041/?utm_source=nova&utm_medium=tg&utm_campaign=sn

NVIDIA анонсировала NVIDIA NIM Agent Blueprints, каталог предварительно обученных, настраиваемых программных решений, предоставляющий разработчикам набор инструментов для создания и развёртывания приложений генеративного ИИ для типовых вариантов использования, таких как аватары для обслуживания клиентов, RAG, виртуальный скрининг для разработки лекарственных препаратов и т.д.
#nvidia #ии #software #автоматизация #llm #инференс #контейнеризация #разработка
#servernews @servernewsru

https://servernews.ru/1110075/?utm_source=nova&utm_medium=tg&utm_campaign=sn

Red Hat объявила о запуске платформы Red Hat Enterprise Linux AI (RHEL AI) для создания генеративных ИИ-решений в облачных средах. По данным Silicon Angle, анонсированный три месяца назад пакет ПО сделали общедоступным в ходе мероприятия Red Hat Summit.
#software #redhat #opensource #ии #разработка #llm #redhatenterpriselinux #ibm
#servernews @servernewsru

https://servernews.ru/1110662/?utm_source=nova&utm_medium=tg&utm_campaign=sn

(HPE) объявила о доступности входящей в портфель NVIDIA AI Computing by HPE программно-аппаратной платформы HPE Private Cloud AI на базе GreenLake, разработанной совместно с NVIDIA для создания и запуска корпоративных приложений генеративного ИИ. По словам компании, ключевым отличием HPE Private Cloud AI являются решения для автоматизации и оптимизации приложений ИИ, позволяющие предприятию сократить сроки запуска виртуальных помощников с нескольких месяцев до мгновений.
#hpe #hardware #nvidia #llm #ии #частноеоблако #облако #lowcode #hpegreenlake
#servernews @servernewsru

https://servernews.ru/1110649/?utm_source=nova&utm_medium=tg&utm_campaign=sn

Компания SambaNova Systems объявила о запуске облачного сервиса SambaNova Cloud: утверждается, что на сегодняшний день это самая быстрая в мире платформа для ИИ-инференса. Она ориентирована на работу с большими языковыми моделями Llama 3.1 405B и Llama 3.1 70B, насчитывающими соответственно 405 и 70 млрд параметров.
#hardware #sambanovasystems #облако #ии #инференс #llm
#servernews @servernewsru

https://servernews.ru/1110773/?utm_source=nova&utm_medium=tg&utm_campaign=sn

Глобальная консалтинговая компания Accenture и NVIDIA объявили о расширении партнёрства, в рамках которого Accenture создала новую бизнес-группу Accenture NVIDIA Business Group с целью помочь предприятиям быстро внедрить и масштабировать ИИ-решения. Также будет проведено обучение 30 тыс. сотрудников Accenture по всему миру полному набору ИИ-технологий NVIDIA. Это одна из крупнейших сделок на рынке.
#accenture #nvidia #software #обучение #ии #сделка #разработка #робот #консалтинг #llm #сотрудничество
#servernews @servernewsru

https://servernews.ru/1112025/?utm_source=nova&utm_medium=tg&utm_campaign=sn

Стартап Inflection AI и корпорация Intel объявили о сотрудничестве с целью ускорения внедрения ИИ в корпоративном секторе. В рамках партнёрства состоялся анонс Inflection for Enterprise — первой в отрасли ИИ-системы корпоративного класса на базе ускорителей Intel Gaudi3 и облака Intel Tiber AI Cloud (AI Cloud).
#hardware #intel #inflectionai #ии #habana #llm #облако
#servernews @servernewsru

https://servernews.ru/1112124/?utm_source=nova&utm_medium=tg&utm_campaign=sn

Системам генеративного ИИ требуются самые разные ресурсы, но в некоторых сферах их нехватка может носить критический характер. По данным DigiTimes, серьёзную проблему может составить нехватка качественных массивов данных, рост потребления электроэнергии и пресной воды, а также дефицит поставок меди для IT-индустрии.
#hardware #цод #ии #экология #энергетика #водоснабжение #дефицит #llm #полезныеископаемые
#servernews @servernewsru

https://servernews.ru/1113511/?utm_source=nova&utm_medium=tg&utm_campaign=sn