AWS объявила об общедоступности недорогих и высокопроизводительных инференс-инстансов Amazon EC2 Inf2 для генеративного ИИ. Новинки используют фирменные ИИ-ускорители Inferentia2. Как утверждает AWS, это самый экономичный и энергоэффективный вариант запуска моделей генеративного ИИ, таких как GPT-J или Open Pre-Trained Transformer (OPT).
#aws #hardware #ии #inferentia2 #облако #ускоритель
#servernews
https://servernews.ru/1085052/?utm_source=nova&utm_medium=tg&utm_campaign=sn