Российские ученые создали нейросеть для ускоренной обработки длинных текстов

Ученые из лаборатории исследований искусственного интеллекта (ИИ) T-Bank AI Research разработали нейросеть ReBased для ускоренной обработки длинных текстов. Новая технология сокращает расходы на использование ИИ практически без потерь в качестве, сообщили в Т-Банке.

"В основе открытия лежит новая архитектура языковых моделей, названная ReBased. <…> Ученые из T-Bank AI Research оптимизировали механизм извлечения информации из текста, добавив новые обучаемые параметры, которые отвечают за оптимальный поиск взаимосвязей между частями текста. <…> Они также упростили алгоритм выделения текстовой информации, что привело к увеличению производительности, повышению качества работы с длинными текстами и улучшению контекстного обучения. В среднем понимание взаимосвязей в тексте в новой архитектуре стало лучше на 10%", - говорится в сообщении.

Новая архитектура в своей основе содержит модель Based, которая была представлена учеными Стэнфорда в декабре 2023 года. При этом специалисты лаборатории обнаружили неэффективное использование ресурсов из-за неоптимальной структуры нейросети.

Отмечается, что нейросеть ReBased способна снизить издержки на использование ИИ для специализированных задач. Например, в медицине такой задачей может считаться классификация текстов на основе симптомов и диагнозов. "В перспективе это позволит шире применять языковые модели в бизнесе, сейчас их использование ограничивают высокие затраты на вычислительные мощности. Кроме того, снижение потребления энергии в области вычислений, особенно в больших центрах обработки данных, поможет уменьшить негативное влияние на окружающую среду и сократить выбросы парниковых газов", - уточнили в Т-Банке.

🌟Подписывайтесь на Двоичный код

#ReBased #нейросети #TBank