Ученые России разработали алгоритм для снижения нагрузки на дата-центры
Российские ученые создали алгоритм HARP, направленный на уменьшение нагрузки на дата-центры, сообщает газета "Известия". Об этом сообщает издание Известия.
Специалисты из МФТИ разработали алгоритм HARP, который обеспечивает сжатие языковых моделей с минимальными потерями в точности. Эта технология может удвоить скорость работы систем искусственного интеллекта, а также сократить потребность в вычислительных ресурсах и памяти дата-центров. Алгоритм был успешно протестирован на языковых моделях Llama и Qwen, при максимальном сжатии ошибка снизилась на 15%.
HARP и нейросети, сжатыми с его помощью, доступны для свободного использования.
Газета уточняет, что большие языковые модели требуют значительных вычислительных мощностей, а их работа ограничена пропускной способностью памяти. Для уменьшения объема данных ученые применяют квантование, которое позволяет представлять веса модели меньшим количеством бит. Чем сильнее сжатие, тем выше риск потери точности. Алгоритм HARP минимизирует эти потери.
Кроме того, HARP не заменяет существующие методы квантования, а дополняет их. Разработка была протестирована на моделях различного масштаба.
Эксперт НТИ по новым материалам и технологиям Евгений Вишневский отметил, что основным преимуществом данного подхода является его интеграция в уже существующие методы сжатия, что улучшает их результаты без необходимости перестройки привычных инструментов.
Он добавил, что для российского рынка это особенно важно, так как эффективное использование имеющихся вычислительных мощностей способствует более быстрому развитию отечественных ИИ-сервисов и их внедрению в различные отрасли экономики.
