Research output: Contribution to journal › Article › peer-review
Экономические аспекты применения метода объединения больших языковых моделей SDM-W. / Смирнов, Даниил Олегович; Рачков, Денис.
In: Экономика: вчера, сегодня, завтра, Vol. 15, No. 3А, 2025, p. 774-782.Research output: Contribution to journal › Article › peer-review
}
TY - JOUR
T1 - Экономические аспекты применения метода объединения больших языковых моделей SDM-W
AU - Смирнов, Даниил Олегович
AU - Рачков, Денис
PY - 2025
Y1 - 2025
N2 - Статья посвящена исследованию экономических аспектов применения инновационного метода объединения параметров больших языковых моделей Significant Deltas Merging with Weights (SDM-W). В условиях стремительного развития технологий искусственного интеллекта и роста затрат на обучение крупномасштабных нейросетевых моделей особую актуальность приобретают методы эффективного объединениясуществующих моделей. Предлагаемый метод SDM-W учитывает экономическую целесообразность повторного использования обученных моделей за счёт интеллектуального объединения их параметров с учётом значимости отклонений.Проведён сравнительный анализ с традиционными методами слияния весов, демонстрирующий преимущества SDM-W в аспектах снижения вычислительных затрат и сохранения качества модели. Экспериментальные результаты показывают, что применение SDM-W позволяет сократить затраты на вычислительные ресурсы до 30% при сохранении 95-98% точности исходных моделей. Особое внимание уделено экономическим выгодам метода, включая снижение энергопотребления, оптимизацию использования GPU-ресурсов и возможность создания специализированных моделей без необходимости их полного переобучения. Результаты исследования имеют значительную практическуюценность для компаний, разрабатывающих коммерческие продукты на основе больших языковых моделей, а также для научных организаций с ограниченными вычислительнымиресурсами.
AB - Статья посвящена исследованию экономических аспектов применения инновационного метода объединения параметров больших языковых моделей Significant Deltas Merging with Weights (SDM-W). В условиях стремительного развития технологий искусственного интеллекта и роста затрат на обучение крупномасштабных нейросетевых моделей особую актуальность приобретают методы эффективного объединениясуществующих моделей. Предлагаемый метод SDM-W учитывает экономическую целесообразность повторного использования обученных моделей за счёт интеллектуального объединения их параметров с учётом значимости отклонений.Проведён сравнительный анализ с традиционными методами слияния весов, демонстрирующий преимущества SDM-W в аспектах снижения вычислительных затрат и сохранения качества модели. Экспериментальные результаты показывают, что применение SDM-W позволяет сократить затраты на вычислительные ресурсы до 30% при сохранении 95-98% точности исходных моделей. Особое внимание уделено экономическим выгодам метода, включая снижение энергопотребления, оптимизацию использования GPU-ресурсов и возможность создания специализированных моделей без необходимости их полного переобучения. Результаты исследования имеют значительную практическуюценность для компаний, разрабатывающих коммерческие продукты на основе больших языковых моделей, а также для научных организаций с ограниченными вычислительнымиресурсами.
M3 - статья
VL - 15
SP - 774
EP - 782
JO - Экономика: вчера, сегодня, завтра
JF - Экономика: вчера, сегодня, завтра
SN - 2222-9167
IS - 3А
ER -
ID: 138227257