В работе исследуется эффективность различных методов подбора гиперпараметров для Physics-Informed Neural Network (PINN) на примере решения многомерного уравнения Гельмгольца. Нейронная сеть была построена на фреймворке PyTorch без использования специальных библиотек для PINN-сетей. Исследовано влияние гиперпараметров на производительность нейросети и проведена автоматическая оптимизация со сравнением популярных алгоритмов поиска и планировщиков обучения.
В качестве инструмента для оптимизации гиперпараметров (HPO) был выбран фреймворк Ray Tune с открытым исходным кодом, предоставляющий единый интерфейс для работы с множеством HPO-пакетов. Рассмотрены алгоритмы случайного поиска, байесовского поиска, основанного на дереве парзеновских оценок (TPE) в реализациях hyperopt и hp­bandster, и алгоритм ранней остановки (ASHA). Использование алгоритма ранней остановки позволяет существенно быстрее получить лучшую конфигурацию гиперпараметров при любой размерности задачи.
Переведенное названиеВыбор гиперпараметров нейронной сети для задач большой размерности в случае уравнения Гельмгольца
Язык оригиналаанглийский
Страницы (с-по)S243–S255
Число страниц13
ЖурналMoscow University Physics Bulletin (English Translation of Vestnik Moskovskogo Universiteta, Fizika)
Том78
Номер выпуска7
DOI
СостояниеОпубликовано - 20 дек 2023

    Области исследований

  • уравнение Гельмгольца, PINN, PyTorch, Ray Tune, гиперпараметры, нейронная сеть

ID: 114959782