В работе исследуется эффективность различных методов подбора гиперпараметров для Physics-Informed Neural Network (PINN) на примере решения многомерного уравнения Гельмгольца. Нейронная сеть была построена на фреймворке PyTorch без использования специальных библиотек для PINN-сетей. Исследовано влияние гиперпараметров на производительность нейросети и проведена автоматическая оптимизация со сравнением популярных алгоритмов поиска и планировщиков обучения.
В качестве инструмента для оптимизации гиперпараметров (HPO) был выбран фреймворк Ray Tune с открытым исходным кодом, предоставляющий единый интерфейс для работы с множеством HPO-пакетов. Рассмотрены алгоритмы случайного поиска, байесовского поиска, основанного на дереве парзеновских оценок (TPE) в реализациях hyperopt и hp­bandster, и алгоритм ранней остановки (ASHA). Использование алгоритма ранней остановки позволяет существенно быстрее получить лучшую конфигурацию гиперпараметров при любой размерности задачи.
Translated title of the contributionВыбор гиперпараметров нейронной сети для задач большой размерности в случае уравнения Гельмгольца
Original languageEnglish
Pages (from-to)S243–S255
Number of pages13
JournalMoscow University Physics Bulletin (English Translation of Vestnik Moskovskogo Universiteta, Fizika)
Volume78
Issue number7
DOIs
StatePublished - 20 Dec 2023

ID: 114959782