Применение методов нейросетевого моделирования при решении начально-краевых задач для дифференциальных уравнений в частных производных

Об авторах:

Вершинин Владимир Евгеньевич, главный специалист, Тюменский нефтяной научный центр, Тюмень, Россия; доцент, кафедра моделирования физических процессов и систем, Школа естественных наук, Тюменский государственный университет, Тюмень, Россия; ve_vershinin2@tnnc.rosneft.ru

Пономарев Роман Юрьевич, менеджер, Тюменский нефтяной научный центр, Тюмень, Россия; ryponomarev@tnnc.rosneft.ru

Аннотация:

Машинное обучение позволяет решать самые различные задачи анализа данных, однако его использование для решения дифференциальных уравнений появилось сравнительно недавно. Аппроксимация решения краевой задачи для дифференциальных уравнений (обыкновенных и в частных производных) при этом строится с помощью нейросетевых функций. Подбор весовых коэффициентов осуществляется в ходе обучения нейронной сети. Критериями качества обучения при этом выступают невязки по уравнению и гранично-начальным условиям. Данный подход позволяет находить вместо сеточных такие решения, которые заданы на всей области допустимых значений краевой задачи. На конкретных примерах показаны особенности применения физико-информированных нейронных сетей к решению краевых задач для дифференциальных уравнений различных типов. Методы обучения физико-информированных нейронных сетей могут быть использованы в задачах дообучения интеллектуальных управляющих систем на неполных наборах входных данных.

Список литературы:

Васильев А. Н., Тархов Д. А., Шемякина Т. А. 2015. Нейросетевой подход к задачам математической физики. СПб.: Нестор-История. 260 с.

Зрелова Д. П., Ульянов С. В. 2022. Модели физически информированных / осведомленных классических Лагранжевых / Гамильтоновых нейронных сетей в глубоком обучении // Современные информационные технологии и ИТ-образование. Том 18. № 2. С. 310–325. https://doi.org/10.25559/SITITO.18.202202.310-325

Коваленко А. Н., Черноморец А. А., Петина М. А. 2017. О применении нейронных сетей для решения дифференциальных уравнений в частных производных // Научные ведомости Белгородского государственного университета. Серия: Экономика. Информатика. № 9 (258). С. 103–110.

Колмогоров А. Н. 1956. О представлении непрерывных функций нескольких переменных суперпозициями непрерывных функций меньшего числа переменных // Доклады АН СССР. Том 108. № 2. С. 179–182.

Тархов Д. А. 2014. Нейросетевые модели и алгоритмы. М.: Радиотехника. 348 с.

Хайкин С. 2019. Нейронные сети. М.; СПб.: Диалектика. 1103 с.

Cai S., Wang Z., Wang S., Perdikaris P., Karniadakis G. E. 2021. Physics-informed neural networks for heat transfer problems // Journal of Heat Transfer. Vol. 143. No. 6. Article 060801. https://doi.org/10.1115/1.4050542

Carleo G., Cirac I., Cranmer K., Daudet L., Schuld M., Tishby N., Vogt-Maranto L., Zdebo­rová L. 2019. Machine learning and the physical sciences // Reviews of Modern Physics. Vol. 91. No. 4. Article 045002. https://doi.org/10.1103/RevModPhys.91.045002

Galperin E. A., Pan Z., Zheng Q. 1993. Application of global optimization to implicit solution of partial differential equations // Computers & Mathematics with Applications. Vol. 25. No. 10–11. Pp. 119–124. https://doi.org/10.1016/0898-1221(93)90287-6

Galperin E. A., Zheng Q. 1993. Solution and control of PDE via global optimization methods // Computers & Mathematics with Applications. Vol. 25. No. 10–11. Pp. 103–118. https://doi.org/10.1016/0898-1221(93)90286-5

Kansa E. J. 1990a. Multiquadrics — A scattered data approximation scheme with applications to computational fluid-dynamics — I surface approximations and partial derivative estimates // Computers & Mathematics with Applications. Vol. 19. No. 8. Pp. 127–145. https://doi.org/10.1016/0898-1221(90)90270-T

Kansa E. J. 1990b. Multiquadrics — A scattered data approximation scheme with applications to computational fluid-dynamics — II solutions to parabolic, hyperbolic and elliptic partial differential equations // Computers & Mathematics with Applications. Vol. 19. No. 8. Pp. 147–161. https://doi.org/10.1016/0898-1221(90)90271-K

Kansa E. J. 1999. Motivation for using radial basis functions to solve PDEs. Lawrence Livermore National Laboratory; Embry-Riddle Aeronatical University.

Karniadakis G. E., Kevrekidis I. G., Lu L., Perdikaris P., Wang S., Yang L. 2021. Physics-informed machine learning // Nature Reviews Physics. Vol. 3. No. 6. Pp. 422–440. https://doi.org/10.1038/s42254-021-00314-5

Kingma D. P., Ba J. 2015. Adam: A method for stochastic optimization // The 3rd International Conference for Learning Representations (7–9 May 2015, San Diego, CA, USA). https://doi.org/10.48550/arXiv.1412.6980

Lagaris I. E., Likas A., Fotiadis D. I. 1998. Artificial neural networks for solving ordinary and partial differential equations // IEEE Transactions on Neural Networks. Vol. 9. No. 5. Pp. 987–1000. https://doi.org/10.1109/72.712178

Raissi M., Perdikaris P., Karniadakis G. E. 2017. Machine learning of linear differential equations using Gaussian processes // Journal of Computational Physics. Vol. 348. Pp. 683–693. https://doi.org/10.1016/j.jcp.2017.07.050

Raissi M., Perdikaris P., Karniadakis G. E. 2019. Physics-informed neural networks: A deep learning framework for solving forward and inverse problems involving nonlinear partial differential equations // Journal of Computational Physics. Vol. 378. Pp. 686–707. https://doi.org/10.1016/j.jcp.2018.10.045

Rasmussen C. E., Williams C. K. I. 2005. Gaussian Processes for Machine Learning. The MIT Press. https://doi.org/10.7551/mitpress/3206.001.0001

Sharan M., Kansa E. J., Gupta S. 1997. Application of the multiquadric method for numerical solution of elliptic partial differential equations // Applied Mathematics and Computation. Vol. 84. No. 2. Pp. 275–302. https://doi.org/10.1016/S0096-3003(96)00109-9

Thuerey N., Holl Ph., Mueller M., Schnell P., Trost F., Um K. 2022. Physics-based Deep Learning. https://doi.org/10.48550/arXiv.2109.05237