Вывод параметрических функций активации нейронной сети для эффективной аппроксимации решений краевых задач дифференциальных уравнений параболического типа

Об авторе:

Пономарев Роман Юрьевич, менеджер, Тюменский нефтяной научный центр, Тюмень, Россия; аспирант, кафедра моделирования физических процессов и систем, Школа естественных наук, Тюменский государственный университет, Тюмень, Россия; ryponomarev@tnnc.rosneft.ru

Аннотация:

В последнее время приобретает популярность применение нейронных сетей для аппроксимации решений краевых задач дифференциальных уравнений. Метод позволяет получить бессеточную аппроксимацию решения при заранее заданных начально-краевых условиях. Однако для обучения нейронной сети, при произвольной функции активации, требуется использование контрольных точек в области решения, в которых производится проверка выполнения дифференциального уравнения и заданных начально-краевых условий. Качество итоговой нейросетевой аппроксимации складывается из двух факторов: точности выполнения начально-краевых условий и точности аппроксимации дифференциального уравнения. У данного подхода есть ограничения: выполнение дифференциального уравнения в контрольных точках не гарантирует выполнения дифференциального уравнения в произвольных точках решения, отличных от контрольных. Ограничение можно нивелировать за счет проведения перекрестной проверки качества сходимости нейронной сети на тестовых точках, не входящих в обучающий набор, но полностью исключить данный эффект таким методом невозможно.

В работе предложен новый подход с использованием параметрических функций активаций, позволяющих эффективно аппроксимировать решения краевых задач линейных дифференциальных уравнений параболического типа. Подход рассмотрен на примере аппроксимации решений краевой задачи уравнения пьезопроводности.

Список литературы:

Басниев К. С, Кочина И. Н., Максимов В. М. 1993. Подземная гидромеханика: учебник для вузов. М.: Недра. С. 227–252.

Баренблатт Г. И., Ентов В. М., Рыжик В. М. 1984. Движение жидкостей и газов в природных пластах. М.: Недра. 211 с.

Бутырский Е. Ю., Кувалдин И. А., Чалкин В. П. 2010. Аппроксимация многомерных функций // Научное приборостроение. Том 20. № 2. С. 82–92.

Вершинин В. Е., Пономарев Р. Ю. 2023. Применение методов нейросетевого моделирования при решении начально-краевых задач для дифференциальных уравнений в частных производных // Вестник Тюменского государственного университета. Физико-математическое моделирование. Нефть, газ, энергетика. Том 9. № 3 (35). С. 132–147.

Васильев А. Н., Тархов Д. А., Шемякина Т. А. 2015. Нейросетевой подход к задачам математической физики. СПб.: Нестор-История. 260 с.

Васильев А. Н., Тархов Д. А., Шемякина Т. А. 2016. Приближенные аналитические решения обыкновенных дифференциальных уравнений // Современные информационные технологии и ИТ-образование. Том 12. № 2-3. С. 188–195.

Горбань А. Н. 1998. Обобщенная аппроксимационная теорема и вычислительные возможности нейронных сетей // Сибирский журнал вычислительной техники. Том 1. № 1. С. 12–24.

Зрелова Д. П., Ульянов С. В. 2022. Модели физически информированных/осведомленных классических Лагранжевых/Гамильтоновых нейронных сетей в глубоком обучении // Современные информационные технологии и ИТ-образование. Том 18. № 2. С. 310–325.

Коваленко А. Н., Черноморец А. А., Петина М. А. 2017. О применении нейронных сетей для решения дифференциальных уравнений в частных производных // Научные ведомости Белгородского государственного университета. Серия: Экономика. Информатика. № 9 (258). С. 103–110.

Колмогоров А. Н. 1957. О представлении непрерывных функций нескольких переменных в виде суперпозиции непрерывных функций одного переменного // Доклад АН СССР. Том 114. № 5. С. 953–956.

Хайкин С. 2019. Нейронные сети. Полный курс. М.: Вильямс. 1103 с.

Aziz K, Settari A. 1979. Petroleum reservoir simulation. Chapman &Hall, Boca Raton.

Cybenko G. V. 1989. Approximation by superpositions of a sigmoidal function // Mathematics of Control Signals and Systems. Vol. 2. No. 4. Pp. 303–314.

Fraces C. G., Tchelepi H. 2021. Physics informed deep learning for flow and transport in porous media // arXiv:2104.02629. https://doi.org/10.48550/arXiv.2104.02629

Fraces C. G., Tchelepi H. 2022. Uncertainty quantification for transport in porous media using parameterized physics informed neural networks // arXiv:2205.12730. https://doi.org/10.48550/arXiv.2205.12730

Fuks O., Tchelepi H. A. 2020. Limitations of physics informed machine learning for nonlinear two-phase transport in porous media // Journal of Machine Learning for Modeling and Computing. Vol. 1. No. 1. Pp. 19–37.