Численный метод решения дифференциальных уравнений
В численном анализе метод локальной линеаризации (ЛЛ) является общей стратегией для проектирования численных интеграторов для дифференциальных уравнений на основе локальной (кусочной) линеаризации данного уравнения на последовательных временных интервалах. Затем численные интеграторы итеративно определяются как решение результирующего кусочно-линейного уравнения в конце каждого последовательного интервала. Метод ЛЛ был разработан для различных уравнений, таких как обычные , запаздывающие , случайные и стохастические дифференциальные уравнения. Интеграторы ЛЛ являются ключевым компонентом в реализации методов вывода для оценки неизвестных параметров и ненаблюдаемых переменных дифференциальных уравнений с учетом временных рядов (потенциально зашумленных) наблюдений. Схемы ЛЛ являются идеальными для работы со сложными моделями в различных областях, таких как нейронаука , финансы , управление лесным хозяйством , контрольная техника , математическая статистика и т. д.
Фон
Дифференциальные уравнения стали важным математическим инструментом для описания временной эволюции нескольких явлений, например, вращения планет вокруг Солнца, динамики цен активов на рынке, пожара нейронов, распространения эпидемий и т. д. Однако, поскольку точные решения этих уравнений обычно неизвестны, необходимы численные приближения к ним, полученные с помощью численных интеграторов. В настоящее время многие приложения в инженерии и прикладных науках, сосредоточенные на динамических исследованиях, требуют разработки эффективных численных интеграторов, которые сохраняют, насколько это возможно, динамику этих уравнений. С этой основной мотивацией были разработаны локальные линеаризационные интеграторы.
Метод локальной линеаризации высокого порядка
Метод локальной линеаризации высокого порядка (HOLL) является обобщением метода локальной линеаризации, ориентированным на получение интеграторов высокого порядка для дифференциальных уравнений, которые сохраняют устойчивость и динамику линейных уравнений. Интеграторы получаются путем разбиения на последовательных временных интервалах решения x исходного уравнения на две части: решение z локально линеаризованного уравнения плюс приближение высокого порядка невязки.
Локальная схема линеаризации
Схема локальной линеаризации (ЛЛ) — это конечный рекурсивный алгоритм , позволяющий численную реализацию дискретизации , полученной на основе метода ЛЛ или ХОЛЛ для класса дифференциальных уравнений.
с начальным условием , где — дифференцируемая функция.
Пусть — временная дискретизация временного интервала с максимальным размером шага h такая, что и . После локальной линеаризации уравнения (4.1) на временном шаге формула вариации констант дает
где
результаты линейного приближения, и
— остаток линейного приближения. Здесь и обозначают частные производные f по переменным x и t соответственно, а
Локальная линейная дискретизация
Для дискретизации по времени локальная линейная дискретизация ОДУ (4.1) в каждой точке определяется рекурсивным выражением [1] [2]
Локальная линейная дискретизация (4.3) сходится с порядком 2 к решению нелинейных ОДУ, но совпадает с решением линейных ОДУ. Рекурсия (4.3) также известна как экспоненциальная дискретизация Эйлера. [3]
Локальные линейные дискретизации высокого порядка
Для дискретизации по времени локальная линейная (HOLL) дискретизация высокого порядка ОДУ (4.1) в каждой точке определяется рекурсивным выражением [1] [4] [5] [6]
где — приближение порядка (> 2 ) к невязке r Дискретизация HOLL (4.4) сходится с порядком к решению нелинейных ОДУ, но совпадает с решением линейных ОДУ.
Дискретизации HOLL могут быть получены двумя способами: [1] [4] [5] [6] 1) (на основе квадратур) путем аппроксимации интегрального представления (4.2) r ; и 2) (на основе интегратора) путем использования численного интегратора для дифференциального представления r, определяемого как
который получается в результате интерполяции в (4.2) полиномом Эрмита степени p на .
Локальные схемы линеаризации
Вся численная реализация дискретизации LL (или HOLL) включает приближения к интегралам вида
где A — матрица d × d . Каждая численная реализация LL (или HOLL) любого порядка в общем случае называется схемой локальной линеаризации . [1] [9]
Вычисление интегралов с использованием матричной экспоненты
Среди ряда алгоритмов вычисления интегралов предпочтение отдается тем, которые основаны на рациональных аппроксимациях подпространств Паде и Крылова для экспоненциальной матрицы. При этом центральную роль играет выражение [10] [5] [11]
где - d -мерные векторы,
, , являясь d -мерной единичной матрицей.
Если обозначает ( p ; q ) -аппроксимацию Паде , а k — наименьшее натуральное число, такое что [12] [9]
. Здесь обозначает вторую производную f по x , а p + q > 2 . Для больших систем ОДУ
Схемы заказа-4 ЛЛ-РК
[4] [6]
где
и
с и p + q > 3. Для больших систем ОДУ вектор в приведенной выше схеме заменяется на с
Локально линеаризованная схема Рунге–Кутты Дорманда и Принса
[14] [15]
где s = 7 — количество ступеней,
где , и — коэффициенты Рунге–Кутты Дорманда и Принса , а p + q > 4. Вектор в приведенной выше схеме вычисляется с помощью аппроксимации Паде или Крайлора–Паде для малых или больших систем ОДУ соответственно.
Стабильность и динамика
По построению дискретизации LL и HOLL наследуют устойчивость и динамику линейных ОДУ, но это не относится к схемам LL в целом. При , схемы LL (4.6)-(4.9) являются A -устойчивыми . [4] При q = p + 1 или q = p + 2 схемы LL (4.6)–(4.9) также являются L -устойчивыми . [4] Для линейных ОДУ схемы LL (4.6)-(4.9) сходятся с порядком p + q . [4] [9] Кроме того, при p = q = 6 и = d все вышеописанные схемы LL уступают ″точным вычислениям″ (вплоть до точности арифметики с плавающей точкой ) линейных ОДУ на современных персональных компьютерах. [4] [9] Это включает в себя жесткие и сильно колебательные линейные уравнения. Более того, схемы LL (4.6)-(4.9) являются регулярными для линейных ОДУ и наследуют симплектическую структуру гамильтоновых гармонических осцилляторов . [5] [13] Эти схемы LL также сохраняют линеаризацию и демонстрируют лучшее воспроизведение устойчивых и неустойчивых многообразий вокруг гиперболических точек равновесия и периодических орбит , чем другие численные схемы с тем же размером шага. [5] [13] Например, на рисунке 1 показан фазовый портрет ОДУ.
с m постоянными задержками и начальным условием для всех , где f — дифференцируемая функция, — это сегментная функция, определяемая как
для всех есть заданная функция, и
Локальная линейная дискретизация
Для дискретизации по времени локальная линейная дискретизация DDE (5.1) в каждой точке определяется рекурсивным выражением [11]
где
это сегментная функция, определяемая как
и является подходящим приближением для всех таких, что Здесь,
являются постоянными матрицами и
— постоянные векторы. обозначают, соответственно, частные производные f по переменным t и x , и . Локальная линейная дискретизация (5.2) сходится к решению (5.1) с порядком , если аппроксимирует с порядком для всех .
Локальные схемы линеаризации
В зависимости от приближений и алгоритма вычисления могут быть определены различные схемы локальной линеаризации. Каждая численная реализация локальной линейной дискретизации в общем случае называется локальной схемой линеаризации .
Схемы LL полиномов 2-го порядка
[11]
где матрицы и определяются как
и , и . Здесь матрицы , , и определяются как в (5.2), но с заменой на и , где
при , является локальным линейным приближением к решению (5.1), определяемым с помощью схемы LL (5.3) для всех и с помощью для . Для больших систем DDE
с и . Рис. 2 иллюстрирует устойчивость схемы ЛЛ (5.3) и явной схемы аналогичного порядка при интегрировании жесткой системы DDE.
Методы LL для RDE
Рассмотрим d -мерное случайное дифференциальное уравнение (СДУ)
Для дискретизации по времени локальная линейная дискретизация RDE (6.1) в каждой точке определяется рекурсивным выражением [16]
где
и является приближением к процессу для всех Здесь и обозначают частные производные по и соответственно.
Локальные схемы линеаризации
В зависимости от приближений к процессу и алгоритма вычисления могут быть определены различные схемы локальной линеаризации. Каждая численная реализация локальной линейной дискретизации в общем случае называется локальной схемой линеаризации.
Схемы LL
[16] [17]
где матрицы определяются как
, , и p+q>1 . Для больших систем RDE, [17]
Скорость сходимости обеих схем равна , где — показатель степени условия Холдера .
с начальным условием , где коэффициент дрейфа и коэффициент диффузии являются дифференцируемыми функциями, и представляет собой m -мерный стандартный винеровский процесс .
Локальная линейная дискретизация
Для дискретизации по времени порядок (=1,1,5) сильной локальной линейной дискретизации решения СДУ (7.1) определяется рекурсивным соотношением [18] [19]
где
и
Здесь,
обозначают частные производные по переменным и t соответственно, а также матрицу Гессе по . Сильная локальная линейная дискретизация сходится с порядком (= 1, 1,5) к решению (7.1).
Локальные линейные дискретизации высокого порядка
После локальной линеаризации дрейфового члена (7.1) при уравнение для невязки задается выражением
для всех , где
Локальная линейная дискретизация высокого порядка СДУ (7.1) в каждой точке затем определяется рекурсивным выражением [20]
где — сильное приближение к невязке порядка выше 1,5 . Сильная дискретизация HOLL сходится с порядком к решению (7.1).
Локальные схемы линеаризации
В зависимости от способа вычисления могут быть получены различные численные схемы. Каждая численная реализация сильной локальной линейной дискретизации любого порядка в общем случае называется схемой сильной локальной линеаризации (SLL) .
Заказать 1 схему SLL
[21]
где матрицы , и определены как в (4.6), является независимой одинаковой гауссовской случайной величиной с нулевым средним и дисперсией , и p + q > 1. Для больших систем СДУ [21] в приведенной выше схеме заменяется на .
Заказать 1.5 схемы SLL
где матрицы и определяются как
, является независимой тождественной нулевым средним гауссовской случайной величиной с дисперсией и ковариацией и p+q>1 [12] . Для больших систем СДУ [12] в приведенной выше схеме заменяется на .
Заказать 2 схемы SLL-Taylor
где , , и определяются как в схемах SLL порядка 1, а является приближением порядка 2 к многократному интегралу Стратоновича . [20]
Заказать 2 схемы SLL-RK
Для SDE с одним шумом Винера (m=1 ) [20]
где
с .
Здесь для СДУ малой размерности и для больших систем СДУ, где , , , и определяются как в схемах SLL-Тейлора порядка 2 , p+q>1 и .
Стабильность и динамика
По построению, сильные дискретизации LL и HOLL наследуют устойчивость и динамику линейных SDE, но это не относится к сильным схемам LL в целом. Схемы LL (7.2)-(7.5) с являются A -устойчивыми, включая жесткие и высококолебательные линейные уравнения. [12] Более того, для линейных SDE со случайными аттракторами эти схемы также имеют случайный аттрактор, который сходится по вероятности к точному при уменьшении размера шага и сохраняет эргодичность этих уравнений для любого размера шага. [20] [12] Эти схемы также воспроизводят существенные динамические свойства простых и связанных гармонических осцилляторов, такие как линейный рост энергии вдоль путей, колебательное поведение вокруг 0, симплектическая структура гамильтоновых осцилляторов и среднее значение путей. [20] [22] Для нелинейных SDE с малым шумом (т.е. (7.1) с ), пути этих SLL-схем в основном являются неслучайными путями LL-схемы (4.6) для ODE плюс небольшое возмущение, связанное с малым шумом. В этой ситуации динамические свойства этой детерминированной схемы, такие как сохранение линеаризации и сохранение точной динамики решения вокруг гиперболических точек равновесия и периодических орбит, становятся значимыми для путей SLL-схемы. [20] Например, на рис. 4 показана эволюция доменов в фазовой плоскости и энергия стохастического осциллятора
и их аппроксимации двумя численными схемами.
Слабые методы LL для SDE
Рассмотрим d -мерное стохастическое дифференциальное уравнение
с начальным условием , где коэффициент дрейфа и коэффициент диффузии являются дифференцируемыми функциями, и представляет собой m -мерный стандартный винеровский процесс.
Локальная линейная дискретизация
Для дискретизации по времени порядок - слабая локальная линейная дискретизация решения СДУ (8.1) определяется рекурсивным соотношением [23]
где
с
и является стохастическим процессом с нулевым средним и матрицей дисперсии
Здесь , обозначают частные производные по переменным и t , соответственно, матрицу Гессе по , и . Слабая локальная линейная дискретизация сходится с порядком (=1,2) к решению (8.1).
Локальные схемы линеаризации
В зависимости от способа вычисления и различных численных схем могут быть получены. Каждая численная реализация слабой локальной линейной дискретизации в общем случае называется схемой слабой локальной линеаризации (WLL) .
Заказ 1 схемы WLL
[24] [25]
где для СДУ с автономными коэффициентами диффузии, и являются подматрицами, определяемыми разделенной матрицей , с
где , и являются подматрицами, определяемыми разделенной матрицей с
и
Стабильность и динамика
По построению слабые дискретизации LL наследуют устойчивость и динамику линейных SDE, но это не относится к слабым схемам LL в целом. Схемы WLL, сохраняя первые два момента линейных SDE, наследуют среднеквадратичную устойчивость или неустойчивость, которую может иметь такое решение. [24] Сюда входят, например, уравнения связанных гармонических осцилляторов, приводимых в действие случайной силой, и большие системы жестких линейных SDE, которые получаются из метода прямых для линейных стохастических уравнений в частных производных. Более того, эти схемы WLL сохраняют эргодичность линейных уравнений и являются геометрически эргодическими для некоторых классов нелинейных SDE. [26] Для нелинейных SDE с малым шумом (т. е. (8.1) с ), решения этих схем WLL в основном являются неслучайными путями схемы LL (4.6) для ODE плюс малое возмущение, связанное с малым шумом. В этой ситуации динамические свойства этой детерминированной схемы, такие как сохранение линеаризации и сохранение динамики точного решения вокруг гиперболических точек равновесия и периодических орбит, становятся значимыми для среднего значения схемы WLL. [24] Например, на рис. 5 показано приблизительное среднее значение SDE
рассчитанные по разным схемам.
Исторические заметки
Ниже представлена хронология основных разработок метода локальной линеаризации (ЛЛ).
Поуп ДА (1963) вводит дискретизацию LL для ОДУ и схему LL, основанную на разложении Тейлора. [2]
Ozaki T. (1985) представляет метод LL для интегрирования и оценки SDE. Термин «локальная линеаризация» используется впервые. [27]
Бискай Р. и др. (1996) переформулировали сильный метод LL для SDE. [19]
Сёдзи И. и Озаки Т. (1997) переформулировали слабый метод ЛЛ для СДУ. [23]
Хохбрук М. и др. (1998) вводят схему ЛЛ для ОДУ, основанную на аппроксимации подпространства Крылова. [3]
Хименес Дж. К. (2002) вводит схему LL для ОДУ и СДУ на основе рациональной аппроксимации Паде. [21]
Карбонелл FM и др. (2005) вводят метод LL для RDE. [16]
Хименес Дж. К. и др. (2006) вводят метод LL для DDE. [11]
Де ла Круз Х. и др. (2006, 2007) и Токман М. (2006) вводят два класса интеграторов HOLL для ОДУ: основанные на интеграторах [6] и основанные на квадратурах. [7] [5]
Де ла Круз Х. и др. (2010) представили сильный метод ХОЛЛА для СДУ. [20]
Ссылки
^ abcd Jimenez JC (2009). «Локальные методы линеаризации для численного интегрирования обыкновенных дифференциальных уравнений: обзор». Технический отчет ICTP. 035: 357–373.
^ ab Pope, DA (1963). "Экспоненциальный метод численного интегрирования обыкновенных дифференциальных уравнений". Comm. ACM, 6(8), 491-493. doi:10.1145/366707.367592.
^ abc Hochbruck, M., Lubich, C., & Selhofer, H. (1998). "Экспоненциальные интеграторы для больших систем дифференциальных уравнений". SIAM J. Scient. Comput. 19(5), 1552-1574. doi:10.1137/S1064827595295337.
^ abcdefgh de la Cruz H.; Biscay RJ; Jimenez JC; Carbonell F. (2013). «Локальная линеаризация — методы Рунге-Кутты: класс A-устойчивых явных интеграторов для динамических систем». Math. Comput. Modelling. 57 (3–4): 720–740. doi:10.1016/j.mcm.2012.08.011.
^ abcdefgh de la Cruz H.; Biscay RJ; Carbonell F.; Ozaki T.; Jimenez JC (2007). «Метод локальной линеаризации более высокого порядка для решения обыкновенных дифференциальных уравнений». Appl. Math. Comput. 185: 197–212. doi:10.1016/j.amc.2006.06.096.
^ abcde de la Cruz H.; Biscay RJ; Carbonell F.; Jimenez JC; Ozaki T. (2006). "Методы локальной линеаризации-Рунге-Кутты (LLRK) для решения обыкновенных дифференциальных уравнений". Lecture Note in Computer Sciences 3991: 132–139, Springer-Verlag. doi:10.1007/11758501 22. ISBN 978-3-540-34379-0 .
^ ab Tokman M. (2006). «Эффективная интеграция больших жестких систем ОДУ с итеративными методами экспоненциального распространения (EPI)». J. Comput. Physics. 213 (2): 748–776. doi:10.1016/j.jcp.2005.08.032.
^ M. Hochbruck.; A. Ostermann. (2011). «Экспоненциальные многошаговые методы типа Адамса». BIT Numer. Math. 51 (4): 889–908. doi:10.1007/s10543-011-0332-6.
^ abcde Хименес, Дж. К. и Карбонелл, Ф. (2005). "Скорость сходимости локальных схем линеаризации для задач с начальными значениями". Appl. Math. Comput., 171(2), 1282-1295. doi:10.1016/j.amc.2005.01.118.
^ Карбонелл Ф.; Хименес Дж. К.; Педросо Л. М. (2008). «Вычисление кратных интегралов с использованием матричных экспонент». J. Comput. Appl. Math. 213: 300–305. doi:10.1016/j.cam.2007.01.007.
^ abcd Jimenez JC; Pedroso L.; Carbonell F.; Hernandez V. (2006). "Метод локальной линеаризации для численного интегрирования дифференциальных уравнений с задержкой". SIAM J. Numer. Analysis. 44 (6): 2584–2609. doi:10.1137/040607356.
^ abcdef Jimenez JC; de la Cruz H. (2012). «Скорость сходимости схем сильной локальной линеаризации для стохастических дифференциальных уравнений с аддитивным шумом». BIT Numer. Math. 52 (2): 357–382. doi:10.1007/s10543-011-0360-2.
^ abc Jimenez JC; Biscay R.; Mora C.; Rodriguez LM (2002). «Динамические свойства метода локальной линеаризации для задач с начальными значениями». Appl. Math. Comput. 126: 63–68. doi:10.1016/S0096-3003(00)00100-4.
^ Хименес Дж. К.; Сотолонго А.; Санчес-Борно Дж. М. (2014). «Локально линеаризованный метод Рунге-Кутты Дорманда и Принса». Appl. Math. Comput. 247: 589–606. doi:10.1016/j.amc.2014.09.001.
^ Наранхо-Нода, Хименес Дж. К. (2021) «Локально линеаризованный метод Рунге-Кутты Дорманда и Принса для больших систем задач начального значения». J.Comput. Physics. 426: 109946. doi:10.1016/j.jcp.2020.109946.
^ abc Carbonell, F., Jimenez, JC, Biscay, RJ, & De La Cruz, H. (2005). "Метод локальной линеаризации для численного интегрирования случайных дифференциальных уравнений". BIT Num. Math. 45(1), 1-14. doi:10.1007/S10543-005-2645-9.
^ ab Jimenez JC; Carbonell F. (2009). «Скорость сходимости локальных схем линеаризации для случайных дифференциальных уравнений». BIT Numer. Math. 49 (2): 357–373. doi:10.1007/s10543-009-0225-0.
^ Хименес Х. К., Сёдзи И., Озаки Т. (1999) «Моделирование стохастического дифференциального уравнения методом локальной линеаризации. Сравнительное исследование». J. Statist. Physics. 99: 587-602, doi:10.1023/A:1004504506041.
^ ab Biscay, R., Jimenez, JC, Riera, JJ, & Valdes, PA (1996). "Метод локальной линеаризации для численного решения стохастических дифференциальных уравнений". Annals Inst. Statis. Math. 48(4), 631-644. doi:10.1007/BF00052324.
^ abcdefg de la Cruz H.; Biscay RJ; Jimenez JC; Carbonell F.; Ozaki T. (2010). «Методы локальной линеаризации высокого порядка: подход к построению A-устойчивых явных схем высокого порядка для стохастических дифференциальных уравнений с аддитивным шумом». BIT Numer. Math. 50 (3): 509–539. doi:10.1007/s10543-010-0272-6.
^ abc Jimenez, JC (2002). "Простое алгебраическое выражение для оценки локальных схем линеаризации для стохастических дифференциальных уравнений". Appl. Math. Letters, 15(6), 775-780. doi:10.1016/S0893-9659(02)00041-1.
^ de la Cruz H.; Jimenez JC; Zubelli JP (2017). «Локально линеаризованные методы моделирования стохастических осцилляторов, приводимых в движение случайными силами». BIT Numer. Math. 57: 123–151. doi:10.1007/s10543-016-0620-2.
^ ab Shoji, I., & Ozaki, T. (1997). "Сравнительное исследование методов оценки для непрерывных во времени стохастических процессов". J. Time Series Anal. 18(5), 485-506. doi:10.1111/1467-9892.00064.
^ abcd Jimenez JC; Carbonell F. (2015). «Скорость сходимости слабых схем локальной линеаризации для стохастических дифференциальных уравнений с аддитивным шумом». J. Comput. Appl. Math. 279: 106–122. doi:10.1016/j.cam.2014.10.021.
^ ab Carbonell F.; Jimenez JC; Biscay RJ (2006). «Слабые локальные линейные дискретизации для стохастических дифференциальных уравнений: сходимость и численные схемы». J. Comput. Appl. Math. 197: 578–596. doi:10.1016/j.cam.2005.11.032.
^ Одзаки, Т. (1985). «Нелинейные модели временных рядов и динамические системы». Справочник по статистике, 5, 25-83. doi:10.1016/S0169-7161(85)05004-0.