sawiki - Вклад участника [ru]

Производные и дифференциалы Фреше

2026-01-14T03:58:24Z

Arthur24: /* Список литературы */

__TOC__

== Определение дифференцируемости по Фреше ==

Рассмотрим $$X, Y$$ — [[Банахово пространство|нормированные пространства]] с нормами $$||\cdot||_1, ||\cdot||_2$$ соответственно и $$F: X \mapsto Y$$ — определенное на некотором открытом подмножестве $$O\subset X$$ отображение (например, $$O$$ — открытый шар заданного радиуса).

Обозначим $$\mathcal{L}(X,Y)$$ — множество [[Линейный оператор в банаховых пространствах|линейных ограниченных операторов]] $$L: X \mapsto Y$$.

'''Определение.'''
Отображение $$F: X \mapsto Y$$ называется '''дифференцируемым по Фреше''' в точке $$x\in O$$, если существует линейный ограниченный оператор $$L_x \in \mathcal{L}(X,Y)$$
\begin{equation}\label{main_def}
\forall\varepsilon > 0~\exists\delta=\delta(\varepsilon):~ \forall h\in X:~ ||h||_1<\delta \quad\Longrightarrow\quad ||F(x+h)-F(x)-L_{x}h||_2 \leqslant \varepsilon||h||_1
\end{equation}
или, что то же самое, но сокращённо,
\begin{equation*}
F(x+h) - F(x) - L_xh = o(h),
\end{equation*}
где $$o(h)$$ — это такое отображение, действующее из $$X$$ в $$Y$$, что
\begin{equation*}
\lim_{||h||_1\to 0}\dfrac{||o(h)||_2}{||h||_1} = 0.
\end{equation*}
При этом линейный оператор $$L_x(\cdot)$$ называется '''производной Фреше''' отображения $$F$$ в точке $$x$$, а выражение $$L_xh:=L_x(h)$$ — '''дифференциалом Фреше'''.

Производная Фреше составляет главную линейную часть приращения отображения $$F$$.

Всюду далее будем опускать индексы среди $$||\cdot||_1, ||\cdot||_2$$, подразумевая подходящую аргументу норму.

== Свойства дифференцируемости по Фреше ==

Далее обозначим производную Фреше в точке $$x$$ отображения $$F$$ как $$F'(x)$$. Под этим символом понимаем линейный оператор $$L_x(\cdot)$$.

'''1.''' Если отображение $$F$$ дифференцируемо по Фреше в точке $$x$$, то $$F$$ является [[Линейный оператор в банаховых пространствах|непрерывным]] в точке $$x$$.

'''Доказательство.'''
Следует из \eqref{main_def} и ограниченности производной Фреше.$$\blacksquare$$

'''2.''' Если отображение $$F$$ дифференцируемо по Фреше в точке $$x$$, то производная Фреше определяется единственным образом.

'''Доказательство.'''
Допустим, что $$\exists L_1, L_2 \in \mathcal{L}(X,Y)$$, которые удовлетворяют определению \eqref{main_def}. Тогда выполняется равенство $$||L_1h - L_2h|| = o(h)$$, что возможно только при $$L_1=L_2$$.$$\blacksquare$$

'''3.''' Если $$F(x)=\operatorname{const}$$, то $$F'(x)\equiv 0$$. Т.е. $$F'(x)$$ — нулевой оператор.

'''Доказательство.'''
По определению получим, что $$L_xh = o(h)$$. Это возможно только если линейный оператор $$L_x$$ является нулевым.$$\blacksquare$$

'''4.''' Производная Фреше линейного ограниченного (следовательно, непрерывного) отображения $$L$$ совпадает с самим отображением: $$L'(x) = L, \forall x.$$

'''Доказательство.'''
По определению линейности $$L$$ имеем, что $$L(x+h) - L(x) = L(h)$$, откуда следует требуемое.$$\blacksquare$$

'''5.''' Пусть $$F$$ и $$G$$ — непрерывные отображения, действующие из $$X$$ в $$Y$$. Если $$F$$ и $$G$$ дифференцируемы по Фреше в точке $$x_0$$, то и отображения $$F+G,~\alpha F$$ ($$\alpha$$ — число, т.е. элемент поля, над которым определено пространство $$Y$$) тоже дифференцируемы в этой точке, причем их производные Фреше вычисляются по формуле:
\begin{align*}
(F + G)'(x_0) &= F'(x_0) + G'(x_0), \\
(\alpha F)'(x_0) &= \alpha F'(x_0)
\end{align*}

'''Доказательство.'''
Из определения суммы операторов и произведения операторов на число сразу получаем, что
\begin{align*}
(F+G)(x_0+h) &= F(x_0+h) + G(x_0+h) = F(x_0) + G(x_0) + F'(x_0)h + G'(x_0)h + o_1(h), \\
\alpha F(x_0+h) &= \alpha F(x_0) + \alpha F'(x_0)h + o_2(h),
\end{align*}
откуда следует требуемое.$$\blacksquare$$

'''6. (правило Лейбница).''' Пусть $$F: U\mapsto Y, G: U\mapsto\mathbb{R}$$ дифференцируемы по Фреше в точке $$x_0$$. Тогда отображение $$G(x)=g(x)F(x)$$ дифференцируемо по Фреше в точке $$x_0$$, причём
\begin{equation*}
G'(x_0)h = g'(x_0)h\cdot F(x_0) + g(x_0)\cdot F'(x_0)h.
\end{equation*}

'''Доказательство.'''
Пусть отображения дифференцируемы по Фреше. Тогда при $$||h||\to0$$ выполняется
\begin{align*}
G(x_0+h) = g(x_0+h)F(x_0+h) &= (g(x_0)+g'(x_0)h + o(h))\cdot(F(x_0)+F'(x_0)h + o(h)) = \\
&= g(x_0)F(x_0) + g'(x_0)h\cdot F(x_0) + g(x_0)\cdot F'(x_0)h + o(h).
\end{align*}$$\blacksquare$$

== Производная Фреше сложной функции ==

Под понятием дифференцируемости далее подразумеваем дифференцируемость в смысле Фреше, если не указано иначе.

'''Теорема 1.'''
Пусть $$X,Y,Z$$ — нормированные пространства, $$U(x_0)$$ — окрестность точки $$x_0\in X$$, $$F$$ — отображение этой окрестности в $$Y$$, $$y_0 = F(x_0)$$, $$V(y_0)$$ — окрестность точки $$y_0 \in Y$$ и $$G$$ — отображение этой окрестности в $$Z$$. Тогда, если отображение $$F$$ дифференцируемо в точке $$x_0$$, а $$G$$ дифференцируемо в точке $$y_0$$, то отображение $$H = G\circ F$$, определенное в некоторой окрестности точки $$x_0$$ также является дифференцируемым в точке $$x_0$$, причём
\begin{equation}\label{chain_rule}
H'(x_0) = G'(y_0)\cdot F'(x_0).
\end{equation}

'''Доказательство.'''
Рассмотрим $$\varepsilon_1,\varepsilon_2 > 0$$. По определению дифференцируемости имеем
\begin{align*}
\exists\delta_1(\varepsilon_1) > 0: ~\forall \xi:||\xi||<\delta_1 &~\Longrightarrow~ ||F(x_0+\xi) - F(x_0) - F'(x_0)\xi|| < \varepsilon_1, \\
\exists\delta_2(\varepsilon_2) > 0: ~\forall \eta:||\eta||<\delta_2 &~\Longrightarrow~ ||G(y_0+\eta) - G(y) - G'(y_0)\eta|| < \varepsilon_2.
\end{align*}
Выберем $$\delta = \min(\delta_1, \delta_2),~\varepsilon=\max(\varepsilon_1,\varepsilon_2)$$. Зафиксируем $$\xi,\eta:~ ||\xi||<\delta, ||\eta||<\delta$$.

Отметим, что $$F'(x_0), G'(y_0)$$ — ограниченные линейные операторы. Тогда существует отображение $$G'(F(x_0))\cdot F'(x_0) =: M(x_0)$$, оно является ограниченным, причём
\begin{align*}
H(x_0+\xi) &= G(F(x_0+\xi)) = G(F(x_0) + F'(x_0)\xi + o(\xi)) = G(F(x_0)) + G'(F(x_0))(F'(x_0)\xi + o_1(\xi)) + o_2(F'(x_0)\xi + o_1(\xi)) = \\
&= H(x_0) + G'(F(x_0))F'(x_0)\xi + o_3(\xi).
\end{align*}$$\blacksquare$$

'''Замечание.'''
Если $$F, G, H$$ — числовые функции, то формула \eqref{chain_rule} превращается в известное из курса математического анализа правило дифференцирования сложной функции.

== Определение дифференцируемости по Гато ==

Пусть снова дано отображение $$F: X\mapsto Y$$.

'''Определение.'''
'''Дифференциалом Гато''' отображения $$F$$ в точке $$x$$ при приращении $$h$$ называется предел
\begin{equation*}
DF(x,h) = \dfrac{d}{dt}F(x+th)\bigg\vert_{t=0} = \lim_{t\to 0}\dfrac{F(x+th)-F(x)}{t},
\end{equation*}
где подразумевается сходимость по норме в пространстве $$Y$$:
\begin{equation*}
\forall \{ t_n \}_{n=1}^{\infty}: t_n\to0 \quad\Longrightarrow\quad \bigg|\bigg|\dfrac{F(x+t_nh)-F(x)}{t_n} - DF(x, h) \bigg|\bigg| \to 0.
\end{equation*}

'''Пример.'''
Пусть $$F:\mathbb{R}^n\mapsto\mathbb{R}^m$$ дифференцируемо по Гато в точке $$x_0$$ и имеет слабую производную $$F'_c(x_0): \mathbb{R}^n\mapsto\mathbb{R}^m$$.

Тогда слабая производная задаётся матрицей $$A=(a_{ij})_{i=\overline{1,n},j=\overline{1,m}}$$, где
\begin{equation*}
a_{ij} = \dfrac{\partial F_i}{\partial x_j}(x_0),
\end{equation*}
т.е. $$A$$ — [[Матрица Якоби. Лемма о выпрямлении векторного поля|матрица Якоби]].

'''Замечания.'''
'''1.''' Иногда в литературе называют производную Фреше '''сильной производной''', а производную Гато — '''слабой производной'''. Аналогично поступают с дифференциалами. Далее будет показано, что из дифференцируемость по Фреше следует дифференцируемость по Гато, но не наоборот, что объясняет названия.

'''2.''' Дифференциал Гато $$DF(x,h)$$ может и не быть линеен по $$h$$. Если же такая линейность имеет место, то
\begin{equation*}
DF(x,h) = F'_c(x)h,
\end{equation*}
где $$F'_c(x)h$$ — ограниченный линейный оператор, его обычно называют '''производной Гато'''.

'''3.''' Теорема о дифференцировании сложной функции, вообще говоря, неверна для производной Гато.

'''Пример.'''
Рассмотрим функции
\begin{equation*}
f(x_1, x_2) = \begin{cases}\begin{array}{cc}
\dfrac{x_1^3}{x_2}, & x_2\neq0, \\
0, & x_2=0.
\end{array}\end{cases},\qquad
g(t) = (t, t^2) \in \mathbb{R}^2
\end{equation*}
и их композицию $$l(t) = f(g(t)) = f(t, t^2)$$. Дифференциалы Гато в точке $$x=(0,0)$$ при приращениях $$h=(h_1,h_2), h_2\neq 0, a\neq0$$ соответственно равны
\begin{align*}
Df(x, h) &= \lim_{t\to0}\dfrac{f(th_1, th_2) - f(0, 0)}{t} = \lim_{t\to0} \dfrac{th_1^3}{h_2} = 0. \\
Dg(0, a) &= \lim_{t\to0}\dfrac{||(ta,t^2a^2)||}{t} = \lim_{t\to0}\dfrac{\sqrt{t^2a^2+t^4a^4}}{t} = |a|. \\
Dl(x, a) &= \lim_{t\to0}\dfrac{l(ta, ta) - l(0, 0)}{t} = \lim_{t\to0} \dfrac{\frac{t^3a^3}{t^2a^2}}{t} = a.
\end{align*}
Следовательно, $$Dl(t, a) \neq Dg(f(x), a) \cdot Df(x, h)$$ при $$t\in\mathbb{R}, h\neq 0, a\neq 0$$.

'''4.''' Существуют функции, дифференцируемые по Гато, но не дифференцируемые по Фреше.

'''Пример.'''
Рассмотрим множество $$\mathcal{M}=\{(x_1,x_2)\in\mathbb{R}^2~|~ x_1>0,x_2=x_1^2\}$$ и числовую функцию
\begin{equation}\label{ex_nodiff}
f(x) = \begin{cases}\begin{array}{cc}
1, & x\in\mathcal{M}, \\
0, & x\not\in\mathcal{M}.
\end{array}\end{cases}
\end{equation}
Вычислим дифференциал Гато $$f(x)$$ в точке $$x_0=(0,0)$$.
Отметим, что $$\forall t\neq0, h=(h_1,h_2)\in\mathcal{M}:~h_2=h_1^2$$ следует, что $$th\not\in\mathcal{M}$$. Тогда
\begin{equation*}
Df(x_0,h) = \lim_{t\to0}\dfrac{f(x_0+th)-f(x_0)}{t} = \lim_{t\to0}\dfrac{0}{t} = 0,\quad \forall h\in\mathbb{R}^2.
\end{equation*}

Однако, определение \eqref{main_def} не выполняется. Действительно, можем выбрать приращение $$h\in\mathcal{M}$$ и при этом
\begin{equation*}
f(x_0+h)-f(x_0) = f(h) = \begin{cases}
1, & h_2=h_1^2,~ h_1>0,\\
0, & иначе.
\end{cases}
\end{equation*}
Следовательно, функция \eqref{ex_nodiff} не дифференцируема по Фреше, но дифференцируема по Гато.

== Формула конечных приращений ==

'''Теорема 2.''' Пусть $$U\subset X$$ — открытое множество, отрезок $$[x_0, x_1] \subset U$$, отображение $$F: U\mapsto Y$$ дифференцируемо по Гато и имеет слабую производную $$F'_c(x)$$ в каждой точке отрезка $$[x_0, x_1]$$. Тогда
\begin{equation*}
||F(x_1) - F(x_0)|| \leqslant \sup_{0\leqslant\theta\leqslant1}||F'_c(x_0+\theta(x_1-x_0))||\cdot||x_1-x_0||.
\end{equation*}

'''Доказательство.''' Положим $$\Delta x = x_1-x_0$$. Рассмотрим произвольный линейный ограниченный ненулевой функционал $$\phi\in Y^*$$ и числовую функцию
\begin{equation*}
f(t) = \phi(F(x_0+t\Delta x)),\quad t\in[0,1].
\end{equation*}
Эта функция дифференцируема по $$t$$, ведь в выражении
\begin{equation*}
\dfrac{f(t+\Delta t) - f(t)}{\Delta t} = \phi\left( \dfrac{F(x_0+t\Delta x + \Delta t\Delta x) - F(x_0 + t\Delta x)}{\Delta t} \right)
\end{equation*}
можно перейти к пределу под знаком непрерывного линейного функционала $$\phi$$. В итоге получим
\begin{equation*}
f'(t) = \phi\left(F'_c(x_0+t\Delta x)\Delta x\right).
\end{equation*}
Далее, для функции $$f(t)$$ применим формулу конечных приращений Лагранжа: $$f(1)=f(0)+f'(\theta),~\theta\in[0,1]$$. Следовательно, для произвольного $$\phi\in Y^*$$ получим
\begin{equation*}
\phi(F(x)-F(x_0)) = \phi(F'_c(x_0+\theta\Delta x)\Delta x).
\end{equation*}
Применим формулу конечных приращений
\begin{equation*}
|\phi(F(x)-F(x_0))| \leqslant ||\phi||\cdot \sup_{\theta\in[0,1]} ||F'_c(x_0+\theta\Delta x)||\cdot||\Delta x||.
\end{equation*}
'''Напоминание.''' ([[Теорема Хана-Банаха и её следствия|следствие из теоремы Хана Банаха]]). Пусть $$X$$ — нормированное пространство, $$x\in X$$. Тогда существует вектор $$x^*\in X^*$$ такой, что $$||x^*||=1, x^*(x)=||x||$$.
Выберем теперь ненулевой функционал $$\phi$$ так, что (такой функционал $$\phi$$ существует в силу следствия их теоремы Хана Банаха)
\begin{equation*}
\phi(F(x)-F(x_0)) = ||\phi||\cdot||F(x)-F(x_0)||.
\end{equation*}
Следовательно,
\begin{equation*}
||F(x_1) - F(x_0)|| \leqslant \sup_{0\leqslant\theta\leqslant1}||F'_c(x_0+\theta(x_1-x_0))||\cdot||x_1-x_0||,
\end{equation*}
что и требовалось доказать. $$\blacksquare$$

'''Замечание.''' Если $$F: X\mapsto\mathbb R$$, то существует $$x\in[x_0,x_1]:~F(x_1)-F(x_0)=F'(x)(x_1-x_0)$$.

== Связь производных Гато и Фреше ==

'''Теорема 3.''' Если отображение $$F$$ имеет сильную производную (Фреше), то оно имеет и слабую производную (Гато), причем сильная и слабая производные совпадают.

'''Доказательство.''' Действительно, выберем приращение $$\tilde h = th$$:
\begin{align*}
& F(x+th) - f(x) = F'(x)(th) + o(th) = tF'(x)h + o(th). \Longrightarrow \\
\Longrightarrow & \dfrac{F(x+th) - F(x)}{t} = F'(x)h + \dfrac{o(th)}{t} \to F'(x)h,~ t\to0.
\end{align*}$$\blacksquare$$

'''Пример'''. Из слабой дифференцируемости отображения $$F$$ не следует его сильная дифференцируемость. Рассмотрим $$F: \mathbb{R}^2\mapsto\mathbb{R}$$:
\begin{equation*}
f(x_1, x_2) = \begin{cases}\begin{array}{cc}
\dfrac{x_1^3x_2}{x_1^4+x_2^2}, & (x_1,x_2)\neq(0,0), \\
0, & (x_1,x_2)=(0,0).
\end{array}\end{cases}
\end{equation*}
Эта функция непрерывна в $$\mathbb{R}^2\setminus\{(0,0)\}$$.

В точке $$(0,0)$$ её производная Гато существует и равен $$0$$, поскольку
\begin{equation*}
\lim_{t\to0} \dfrac{f(0+th)-f(0)}{t} = \lim_{t\to0}\dfrac{t^4h_1^3h_2}{t^5h_1^4+t^3h_2^2} = 0.
\end{equation*}
Однако этот дифференциал не является главной линейной частью приращения функции в $$(0,0)$$.

При $$h_2=h_1^2$$ имеем
\begin{equation*}
\lim_{||h||\to0} \dfrac{f(h_1,h_2)-f(0,0)}{||h||} = \lim_{h_1\to0}\dfrac{h_1^5}{2h_1^4\sqrt{h_1^2+h_1^4}} = \dfrac{1}{2} \neq 0.
\end{equation*}

Для функций с линейной непрерывной по $$x$$ производной Гато $$F'_c(x)$$ слабая и сильная производные совпадают. Об этом утверждает следующая теорема.

'''Теорема 4.''' Если слабая производная $$F'_c(x)$$ отображения $$F$$ существует в некоторой окрестности $$U(x_0)$$, является непрерывной по $$x$$ в точке $$x_0$$, то сильная производная $$F'(x_0)$$ существует и совпадает со слабой.

'''Доказательство.''' Выберем $$\varepsilon>0$$ и $$\delta>0$$ так, чтобы при $$||h||<\delta$$ выполнялось неравенство:
\begin{equation*}
||F'_c(x_0+h) - F'_c(x_0)|| \leqslant \varepsilon.
\end{equation*}
Применим формулу конечных приращений и получим
\begin{equation*}
||F(x_0+h) - F(x_0) - F'_c(x_0)h|| \leqslant \sup_{\theta\in[0,1]}||F'_c(x_0+\theta h)-F'_c(x_0)||\cdot||h|| \leqslant \varepsilon||h||.
\end{equation*}
Следовательно, сильная производная существует по определению и совпадает со слабой. $$\blacksquare$$

== Примеры вычисления дифференциалов ==

'''1.''' Рассмотрим функцию $$F:~\mathbb{R}^3\mapsto\mathbb{R}^2$$ такую, что
\begin{equation*}
F(x_1,x_2,x_3) = \begin{pmatrix}
x_1x_2 + e^{x_3} \\
x_1^2 + 3x_2 - \sin(x_3)
\end{pmatrix}
\end{equation*}
Матрица Якоби в точке $$x_0$$ равна
\begin{equation*}
F'(x_0) = \begin{pmatrix}
x_2 & x_1 & x_3e^{x_3} \\
2x_1 & 3 & -\cos(x_3)
\end{pmatrix}
\end{equation*}
Выберем точку $$x_0 = (1, 2, 0)^T$$. Тогда при приращении $h$ выполняется
\begin{gather*}
F(x_0+h)-F(x_0) = \begin{pmatrix}
2 & 1 & 0 \\
2 & 3 & -1
\end{pmatrix} \cdot \begin{pmatrix}
h_1 \\
h_2 \\
h_3
\end{pmatrix} + o(h)
\end{gather*}
Следовательно, производная Фреше функции $$F$$ в точке $$x_0$$ равна $$F'(x_0)$$.

'''2.''' $$J(u)=\langle Au,u \rangle_H$$, где $$A: H\mapsto H$$ — произвольный оператор, $$A^*$$ — [[Сопряжённый линейный оператор|сопряженный оператор]] к оператору $$A$$: $$\langle Au,v \rangle_H = \langle u,A^*v \rangle_H,~ \forall u,v\in H$$.
\begin{gather*}
J(u+h)-J(u) = \langle A(u+h),u+h \rangle_H - \langle Au,u \rangle_H = \langle (A+A^*)u,h \rangle_H + \underbrace{\langle Ah,h \rangle_H}_{\to0}. \\
\Longrightarrow J'(u) = (A+A^*)u.
\end{gather*}

'''3.''' $$J(u)=||Au-f||^2 = \langle Au-f,Au-f \rangle_H$$, где $$f\in H$$ и $$A: H\mapsto H$$ — произвольный оператор.
\begin{align*}
\langle Au-f,Au-f \rangle_H &= \langle Au - f,Au \rangle_H - \langle Au - f,f \rangle_H = \\
&= \langle Au,Au \rangle_H - \langle f,Au \rangle_H - \langle Au, f \rangle_H + \langle f,f \rangle_H = \\
&= \langle Au,Au \rangle_H - 2\langle f,Au \rangle_H + \langle f,f \rangle_H.
\end{align*}

\begin{align*}
\langle A(u+h)-f,A(u+h)-f \rangle_H &= \langle A(u+h),A(u+h) \rangle_H - 2\langle f,A(u+h) \rangle_H + \langle f,f \rangle_H.
\end{align*}

\begin{align*}
J(u+h)-J(u) &= \langle A(u+h)-f,A(u+h)-f \rangle_H - \langle Au-f,Au-f \rangle_H = \\
&= \left(\langle A(u+h),A(u+h) \rangle_H - \langle Au,Au \rangle_H\right) - 2(\langle f,A(u+h) \rangle_H - \langle f,Au \rangle_H) = \\
&= \langle (A^*A + AA^*)u,h \rangle_H - 2\langle f,Ah \rangle_H + o(h) = \\
&= \langle (A^*A + AA^*)u-2A^*f,h \rangle_H + o(h). \\
&\Longrightarrow J'(u) = (A^*A + AA^*)u-2A^*f.
\end{align*}

'''4.''' Рассмотрим $$H$$ — [[Гильбертово пространство|гильбертово пространство]], наделённое скалярным произведением $$\langle \cdot,\cdot \rangle_H$$, и $$J(u):H\mapsto\mathbb{R}$$.

По [[Гильбертово пространство|теореме Рисса]] $$\exists \nabla J\in H:~ J'(u)=\langle \nabla J, u \rangle_H$$;

$$J(u)=\langle c,u \rangle_H$$.
\begin{gather*}
J(u+h)-J(u) = \langle c,u+h \rangle_H - \langle c,u \rangle_H = \langle c,h \rangle_H = J'(u)h. \\
\Longrightarrow J'(u) = c.
\end{gather*}

'''5.''' $$J(u)=||u||^2_H = \langle u,u \rangle_H$$.
\begin{gather*}
J(u+h)-J(u) = \langle u+h,u+h \rangle_H - \langle u,u \rangle_H = 2\langle u,h \rangle_H. \\
\Longrightarrow J'(u) = 2u.
\end{gather*}

'''6.''' $$K(u)=||u||^p_H,~ p>0$$.

Пусть $$u\neq 0$$. Продифференцируем сложную функцию $$K(u)=G(J(u))$$, где
\begin{align*}
G(t) &= t^{p/2}, \\
J(u) &= ||u||^2_H = \langle u,u \rangle_H.
\end{align*}
Тогда
\begin{gather*}
K'(u) = G'(J(u))\cdot J'(u) = \dfrac{p}{2}(||u||^2)^{p/2 - 1}\cdot 2u = pu||u||_H^{p-2}
\end{gather*}
Отметим, что формула $$K'(u) = pu||u||_H^{p-2}$$ при $$u\neq0$$ верна $$\forall p>0$$.

Исследуем дифференцируемость по Фреше функции $$K(u)$$ в точке $$u=0$$.
\begin{equation*}
||u+h||^p = (||u||^2 + 2\langle u,h \rangle + ||h||^2)^{p/2}.
\end{equation*}

Воспользуемся формулой Тейлора для числовой функции
\begin{equation*}
(a+t)^{p/2} = a^{p/2} + \dfrac{p}{2}a^{p/2 - 1}t + o(t),\quad t\to0
\end{equation*}
при $$|t| < |a|$$. Подставим
\begin{align*}
a &= ||u||^2 > 0, \\
t &= 2\langle u,h \rangle + ||h||^2.
\end{align*}
следовательно,
\begin{equation*}
\begin{aligned}
||u+h||^{p} &= ||u||^p + \dfrac{p}{2}||u||^{p-2}\left( 2\langle u,h \rangle + ||h||^2 \right) + o(h) = \\
&= ||u||^p + \langle pu||u||^{p-2}, h \rangle + o(h).
\end{aligned}
\end{equation*}

* Рассмотрим $$p>1$$. Пусть $$K'(0)\neq0$$ тогда линейный член $$\langle K'(0), h \rangle = O(||h||)$$, но $$||h||^p=o(||h||)$$ при $$p>1$$, получаем противоречие. Следовательно, $$K'(0)=0$$.

* Рассмотрим $$p=1$$ (случай нормы $$||u||$$).
При $$u=0, p=1$$ не существует слабой производной Гато: выберем $$t_n=(-1)^n/n$$. Тогда
\begin{equation*}
\dfrac{K(t_nh) - K(0)}{t_n} = \dfrac{|t_n|\cdot||h||}{t_n} = \begin{cases}\begin{array}{cc}
||h||, & n=2k, \\
-||h||, & n=2k+1.
\end{array}\end{cases} \not\to 0,\quad t\to0.
\end{equation*}
Следовательно, норма $$||u||$$ не дифференцируема по Фреше (по Гато) в точке $$u=0$$.

* Рассмотрим $$0<p<1$$. Пусть $$\exists K'(0)$$. Тогда по определению дифференцируемости по Фреше получим
\begin{equation*}
\dfrac{K(h) - K(0) - \langle K'(0), h\rangle}{||h||} = \dfrac{1}{||h||^{1-p}} - \dfrac{\langle K'(0), h\rangle}{||h||}.
\end{equation*}
Слагаемое $$\frac{1}{||h||^{1-p}}\to\infty$$, при $$||h||\to0, p\in(0,1)$$ и $$K(u)$$ не дифференцируемо в точке $$u=0$$.

'''Итоговый результат.'''
* $$p>1$$: $$K'(u) = pu||u||^{p-2}_H,~ u\neq0$$ и $$K'(0)=0$$.
* $$p=1$$: $$K'(u) = u/||u||_H,~ u\neq0$$, в нуле не дифференцируема.
* $$p\in(0,1)$$: $$K'(u)=pu||u||^{p-2}_H,~ u\neq0$$, в нуле не дифференцируема.

== Список литературы ==

'''1.''' ''Колмогоров A.Н., Фомин С.В.'' Элементы теории функций и функционального анализа. 7-е изд. М.: ФИЗМАТЛИТ, 2004.

'''2.''' ''Треногин В.А.'' Функциональный анализ: учебник. 3-е изд. М.: ФИЗМАТЛИТ, 2002.

'''3.''' ''Артемьева Л.А.'' Лекции по курсу "Методы оптимизации", 2024.

'''4.''' ''Востриков И.В.'' Семинары по курсу "Методы оптимизации", 2024.

Производные и дифференциалы Фреше

2025-12-23T20:09:30Z

Arthur24: Изменение списка литературы.

__TOC__

== Определение дифференцируемости по Фреше ==

Рассмотрим $$X, Y$$ — [[Банахово пространство|нормированные пространства]] с нормами $$||\cdot||_1, ||\cdot||_2$$ соответственно и $$F: X \mapsto Y$$ — определенное на некотором открытом подмножестве $$O\subset X$$ отображение (например, $$O$$ — открытый шар заданного радиуса).

Обозначим $$\mathcal{L}(X,Y)$$ — множество [[Линейный оператор в банаховых пространствах|линейных ограниченных операторов]] $$L: X \mapsto Y$$.

'''Определение.'''
Отображение $$F: X \mapsto Y$$ называется '''дифференцируемым по Фреше''' в точке $$x\in O$$, если существует линейный ограниченный оператор $$L_x \in \mathcal{L}(X,Y)$$
\begin{equation}\label{main_def}
\forall\varepsilon > 0~\exists\delta=\delta(\varepsilon):~ \forall h\in X:~ ||h||_1<\delta \quad\Longrightarrow\quad ||F(x+h)-F(x)-L_{x}h||_2 \leqslant \varepsilon||h||_1
\end{equation}
или, что то же самое, но сокращённо,
\begin{equation*}
F(x+h) - F(x) - L_xh = o(h),
\end{equation*}
где $$o(h)$$ — это такое отображение, действующее из $$X$$ в $$Y$$, что
\begin{equation*}
\lim_{||h||_1\to 0}\dfrac{||o(h)||_2}{||h||_1} = 0.
\end{equation*}
При этом линейный оператор $$L_x(\cdot)$$ называется '''производной Фреше''' отображения $$F$$ в точке $$x$$, а выражение $$L_xh:=L_x(h)$$ — '''дифференциалом Фреше'''.

Производная Фреше составляет главную линейную часть приращения отображения $$F$$.

Всюду далее будем опускать индексы среди $$||\cdot||_1, ||\cdot||_2$$, подразумевая подходящую аргументу норму.

== Свойства дифференцируемости по Фреше ==

Далее обозначим производную Фреше в точке $$x$$ отображения $$F$$ как $$F'(x)$$. Под этим символом понимаем линейный оператор $$L_x(\cdot)$$.

'''1.''' Если отображение $$F$$ дифференцируемо по Фреше в точке $$x$$, то $$F$$ является [[Линейный оператор в банаховых пространствах|непрерывным]] в точке $$x$$.

'''Доказательство.'''
Следует из \eqref{main_def} и ограниченности производной Фреше.$$\blacksquare$$

'''2.''' Если отображение $$F$$ дифференцируемо по Фреше в точке $$x$$, то производная Фреше определяется единственным образом.

'''Доказательство.'''
Допустим, что $$\exists L_1, L_2 \in \mathcal{L}(X,Y)$$, которые удовлетворяют определению \eqref{main_def}. Тогда выполняется равенство $$||L_1h - L_2h|| = o(h)$$, что возможно только при $$L_1=L_2$$.$$\blacksquare$$

'''3.''' Если $$F(x)=\operatorname{const}$$, то $$F'(x)\equiv 0$$. Т.е. $$F'(x)$$ — нулевой оператор.

'''Доказательство.'''
По определению получим, что $$L_xh = o(h)$$. Это возможно только если линейный оператор $$L_x$$ является нулевым.$$\blacksquare$$

'''4.''' Производная Фреше линейного ограниченного (следовательно, непрерывного) отображения $$L$$ совпадает с самим отображением: $$L'(x) = L, \forall x.$$

'''Доказательство.'''
По определению линейности $$L$$ имеем, что $$L(x+h) - L(x) = L(h)$$, откуда следует требуемое.$$\blacksquare$$

'''5.''' Пусть $$F$$ и $$G$$ — непрерывные отображения, действующие из $$X$$ в $$Y$$. Если $$F$$ и $$G$$ дифференцируемы по Фреше в точке $$x_0$$, то и отображения $$F+G,~\alpha F$$ ($$\alpha$$ — число, т.е. элемент поля, над которым определено пространство $$Y$$) тоже дифференцируемы в этой точке, причем их производные Фреше вычисляются по формуле:
\begin{align*}
(F + G)'(x_0) &= F'(x_0) + G'(x_0), \\
(\alpha F)'(x_0) &= \alpha F'(x_0)
\end{align*}

'''Доказательство.'''
Из определения суммы операторов и произведения операторов на число сразу получаем, что
\begin{align*}
(F+G)(x_0+h) &= F(x_0+h) + G(x_0+h) = F(x_0) + G(x_0) + F'(x_0)h + G'(x_0)h + o_1(h), \\
\alpha F(x_0+h) &= \alpha F(x_0) + \alpha F'(x_0)h + o_2(h),
\end{align*}
откуда следует требуемое.$$\blacksquare$$

'''6. (правило Лейбница).''' Пусть $$F: U\mapsto Y, G: U\mapsto\mathbb{R}$$ дифференцируемы по Фреше в точке $$x_0$$. Тогда отображение $$G(x)=g(x)F(x)$$ дифференцируемо по Фреше в точке $$x_0$$, причём
\begin{equation*}
G'(x_0)h = g'(x_0)h\cdot F(x_0) + g(x_0)\cdot F'(x_0)h.
\end{equation*}

'''Доказательство.'''
Пусть отображения дифференцируемы по Фреше. Тогда при $$||h||\to0$$ выполняется
\begin{align*}
G(x_0+h) = g(x_0+h)F(x_0+h) &= (g(x_0)+g'(x_0)h + o(h))\cdot(F(x_0)+F'(x_0)h + o(h)) = \\
&= g(x_0)F(x_0) + g'(x_0)h\cdot F(x_0) + g(x_0)\cdot F'(x_0)h + o(h).
\end{align*}$$\blacksquare$$

== Производная Фреше сложной функции ==

Под понятием дифференцируемости далее подразумеваем дифференцируемость в смысле Фреше, если не указано иначе.

'''Теорема 1.'''
Пусть $$X,Y,Z$$ — нормированные пространства, $$U(x_0)$$ — окрестность точки $$x_0\in X$$, $$F$$ — отображение этой окрестности в $$Y$$, $$y_0 = F(x_0)$$, $$V(y_0)$$ — окрестность точки $$y_0 \in Y$$ и $$G$$ — отображение этой окрестности в $$Z$$. Тогда, если отображение $$F$$ дифференцируемо в точке $$x_0$$, а $$G$$ дифференцируемо в точке $$y_0$$, то отображение $$H = G\circ F$$, определенное в некоторой окрестности точки $$x_0$$ также является дифференцируемым в точке $$x_0$$, причём
\begin{equation}\label{chain_rule}
H'(x_0) = G'(y_0)\cdot F'(x_0).
\end{equation}

'''Доказательство.'''
Рассмотрим $$\varepsilon_1,\varepsilon_2 > 0$$. По определению дифференцируемости имеем
\begin{align*}
\exists\delta_1(\varepsilon_1) > 0: ~\forall \xi:||\xi||<\delta_1 &~\Longrightarrow~ ||F(x_0+\xi) - F(x_0) - F'(x_0)\xi|| < \varepsilon_1, \\
\exists\delta_2(\varepsilon_2) > 0: ~\forall \eta:||\eta||<\delta_2 &~\Longrightarrow~ ||G(y_0+\eta) - G(y) - G'(y_0)\eta|| < \varepsilon_2.
\end{align*}
Выберем $$\delta = \min(\delta_1, \delta_2),~\varepsilon=\max(\varepsilon_1,\varepsilon_2)$$. Зафиксируем $$\xi,\eta:~ ||\xi||<\delta, ||\eta||<\delta$$.

Отметим, что $$F'(x_0), G'(y_0)$$ — ограниченные линейные операторы. Тогда существует отображение $$G'(F(x_0))\cdot F'(x_0) =: M(x_0)$$, оно является ограниченным, причём
\begin{align*}
H(x_0+\xi) &= G(F(x_0+\xi)) = G(F(x_0) + F'(x_0)\xi + o(\xi)) = G(F(x_0)) + G'(F(x_0))(F'(x_0)\xi + o_1(\xi)) + o_2(F'(x_0)\xi + o_1(\xi)) = \\
&= H(x_0) + G'(F(x_0))F'(x_0)\xi + o_3(\xi).
\end{align*}$$\blacksquare$$

'''Замечание.'''
Если $$F, G, H$$ — числовые функции, то формула \eqref{chain_rule} превращается в известное из курса математического анализа правило дифференцирования сложной функции.

== Определение дифференцируемости по Гато ==

Пусть снова дано отображение $$F: X\mapsto Y$$.

'''Определение.'''
'''Дифференциалом Гато''' отображения $$F$$ в точке $$x$$ при приращении $$h$$ называется предел
\begin{equation*}
DF(x,h) = \dfrac{d}{dt}F(x+th)\bigg\vert_{t=0} = \lim_{t\to 0}\dfrac{F(x+th)-F(x)}{t},
\end{equation*}
где подразумевается сходимость по норме в пространстве $$Y$$:
\begin{equation*}
\forall \{ t_n \}_{n=1}^{\infty}: t_n\to0 \quad\Longrightarrow\quad \bigg|\bigg|\dfrac{F(x+t_nh)-F(x)}{t_n} - DF(x, h) \bigg|\bigg| \to 0.
\end{equation*}

'''Пример.'''
Пусть $$F:\mathbb{R}^n\mapsto\mathbb{R}^m$$ дифференцируемо по Гато в точке $$x_0$$ и имеет слабую производную $$F'_c(x_0): \mathbb{R}^n\mapsto\mathbb{R}^m$$.

Тогда слабая производная задаётся матрицей $$A=(a_{ij})_{i=\overline{1,n},j=\overline{1,m}}$$, где
\begin{equation*}
a_{ij} = \dfrac{\partial F_i}{\partial x_j}(x_0),
\end{equation*}
т.е. $$A$$ — [[Матрица Якоби. Лемма о выпрямлении векторного поля|матрица Якоби]].

'''Замечания.'''
'''1.''' Иногда в литературе называют производную Фреше '''сильной производной''', а производную Гато — '''слабой производной'''. Аналогично поступают с дифференциалами. Далее будет показано, что из дифференцируемость по Фреше следует дифференцируемость по Гато, но не наоборот, что объясняет названия.

'''2.''' Дифференциал Гато $$DF(x,h)$$ может и не быть линеен по $$h$$. Если же такая линейность имеет место, то
\begin{equation*}
DF(x,h) = F'_c(x)h,
\end{equation*}
где $$F'_c(x)h$$ — ограниченный линейный оператор, его обычно называют '''производной Гато'''.

'''3.''' Теорема о дифференцировании сложной функции, вообще говоря, неверна для производной Гато.

'''Пример.'''
Рассмотрим функции
\begin{equation*}
f(x_1, x_2) = \begin{cases}\begin{array}{cc}
\dfrac{x_1^3}{x_2}, & x_2\neq0, \\
0, & x_2=0.
\end{array}\end{cases},\qquad
g(t) = (t, t^2) \in \mathbb{R}^2
\end{equation*}
и их композицию $$l(t) = f(g(t)) = f(t, t^2)$$. Дифференциалы Гато в точке $$x=(0,0)$$ при приращениях $$h=(h_1,h_2), h_2\neq 0, a\neq0$$ соответственно равны
\begin{align*}
Df(x, h) &= \lim_{t\to0}\dfrac{f(th_1, th_2) - f(0, 0)}{t} = \lim_{t\to0} \dfrac{th_1^3}{h_2} = 0. \\
Dg(0, a) &= \lim_{t\to0}\dfrac{||(ta,t^2a^2)||}{t} = \lim_{t\to0}\dfrac{\sqrt{t^2a^2+t^4a^4}}{t} = |a|. \\
Dl(x, a) &= \lim_{t\to0}\dfrac{l(ta, ta) - l(0, 0)}{t} = \lim_{t\to0} \dfrac{\frac{t^3a^3}{t^2a^2}}{t} = a.
\end{align*}
Следовательно, $$Dl(t, a) \neq Dg(f(x), a) \cdot Df(x, h)$$ при $$t\in\mathbb{R}, h\neq 0, a\neq 0$$.

'''4.''' Существуют функции, дифференцируемые по Гато, но не дифференцируемые по Фреше.

'''Пример.'''
Рассмотрим множество $$\mathcal{M}=\{(x_1,x_2)\in\mathbb{R}^2~|~ x_1>0,x_2=x_1^2\}$$ и числовую функцию
\begin{equation}\label{ex_nodiff}
f(x) = \begin{cases}\begin{array}{cc}
1, & x\in\mathcal{M}, \\
0, & x\not\in\mathcal{M}.
\end{array}\end{cases}
\end{equation}
Вычислим дифференциал Гато $$f(x)$$ в точке $$x_0=(0,0)$$.
Отметим, что $$\forall t\neq0, h=(h_1,h_2)\in\mathcal{M}:~h_2=h_1^2$$ следует, что $$th\not\in\mathcal{M}$$. Тогда
\begin{equation*}
Df(x_0,h) = \lim_{t\to0}\dfrac{f(x_0+th)-f(x_0)}{t} = \lim_{t\to0}\dfrac{0}{t} = 0,\quad \forall h\in\mathbb{R}^2.
\end{equation*}

Однако, определение \eqref{main_def} не выполняется. Действительно, можем выбрать приращение $$h\in\mathcal{M}$$ и при этом
\begin{equation*}
f(x_0+h)-f(x_0) = f(h) = \begin{cases}
1, & h_2=h_1^2,~ h_1>0,\\
0, & иначе.
\end{cases}
\end{equation*}
Следовательно, функция \eqref{ex_nodiff} не дифференцируема по Фреше, но дифференцируема по Гато.

== Формула конечных приращений ==

'''Теорема 2.''' Пусть $$U\subset X$$ — открытое множество, отрезок $$[x_0, x_1] \subset U$$, отображение $$F: U\mapsto Y$$ дифференцируемо по Гато и имеет слабую производную $$F'_c(x)$$ в каждой точке отрезка $$[x_0, x_1]$$. Тогда
\begin{equation*}
||F(x_1) - F(x_0)|| \leqslant \sup_{0\leqslant\theta\leqslant1}||F'_c(x_0+\theta(x_1-x_0))||\cdot||x_1-x_0||.
\end{equation*}

'''Доказательство.''' Положим $$\Delta x = x_1-x_0$$. Рассмотрим произвольный линейный ограниченный ненулевой функционал $$\phi\in Y^*$$ и числовую функцию
\begin{equation*}
f(t) = \phi(F(x_0+t\Delta x)),\quad t\in[0,1].
\end{equation*}
Эта функция дифференцируема по $$t$$, ведь в выражении
\begin{equation*}
\dfrac{f(t+\Delta t) - f(t)}{\Delta t} = \phi\left( \dfrac{F(x_0+t\Delta x + \Delta t\Delta x) - F(x_0 + t\Delta x)}{\Delta t} \right)
\end{equation*}
можно перейти к пределу под знаком непрерывного линейного функционала $$\phi$$. В итоге получим
\begin{equation*}
f'(t) = \phi\left(F'_c(x_0+t\Delta x)\Delta x\right).
\end{equation*}
Далее, для функции $$f(t)$$ применим формулу конечных приращений Лагранжа: $$f(1)=f(0)+f'(\theta),~\theta\in[0,1]$$. Следовательно, для произвольного $$\phi\in Y^*$$ получим
\begin{equation*}
\phi(F(x)-F(x_0)) = \phi(F'_c(x_0+\theta\Delta x)\Delta x).
\end{equation*}
Применим формулу конечных приращений
\begin{equation*}
|\phi(F(x)-F(x_0))| \leqslant ||\phi||\cdot \sup_{\theta\in[0,1]} ||F'_c(x_0+\theta\Delta x)||\cdot||\Delta x||.
\end{equation*}
'''Напоминание.''' ([[Теорема Хана-Банаха и её следствия|следствие из теоремы Хана Банаха]]). Пусть $$X$$ — нормированное пространство, $$x\in X$$. Тогда существует вектор $$x^*\in X^*$$ такой, что $$||x^*||=1, x^*(x)=||x||$$.
Выберем теперь ненулевой функционал $$\phi$$ так, что (такой функционал $$\phi$$ существует в силу следствия их теоремы Хана Банаха)
\begin{equation*}
\phi(F(x)-F(x_0)) = ||\phi||\cdot||F(x)-F(x_0)||.
\end{equation*}
Следовательно,
\begin{equation*}
||F(x_1) - F(x_0)|| \leqslant \sup_{0\leqslant\theta\leqslant1}||F'_c(x_0+\theta(x_1-x_0))||\cdot||x_1-x_0||,
\end{equation*}
что и требовалось доказать. $$\blacksquare$$

'''Замечание.''' Если $$F: X\mapsto\mathbb R$$, то существует $$x\in[x_0,x_1]:~F(x_1)-F(x_0)=F'(x)(x_1-x_0)$$.

== Связь производных Гато и Фреше ==

'''Теорема 3.''' Если отображение $$F$$ имеет сильную производную (Фреше), то оно имеет и слабую производную (Гато), причем сильная и слабая производные совпадают.

'''Доказательство.''' Действительно, выберем приращение $$\tilde h = th$$:
\begin{align*}
& F(x+th) - f(x) = F'(x)(th) + o(th) = tF'(x)h + o(th). \Longrightarrow \\
\Longrightarrow & \dfrac{F(x+th) - F(x)}{t} = F'(x)h + \dfrac{o(th)}{t} \to F'(x)h,~ t\to0.
\end{align*}$$\blacksquare$$

'''Пример'''. Из слабой дифференцируемости отображения $$F$$ не следует его сильная дифференцируемость. Рассмотрим $$F: \mathbb{R}^2\mapsto\mathbb{R}$$:
\begin{equation*}
f(x_1, x_2) = \begin{cases}\begin{array}{cc}
\dfrac{x_1^3x_2}{x_1^4+x_2^2}, & (x_1,x_2)\neq(0,0), \\
0, & (x_1,x_2)=(0,0).
\end{array}\end{cases}
\end{equation*}
Эта функция непрерывна в $$\mathbb{R}^2\setminus\{(0,0)\}$$.

В точке $$(0,0)$$ её производная Гато существует и равен $$0$$, поскольку
\begin{equation*}
\lim_{t\to0} \dfrac{f(0+th)-f(0)}{t} = \lim_{t\to0}\dfrac{t^4h_1^3h_2}{t^5h_1^4+t^3h_2^2} = 0.
\end{equation*}
Однако этот дифференциал не является главной линейной частью приращения функции в $$(0,0)$$.

При $$h_2=h_1^2$$ имеем
\begin{equation*}
\lim_{||h||\to0} \dfrac{f(h_1,h_2)-f(0,0)}{||h||} = \lim_{h_1\to0}\dfrac{h_1^5}{2h_1^4\sqrt{h_1^2+h_1^4}} = \dfrac{1}{2} \neq 0.
\end{equation*}

Для функций с линейной непрерывной по $$x$$ производной Гато $$F'_c(x)$$ слабая и сильная производные совпадают. Об этом утверждает следующая теорема.

'''Теорема 4.''' Если слабая производная $$F'_c(x)$$ отображения $$F$$ существует в некоторой окрестности $$U(x_0)$$, является непрерывной по $$x$$ в точке $$x_0$$, то сильная производная $$F'(x_0)$$ существует и совпадает со слабой.

'''Доказательство.''' Выберем $$\varepsilon>0$$ и $$\delta>0$$ так, чтобы при $$||h||<\delta$$ выполнялось неравенство:
\begin{equation*}
||F'_c(x_0+h) - F'_c(x_0)|| \leqslant \varepsilon.
\end{equation*}
Применим формулу конечных приращений и получим
\begin{equation*}
||F(x_0+h) - F(x_0) - F'_c(x_0)h|| \leqslant \sup_{\theta\in[0,1]}||F'_c(x_0+\theta h)-F'_c(x_0)||\cdot||h|| \leqslant \varepsilon||h||.
\end{equation*}
Следовательно, сильная производная существует по определению и совпадает со слабой. $$\blacksquare$$

== Примеры вычисления дифференциалов ==

'''1.''' Рассмотрим функцию $$F:~\mathbb{R}^3\mapsto\mathbb{R}^2$$ такую, что
\begin{equation*}
F(x_1,x_2,x_3) = \begin{pmatrix}
x_1x_2 + e^{x_3} \\
x_1^2 + 3x_2 - \sin(x_3)
\end{pmatrix}
\end{equation*}
Матрица Якоби в точке $$x_0$$ равна
\begin{equation*}
F'(x_0) = \begin{pmatrix}
x_2 & x_1 & x_3e^{x_3} \\
2x_1 & 3 & -\cos(x_3)
\end{pmatrix}
\end{equation*}
Выберем точку $$x_0 = (1, 2, 0)^T$$. Тогда при приращении $h$ выполняется
\begin{gather*}
F(x_0+h)-F(x_0) = \begin{pmatrix}
2 & 1 & 0 \\
2 & 3 & -1
\end{pmatrix} \cdot \begin{pmatrix}
h_1 \\
h_2 \\
h_3
\end{pmatrix} + o(h)
\end{gather*}
Следовательно, производная Фреше функции $$F$$ в точке $$x_0$$ равна $$F'(x_0)$$.

'''2.''' $$J(u)=\langle Au,u \rangle_H$$, где $$A: H\mapsto H$$ — произвольный оператор, $$A^*$$ — [[Сопряжённый линейный оператор|сопряженный оператор]] к оператору $$A$$: $$\langle Au,v \rangle_H = \langle u,A^*v \rangle_H,~ \forall u,v\in H$$.
\begin{gather*}
J(u+h)-J(u) = \langle A(u+h),u+h \rangle_H - \langle Au,u \rangle_H = \langle (A+A^*)u,h \rangle_H + \underbrace{\langle Ah,h \rangle_H}_{\to0}. \\
\Longrightarrow J'(u) = (A+A^*)u.
\end{gather*}

'''3.''' $$J(u)=||Au-f||^2 = \langle Au-f,Au-f \rangle_H$$, где $$f\in H$$ и $$A: H\mapsto H$$ — произвольный оператор.
\begin{align*}
\langle Au-f,Au-f \rangle_H &= \langle Au - f,Au \rangle_H - \langle Au - f,f \rangle_H = \\
&= \langle Au,Au \rangle_H - \langle f,Au \rangle_H - \langle Au, f \rangle_H + \langle f,f \rangle_H = \\
&= \langle Au,Au \rangle_H - 2\langle f,Au \rangle_H + \langle f,f \rangle_H.
\end{align*}

\begin{align*}
\langle A(u+h)-f,A(u+h)-f \rangle_H &= \langle A(u+h),A(u+h) \rangle_H - 2\langle f,A(u+h) \rangle_H + \langle f,f \rangle_H.
\end{align*}

\begin{align*}
J(u+h)-J(u) &= \langle A(u+h)-f,A(u+h)-f \rangle_H - \langle Au-f,Au-f \rangle_H = \\
&= \left(\langle A(u+h),A(u+h) \rangle_H - \langle Au,Au \rangle_H\right) - 2(\langle f,A(u+h) \rangle_H - \langle f,Au \rangle_H) = \\
&= \langle (A^*A + AA^*)u,h \rangle_H - 2\langle f,Ah \rangle_H + o(h) = \\
&= \langle (A^*A + AA^*)u-2A^*f,h \rangle_H + o(h). \\
&\Longrightarrow J'(u) = (A^*A + AA^*)u-2A^*f.
\end{align*}

'''4.''' Рассмотрим $$H$$ — [[Гильбертово пространство|гильбертово пространство]], наделённое скалярным произведением $$\langle \cdot,\cdot \rangle_H$$, и $$J(u):H\mapsto\mathbb{R}$$.

По [[Гильбертово пространство|теореме Рисса]] $$\exists \nabla J\in H:~ J'(u)=\langle \nabla J, u \rangle_H$$;

$$J(u)=\langle c,u \rangle_H$$.
\begin{gather*}
J(u+h)-J(u) = \langle c,u+h \rangle_H - \langle c,u \rangle_H = \langle c,h \rangle_H = J'(u)h. \\
\Longrightarrow J'(u) = c.
\end{gather*}

'''5.''' $$J(u)=||u||^2_H = \langle u,u \rangle_H$$.
\begin{gather*}
J(u+h)-J(u) = \langle u+h,u+h \rangle_H - \langle u,u \rangle_H = 2\langle u,h \rangle_H. \\
\Longrightarrow J'(u) = 2u.
\end{gather*}

'''6.''' $$K(u)=||u||^p_H,~ p>0$$.

Пусть $$u\neq 0$$. Продифференцируем сложную функцию $$K(u)=G(J(u))$$, где
\begin{align*}
G(t) &= t^{p/2}, \\
J(u) &= ||u||^2_H = \langle u,u \rangle_H.
\end{align*}
Тогда
\begin{gather*}
K'(u) = G'(J(u))\cdot J'(u) = \dfrac{p}{2}(||u||^2)^{p/2 - 1}\cdot 2u = pu||u||_H^{p-2}
\end{gather*}
Отметим, что формула $$K'(u) = pu||u||_H^{p-2}$$ при $$u\neq0$$ верна $$\forall p>0$$.

Исследуем дифференцируемость по Фреше функции $$K(u)$$ в точке $$u=0$$.
\begin{equation*}
||u+h||^p = (||u||^2 + 2\langle u,h \rangle + ||h||^2)^{p/2}.
\end{equation*}

Воспользуемся формулой Тейлора для числовой функции
\begin{equation*}
(a+t)^{p/2} = a^{p/2} + \dfrac{p}{2}a^{p/2 - 1}t + o(t),\quad t\to0
\end{equation*}
при $$|t| < |a|$$. Подставим
\begin{align*}
a &= ||u||^2 > 0, \\
t &= 2\langle u,h \rangle + ||h||^2.
\end{align*}
следовательно,
\begin{equation*}
\begin{aligned}
||u+h||^{p} &= ||u||^p + \dfrac{p}{2}||u||^{p-2}\left( 2\langle u,h \rangle + ||h||^2 \right) + o(h) = \\
&= ||u||^p + \langle pu||u||^{p-2}, h \rangle + o(h).
\end{aligned}
\end{equation*}

* Рассмотрим $$p>1$$. Пусть $$K'(0)\neq0$$ тогда линейный член $$\langle K'(0), h \rangle = O(||h||)$$, но $$||h||^p=o(||h||)$$ при $$p>1$$, получаем противоречие. Следовательно, $$K'(0)=0$$.

* Рассмотрим $$p=1$$ (случай нормы $$||u||$$).
При $$u=0, p=1$$ не существует слабой производной Гато: выберем $$t_n=(-1)^n/n$$. Тогда
\begin{equation*}
\dfrac{K(t_nh) - K(0)}{t_n} = \dfrac{|t_n|\cdot||h||}{t_n} = \begin{cases}\begin{array}{cc}
||h||, & n=2k, \\
-||h||, & n=2k+1.
\end{array}\end{cases} \not\to 0,\quad t\to0.
\end{equation*}
Следовательно, норма $$||u||$$ не дифференцируема по Фреше (по Гато) в точке $$u=0$$.

* Рассмотрим $$0<p<1$$. Пусть $$\exists K'(0)$$. Тогда по определению дифференцируемости по Фреше получим
\begin{equation*}
\dfrac{K(h) - K(0) - \langle K'(0), h\rangle}{||h||} = \dfrac{1}{||h||^{1-p}} - \dfrac{\langle K'(0), h\rangle}{||h||}.
\end{equation*}
Слагаемое $$\frac{1}{||h||^{1-p}}\to\infty$$, при $$||h||\to0, p\in(0,1)$$ и $$K(u)$$ не дифференцируемо в точке $$u=0$$.

'''Итоговый результат.'''
* $$p>1$$: $$K'(u) = pu||u||^{p-2}_H,~ u\neq0$$ и $$K'(0)=0$$.
* $$p=1$$: $$K'(u) = u/||u||_H,~ u\neq0$$, в нуле не дифференцируема.
* $$p\in(0,1)$$: $$K'(u)=pu||u||^{p-2}_H,~ u\neq0$$, в нуле не дифференцируема.

== Список литературы ==

'''1.''' ''Колмогоров A.Н., Фомин С.В.'' Элементы теории функций и функционального анализа. 7-е изд. М.: ФИЗМАТЛИТ, 2004.

'''2.''' ''Треногин В.А.'' Функциональный анализ: учебник. 3-е изд. М.: ФИЗМАТЛИТ, 2002.

'''3.''' Артемьева Л.А. Лекции по курсу "Методы оптимизации", 2024.

'''4.''' Востриков И.В. Семинары по курсу "Методы оптимизации", 2024.

Производные и дифференциалы Фреше

2025-12-19T20:10:13Z

Arthur24: Добавлен пример. /* Примеры вычисления дифференциалов */

__TOC__

== Определение дифференцируемости по Фреше ==

Рассмотрим $$X, Y$$ — [[Банахово пространство|нормированные пространства]] с нормами $$||\cdot||_1, ||\cdot||_2$$ соответственно и $$F: X \mapsto Y$$ — определенное на некотором открытом подмножестве $$O\subset X$$ отображение (например, $$O$$ — открытый шар заданного радиуса).

Обозначим $$\mathcal{L}(X,Y)$$ — множество [[Линейный оператор в банаховых пространствах|линейных ограниченных операторов]] $$L: X \mapsto Y$$.

'''Определение.'''
Отображение $$F: X \mapsto Y$$ называется '''дифференцируемым по Фреше''' в точке $$x\in O$$, если существует линейный ограниченный оператор $$L_x \in \mathcal{L}(X,Y)$$
\begin{equation}\label{main_def}
\forall\varepsilon > 0~\exists\delta=\delta(\varepsilon):~ \forall h\in X:~ ||h||_1<\delta \quad\Longrightarrow\quad ||F(x+h)-F(x)-L_{x}h||_2 \leqslant \varepsilon||h||_1
\end{equation}
или, что то же самое, но сокращённо,
\begin{equation*}
F(x+h) - F(x) - L_xh = o(h),
\end{equation*}
где $$o(h)$$ — это такое отображение, действующее из $$X$$ в $$Y$$, что
\begin{equation*}
\lim_{||h||_1\to 0}\dfrac{||o(h)||_2}{||h||_1} = 0.
\end{equation*}
При этом линейный оператор $$L_x(\cdot)$$ называется '''производной Фреше''' отображения $$F$$ в точке $$x$$, а выражение $$L_xh:=L_x(h)$$ — '''дифференциалом Фреше'''.

Производная Фреше составляет главную линейную часть приращения отображения $$F$$.

Всюду далее будем опускать индексы среди $$||\cdot||_1, ||\cdot||_2$$, подразумевая подходящую аргументу норму.

== Свойства дифференцируемости по Фреше ==

Далее обозначим производную Фреше в точке $$x$$ отображения $$F$$ как $$F'(x)$$. Под этим символом понимаем линейный оператор $$L_x(\cdot)$$.

'''1.''' Если отображение $$F$$ дифференцируемо по Фреше в точке $$x$$, то $$F$$ является [[Линейный оператор в банаховых пространствах|непрерывным]] в точке $$x$$.

'''Доказательство.'''
Следует из \eqref{main_def} и ограниченности производной Фреше.$$\blacksquare$$

'''2.''' Если отображение $$F$$ дифференцируемо по Фреше в точке $$x$$, то производная Фреше определяется единственным образом.

'''Доказательство.'''
Допустим, что $$\exists L_1, L_2 \in \mathcal{L}(X,Y)$$, которые удовлетворяют определению \eqref{main_def}. Тогда выполняется равенство $$||L_1h - L_2h|| = o(h)$$, что возможно только при $$L_1=L_2$$.$$\blacksquare$$

'''3.''' Если $$F(x)=\operatorname{const}$$, то $$F'(x)\equiv 0$$. Т.е. $$F'(x)$$ — нулевой оператор.

'''Доказательство.'''
По определению получим, что $$L_xh = o(h)$$. Это возможно только если линейный оператор $$L_x$$ является нулевым.$$\blacksquare$$

'''4.''' Производная Фреше линейного ограниченного (следовательно, непрерывного) отображения $$L$$ совпадает с самим отображением: $$L'(x) = L, \forall x.$$

'''Доказательство.'''
По определению линейности $$L$$ имеем, что $$L(x+h) - L(x) = L(h)$$, откуда следует требуемое.$$\blacksquare$$

'''5.''' Пусть $$F$$ и $$G$$ — непрерывные отображения, действующие из $$X$$ в $$Y$$. Если $$F$$ и $$G$$ дифференцируемы по Фреше в точке $$x_0$$, то и отображения $$F+G,~\alpha F$$ ($$\alpha$$ — число, т.е. элемент поля, над которым определено пространство $$Y$$) тоже дифференцируемы в этой точке, причем их производные Фреше вычисляются по формуле:
\begin{align*}
(F + G)'(x_0) &= F'(x_0) + G'(x_0), \\
(\alpha F)'(x_0) &= \alpha F'(x_0)
\end{align*}

'''Доказательство.'''
Из определения суммы операторов и произведения операторов на число сразу получаем, что
\begin{align*}
(F+G)(x_0+h) &= F(x_0+h) + G(x_0+h) = F(x_0) + G(x_0) + F'(x_0)h + G'(x_0)h + o_1(h), \\
\alpha F(x_0+h) &= \alpha F(x_0) + \alpha F'(x_0)h + o_2(h),
\end{align*}
откуда следует требуемое.$$\blacksquare$$

'''6. (правило Лейбница).''' Пусть $$F: U\mapsto Y, G: U\mapsto\mathbb{R}$$ дифференцируемы по Фреше в точке $$x_0$$. Тогда отображение $$G(x)=g(x)F(x)$$ дифференцируемо по Фреше в точке $$x_0$$, причём
\begin{equation*}
G'(x_0)h = g'(x_0)h\cdot F(x_0) + g(x_0)\cdot F'(x_0)h.
\end{equation*}

'''Доказательство.'''
Пусть отображения дифференцируемы по Фреше. Тогда при $$||h||\to0$$ выполняется
\begin{align*}
G(x_0+h) = g(x_0+h)F(x_0+h) &= (g(x_0)+g'(x_0)h + o(h))\cdot(F(x_0)+F'(x_0)h + o(h)) = \\
&= g(x_0)F(x_0) + g'(x_0)h\cdot F(x_0) + g(x_0)\cdot F'(x_0)h + o(h).
\end{align*}$$\blacksquare$$

== Производная Фреше сложной функции ==

Под понятием дифференцируемости далее подразумеваем дифференцируемость в смысле Фреше, если не указано иначе.

'''Теорема 1.'''
Пусть $$X,Y,Z$$ — нормированные пространства, $$U(x_0)$$ — окрестность точки $$x_0\in X$$, $$F$$ — отображение этой окрестности в $$Y$$, $$y_0 = F(x_0)$$, $$V(y_0)$$ — окрестность точки $$y_0 \in Y$$ и $$G$$ — отображение этой окрестности в $$Z$$. Тогда, если отображение $$F$$ дифференцируемо в точке $$x_0$$, а $$G$$ дифференцируемо в точке $$y_0$$, то отображение $$H = G\circ F$$, определенное в некоторой окрестности точки $$x_0$$ также является дифференцируемым в точке $$x_0$$, причём
\begin{equation}\label{chain_rule}
H'(x_0) = G'(y_0)\cdot F'(x_0).
\end{equation}

'''Доказательство.'''
Рассмотрим $$\varepsilon_1,\varepsilon_2 > 0$$. По определению дифференцируемости имеем
\begin{align*}
\exists\delta_1(\varepsilon_1) > 0: ~\forall \xi:||\xi||<\delta_1 &~\Longrightarrow~ ||F(x_0+\xi) - F(x_0) - F'(x_0)\xi|| < \varepsilon_1, \\
\exists\delta_2(\varepsilon_2) > 0: ~\forall \eta:||\eta||<\delta_2 &~\Longrightarrow~ ||G(y_0+\eta) - G(y) - G'(y_0)\eta|| < \varepsilon_2.
\end{align*}
Выберем $$\delta = \min(\delta_1, \delta_2),~\varepsilon=\max(\varepsilon_1,\varepsilon_2)$$. Зафиксируем $$\xi,\eta:~ ||\xi||<\delta, ||\eta||<\delta$$.

Отметим, что $$F'(x_0), G'(y_0)$$ — ограниченные линейные операторы. Тогда существует отображение $$G'(F(x_0))\cdot F'(x_0) =: M(x_0)$$, оно является ограниченным, причём
\begin{align*}
H(x_0+\xi) &= G(F(x_0+\xi)) = G(F(x_0) + F'(x_0)\xi + o(\xi)) = G(F(x_0)) + G'(F(x_0))(F'(x_0)\xi + o_1(\xi)) + o_2(F'(x_0)\xi + o_1(\xi)) = \\
&= H(x_0) + G'(F(x_0))F'(x_0)\xi + o_3(\xi).
\end{align*}$$\blacksquare$$

'''Замечание.'''
Если $$F, G, H$$ — числовые функции, то формула \eqref{chain_rule} превращается в известное из курса математического анализа правило дифференцирования сложной функции.

== Определение дифференцируемости по Гато ==

Пусть снова дано отображение $$F: X\mapsto Y$$.

'''Определение.'''
'''Дифференциалом Гато''' отображения $$F$$ в точке $$x$$ при приращении $$h$$ называется предел
\begin{equation*}
DF(x,h) = \dfrac{d}{dt}F(x+th)\bigg\vert_{t=0} = \lim_{t\to 0}\dfrac{F(x+th)-F(x)}{t},
\end{equation*}
где подразумевается сходимость по норме в пространстве $$Y$$:
\begin{equation*}
\forall \{ t_n \}_{n=1}^{\infty}: t_n\to0 \quad\Longrightarrow\quad \bigg|\bigg|\dfrac{F(x+t_nh)-F(x)}{t_n} - DF(x, h) \bigg|\bigg| \to 0.
\end{equation*}

'''Пример.'''
Пусть $$F:\mathbb{R}^n\mapsto\mathbb{R}^m$$ дифференцируемо по Гато в точке $$x_0$$ и имеет слабую производную $$F'_c(x_0): \mathbb{R}^n\mapsto\mathbb{R}^m$$.

Тогда слабая производная задаётся матрицей $$A=(a_{ij})_{i=\overline{1,n},j=\overline{1,m}}$$, где
\begin{equation*}
a_{ij} = \dfrac{\partial F_i}{\partial x_j}(x_0),
\end{equation*}
т.е. $$A$$ — [[Матрица Якоби. Лемма о выпрямлении векторного поля|матрица Якоби]].

'''Замечания.'''
'''1.''' Иногда в литературе называют производную Фреше '''сильной производной''', а производную Гато — '''слабой производной'''. Аналогично поступают с дифференциалами. Далее будет показано, что из дифференцируемость по Фреше следует дифференцируемость по Гато, но не наоборот, что объясняет названия.

'''2.''' Дифференциал Гато $$DF(x,h)$$ может и не быть линеен по $$h$$. Если же такая линейность имеет место, то
\begin{equation*}
DF(x,h) = F'_c(x)h,
\end{equation*}
где $$F'_c(x)h$$ — ограниченный линейный оператор, его обычно называют '''производной Гато'''.

'''3.''' Теорема о дифференцировании сложной функции, вообще говоря, неверна для производной Гато.

'''Пример.'''
Рассмотрим функции
\begin{equation*}
f(x_1, x_2) = \begin{cases}\begin{array}{cc}
\dfrac{x_1^3}{x_2}, & x_2\neq0, \\
0, & x_2=0.
\end{array}\end{cases},\qquad
g(t) = (t, t^2) \in \mathbb{R}^2
\end{equation*}
и их композицию $$l(t) = f(g(t)) = f(t, t^2)$$. Дифференциалы Гато в точке $$x=(0,0)$$ при приращениях $$h=(h_1,h_2), h_2\neq 0, a\neq0$$ соответственно равны
\begin{align*}
Df(x, h) &= \lim_{t\to0}\dfrac{f(th_1, th_2) - f(0, 0)}{t} = \lim_{t\to0} \dfrac{th_1^3}{h_2} = 0. \\
Dg(0, a) &= \lim_{t\to0}\dfrac{||(ta,t^2a^2)||}{t} = \lim_{t\to0}\dfrac{\sqrt{t^2a^2+t^4a^4}}{t} = |a|. \\
Dl(x, a) &= \lim_{t\to0}\dfrac{l(ta, ta) - l(0, 0)}{t} = \lim_{t\to0} \dfrac{\frac{t^3a^3}{t^2a^2}}{t} = a.
\end{align*}
Следовательно, $$Dl(t, a) \neq Dg(f(x), a) \cdot Df(x, h)$$ при $$t\in\mathbb{R}, h\neq 0, a\neq 0$$.

'''4.''' Существуют функции, дифференцируемые по Гато, но не дифференцируемые по Фреше.

'''Пример.'''
Рассмотрим множество $$\mathcal{M}=\{(x_1,x_2)\in\mathbb{R}^2~|~ x_1>0,x_2=x_1^2\}$$ и числовую функцию
\begin{equation}\label{ex_nodiff}
f(x) = \begin{cases}\begin{array}{cc}
1, & x\in\mathcal{M}, \\
0, & x\not\in\mathcal{M}.
\end{array}\end{cases}
\end{equation}
Вычислим дифференциал Гато $$f(x)$$ в точке $$x_0=(0,0)$$.
Отметим, что $$\forall t\neq0, h=(h_1,h_2)\in\mathcal{M}:~h_2=h_1^2$$ следует, что $$th\not\in\mathcal{M}$$. Тогда
\begin{equation*}
Df(x_0,h) = \lim_{t\to0}\dfrac{f(x_0+th)-f(x_0)}{t} = \lim_{t\to0}\dfrac{0}{t} = 0,\quad \forall h\in\mathbb{R}^2.
\end{equation*}

Однако, определение \eqref{main_def} не выполняется. Действительно, можем выбрать приращение $$h\in\mathcal{M}$$ и при этом
\begin{equation*}
f(x_0+h)-f(x_0) = f(h) = \begin{cases}
1, & h_2=h_1^2,~ h_1>0,\\
0, & иначе.
\end{cases}
\end{equation*}
Следовательно, функция \eqref{ex_nodiff} не дифференцируема по Фреше, но дифференцируема по Гато.

== Формула конечных приращений ==

'''Теорема 2.''' Пусть $$U\subset X$$ — открытое множество, отрезок $$[x_0, x_1] \subset U$$, отображение $$F: U\mapsto Y$$ дифференцируемо по Гато и имеет слабую производную $$F'_c(x)$$ в каждой точке отрезка $$[x_0, x_1]$$. Тогда
\begin{equation*}
||F(x_1) - F(x_0)|| \leqslant \sup_{0\leqslant\theta\leqslant1}||F'_c(x_0+\theta(x_1-x_0))||\cdot||x_1-x_0||.
\end{equation*}

'''Доказательство.''' Положим $$\Delta x = x_1-x_0$$. Рассмотрим произвольный линейный ограниченный ненулевой функционал $$\phi\in Y^*$$ и числовую функцию
\begin{equation*}
f(t) = \phi(F(x_0+t\Delta x)),\quad t\in[0,1].
\end{equation*}
Эта функция дифференцируема по $$t$$, ведь в выражении
\begin{equation*}
\dfrac{f(t+\Delta t) - f(t)}{\Delta t} = \phi\left( \dfrac{F(x_0+t\Delta x + \Delta t\Delta x) - F(x_0 + t\Delta x)}{\Delta t} \right)
\end{equation*}
можно перейти к пределу под знаком непрерывного линейного функционала $$\phi$$. В итоге получим
\begin{equation*}
f'(t) = \phi\left(F'_c(x_0+t\Delta x)\Delta x\right).
\end{equation*}
Далее, для функции $$f(t)$$ применим формулу конечных приращений Лагранжа: $$f(1)=f(0)+f'(\theta),~\theta\in[0,1]$$. Следовательно, для произвольного $$\phi\in Y^*$$ получим
\begin{equation*}
\phi(F(x)-F(x_0)) = \phi(F'_c(x_0+\theta\Delta x)\Delta x).
\end{equation*}
Применим формулу конечных приращений
\begin{equation*}
|\phi(F(x)-F(x_0))| \leqslant ||\phi||\cdot \sup_{\theta\in[0,1]} ||F'_c(x_0+\theta\Delta x)||\cdot||\Delta x||.
\end{equation*}
'''Напоминание.''' ([[Теорема Хана-Банаха и её следствия|следствие из теоремы Хана Банаха]]). Пусть $$X$$ — нормированное пространство, $$x\in X$$. Тогда существует вектор $$x^*\in X^*$$ такой, что $$||x^*||=1, x^*(x)=||x||$$.
Выберем теперь ненулевой функционал $$\phi$$ так, что (такой функционал $$\phi$$ существует в силу следствия их теоремы Хана Банаха)
\begin{equation*}
\phi(F(x)-F(x_0)) = ||\phi||\cdot||F(x)-F(x_0)||.
\end{equation*}
Следовательно,
\begin{equation*}
||F(x_1) - F(x_0)|| \leqslant \sup_{0\leqslant\theta\leqslant1}||F'_c(x_0+\theta(x_1-x_0))||\cdot||x_1-x_0||,
\end{equation*}
что и требовалось доказать. $$\blacksquare$$

'''Замечание.''' Если $$F: X\mapsto\mathbb R$$, то существует $$x\in[x_0,x_1]:~F(x_1)-F(x_0)=F'(x)(x_1-x_0)$$.

== Связь производных Гато и Фреше ==

'''Теорема 3.''' Если отображение $$F$$ имеет сильную производную (Фреше), то оно имеет и слабую производную (Гато), причем сильная и слабая производные совпадают.

'''Доказательство.''' Действительно, выберем приращение $$\tilde h = th$$:
\begin{align*}
& F(x+th) - f(x) = F'(x)(th) + o(th) = tF'(x)h + o(th). \Longrightarrow \\
\Longrightarrow & \dfrac{F(x+th) - F(x)}{t} = F'(x)h + \dfrac{o(th)}{t} \to F'(x)h,~ t\to0.
\end{align*}$$\blacksquare$$

'''Пример'''. Из слабой дифференцируемости отображения $$F$$ не следует его сильная дифференцируемость. Рассмотрим $$F: \mathbb{R}^2\mapsto\mathbb{R}$$:
\begin{equation*}
f(x_1, x_2) = \begin{cases}\begin{array}{cc}
\dfrac{x_1^3x_2}{x_1^4+x_2^2}, & (x_1,x_2)\neq(0,0), \\
0, & (x_1,x_2)=(0,0).
\end{array}\end{cases}
\end{equation*}
Эта функция непрерывна в $$\mathbb{R}^2\setminus\{(0,0)\}$$.

В точке $$(0,0)$$ её производная Гато существует и равен $$0$$, поскольку
\begin{equation*}
\lim_{t\to0} \dfrac{f(0+th)-f(0)}{t} = \lim_{t\to0}\dfrac{t^4h_1^3h_2}{t^5h_1^4+t^3h_2^2} = 0.
\end{equation*}
Однако этот дифференциал не является главной линейной частью приращения функции в $$(0,0)$$.

При $$h_2=h_1^2$$ имеем
\begin{equation*}
\lim_{||h||\to0} \dfrac{f(h_1,h_2)-f(0,0)}{||h||} = \lim_{h_1\to0}\dfrac{h_1^5}{2h_1^4\sqrt{h_1^2+h_1^4}} = \dfrac{1}{2} \neq 0.
\end{equation*}

Для функций с линейной непрерывной по $$x$$ производной Гато $$F'_c(x)$$ слабая и сильная производные совпадают. Об этом утверждает следующая теорема.

'''Теорема 4.''' Если слабая производная $$F'_c(x)$$ отображения $$F$$ существует в некоторой окрестности $$U(x_0)$$, является непрерывной по $$x$$ в точке $$x_0$$, то сильная производная $$F'(x_0)$$ существует и совпадает со слабой.

'''Доказательство.''' Выберем $$\varepsilon>0$$ и $$\delta>0$$ так, чтобы при $$||h||<\delta$$ выполнялось неравенство:
\begin{equation*}
||F'_c(x_0+h) - F'_c(x_0)|| \leqslant \varepsilon.
\end{equation*}
Применим формулу конечных приращений и получим
\begin{equation*}
||F(x_0+h) - F(x_0) - F'_c(x_0)h|| \leqslant \sup_{\theta\in[0,1]}||F'_c(x_0+\theta h)-F'_c(x_0)||\cdot||h|| \leqslant \varepsilon||h||.
\end{equation*}
Следовательно, сильная производная существует по определению и совпадает со слабой. $$\blacksquare$$

== Примеры вычисления дифференциалов ==

'''1.''' Рассмотрим функцию $$F:~\mathbb{R}^3\mapsto\mathbb{R}^2$$ такую, что
\begin{equation*}
F(x_1,x_2,x_3) = \begin{pmatrix}
x_1x_2 + e^{x_3} \\
x_1^2 + 3x_2 - \sin(x_3)
\end{pmatrix}
\end{equation*}
Матрица Якоби в точке $$x_0$$ равна
\begin{equation*}
F'(x_0) = \begin{pmatrix}
x_2 & x_1 & x_3e^{x_3} \\
2x_1 & 3 & -\cos(x_3)
\end{pmatrix}
\end{equation*}
Выберем точку $$x_0 = (1, 2, 0)^T$$. Тогда при приращении $h$ выполняется
\begin{gather*}
F(x_0+h)-F(x_0) = \begin{pmatrix}
2 & 1 & 0 \\
2 & 3 & -1
\end{pmatrix} \cdot \begin{pmatrix}
h_1 \\
h_2 \\
h_3
\end{pmatrix} + o(h)
\end{gather*}
Следовательно, производная Фреше функции $$F$$ в точке $$x_0$$ равна $$F'(x_0)$$.

'''2.''' $$J(u)=\langle Au,u \rangle_H$$, где $$A: H\mapsto H$$ — произвольный оператор, $$A^*$$ — [[Сопряжённый линейный оператор|сопряженный оператор]] к оператору $$A$$: $$\langle Au,v \rangle_H = \langle u,A^*v \rangle_H,~ \forall u,v\in H$$.
\begin{gather*}
J(u+h)-J(u) = \langle A(u+h),u+h \rangle_H - \langle Au,u \rangle_H = \langle (A+A^*)u,h \rangle_H + \underbrace{\langle Ah,h \rangle_H}_{\to0}. \\
\Longrightarrow J'(u) = (A+A^*)u.
\end{gather*}

'''3.''' $$J(u)=||Au-f||^2 = \langle Au-f,Au-f \rangle_H$$, где $$f\in H$$ и $$A: H\mapsto H$$ — произвольный оператор.
\begin{align*}
\langle Au-f,Au-f \rangle_H &= \langle Au - f,Au \rangle_H - \langle Au - f,f \rangle_H = \\
&= \langle Au,Au \rangle_H - \langle f,Au \rangle_H - \langle Au, f \rangle_H + \langle f,f \rangle_H = \\
&= \langle Au,Au \rangle_H - 2\langle f,Au \rangle_H + \langle f,f \rangle_H.
\end{align*}

\begin{align*}
\langle A(u+h)-f,A(u+h)-f \rangle_H &= \langle A(u+h),A(u+h) \rangle_H - 2\langle f,A(u+h) \rangle_H + \langle f,f \rangle_H.
\end{align*}

\begin{align*}
J(u+h)-J(u) &= \langle A(u+h)-f,A(u+h)-f \rangle_H - \langle Au-f,Au-f \rangle_H = \\
&= \left(\langle A(u+h),A(u+h) \rangle_H - \langle Au,Au \rangle_H\right) - 2(\langle f,A(u+h) \rangle_H - \langle f,Au \rangle_H) = \\
&= \langle (A^*A + AA^*)u,h \rangle_H - 2\langle f,Ah \rangle_H + o(h) = \\
&= \langle (A^*A + AA^*)u-2A^*f,h \rangle_H + o(h). \\
&\Longrightarrow J'(u) = (A^*A + AA^*)u-2A^*f.
\end{align*}

'''4.''' Рассмотрим $$H$$ — [[Гильбертово пространство|гильбертово пространство]], наделённое скалярным произведением $$\langle \cdot,\cdot \rangle_H$$, и $$J(u):H\mapsto\mathbb{R}$$.

По [[Гильбертово пространство|теореме Рисса]] $$\exists \nabla J\in H:~ J'(u)=\langle \nabla J, u \rangle_H$$;

$$J(u)=\langle c,u \rangle_H$$.
\begin{gather*}
J(u+h)-J(u) = \langle c,u+h \rangle_H - \langle c,u \rangle_H = \langle c,h \rangle_H = J'(u)h. \\
\Longrightarrow J'(u) = c.
\end{gather*}

'''5.''' $$J(u)=||u||^2_H = \langle u,u \rangle_H$$.
\begin{gather*}
J(u+h)-J(u) = \langle u+h,u+h \rangle_H - \langle u,u \rangle_H = 2\langle u,h \rangle_H. \\
\Longrightarrow J'(u) = 2u.
\end{gather*}

'''6.''' $$K(u)=||u||^p_H,~ p>0$$.

Пусть $$u\neq 0$$. Продифференцируем сложную функцию $$K(u)=G(J(u))$$, где
\begin{align*}
G(t) &= t^{p/2}, \\
J(u) &= ||u||^2_H = \langle u,u \rangle_H.
\end{align*}
Тогда
\begin{gather*}
K'(u) = G'(J(u))\cdot J'(u) = \dfrac{p}{2}(||u||^2)^{p/2 - 1}\cdot 2u = pu||u||_H^{p-2}
\end{gather*}
Отметим, что формула $$K'(u) = pu||u||_H^{p-2}$$ при $$u\neq0$$ верна $$\forall p>0$$.

Исследуем дифференцируемость по Фреше функции $$K(u)$$ в точке $$u=0$$.
\begin{equation*}
||u+h||^p = (||u||^2 + 2\langle u,h \rangle + ||h||^2)^{p/2}.
\end{equation*}

Воспользуемся формулой Тейлора для числовой функции
\begin{equation*}
(a+t)^{p/2} = a^{p/2} + \dfrac{p}{2}a^{p/2 - 1}t + o(t),\quad t\to0
\end{equation*}
при $$|t| < |a|$$. Подставим
\begin{align*}
a &= ||u||^2 > 0, \\
t &= 2\langle u,h \rangle + ||h||^2.
\end{align*}
следовательно,
\begin{equation*}
\begin{aligned}
||u+h||^{p} &= ||u||^p + \dfrac{p}{2}||u||^{p-2}\left( 2\langle u,h \rangle + ||h||^2 \right) + o(h) = \\
&= ||u||^p + \langle pu||u||^{p-2}, h \rangle + o(h).
\end{aligned}
\end{equation*}

* Рассмотрим $$p>1$$. Пусть $$K'(0)\neq0$$ тогда линейный член $$\langle K'(0), h \rangle = O(||h||)$$, но $$||h||^p=o(||h||)$$ при $$p>1$$, получаем противоречие. Следовательно, $$K'(0)=0$$.

* Рассмотрим $$p=1$$ (случай нормы $$||u||$$).
При $$u=0, p=1$$ не существует слабой производной Гато: выберем $$t_n=(-1)^n/n$$. Тогда
\begin{equation*}
\dfrac{K(t_nh) - K(0)}{t_n} = \dfrac{|t_n|\cdot||h||}{t_n} = \begin{cases}\begin{array}{cc}
||h||, & n=2k, \\
-||h||, & n=2k+1.
\end{array}\end{cases} \not\to 0,\quad t\to0.
\end{equation*}
Следовательно, норма $$||u||$$ не дифференцируема по Фреше (по Гато) в точке $$u=0$$.

* Рассмотрим $$0<p<1$$. Пусть $$\exists K'(0)$$. Тогда по определению дифференцируемости по Фреше получим
\begin{equation*}
\dfrac{K(h) - K(0) - \langle K'(0), h\rangle}{||h||} = \dfrac{1}{||h||^{1-p}} - \dfrac{\langle K'(0), h\rangle}{||h||}.
\end{equation*}
Слагаемое $$\frac{1}{||h||^{1-p}}\to\infty$$, при $$||h||\to0, p\in(0,1)$$ и $$K(u)$$ не дифференцируемо в точке $$u=0$$.

'''Итоговый результат.'''
* $$p>1$$: $$K'(u) = pu||u||^{p-2}_H,~ u\neq0$$ и $$K'(0)=0$$.
* $$p=1$$: $$K'(u) = u/||u||_H,~ u\neq0$$, в нуле не дифференцируема.
* $$p\in(0,1)$$: $$K'(u)=pu||u||^{p-2}_H,~ u\neq0$$, в нуле не дифференцируема.

== Список литературы ==

'''1.''' ''Колмогоров A.Н., Фомин С.В.'' Элементы теории функций и функционального анализа. 7-е изд. М.: ФИЗМАТЛИТ, 2004.

'''2.''' ''Треногин В.А.'' Функциональный анализ: учебник. 3-е изд. М.: ФИЗМАТЛИТ, 2002.

'''3.''' Лекции по курсу "Методы оптимизации", 2024.

Производные и дифференциалы Фреше

2025-12-19T13:05:30Z

Arthur24: Добавлен пример. /* Примеры вычисления дифференциалов */

__TOC__

== Определение дифференцируемости по Фреше ==

Рассмотрим $$X, Y$$ — [[Банахово пространство|нормированные пространства]] с нормами $$||\cdot||_1, ||\cdot||_2$$ соответственно и $$F: X \mapsto Y$$ — определенное на некотором открытом подмножестве $$O\subset X$$ отображение (например, $$O$$ — открытый шар заданного радиуса).

Обозначим $$\mathcal{L}(X,Y)$$ — множество [[Линейный оператор в банаховых пространствах|линейных ограниченных операторов]] $$L: X \mapsto Y$$.

'''Определение.'''
Отображение $$F: X \mapsto Y$$ называется '''дифференцируемым по Фреше''' в точке $$x\in O$$, если существует линейный ограниченный оператор $$L_x \in \mathcal{L}(X,Y)$$
\begin{equation}\label{main_def}
\forall\varepsilon > 0~\exists\delta=\delta(\varepsilon):~ \forall h\in X:~ ||h||_1<\delta \quad\Longrightarrow\quad ||F(x+h)-F(x)-L_{x}h||_2 \leqslant \varepsilon||h||_1
\end{equation}
или, что то же самое, но сокращённо,
\begin{equation*}
F(x+h) - F(x) - L_xh = o(h),
\end{equation*}
где $$o(h)$$ — это такое отображение, действующее из $$X$$ в $$Y$$, что
\begin{equation*}
\lim_{||h||_1\to 0}\dfrac{||o(h)||_2}{||h||_1} = 0.
\end{equation*}
При этом линейный оператор $$L_x(\cdot)$$ называется '''производной Фреше''' отображения $$F$$ в точке $$x$$, а выражение $$L_xh:=L_x(h)$$ — '''дифференциалом Фреше'''.

Производная Фреше составляет главную линейную часть приращения отображения $$F$$.

Всюду далее будем опускать индексы среди $$||\cdot||_1, ||\cdot||_2$$, подразумевая подходящую аргументу норму.

== Свойства дифференцируемости по Фреше ==

Далее обозначим производную Фреше в точке $$x$$ отображения $$F$$ как $$F'(x)$$. Под этим символом понимаем линейный оператор $$L_x(\cdot)$$.

'''1.''' Если отображение $$F$$ дифференцируемо по Фреше в точке $$x$$, то $$F$$ является [[Линейный оператор в банаховых пространствах|непрерывным]] в точке $$x$$.

'''Доказательство.'''
Следует из \eqref{main_def} и ограниченности производной Фреше.$$\blacksquare$$

'''2.''' Если отображение $$F$$ дифференцируемо по Фреше в точке $$x$$, то производная Фреше определяется единственным образом.

'''Доказательство.'''
Допустим, что $$\exists L_1, L_2 \in \mathcal{L}(X,Y)$$, которые удовлетворяют определению \eqref{main_def}. Тогда выполняется равенство $$||L_1h - L_2h|| = o(h)$$, что возможно только при $$L_1=L_2$$.$$\blacksquare$$

'''3.''' Если $$F(x)=\operatorname{const}$$, то $$F'(x)\equiv 0$$. Т.е. $$F'(x)$$ — нулевой оператор.

'''Доказательство.'''
По определению получим, что $$L_xh = o(h)$$. Это возможно только если линейный оператор $$L_x$$ является нулевым.$$\blacksquare$$

'''4.''' Производная Фреше линейного ограниченного (следовательно, непрерывного) отображения $$L$$ совпадает с самим отображением: $$L'(x) = L, \forall x.$$

'''Доказательство.'''
По определению линейности $$L$$ имеем, что $$L(x+h) - L(x) = L(h)$$, откуда следует требуемое.$$\blacksquare$$

'''5.''' Пусть $$F$$ и $$G$$ — непрерывные отображения, действующие из $$X$$ в $$Y$$. Если $$F$$ и $$G$$ дифференцируемы по Фреше в точке $$x_0$$, то и отображения $$F+G,~\alpha F$$ ($$\alpha$$ — число, т.е. элемент поля, над которым определено пространство $$Y$$) тоже дифференцируемы в этой точке, причем их производные Фреше вычисляются по формуле:
\begin{align*}
(F + G)'(x_0) &= F'(x_0) + G'(x_0), \\
(\alpha F)'(x_0) &= \alpha F'(x_0)
\end{align*}

'''Доказательство.'''
Из определения суммы операторов и произведения операторов на число сразу получаем, что
\begin{align*}
(F+G)(x_0+h) &= F(x_0+h) + G(x_0+h) = F(x_0) + G(x_0) + F'(x_0)h + G'(x_0)h + o_1(h), \\
\alpha F(x_0+h) &= \alpha F(x_0) + \alpha F'(x_0)h + o_2(h),
\end{align*}
откуда следует требуемое.$$\blacksquare$$

'''6. (правило Лейбница).''' Пусть $$F: U\mapsto Y, G: U\mapsto\mathbb{R}$$ дифференцируемы по Фреше в точке $$x_0$$. Тогда отображение $$G(x)=g(x)F(x)$$ дифференцируемо по Фреше в точке $$x_0$$, причём
\begin{equation*}
G'(x_0)h = g'(x_0)h\cdot F(x_0) + g(x_0)\cdot F'(x_0)h.
\end{equation*}

'''Доказательство.'''
Пусть отображения дифференцируемы по Фреше. Тогда при $$||h||\to0$$ выполняется
\begin{align*}
G(x_0+h) = g(x_0+h)F(x_0+h) &= (g(x_0)+g'(x_0)h + o(h))\cdot(F(x_0)+F'(x_0)h + o(h)) = \\
&= g(x_0)F(x_0) + g'(x_0)h\cdot F(x_0) + g(x_0)\cdot F'(x_0)h + o(h).
\end{align*}$$\blacksquare$$

== Производная Фреше сложной функции ==

Под понятием дифференцируемости далее подразумеваем дифференцируемость в смысле Фреше, если не указано иначе.

'''Теорема 1.'''
Пусть $$X,Y,Z$$ — нормированные пространства, $$U(x_0)$$ — окрестность точки $$x_0\in X$$, $$F$$ — отображение этой окрестности в $$Y$$, $$y_0 = F(x_0)$$, $$V(y_0)$$ — окрестность точки $$y_0 \in Y$$ и $$G$$ — отображение этой окрестности в $$Z$$. Тогда, если отображение $$F$$ дифференцируемо в точке $$x_0$$, а $$G$$ дифференцируемо в точке $$y_0$$, то отображение $$H = G\circ F$$, определенное в некоторой окрестности точки $$x_0$$ также является дифференцируемым в точке $$x_0$$, причём
\begin{equation}\label{chain_rule}
H'(x_0) = G'(y_0)\cdot F'(x_0).
\end{equation}

'''Доказательство.'''
Рассмотрим $$\varepsilon_1,\varepsilon_2 > 0$$. По определению дифференцируемости имеем
\begin{align*}
\exists\delta_1(\varepsilon_1) > 0: ~\forall \xi:||\xi||<\delta_1 &~\Longrightarrow~ ||F(x_0+\xi) - F(x_0) - F'(x_0)\xi|| < \varepsilon_1, \\
\exists\delta_2(\varepsilon_2) > 0: ~\forall \eta:||\eta||<\delta_2 &~\Longrightarrow~ ||G(y_0+\eta) - G(y) - G'(y_0)\eta|| < \varepsilon_2.
\end{align*}
Выберем $$\delta = \min(\delta_1, \delta_2),~\varepsilon=\max(\varepsilon_1,\varepsilon_2)$$. Зафиксируем $$\xi,\eta:~ ||\xi||<\delta, ||\eta||<\delta$$.

Отметим, что $$F'(x_0), G'(y_0)$$ — ограниченные линейные операторы. Тогда существует отображение $$G'(F(x_0))\cdot F'(x_0) =: M(x_0)$$, оно является ограниченным, причём
\begin{align*}
H(x_0+\xi) &= G(F(x_0+\xi)) = G(F(x_0) + F'(x_0)\xi + o(\xi)) = G(F(x_0)) + G'(F(x_0))(F'(x_0)\xi + o_1(\xi)) + o_2(F'(x_0)\xi + o_1(\xi)) = \\
&= H(x_0) + G'(F(x_0))F'(x_0)\xi + o_3(\xi).
\end{align*}$$\blacksquare$$

'''Замечание.'''
Если $$F, G, H$$ — числовые функции, то формула \eqref{chain_rule} превращается в известное из курса математического анализа правило дифференцирования сложной функции.

== Определение дифференцируемости по Гато ==

Пусть снова дано отображение $$F: X\mapsto Y$$.

'''Определение.'''
'''Дифференциалом Гато''' отображения $$F$$ в точке $$x$$ при приращении $$h$$ называется предел
\begin{equation*}
DF(x,h) = \dfrac{d}{dt}F(x+th)\bigg\vert_{t=0} = \lim_{t\to 0}\dfrac{F(x+th)-F(x)}{t},
\end{equation*}
где подразумевается сходимость по норме в пространстве $$Y$$:
\begin{equation*}
\forall \{ t_n \}_{n=1}^{\infty}: t_n\to0 \quad\Longrightarrow\quad \bigg|\bigg|\dfrac{F(x+t_nh)-F(x)}{t_n} - DF(x, h) \bigg|\bigg| \to 0.
\end{equation*}

'''Пример.'''
Пусть $$F:\mathbb{R}^n\mapsto\mathbb{R}^m$$ дифференцируемо по Гато в точке $$x_0$$ и имеет слабую производную $$F'_c(x_0): \mathbb{R}^n\mapsto\mathbb{R}^m$$.

Тогда слабая производная задаётся матрицей $$A=(a_{ij})_{i=\overline{1,n},j=\overline{1,m}}$$, где
\begin{equation*}
a_{ij} = \dfrac{\partial F_i}{\partial x_j}(x_0),
\end{equation*}
т.е. $$A$$ — [[Матрица Якоби. Лемма о выпрямлении векторного поля|матрица Якоби]].

'''Замечания.'''
'''1.''' Иногда в литературе называют производную Фреше '''сильной производной''', а производную Гато — '''слабой производной'''. Аналогично поступают с дифференциалами. Далее будет показано, что из дифференцируемость по Фреше следует дифференцируемость по Гато, но не наоборот, что объясняет названия.

'''2.''' Дифференциал Гато $$DF(x,h)$$ может и не быть линеен по $$h$$. Если же такая линейность имеет место, то
\begin{equation*}
DF(x,h) = F'_c(x)h,
\end{equation*}
где $$F'_c(x)h$$ — ограниченный линейный оператор, его обычно называют '''производной Гато'''.

'''3.''' Теорема о дифференцировании сложной функции, вообще говоря, неверна для производной Гато.

'''Пример.'''
Рассмотрим функции
\begin{equation*}
f(x_1, x_2) = \begin{cases}\begin{array}{cc}
\dfrac{x_1^3}{x_2}, & x_2\neq0, \\
0, & x_2=0.
\end{array}\end{cases},\qquad
g(t) = (t, t^2) \in \mathbb{R}^2
\end{equation*}
и их композицию $$l(t) = f(g(t)) = f(t, t^2)$$. Дифференциалы Гато в точке $$x=(0,0)$$ при приращениях $$h=(h_1,h_2), h_2\neq 0, a\neq0$$ соответственно равны
\begin{align*}
Df(x, h) &= \lim_{t\to0}\dfrac{f(th_1, th_2) - f(0, 0)}{t} = \lim_{t\to0} \dfrac{th_1^3}{h_2} = 0. \\
Dg(0, a) &= \lim_{t\to0}\dfrac{||(ta,t^2a^2)||}{t} = \lim_{t\to0}\dfrac{\sqrt{t^2a^2+t^4a^4}}{t} = |a|. \\
Dl(x, a) &= \lim_{t\to0}\dfrac{l(ta, ta) - l(0, 0)}{t} = \lim_{t\to0} \dfrac{\frac{t^3a^3}{t^2a^2}}{t} = a.
\end{align*}
Следовательно, $$Dl(t, a) \neq Dg(f(x), a) \cdot Df(x, h)$$ при $$t\in\mathbb{R}, h\neq 0, a\neq 0$$.

'''4.''' Существуют функции, дифференцируемые по Гато, но не дифференцируемые по Фреше.

'''Пример.'''
Рассмотрим множество $$\mathcal{M}=\{(x_1,x_2)\in\mathbb{R}^2~|~ x_1>0,x_2=x_1^2\}$$ и числовую функцию
\begin{equation}\label{ex_nodiff}
f(x) = \begin{cases}\begin{array}{cc}
1, & x\in\mathcal{M}, \\
0, & x\not\in\mathcal{M}.
\end{array}\end{cases}
\end{equation}
Вычислим дифференциал Гато $$f(x)$$ в точке $$x_0=(0,0)$$.
Отметим, что $$\forall t\neq0, h=(h_1,h_2)\in\mathcal{M}:~h_2=h_1^2$$ следует, что $$th\not\in\mathcal{M}$$. Тогда
\begin{equation*}
Df(x_0,h) = \lim_{t\to0}\dfrac{f(x_0+th)-f(x_0)}{t} = \lim_{t\to0}\dfrac{0}{t} = 0,\quad \forall h\in\mathbb{R}^2.
\end{equation*}

Однако, определение \eqref{main_def} не выполняется. Действительно, можем выбрать приращение $$h\in\mathcal{M}$$ и при этом
\begin{equation*}
f(x_0+h)-f(x_0) = f(h) = \begin{cases}
1, & h_2=h_1^2,~ h_1>0,\\
0, & иначе.
\end{cases}
\end{equation*}
Следовательно, функция \eqref{ex_nodiff} не дифференцируема по Фреше, но дифференцируема по Гато.

== Формула конечных приращений ==

'''Теорема 2.''' Пусть $$U\subset X$$ — открытое множество, отрезок $$[x_0, x_1] \subset U$$, отображение $$F: U\mapsto Y$$ дифференцируемо по Гато и имеет слабую производную $$F'_c(x)$$ в каждой точке отрезка $$[x_0, x_1]$$. Тогда
\begin{equation*}
||F(x_1) - F(x_0)|| \leqslant \sup_{0\leqslant\theta\leqslant1}||F'_c(x_0+\theta(x_1-x_0))||\cdot||x_1-x_0||.
\end{equation*}

'''Доказательство.''' Положим $$\Delta x = x_1-x_0$$. Рассмотрим произвольный линейный ограниченный ненулевой функционал $$\phi\in Y^*$$ и числовую функцию
\begin{equation*}
f(t) = \phi(F(x_0+t\Delta x)),\quad t\in[0,1].
\end{equation*}
Эта функция дифференцируема по $$t$$, ведь в выражении
\begin{equation*}
\dfrac{f(t+\Delta t) - f(t)}{\Delta t} = \phi\left( \dfrac{F(x_0+t\Delta x + \Delta t\Delta x) - F(x_0 + t\Delta x)}{\Delta t} \right)
\end{equation*}
можно перейти к пределу под знаком непрерывного линейного функционала $$\phi$$. В итоге получим
\begin{equation*}
f'(t) = \phi\left(F'_c(x_0+t\Delta x)\Delta x\right).
\end{equation*}
Далее, для функции $$f(t)$$ применим формулу конечных приращений Лагранжа: $$f(1)=f(0)+f'(\theta),~\theta\in[0,1]$$. Следовательно, для произвольного $$\phi\in Y^*$$ получим
\begin{equation*}
\phi(F(x)-F(x_0)) = \phi(F'_c(x_0+\theta\Delta x)\Delta x).
\end{equation*}
Применим формулу конечных приращений
\begin{equation*}
|\phi(F(x)-F(x_0))| \leqslant ||\phi||\cdot \sup_{\theta\in[0,1]} ||F'_c(x_0+\theta\Delta x)||\cdot||\Delta x||.
\end{equation*}
'''Напоминание.''' ([[Теорема Хана-Банаха и её следствия|следствие из теоремы Хана Банаха]]). Пусть $$X$$ — нормированное пространство, $$x\in X$$. Тогда существует вектор $$x^*\in X^*$$ такой, что $$||x^*||=1, x^*(x)=||x||$$.
Выберем теперь ненулевой функционал $$\phi$$ так, что (такой функционал $$\phi$$ существует в силу следствия их теоремы Хана Банаха)
\begin{equation*}
\phi(F(x)-F(x_0)) = ||\phi||\cdot||F(x)-F(x_0)||.
\end{equation*}
Следовательно,
\begin{equation*}
||F(x_1) - F(x_0)|| \leqslant \sup_{0\leqslant\theta\leqslant1}||F'_c(x_0+\theta(x_1-x_0))||\cdot||x_1-x_0||,
\end{equation*}
что и требовалось доказать. $$\blacksquare$$

'''Замечание.''' Если $$F: X\mapsto\mathbb R$$, то существует $$x\in[x_0,x_1]:~F(x_1)-F(x_0)=F'(x)(x_1-x_0)$$.

== Связь производных Гато и Фреше ==

'''Теорема 3.''' Если отображение $$F$$ имеет сильную производную (Фреше), то оно имеет и слабую производную (Гато), причем сильная и слабая производные совпадают.

'''Доказательство.''' Действительно, выберем приращение $$\tilde h = th$$:
\begin{align*}
& F(x+th) - f(x) = F'(x)(th) + o(th) = tF'(x)h + o(th). \Longrightarrow \\
\Longrightarrow & \dfrac{F(x+th) - F(x)}{t} = F'(x)h + \dfrac{o(th)}{t} \to F'(x)h,~ t\to0.
\end{align*}$$\blacksquare$$

'''Пример'''. Из слабой дифференцируемости отображения $$F$$ не следует его сильная дифференцируемость. Рассмотрим $$F: \mathbb{R}^2\mapsto\mathbb{R}$$:
\begin{equation*}
f(x_1, x_2) = \begin{cases}\begin{array}{cc}
\dfrac{x_1^3x_2}{x_1^4+x_2^2}, & (x_1,x_2)\neq(0,0), \\
0, & (x_1,x_2)=(0,0).
\end{array}\end{cases}
\end{equation*}
Эта функция непрерывна в $$\mathbb{R}^2\setminus\{(0,0)\}$$.

В точке $$(0,0)$$ её производная Гато существует и равен $$0$$, поскольку
\begin{equation*}
\lim_{t\to0} \dfrac{f(0+th)-f(0)}{t} = \lim_{t\to0}\dfrac{t^4h_1^3h_2}{t^5h_1^4+t^3h_2^2} = 0.
\end{equation*}
Однако этот дифференциал не является главной линейной частью приращения функции в $$(0,0)$$.

При $$h_2=h_1^2$$ имеем
\begin{equation*}
\lim_{||h||\to0} \dfrac{f(h_1,h_2)-f(0,0)}{||h||} = \lim_{h_1\to0}\dfrac{h_1^5}{2h_1^4\sqrt{h_1^2+h_1^4}} = \dfrac{1}{2} \neq 0.
\end{equation*}

Для функций с линейной непрерывной по $$x$$ производной Гато $$F'_c(x)$$ слабая и сильная производные совпадают. Об этом утверждает следующая теорема.

'''Теорема 4.''' Если слабая производная $$F'_c(x)$$ отображения $$F$$ существует в некоторой окрестности $$U(x_0)$$, является непрерывной по $$x$$ в точке $$x_0$$, то сильная производная $$F'(x_0)$$ существует и совпадает со слабой.

'''Доказательство.''' Выберем $$\varepsilon>0$$ и $$\delta>0$$ так, чтобы при $$||h||<\delta$$ выполнялось неравенство:
\begin{equation*}
||F'_c(x_0+h) - F'_c(x_0)|| \leqslant \varepsilon.
\end{equation*}
Применим формулу конечных приращений и получим
\begin{equation*}
||F(x_0+h) - F(x_0) - F'_c(x_0)h|| \leqslant \sup_{\theta\in[0,1]}||F'_c(x_0+\theta h)-F'_c(x_0)||\cdot||h|| \leqslant \varepsilon||h||.
\end{equation*}
Следовательно, сильная производная существует по определению и совпадает со слабой. $$\blacksquare$$

== Примеры вычисления дифференциалов ==

'''1.''' Рассмотрим функцию $$F:~\mathbb{R}^3\mapsto\mathbb{R}^2$$ такую, что
\begin{equation*}
F(x_1,x_2,x_3) = \begin{pmatrix}
x_1x_2 + e^{x_3} \\
x_1^2 + 3x_2 - \sin(x_3)
\end{pmatrix}
\end{equation*}
Матрица Якоби в точке $$x_0$$ равна
\begin{equation*}
F'(x_0) = \begin{pmatrix}
x_2 & x_1 & x_3e^{x_3} \\
2x_1 & 3 & -\cos(x_3)
\end{pmatrix}
\end{equation*}
Выберем точку $$x_0 = (1, 2, 0)^T$$. Тогда при приращении $h$ выполняется
\begin{gather*}
F(x_0+h)-F(x_0) = \begin{pmatrix}
2 & 1 & 0 \\
2 & 3 & -1
\end{pmatrix} \cdot \begin{pmatrix}
h_1 \\
h_2 \\
h_3
\end{pmatrix} + o(h)
\end{gather*}
Следовательно, производная Фреше функции $$F$$ в точке $$x_0$$ равна $$F'(x_0)$$.

'''2.''' Рассмотрим $$H$$ — [[Гильбертово пространство|гильбертово пространство]], наделённое скалярным произведением $$\langle \cdot,\cdot \rangle_H$$, и $$J(u):H\mapsto\mathbb{R}$$.

По [[Гильбертово пространство|теореме Рисса]] $$\exists \nabla J\in H:~ J'(u)=\langle \nabla J, u \rangle_H$$;

$$J(u)=\langle c,u \rangle_H$$.
\begin{gather*}
J(u+h)-J(u) = \langle c,u+h \rangle_H - \langle c,u \rangle_H = \langle c,h \rangle_H = J'(u)h. \\
\Longrightarrow J'(u) = c.
\end{gather*}

'''3.''' $$J(u)=||u||^2_H = \langle u,u \rangle_H$$.
\begin{gather*}
J(u+h)-J(u) = \langle u+h,u+h \rangle_H - \langle u,u \rangle_H = 2\langle u,h \rangle_H. \\
\Longrightarrow J'(u) = 2u.
\end{gather*}

'''4.''' $$J(u)=||u||^p_H,~ p>0$$.

'''5.''' $$J(u)=\langle Au,u \rangle_H$$, где $$A: H\mapsto H$$ — произвольный оператор, $$A^*$$ — [[Сопряжённый линейный оператор|сопряженный оператор]] к оператору $$A$$: $$\langle Au,v \rangle_H = \langle u,A^*v \rangle_H,~ \forall u,v\in H$$.
\begin{gather*}
J(u+h)-J(u) = \langle A(u+h),u+h \rangle_H - \langle Au,u \rangle_H = \langle (A+A^*)u,h \rangle_H + \underbrace{\langle Ah,h \rangle_H}_{\to0}. \\
\Longrightarrow J'(u) = (A+A^*)u.
\end{gather*}

'''6.''' $$J(u)=||Au-f||^2 = \langle Au-f,Au-f \rangle_H$$, где $$f\in H$$ и $$A: H\mapsto H$$ — произвольный оператор.
\begin{align*}
\langle Au-f,Au-f \rangle_H &= \langle Au - f,Au \rangle_H - \langle Au - f,f \rangle_H = \\
&= \langle Au,Au \rangle_H - \langle f,Au \rangle_H - \langle Au, f \rangle_H + \langle f,f \rangle_H = \\
&= \langle Au,Au \rangle_H - 2\langle f,Au \rangle_H + \langle f,f \rangle_H.
\end{align*}

\begin{align*}
\langle A(u+h)-f,A(u+h)-f \rangle_H &= \langle A(u+h),A(u+h) \rangle_H - 2\langle f,A(u+h) \rangle_H + \langle f,f \rangle_H.
\end{align*}

\begin{align*}
J(u+h)-J(u) &= \langle A(u+h)-f,A(u+h)-f \rangle_H - \langle Au-f,Au-f \rangle_H = \\
&= \left(\langle A(u+h),A(u+h) \rangle_H - \langle Au,Au \rangle_H\right) - 2(\langle f,A(u+h) \rangle_H - \langle f,Au \rangle_H) = \\
&= \langle (A^*A + AA^*)u,h \rangle_H - 2\langle f,Ah \rangle_H + o(h) = \\
&= \langle (A^*A + AA^*)u-2A^*f,h \rangle_H + o(h). \\
&\Longrightarrow J'(u) = (A^*A + AA^*)u-2A^*f.
\end{align*}

== Список литературы ==

'''1.''' ''Колмогоров A.Н., Фомин С.В.'' Элементы теории функций и функционального анализа. 7-е изд. М.: ФИЗМАТЛИТ, 2004.

'''2.''' ''Треногин В.А.'' Функциональный анализ: учебник. 3-е изд. М.: ФИЗМАТЛИТ, 2002.

'''3.''' Лекции по курсу "Методы оптимизации", 2024.

Производные и дифференциалы Фреше

2025-12-18T16:35:11Z

Arthur24: Добавлена ссылка на матрицу Якоби.

__TOC__

== Определение дифференцируемости по Фреше ==

Рассмотрим $$X, Y$$ — [[Банахово пространство|нормированные пространства]] с нормами $$||\cdot||_1, ||\cdot||_2$$ соответственно и $$F: X \mapsto Y$$ — определенное на некотором открытом подмножестве $$O\subset X$$ отображение (например, $$O$$ — открытый шар заданного радиуса).

Обозначим $$\mathcal{L}(X,Y)$$ — множество [[Линейный оператор в банаховых пространствах|линейных ограниченных операторов]] $$L: X \mapsto Y$$.

'''Определение.'''
Отображение $$F: X \mapsto Y$$ называется '''дифференцируемым по Фреше''' в точке $$x\in O$$, если существует линейный ограниченный оператор $$L_x \in \mathcal{L}(X,Y)$$
\begin{equation}\label{main_def}
\forall\varepsilon > 0~\exists\delta=\delta(\varepsilon):~ \forall h\in X:~ ||h||_1<\delta \quad\Longrightarrow\quad ||F(x+h)-F(x)-L_{x}h||_2 \leqslant \varepsilon||h||_1
\end{equation}
или, что то же самое, но сокращённо,
\begin{equation*}
F(x+h) - F(x) - L_xh = o(h),
\end{equation*}
где $$o(h)$$ — это такое отображение, действующее из $$X$$ в $$Y$$, что
\begin{equation*}
\lim_{||h||_1\to 0}\dfrac{||o(h)||_2}{||h||_1} = 0.
\end{equation*}
При этом линейный оператор $$L_x(\cdot)$$ называется '''производной Фреше''' отображения $$F$$ в точке $$x$$, а выражение $$L_xh:=L_x(h)$$ — '''дифференциалом Фреше'''.

Производная Фреше составляет главную линейную часть приращения отображения $$F$$.

Всюду далее будем опускать индексы среди $$||\cdot||_1, ||\cdot||_2$$, подразумевая подходящую аргументу норму.

== Свойства дифференцируемости по Фреше ==

Далее обозначим производную Фреше в точке $$x$$ отображения $$F$$ как $$F'(x)$$. Под этим символом понимаем линейный оператор $$L_x(\cdot)$$.

'''1.''' Если отображение $$F$$ дифференцируемо по Фреше в точке $$x$$, то $$F$$ является [[Линейный оператор в банаховых пространствах|непрерывным]] в точке $$x$$.

'''Доказательство.'''
Следует из \eqref{main_def} и ограниченности производной Фреше.$$\blacksquare$$

'''2.''' Если отображение $$F$$ дифференцируемо по Фреше в точке $$x$$, то производная Фреше определяется единственным образом.

'''Доказательство.'''
Допустим, что $$\exists L_1, L_2 \in \mathcal{L}(X,Y)$$, которые удовлетворяют определению \eqref{main_def}. Тогда выполняется равенство $$||L_1h - L_2h|| = o(h)$$, что возможно только при $$L_1=L_2$$.$$\blacksquare$$

'''3.''' Если $$F(x)=\operatorname{const}$$, то $$F'(x)\equiv 0$$. Т.е. $$F'(x)$$ — нулевой оператор.

'''Доказательство.'''
По определению получим, что $$L_xh = o(h)$$. Это возможно только если линейный оператор $$L_x$$ является нулевым.$$\blacksquare$$

'''4.''' Производная Фреше линейного ограниченного (следовательно, непрерывного) отображения $$L$$ совпадает с самим отображением: $$L'(x) = L, \forall x.$$

'''Доказательство.'''
По определению линейности $$L$$ имеем, что $$L(x+h) - L(x) = L(h)$$, откуда следует требуемое.$$\blacksquare$$

'''5.''' Пусть $$F$$ и $$G$$ — непрерывные отображения, действующие из $$X$$ в $$Y$$. Если $$F$$ и $$G$$ дифференцируемы по Фреше в точке $$x_0$$, то и отображения $$F+G,~\alpha F$$ ($$\alpha$$ — число, т.е. элемент поля, над которым определено пространство $$Y$$) тоже дифференцируемы в этой точке, причем их производные Фреше вычисляются по формуле:
\begin{align*}
(F + G)'(x_0) &= F'(x_0) + G'(x_0), \\
(\alpha F)'(x_0) &= \alpha F'(x_0)
\end{align*}

'''Доказательство.'''
Из определения суммы операторов и произведения операторов на число сразу получаем, что
\begin{align*}
(F+G)(x_0+h) &= F(x_0+h) + G(x_0+h) = F(x_0) + G(x_0) + F'(x_0)h + G'(x_0)h + o_1(h), \\
\alpha F(x_0+h) &= \alpha F(x_0) + \alpha F'(x_0)h + o_2(h),
\end{align*}
откуда следует требуемое.$$\blacksquare$$

'''6. (правило Лейбница).''' Пусть $$F: U\mapsto Y, G: U\mapsto\mathbb{R}$$ дифференцируемы по Фреше в точке $$x_0$$. Тогда отображение $$G(x)=g(x)F(x)$$ дифференцируемо по Фреше в точке $$x_0$$, причём
\begin{equation*}
G'(x_0)h = g'(x_0)h\cdot F(x_0) + g(x_0)\cdot F'(x_0)h.
\end{equation*}

'''Доказательство.'''
Пусть отображения дифференцируемы по Фреше. Тогда при $$||h||\to0$$ выполняется
\begin{align*}
G(x_0+h) = g(x_0+h)F(x_0+h) &= (g(x_0)+g'(x_0)h + o(h))\cdot(F(x_0)+F'(x_0)h + o(h)) = \\
&= g(x_0)F(x_0) + g'(x_0)h\cdot F(x_0) + g(x_0)\cdot F'(x_0)h + o(h).
\end{align*}$$\blacksquare$$

== Производная Фреше сложной функции ==

Под понятием дифференцируемости далее подразумеваем дифференцируемость в смысле Фреше, если не указано иначе.

'''Теорема 1.'''
Пусть $$X,Y,Z$$ — нормированные пространства, $$U(x_0)$$ — окрестность точки $$x_0\in X$$, $$F$$ — отображение этой окрестности в $$Y$$, $$y_0 = F(x_0)$$, $$V(y_0)$$ — окрестность точки $$y_0 \in Y$$ и $$G$$ — отображение этой окрестности в $$Z$$. Тогда, если отображение $$F$$ дифференцируемо в точке $$x_0$$, а $$G$$ дифференцируемо в точке $$y_0$$, то отображение $$H = G\circ F$$, определенное в некоторой окрестности точки $$x_0$$ также является дифференцируемым в точке $$x_0$$, причём
\begin{equation}\label{chain_rule}
H'(x_0) = G'(y_0)\cdot F'(x_0).
\end{equation}

'''Доказательство.'''
Рассмотрим $$\varepsilon_1,\varepsilon_2 > 0$$. По определению дифференцируемости имеем
\begin{align*}
\exists\delta_1(\varepsilon_1) > 0: ~\forall \xi:||\xi||<\delta_1 &~\Longrightarrow~ ||F(x_0+\xi) - F(x_0) - F'(x_0)\xi|| < \varepsilon_1, \\
\exists\delta_2(\varepsilon_2) > 0: ~\forall \eta:||\eta||<\delta_2 &~\Longrightarrow~ ||G(y_0+\eta) - G(y) - G'(y_0)\eta|| < \varepsilon_2.
\end{align*}
Выберем $$\delta = \min(\delta_1, \delta_2),~\varepsilon=\max(\varepsilon_1,\varepsilon_2)$$. Зафиксируем $$\xi,\eta:~ ||\xi||<\delta, ||\eta||<\delta$$.

Отметим, что $$F'(x_0), G'(y_0)$$ — ограниченные линейные операторы. Тогда существует отображение $$G'(F(x_0))\cdot F'(x_0) =: M(x_0)$$, оно является ограниченным, причём
\begin{align*}
H(x_0+\xi) &= G(F(x_0+\xi)) = G(F(x_0) + F'(x_0)\xi + o(\xi)) = G(F(x_0)) + G'(F(x_0))(F'(x_0)\xi + o_1(\xi)) + o_2(F'(x_0)\xi + o_1(\xi)) = \\
&= H(x_0) + G'(F(x_0))F'(x_0)\xi + o_3(\xi).
\end{align*}$$\blacksquare$$

'''Замечание.'''
Если $$F, G, H$$ — числовые функции, то формула \eqref{chain_rule} превращается в известное из курса математического анализа правило дифференцирования сложной функции.

== Определение дифференцируемости по Гато ==

Пусть снова дано отображение $$F: X\mapsto Y$$.

'''Определение.'''
'''Дифференциалом Гато''' отображения $$F$$ в точке $$x$$ при приращении $$h$$ называется предел
\begin{equation*}
DF(x,h) = \dfrac{d}{dt}F(x+th)\bigg\vert_{t=0} = \lim_{t\to 0}\dfrac{F(x+th)-F(x)}{t},
\end{equation*}
где подразумевается сходимость по норме в пространстве $$Y$$:
\begin{equation*}
\forall \{ t_n \}_{n=1}^{\infty}: t_n\to0 \quad\Longrightarrow\quad \bigg|\bigg|\dfrac{F(x+t_nh)-F(x)}{t_n} - DF(x, h) \bigg|\bigg| \to 0.
\end{equation*}

'''Пример.'''
Пусть $$F:\mathbb{R}^n\mapsto\mathbb{R}^m$$ дифференцируемо по Гато в точке $$x_0$$ и имеет слабую производную $$F'_c(x_0): \mathbb{R}^n\mapsto\mathbb{R}^m$$.

Тогда слабая производная задаётся матрицей $$A=(a_{ij})_{i=\overline{1,n},j=\overline{1,m}}$$, где
\begin{equation*}
a_{ij} = \dfrac{\partial F_i}{\partial x_j}(x_0),
\end{equation*}
т.е. $$A$$ — [[Матрица Якоби. Лемма о выпрямлении векторного поля|матрица Якоби]].

'''Замечания.'''
'''1.''' Иногда в литературе называют производную Фреше '''сильной производной''', а производную Гато — '''слабой производной'''. Аналогично поступают с дифференциалами. Далее будет показано, что из дифференцируемость по Фреше следует дифференцируемость по Гато, но не наоборот, что объясняет названия.

'''2.''' Дифференциал Гато $$DF(x,h)$$ может и не быть линеен по $$h$$. Если же такая линейность имеет место, то
\begin{equation*}
DF(x,h) = F'_c(x)h,
\end{equation*}
где $$F'_c(x)h$$ — ограниченный линейный оператор, его обычно называют '''производной Гато'''.

'''3.''' Теорема о дифференцировании сложной функции, вообще говоря, неверна для производной Гато.

'''Пример.'''
Рассмотрим функции
\begin{equation*}
f(x_1, x_2) = \begin{cases}\begin{array}{cc}
\dfrac{x_1^3}{x_2}, & x_2\neq0, \\
0, & x_2=0.
\end{array}\end{cases},\qquad
g(t) = (t, t^2) \in \mathbb{R}^2
\end{equation*}
и их композицию $$l(t) = f(g(t)) = f(t, t^2)$$. Дифференциалы Гато в точке $$x=(0,0)$$ при приращениях $$h=(h_1,h_2), h_2\neq 0, a\neq0$$ соответственно равны
\begin{align*}
Df(x, h) &= \lim_{t\to0}\dfrac{f(th_1, th_2) - f(0, 0)}{t} = \lim_{t\to0} \dfrac{th_1^3}{h_2} = 0. \\
Dg(0, a) &= \lim_{t\to0}\dfrac{||(ta,t^2a^2)||}{t} = \lim_{t\to0}\dfrac{\sqrt{t^2a^2+t^4a^4}}{t} = |a|. \\
Dl(x, a) &= \lim_{t\to0}\dfrac{l(ta, ta) - l(0, 0)}{t} = \lim_{t\to0} \dfrac{\frac{t^3a^3}{t^2a^2}}{t} = a.
\end{align*}
Следовательно, $$Dl(t, a) \neq Dg(f(x), a) \cdot Df(x, h)$$ при $$t\in\mathbb{R}, h\neq 0, a\neq 0$$.

'''4.''' Существуют функции, дифференцируемые по Гато, но не дифференцируемые по Фреше.

'''Пример.'''
Рассмотрим множество $$\mathcal{M}=\{(x_1,x_2)\in\mathbb{R}^2~|~ x_1>0,x_2=x_1^2\}$$ и числовую функцию
\begin{equation}\label{ex_nodiff}
f(x) = \begin{cases}\begin{array}{cc}
1, & x\in\mathcal{M}, \\
0, & x\not\in\mathcal{M}.
\end{array}\end{cases}
\end{equation}
Вычислим дифференциал Гато $$f(x)$$ в точке $$x_0=(0,0)$$.
Отметим, что $$\forall t\neq0, h=(h_1,h_2)\in\mathcal{M}:~h_2=h_1^2$$ следует, что $$th\not\in\mathcal{M}$$. Тогда
\begin{equation*}
Df(x_0,h) = \lim_{t\to0}\dfrac{f(x_0+th)-f(x_0)}{t} = \lim_{t\to0}\dfrac{0}{t} = 0,\quad \forall h\in\mathbb{R}^2.
\end{equation*}

Однако, определение \eqref{main_def} не выполняется. Действительно, можем выбрать приращение $$h\in\mathcal{M}$$ и при этом
\begin{equation*}
f(x_0+h)-f(x_0) = f(h) = \begin{cases}
1, & h_2=h_1^2,~ h_1>0,\\
0, & иначе.
\end{cases}
\end{equation*}
Следовательно, функция \eqref{ex_nodiff} не дифференцируема по Фреше, но дифференцируема по Гато.

== Формула конечных приращений ==

'''Теорема 2.''' Пусть $$U\subset X$$ — открытое множество, отрезок $$[x_0, x_1] \subset U$$, отображение $$F: U\mapsto Y$$ дифференцируемо по Гато и имеет слабую производную $$F'_c(x)$$ в каждой точке отрезка $$[x_0, x_1]$$. Тогда
\begin{equation*}
||F(x_1) - F(x_0)|| \leqslant \sup_{0\leqslant\theta\leqslant1}||F'_c(x_0+\theta(x_1-x_0))||\cdot||x_1-x_0||.
\end{equation*}

'''Доказательство.''' Положим $$\Delta x = x_1-x_0$$. Рассмотрим произвольный линейный ограниченный ненулевой функционал $$\phi\in Y^*$$ и числовую функцию
\begin{equation*}
f(t) = \phi(F(x_0+t\Delta x)),\quad t\in[0,1].
\end{equation*}
Эта функция дифференцируема по $$t$$, ведь в выражении
\begin{equation*}
\dfrac{f(t+\Delta t) - f(t)}{\Delta t} = \phi\left( \dfrac{F(x_0+t\Delta x + \Delta t\Delta x) - F(x_0 + t\Delta x)}{\Delta t} \right)
\end{equation*}
можно перейти к пределу под знаком непрерывного линейного функционала $$\phi$$. В итоге получим
\begin{equation*}
f'(t) = \phi\left(F'_c(x_0+t\Delta x)\Delta x\right).
\end{equation*}
Далее, для функции $$f(t)$$ применим формулу конечных приращений Лагранжа: $$f(1)=f(0)+f'(\theta),~\theta\in[0,1]$$. Следовательно, для произвольного $$\phi\in Y^*$$ получим
\begin{equation*}
\phi(F(x)-F(x_0)) = \phi(F'_c(x_0+\theta\Delta x)\Delta x).
\end{equation*}
Применим формулу конечных приращений
\begin{equation*}
|\phi(F(x)-F(x_0))| \leqslant ||\phi||\cdot \sup_{\theta\in[0,1]} ||F'_c(x_0+\theta\Delta x)||\cdot||\Delta x||.
\end{equation*}
'''Напоминание.''' ([[Теорема Хана-Банаха и её следствия|следствие из теоремы Хана Банаха]]). Пусть $$X$$ — нормированное пространство, $$x\in X$$. Тогда существует вектор $$x^*\in X^*$$ такой, что $$||x^*||=1, x^*(x)=||x||$$.
Выберем теперь ненулевой функционал $$\phi$$ так, что (такой функционал $$\phi$$ существует в силу следствия их теоремы Хана Банаха)
\begin{equation*}
\phi(F(x)-F(x_0)) = ||\phi||\cdot||F(x)-F(x_0)||.
\end{equation*}
Следовательно,
\begin{equation*}
||F(x_1) - F(x_0)|| \leqslant \sup_{0\leqslant\theta\leqslant1}||F'_c(x_0+\theta(x_1-x_0))||\cdot||x_1-x_0||,
\end{equation*}
что и требовалось доказать. $$\blacksquare$$

'''Замечание.''' Если $$F: X\mapsto\mathbb R$$, то существует $$x\in[x_0,x_1]:~F(x_1)-F(x_0)=F'(x)(x_1-x_0)$$.

== Связь производных Гато и Фреше ==

'''Теорема 3.''' Если отображение $$F$$ имеет сильную производную (Фреше), то оно имеет и слабую производную (Гато), причем сильная и слабая производные совпадают.

'''Доказательство.''' Действительно, выберем приращение $$\tilde h = th$$:
\begin{align*}
& F(x+th) - f(x) = F'(x)(th) + o(th) = tF'(x)h + o(th). \Longrightarrow \\
\Longrightarrow & \dfrac{F(x+th) - F(x)}{t} = F'(x)h + \dfrac{o(th)}{t} \to F'(x)h,~ t\to0.
\end{align*}$$\blacksquare$$

'''Пример'''. Из слабой дифференцируемости отображения $$F$$ не следует его сильная дифференцируемость. Рассмотрим $$F: \mathbb{R}^2\mapsto\mathbb{R}$$:
\begin{equation*}
f(x_1, x_2) = \begin{cases}\begin{array}{cc}
\dfrac{x_1^3x_2}{x_1^4+x_2^2}, & (x_1,x_2)\neq(0,0), \\
0, & (x_1,x_2)=(0,0).
\end{array}\end{cases}
\end{equation*}
Эта функция непрерывна в $$\mathbb{R}^2\setminus\{(0,0)\}$$.

В точке $$(0,0)$$ её производная Гато существует и равен $$0$$, поскольку
\begin{equation*}
\lim_{t\to0} \dfrac{f(0+th)-f(0)}{t} = \lim_{t\to0}\dfrac{t^4h_1^3h_2}{t^5h_1^4+t^3h_2^2} = 0.
\end{equation*}
Однако этот дифференциал не является главной линейной частью приращения функции в $$(0,0)$$.

При $$h_2=h_1^2$$ имеем
\begin{equation*}
\lim_{||h||\to0} \dfrac{f(h_1,h_2)-f(0,0)}{||h||} = \lim_{h_1\to0}\dfrac{h_1^5}{2h_1^4\sqrt{h_1^2+h_1^4}} = \dfrac{1}{2} \neq 0.
\end{equation*}

Для функций с линейной непрерывной по $$x$$ производной Гато $$F'_c(x)$$ слабая и сильная производные совпадают. Об этом утверждает следующая теорема.

'''Теорема 4.''' Если слабая производная $$F'_c(x)$$ отображения $$F$$ существует в некоторой окрестности $$U(x_0)$$, является непрерывной по $$x$$ в точке $$x_0$$, то сильная производная $$F'(x_0)$$ существует и совпадает со слабой.

'''Доказательство.''' Выберем $$\varepsilon>0$$ и $$\delta>0$$ так, чтобы при $$||h||<\delta$$ выполнялось неравенство:
\begin{equation*}
||F'_c(x_0+h) - F'_c(x_0)|| \leqslant \varepsilon.
\end{equation*}
Применим формулу конечных приращений и получим
\begin{equation*}
||F(x_0+h) - F(x_0) - F'_c(x_0)h|| \leqslant \sup_{\theta\in[0,1]}||F'_c(x_0+\theta h)-F'_c(x_0)||\cdot||h|| \leqslant \varepsilon||h||.
\end{equation*}
Следовательно, сильная производная существует по определению и совпадает со слабой. $$\blacksquare$$

== Примеры вычисления дифференциалов ==

Рассмотрим $$H$$ — [[Гильбертово пространство|гильбертово пространство]], наделённое скалярным произведением $$\langle \cdot,\cdot \rangle_H$$, и $$J(u):H\mapsto\mathbb{R}$$.

1. $$J(u)=\langle c,u \rangle_H$$.
\begin{gather*}
J(u+h)-J(u) = \langle c,u+h \rangle_H - \langle c,u \rangle_H = \langle c,h \rangle_H = J'(u)h. \\
\Longrightarrow J'(u) = c.
\end{gather*}

2. $$J(u)=||u||^2_H = \langle u,u \rangle_H$$.
\begin{gather*}
J(u+h)-J(u) = \langle u+h,u+h \rangle_H - \langle u,u \rangle_H = 2\langle u,h \rangle_H. \\
\Longrightarrow J'(u) = 2u.
\end{gather*}

3. $$J(u)=\langle Au,u \rangle_H$$, где $$A: H\mapsto H$$ — произвольный оператор, $$A^*$$ — [[Сопряжённый линейный оператор|сопряженный оператор]] к оператору $$A$$: $$\langle Au,v \rangle_H = \langle u,A^*v \rangle_H,~ \forall u,v\in H$$.
\begin{gather*}
J(u+h)-J(u) = \langle A(u+h),u+h \rangle_H - \langle Au,u \rangle_H = \langle (A+A^*)u,h \rangle_H + \underbrace{\langle Ah,h \rangle_H}_{\to0}. \\
\Longrightarrow J'(u) = (A+A^*)u.
\end{gather*}

4. $$J(u)=||Au-f||^2 = \langle Au-f,Au-f \rangle_H$$, где $$f\in H$$ и $$A: H\mapsto H$$ — произвольный оператор.
\begin{align*}
\langle Au-f,Au-f \rangle_H &= \langle Au - f,Au \rangle_H - \langle Au - f,f \rangle_H = \\
&= \langle Au,Au \rangle_H - \langle f,Au \rangle_H - \langle Au, f \rangle_H + \langle f,f \rangle_H = \\
&= \langle Au,Au \rangle_H - 2\langle f,Au \rangle_H + \langle f,f \rangle_H.
\end{align*}

\begin{align*}
\langle A(u+h)-f,A(u+h)-f \rangle_H &= \langle A(u+h),A(u+h) \rangle_H - 2\langle f,A(u+h) \rangle_H + \langle f,f \rangle_H.
\end{align*}

\begin{align*}
J(u+h)-J(u) &= \langle A(u+h)-f,A(u+h)-f \rangle_H - \langle Au-f,Au-f \rangle_H = \\
&= \left(\langle A(u+h),A(u+h) \rangle_H - \langle Au,Au \rangle_H\right) - 2(\langle f,A(u+h) \rangle_H - \langle f,Au \rangle_H) = \\
&= \langle (A^*A + AA^*)u,h \rangle_H - 2\langle f,Ah \rangle_H + o(h) = \\
&= \langle (A^*A + AA^*)u-2A^*f,h \rangle_H + o(h). \\
&\Longrightarrow J'(u) = (A^*A + AA^*)u-2A^*f.
\end{align*}

== Список литературы ==

'''1.''' ''Колмогоров A.Н., Фомин С.В.'' Элементы теории функций и функционального анализа. 7-е изд. М.: ФИЗМАТЛИТ, 2004.

'''2.''' ''Треногин В.А.'' Функциональный анализ: учебник. 3-е изд. М.: ФИЗМАТЛИТ, 2002.

'''3.''' Лекции по курсу "Методы оптимизации", 2024.

Производные и дифференциалы Фреше

2025-12-18T16:32:16Z

Arthur24: Добавлен пример @ /* Определение дифференцируемости по Гато */

__TOC__

== Определение дифференцируемости по Фреше ==

Рассмотрим $$X, Y$$ — [[Банахово пространство|нормированные пространства]] с нормами $$||\cdot||_1, ||\cdot||_2$$ соответственно и $$F: X \mapsto Y$$ — определенное на некотором открытом подмножестве $$O\subset X$$ отображение (например, $$O$$ — открытый шар заданного радиуса).

Обозначим $$\mathcal{L}(X,Y)$$ — множество [[Линейный оператор в банаховых пространствах|линейных ограниченных операторов]] $$L: X \mapsto Y$$.

'''Определение.'''
Отображение $$F: X \mapsto Y$$ называется '''дифференцируемым по Фреше''' в точке $$x\in O$$, если существует линейный ограниченный оператор $$L_x \in \mathcal{L}(X,Y)$$
\begin{equation}\label{main_def}
\forall\varepsilon > 0~\exists\delta=\delta(\varepsilon):~ \forall h\in X:~ ||h||_1<\delta \quad\Longrightarrow\quad ||F(x+h)-F(x)-L_{x}h||_2 \leqslant \varepsilon||h||_1
\end{equation}
или, что то же самое, но сокращённо,
\begin{equation*}
F(x+h) - F(x) - L_xh = o(h),
\end{equation*}
где $$o(h)$$ — это такое отображение, действующее из $$X$$ в $$Y$$, что
\begin{equation*}
\lim_{||h||_1\to 0}\dfrac{||o(h)||_2}{||h||_1} = 0.
\end{equation*}
При этом линейный оператор $$L_x(\cdot)$$ называется '''производной Фреше''' отображения $$F$$ в точке $$x$$, а выражение $$L_xh:=L_x(h)$$ — '''дифференциалом Фреше'''.

Производная Фреше составляет главную линейную часть приращения отображения $$F$$.

Всюду далее будем опускать индексы среди $$||\cdot||_1, ||\cdot||_2$$, подразумевая подходящую аргументу норму.

== Свойства дифференцируемости по Фреше ==

Далее обозначим производную Фреше в точке $$x$$ отображения $$F$$ как $$F'(x)$$. Под этим символом понимаем линейный оператор $$L_x(\cdot)$$.

'''1.''' Если отображение $$F$$ дифференцируемо по Фреше в точке $$x$$, то $$F$$ является [[Линейный оператор в банаховых пространствах|непрерывным]] в точке $$x$$.

'''Доказательство.'''
Следует из \eqref{main_def} и ограниченности производной Фреше.$$\blacksquare$$

'''2.''' Если отображение $$F$$ дифференцируемо по Фреше в точке $$x$$, то производная Фреше определяется единственным образом.

'''Доказательство.'''
Допустим, что $$\exists L_1, L_2 \in \mathcal{L}(X,Y)$$, которые удовлетворяют определению \eqref{main_def}. Тогда выполняется равенство $$||L_1h - L_2h|| = o(h)$$, что возможно только при $$L_1=L_2$$.$$\blacksquare$$

'''3.''' Если $$F(x)=\operatorname{const}$$, то $$F'(x)\equiv 0$$. Т.е. $$F'(x)$$ — нулевой оператор.

'''Доказательство.'''
По определению получим, что $$L_xh = o(h)$$. Это возможно только если линейный оператор $$L_x$$ является нулевым.$$\blacksquare$$

'''4.''' Производная Фреше линейного ограниченного (следовательно, непрерывного) отображения $$L$$ совпадает с самим отображением: $$L'(x) = L, \forall x.$$

'''Доказательство.'''
По определению линейности $$L$$ имеем, что $$L(x+h) - L(x) = L(h)$$, откуда следует требуемое.$$\blacksquare$$

'''5.''' Пусть $$F$$ и $$G$$ — непрерывные отображения, действующие из $$X$$ в $$Y$$. Если $$F$$ и $$G$$ дифференцируемы по Фреше в точке $$x_0$$, то и отображения $$F+G,~\alpha F$$ ($$\alpha$$ — число, т.е. элемент поля, над которым определено пространство $$Y$$) тоже дифференцируемы в этой точке, причем их производные Фреше вычисляются по формуле:
\begin{align*}
(F + G)'(x_0) &= F'(x_0) + G'(x_0), \\
(\alpha F)'(x_0) &= \alpha F'(x_0)
\end{align*}

'''Доказательство.'''
Из определения суммы операторов и произведения операторов на число сразу получаем, что
\begin{align*}
(F+G)(x_0+h) &= F(x_0+h) + G(x_0+h) = F(x_0) + G(x_0) + F'(x_0)h + G'(x_0)h + o_1(h), \\
\alpha F(x_0+h) &= \alpha F(x_0) + \alpha F'(x_0)h + o_2(h),
\end{align*}
откуда следует требуемое.$$\blacksquare$$

'''6. (правило Лейбница).''' Пусть $$F: U\mapsto Y, G: U\mapsto\mathbb{R}$$ дифференцируемы по Фреше в точке $$x_0$$. Тогда отображение $$G(x)=g(x)F(x)$$ дифференцируемо по Фреше в точке $$x_0$$, причём
\begin{equation*}
G'(x_0)h = g'(x_0)h\cdot F(x_0) + g(x_0)\cdot F'(x_0)h.
\end{equation*}

'''Доказательство.'''
Пусть отображения дифференцируемы по Фреше. Тогда при $$||h||\to0$$ выполняется
\begin{align*}
G(x_0+h) = g(x_0+h)F(x_0+h) &= (g(x_0)+g'(x_0)h + o(h))\cdot(F(x_0)+F'(x_0)h + o(h)) = \\
&= g(x_0)F(x_0) + g'(x_0)h\cdot F(x_0) + g(x_0)\cdot F'(x_0)h + o(h).
\end{align*}$$\blacksquare$$

== Производная Фреше сложной функции ==

Под понятием дифференцируемости далее подразумеваем дифференцируемость в смысле Фреше, если не указано иначе.

'''Теорема 1.'''
Пусть $$X,Y,Z$$ — нормированные пространства, $$U(x_0)$$ — окрестность точки $$x_0\in X$$, $$F$$ — отображение этой окрестности в $$Y$$, $$y_0 = F(x_0)$$, $$V(y_0)$$ — окрестность точки $$y_0 \in Y$$ и $$G$$ — отображение этой окрестности в $$Z$$. Тогда, если отображение $$F$$ дифференцируемо в точке $$x_0$$, а $$G$$ дифференцируемо в точке $$y_0$$, то отображение $$H = G\circ F$$, определенное в некоторой окрестности точки $$x_0$$ также является дифференцируемым в точке $$x_0$$, причём
\begin{equation}\label{chain_rule}
H'(x_0) = G'(y_0)\cdot F'(x_0).
\end{equation}

'''Доказательство.'''
Рассмотрим $$\varepsilon_1,\varepsilon_2 > 0$$. По определению дифференцируемости имеем
\begin{align*}
\exists\delta_1(\varepsilon_1) > 0: ~\forall \xi:||\xi||<\delta_1 &~\Longrightarrow~ ||F(x_0+\xi) - F(x_0) - F'(x_0)\xi|| < \varepsilon_1, \\
\exists\delta_2(\varepsilon_2) > 0: ~\forall \eta:||\eta||<\delta_2 &~\Longrightarrow~ ||G(y_0+\eta) - G(y) - G'(y_0)\eta|| < \varepsilon_2.
\end{align*}
Выберем $$\delta = \min(\delta_1, \delta_2),~\varepsilon=\max(\varepsilon_1,\varepsilon_2)$$. Зафиксируем $$\xi,\eta:~ ||\xi||<\delta, ||\eta||<\delta$$.

Отметим, что $$F'(x_0), G'(y_0)$$ — ограниченные линейные операторы. Тогда существует отображение $$G'(F(x_0))\cdot F'(x_0) =: M(x_0)$$, оно является ограниченным, причём
\begin{align*}
H(x_0+\xi) &= G(F(x_0+\xi)) = G(F(x_0) + F'(x_0)\xi + o(\xi)) = G(F(x_0)) + G'(F(x_0))(F'(x_0)\xi + o_1(\xi)) + o_2(F'(x_0)\xi + o_1(\xi)) = \\
&= H(x_0) + G'(F(x_0))F'(x_0)\xi + o_3(\xi).
\end{align*}$$\blacksquare$$

'''Замечание.'''
Если $$F, G, H$$ — числовые функции, то формула \eqref{chain_rule} превращается в известное из курса математического анализа правило дифференцирования сложной функции.

== Определение дифференцируемости по Гато ==

Пусть снова дано отображение $$F: X\mapsto Y$$.

'''Определение.'''
'''Дифференциалом Гато''' отображения $$F$$ в точке $$x$$ при приращении $$h$$ называется предел
\begin{equation*}
DF(x,h) = \dfrac{d}{dt}F(x+th)\bigg\vert_{t=0} = \lim_{t\to 0}\dfrac{F(x+th)-F(x)}{t},
\end{equation*}
где подразумевается сходимость по норме в пространстве $$Y$$:
\begin{equation*}
\forall \{ t_n \}_{n=1}^{\infty}: t_n\to0 \quad\Longrightarrow\quad \bigg|\bigg|\dfrac{F(x+t_nh)-F(x)}{t_n} - DF(x, h) \bigg|\bigg| \to 0.
\end{equation*}

'''Пример.'''
Пусть $$F:\mathbb{R}^n\mapsto\mathbb{R}^m$$ дифференцируемо по Гато в точке $$x_0$$ и имеет слабую производную $$F'_c(x_0): \mathbb{R}^n\mapsto\mathbb{R}^m$$.

Тогда слабая производная задаётся матрицей $$A=(a_{ij})_{i=\overline{1,n},j=\overline{1,m}}$$, где
\begin{equation*}
a_{ij} = \dfrac{\partial F_i}{\partial x_j}(x_0),
\end{equation*}
т.е. $$A$$ — матрица Якоби.

'''Замечания.'''
'''1.''' Иногда в литературе называют производную Фреше '''сильной производной''', а производную Гато — '''слабой производной'''. Аналогично поступают с дифференциалами. Далее будет показано, что из дифференцируемость по Фреше следует дифференцируемость по Гато, но не наоборот, что объясняет названия.

'''2.''' Дифференциал Гато $$DF(x,h)$$ может и не быть линеен по $$h$$. Если же такая линейность имеет место, то
\begin{equation*}
DF(x,h) = F'_c(x)h,
\end{equation*}
где $$F'_c(x)h$$ — ограниченный линейный оператор, его обычно называют '''производной Гато'''.

'''3.''' Теорема о дифференцировании сложной функции, вообще говоря, неверна для производной Гато.

'''Пример.'''
Рассмотрим функции
\begin{equation*}
f(x_1, x_2) = \begin{cases}\begin{array}{cc}
\dfrac{x_1^3}{x_2}, & x_2\neq0, \\
0, & x_2=0.
\end{array}\end{cases},\qquad
g(t) = (t, t^2) \in \mathbb{R}^2
\end{equation*}
и их композицию $$l(t) = f(g(t)) = f(t, t^2)$$. Дифференциалы Гато в точке $$x=(0,0)$$ при приращениях $$h=(h_1,h_2), h_2\neq 0, a\neq0$$ соответственно равны
\begin{align*}
Df(x, h) &= \lim_{t\to0}\dfrac{f(th_1, th_2) - f(0, 0)}{t} = \lim_{t\to0} \dfrac{th_1^3}{h_2} = 0. \\
Dg(0, a) &= \lim_{t\to0}\dfrac{||(ta,t^2a^2)||}{t} = \lim_{t\to0}\dfrac{\sqrt{t^2a^2+t^4a^4}}{t} = |a|. \\
Dl(x, a) &= \lim_{t\to0}\dfrac{l(ta, ta) - l(0, 0)}{t} = \lim_{t\to0} \dfrac{\frac{t^3a^3}{t^2a^2}}{t} = a.
\end{align*}
Следовательно, $$Dl(t, a) \neq Dg(f(x), a) \cdot Df(x, h)$$ при $$t\in\mathbb{R}, h\neq 0, a\neq 0$$.

'''4.''' Существуют функции, дифференцируемые по Гато, но не дифференцируемые по Фреше.

'''Пример.'''
Рассмотрим множество $$\mathcal{M}=\{(x_1,x_2)\in\mathbb{R}^2~|~ x_1>0,x_2=x_1^2\}$$ и числовую функцию
\begin{equation}\label{ex_nodiff}
f(x) = \begin{cases}\begin{array}{cc}
1, & x\in\mathcal{M}, \\
0, & x\not\in\mathcal{M}.
\end{array}\end{cases}
\end{equation}
Вычислим дифференциал Гато $$f(x)$$ в точке $$x_0=(0,0)$$.
Отметим, что $$\forall t\neq0, h=(h_1,h_2)\in\mathcal{M}:~h_2=h_1^2$$ следует, что $$th\not\in\mathcal{M}$$. Тогда
\begin{equation*}
Df(x_0,h) = \lim_{t\to0}\dfrac{f(x_0+th)-f(x_0)}{t} = \lim_{t\to0}\dfrac{0}{t} = 0,\quad \forall h\in\mathbb{R}^2.
\end{equation*}

Однако, определение \eqref{main_def} не выполняется. Действительно, можем выбрать приращение $$h\in\mathcal{M}$$ и при этом
\begin{equation*}
f(x_0+h)-f(x_0) = f(h) = \begin{cases}
1, & h_2=h_1^2,~ h_1>0,\\
0, & иначе.
\end{cases}
\end{equation*}
Следовательно, функция \eqref{ex_nodiff} не дифференцируема по Фреше, но дифференцируема по Гато.

== Формула конечных приращений ==

'''Теорема 2.''' Пусть $$U\subset X$$ — открытое множество, отрезок $$[x_0, x_1] \subset U$$, отображение $$F: U\mapsto Y$$ дифференцируемо по Гато и имеет слабую производную $$F'_c(x)$$ в каждой точке отрезка $$[x_0, x_1]$$. Тогда
\begin{equation*}
||F(x_1) - F(x_0)|| \leqslant \sup_{0\leqslant\theta\leqslant1}||F'_c(x_0+\theta(x_1-x_0))||\cdot||x_1-x_0||.
\end{equation*}

'''Доказательство.''' Положим $$\Delta x = x_1-x_0$$. Рассмотрим произвольный линейный ограниченный ненулевой функционал $$\phi\in Y^*$$ и числовую функцию
\begin{equation*}
f(t) = \phi(F(x_0+t\Delta x)),\quad t\in[0,1].
\end{equation*}
Эта функция дифференцируема по $$t$$, ведь в выражении
\begin{equation*}
\dfrac{f(t+\Delta t) - f(t)}{\Delta t} = \phi\left( \dfrac{F(x_0+t\Delta x + \Delta t\Delta x) - F(x_0 + t\Delta x)}{\Delta t} \right)
\end{equation*}
можно перейти к пределу под знаком непрерывного линейного функционала $$\phi$$. В итоге получим
\begin{equation*}
f'(t) = \phi\left(F'_c(x_0+t\Delta x)\Delta x\right).
\end{equation*}
Далее, для функции $$f(t)$$ применим формулу конечных приращений Лагранжа: $$f(1)=f(0)+f'(\theta),~\theta\in[0,1]$$. Следовательно, для произвольного $$\phi\in Y^*$$ получим
\begin{equation*}
\phi(F(x)-F(x_0)) = \phi(F'_c(x_0+\theta\Delta x)\Delta x).
\end{equation*}
Применим формулу конечных приращений
\begin{equation*}
|\phi(F(x)-F(x_0))| \leqslant ||\phi||\cdot \sup_{\theta\in[0,1]} ||F'_c(x_0+\theta\Delta x)||\cdot||\Delta x||.
\end{equation*}
'''Напоминание.''' ([[Теорема Хана-Банаха и её следствия|следствие из теоремы Хана Банаха]]). Пусть $$X$$ — нормированное пространство, $$x\in X$$. Тогда существует вектор $$x^*\in X^*$$ такой, что $$||x^*||=1, x^*(x)=||x||$$.
Выберем теперь ненулевой функционал $$\phi$$ так, что (такой функционал $$\phi$$ существует в силу следствия их теоремы Хана Банаха)
\begin{equation*}
\phi(F(x)-F(x_0)) = ||\phi||\cdot||F(x)-F(x_0)||.
\end{equation*}
Следовательно,
\begin{equation*}
||F(x_1) - F(x_0)|| \leqslant \sup_{0\leqslant\theta\leqslant1}||F'_c(x_0+\theta(x_1-x_0))||\cdot||x_1-x_0||,
\end{equation*}
что и требовалось доказать. $$\blacksquare$$

'''Замечание.''' Если $$F: X\mapsto\mathbb R$$, то существует $$x\in[x_0,x_1]:~F(x_1)-F(x_0)=F'(x)(x_1-x_0)$$.

== Связь производных Гато и Фреше ==

'''Теорема 3.''' Если отображение $$F$$ имеет сильную производную (Фреше), то оно имеет и слабую производную (Гато), причем сильная и слабая производные совпадают.

'''Доказательство.''' Действительно, выберем приращение $$\tilde h = th$$:
\begin{align*}
& F(x+th) - f(x) = F'(x)(th) + o(th) = tF'(x)h + o(th). \Longrightarrow \\
\Longrightarrow & \dfrac{F(x+th) - F(x)}{t} = F'(x)h + \dfrac{o(th)}{t} \to F'(x)h,~ t\to0.
\end{align*}$$\blacksquare$$

'''Пример'''. Из слабой дифференцируемости отображения $$F$$ не следует его сильная дифференцируемость. Рассмотрим $$F: \mathbb{R}^2\mapsto\mathbb{R}$$:
\begin{equation*}
f(x_1, x_2) = \begin{cases}\begin{array}{cc}
\dfrac{x_1^3x_2}{x_1^4+x_2^2}, & (x_1,x_2)\neq(0,0), \\
0, & (x_1,x_2)=(0,0).
\end{array}\end{cases}
\end{equation*}
Эта функция непрерывна в $$\mathbb{R}^2\setminus\{(0,0)\}$$.

В точке $$(0,0)$$ её производная Гато существует и равен $$0$$, поскольку
\begin{equation*}
\lim_{t\to0} \dfrac{f(0+th)-f(0)}{t} = \lim_{t\to0}\dfrac{t^4h_1^3h_2}{t^5h_1^4+t^3h_2^2} = 0.
\end{equation*}
Однако этот дифференциал не является главной линейной частью приращения функции в $$(0,0)$$.

При $$h_2=h_1^2$$ имеем
\begin{equation*}
\lim_{||h||\to0} \dfrac{f(h_1,h_2)-f(0,0)}{||h||} = \lim_{h_1\to0}\dfrac{h_1^5}{2h_1^4\sqrt{h_1^2+h_1^4}} = \dfrac{1}{2} \neq 0.
\end{equation*}

Для функций с линейной непрерывной по $$x$$ производной Гато $$F'_c(x)$$ слабая и сильная производные совпадают. Об этом утверждает следующая теорема.

'''Теорема 4.''' Если слабая производная $$F'_c(x)$$ отображения $$F$$ существует в некоторой окрестности $$U(x_0)$$, является непрерывной по $$x$$ в точке $$x_0$$, то сильная производная $$F'(x_0)$$ существует и совпадает со слабой.

'''Доказательство.''' Выберем $$\varepsilon>0$$ и $$\delta>0$$ так, чтобы при $$||h||<\delta$$ выполнялось неравенство:
\begin{equation*}
||F'_c(x_0+h) - F'_c(x_0)|| \leqslant \varepsilon.
\end{equation*}
Применим формулу конечных приращений и получим
\begin{equation*}
||F(x_0+h) - F(x_0) - F'_c(x_0)h|| \leqslant \sup_{\theta\in[0,1]}||F'_c(x_0+\theta h)-F'_c(x_0)||\cdot||h|| \leqslant \varepsilon||h||.
\end{equation*}
Следовательно, сильная производная существует по определению и совпадает со слабой. $$\blacksquare$$

== Примеры вычисления дифференциалов ==

Рассмотрим $$H$$ — [[Гильбертово пространство|гильбертово пространство]], наделённое скалярным произведением $$\langle \cdot,\cdot \rangle_H$$, и $$J(u):H\mapsto\mathbb{R}$$.

1. $$J(u)=\langle c,u \rangle_H$$.
\begin{gather*}
J(u+h)-J(u) = \langle c,u+h \rangle_H - \langle c,u \rangle_H = \langle c,h \rangle_H = J'(u)h. \\
\Longrightarrow J'(u) = c.
\end{gather*}

2. $$J(u)=||u||^2_H = \langle u,u \rangle_H$$.
\begin{gather*}
J(u+h)-J(u) = \langle u+h,u+h \rangle_H - \langle u,u \rangle_H = 2\langle u,h \rangle_H. \\
\Longrightarrow J'(u) = 2u.
\end{gather*}

3. $$J(u)=\langle Au,u \rangle_H$$, где $$A: H\mapsto H$$ — произвольный оператор, $$A^*$$ — [[Сопряжённый линейный оператор|сопряженный оператор]] к оператору $$A$$: $$\langle Au,v \rangle_H = \langle u,A^*v \rangle_H,~ \forall u,v\in H$$.
\begin{gather*}
J(u+h)-J(u) = \langle A(u+h),u+h \rangle_H - \langle Au,u \rangle_H = \langle (A+A^*)u,h \rangle_H + \underbrace{\langle Ah,h \rangle_H}_{\to0}. \\
\Longrightarrow J'(u) = (A+A^*)u.
\end{gather*}

4. $$J(u)=||Au-f||^2 = \langle Au-f,Au-f \rangle_H$$, где $$f\in H$$ и $$A: H\mapsto H$$ — произвольный оператор.
\begin{align*}
\langle Au-f,Au-f \rangle_H &= \langle Au - f,Au \rangle_H - \langle Au - f,f \rangle_H = \\
&= \langle Au,Au \rangle_H - \langle f,Au \rangle_H - \langle Au, f \rangle_H + \langle f,f \rangle_H = \\
&= \langle Au,Au \rangle_H - 2\langle f,Au \rangle_H + \langle f,f \rangle_H.
\end{align*}

\begin{align*}
\langle A(u+h)-f,A(u+h)-f \rangle_H &= \langle A(u+h),A(u+h) \rangle_H - 2\langle f,A(u+h) \rangle_H + \langle f,f \rangle_H.
\end{align*}

\begin{align*}
J(u+h)-J(u) &= \langle A(u+h)-f,A(u+h)-f \rangle_H - \langle Au-f,Au-f \rangle_H = \\
&= \left(\langle A(u+h),A(u+h) \rangle_H - \langle Au,Au \rangle_H\right) - 2(\langle f,A(u+h) \rangle_H - \langle f,Au \rangle_H) = \\
&= \langle (A^*A + AA^*)u,h \rangle_H - 2\langle f,Ah \rangle_H + o(h) = \\
&= \langle (A^*A + AA^*)u-2A^*f,h \rangle_H + o(h). \\
&\Longrightarrow J'(u) = (A^*A + AA^*)u-2A^*f.
\end{align*}

== Список литературы ==

'''1.''' ''Колмогоров A.Н., Фомин С.В.'' Элементы теории функций и функционального анализа. 7-е изд. М.: ФИЗМАТЛИТ, 2004.

'''2.''' ''Треногин В.А.'' Функциональный анализ: учебник. 3-е изд. М.: ФИЗМАТЛИТ, 2002.

'''3.''' Лекции по курсу "Методы оптимизации", 2024.

Производные и дифференциалы Фреше

2025-12-18T13:34:52Z

Arthur24: Добавлены ссылки на статьи портала.

__TOC__

== Определение дифференцируемости по Фреше ==

Рассмотрим $$X, Y$$ — [[Банахово пространство|нормированные пространства]] с нормами $$||\cdot||_1, ||\cdot||_2$$ соответственно и $$F: X \mapsto Y$$ — определенное на некотором открытом подмножестве $$O\subset X$$ отображение (например, $$O$$ — открытый шар заданного радиуса).

Обозначим $$\mathcal{L}(X,Y)$$ — множество [[Линейный оператор в банаховых пространствах|линейных ограниченных операторов]] $$L: X \mapsto Y$$.

'''Определение.'''
Отображение $$F: X \mapsto Y$$ называется '''дифференцируемым по Фреше''' в точке $$x\in O$$, если существует линейный ограниченный оператор $$L_x \in \mathcal{L}(X,Y)$$
\begin{equation}\label{main_def}
\forall\varepsilon > 0~\exists\delta=\delta(\varepsilon):~ \forall h\in X:~ ||h||_1<\delta \quad\Longrightarrow\quad ||F(x+h)-F(x)-L_{x}h||_2 \leqslant \varepsilon||h||_1
\end{equation}
или, что то же самое, но сокращённо,
\begin{equation*}
F(x+h) - F(x) - L_xh = o(h),
\end{equation*}
где $$o(h)$$ — это такое отображение, действующее из $$X$$ в $$Y$$, что
\begin{equation*}
\lim_{||h||_1\to 0}\dfrac{||o(h)||_2}{||h||_1} = 0.
\end{equation*}
При этом линейный оператор $$L_x(\cdot)$$ называется '''производной Фреше''' отображения $$F$$ в точке $$x$$, а выражение $$L_xh:=L_x(h)$$ — '''дифференциалом Фреше'''.

Производная Фреше составляет главную линейную часть приращения отображения $$F$$.

Всюду далее будем опускать индексы среди $$||\cdot||_1, ||\cdot||_2$$, подразумевая подходящую аргументу норму.

== Свойства дифференцируемости по Фреше ==

Далее обозначим производную Фреше в точке $$x$$ отображения $$F$$ как $$F'(x)$$. Под этим символом понимаем линейный оператор $$L_x(\cdot)$$.

'''1.''' Если отображение $$F$$ дифференцируемо по Фреше в точке $$x$$, то $$F$$ является [[Линейный оператор в банаховых пространствах|непрерывным]] в точке $$x$$.

'''Доказательство.'''
Следует из \eqref{main_def} и ограниченности производной Фреше.$$\blacksquare$$

'''2.''' Если отображение $$F$$ дифференцируемо по Фреше в точке $$x$$, то производная Фреше определяется единственным образом.

'''Доказательство.'''
Допустим, что $$\exists L_1, L_2 \in \mathcal{L}(X,Y)$$, которые удовлетворяют определению \eqref{main_def}. Тогда выполняется равенство $$||L_1h - L_2h|| = o(h)$$, что возможно только при $$L_1=L_2$$.$$\blacksquare$$

'''3.''' Если $$F(x)=\operatorname{const}$$, то $$F'(x)\equiv 0$$. Т.е. $$F'(x)$$ — нулевой оператор.

'''Доказательство.'''
По определению получим, что $$L_xh = o(h)$$. Это возможно только если линейный оператор $$L_x$$ является нулевым.$$\blacksquare$$

'''4.''' Производная Фреше линейного ограниченного (следовательно, непрерывного) отображения $$L$$ совпадает с самим отображением: $$L'(x) = L, \forall x.$$

'''Доказательство.'''
По определению линейности $$L$$ имеем, что $$L(x+h) - L(x) = L(h)$$, откуда следует требуемое.$$\blacksquare$$

'''5.''' Пусть $$F$$ и $$G$$ — непрерывные отображения, действующие из $$X$$ в $$Y$$. Если $$F$$ и $$G$$ дифференцируемы по Фреше в точке $$x_0$$, то и отображения $$F+G,~\alpha F$$ ($$\alpha$$ — число, т.е. элемент поля, над которым определено пространство $$Y$$) тоже дифференцируемы в этой точке, причем их производные Фреше вычисляются по формуле:
\begin{align*}
(F + G)'(x_0) &= F'(x_0) + G'(x_0), \\
(\alpha F)'(x_0) &= \alpha F'(x_0)
\end{align*}

'''Доказательство.'''
Из определения суммы операторов и произведения операторов на число сразу получаем, что
\begin{align*}
(F+G)(x_0+h) &= F(x_0+h) + G(x_0+h) = F(x_0) + G(x_0) + F'(x_0)h + G'(x_0)h + o_1(h), \\
\alpha F(x_0+h) &= \alpha F(x_0) + \alpha F'(x_0)h + o_2(h),
\end{align*}
откуда следует требуемое.$$\blacksquare$$

'''6. (правило Лейбница).''' Пусть $$F: U\mapsto Y, G: U\mapsto\mathbb{R}$$ дифференцируемы по Фреше в точке $$x_0$$. Тогда отображение $$G(x)=g(x)F(x)$$ дифференцируемо по Фреше в точке $$x_0$$, причём
\begin{equation*}
G'(x_0)h = g'(x_0)h\cdot F(x_0) + g(x_0)\cdot F'(x_0)h.
\end{equation*}

'''Доказательство.'''
Пусть отображения дифференцируемы по Фреше. Тогда при $$||h||\to0$$ выполняется
\begin{align*}
G(x_0+h) = g(x_0+h)F(x_0+h) &= (g(x_0)+g'(x_0)h + o(h))\cdot(F(x_0)+F'(x_0)h + o(h)) = \\
&= g(x_0)F(x_0) + g'(x_0)h\cdot F(x_0) + g(x_0)\cdot F'(x_0)h + o(h).
\end{align*}$$\blacksquare$$

== Производная Фреше сложной функции ==

Под понятием дифференцируемости далее подразумеваем дифференцируемость в смысле Фреше, если не указано иначе.

'''Теорема 1.'''
Пусть $$X,Y,Z$$ — нормированные пространства, $$U(x_0)$$ — окрестность точки $$x_0\in X$$, $$F$$ — отображение этой окрестности в $$Y$$, $$y_0 = F(x_0)$$, $$V(y_0)$$ — окрестность точки $$y_0 \in Y$$ и $$G$$ — отображение этой окрестности в $$Z$$. Тогда, если отображение $$F$$ дифференцируемо в точке $$x_0$$, а $$G$$ дифференцируемо в точке $$y_0$$, то отображение $$H = G\circ F$$, определенное в некоторой окрестности точки $$x_0$$ также является дифференцируемым в точке $$x_0$$, причём
\begin{equation}\label{chain_rule}
H'(x_0) = G'(y_0)\cdot F'(x_0).
\end{equation}

'''Доказательство.'''
Рассмотрим $$\varepsilon_1,\varepsilon_2 > 0$$. По определению дифференцируемости имеем
\begin{align*}
\exists\delta_1(\varepsilon_1) > 0: ~\forall \xi:||\xi||<\delta_1 &~\Longrightarrow~ ||F(x_0+\xi) - F(x_0) - F'(x_0)\xi|| < \varepsilon_1, \\
\exists\delta_2(\varepsilon_2) > 0: ~\forall \eta:||\eta||<\delta_2 &~\Longrightarrow~ ||G(y_0+\eta) - G(y) - G'(y_0)\eta|| < \varepsilon_2.
\end{align*}
Выберем $$\delta = \min(\delta_1, \delta_2),~\varepsilon=\max(\varepsilon_1,\varepsilon_2)$$. Зафиксируем $$\xi,\eta:~ ||\xi||<\delta, ||\eta||<\delta$$.

Отметим, что $$F'(x_0), G'(y_0)$$ — ограниченные линейные операторы. Тогда существует отображение $$G'(F(x_0))\cdot F'(x_0) =: M(x_0)$$, оно является ограниченным, причём
\begin{align*}
H(x_0+\xi) &= G(F(x_0+\xi)) = G(F(x_0) + F'(x_0)\xi + o(\xi)) = G(F(x_0)) + G'(F(x_0))(F'(x_0)\xi + o_1(\xi)) + o_2(F'(x_0)\xi + o_1(\xi)) = \\
&= H(x_0) + G'(F(x_0))F'(x_0)\xi + o_3(\xi).
\end{align*}$$\blacksquare$$

'''Замечание.'''
Если $$F, G, H$$ — числовые функции, то формула \eqref{chain_rule} превращается в известное из курса математического анализа правило дифференцирования сложной функции.

== Определение дифференцируемости по Гато ==

Пусть снова дано отображение $$F: X\mapsto Y$$.

'''Определение.'''
'''Дифференциалом Гато''' отображения $$F$$ в точке $$x$$ при приращении $$h$$ называется предел
\begin{equation*}
DF(x,h) = \dfrac{d}{dt}F(x+th)\bigg\vert_{t=0} = \lim_{t\to 0}\dfrac{F(x+th)-F(x)}{t},
\end{equation*}
где подразумевается сходимость по норме в пространстве $$Y$$:
\begin{equation*}
\forall \{ t_n \}_{n=1}^{\infty}: t_n\to0 \quad\Longrightarrow\quad \bigg|\bigg|\dfrac{F(x+t_nh)-F(x)}{t_n} - DF(x, h) \bigg|\bigg| \to 0.
\end{equation*}

'''Пример.'''
Пусть $$F:\mathbb{R}^n\mapsto\mathbb{R}^m$$ дифференцируемо по Гато в точке $$x_0$$ и имеет слабую производную $$F'_c(x_0): \mathbb{R}^n\mapsto\mathbb{R}^m$$.

Тогда слабая производная задаётся матрицей $$A=(a_{ij})_{i=\overline{1,n},j=\overline{1,m}}$$, где
\begin{equation*}
a_{ij} = \dfrac{\partial F_i}{\partial x_j}(x_0),
\end{equation*}
т.е. $$A$$ — матрица Якоби.

'''Замечания.'''
'''1.''' Иногда в литературе называют производную Фреше '''сильной производной''', а производную Гато — '''слабой производной'''. Аналогично поступают с дифференциалами. Далее будет показано, что из дифференцируемость по Фреше следует дифференцируемость по Гато, но не наоборот, что объясняет названия.

'''2.''' Дифференциал Гато $$DF(x,h)$$ может и не быть линеен по $$h$$. Если же такая линейность имеет место, то
\begin{equation*}
DF(x,h) = F'_c(x)h,
\end{equation*}
где $$F'_c(x)h$$ — ограниченный линейный оператор, его обычно называют '''производной Гато'''.

'''3.''' Теорема о дифференцировании сложной функции, вообще говоря, неверна для производной Гато.

'''Пример''': рассмотрим функции
\begin{equation*}
f(x_1, x_2) = \begin{cases}\begin{array}{cc}
\dfrac{x_1^3}{x_2}, & x_2\neq0, \\
0, & x_2=0.
\end{array}\end{cases},\qquad
g(t) = (t, t^2) \in \mathbb{R}^2
\end{equation*}
и их композицию $$l(t) = f(g(t)) = f(t, t^2)$$. Дифференциалы Гато в точке $$x=(0,0)$$ при приращениях $$h=(h_1,h_2), h_2\neq 0, a\neq0$$ соответственно равны
\begin{align*}
Df(x, h) &= \lim_{t\to0}\dfrac{f(th_1, th_2) - f(0, 0)}{t} = \lim_{t\to0} \dfrac{th_1^3}{h_2} = 0. \\
Dg(0, a) &= \lim_{t\to0}\dfrac{||(ta,t^2a^2)||}{t} = \lim_{t\to0}\dfrac{\sqrt{t^2a^2+t^4a^4}}{t} = |a|. \\
Dl(x, a) &= \lim_{t\to0}\dfrac{l(ta, ta) - l(0, 0)}{t} = \lim_{t\to0} \dfrac{\frac{t^3a^3}{t^2a^2}}{t} = a.
\end{align*}
Следовательно, $$Dl(t, a) \neq Dg(f(x), a) \cdot Df(x, h)$$ при $$t\in\mathbb{R}, h\neq 0, a\neq 0$$.

== Формула конечных приращений ==

'''Теорема 2.''' Пусть $$U\subset X$$ — открытое множество, отрезок $$[x_0, x_1] \subset U$$, отображение $$F: U\mapsto Y$$ дифференцируемо по Гато и имеет слабую производную $$F'_c(x)$$ в каждой точке отрезка $$[x_0, x_1]$$. Тогда
\begin{equation*}
||F(x_1) - F(x_0)|| \leqslant \sup_{0\leqslant\theta\leqslant1}||F'_c(x_0+\theta(x_1-x_0))||\cdot||x_1-x_0||.
\end{equation*}

'''Доказательство.''' Положим $$\Delta x = x_1-x_0$$. Рассмотрим произвольный линейный ограниченный ненулевой функционал $$\phi\in Y^*$$ и числовую функцию
\begin{equation*}
f(t) = \phi(F(x_0+t\Delta x)),\quad t\in[0,1].
\end{equation*}
Эта функция дифференцируема по $$t$$, ведь в выражении
\begin{equation*}
\dfrac{f(t+\Delta t) - f(t)}{\Delta t} = \phi\left( \dfrac{F(x_0+t\Delta x + \Delta t\Delta x) - F(x_0 + t\Delta x)}{\Delta t} \right)
\end{equation*}
можно перейти к пределу под знаком непрерывного линейного функционала $$\phi$$. В итоге получим
\begin{equation*}
f'(t) = \phi\left(F'_c(x_0+t\Delta x)\Delta x\right).
\end{equation*}
Далее, для функции $$f(t)$$ применим формулу конечных приращений Лагранжа: $$f(1)=f(0)+f'(\theta),~\theta\in[0,1]$$. Следовательно, для произвольного $$\phi\in Y^*$$ получим
\begin{equation*}
\phi(F(x)-F(x_0)) = \phi(F'_c(x_0+\theta\Delta x)\Delta x).
\end{equation*}
Применим формулу конечных приращений
\begin{equation*}
|\phi(F(x)-F(x_0))| \leqslant ||\phi||\cdot \sup_{\theta\in[0,1]} ||F'_c(x_0+\theta\Delta x)||\cdot||\Delta x||.
\end{equation*}
'''Напоминание.''' ([[Теорема Хана-Банаха и её следствия|следствие из теоремы Хана Банаха]]). Пусть $$X$$ — нормированное пространство, $$x\in X$$. Тогда существует вектор $$x^*\in X^*$$ такой, что $$||x^*||=1, x^*(x)=||x||$$.
Выберем теперь ненулевой функционал $$\phi$$ так, что (такой функционал $$\phi$$ существует в силу следствия их теоремы Хана Банаха)
\begin{equation*}
\phi(F(x)-F(x_0)) = ||\phi||\cdot||F(x)-F(x_0)||.
\end{equation*}
Следовательно,
\begin{equation*}
||F(x_1) - F(x_0)|| \leqslant \sup_{0\leqslant\theta\leqslant1}||F'_c(x_0+\theta(x_1-x_0))||\cdot||x_1-x_0||,
\end{equation*}
что и требовалось доказать. $$\blacksquare$$

'''Замечание.''' Если $$F: X\mapsto\mathbb R$$, то существует $$x\in[x_0,x_1]:~F(x_1)-F(x_0)=F'(x)(x_1-x_0)$$.

== Связь производных Гато и Фреше ==

'''Теорема 3.''' Если отображение $$F$$ имеет сильную производную (Фреше), то оно имеет и слабую производную (Гато), причем сильная и слабая производные совпадают.

'''Доказательство.''' Действительно, выберем приращение $$\tilde h = th$$:
\begin{align*}
& F(x+th) - f(x) = F'(x)(th) + o(th) = tF'(x)h + o(th). \Longrightarrow \\
\Longrightarrow & \dfrac{F(x+th) - F(x)}{t} = F'(x)h + \dfrac{o(th)}{t} \to F'(x)h,~ t\to0.
\end{align*}$$\blacksquare$$

'''Пример'''. Из слабой дифференцируемости отображения $$F$$ не следует его сильная дифференцируемость. Рассмотрим $$F: \mathbb{R}^2\mapsto\mathbb{R}$$:
\begin{equation*}
f(x_1, x_2) = \begin{cases}\begin{array}{cc}
\dfrac{x_1^3x_2}{x_1^4+x_2^2}, & (x_1,x_2)\neq(0,0), \\
0, & (x_1,x_2)=(0,0).
\end{array}\end{cases}
\end{equation*}
Эта функция непрерывна в $$\mathbb{R}^2\setminus\{(0,0)\}$$.

В точке $$(0,0)$$ её производная Гато существует и равен $$0$$, поскольку
\begin{equation*}
\lim_{t\to0} \dfrac{f(0+th)-f(0)}{t} = \lim_{t\to0}\dfrac{t^4h_1^3h_2}{t^5h_1^4+t^3h_2^2} = 0.
\end{equation*}
Однако этот дифференциал не является главной линейной частью приращения функции в $$(0,0)$$.

При $$h_2=h_1^2$$ имеем
\begin{equation*}
\lim_{||h||\to0} \dfrac{f(h_1,h_2)-f(0,0)}{||h||} = \lim_{h_1\to0}\dfrac{h_1^5}{2h_1^4\sqrt{h_1^2+h_1^4}} = \dfrac{1}{2} \neq 0.
\end{equation*}

Для функций с линейной непрерывной по $$x$$ производной Гато $$F'_c(x)$$ слабая и сильная производные совпадают. Об этом утверждает следующая теорема.

'''Теорема 4.''' Если слабая производная $$F'_c(x)$$ отображения $$F$$ существует в некоторой окрестности $$U(x_0)$$, является непрерывной по $$x$$ в точке $$x_0$$, то сильная производная $$F'(x_0)$$ существует и совпадает со слабой.

'''Доказательство.''' Выберем $$\varepsilon>0$$ и $$\delta>0$$ так, чтобы при $$||h||<\delta$$ выполнялось неравенство:
\begin{equation*}
||F'_c(x_0+h) - F'_c(x_0)|| \leqslant \varepsilon.
\end{equation*}
Применим формулу конечных приращений и получим
\begin{equation*}
||F(x_0+h) - F(x_0) - F'_c(x_0)h|| \leqslant \sup_{\theta\in[0,1]}||F'_c(x_0+\theta h)-F'_c(x_0)||\cdot||h|| \leqslant \varepsilon||h||.
\end{equation*}
Следовательно, сильная производная существует по определению и совпадает со слабой. $$\blacksquare$$

== Примеры вычисления дифференциалов ==

Рассмотрим $$H$$ — [[Гильбертово пространство|гильбертово пространство]], наделённое скалярным произведением $$\langle \cdot,\cdot \rangle_H$$, и $$J(u):H\mapsto\mathbb{R}$$.

1. $$J(u)=\langle c,u \rangle_H$$.
\begin{gather*}
J(u+h)-J(u) = \langle c,u+h \rangle_H - \langle c,u \rangle_H = \langle c,h \rangle_H = J'(u)h. \\
\Longrightarrow J'(u) = c.
\end{gather*}

2. $$J(u)=||u||^2_H = \langle u,u \rangle_H$$.
\begin{gather*}
J(u+h)-J(u) = \langle u+h,u+h \rangle_H - \langle u,u \rangle_H = 2\langle u,h \rangle_H. \\
\Longrightarrow J'(u) = 2u.
\end{gather*}

3. $$J(u)=\langle Au,u \rangle_H$$, где $$A: H\mapsto H$$ — произвольный оператор, $$A^*$$ — [[Сопряжённый линейный оператор|сопряженный оператор]] к оператору $$A$$: $$\langle Au,v \rangle_H = \langle u,A^*v \rangle_H,~ \forall u,v\in H$$.
\begin{gather*}
J(u+h)-J(u) = \langle A(u+h),u+h \rangle_H - \langle Au,u \rangle_H = \langle (A+A^*)u,h \rangle_H + \underbrace{\langle Ah,h \rangle_H}_{\to0}. \\
\Longrightarrow J'(u) = (A+A^*)u.
\end{gather*}

4. $$J(u)=||Au-f||^2 = \langle Au-f,Au-f \rangle_H$$, где $$f\in H$$ и $$A: H\mapsto H$$ — произвольный оператор.
\begin{align*}
\langle Au-f,Au-f \rangle_H &= \langle Au - f,Au \rangle_H - \langle Au - f,f \rangle_H = \\
&= \langle Au,Au \rangle_H - \langle f,Au \rangle_H - \langle Au, f \rangle_H + \langle f,f \rangle_H = \\
&= \langle Au,Au \rangle_H - 2\langle f,Au \rangle_H + \langle f,f \rangle_H.
\end{align*}

\begin{align*}
\langle A(u+h)-f,A(u+h)-f \rangle_H &= \langle A(u+h),A(u+h) \rangle_H - 2\langle f,A(u+h) \rangle_H + \langle f,f \rangle_H.
\end{align*}

\begin{align*}
J(u+h)-J(u) &= \langle A(u+h)-f,A(u+h)-f \rangle_H - \langle Au-f,Au-f \rangle_H = \\
&= \left(\langle A(u+h),A(u+h) \rangle_H - \langle Au,Au \rangle_H\right) - 2(\langle f,A(u+h) \rangle_H - \langle f,Au \rangle_H) = \\
&= \langle (A^*A + AA^*)u,h \rangle_H - 2\langle f,Ah \rangle_H + o(h) = \\
&= \langle (A^*A + AA^*)u-2A^*f,h \rangle_H + o(h). \\
&\Longrightarrow J'(u) = (A^*A + AA^*)u-2A^*f.
\end{align*}

== Список литературы ==

'''1.''' ''Колмогоров A.Н., Фомин С.В.'' Элементы теории функций и функционального анализа. 7-е изд. М.: ФИЗМАТЛИТ, 2004.

'''2.''' ''Треногин В.А.'' Функциональный анализ: учебник. 3-е изд. М.: ФИЗМАТЛИТ, 2002.

'''3.''' Лекции по курсу "Методы оптимизации", 2024.

Производные и дифференциалы Фреше

2025-12-18T13:16:03Z

Arthur24: /* Определение дифференцируемости по Фреше */

__TOC__

== Определение дифференцируемости по Фреше ==

Рассмотрим $$X, Y$$ — нормированные пространства с нормами $$||\cdot||_1, ||\cdot||_2$$ соответственно и $$F: X \mapsto Y$$ — определенное на некотором открытом подмножестве $$O\subset X$$ отображение (например, $$O$$ — открытый шар заданного радиуса).

Обозначим $$\mathcal{L}(X,Y)$$ — множество линейных ограниченных операторов $$L: X \mapsto Y$$.

'''Определение.'''
Отображение $$F: X \mapsto Y$$ называется '''дифференцируемым по Фреше''' в точке $$x\in O$$, если существует линейный ограниченный оператор $$L_x \in \mathcal{L}(X,Y)$$
\begin{equation}\label{main_def}
\forall\varepsilon > 0~\exists\delta=\delta(\varepsilon):~ \forall h\in X:~ ||h||_1<\delta \quad\Longrightarrow\quad ||F(x+h)-F(x)-L_{x}h||_2 \leqslant \varepsilon||h||_1
\end{equation}
или, что то же самое, но сокращённо,
\begin{equation*}
F(x+h) - F(x) - L_xh = o(h),
\end{equation*}
где $$o(h)$$ — это такое отображение, действующее из $$X$$ в $$Y$$, что
\begin{equation*}
\lim_{||h||_1\to 0}\dfrac{||o(h)||_2}{||h||_1} = 0.
\end{equation*}
При этом линейный оператор $$L_x(\cdot)$$ называется '''производной Фреше''' отображения $$F$$ в точке $$x$$, а выражение $$L_xh:=L_x(h)$$ — '''дифференциалом Фреше'''.

Производная Фреше составляет главную линейную часть приращения отображения $$F$$.

Всюду далее будем опускать индексы среди $$||\cdot||_1, ||\cdot||_2$$, подразумевая подходящую аргументу норму.

== Свойства дифференцируемости по Фреше ==

Далее обозначим производную Фреше в точке $$x$$ отображения $$F$$ как $$F'(x)$$. Под этим символом понимаем линейный оператор $$L_x(\cdot)$$.

'''1.''' Если отображение $$F$$ дифференцируемо по Фреше в точке $$x$$, то $$F$$ является непрерывным в точке $$x$$.

'''Доказательство.'''
Следует из \eqref{main_def} и ограниченности производной Фреше.

'''2.''' Если отображение $$F$$ дифференцируемо по Фреше в точке $$x$$, то производная Фреше определяется единственным образом.

'''Доказательство.'''
Допустим, что $$\exists L_1, L_2 \in \mathcal{L}(X,Y)$$, которые удовлетворяют определению \eqref{main_def}. Тогда выполняется равенство $$||L_1h - L_2h|| = o(h)$$, что возможно только при $$L_1=L_2$$.

'''3.''' Если $$F(x)=\operatorname{const}$$, то $$F'(x)\equiv 0$$. Т.е. $$F'(x)$$ — нулевой оператор.

'''Доказательство.'''
По определению получим, что $$L_xh = o(h)$$. Это возможно только если линейный оператор $$L_x$$ является нулевым.

'''4.''' Производная Фреше линейного ограниченного (следовательно, непрерывного) отображения $$L$$ совпадает с самим отображением: $$L'(x) = L, \forall x.$$

'''Доказательство.'''
По определению линейности $$L$$ имеем, что $$L(x+h) - L(x) = L(h)$$, откуда следует требуемое.

'''5.''' Пусть $$F$$ и $$G$$ — непрерывные отображения, действующие из $$X$$ в $$Y$$. Если $$F$$ и $$G$$ дифференцируемы по Фреше в точке $$x_0$$, то и отображения $$F+G,~\alpha F$$ ($$\alpha$$ — число, т.е. элемент поля, над которым определено пространство $$Y$$) тоже дифференцируемы в этой точке, причем их производные Фреше вычисляются по формуле:
\begin{align*}
(F + G)'(x_0) &= F'(x_0) + G'(x_0), \\
(\alpha F)'(x_0) &= \alpha F'(x_0)
\end{align*}

'''Доказательство.'''
Из определения суммы операторов и произведения операторов на число сразу получаем, что
\begin{align*}
(F+G)(x_0+h) &= F(x_0+h) + G(x_0+h) = F(x_0) + G(x_0) + F'(x_0)h + G'(x_0)h + o_1(h), \\
\alpha F(x_0+h) &= \alpha F(x_0) + \alpha F'(x_0)h + o_2(h),
\end{align*}
откуда следует требуемое.

'''6. (правило Лейбница).''' Пусть $$F: U\mapsto Y, G: U\mapsto\mathbb{R}$$ дифференцируемы по Фреше в точке $$x_0$$. Тогда отображение $$G(x)=g(x)F(x)$$ дифференцируемо по Фреше в точке $$x_0$$, причём
\begin{equation*}
G'(x_0)h = g'(x_0)h\cdot F(x_0) + g(x_0)\cdot F'(x_0)h.
\end{equation*}

'''Доказательство.'''
Пусть отображения дифференцируемы по Фреше. Тогда при $$||h||\to0$$ выполняется
\begin{align*}
G(x_0+h) = g(x_0+h)F(x_0+h) &= (g(x_0)+g'(x_0)h + o(h))\cdot(F(x_0)+F'(x_0)h + o(h)) = \\
&= g(x_0)F(x_0) + g'(x_0)h\cdot F(x_0) + g(x_0)\cdot F'(x_0)h + o(h).
\end{align*}

== Производная Фреше сложной функции ==

Под понятием дифференцируемости далее подразумеваем дифференцируемость в смысле Фреше, если не указано иначе.

'''Теорема 1.'''
Пусть $$X,Y,Z$$ — нормированные пространства, $$U(x_0)$$ — окрестность точки $$x_0\in X$$, $$F$$ — отображение этой окрестности в $$Y$$, $$y_0 = F(x_0)$$, $$V(y_0)$$ — окрестность точки $$y_0 \in Y$$ и $$G$$ — отображение этой окрестности в $$Z$$. Тогда, если отображение $$F$$ дифференцируемо в точке $$x_0$$, а $$G$$ дифференцируемо в точке $$y_0$$, то отображение $$H = G\circ F$$, определенное в некоторой окрестности точки $$x_0$$ также является дифференцируемым в точке $$x_0$$, причём
\begin{equation}\label{chain_rule}
H'(x_0) = G'(y_0)\cdot F'(x_0).
\end{equation}

'''Доказательство.'''
Рассмотрим $$\varepsilon_1,\varepsilon_2 > 0$$. По определению дифференцируемости имеем
\begin{align*}
\exists\delta_1(\varepsilon_1) > 0: ~\forall \xi:||\xi||<\delta_1 &~\Longrightarrow~ ||F(x_0+\xi) - F(x_0) - F'(x_0)\xi|| < \varepsilon_1, \\
\exists\delta_2(\varepsilon_2) > 0: ~\forall \eta:||\eta||<\delta_2 &~\Longrightarrow~ ||G(y_0+\eta) - G(y) - G'(y_0)\eta|| < \varepsilon_2.
\end{align*}
Выберем $$\delta = \min(\delta_1, \delta_2),~\varepsilon=\max(\varepsilon_1,\varepsilon_2)$$. Зафиксируем $$\xi,\eta:~ ||\xi||<\delta, ||\eta||<\delta$$.

Отметим, что $$F'(x_0), G'(y_0)$$ — ограниченные линейные операторы. Тогда существует отображение $$G'(F(x_0))\cdot F'(x_0) =: M(x_0)$$, оно является ограниченным, причём
\begin{align*}
H(x_0+\xi) &= G(F(x_0+\xi)) = G(F(x_0) + F'(x_0)\xi + o(\xi)) = G(F(x_0)) + G'(F(x_0))(F'(x_0)\xi + o_1(\xi)) + o_2(F'(x_0)\xi + o_1(\xi)) = \\
&= H(x_0) + G'(F(x_0))F'(x_0)\xi + o_3(\xi).
\end{align*}

'''Замечание.'''
Если $$F, G, H$$ — числовые функции, то формула \eqref{chain_rule} превращается в известное из курса математического анализа правило дифференцирования сложной функции.

== Определение дифференцируемости по Гато ==

Пусть снова дано отображение $$F: X\mapsto Y$$.

'''Определение.'''
'''Дифференциалом Гато''' отображения $$F$$ в точке $$x$$ при приращении $$h$$ называется предел
\begin{equation*}
DF(x,h) = \dfrac{d}{dt}F(x+th)\bigg\vert_{t=0} = \lim_{t\to 0}\dfrac{F(x+th)-F(x)}{t},
\end{equation*}
где подразумевается сходимость по норме в пространстве $$Y$$:
\begin{equation*}
\forall \{ t_n \}_{n=1}^{\infty}: t_n\to0 \quad\Longrightarrow\quad \bigg|\bigg|\dfrac{F(x+t_nh)-F(x)}{t_n} - DF(x, h) \bigg|\bigg| \to 0.
\end{equation*}

'''Пример.'''
Пусть $$F:\mathbb{R}^n\mapsto\mathbb{R}^m$$ дифференцируемо по Гато в точке $$x_0$$ и имеет слабую производную $$F'_c(x_0): \mathbb{R}^n\mapsto\mathbb{R}^m$$.

Тогда слабая производная задаётся матрицей $$A=(a_{ij})_{i=\overline{1,n},j=\overline{1,m}}$$, где
\begin{equation*}
a_{ij} = \dfrac{\partial F_i}{\partial x_j}(x_0),
\end{equation*}
т.е. $$A$$ — матрица Якоби.

'''Замечания.'''
'''1.''' Иногда в литературе называют производную Фреше '''сильной производной''', а производную Гато — '''слабой производной'''. Аналогично поступают с дифференциалами. Далее будет показано, что из дифференцируемость по Фреше следует дифференцируемость по Гато, но не наоборот, что объясняет названия.

'''2.''' Дифференциал Гато $$DF(x,h)$$ может и не быть линеен по $$h$$. Если же такая линейность имеет место, то
\begin{equation*}
DF(x,h) = F'_c(x)h,
\end{equation*}
где $$F'_c(x)h$$ — ограниченный линейный оператор, его обычно называют '''производной Гато'''.

'''3.''' Теорема о дифференцировании сложной функции, вообще говоря, неверна для производной Гато.

'''Пример''': рассмотрим функции
\begin{equation*}
f(x_1, x_2) = \begin{cases}\begin{array}{cc}
\dfrac{x_1^3}{x_2}, & x_2\neq0, \\
0, & x_2=0.
\end{array}\end{cases},\qquad
g(t) = (t, t^2) \in \mathbb{R}^2
\end{equation*}
и их композицию $$l(t) = f(g(t)) = f(t, t^2)$$. Дифференциалы Гато в точках $$x=(0,0)$$ при приращениях $$h=(h_1,h_2), h_2\neq 0, a\neq0$$ равен
\begin{align*}
Df(x, h) &= \lim_{t\to0}\dfrac{f(th_1, th_2) - f(0, 0)}{t} = \lim_{t\to0} \dfrac{th_1^3}{h_2} = 0. \\
Dg(0, a) &= \lim_{t\to0}\dfrac{||(ta,t^2a^2)||}{t} = \lim_{t\to0}\dfrac{\sqrt{t^2a^2+t^4a^4}}{t} = |a|. \\
Dl(x, a) &= \lim_{t\to0}\dfrac{l(ta, ta) - l(0, 0)}{t} = \lim_{t\to0} \dfrac{\frac{t^3a^3}{t^2a^2}}{t} = a.
\end{align*}
Следовательно, $$Dl(t, a) \neq Dg(f(x), a) \cdot Df(x, h)$$ при $$t\in\mathbb{R}, h\neq 0, a\neq 0$$.

== Формула конечных приращений ==

'''Теорема 2.''' Пусть $$U\subset X$$ — открытое множество, отрезок $$[x_0, x_1] \subset U$$, отображение $$F: U\mapsto Y$$ дифференцируемо по Гато и имеет слабую производную $$F'_c(x)$$ в каждой точке отрезка $$[x_0, x_1]$$. Тогда
\begin{equation*}
||F(x_1) - F(x_0)|| \leqslant \sup_{0\leqslant\theta\leqslant1}||F'_c(x_0+\theta(x_1-x_0))||\cdot||x_1-x_0||.
\end{equation*}

'''Доказательство.''' Положим $$\Delta x = x_1-x_0$$. Рассмотрим произвольный линейный ограниченный ненулевой функционал $$\phi\in Y^*$$ и числовую функцию
\begin{equation*}
f(t) = \phi(F(x_0+t\Delta x)),\quad t\in[0,1].
\end{equation*}
Эта функция дифференцируема по $$t$$, ведь в выражении
\begin{equation*}
\dfrac{f(t+\Delta t) - f(t)}{\Delta t} = \phi\left( \dfrac{F(x_0+t\Delta x + \Delta t\Delta x) - F(x_0 + t\Delta x)}{\Delta t} \right)
\end{equation*}
можно перейти к пределу под знаком непрерывного линейного функционала $$\phi$$. В итоге получим
\begin{equation*}
f'(t) = \phi\left(F'_c(x_0+t\Delta x)\Delta x\right).
\end{equation*}
Далее, для функции $$f(t)$$ применим формулу конечных приращений Лагранжа: $$f(1)=f(0)+f'(\theta),~\theta\in[0,1]$$. Следовательно, для произвольного $$\phi\in Y^*$$ получим
\begin{equation*}
\phi(F(x)-F(x_0)) = \phi(F'_c(x_0+\theta\Delta x)\Delta x).
\end{equation*}
Применим формулу конечных приращений
\begin{equation*}
|\phi(F(x)-F(x_0))| \leqslant ||\phi||\cdot \sup_{\theta\in[0,1]} ||F'_c(x_0+\theta\Delta x)||\cdot||\Delta x||.
\end{equation*}
'''Напоминание.''' (следствие из теоремы Хана Банаха). Пусть $$X$$ — нормированное пространство, $$x\in X$$. Тогда существует вектор $$x^*\in X^*$$ такой, что $$||x^*||=1, x^*(x)=||x||$$.
Выберем теперь ненулевой функционал $$\phi$$ так, что (такой функционал $$\phi$$ существует в силу следствия их теоремы Хана Банаха)
\begin{equation*}
\phi(F(x)-F(x_0)) = ||\phi||\cdot||F(x)-F(x_0)||.
\end{equation*}
Следовательно,
\begin{equation*}
||F(x_1) - F(x_0)|| \leqslant \sup_{0\leqslant\theta\leqslant1}||F'_c(x_0+\theta(x_1-x_0))||\cdot||x_1-x_0||,
\end{equation*}
что и требовалось доказать.

'''Замечание.''' Если $$F: X\mapsto\mathbb R$$, то существует $$x\in[x_0,x_1]:~F(x_1)-F(x_0)=F'(x)(x_1-x_0)$$.

== Связь производных Гато и Фреше ==

'''Теорема 3.''' Если отображение $$F$$ имеет сильную производную (Фреше), то оно имеет и слабую производную (Гато), причем сильная и слабая производные совпадают.

'''Доказательство.''' Действительно, выберем приращение $$\tilde h = th$$:
\begin{align*}
& F(x+th) - f(x) = F'(x)(th) + o(th) = tF'(x)h + o(th). \Longrightarrow \\
\Longrightarrow & \dfrac{F(x+th) - F(x)}{t} = F'(x)h + \dfrac{o(th)}{t} \to F'(x)h,~ t\to0.
\end{align*}

'''Пример'''. Из слабой дифференцируемости отображения $$F$$ не следует его сильная дифференцируемость. Рассмотрим $$F: \mathbb{R}^2\mapsto\mathbb{R}$$:
\begin{equation*}
f(x_1, x_2) = \begin{cases}\begin{array}{cc}
\dfrac{x_1^3x_2}{x_1^4+x_2^2}, & (x_1,x_2)\neq(0,0), \\
0, & (x_1,x_2)=(0,0).
\end{array}\end{cases}
\end{equation*}
Эта функция непрерывна в $$\mathbb{R}^2\setminus\{(0,0)\}$$.

В точке $$(0,0)$$ её производная Гато существует и равен $$0$$, поскольку
\begin{equation*}
\lim_{t\to0} \dfrac{f(0+th)-f(0)}{t} = \lim_{t\to0}\dfrac{t^4h_1^3h_2}{t^5h_1^4+t^3h_2^2} = 0.
\end{equation*}
Однако этот дифференциал не является главной линейной частью приращения функции в $(0,0)$.

При $$h_2=h_1^2$$ имеем
\begin{equation*}
\lim_{||h||\to0} \dfrac{f(h_1,h_2)-f(0,0)}{||h||} = \lim_{h_1\to0}\dfrac{h_1^5}{2h_1^4\sqrt{h_1^2+h_1^4}} = \dfrac{1}{2} \neq 0.
\end{equation*}

Для функций с линейной непрерывной по $$x$$ производной Гато $$F'_c(x)$$ слабая и сильная производные совпадают. Об этом утверждает следующая теорема.

'''Теорема 4.''' Если слабая производная $$F'_c(x)$$ отображения $$F$$ существует в некоторой окрестности $$U(x_0)$$, является непрерывной по $$x$$ в точке $$x_0$$, то сильная производная $$F'(x_0)$$ существует и совпадает со слабой.

'''Доказательство.''' Выберем $$\varepsilon>0$$ и $$\delta>0$$ так, чтобы при $$||h||<\delta$$ выполнялось неравенство:
\begin{equation*}
||F'_c(x_0+h) - F'_c(x_0)|| \leqslant \varepsilon.
\end{equation*}
Применим формулу конечных приращений и получим
\begin{equation*}
||F(x_0+h) - F(x_0) - F'_c(x_0)h|| \leqslant \sup_{\theta\in[0,1]}||F'_c(x_0+\theta h)-F'_c(x_0)||\cdot||h|| \leqslant \varepsilon||h||.
\end{equation*}
Следовательно, сильная производная существует по определению и совпадает со слабой.

== Примеры вычисления дифференциалов ==

Рассмотрим $$H$$ — гильбертово пространство, наделённое скалярным произведением $$\langle \cdot,\cdot \rangle_H$$, и $$J(u):H\mapsto\mathbb{R}$$.

1. $$J(u)=\langle c,u \rangle_H$$.
\begin{gather*}
J(u+h)-J(u) = \langle c,u+h \rangle_H - \langle c,u \rangle_H = \langle c,h \rangle_H = J'(u)h. \\
\Longrightarrow J'(u) = c.
\end{gather*}

2. $$J(u)=||u||^2_H = \langle u,u \rangle_H$$.
\begin{gather*}
J(u+h)-J(u) = \langle u+h,u+h \rangle_H - \langle u,u \rangle_H = 2\langle u,h \rangle_H. \\
\Longrightarrow J'(u) = 2u.
\end{gather*}

3. $$J(u)=\langle Au,u \rangle_H$$, где $$A: H\mapsto H$$ — произвольный оператор, $$A^*$$ — сопряженный к $$A$$ оператор: $$\langle Au,v \rangle_H = \langle u,A^*v \rangle_H,~ \forall u,v\in H$$.
\begin{gather*}
J(u+h)-J(u) = \langle A(u+h),u+h \rangle_H - \langle Au,u \rangle_H = \langle (A+A^*)u,h \rangle_H + \underbrace{\langle Ah,h \rangle_H}_{\to0}. \\
\Longrightarrow J'(u) = (A+A^*)u.
\end{gather*}

4. $$J(u)=||Au-f||^2 = \langle Au-f,Au-f \rangle_H$$, где $$f\in H$$ и $$A: H\mapsto H$$ — произвольный оператор.
\begin{align*}
\langle Au-f,Au-f \rangle_H &= \langle Au - f,Au \rangle_H - \langle Au - f,f \rangle_H = \\
&= \langle Au,Au \rangle_H - \langle f,Au \rangle_H - \langle Au, f \rangle_H + \langle f,f \rangle_H = \\
&= \langle Au,Au \rangle_H - 2\langle f,Au \rangle_H + \langle f,f \rangle_H.
\end{align*}

\begin{align*}
\langle A(u+h)-f,A(u+h)-f \rangle_H &= \langle A(u+h),A(u+h) \rangle_H - 2\langle f,A(u+h) \rangle_H + \langle f,f \rangle_H.
\end{align*}

\begin{align*}
J(u+h)-J(u) &= \langle A(u+h)-f,A(u+h)-f \rangle_H - \langle Au-f,Au-f \rangle_H = \\
&= \left(\langle A(u+h),A(u+h) \rangle_H - \langle Au,Au \rangle_H\right) - 2(\langle f,A(u+h) \rangle_H - \langle f,Au \rangle_H) = \\
&= \langle (A^*A + AA^*)u,h \rangle_H - 2\langle f,Ah \rangle_H + o(h) = \\
&= \langle (A^*A + AA^*)u-2A^*f,h \rangle_H + o(h). \\
&\Longrightarrow J'(u) = (A^*A + AA^*)u-2A^*f.
\end{align*}

== Список литературы ==

'''1.''' ''Колмогоров A.Н., Фомин С.В.'' Элементы теории функций и функционального анализа. 7-е изд. М.: ФИЗМАТЛИТ, 2004.

'''2.''' ''Треногин В.А.'' Функциональный анализ: учебник. 3-е изд. М.: ФИЗМАТЛИТ, 2002.

'''3.''' Лекции по курсу "Методы оптимизации", 2024.

Производные и дифференциалы Фреше

2025-12-18T13:13:40Z

Arthur24: Заменены три дефиса на тире.

__TOC__

== Определение дифференцируемости по Фреше ==

Рассмотрим $$X, Y$$ — нормированные пространства с нормами $$||\cdot||_1, ||\cdot||_2$$ соответственно и $$F: X \mapsto Y$$ — определенное на некотором открытом подмножестве $$O\subset X$$ отображение (например, $$O$$ — открытый шар заданного радиуса).

Обозначим $$\mathcal{L}_x(X,Y)$$ — множество линейных ограниченных операторов $$L: X \mapsto Y$$.

'''Определение.'''
Отображение $$F: X \mapsto Y$$ называется '''дифференцируемым по Фреше''' в точке $$x\in O$$, если существует линейный ограниченный оператор $$L_x \in \mathcal{L}(X,Y)$$
\begin{equation}\label{main_def}
\forall\varepsilon > 0~\exists\delta=\delta(\varepsilon):~ \forall h\in X:~ ||h||_1<\delta \quad\Longrightarrow\quad ||F(x+h)-F(x)-L_{x}h||_2 \leqslant \varepsilon||h||_1
\end{equation}
или, что то же самое, но сокращённо,
\begin{equation*}
F(x+h) - F(x) - L_xh = o(h),
\end{equation*}
где $$o(h)$$ — это такое отображение, действующее из $$X$$ в $$Y$$, что
\begin{equation*}
\lim_{||h||_1\to 0}\dfrac{||o(h)||_2}{||h||_1} = 0.
\end{equation*}
При этом линейный оператор $$L_x(\cdot)$$ называется '''производной Фреше''' отображения $$F$$ в точке $$x$$, а выражение $$L_xh:=L_x(h)$$ — '''дифференциалом Фреше'''.

Производная Фреше составляет главную линейную часть приращения отображения $$F$$.

Всюду далее будем опускать индексы среди $$||\cdot||_1, ||\cdot||_2$$, подразумевая подходящую аргументу норму.

== Свойства дифференцируемости по Фреше ==

Далее обозначим производную Фреше в точке $$x$$ отображения $$F$$ как $$F'(x)$$. Под этим символом понимаем линейный оператор $$L_x(\cdot)$$.

'''1.''' Если отображение $$F$$ дифференцируемо по Фреше в точке $$x$$, то $$F$$ является непрерывным в точке $$x$$.

'''Доказательство.'''
Следует из \eqref{main_def} и ограниченности производной Фреше.

'''2.''' Если отображение $$F$$ дифференцируемо по Фреше в точке $$x$$, то производная Фреше определяется единственным образом.

'''Доказательство.'''
Допустим, что $$\exists L_1, L_2 \in \mathcal{L}(X,Y)$$, которые удовлетворяют определению \eqref{main_def}. Тогда выполняется равенство $$||L_1h - L_2h|| = o(h)$$, что возможно только при $$L_1=L_2$$.

'''3.''' Если $$F(x)=\operatorname{const}$$, то $$F'(x)\equiv 0$$. Т.е. $$F'(x)$$ — нулевой оператор.

'''Доказательство.'''
По определению получим, что $$L_xh = o(h)$$. Это возможно только если линейный оператор $$L_x$$ является нулевым.

'''4.''' Производная Фреше линейного ограниченного (следовательно, непрерывного) отображения $$L$$ совпадает с самим отображением: $$L'(x) = L, \forall x.$$

'''Доказательство.'''
По определению линейности $$L$$ имеем, что $$L(x+h) - L(x) = L(h)$$, откуда следует требуемое.

'''5.''' Пусть $$F$$ и $$G$$ — непрерывные отображения, действующие из $$X$$ в $$Y$$. Если $$F$$ и $$G$$ дифференцируемы по Фреше в точке $$x_0$$, то и отображения $$F+G,~\alpha F$$ ($$\alpha$$ — число, т.е. элемент поля, над которым определено пространство $$Y$$) тоже дифференцируемы в этой точке, причем их производные Фреше вычисляются по формуле:
\begin{align*}
(F + G)'(x_0) &= F'(x_0) + G'(x_0), \\
(\alpha F)'(x_0) &= \alpha F'(x_0)
\end{align*}

'''Доказательство.'''
Из определения суммы операторов и произведения операторов на число сразу получаем, что
\begin{align*}
(F+G)(x_0+h) &= F(x_0+h) + G(x_0+h) = F(x_0) + G(x_0) + F'(x_0)h + G'(x_0)h + o_1(h), \\
\alpha F(x_0+h) &= \alpha F(x_0) + \alpha F'(x_0)h + o_2(h),
\end{align*}
откуда следует требуемое.

'''6. (правило Лейбница).''' Пусть $$F: U\mapsto Y, G: U\mapsto\mathbb{R}$$ дифференцируемы по Фреше в точке $$x_0$$. Тогда отображение $$G(x)=g(x)F(x)$$ дифференцируемо по Фреше в точке $$x_0$$, причём
\begin{equation*}
G'(x_0)h = g'(x_0)h\cdot F(x_0) + g(x_0)\cdot F'(x_0)h.
\end{equation*}

'''Доказательство.'''
Пусть отображения дифференцируемы по Фреше. Тогда при $$||h||\to0$$ выполняется
\begin{align*}
G(x_0+h) = g(x_0+h)F(x_0+h) &= (g(x_0)+g'(x_0)h + o(h))\cdot(F(x_0)+F'(x_0)h + o(h)) = \\
&= g(x_0)F(x_0) + g'(x_0)h\cdot F(x_0) + g(x_0)\cdot F'(x_0)h + o(h).
\end{align*}

== Производная Фреше сложной функции ==

Под понятием дифференцируемости далее подразумеваем дифференцируемость в смысле Фреше, если не указано иначе.

'''Теорема 1.'''
Пусть $$X,Y,Z$$ — нормированные пространства, $$U(x_0)$$ — окрестность точки $$x_0\in X$$, $$F$$ — отображение этой окрестности в $$Y$$, $$y_0 = F(x_0)$$, $$V(y_0)$$ — окрестность точки $$y_0 \in Y$$ и $$G$$ — отображение этой окрестности в $$Z$$. Тогда, если отображение $$F$$ дифференцируемо в точке $$x_0$$, а $$G$$ дифференцируемо в точке $$y_0$$, то отображение $$H = G\circ F$$, определенное в некоторой окрестности точки $$x_0$$ также является дифференцируемым в точке $$x_0$$, причём
\begin{equation}\label{chain_rule}
H'(x_0) = G'(y_0)\cdot F'(x_0).
\end{equation}

'''Доказательство.'''
Рассмотрим $$\varepsilon_1,\varepsilon_2 > 0$$. По определению дифференцируемости имеем
\begin{align*}
\exists\delta_1(\varepsilon_1) > 0: ~\forall \xi:||\xi||<\delta_1 &~\Longrightarrow~ ||F(x_0+\xi) - F(x_0) - F'(x_0)\xi|| < \varepsilon_1, \\
\exists\delta_2(\varepsilon_2) > 0: ~\forall \eta:||\eta||<\delta_2 &~\Longrightarrow~ ||G(y_0+\eta) - G(y) - G'(y_0)\eta|| < \varepsilon_2.
\end{align*}
Выберем $$\delta = \min(\delta_1, \delta_2),~\varepsilon=\max(\varepsilon_1,\varepsilon_2)$$. Зафиксируем $$\xi,\eta:~ ||\xi||<\delta, ||\eta||<\delta$$.

Отметим, что $$F'(x_0), G'(y_0)$$ — ограниченные линейные операторы. Тогда существует отображение $$G'(F(x_0))\cdot F'(x_0) =: M(x_0)$$, оно является ограниченным, причём
\begin{align*}
H(x_0+\xi) &= G(F(x_0+\xi)) = G(F(x_0) + F'(x_0)\xi + o(\xi)) = G(F(x_0)) + G'(F(x_0))(F'(x_0)\xi + o_1(\xi)) + o_2(F'(x_0)\xi + o_1(\xi)) = \\
&= H(x_0) + G'(F(x_0))F'(x_0)\xi + o_3(\xi).
\end{align*}

'''Замечание.'''
Если $$F, G, H$$ — числовые функции, то формула \eqref{chain_rule} превращается в известное из курса математического анализа правило дифференцирования сложной функции.

== Определение дифференцируемости по Гато ==

Пусть снова дано отображение $$F: X\mapsto Y$$.

'''Определение.'''
'''Дифференциалом Гато''' отображения $$F$$ в точке $$x$$ при приращении $$h$$ называется предел
\begin{equation*}
DF(x,h) = \dfrac{d}{dt}F(x+th)\bigg\vert_{t=0} = \lim_{t\to 0}\dfrac{F(x+th)-F(x)}{t},
\end{equation*}
где подразумевается сходимость по норме в пространстве $$Y$$:
\begin{equation*}
\forall \{ t_n \}_{n=1}^{\infty}: t_n\to0 \quad\Longrightarrow\quad \bigg|\bigg|\dfrac{F(x+t_nh)-F(x)}{t_n} - DF(x, h) \bigg|\bigg| \to 0.
\end{equation*}

'''Пример.'''
Пусть $$F:\mathbb{R}^n\mapsto\mathbb{R}^m$$ дифференцируемо по Гато в точке $$x_0$$ и имеет слабую производную $$F'_c(x_0): \mathbb{R}^n\mapsto\mathbb{R}^m$$.

Тогда слабая производная задаётся матрицей $$A=(a_{ij})_{i=\overline{1,n},j=\overline{1,m}}$$, где
\begin{equation*}
a_{ij} = \dfrac{\partial F_i}{\partial x_j}(x_0),
\end{equation*}
т.е. $$A$$ — матрица Якоби.

'''Замечания.'''
'''1.''' Иногда в литературе называют производную Фреше '''сильной производной''', а производную Гато — '''слабой производной'''. Аналогично поступают с дифференциалами. Далее будет показано, что из дифференцируемость по Фреше следует дифференцируемость по Гато, но не наоборот, что объясняет названия.

'''2.''' Дифференциал Гато $$DF(x,h)$$ может и не быть линеен по $$h$$. Если же такая линейность имеет место, то
\begin{equation*}
DF(x,h) = F'_c(x)h,
\end{equation*}
где $$F'_c(x)h$$ — ограниченный линейный оператор, его обычно называют '''производной Гато'''.

'''3.''' Теорема о дифференцировании сложной функции, вообще говоря, неверна для производной Гато.

'''Пример''': рассмотрим функции
\begin{equation*}
f(x_1, x_2) = \begin{cases}\begin{array}{cc}
\dfrac{x_1^3}{x_2}, & x_2\neq0, \\
0, & x_2=0.
\end{array}\end{cases},\qquad
g(t) = (t, t^2) \in \mathbb{R}^2
\end{equation*}
и их композицию $$l(t) = f(g(t)) = f(t, t^2)$$. Дифференциалы Гато в точках $$x=(0,0)$$ при приращениях $$h=(h_1,h_2), h_2\neq 0, a\neq0$$ равен
\begin{align*}
Df(x, h) &= \lim_{t\to0}\dfrac{f(th_1, th_2) - f(0, 0)}{t} = \lim_{t\to0} \dfrac{th_1^3}{h_2} = 0. \\
Dg(0, a) &= \lim_{t\to0}\dfrac{||(ta,t^2a^2)||}{t} = \lim_{t\to0}\dfrac{\sqrt{t^2a^2+t^4a^4}}{t} = |a|. \\
Dl(x, a) &= \lim_{t\to0}\dfrac{l(ta, ta) - l(0, 0)}{t} = \lim_{t\to0} \dfrac{\frac{t^3a^3}{t^2a^2}}{t} = a.
\end{align*}
Следовательно, $$Dl(t, a) \neq Dg(f(x), a) \cdot Df(x, h)$$ при $$t\in\mathbb{R}, h\neq 0, a\neq 0$$.

== Формула конечных приращений ==

'''Теорема 2.''' Пусть $$U\subset X$$ — открытое множество, отрезок $$[x_0, x_1] \subset U$$, отображение $$F: U\mapsto Y$$ дифференцируемо по Гато и имеет слабую производную $$F'_c(x)$$ в каждой точке отрезка $$[x_0, x_1]$$. Тогда
\begin{equation*}
||F(x_1) - F(x_0)|| \leqslant \sup_{0\leqslant\theta\leqslant1}||F'_c(x_0+\theta(x_1-x_0))||\cdot||x_1-x_0||.
\end{equation*}

'''Доказательство.''' Положим $$\Delta x = x_1-x_0$$. Рассмотрим произвольный линейный ограниченный ненулевой функционал $$\phi\in Y^*$$ и числовую функцию
\begin{equation*}
f(t) = \phi(F(x_0+t\Delta x)),\quad t\in[0,1].
\end{equation*}
Эта функция дифференцируема по $$t$$, ведь в выражении
\begin{equation*}
\dfrac{f(t+\Delta t) - f(t)}{\Delta t} = \phi\left( \dfrac{F(x_0+t\Delta x + \Delta t\Delta x) - F(x_0 + t\Delta x)}{\Delta t} \right)
\end{equation*}
можно перейти к пределу под знаком непрерывного линейного функционала $$\phi$$. В итоге получим
\begin{equation*}
f'(t) = \phi\left(F'_c(x_0+t\Delta x)\Delta x\right).
\end{equation*}
Далее, для функции $$f(t)$$ применим формулу конечных приращений Лагранжа: $$f(1)=f(0)+f'(\theta),~\theta\in[0,1]$$. Следовательно, для произвольного $$\phi\in Y^*$$ получим
\begin{equation*}
\phi(F(x)-F(x_0)) = \phi(F'_c(x_0+\theta\Delta x)\Delta x).
\end{equation*}
Применим формулу конечных приращений
\begin{equation*}
|\phi(F(x)-F(x_0))| \leqslant ||\phi||\cdot \sup_{\theta\in[0,1]} ||F'_c(x_0+\theta\Delta x)||\cdot||\Delta x||.
\end{equation*}
'''Напоминание.''' (следствие из теоремы Хана Банаха). Пусть $$X$$ — нормированное пространство, $$x\in X$$. Тогда существует вектор $$x^*\in X^*$$ такой, что $$||x^*||=1, x^*(x)=||x||$$.
Выберем теперь ненулевой функционал $$\phi$$ так, что (такой функционал $$\phi$$ существует в силу следствия их теоремы Хана Банаха)
\begin{equation*}
\phi(F(x)-F(x_0)) = ||\phi||\cdot||F(x)-F(x_0)||.
\end{equation*}
Следовательно,
\begin{equation*}
||F(x_1) - F(x_0)|| \leqslant \sup_{0\leqslant\theta\leqslant1}||F'_c(x_0+\theta(x_1-x_0))||\cdot||x_1-x_0||,
\end{equation*}
что и требовалось доказать.

'''Замечание.''' Если $$F: X\mapsto\mathbb R$$, то существует $$x\in[x_0,x_1]:~F(x_1)-F(x_0)=F'(x)(x_1-x_0)$$.

== Связь производных Гато и Фреше ==

'''Теорема 3.''' Если отображение $$F$$ имеет сильную производную (Фреше), то оно имеет и слабую производную (Гато), причем сильная и слабая производные совпадают.

'''Доказательство.''' Действительно, выберем приращение $$\tilde h = th$$:
\begin{align*}
& F(x+th) - f(x) = F'(x)(th) + o(th) = tF'(x)h + o(th). \Longrightarrow \\
\Longrightarrow & \dfrac{F(x+th) - F(x)}{t} = F'(x)h + \dfrac{o(th)}{t} \to F'(x)h,~ t\to0.
\end{align*}

'''Пример'''. Из слабой дифференцируемости отображения $$F$$ не следует его сильная дифференцируемость. Рассмотрим $$F: \mathbb{R}^2\mapsto\mathbb{R}$$:
\begin{equation*}
f(x_1, x_2) = \begin{cases}\begin{array}{cc}
\dfrac{x_1^3x_2}{x_1^4+x_2^2}, & (x_1,x_2)\neq(0,0), \\
0, & (x_1,x_2)=(0,0).
\end{array}\end{cases}
\end{equation*}
Эта функция непрерывна в $$\mathbb{R}^2\setminus\{(0,0)\}$$.

В точке $$(0,0)$$ её производная Гато существует и равен $$0$$, поскольку
\begin{equation*}
\lim_{t\to0} \dfrac{f(0+th)-f(0)}{t} = \lim_{t\to0}\dfrac{t^4h_1^3h_2}{t^5h_1^4+t^3h_2^2} = 0.
\end{equation*}
Однако этот дифференциал не является главной линейной частью приращения функции в $(0,0)$.

При $$h_2=h_1^2$$ имеем
\begin{equation*}
\lim_{||h||\to0} \dfrac{f(h_1,h_2)-f(0,0)}{||h||} = \lim_{h_1\to0}\dfrac{h_1^5}{2h_1^4\sqrt{h_1^2+h_1^4}} = \dfrac{1}{2} \neq 0.
\end{equation*}

Для функций с линейной непрерывной по $$x$$ производной Гато $$F'_c(x)$$ слабая и сильная производные совпадают. Об этом утверждает следующая теорема.

'''Теорема 4.''' Если слабая производная $$F'_c(x)$$ отображения $$F$$ существует в некоторой окрестности $$U(x_0)$$, является непрерывной по $$x$$ в точке $$x_0$$, то сильная производная $$F'(x_0)$$ существует и совпадает со слабой.

'''Доказательство.''' Выберем $$\varepsilon>0$$ и $$\delta>0$$ так, чтобы при $$||h||<\delta$$ выполнялось неравенство:
\begin{equation*}
||F'_c(x_0+h) - F'_c(x_0)|| \leqslant \varepsilon.
\end{equation*}
Применим формулу конечных приращений и получим
\begin{equation*}
||F(x_0+h) - F(x_0) - F'_c(x_0)h|| \leqslant \sup_{\theta\in[0,1]}||F'_c(x_0+\theta h)-F'_c(x_0)||\cdot||h|| \leqslant \varepsilon||h||.
\end{equation*}
Следовательно, сильная производная существует по определению и совпадает со слабой.

== Примеры вычисления дифференциалов ==

Рассмотрим $$H$$ — гильбертово пространство, наделённое скалярным произведением $$\langle \cdot,\cdot \rangle_H$$, и $$J(u):H\mapsto\mathbb{R}$$.

1. $$J(u)=\langle c,u \rangle_H$$.
\begin{gather*}
J(u+h)-J(u) = \langle c,u+h \rangle_H - \langle c,u \rangle_H = \langle c,h \rangle_H = J'(u)h. \\
\Longrightarrow J'(u) = c.
\end{gather*}

2. $$J(u)=||u||^2_H = \langle u,u \rangle_H$$.
\begin{gather*}
J(u+h)-J(u) = \langle u+h,u+h \rangle_H - \langle u,u \rangle_H = 2\langle u,h \rangle_H. \\
\Longrightarrow J'(u) = 2u.
\end{gather*}

3. $$J(u)=\langle Au,u \rangle_H$$, где $$A: H\mapsto H$$ — произвольный оператор, $$A^*$$ — сопряженный к $$A$$ оператор: $$\langle Au,v \rangle_H = \langle u,A^*v \rangle_H,~ \forall u,v\in H$$.
\begin{gather*}
J(u+h)-J(u) = \langle A(u+h),u+h \rangle_H - \langle Au,u \rangle_H = \langle (A+A^*)u,h \rangle_H + \underbrace{\langle Ah,h \rangle_H}_{\to0}. \\
\Longrightarrow J'(u) = (A+A^*)u.
\end{gather*}

4. $$J(u)=||Au-f||^2 = \langle Au-f,Au-f \rangle_H$$, где $$f\in H$$ и $$A: H\mapsto H$$ — произвольный оператор.
\begin{align*}
\langle Au-f,Au-f \rangle_H &= \langle Au - f,Au \rangle_H - \langle Au - f,f \rangle_H = \\
&= \langle Au,Au \rangle_H - \langle f,Au \rangle_H - \langle Au, f \rangle_H + \langle f,f \rangle_H = \\
&= \langle Au,Au \rangle_H - 2\langle f,Au \rangle_H + \langle f,f \rangle_H.
\end{align*}

\begin{align*}
\langle A(u+h)-f,A(u+h)-f \rangle_H &= \langle A(u+h),A(u+h) \rangle_H - 2\langle f,A(u+h) \rangle_H + \langle f,f \rangle_H.
\end{align*}

\begin{align*}
J(u+h)-J(u) &= \langle A(u+h)-f,A(u+h)-f \rangle_H - \langle Au-f,Au-f \rangle_H = \\
&= \left(\langle A(u+h),A(u+h) \rangle_H - \langle Au,Au \rangle_H\right) - 2(\langle f,A(u+h) \rangle_H - \langle f,Au \rangle_H) = \\
&= \langle (A^*A + AA^*)u,h \rangle_H - 2\langle f,Ah \rangle_H + o(h) = \\
&= \langle (A^*A + AA^*)u-2A^*f,h \rangle_H + o(h). \\
&\Longrightarrow J'(u) = (A^*A + AA^*)u-2A^*f.
\end{align*}

== Список литературы ==

'''1.''' ''Колмогоров A.Н., Фомин С.В.'' Элементы теории функций и функционального анализа. 7-е изд. М.: ФИЗМАТЛИТ, 2004.

'''2.''' ''Треногин В.А.'' Функциональный анализ: учебник. 3-е изд. М.: ФИЗМАТЛИТ, 2002.

'''3.''' Лекции по курсу "Методы оптимизации", 2024.

Производные и дифференциалы Фреше

2025-12-18T11:57:35Z

Arthur24: /* Свойства дифференцируемости по Фреше */

__TOC__

== Определение дифференцируемости по Фреше ==

Рассмотрим $$X, Y$$ --- нормированные пространства с нормами $$||\cdot||_1, ||\cdot||_2$$ соответственно и $$F: X \mapsto Y$$ --- определенное на некотором открытом подмножестве $$O\subset X$$ отображение (например, $$O$$ --- открытый шар заданного радиуса).

Обозначим $$\mathcal{L}_x(X,Y)$$ --- множество линейных ограниченных операторов $$L: X \mapsto Y$$.

'''Определение.'''
Отображение $$F: X \mapsto Y$$ называется '''дифференцируемым по Фреше''' в точке $$x\in O$$, если существует линейный ограниченный оператор $$L_x \in \mathcal{L}(X,Y)$$
\begin{equation}\label{main_def}
\forall\varepsilon > 0~\exists\delta=\delta(\varepsilon):~ \forall h\in X:~ ||h||_1<\delta \quad\Longrightarrow\quad ||F(x+h)-F(x)-L_{x}h||_2 \leqslant \varepsilon||h||_1
\end{equation}
или, что то же самое, но сокращённо,
\begin{equation*}
F(x+h) - F(x) - L_xh = o(h),
\end{equation*}
где $$o(h)$$ --- это такое отображение, действующее из $$X$$ в $$Y$$, что
\begin{equation*}
\lim_{||h||_1\to 0}\dfrac{||o(h)||_2}{||h||_1} = 0.
\end{equation*}
При этом линейный оператор $$L_x(\cdot)$$ называется '''производной Фреше''' отображения $$F$$ в точке $$x$$, а выражение $$L_xh:=L_x(h)$$ --- '''дифференциалом Фреше'''.

Производная Фреше составляет главную линейную часть приращения отображения $$F$$.

Всюду далее будем опускать индексы среди $$||\cdot||_1, ||\cdot||_2$$, подразумевая подходящую аргументу норму.

== Свойства дифференцируемости по Фреше ==

Далее обозначим производную Фреше в точке $$x$$ отображения $$F$$ как $$F'(x)$$. Под этим символом понимаем линейный оператор $$L_x(\cdot)$$.

'''1.''' Если отображение $$F$$ дифференцируемо по Фреше в точке $$x$$, то $$F$$ является непрерывным в точке $$x$$.

'''Доказательство.'''
Следует из \eqref{main_def} и ограниченности производной Фреше.

'''2.''' Если отображение $$F$$ дифференцируемо по Фреше в точке $$x$$, то производная Фреше определяется единственным образом.

'''Доказательство.'''
Допустим, что $$\exists L_1, L_2 \in \mathcal{L}(X,Y)$$, которые удовлетворяют определению \eqref{main_def}. Тогда выполняется равенство $$||L_1h - L_2h|| = o(h)$$, что возможно только при $$L_1=L_2$$.

'''3.''' Если $$F(x)=\operatorname{const}$$, то $$F'(x)\equiv 0$$. Т.е. $$F'(x)$$ --- нулевой оператор.

'''Доказательство.'''
По определению получим, что $$L_xh = o(h)$$. Это возможно только если линейный оператор $$L_x$$ является нулевым.

'''4.''' Производная Фреше линейного ограниченного (следовательно, непрерывного) отображения $$L$$ совпадает с самим отображением: $$L'(x) = L, \forall x.$$

'''Доказательство.'''
По определению линейности $$L$$ имеем, что $$L(x+h) - L(x) = L(h)$$, откуда следует требуемое.

'''5.''' Пусть $$F$$ и $$G$$ --- непрерывные отображения, действующие из $$X$$ в $$Y$$. Если $$F$$ и $$G$$ дифференцируемы по Фреше в точке $$x_0$$, то и отображения $$F+G,~\alpha F$$ ($$\alpha$$ --- число, т.е. элемент поля, над которым определено пространство $$Y$$) тоже дифференцируемы в этой точке, причем их производные Фреше вычисляются по формуле:
\begin{align*}
(F + G)'(x_0) &= F'(x_0) + G'(x_0), \\
(\alpha F)'(x_0) &= \alpha F'(x_0)
\end{align*}

'''Доказательство.'''
Из определения суммы операторов и произведения операторов на число сразу получаем, что
\begin{align*}
(F+G)(x_0+h) &= F(x_0+h) + G(x_0+h) = F(x_0) + G(x_0) + F'(x_0)h + G'(x_0)h + o_1(h), \\
\alpha F(x_0+h) &= \alpha F(x_0) + \alpha F'(x_0)h + o_2(h),
\end{align*}
откуда следует требуемое.

'''6. (правило Лейбница).''' Пусть $$F: U\mapsto Y, G: U\mapsto\mathbb{R}$$ дифференцируемы по Фреше в точке $$x_0$$. Тогда отображение $$G(x)=g(x)F(x)$$ дифференцируемо по Фреше в точке $$x_0$$, причём
\begin{equation*}
G'(x_0)h = g'(x_0)h\cdot F(x_0) + g(x_0)\cdot F'(x_0)h.
\end{equation*}

'''Доказательство.'''
Пусть отображения дифференцируемы по Фреше. Тогда при $$||h||\to0$$ выполняется
\begin{align*}
G(x_0+h) = g(x_0+h)F(x_0+h) &= (g(x_0)+g'(x_0)h + o(h))\cdot(F(x_0)+F'(x_0)h + o(h)) = \\
&= g(x_0)F(x_0) + g'(x_0)h\cdot F(x_0) + g(x_0)\cdot F'(x_0)h + o(h).
\end{align*}

== Производная Фреше сложной функции ==

Под понятием дифференцируемости далее подразумеваем дифференцируемость в смысле Фреше, если не указано иначе.

'''Теорема 1.'''
Пусть $$X,Y,Z$$ --- нормированные пространства, $$U(x_0)$$ --- окрестность точки $$x_0\in X$$, $$F$$ --- отображение этой окрестности в $$Y$$, $$y_0 = F(x_0)$$, $$V(y_0)$$ --- окрестность точки $$y_0 \in Y$$ и $$G$$ --- отображение этой окрестности в $$Z$$. Тогда, если отображение $$F$$ дифференцируемо в точке $$x_0$$, а $$G$$ дифференцируемо в точке $$y_0$$, то отображение $$H = G\circ F$$, определенное в некоторой окрестности точки $$x_0$$ также является дифференцируемым в точке $$x_0$$, причём
\begin{equation}\label{chain_rule}
H'(x_0) = G'(y_0)\cdot F'(x_0).
\end{equation}

'''Доказательство.'''
Рассмотрим $$\varepsilon_1,\varepsilon_2 > 0$$. По определению дифференцируемости имеем
\begin{align*}
\exists\delta_1(\varepsilon_1) > 0: ~\forall \xi:||\xi||<\delta_1 &~\Longrightarrow~ ||F(x_0+\xi) - F(x_0) - F'(x_0)\xi|| < \varepsilon_1, \\
\exists\delta_2(\varepsilon_2) > 0: ~\forall \eta:||\eta||<\delta_2 &~\Longrightarrow~ ||G(y_0+\eta) - G(y) - G'(y_0)\eta|| < \varepsilon_2.
\end{align*}
Выберем $$\delta = \min(\delta_1, \delta_2),~\varepsilon=\max(\varepsilon_1,\varepsilon_2)$$. Зафиксируем $$\xi,\eta:~ ||\xi||<\delta, ||\eta||<\delta$$.

Отметим, что $$F'(x_0), G'(y_0)$$ --- ограниченные линейные операторы. Тогда существует отображение $$G'(F(x_0))\cdot F'(x_0) =: M(x_0)$$, оно является ограниченным, причём
\begin{align*}
H(x_0+\xi) &= G(F(x_0+\xi)) = G(F(x_0) + F'(x_0)\xi + o(\xi)) = G(F(x_0)) + G'(F(x_0))(F'(x_0)\xi + o_1(\xi)) + o_2(F'(x_0)\xi + o_1(\xi)) = \\
&= H(x_0) + G'(F(x_0))F'(x_0)\xi + o_3(\xi).
\end{align*}

'''Замечание.'''
Если $$F, G, H$$ --- числовые функции, то формула \eqref{chain_rule} превращается в известное из курса математического анализа правило дифференцирования сложной функции.

== Определение дифференцируемости по Гато ==

Пусть снова дано отображение $$F: X\mapsto Y$$.

'''Определение.'''
'''Дифференциалом Гато''' отображения $$F$$ в точке $$x$$ при приращении $$h$$ называется предел
\begin{equation*}
DF(x,h) = \dfrac{d}{dt}F(x+th)\bigg\vert_{t=0} = \lim_{t\to 0}\dfrac{F(x+th)-F(x)}{t},
\end{equation*}
где подразумевается сходимость по норме в пространстве $$Y$$:
\begin{equation*}
\forall \{ t_n \}_{n=1}^{\infty}: t_n\to0 \quad\Longrightarrow\quad \bigg|\bigg|\dfrac{F(x+t_nh)-F(x)}{t_n} - DF(x, h) \bigg|\bigg| \to 0.
\end{equation*}

'''Пример.'''
Пусть $$F:\mathbb{R}^n\mapsto\mathbb{R}^m$$ дифференцируемо по Гато в точке $$x_0$$ и имеет слабую производную $$F'_c(x_0): \mathbb{R}^n\mapsto\mathbb{R}^m$$.

Тогда слабая производная задаётся матрицей $$A=(a_{ij})_{i=\overline{1,n},j=\overline{1,m}}$$, где
\begin{equation*}
a_{ij} = \dfrac{\partial F_i}{\partial x_j}(x_0),
\end{equation*}
т.е. $$A$$ --- матрица Якоби.

'''Замечания.'''
'''1.''' Иногда в литературе называют производную Фреше '''сильной производной''', а производную Гато --- '''слабой производной'''. Аналогично поступают с дифференциалами. Далее будет показано, что из дифференцируемость по Фреше следует дифференцируемость по Гато, но не наоборот, что объясняет названия.

'''2.''' Дифференциал Гато $$DF(x,h)$$ может и не быть линеен по $$h$$. Если же такая линейность имеет место, то
\begin{equation*}
DF(x,h) = F'_c(x)h,
\end{equation*}
где $$F'_c(x)h$$ --- ограниченный линейный оператор, его обычно называют '''производной Гато'''.

'''3.''' Теорема о дифференцировании сложной функции, вообще говоря, неверна для производной Гато.

'''Пример''': рассмотрим функции
\begin{equation*}
f(x_1, x_2) = \begin{cases}\begin{array}{cc}
\dfrac{x_1^3}{x_2}, & x_2\neq0, \\
0, & x_2=0.
\end{array}\end{cases},\qquad
g(t) = (t, t^2) \in \mathbb{R}^2
\end{equation*}
и их композицию $$l(t) = f(g(t)) = f(t, t^2)$$. Дифференциалы Гато в точках $$x=(0,0)$$ при приращениях $$h=(h_1,h_2), h_2\neq 0, a\neq0$$ равен
\begin{align*}
Df(x, h) &= \lim_{t\to0}\dfrac{f(th_1, th_2) - f(0, 0)}{t} = \lim_{t\to0} \dfrac{th_1^3}{h_2} = 0. \\
Dg(0, a) &= \lim_{t\to0}\dfrac{||(ta,t^2a^2)||}{t} = \lim_{t\to0}\dfrac{\sqrt{t^2a^2+t^4a^4}}{t} = |a|. \\
Dl(x, a) &= \lim_{t\to0}\dfrac{l(ta, ta) - l(0, 0)}{t} = \lim_{t\to0} \dfrac{\frac{t^3a^3}{t^2a^2}}{t} = a.
\end{align*}
Следовательно, $$Dl(t, a) \neq Dg(f(x), a) \cdot Df(x, h)$$ при $$t\in\mathbb{R}, h\neq 0, a\neq 0$$.

== Формула конечных приращений ==

'''Теорема 2.''' Пусть $$U\subset X$$ --- открытое множество, отрезок $$[x_0, x_1] \subset U$$, отображение $$F: U\mapsto Y$$ дифференцируемо по Гато и имеет слабую производную $$F'_c(x)$$ в каждой точке отрезка $$[x_0, x_1]$$. Тогда
\begin{equation*}
||F(x_1) - F(x_0)|| \leqslant \sup_{0\leqslant\theta\leqslant1}||F'_c(x_0+\theta(x_1-x_0))||\cdot||x_1-x_0||.
\end{equation*}

'''Доказательство.''' Положим $$\Delta x = x_1-x_0$$. Рассмотрим произвольный линейный ограниченный ненулевой функционал $$\phi\in Y^*$$ и числовую функцию
\begin{equation*}
f(t) = \phi(F(x_0+t\Delta x)),\quad t\in[0,1].
\end{equation*}
Эта функция дифференцируема по $$t$$, ведь в выражении
\begin{equation*}
\dfrac{f(t+\Delta t) - f(t)}{\Delta t} = \phi\left( \dfrac{F(x_0+t\Delta x + \Delta t\Delta x) - F(x_0 + t\Delta x)}{\Delta t} \right)
\end{equation*}
можно перейти к пределу под знаком непрерывного линейного функционала $$\phi$$. В итоге получим
\begin{equation*}
f'(t) = \phi\left(F'_c(x_0+t\Delta x)\Delta x\right).
\end{equation*}
Далее, для функции $$f(t)$$ применим формулу конечных приращений Лагранжа: $$f(1)=f(0)+f'(\theta),~\theta\in[0,1]$$. Следовательно, для произвольного $$\phi\in Y^*$$ получим
\begin{equation*}
\phi(F(x)-F(x_0)) = \phi(F'_c(x_0+\theta\Delta x)\Delta x).
\end{equation*}
Применим формулу конечных приращений
\begin{equation*}
|\phi(F(x)-F(x_0))| \leqslant ||\phi||\cdot \sup_{\theta\in[0,1]} ||F'_c(x_0+\theta\Delta x)||\cdot||\Delta x||.
\end{equation*}
'''Напоминание.''' (следствие из теоремы Хана Банаха). Пусть $$X$$ --- нормированное пространство, $$x\in X$$. Тогда существует вектор $$x^*\in X^*$$ такой, что $$||x^*||=1, x^*(x)=||x||$$.
Выберем теперь ненулевой функционал $$\phi$$ так, что (такой функционал $$\phi$$ существует в силу следствия их теоремы Хана Банаха)
\begin{equation*}
\phi(F(x)-F(x_0)) = ||\phi||\cdot||F(x)-F(x_0)||.
\end{equation*}
Следовательно,
\begin{equation*}
||F(x_1) - F(x_0)|| \leqslant \sup_{0\leqslant\theta\leqslant1}||F'_c(x_0+\theta(x_1-x_0))||\cdot||x_1-x_0||,
\end{equation*}
что и требовалось доказать.

'''Замечание.''' Если $$F: X\mapsto\mathbb R$$, то существует $$x\in[x_0,x_1]:~F(x_1)-F(x_0)=F'(x)(x_1-x_0)$$.

== Связь производных Гато и Фреше ==

'''Теорема 3.''' Если отображение $$F$$ имеет сильную производную (Фреше), то оно имеет и слабую производную (Гато), причем сильная и слабая производные совпадают.

'''Доказательство.''' Действительно, выберем приращение $$\tilde h = th$$:
\begin{align*}
& F(x+th) - f(x) = F'(x)(th) + o(th) = tF'(x)h + o(th). \Longrightarrow \\
\Longrightarrow & \dfrac{F(x+th) - F(x)}{t} = F'(x)h + \dfrac{o(th)}{t} \to F'(x)h,~ t\to0.
\end{align*}

'''Пример'''. Из слабой дифференцируемости отображения $$F$$ не следует его сильная дифференцируемость. Рассмотрим $$F: \mathbb{R}^2\mapsto\mathbb{R}$$:
\begin{equation*}
f(x_1, x_2) = \begin{cases}\begin{array}{cc}
\dfrac{x_1^3x_2}{x_1^4+x_2^2}, & (x_1,x_2)\neq(0,0), \\
0, & (x_1,x_2)=(0,0).
\end{array}\end{cases}
\end{equation*}
Эта функция непрерывна в $$\mathbb{R}^2\setminus\{(0,0)\}$$.

В точке $$(0,0)$$ её производная Гато существует и равен $$0$$, поскольку
\begin{equation*}
\lim_{t\to0} \dfrac{f(0+th)-f(0)}{t} = \lim_{t\to0}\dfrac{t^4h_1^3h_2}{t^5h_1^4+t^3h_2^2} = 0.
\end{equation*}
Однако этот дифференциал не является главной линейной частью приращения функции в $(0,0)$.

При $$h_2=h_1^2$$ имеем
\begin{equation*}
\lim_{||h||\to0} \dfrac{f(h_1,h_2)-f(0,0)}{||h||} = \lim_{h_1\to0}\dfrac{h_1^5}{2h_1^4\sqrt{h_1^2+h_1^4}} = \dfrac{1}{2} \neq 0.
\end{equation*}

Для функций с линейной непрерывной по $$x$$ производной Гато $$F'_c(x)$$ слабая и сильная производные совпадают. Об этом утверждает следующая теорема.

'''Теорема 4.''' Если слабая производная $$F'_c(x)$$ отображения $$F$$ существует в некоторой окрестности $$U(x_0)$$, является непрерывной по $$x$$ в точке $$x_0$$, то сильная производная $$F'(x_0)$$ существует и совпадает со слабой.

'''Доказательство.''' Выберем $$\varepsilon>0$$ и $$\delta>0$$ так, чтобы при $$||h||<\delta$$ выполнялось неравенство:
\begin{equation*}
||F'_c(x_0+h) - F'_c(x_0)|| \leqslant \varepsilon.
\end{equation*}
Применим формулу конечных приращений и получим
\begin{equation*}
||F(x_0+h) - F(x_0) - F'_c(x_0)h|| \leqslant \sup_{\theta\in[0,1]}||F'_c(x_0+\theta h)-F'_c(x_0)||\cdot||h|| \leqslant \varepsilon||h||.
\end{equation*}
Следовательно, сильная производная существует по определению и совпадает со слабой.

== Примеры вычисления дифференциалов ==

Рассмотрим $$H$$ --- гильбертово пространство, наделённое скалярным произведением $$\langle \cdot,\cdot \rangle_H$$, и $$J(u):H\mapsto\mathbb{R}$$.

1. $$J(u)=\langle c,u \rangle_H$$.
\begin{gather*}
J(u+h)-J(u) = \langle c,u+h \rangle_H - \langle c,u \rangle_H = \langle c,h \rangle_H = J'(u)h. \\
\Longrightarrow J'(u) = c.
\end{gather*}

2. $$J(u)=||u||^2_H = \langle u,u \rangle_H$$.
\begin{gather*}
J(u+h)-J(u) = \langle u+h,u+h \rangle_H - \langle u,u \rangle_H = 2\langle u,h \rangle_H. \\
\Longrightarrow J'(u) = 2u.
\end{gather*}

3. $$J(u)=\langle Au,u \rangle_H$$, где $$A: H\mapsto H$$ --- произвольный оператор, $$A^*$$ --- сопряженный к $$A$$ оператор: $$\langle Au,v \rangle_H = \langle u,A^*v \rangle_H,~ \forall u,v\in H$$.
\begin{gather*}
J(u+h)-J(u) = \langle A(u+h),u+h \rangle_H - \langle Au,u \rangle_H = \langle (A+A^*)u,h \rangle_H + \underbrace{\langle Ah,h \rangle_H}_{\to0}. \\
\Longrightarrow J'(u) = (A+A^*)u.
\end{gather*}

4. $$J(u)=||Au-f||^2 = \langle Au-f,Au-f \rangle_H$$, где $$f\in H$$ и $$A: H\mapsto H$$ --- произвольный оператор.
\begin{align*}
\langle Au-f,Au-f \rangle_H &= \langle Au - f,Au \rangle_H - \langle Au - f,f \rangle_H = \\
&= \langle Au,Au \rangle_H - \langle f,Au \rangle_H - \langle Au, f \rangle_H + \langle f,f \rangle_H = \\
&= \langle Au,Au \rangle_H - 2\langle f,Au \rangle_H + \langle f,f \rangle_H.
\end{align*}

\begin{align*}
\langle A(u+h)-f,A(u+h)-f \rangle_H &= \langle A(u+h),A(u+h) \rangle_H - 2\langle f,A(u+h) \rangle_H + \langle f,f \rangle_H.
\end{align*}

\begin{align*}
J(u+h)-J(u) &= \langle A(u+h)-f,A(u+h)-f \rangle_H - \langle Au-f,Au-f \rangle_H = \\
&= \left(\langle A(u+h),A(u+h) \rangle_H - \langle Au,Au \rangle_H\right) - 2(\langle f,A(u+h) \rangle_H - \langle f,Au \rangle_H) = \\
&= \langle (A^*A + AA^*)u,h \rangle_H - 2\langle f,Ah \rangle_H + o(h) = \\
&= \langle (A^*A + AA^*)u-2A^*f,h \rangle_H + o(h). \\
&\Longrightarrow J'(u) = (A^*A + AA^*)u-2A^*f.
\end{align*}

== Список литературы ==

'''1.''' ''Колмогоров A.Н., Фомин С.В.'' Элементы теории функций и функционального анализа. 7-е изд. М.: ФИЗМАТЛИТ, 2004.

'''2.''' ''Треногин В.А.'' Функциональный анализ: учебник. 3-е изд. М.: ФИЗМАТЛИТ, 2002.

'''3.''' Лекции по курсу "Методы оптимизации", 2024.

Производные и дифференциалы Фреше

2025-12-18T11:56:10Z

Arthur24: /* Определение дифференцируемости по Гато */

__TOC__

== Определение дифференцируемости по Фреше ==

Рассмотрим $$X, Y$$ --- нормированные пространства с нормами $$||\cdot||_1, ||\cdot||_2$$ соответственно и $$F: X \mapsto Y$$ --- определенное на некотором открытом подмножестве $$O\subset X$$ отображение (например, $$O$$ --- открытый шар заданного радиуса).

Обозначим $$\mathcal{L}_x(X,Y)$$ --- множество линейных ограниченных операторов $$L: X \mapsto Y$$.

'''Определение.'''
Отображение $$F: X \mapsto Y$$ называется '''дифференцируемым по Фреше''' в точке $$x\in O$$, если существует линейный ограниченный оператор $$L_x \in \mathcal{L}(X,Y)$$
\begin{equation}\label{main_def}
\forall\varepsilon > 0~\exists\delta=\delta(\varepsilon):~ \forall h\in X:~ ||h||_1<\delta \quad\Longrightarrow\quad ||F(x+h)-F(x)-L_{x}h||_2 \leqslant \varepsilon||h||_1
\end{equation}
или, что то же самое, но сокращённо,
\begin{equation*}
F(x+h) - F(x) - L_xh = o(h),
\end{equation*}
где $$o(h)$$ --- это такое отображение, действующее из $$X$$ в $$Y$$, что
\begin{equation*}
\lim_{||h||_1\to 0}\dfrac{||o(h)||_2}{||h||_1} = 0.
\end{equation*}
При этом линейный оператор $$L_x(\cdot)$$ называется '''производной Фреше''' отображения $$F$$ в точке $$x$$, а выражение $$L_xh:=L_x(h)$$ --- '''дифференциалом Фреше'''.

Производная Фреше составляет главную линейную часть приращения отображения $$F$$.

Всюду далее будем опускать индексы среди $$||\cdot||_1, ||\cdot||_2$$, подразумевая подходящую аргументу норму.

== Свойства дифференцируемости по Фреше ==

Далее обозначим производную Фреше в точке $$x$$ отображения $$F$$ как $$F'(x)$$. Под этим символом понимаем линейный оператор $$L_x(\cdot)$$.

'''1.''' Если отображение $$F$$ дифференцируемо по Фреше в точке $$x$$, то $$F$$ является непрерывным в точке $$x$$.

'''Доказательство.'''
Следует из \eqref{main_def} и ограниченности производной Фреше.

'''2.''' Если отображение $$F$$ дифференцируемо по Фреше в точке $x$, то производная Фреше определяется единственным образом.

'''Доказательство.'''
Допустим, что $\exists L_1, L_2 \in \mathcal{L}(X,Y)$, которые удовлетворяют определению \eqref{main_def}. Тогда выполняется равенство $$||L_1h - L_2h|| = o(h)$$, что возможно только при $$L_1=L_2$$.

'''3.''' Если $$F(x)=\operatorname{const}$$, то $$F'(x)\equiv 0$$. Т.е. $$F'(x)$$ --- нулевой оператор.

'''Доказательство.'''
По определению получим, что $$L_xh = o(h)$$. Это возможно только если линейный оператор $$L_x$$ является нулевым.

'''4.''' Производная Фреше линейного ограниченного (следовательно, непрерывного) отображения $$L$$ совпадает с самим отображением: $$L'(x) = L, \forall x.$$

'''Доказательство.'''
По определению линейности $$L$$ имеем, что $$L(x+h) - L(x) = L(h)$$, откуда следует требуемое.

'''5.''' Пусть $$F$$ и $$G$$ --- непрерывные отображения, действующие из $$X$$ в $$Y$$. Если $$F$$ и $$G$$ дифференцируемы по Фреше в точке $$x_0$$, то и отображения $$F+G,~\alpha F$$ ($$\alpha$$ --- число, т.е. элемент поля, над которым определено пространство $$Y$$) тоже дифференцируемы в этой точке, причем их производные Фреше вычисляются по формуле:
\begin{align*}
(F + G)'(x_0) &= F'(x_0) + G'(x_0), \\
(\alpha F)'(x_0) &= \alpha F'(x_0)
\end{align*}

'''Доказательство.'''
Из определения суммы операторов и произведения операторов на число сразу получаем, что
\begin{align*}
(F+G)(x_0+h) &= F(x_0+h) + G(x_0+h) = F(x_0) + G(x_0) + F'(x_0)h + G'(x_0)h + o_1(h), \\
\alpha F(x_0+h) &= \alpha F(x_0) + \alpha F'(x_0)h + o_2(h),
\end{align*}
откуда следует требуемое.

'''6. (правило Лейбница).''' Пусть $$F: U\mapsto Y, G: U\mapsto\mathbb{R}$$ дифференцируемы по Фреше в точке $$x_0$$. Тогда отображение $$G(x)=g(x)F(x)$$ дифференцируемо по Фреше в точке $$x_0$$, причём
\begin{equation*}
G'(x_0)h = g'(x_0)h\cdot F(x_0) + g(x_0)\cdot F'(x_0)h.
\end{equation*}

'''Доказательство.'''
Пусть отображения дифференцируемы по Фреше. Тогда при $$||h||\to0$$ выполняется
\begin{align*}
G(x_0+h) = g(x_0+h)F(x_0+h) &= (g(x_0)+g'(x_0)h + o(h))\cdot(F(x_0)+F'(x_0)h + o(h)) = \\
&= g(x_0)F(x_0) + g'(x_0)h\cdot F(x_0) + g(x_0)\cdot F'(x_0)h + o(h).
\end{align*}

== Производная Фреше сложной функции ==

Под понятием дифференцируемости далее подразумеваем дифференцируемость в смысле Фреше, если не указано иначе.

'''Теорема 1.'''
Пусть $$X,Y,Z$$ --- нормированные пространства, $$U(x_0)$$ --- окрестность точки $$x_0\in X$$, $$F$$ --- отображение этой окрестности в $$Y$$, $$y_0 = F(x_0)$$, $$V(y_0)$$ --- окрестность точки $$y_0 \in Y$$ и $$G$$ --- отображение этой окрестности в $$Z$$. Тогда, если отображение $$F$$ дифференцируемо в точке $$x_0$$, а $$G$$ дифференцируемо в точке $$y_0$$, то отображение $$H = G\circ F$$, определенное в некоторой окрестности точки $$x_0$$ также является дифференцируемым в точке $$x_0$$, причём
\begin{equation}\label{chain_rule}
H'(x_0) = G'(y_0)\cdot F'(x_0).
\end{equation}

'''Доказательство.'''
Рассмотрим $$\varepsilon_1,\varepsilon_2 > 0$$. По определению дифференцируемости имеем
\begin{align*}
\exists\delta_1(\varepsilon_1) > 0: ~\forall \xi:||\xi||<\delta_1 &~\Longrightarrow~ ||F(x_0+\xi) - F(x_0) - F'(x_0)\xi|| < \varepsilon_1, \\
\exists\delta_2(\varepsilon_2) > 0: ~\forall \eta:||\eta||<\delta_2 &~\Longrightarrow~ ||G(y_0+\eta) - G(y) - G'(y_0)\eta|| < \varepsilon_2.
\end{align*}
Выберем $$\delta = \min(\delta_1, \delta_2),~\varepsilon=\max(\varepsilon_1,\varepsilon_2)$$. Зафиксируем $$\xi,\eta:~ ||\xi||<\delta, ||\eta||<\delta$$.

Отметим, что $$F'(x_0), G'(y_0)$$ --- ограниченные линейные операторы. Тогда существует отображение $$G'(F(x_0))\cdot F'(x_0) =: M(x_0)$$, оно является ограниченным, причём
\begin{align*}
H(x_0+\xi) &= G(F(x_0+\xi)) = G(F(x_0) + F'(x_0)\xi + o(\xi)) = G(F(x_0)) + G'(F(x_0))(F'(x_0)\xi + o_1(\xi)) + o_2(F'(x_0)\xi + o_1(\xi)) = \\
&= H(x_0) + G'(F(x_0))F'(x_0)\xi + o_3(\xi).
\end{align*}

'''Замечание.'''
Если $$F, G, H$$ --- числовые функции, то формула \eqref{chain_rule} превращается в известное из курса математического анализа правило дифференцирования сложной функции.

== Определение дифференцируемости по Гато ==

Пусть снова дано отображение $$F: X\mapsto Y$$.

'''Определение.'''
'''Дифференциалом Гато''' отображения $$F$$ в точке $$x$$ при приращении $$h$$ называется предел
\begin{equation*}
DF(x,h) = \dfrac{d}{dt}F(x+th)\bigg\vert_{t=0} = \lim_{t\to 0}\dfrac{F(x+th)-F(x)}{t},
\end{equation*}
где подразумевается сходимость по норме в пространстве $$Y$$:
\begin{equation*}
\forall \{ t_n \}_{n=1}^{\infty}: t_n\to0 \quad\Longrightarrow\quad \bigg|\bigg|\dfrac{F(x+t_nh)-F(x)}{t_n} - DF(x, h) \bigg|\bigg| \to 0.
\end{equation*}

'''Пример.'''
Пусть $$F:\mathbb{R}^n\mapsto\mathbb{R}^m$$ дифференцируемо по Гато в точке $$x_0$$ и имеет слабую производную $$F'_c(x_0): \mathbb{R}^n\mapsto\mathbb{R}^m$$.

Тогда слабая производная задаётся матрицей $$A=(a_{ij})_{i=\overline{1,n},j=\overline{1,m}}$$, где
\begin{equation*}
a_{ij} = \dfrac{\partial F_i}{\partial x_j}(x_0),
\end{equation*}
т.е. $$A$$ --- матрица Якоби.

'''Замечания.'''
'''1.''' Иногда в литературе называют производную Фреше '''сильной производной''', а производную Гато --- '''слабой производной'''. Аналогично поступают с дифференциалами. Далее будет показано, что из дифференцируемость по Фреше следует дифференцируемость по Гато, но не наоборот, что объясняет названия.

'''2.''' Дифференциал Гато $$DF(x,h)$$ может и не быть линеен по $$h$$. Если же такая линейность имеет место, то
\begin{equation*}
DF(x,h) = F'_c(x)h,
\end{equation*}
где $$F'_c(x)h$$ --- ограниченный линейный оператор, его обычно называют '''производной Гато'''.

'''3.''' Теорема о дифференцировании сложной функции, вообще говоря, неверна для производной Гато.

'''Пример''': рассмотрим функции
\begin{equation*}
f(x_1, x_2) = \begin{cases}\begin{array}{cc}
\dfrac{x_1^3}{x_2}, & x_2\neq0, \\
0, & x_2=0.
\end{array}\end{cases},\qquad
g(t) = (t, t^2) \in \mathbb{R}^2
\end{equation*}
и их композицию $$l(t) = f(g(t)) = f(t, t^2)$$. Дифференциалы Гато в точках $$x=(0,0)$$ при приращениях $$h=(h_1,h_2), h_2\neq 0, a\neq0$$ равен
\begin{align*}
Df(x, h) &= \lim_{t\to0}\dfrac{f(th_1, th_2) - f(0, 0)}{t} = \lim_{t\to0} \dfrac{th_1^3}{h_2} = 0. \\
Dg(0, a) &= \lim_{t\to0}\dfrac{||(ta,t^2a^2)||}{t} = \lim_{t\to0}\dfrac{\sqrt{t^2a^2+t^4a^4}}{t} = |a|. \\
Dl(x, a) &= \lim_{t\to0}\dfrac{l(ta, ta) - l(0, 0)}{t} = \lim_{t\to0} \dfrac{\frac{t^3a^3}{t^2a^2}}{t} = a.
\end{align*}
Следовательно, $$Dl(t, a) \neq Dg(f(x), a) \cdot Df(x, h)$$ при $$t\in\mathbb{R}, h\neq 0, a\neq 0$$.

== Формула конечных приращений ==

'''Теорема 2.''' Пусть $$U\subset X$$ --- открытое множество, отрезок $$[x_0, x_1] \subset U$$, отображение $$F: U\mapsto Y$$ дифференцируемо по Гато и имеет слабую производную $$F'_c(x)$$ в каждой точке отрезка $$[x_0, x_1]$$. Тогда
\begin{equation*}
||F(x_1) - F(x_0)|| \leqslant \sup_{0\leqslant\theta\leqslant1}||F'_c(x_0+\theta(x_1-x_0))||\cdot||x_1-x_0||.
\end{equation*}

'''Доказательство.''' Положим $$\Delta x = x_1-x_0$$. Рассмотрим произвольный линейный ограниченный ненулевой функционал $$\phi\in Y^*$$ и числовую функцию
\begin{equation*}
f(t) = \phi(F(x_0+t\Delta x)),\quad t\in[0,1].
\end{equation*}
Эта функция дифференцируема по $$t$$, ведь в выражении
\begin{equation*}
\dfrac{f(t+\Delta t) - f(t)}{\Delta t} = \phi\left( \dfrac{F(x_0+t\Delta x + \Delta t\Delta x) - F(x_0 + t\Delta x)}{\Delta t} \right)
\end{equation*}
можно перейти к пределу под знаком непрерывного линейного функционала $$\phi$$. В итоге получим
\begin{equation*}
f'(t) = \phi\left(F'_c(x_0+t\Delta x)\Delta x\right).
\end{equation*}
Далее, для функции $$f(t)$$ применим формулу конечных приращений Лагранжа: $$f(1)=f(0)+f'(\theta),~\theta\in[0,1]$$. Следовательно, для произвольного $$\phi\in Y^*$$ получим
\begin{equation*}
\phi(F(x)-F(x_0)) = \phi(F'_c(x_0+\theta\Delta x)\Delta x).
\end{equation*}
Применим формулу конечных приращений
\begin{equation*}
|\phi(F(x)-F(x_0))| \leqslant ||\phi||\cdot \sup_{\theta\in[0,1]} ||F'_c(x_0+\theta\Delta x)||\cdot||\Delta x||.
\end{equation*}
'''Напоминание.''' (следствие из теоремы Хана Банаха). Пусть $$X$$ --- нормированное пространство, $$x\in X$$. Тогда существует вектор $$x^*\in X^*$$ такой, что $$||x^*||=1, x^*(x)=||x||$$.
Выберем теперь ненулевой функционал $$\phi$$ так, что (такой функционал $$\phi$$ существует в силу следствия их теоремы Хана Банаха)
\begin{equation*}
\phi(F(x)-F(x_0)) = ||\phi||\cdot||F(x)-F(x_0)||.
\end{equation*}
Следовательно,
\begin{equation*}
||F(x_1) - F(x_0)|| \leqslant \sup_{0\leqslant\theta\leqslant1}||F'_c(x_0+\theta(x_1-x_0))||\cdot||x_1-x_0||,
\end{equation*}
что и требовалось доказать.

'''Замечание.''' Если $$F: X\mapsto\mathbb R$$, то существует $$x\in[x_0,x_1]:~F(x_1)-F(x_0)=F'(x)(x_1-x_0)$$.

== Связь производных Гато и Фреше ==

'''Теорема 3.''' Если отображение $$F$$ имеет сильную производную (Фреше), то оно имеет и слабую производную (Гато), причем сильная и слабая производные совпадают.

'''Доказательство.''' Действительно, выберем приращение $$\tilde h = th$$:
\begin{align*}
& F(x+th) - f(x) = F'(x)(th) + o(th) = tF'(x)h + o(th). \Longrightarrow \\
\Longrightarrow & \dfrac{F(x+th) - F(x)}{t} = F'(x)h + \dfrac{o(th)}{t} \to F'(x)h,~ t\to0.
\end{align*}

'''Пример'''. Из слабой дифференцируемости отображения $$F$$ не следует его сильная дифференцируемость. Рассмотрим $$F: \mathbb{R}^2\mapsto\mathbb{R}$$:
\begin{equation*}
f(x_1, x_2) = \begin{cases}\begin{array}{cc}
\dfrac{x_1^3x_2}{x_1^4+x_2^2}, & (x_1,x_2)\neq(0,0), \\
0, & (x_1,x_2)=(0,0).
\end{array}\end{cases}
\end{equation*}
Эта функция непрерывна в $$\mathbb{R}^2\setminus\{(0,0)\}$$.

В точке $$(0,0)$$ её производная Гато существует и равен $$0$$, поскольку
\begin{equation*}
\lim_{t\to0} \dfrac{f(0+th)-f(0)}{t} = \lim_{t\to0}\dfrac{t^4h_1^3h_2}{t^5h_1^4+t^3h_2^2} = 0.
\end{equation*}
Однако этот дифференциал не является главной линейной частью приращения функции в $(0,0)$.

При $$h_2=h_1^2$$ имеем
\begin{equation*}
\lim_{||h||\to0} \dfrac{f(h_1,h_2)-f(0,0)}{||h||} = \lim_{h_1\to0}\dfrac{h_1^5}{2h_1^4\sqrt{h_1^2+h_1^4}} = \dfrac{1}{2} \neq 0.
\end{equation*}

Для функций с линейной непрерывной по $$x$$ производной Гато $$F'_c(x)$$ слабая и сильная производные совпадают. Об этом утверждает следующая теорема.

'''Теорема 4.''' Если слабая производная $$F'_c(x)$$ отображения $$F$$ существует в некоторой окрестности $$U(x_0)$$, является непрерывной по $$x$$ в точке $$x_0$$, то сильная производная $$F'(x_0)$$ существует и совпадает со слабой.

'''Доказательство.''' Выберем $$\varepsilon>0$$ и $$\delta>0$$ так, чтобы при $$||h||<\delta$$ выполнялось неравенство:
\begin{equation*}
||F'_c(x_0+h) - F'_c(x_0)|| \leqslant \varepsilon.
\end{equation*}
Применим формулу конечных приращений и получим
\begin{equation*}
||F(x_0+h) - F(x_0) - F'_c(x_0)h|| \leqslant \sup_{\theta\in[0,1]}||F'_c(x_0+\theta h)-F'_c(x_0)||\cdot||h|| \leqslant \varepsilon||h||.
\end{equation*}
Следовательно, сильная производная существует по определению и совпадает со слабой.

== Примеры вычисления дифференциалов ==

Рассмотрим $$H$$ --- гильбертово пространство, наделённое скалярным произведением $$\langle \cdot,\cdot \rangle_H$$, и $$J(u):H\mapsto\mathbb{R}$$.

1. $$J(u)=\langle c,u \rangle_H$$.
\begin{gather*}
J(u+h)-J(u) = \langle c,u+h \rangle_H - \langle c,u \rangle_H = \langle c,h \rangle_H = J'(u)h. \\
\Longrightarrow J'(u) = c.
\end{gather*}

2. $$J(u)=||u||^2_H = \langle u,u \rangle_H$$.
\begin{gather*}
J(u+h)-J(u) = \langle u+h,u+h \rangle_H - \langle u,u \rangle_H = 2\langle u,h \rangle_H. \\
\Longrightarrow J'(u) = 2u.
\end{gather*}

3. $$J(u)=\langle Au,u \rangle_H$$, где $$A: H\mapsto H$$ --- произвольный оператор, $$A^*$$ --- сопряженный к $$A$$ оператор: $$\langle Au,v \rangle_H = \langle u,A^*v \rangle_H,~ \forall u,v\in H$$.
\begin{gather*}
J(u+h)-J(u) = \langle A(u+h),u+h \rangle_H - \langle Au,u \rangle_H = \langle (A+A^*)u,h \rangle_H + \underbrace{\langle Ah,h \rangle_H}_{\to0}. \\
\Longrightarrow J'(u) = (A+A^*)u.
\end{gather*}

4. $$J(u)=||Au-f||^2 = \langle Au-f,Au-f \rangle_H$$, где $$f\in H$$ и $$A: H\mapsto H$$ --- произвольный оператор.
\begin{align*}
\langle Au-f,Au-f \rangle_H &= \langle Au - f,Au \rangle_H - \langle Au - f,f \rangle_H = \\
&= \langle Au,Au \rangle_H - \langle f,Au \rangle_H - \langle Au, f \rangle_H + \langle f,f \rangle_H = \\
&= \langle Au,Au \rangle_H - 2\langle f,Au \rangle_H + \langle f,f \rangle_H.
\end{align*}

\begin{align*}
\langle A(u+h)-f,A(u+h)-f \rangle_H &= \langle A(u+h),A(u+h) \rangle_H - 2\langle f,A(u+h) \rangle_H + \langle f,f \rangle_H.
\end{align*}

\begin{align*}
J(u+h)-J(u) &= \langle A(u+h)-f,A(u+h)-f \rangle_H - \langle Au-f,Au-f \rangle_H = \\
&= \left(\langle A(u+h),A(u+h) \rangle_H - \langle Au,Au \rangle_H\right) - 2(\langle f,A(u+h) \rangle_H - \langle f,Au \rangle_H) = \\
&= \langle (A^*A + AA^*)u,h \rangle_H - 2\langle f,Ah \rangle_H + o(h) = \\
&= \langle (A^*A + AA^*)u-2A^*f,h \rangle_H + o(h). \\
&\Longrightarrow J'(u) = (A^*A + AA^*)u-2A^*f.
\end{align*}

== Список литературы ==

'''1.''' ''Колмогоров A.Н., Фомин С.В.'' Элементы теории функций и функционального анализа. 7-е изд. М.: ФИЗМАТЛИТ, 2004.

'''2.''' ''Треногин В.А.'' Функциональный анализ: учебник. 3-е изд. М.: ФИЗМАТЛИТ, 2002.

'''3.''' Лекции по курсу "Методы оптимизации", 2024.

Производные и дифференциалы Фреше

2025-12-18T11:48:23Z

Arthur24: Добавлен список литературы.

__TOC__

== Определение дифференцируемости по Фреше ==

Рассмотрим $$X, Y$$ --- нормированные пространства с нормами $$||\cdot||_1, ||\cdot||_2$$ соответственно и $$F: X \mapsto Y$$ --- определенное на некотором открытом подмножестве $$O\subset X$$ отображение (например, $$O$$ --- открытый шар заданного радиуса).

Обозначим $$\mathcal{L}_x(X,Y)$$ --- множество линейных ограниченных операторов $$L: X \mapsto Y$$.

'''Определение.'''
Отображение $$F: X \mapsto Y$$ называется '''дифференцируемым по Фреше''' в точке $$x\in O$$, если существует линейный ограниченный оператор $$L_x \in \mathcal{L}(X,Y)$$
\begin{equation}\label{main_def}
\forall\varepsilon > 0~\exists\delta=\delta(\varepsilon):~ \forall h\in X:~ ||h||_1<\delta \quad\Longrightarrow\quad ||F(x+h)-F(x)-L_{x}h||_2 \leqslant \varepsilon||h||_1
\end{equation}
или, что то же самое, но сокращённо,
\begin{equation*}
F(x+h) - F(x) - L_xh = o(h),
\end{equation*}
где $$o(h)$$ --- это такое отображение, действующее из $$X$$ в $$Y$$, что
\begin{equation*}
\lim_{||h||_1\to 0}\dfrac{||o(h)||_2}{||h||_1} = 0.
\end{equation*}
При этом линейный оператор $$L_x(\cdot)$$ называется '''производной Фреше''' отображения $$F$$ в точке $$x$$, а выражение $$L_xh:=L_x(h)$$ --- '''дифференциалом Фреше'''.

Производная Фреше составляет главную линейную часть приращения отображения $$F$$.

Всюду далее будем опускать индексы среди $$||\cdot||_1, ||\cdot||_2$$, подразумевая подходящую аргументу норму.

== Свойства дифференцируемости по Фреше ==

Далее обозначим производную Фреше в точке $$x$$ отображения $$F$$ как $$F'(x)$$. Под этим символом понимаем линейный оператор $$L_x(\cdot)$$.

'''1.''' Если отображение $$F$$ дифференцируемо по Фреше в точке $$x$$, то $$F$$ является непрерывным в точке $$x$$.

'''Доказательство.'''
Следует из \eqref{main_def} и ограниченности производной Фреше.

'''2.''' Если отображение $$F$$ дифференцируемо по Фреше в точке $x$, то производная Фреше определяется единственным образом.

'''Доказательство.'''
Допустим, что $\exists L_1, L_2 \in \mathcal{L}(X,Y)$, которые удовлетворяют определению \eqref{main_def}. Тогда выполняется равенство $$||L_1h - L_2h|| = o(h)$$, что возможно только при $$L_1=L_2$$.

'''3.''' Если $$F(x)=\operatorname{const}$$, то $$F'(x)\equiv 0$$. Т.е. $$F'(x)$$ --- нулевой оператор.

'''Доказательство.'''
По определению получим, что $$L_xh = o(h)$$. Это возможно только если линейный оператор $$L_x$$ является нулевым.

'''4.''' Производная Фреше линейного ограниченного (следовательно, непрерывного) отображения $$L$$ совпадает с самим отображением: $$L'(x) = L, \forall x.$$

'''Доказательство.'''
По определению линейности $$L$$ имеем, что $$L(x+h) - L(x) = L(h)$$, откуда следует требуемое.

'''5.''' Пусть $$F$$ и $$G$$ --- непрерывные отображения, действующие из $$X$$ в $$Y$$. Если $$F$$ и $$G$$ дифференцируемы по Фреше в точке $$x_0$$, то и отображения $$F+G,~\alpha F$$ ($$\alpha$$ --- число, т.е. элемент поля, над которым определено пространство $$Y$$) тоже дифференцируемы в этой точке, причем их производные Фреше вычисляются по формуле:
\begin{align*}
(F + G)'(x_0) &= F'(x_0) + G'(x_0), \\
(\alpha F)'(x_0) &= \alpha F'(x_0)
\end{align*}

'''Доказательство.'''
Из определения суммы операторов и произведения операторов на число сразу получаем, что
\begin{align*}
(F+G)(x_0+h) &= F(x_0+h) + G(x_0+h) = F(x_0) + G(x_0) + F'(x_0)h + G'(x_0)h + o_1(h), \\
\alpha F(x_0+h) &= \alpha F(x_0) + \alpha F'(x_0)h + o_2(h),
\end{align*}
откуда следует требуемое.

'''6. (правило Лейбница).''' Пусть $$F: U\mapsto Y, G: U\mapsto\mathbb{R}$$ дифференцируемы по Фреше в точке $$x_0$$. Тогда отображение $$G(x)=g(x)F(x)$$ дифференцируемо по Фреше в точке $$x_0$$, причём
\begin{equation*}
G'(x_0)h = g'(x_0)h\cdot F(x_0) + g(x_0)\cdot F'(x_0)h.
\end{equation*}

'''Доказательство.'''
Пусть отображения дифференцируемы по Фреше. Тогда при $$||h||\to0$$ выполняется
\begin{align*}
G(x_0+h) = g(x_0+h)F(x_0+h) &= (g(x_0)+g'(x_0)h + o(h))\cdot(F(x_0)+F'(x_0)h + o(h)) = \\
&= g(x_0)F(x_0) + g'(x_0)h\cdot F(x_0) + g(x_0)\cdot F'(x_0)h + o(h).
\end{align*}

== Производная Фреше сложной функции ==

Под понятием дифференцируемости далее подразумеваем дифференцируемость в смысле Фреше, если не указано иначе.

'''Теорема 1.'''
Пусть $$X,Y,Z$$ --- нормированные пространства, $$U(x_0)$$ --- окрестность точки $$x_0\in X$$, $$F$$ --- отображение этой окрестности в $$Y$$, $$y_0 = F(x_0)$$, $$V(y_0)$$ --- окрестность точки $$y_0 \in Y$$ и $$G$$ --- отображение этой окрестности в $$Z$$. Тогда, если отображение $$F$$ дифференцируемо в точке $$x_0$$, а $$G$$ дифференцируемо в точке $$y_0$$, то отображение $$H = G\circ F$$, определенное в некоторой окрестности точки $$x_0$$ также является дифференцируемым в точке $$x_0$$, причём
\begin{equation}\label{chain_rule}
H'(x_0) = G'(y_0)\cdot F'(x_0).
\end{equation}

'''Доказательство.'''
Рассмотрим $$\varepsilon_1,\varepsilon_2 > 0$$. По определению дифференцируемости имеем
\begin{align*}
\exists\delta_1(\varepsilon_1) > 0: ~\forall \xi:||\xi||<\delta_1 &~\Longrightarrow~ ||F(x_0+\xi) - F(x_0) - F'(x_0)\xi|| < \varepsilon_1, \\
\exists\delta_2(\varepsilon_2) > 0: ~\forall \eta:||\eta||<\delta_2 &~\Longrightarrow~ ||G(y_0+\eta) - G(y) - G'(y_0)\eta|| < \varepsilon_2.
\end{align*}
Выберем $$\delta = \min(\delta_1, \delta_2),~\varepsilon=\max(\varepsilon_1,\varepsilon_2)$$. Зафиксируем $$\xi,\eta:~ ||\xi||<\delta, ||\eta||<\delta$$.

Отметим, что $$F'(x_0), G'(y_0)$$ --- ограниченные линейные операторы. Тогда существует отображение $$G'(F(x_0))\cdot F'(x_0) =: M(x_0)$$, оно является ограниченным, причём
\begin{align*}
H(x_0+\xi) &= G(F(x_0+\xi)) = G(F(x_0) + F'(x_0)\xi + o(\xi)) = G(F(x_0)) + G'(F(x_0))(F'(x_0)\xi + o_1(\xi)) + o_2(F'(x_0)\xi + o_1(\xi)) = \\
&= H(x_0) + G'(F(x_0))F'(x_0)\xi + o_3(\xi).
\end{align*}

'''Замечание.'''
Если $$F, G, H$$ --- числовые функции, то формула \eqref{chain_rule} превращается в известное из курса математического анализа правило дифференцирования сложной функции.

== Определение дифференцируемости по Гато ==

Пусть снова дано отображение $$F: X\mapsto Y$$.

'''Определение.'''
'''Дифференциалом Гато''' отображения $$F$$ в точке $$x$$ при приращении $$h$$ называется предел
\begin{equation*}
DF(x,h) = \dfrac{d}{dt}F(x+th)\bigg\vert_{t=0} = \lim_{t\to 0}\dfrac{F(x+th)-F(x)}{t},
\end{equation*}
где подразумевается сходимость по норме в пространстве $$Y$$:
\begin{equation*}
\forall \{ t_n \}_{n=1}^{\infty}: t_n\to0 \quad\Longrightarrow\quad \bigg|\bigg|\dfrac{F(x+t_nh)-F(x)}{t_n} - DF(x, h) \bigg|\bigg| \to 0.
\end{equation*}

'''Пример.'''
Пусть $$F:\mathbb{R}^n\mapsto\mathbb{R}^m$$ дифференцируемо по Гато в точке $$x_0$$ и имеет слабую производную $$F'_c(x_0): \mathbb{R}^n\mapsto\mathbb{R}^m$$.

Тогда слабая производная задаётся матрицей $$A=(a_{ij})_{i=\overline{1,n},j=\overline{1,m}}$$, где
\begin{equation*}
a_{ij} = \dfrac{\partial F_i}{\partial x_j}(x_0),
\end{equation*}
т.е. $$A$$ --- матрица Якоби.

'''Замечания.'''
'''1.''' Иногда в литературе называют производную Фреше '''сильной производной''', а производную Гато --- '''слабой производной'''. Аналогично поступают с дифференциалами. Далее будет показано, что из дифференцируемость по Фреше следует дифференцируемость по Гато, но не наоборот, что объясняет названия.

'''2.''' Дифференциал Гато $$DF(x,h)$$ может и не быть линеен по $$h$$. Если же такая линейность имеет место, то
\begin{equation*}
DF(x,h) = F'_c(x)h,
\end{equation*}
где $$F'_c(x)h$$ --- ограниченный линейный оператор, его обычно называют '''производной Гато'''.

'''3.''' Теорема о дифференцировании сложной функции, вообще говоря, неверна для производной Гато.

'''Пример''': рассмотрим функции
\begin{equation*}
f(x_1, x_2) = \begin{cases}\begin{array}{cc}
\dfrac{x_1^3}{x_2}, & x_2\neq0, \\
0, & x_2=0.
\end{array}\end{cases},\qquad
g(t) = (t, t^2) \in \mathbb{R}^2
\end{equation*}
и их композицию $$l(t) = f(g(t)) = f(t, t^2)$$. Дифференциалы Гато в точках $$x=(0,0)$$ при приращениях $$h=(h_1,h_2), h_2\neq 0, a\neq0$$ равен
\begin{align*}
Df(x, h) &= \lim_{t\to0}\dfrac{f(th_1, th_2) - f(0, 0)}{t} = \lim_{t\to0} \dfrac{th_1^3}{h_2} = 0. \\
Dg(0, a) &= \lim_{t\to0}\dfrac{||(ta,t^2a^2)||}{t} = \lim_{t\to0}\dfrac{\sqrt{t^2a^2+t^4a^4}}{t} = |a|. \\
Dl(x, a) &= \lim_{t\to0}\dfrac{l(ta, ta) - l(0, 0)}{t} = \lim_{t\to0} \dfrac{\frac{t^3a^3}{t^2a^2}}{t} = a.
\end{align*}
Следовательно, $$Dl(t, a) \neq Dg(f(x), a) \cdot Df(x, h)$ при $t\in\mathbb{R}, h\neq 0, a\neq 0$$.

== Формула конечных приращений ==

'''Теорема 2.''' Пусть $$U\subset X$$ --- открытое множество, отрезок $$[x_0, x_1] \subset U$$, отображение $$F: U\mapsto Y$$ дифференцируемо по Гато и имеет слабую производную $$F'_c(x)$$ в каждой точке отрезка $$[x_0, x_1]$$. Тогда
\begin{equation*}
||F(x_1) - F(x_0)|| \leqslant \sup_{0\leqslant\theta\leqslant1}||F'_c(x_0+\theta(x_1-x_0))||\cdot||x_1-x_0||.
\end{equation*}

'''Доказательство.''' Положим $$\Delta x = x_1-x_0$$. Рассмотрим произвольный линейный ограниченный ненулевой функционал $$\phi\in Y^*$$ и числовую функцию
\begin{equation*}
f(t) = \phi(F(x_0+t\Delta x)),\quad t\in[0,1].
\end{equation*}
Эта функция дифференцируема по $$t$$, ведь в выражении
\begin{equation*}
\dfrac{f(t+\Delta t) - f(t)}{\Delta t} = \phi\left( \dfrac{F(x_0+t\Delta x + \Delta t\Delta x) - F(x_0 + t\Delta x)}{\Delta t} \right)
\end{equation*}
можно перейти к пределу под знаком непрерывного линейного функционала $$\phi$$. В итоге получим
\begin{equation*}
f'(t) = \phi\left(F'_c(x_0+t\Delta x)\Delta x\right).
\end{equation*}
Далее, для функции $$f(t)$$ применим формулу конечных приращений Лагранжа: $$f(1)=f(0)+f'(\theta),~\theta\in[0,1]$$. Следовательно, для произвольного $$\phi\in Y^*$$ получим
\begin{equation*}
\phi(F(x)-F(x_0)) = \phi(F'_c(x_0+\theta\Delta x)\Delta x).
\end{equation*}
Применим формулу конечных приращений
\begin{equation*}
|\phi(F(x)-F(x_0))| \leqslant ||\phi||\cdot \sup_{\theta\in[0,1]} ||F'_c(x_0+\theta\Delta x)||\cdot||\Delta x||.
\end{equation*}
'''Напоминание.''' (следствие из теоремы Хана Банаха). Пусть $$X$$ --- нормированное пространство, $$x\in X$$. Тогда существует вектор $$x^*\in X^*$$ такой, что $$||x^*||=1, x^*(x)=||x||$$.
Выберем теперь ненулевой функционал $$\phi$$ так, что (такой функционал $$\phi$$ существует в силу следствия их теоремы Хана Банаха)
\begin{equation*}
\phi(F(x)-F(x_0)) = ||\phi||\cdot||F(x)-F(x_0)||.
\end{equation*}
Следовательно,
\begin{equation*}
||F(x_1) - F(x_0)|| \leqslant \sup_{0\leqslant\theta\leqslant1}||F'_c(x_0+\theta(x_1-x_0))||\cdot||x_1-x_0||,
\end{equation*}
что и требовалось доказать.

'''Замечание.''' Если $$F: X\mapsto\mathbb R$$, то существует $$x\in[x_0,x_1]:~F(x_1)-F(x_0)=F'(x)(x_1-x_0)$$.

== Связь производных Гато и Фреше ==

'''Теорема 3.''' Если отображение $$F$$ имеет сильную производную (Фреше), то оно имеет и слабую производную (Гато), причем сильная и слабая производные совпадают.

'''Доказательство.''' Действительно, выберем приращение $$\tilde h = th$$:
\begin{align*}
& F(x+th) - f(x) = F'(x)(th) + o(th) = tF'(x)h + o(th). \Longrightarrow \\
\Longrightarrow & \dfrac{F(x+th) - F(x)}{t} = F'(x)h + \dfrac{o(th)}{t} \to F'(x)h,~ t\to0.
\end{align*}

'''Пример'''. Из слабой дифференцируемости отображения $$F$$ не следует его сильная дифференцируемость. Рассмотрим $$F: \mathbb{R}^2\mapsto\mathbb{R}$$:
\begin{equation*}
f(x_1, x_2) = \begin{cases}\begin{array}{cc}
\dfrac{x_1^3x_2}{x_1^4+x_2^2}, & (x_1,x_2)\neq(0,0), \\
0, & (x_1,x_2)=(0,0).
\end{array}\end{cases}
\end{equation*}
Эта функция непрерывна в $$\mathbb{R}^2\setminus\{(0,0)\}$$.

В точке $$(0,0)$$ её производная Гато существует и равен $$0$$, поскольку
\begin{equation*}
\lim_{t\to0} \dfrac{f(0+th)-f(0)}{t} = \lim_{t\to0}\dfrac{t^4h_1^3h_2}{t^5h_1^4+t^3h_2^2} = 0.
\end{equation*}
Однако этот дифференциал не является главной линейной частью приращения функции в $(0,0)$.

При $$h_2=h_1^2$$ имеем
\begin{equation*}
\lim_{||h||\to0} \dfrac{f(h_1,h_2)-f(0,0)}{||h||} = \lim_{h_1\to0}\dfrac{h_1^5}{2h_1^4\sqrt{h_1^2+h_1^4}} = \dfrac{1}{2} \neq 0.
\end{equation*}

Для функций с линейной непрерывной по $$x$$ производной Гато $$F'_c(x)$$ слабая и сильная производные совпадают. Об этом утверждает следующая теорема.

'''Теорема 4.''' Если слабая производная $$F'_c(x)$$ отображения $$F$$ существует в некоторой окрестности $$U(x_0)$$, является непрерывной по $$x$$ в точке $$x_0$$, то сильная производная $$F'(x_0)$$ существует и совпадает со слабой.

'''Доказательство.''' Выберем $$\varepsilon>0$$ и $$\delta>0$$ так, чтобы при $$||h||<\delta$$ выполнялось неравенство:
\begin{equation*}
||F'_c(x_0+h) - F'_c(x_0)|| \leqslant \varepsilon.
\end{equation*}
Применим формулу конечных приращений и получим
\begin{equation*}
||F(x_0+h) - F(x_0) - F'_c(x_0)h|| \leqslant \sup_{\theta\in[0,1]}||F'_c(x_0+\theta h)-F'_c(x_0)||\cdot||h|| \leqslant \varepsilon||h||.
\end{equation*}
Следовательно, сильная производная существует по определению и совпадает со слабой.

== Примеры вычисления дифференциалов ==

Рассмотрим $$H$$ --- гильбертово пространство, наделённое скалярным произведением $$\langle \cdot,\cdot \rangle_H$$, и $$J(u):H\mapsto\mathbb{R}$$.

1. $$J(u)=\langle c,u \rangle_H$$.
\begin{gather*}
J(u+h)-J(u) = \langle c,u+h \rangle_H - \langle c,u \rangle_H = \langle c,h \rangle_H = J'(u)h. \\
\Longrightarrow J'(u) = c.
\end{gather*}

2. $$J(u)=||u||^2_H = \langle u,u \rangle_H$$.
\begin{gather*}
J(u+h)-J(u) = \langle u+h,u+h \rangle_H - \langle u,u \rangle_H = 2\langle u,h \rangle_H. \\
\Longrightarrow J'(u) = 2u.
\end{gather*}

3. $$J(u)=\langle Au,u \rangle_H$$, где $$A: H\mapsto H$$ --- произвольный оператор, $$A^*$$ --- сопряженный к $$A$$ оператор: $$\langle Au,v \rangle_H = \langle u,A^*v \rangle_H,~ \forall u,v\in H$$.
\begin{gather*}
J(u+h)-J(u) = \langle A(u+h),u+h \rangle_H - \langle Au,u \rangle_H = \langle (A+A^*)u,h \rangle_H + \underbrace{\langle Ah,h \rangle_H}_{\to0}. \\
\Longrightarrow J'(u) = (A+A^*)u.
\end{gather*}

4. $$J(u)=||Au-f||^2 = \langle Au-f,Au-f \rangle_H$$, где $$f\in H$$ и $$A: H\mapsto H$$ --- произвольный оператор.
\begin{align*}
\langle Au-f,Au-f \rangle_H &= \langle Au - f,Au \rangle_H - \langle Au - f,f \rangle_H = \\
&= \langle Au,Au \rangle_H - \langle f,Au \rangle_H - \langle Au, f \rangle_H + \langle f,f \rangle_H = \\
&= \langle Au,Au \rangle_H - 2\langle f,Au \rangle_H + \langle f,f \rangle_H.
\end{align*}

\begin{align*}
\langle A(u+h)-f,A(u+h)-f \rangle_H &= \langle A(u+h),A(u+h) \rangle_H - 2\langle f,A(u+h) \rangle_H + \langle f,f \rangle_H.
\end{align*}

\begin{align*}
J(u+h)-J(u) &= \langle A(u+h)-f,A(u+h)-f \rangle_H - \langle Au-f,Au-f \rangle_H = \\
&= \left(\langle A(u+h),A(u+h) \rangle_H - \langle Au,Au \rangle_H\right) - 2(\langle f,A(u+h) \rangle_H - \langle f,Au \rangle_H) = \\
&= \langle (A^*A + AA^*)u,h \rangle_H - 2\langle f,Ah \rangle_H + o(h) = \\
&= \langle (A^*A + AA^*)u-2A^*f,h \rangle_H + o(h). \\
&\Longrightarrow J'(u) = (A^*A + AA^*)u-2A^*f.
\end{align*}

== Список литературы ==

'''1.''' ''Колмогоров A.Н., Фомин С.В.'' Элементы теории функций и функционального анализа. 7-е изд. М.: ФИЗМАТЛИТ, 2004.

'''2.''' ''Треногин В.А.'' Функциональный анализ: учебник. 3-е изд. М.: ФИЗМАТЛИТ, 2002.

'''3.''' Лекции по курсу "Методы оптимизации", 2024.

Производные и дифференциалы Фреше

2025-12-18T11:38:51Z

Arthur24: Добавлена основная информация.

__TOC__

== Определение дифференцируемости по Фреше ==

Рассмотрим $$X, Y$$ --- нормированные пространства с нормами $$||\cdot||_1, ||\cdot||_2$$ соответственно и $$F: X \mapsto Y$$ --- определенное на некотором открытом подмножестве $$O\subset X$$ отображение (например, $$O$$ --- открытый шар заданного радиуса).

Обозначим $$\mathcal{L}_x(X,Y)$$ --- множество линейных ограниченных операторов $$L: X \mapsto Y$$.

'''Определение.'''
Отображение $$F: X \mapsto Y$$ называется '''дифференцируемым по Фреше''' в точке $$x\in O$$, если существует линейный ограниченный оператор $$L_x \in \mathcal{L}(X,Y)$$
\begin{equation}\label{main_def}
\forall\varepsilon > 0~\exists\delta=\delta(\varepsilon):~ \forall h\in X:~ ||h||_1<\delta \quad\Longrightarrow\quad ||F(x+h)-F(x)-L_{x}h||_2 \leqslant \varepsilon||h||_1
\end{equation}
или, что то же самое, но сокращённо,
\begin{equation*}
F(x+h) - F(x) - L_xh = o(h),
\end{equation*}
где $$o(h)$$ --- это такое отображение, действующее из $$X$$ в $$Y$$, что
\begin{equation*}
\lim_{||h||_1\to 0}\dfrac{||o(h)||_2}{||h||_1} = 0.
\end{equation*}
При этом линейный оператор $$L_x(\cdot)$$ называется '''производной Фреше''' отображения $$F$$ в точке $$x$$, а выражение $$L_xh:=L_x(h)$$ --- '''дифференциалом Фреше'''.

Производная Фреше составляет главную линейную часть приращения отображения $$F$$.

Всюду далее будем опускать индексы среди $$||\cdot||_1, ||\cdot||_2$$, подразумевая подходящую аргументу норму.

== Свойства дифференцируемости по Фреше ==

Далее обозначим производную Фреше в точке $$x$$ отображения $$F$$ как $$F'(x)$$. Под этим символом понимаем линейный оператор $$L_x(\cdot)$$.

'''1.''' Если отображение $$F$$ дифференцируемо по Фреше в точке $$x$$, то $$F$$ является непрерывным в точке $$x$$.

'''Доказательство.'''
Следует из \eqref{main_def} и ограниченности производной Фреше.

'''2.''' Если отображение $$F$$ дифференцируемо по Фреше в точке $x$, то производная Фреше определяется единственным образом.

'''Доказательство.'''
Допустим, что $\exists L_1, L_2 \in \mathcal{L}(X,Y)$, которые удовлетворяют определению \eqref{main_def}. Тогда выполняется равенство $$||L_1h - L_2h|| = o(h)$$, что возможно только при $$L_1=L_2$$.

'''3.''' Если $$F(x)=\operatorname{const}$$, то $$F'(x)\equiv 0$$. Т.е. $$F'(x)$$ --- нулевой оператор.

'''Доказательство.'''
По определению получим, что $$L_xh = o(h)$$. Это возможно только если линейный оператор $$L_x$$ является нулевым.

'''4.''' Производная Фреше линейного ограниченного (следовательно, непрерывного) отображения $$L$$ совпадает с самим отображением: $$L'(x) = L, \forall x.$$

'''Доказательство.'''
По определению линейности $$L$$ имеем, что $$L(x+h) - L(x) = L(h)$$, откуда следует требуемое.

'''5.''' Пусть $$F$$ и $$G$$ --- непрерывные отображения, действующие из $$X$$ в $$Y$$. Если $$F$$ и $$G$$ дифференцируемы по Фреше в точке $$x_0$$, то и отображения $$F+G,~\alpha F$$ ($$\alpha$$ --- число, т.е. элемент поля, над которым определено пространство $$Y$$) тоже дифференцируемы в этой точке, причем их производные Фреше вычисляются по формуле:
\begin{align*}
(F + G)'(x_0) &= F'(x_0) + G'(x_0), \\
(\alpha F)'(x_0) &= \alpha F'(x_0)
\end{align*}

'''Доказательство.'''
Из определения суммы операторов и произведения операторов на число сразу получаем, что
\begin{align*}
(F+G)(x_0+h) &= F(x_0+h) + G(x_0+h) = F(x_0) + G(x_0) + F'(x_0)h + G'(x_0)h + o_1(h), \\
\alpha F(x_0+h) &= \alpha F(x_0) + \alpha F'(x_0)h + o_2(h),
\end{align*}
откуда следует требуемое.

'''6. (правило Лейбница).''' Пусть $$F: U\mapsto Y, G: U\mapsto\mathbb{R}$$ дифференцируемы по Фреше в точке $$x_0$$. Тогда отображение $$G(x)=g(x)F(x)$$ дифференцируемо по Фреше в точке $$x_0$$, причём
\begin{equation*}
G'(x_0)h = g'(x_0)h\cdot F(x_0) + g(x_0)\cdot F'(x_0)h.
\end{equation*}

'''Доказательство.'''
Пусть отображения дифференцируемы по Фреше. Тогда при $$||h||\to0$$ выполняется
\begin{align*}
G(x_0+h) = g(x_0+h)F(x_0+h) &= (g(x_0)+g'(x_0)h + o(h))\cdot(F(x_0)+F'(x_0)h + o(h)) = \\
&= g(x_0)F(x_0) + g'(x_0)h\cdot F(x_0) + g(x_0)\cdot F'(x_0)h + o(h).
\end{align*}

== Производная Фреше сложной функции ==

Под понятием дифференцируемости далее подразумеваем дифференцируемость в смысле Фреше, если не указано иначе.

'''Теорема 1.'''
Пусть $$X,Y,Z$$ --- нормированные пространства, $$U(x_0)$$ --- окрестность точки $$x_0\in X$$, $$F$$ --- отображение этой окрестности в $$Y$$, $$y_0 = F(x_0)$$, $$V(y_0)$$ --- окрестность точки $$y_0 \in Y$$ и $$G$$ --- отображение этой окрестности в $$Z$$. Тогда, если отображение $$F$$ дифференцируемо в точке $$x_0$$, а $$G$$ дифференцируемо в точке $$y_0$$, то отображение $$H = G\circ F$$, определенное в некоторой окрестности точки $$x_0$$ также является дифференцируемым в точке $$x_0$$, причём
\begin{equation}\label{chain_rule}
H'(x_0) = G'(y_0)\cdot F'(x_0).
\end{equation}

'''Доказательство.'''
Рассмотрим $$\varepsilon_1,\varepsilon_2 > 0$$. По определению дифференцируемости имеем
\begin{align*}
\exists\delta_1(\varepsilon_1) > 0: ~\forall \xi:||\xi||<\delta_1 &~\Longrightarrow~ ||F(x_0+\xi) - F(x_0) - F'(x_0)\xi|| < \varepsilon_1, \\
\exists\delta_2(\varepsilon_2) > 0: ~\forall \eta:||\eta||<\delta_2 &~\Longrightarrow~ ||G(y_0+\eta) - G(y) - G'(y_0)\eta|| < \varepsilon_2.
\end{align*}
Выберем $$\delta = \min(\delta_1, \delta_2),~\varepsilon=\max(\varepsilon_1,\varepsilon_2)$$. Зафиксируем $$\xi,\eta:~ ||\xi||<\delta, ||\eta||<\delta$$.

Отметим, что $$F'(x_0), G'(y_0)$$ --- ограниченные линейные операторы. Тогда существует отображение $$G'(F(x_0))\cdot F'(x_0) =: M(x_0)$$, оно является ограниченным, причём
\begin{align*}
H(x_0+\xi) &= G(F(x_0+\xi)) = G(F(x_0) + F'(x_0)\xi + o(\xi)) = G(F(x_0)) + G'(F(x_0))(F'(x_0)\xi + o_1(\xi)) + o_2(F'(x_0)\xi + o_1(\xi)) = \\
&= H(x_0) + G'(F(x_0))F'(x_0)\xi + o_3(\xi).
\end{align*}

'''Замечание.'''
Если $$F, G, H$$ --- числовые функции, то формула \eqref{chain_rule} превращается в известное из курса математического анализа правило дифференцирования сложной функции.

== Определение дифференцируемости по Гато ==

Пусть снова дано отображение $$F: X\mapsto Y$$.

'''Определение.'''
'''Дифференциалом Гато''' отображения $$F$$ в точке $$x$$ при приращении $$h$$ называется предел
\begin{equation*}
DF(x,h) = \dfrac{d}{dt}F(x+th)\bigg\vert_{t=0} = \lim_{t\to 0}\dfrac{F(x+th)-F(x)}{t},
\end{equation*}
где подразумевается сходимость по норме в пространстве $$Y$$:
\begin{equation*}
\forall \{ t_n \}_{n=1}^{\infty}: t_n\to0 \quad\Longrightarrow\quad \bigg|\bigg|\dfrac{F(x+t_nh)-F(x)}{t_n} - DF(x, h) \bigg|\bigg| \to 0.
\end{equation*}

'''Пример.'''
Пусть $$F:\mathbb{R}^n\mapsto\mathbb{R}^m$$ дифференцируемо по Гато в точке $$x_0$$ и имеет слабую производную $$F'_c(x_0): \mathbb{R}^n\mapsto\mathbb{R}^m$$.

Тогда слабая производная задаётся матрицей $$A=(a_{ij})_{i=\overline{1,n},j=\overline{1,m}}$$, где
\begin{equation*}
a_{ij} = \dfrac{\partial F_i}{\partial x_j}(x_0),
\end{equation*}
т.е. $$A$$ --- матрица Якоби.

'''Замечания.'''
'''1.''' Иногда в литературе называют производную Фреше '''сильной производной''', а производную Гато --- '''слабой производной'''. Аналогично поступают с дифференциалами. Далее будет показано, что из дифференцируемость по Фреше следует дифференцируемость по Гато, но не наоборот, что объясняет названия.

'''2.''' Дифференциал Гато $$DF(x,h)$$ может и не быть линеен по $$h$$. Если же такая линейность имеет место, то
\begin{equation*}
DF(x,h) = F'_c(x)h,
\end{equation*}
где $$F'_c(x)h$$ --- ограниченный линейный оператор, его обычно называют '''производной Гато'''.

'''3.''' Теорема о дифференцировании сложной функции, вообще говоря, неверна для производной Гато.

'''Пример''': рассмотрим функции
\begin{equation*}
f(x_1, x_2) = \begin{cases}\begin{array}{cc}
\dfrac{x_1^3}{x_2}, & x_2\neq0, \\
0, & x_2=0.
\end{array}\end{cases},\qquad
g(t) = (t, t^2) \in \mathbb{R}^2
\end{equation*}
и их композицию $$l(t) = f(g(t)) = f(t, t^2)$$. Дифференциалы Гато в точках $$x=(0,0)$$ при приращениях $$h=(h_1,h_2), h_2\neq 0, a\neq0$$ равен
\begin{align*}
Df(x, h) &= \lim_{t\to0}\dfrac{f(th_1, th_2) - f(0, 0)}{t} = \lim_{t\to0} \dfrac{th_1^3}{h_2} = 0. \\
Dg(0, a) &= \lim_{t\to0}\dfrac{||(ta,t^2a^2)||}{t} = \lim_{t\to0}\dfrac{\sqrt{t^2a^2+t^4a^4}}{t} = |a|. \\
Dl(x, a) &= \lim_{t\to0}\dfrac{l(ta, ta) - l(0, 0)}{t} = \lim_{t\to0} \dfrac{\frac{t^3a^3}{t^2a^2}}{t} = a.
\end{align*}
Следовательно, $$Dl(t, a) \neq Dg(f(x), a) \cdot Df(x, h)$ при $t\in\mathbb{R}, h\neq 0, a\neq 0$$.

== Формула конечных приращений ==

'''Теорема 2.''' Пусть $$U\subset X$$ --- открытое множество, отрезок $$[x_0, x_1] \subset U$$, отображение $$F: U\mapsto Y$$ дифференцируемо по Гато и имеет слабую производную $$F'_c(x)$$ в каждой точке отрезка $$[x_0, x_1]$$. Тогда
\begin{equation*}
||F(x_1) - F(x_0)|| \leqslant \sup_{0\leqslant\theta\leqslant1}||F'_c(x_0+\theta(x_1-x_0))||\cdot||x_1-x_0||.
\end{equation*}

'''Доказательство.''' Положим $$\Delta x = x_1-x_0$$. Рассмотрим произвольный линейный ограниченный ненулевой функционал $$\phi\in Y^*$$ и числовую функцию
\begin{equation*}
f(t) = \phi(F(x_0+t\Delta x)),\quad t\in[0,1].
\end{equation*}
Эта функция дифференцируема по $$t$$, ведь в выражении
\begin{equation*}
\dfrac{f(t+\Delta t) - f(t)}{\Delta t} = \phi\left( \dfrac{F(x_0+t\Delta x + \Delta t\Delta x) - F(x_0 + t\Delta x)}{\Delta t} \right)
\end{equation*}
можно перейти к пределу под знаком непрерывного линейного функционала $$\phi$$. В итоге получим
\begin{equation*}
f'(t) = \phi\left(F'_c(x_0+t\Delta x)\Delta x\right).
\end{equation*}
Далее, для функции $$f(t)$$ применим формулу конечных приращений Лагранжа: $$f(1)=f(0)+f'(\theta),~\theta\in[0,1]$$. Следовательно, для произвольного $$\phi\in Y^*$$ получим
\begin{equation*}
\phi(F(x)-F(x_0)) = \phi(F'_c(x_0+\theta\Delta x)\Delta x).
\end{equation*}
Применим формулу конечных приращений
\begin{equation*}
|\phi(F(x)-F(x_0))| \leqslant ||\phi||\cdot \sup_{\theta\in[0,1]} ||F'_c(x_0+\theta\Delta x)||\cdot||\Delta x||.
\end{equation*}
'''Напоминание.''' (следствие из теоремы Хана Банаха). Пусть $$X$$ --- нормированное пространство, $$x\in X$$. Тогда существует вектор $$x^*\in X^*$$ такой, что $$||x^*||=1, x^*(x)=||x||$$.
Выберем теперь ненулевой функционал $$\phi$$ так, что (такой функционал $$\phi$$ существует в силу следствия их теоремы Хана Банаха)
\begin{equation*}
\phi(F(x)-F(x_0)) = ||\phi||\cdot||F(x)-F(x_0)||.
\end{equation*}
Следовательно,
\begin{equation*}
||F(x_1) - F(x_0)|| \leqslant \sup_{0\leqslant\theta\leqslant1}||F'_c(x_0+\theta(x_1-x_0))||\cdot||x_1-x_0||,
\end{equation*}
что и требовалось доказать.

'''Замечание.''' Если $$F: X\mapsto\mathbb R$$, то существует $$x\in[x_0,x_1]:~F(x_1)-F(x_0)=F'(x)(x_1-x_0)$$.

== Связь производных Гато и Фреше ==

'''Теорема 3.''' Если отображение $$F$$ имеет сильную производную (Фреше), то оно имеет и слабую производную (Гато), причем сильная и слабая производные совпадают.

'''Доказательство.''' Действительно, выберем приращение $$\tilde h = th$$:
\begin{align*}
& F(x+th) - f(x) = F'(x)(th) + o(th) = tF'(x)h + o(th). \Longrightarrow \\
\Longrightarrow & \dfrac{F(x+th) - F(x)}{t} = F'(x)h + \dfrac{o(th)}{t} \to F'(x)h,~ t\to0.
\end{align*}

'''Пример'''. Из слабой дифференцируемости отображения $$F$$ не следует его сильная дифференцируемость. Рассмотрим $$F: \mathbb{R}^2\mapsto\mathbb{R}$$:
\begin{equation*}
f(x_1, x_2) = \begin{cases}\begin{array}{cc}
\dfrac{x_1^3x_2}{x_1^4+x_2^2}, & (x_1,x_2)\neq(0,0), \\
0, & (x_1,x_2)=(0,0).
\end{array}\end{cases}
\end{equation*}
Эта функция непрерывна в $$\mathbb{R}^2\setminus\{(0,0)\}$$.

В точке $$(0,0)$$ её производная Гато существует и равен $$0$$, поскольку
\begin{equation*}
\lim_{t\to0} \dfrac{f(0+th)-f(0)}{t} = \lim_{t\to0}\dfrac{t^4h_1^3h_2}{t^5h_1^4+t^3h_2^2} = 0.
\end{equation*}
Однако этот дифференциал не является главной линейной частью приращения функции в $(0,0)$.

При $$h_2=h_1^2$$ имеем
\begin{equation*}
\lim_{||h||\to0} \dfrac{f(h_1,h_2)-f(0,0)}{||h||} = \lim_{h_1\to0}\dfrac{h_1^5}{2h_1^4\sqrt{h_1^2+h_1^4}} = \dfrac{1}{2} \neq 0.
\end{equation*}

Для функций с линейной непрерывной по $$x$$ производной Гато $$F'_c(x)$$ слабая и сильная производные совпадают. Об этом утверждает следующая теорема.

'''Теорема 4.''' Если слабая производная $$F'_c(x)$$ отображения $$F$$ существует в некоторой окрестности $$U(x_0)$$, является непрерывной по $$x$$ в точке $$x_0$$, то сильная производная $$F'(x_0)$$ существует и совпадает со слабой.

'''Доказательство.''' Выберем $$\varepsilon>0$$ и $$\delta>0$$ так, чтобы при $$||h||<\delta$$ выполнялось неравенство:
\begin{equation*}
||F'_c(x_0+h) - F'_c(x_0)|| \leqslant \varepsilon.
\end{equation*}
Применим формулу конечных приращений и получим
\begin{equation*}
||F(x_0+h) - F(x_0) - F'_c(x_0)h|| \leqslant \sup_{\theta\in[0,1]}||F'_c(x_0+\theta h)-F'_c(x_0)||\cdot||h|| \leqslant \varepsilon||h||.
\end{equation*}
Следовательно, сильная производная существует по определению и совпадает со слабой.

== Примеры вычисления дифференциалов ==

Рассмотрим $$H$$ --- гильбертово пространство, наделённое скалярным произведением $$\langle \cdot,\cdot \rangle_H$$, и $$J(u):H\mapsto\mathbb{R}$$.

1. $$J(u)=\langle c,u \rangle_H$$.
\begin{gather*}
J(u+h)-J(u) = \langle c,u+h \rangle_H - \langle c,u \rangle_H = \langle c,h \rangle_H = J'(u)h. \\
\Longrightarrow J'(u) = c.
\end{gather*}

2. $$J(u)=||u||^2_H = \langle u,u \rangle_H$$.
\begin{gather*}
J(u+h)-J(u) = \langle u+h,u+h \rangle_H - \langle u,u \rangle_H = 2\langle u,h \rangle_H. \\
\Longrightarrow J'(u) = 2u.
\end{gather*}

3. $$J(u)=\langle Au,u \rangle_H$$, где $$A: H\mapsto H$$ --- произвольный оператор, $$A^*$$ --- сопряженный к $$A$$ оператор: $$\langle Au,v \rangle_H = \langle u,A^*v \rangle_H,~ \forall u,v\in H$$.
\begin{gather*}
J(u+h)-J(u) = \langle A(u+h),u+h \rangle_H - \langle Au,u \rangle_H = \langle (A+A^*)u,h \rangle_H + \underbrace{\langle Ah,h \rangle_H}_{\to0}. \\
\Longrightarrow J'(u) = (A+A^*)u.
\end{gather*}

4. $$J(u)=||Au-f||^2 = \langle Au-f,Au-f \rangle_H$$, где $$f\in H$$ и $$A: H\mapsto H$$ --- произвольный оператор.
\begin{align*}
\langle Au-f,Au-f \rangle_H &= \langle Au - f,Au \rangle_H - \langle Au - f,f \rangle_H = \\
&= \langle Au,Au \rangle_H - \langle f,Au \rangle_H - \langle Au, f \rangle_H + \langle f,f \rangle_H = \\
&= \langle Au,Au \rangle_H - 2\langle f,Au \rangle_H + \langle f,f \rangle_H.
\end{align*}

\begin{align*}
\langle A(u+h)-f,A(u+h)-f \rangle_H &= \langle A(u+h),A(u+h) \rangle_H - 2\langle f,A(u+h) \rangle_H + \langle f,f \rangle_H.
\end{align*}

\begin{align*}
J(u+h)-J(u) &= \langle A(u+h)-f,A(u+h)-f \rangle_H - \langle Au-f,Au-f \rangle_H = \\
&= \left(\langle A(u+h),A(u+h) \rangle_H - \langle Au,Au \rangle_H\right) - 2(\langle f,A(u+h) \rangle_H - \langle f,Au \rangle_H) = \\
&= \langle (A^*A + AA^*)u,h \rangle_H - 2\langle f,Ah \rangle_H + o(h) = \\
&= \langle (A^*A + AA^*)u-2A^*f,h \rangle_H + o(h). \\
&\Longrightarrow J'(u) = (A^*A + AA^*)u-2A^*f.
\end{align*}

Отображение Пуанкаре. Мешок Бендиксона

2024-12-25T11:00:48Z

Arthur24: Содержание

__TOC__

== Мешок Бендиксона ==

Рассматриваем [[Динамическая система|двумерную динамическую систему]]
\begin{equation}\label{ode}
\begin{cases}
\dot u_1(t) = f_1(u_1(t),u_2(t)), \\
\dot u_2(t) = f_2(u_1(t),u_2(t)).
\end{cases}\quad
u\in U\subseteq\mathbb R^2.
\end{equation}

[[Файл:Bendixson-bad-case.png|мини|Случай разворота траектории двумерной ДС]]

[[Файл:Bendixson-cycling.png.png|мини|Траектория "закручивается" вдоль кривой $$\Gamma$$]]

Пусть выбрана некоторая траектория $$u(t,u_0)$$ системы \eqref{ode} с начальным условием
\begin{equation*}
(u_1(0),u_2(0))=(u_1^0,u_2^0)=u_0.
\end{equation*}

Выберем в координатах $$Ou_1u_2$$ кривую $$\Gamma$$ такую, что

1. $$\Gamma$$ пересекает траекторию $$u(t,u_0)$$ в некоторой точке, обозначим её $$x_1$$;

2. в точках $$\Gamma$$ не происходит касания ни с какой траекторией системы \eqref{ode};

3. по близости с $$\Gamma$$ нет [[Неподвижные точки системы|особых точек]] системы \eqref{ode}.

Отметим, что требование отсутствия по близости к $$\Gamma$$ особых точек наложено из-за случая, когда траектория "разворачивается".
Мы ожидаем, что траектория будет либо спиралевидно "закручиваться" , либо спиралевидно "раскручиваться" , и "развороты" не будут иметь место.
На языке теории векторного поля, это означает, что векторное поле является знакопостоянным в окрестности кривой $$\Gamma$$.

Таким образом, т.к. траектория сама себя не пересекает, внутри области "закручивания" находится [[Предельное поведение траекторий. Предельные циклы. Теорема Дюлака-Бендиксона|предельный цикл]] или особая точка системы \eqref{ode}. Такому поведению соответствует мешок Бендиксона.

'''Определение.'''
'''Мешком Бендиксона''' называется область фазового пространства системы \eqref{ode} такая, что указанная траектория $$u(t,u_0)$$ "закручивается" вдоль кривой $$\Gamma$$.

Ограничимся рассмотрением случая, когда система \eqref{ode} имеет предельный цикл $$\gamma$$ внутри мешка Бендиксона.
Выберем $$\Gamma$$ — кривая, которая имеет единственную точку пересечения с $$\gamma$$, обозначим её $$x_0$$.

На кривой $$\Gamma$$ введём новую систему координат (одномерную параметризацию). На практике полагают $$\Gamma$$ — отрезок, а система координат соответствует прямой, его содержащей.

По мере эволюции кривая $$u(t,u_0)$$ последовательно пересекает кривую $$\Gamma$$ в точках $$x_1$$, $$x_2$$, $$x_3$$ и т.д. Далее каждой точке $$x_i$$ поставим в соответствие координату $$a_i\in\mathbb{R}$$ в системе координат, отвечающей кривой $$\Gamma$$:
\begin{gather*}
x_0\mapsto a_0,\quad x_1\mapsto a_1,\quad x_2\mapsto a_2, \quad\dots\quad x_k\mapsto a_k, \quad\dots
\end{gather*}

'''Определение.'''
Пусть векторное поле, отвечающее \eqref{ode}, знакопостоянно вдоль кривой $$\Gamma$$.
Тогда задана '''функция последования''' — числовая функция $$\psi :\mathbb R \mapsto \mathbb R$$, которая определяет, в какой точке произойдет следующее пересечение траектории $$u(t,u_0)$$ с кривой $$\Gamma$$ в системе координат, связанной с $$\Gamma$$:
\begin{gather*}
\psi(a_1)=a_2,\quad\psi(a_2)=a_3,\quad\dots\quad\psi(a_k)=a_{k+1},\quad\dots
\end{gather*}

От исследования предельных циклов \eqref{ode} можно перейти к исследованию замкнутых траекторий \eqref{ode}.

'''Утверждение 1.'''
Если $$a_0$$ — координата пересечения замкнутой траектории с кривой $$\Gamma$$, то $$\psi(a_0)=a_0$$.

Следовательно, [[Неподвижные точки системы|неподвижные точки]] функции последования $$\psi(\cdot)$$ соответствуют пересечению кривой $$\Gamma$$ с замкнутыми траекториями системы \eqref{ode}.

== Отображение Пуанкаре ==

Отображение Пуанкаре применяется для исследования наличия замкнутых траекторий и устойчивости предельных циклов системы \eqref{ode}. На практике в произвольной области пространства выбирается кривая $$\Gamma$$, отвечающая перечисленным свойствам, с удобной параметризацией, исследуется поведение конкретных траекторий \eqref{ode} внутри окрестности $$\Gamma$$ и нули отображения Пуанкаре.

Введём понятие отображения Пуанкаре. Рассматриваем ту же функцию последования $$\psi(\cdot)$$ из прошлого пункта.

'''Определение.'''
Отображением Пуанкаре называется числовая функция $$\Pi :\mathbb R \mapsto\mathbb R$$ такая, что
\begin{gather*}
\Pi(a_1) = \psi(a_1) - \psi(a_2), \\
\Pi(a_2) = \psi(a_2) - \psi(a_3), \\
\dots \\
\Pi(a_k) = \psi(a_k) - \psi(a_{k+1}), \\
\dots
\end{gather*}

По определению, неподвижные точки $$\psi(\cdot)$$ соответствуют нулям функции $$\Pi(\cdot)$$ и наоборот.

'''Утверждение 2.'''
Чтобы в точке с координатой $$a^*$$ кривая $$\Gamma$$ пересекала замкнутую траекторию системы \eqref{ode}, необходимо и достаточно, чтобы $$\psi(a^*)=a^*$$ или $$\Pi(a^*)=0$$.

'''Доказательство.'''
Следует из устройства мешка Бендиксона: если положить от противного, что $$\psi(a^*)\neq a^*$$, то траектория либо "закручивается" внутрь себя, либо "раскручивается" от себя, имеем противоречие с замкнутостью данной траектории. В обратную сторону доказываем аналогично.

'''Утверждение 3.'''
Пусть в точке с координатой $$a^*$$ кривая $$\Gamma$$ пересекает предельный цикл $$\gamma$$ системы \eqref{ode} и функция последования $$\psi(\cdot)$$ является дифференцируемой в этой точке. Тогда
* если $$|\psi'(a^*)| < 1$$, то предельный цикл $$\gamma$$ — устойчивый;
* если $$|\psi'(a^*)| > 1$$, то предельный цикл $$\gamma$$ — неустойчивый;
* если $$|\psi'(a^*)| = 1$$, то об устойчивости предельного цикла $$\gamma$$ ничего нельзя сказать.

'''Доказательство.'''
Следует из [[Циклы в системах с дискретным временем. Теорема Шарковского|теории дискретных динамических систем]] и определения предельного цикла.

== Список литературы ==

1. Братусь А.С., Новожилов А.С., Платонов А.П. Динамические системы и модели биологии 2011.

2. Абрамова В.В. Лекции по курсу "Динамические системы и биоматематика", 2024.

Отображение Пуанкаре. Мешок Бендиксона

2024-12-25T10:54:45Z

Arthur24: /* Отображение Пуанкаре */

== Мешок Бендиксона ==

Рассматриваем [[Динамическая система|двумерную динамическую систему]]
\begin{equation}\label{ode}
\begin{cases}
\dot u_1(t) = f_1(u_1(t),u_2(t)), \\
\dot u_2(t) = f_2(u_1(t),u_2(t)).
\end{cases}\quad
u\in U\subseteq\mathbb R^2.
\end{equation}

[[Файл:Bendixson-bad-case.png|мини|Случай разворота траектории двумерной ДС]]

[[Файл:Bendixson-cycling.png.png|мини|Траектория "закручивается" вдоль кривой $$\Gamma$$]]

Пусть выбрана некоторая траектория $$u(t,u_0)$$ системы \eqref{ode} с начальным условием
\begin{equation*}
(u_1(0),u_2(0))=(u_1^0,u_2^0)=u_0.
\end{equation*}

Выберем в координатах $$Ou_1u_2$$ кривую $$\Gamma$$ такую, что

1. $$\Gamma$$ пересекает траекторию $$u(t,u_0)$$ в некоторой точке, обозначим её $$x_1$$;

2. в точках $$\Gamma$$ не происходит касания ни с какой траекторией системы \eqref{ode};

3. по близости с $$\Gamma$$ нет [[Неподвижные точки системы|особых точек]] системы \eqref{ode}.

Отметим, что требование отсутствия по близости к $$\Gamma$$ особых точек наложено из-за случая, когда траектория "разворачивается".
Мы ожидаем, что траектория будет либо спиралевидно "закручиваться" , либо спиралевидно "раскручиваться" , и "развороты" не будут иметь место.
На языке теории векторного поля, это означает, что векторное поле является знакопостоянным в окрестности кривой $$\Gamma$$.

Таким образом, т.к. траектория сама себя не пересекает, внутри области "закручивания" находится [[Предельное поведение траекторий. Предельные циклы. Теорема Дюлака-Бендиксона|предельный цикл]] или особая точка системы \eqref{ode}. Такому поведению соответствует мешок Бендиксона.

'''Определение.'''
'''Мешком Бендиксона''' называется область фазового пространства системы \eqref{ode} такая, что указанная траектория $$u(t,u_0)$$ "закручивается" вдоль кривой $$\Gamma$$.

Ограничимся рассмотрением случая, когда система \eqref{ode} имеет предельный цикл $$\gamma$$ внутри мешка Бендиксона.
Выберем $$\Gamma$$ — кривая, которая имеет единственную точку пересечения с $$\gamma$$, обозначим её $$x_0$$.

На кривой $$\Gamma$$ введём новую систему координат (одномерную параметризацию). На практике полагают $$\Gamma$$ — отрезок, а система координат соответствует прямой, его содержащей.

По мере эволюции кривая $$u(t,u_0)$$ последовательно пересекает кривую $$\Gamma$$ в точках $$x_1$$, $$x_2$$, $$x_3$$ и т.д. Далее каждой точке $$x_i$$ поставим в соответствие координату $$a_i\in\mathbb{R}$$ в системе координат, отвечающей кривой $$\Gamma$$:
\begin{gather*}
x_0\mapsto a_0,\quad x_1\mapsto a_1,\quad x_2\mapsto a_2, \quad\dots\quad x_k\mapsto a_k, \quad\dots
\end{gather*}

'''Определение.'''
Пусть векторное поле, отвечающее \eqref{ode}, знакопостоянно вдоль кривой $$\Gamma$$.
Тогда задана '''функция последования''' — числовая функция $$\psi :\mathbb R \mapsto \mathbb R$$, которая определяет, в какой точке произойдет следующее пересечение траектории $$u(t,u_0)$$ с кривой $$\Gamma$$ в системе координат, связанной с $$\Gamma$$:
\begin{gather*}
\psi(a_1)=a_2,\quad\psi(a_2)=a_3,\quad\dots\quad\psi(a_k)=a_{k+1},\quad\dots
\end{gather*}

От исследования предельных циклов \eqref{ode} можно перейти к исследованию замкнутых траекторий \eqref{ode}.

'''Утверждение 1.'''
Если $$a_0$$ — координата пересечения замкнутой траектории с кривой $$\Gamma$$, то $$\psi(a_0)=a_0$$.

Следовательно, [[Неподвижные точки системы|неподвижные точки]] функции последования $$\psi(\cdot)$$ соответствуют пересечению кривой $$\Gamma$$ с замкнутыми траекториями системы \eqref{ode}.

== Отображение Пуанкаре ==

Отображение Пуанкаре применяется для исследования наличия замкнутых траекторий и устойчивости предельных циклов системы \eqref{ode}. На практике в произвольной области пространства выбирается кривая $$\Gamma$$, отвечающая перечисленным свойствам, с удобной параметризацией, исследуется поведение конкретных траекторий \eqref{ode} внутри окрестности $$\Gamma$$ и нули отображения Пуанкаре.

Введём понятие отображения Пуанкаре. Рассматриваем ту же функцию последования $$\psi(\cdot)$$ из прошлого пункта.

'''Определение.'''
Отображением Пуанкаре называется числовая функция $$\Pi :\mathbb R \mapsto\mathbb R$$ такая, что
\begin{gather*}
\Pi(a_1) = \psi(a_1) - \psi(a_2), \\
\Pi(a_2) = \psi(a_2) - \psi(a_3), \\
\dots \\
\Pi(a_k) = \psi(a_k) - \psi(a_{k+1}), \\
\dots
\end{gather*}

По определению, неподвижные точки $$\psi(\cdot)$$ соответствуют нулям функции $$\Pi(\cdot)$$ и наоборот.

'''Утверждение 2.'''
Чтобы в точке с координатой $$a^*$$ кривая $$\Gamma$$ пересекала замкнутую траекторию системы \eqref{ode}, необходимо и достаточно, чтобы $$\psi(a^*)=a^*$$ или $$\Pi(a^*)=0$$.

'''Доказательство.'''
Следует из устройства мешка Бендиксона: если положить от противного, что $$\psi(a^*)\neq a^*$$, то траектория либо "закручивается" внутрь себя, либо "раскручивается" от себя, имеем противоречие с замкнутостью данной траектории. В обратную сторону доказываем аналогично.

'''Утверждение 3.'''
Пусть в точке с координатой $$a^*$$ кривая $$\Gamma$$ пересекает предельный цикл $$\gamma$$ системы \eqref{ode} и функция последования $$\psi(\cdot)$$ является дифференцируемой в этой точке. Тогда
* если $$|\psi'(a^*)| < 1$$, то предельный цикл $$\gamma$$ — устойчивый;
* если $$|\psi'(a^*)| > 1$$, то предельный цикл $$\gamma$$ — неустойчивый;
* если $$|\psi'(a^*)| = 1$$, то об устойчивости предельного цикла $$\gamma$$ ничего нельзя сказать.

'''Доказательство.'''
Следует из [[Циклы в системах с дискретным временем. Теорема Шарковского|теории дискретных динамических систем]] и определения предельного цикла.

== Список литературы ==

1. Братусь А.С., Новожилов А.С., Платонов А.П. Динамические системы и модели биологии 2011.

2. Абрамова В.В. Лекции по курсу "Динамические системы и биоматематика", 2024.

Отображение Пуанкаре. Мешок Бендиксона

2024-12-24T18:09:15Z

Arthur24:

== Мешок Бендиксона ==

Рассматриваем [[Динамическая система|двумерную динамическую систему]]
\begin{equation}\label{ode}
\begin{cases}
\dot u_1(t) = f_1(u_1(t),u_2(t)), \\
\dot u_2(t) = f_2(u_1(t),u_2(t)).
\end{cases}\quad
u\in U\subseteq\mathbb R^2.
\end{equation}

[[Файл:Bendixson-bad-case.png|мини|Случай разворота траектории двумерной ДС]]

[[Файл:Bendixson-cycling.png.png|мини|Траектория "закручивается" вдоль кривой $$\Gamma$$]]

Пусть выбрана некоторая траектория $$u(t,u_0)$$ системы \eqref{ode} с начальным условием
\begin{equation*}
(u_1(0),u_2(0))=(u_1^0,u_2^0)=u_0.
\end{equation*}

Выберем в координатах $$Ou_1u_2$$ кривую $$\Gamma$$ такую, что

1. $$\Gamma$$ пересекает траекторию $$u(t,u_0)$$ в некоторой точке, обозначим её $$x_1$$;

2. в точках $$\Gamma$$ не происходит касания ни с какой траекторией системы \eqref{ode};

3. по близости с $$\Gamma$$ нет [[Неподвижные точки системы|особых точек]] системы \eqref{ode}.

Отметим, что требование отсутствия по близости к $$\Gamma$$ особых точек наложено из-за случая, когда траектория "разворачивается".
Мы ожидаем, что траектория будет либо спиралевидно "закручиваться" , либо спиралевидно "раскручиваться" , и "развороты" не будут иметь место.
На языке теории векторного поля, это означает, что векторное поле является знакопостоянным в окрестности кривой $$\Gamma$$.

Таким образом, т.к. траектория сама себя не пересекает, внутри области "закручивания" находится [[Предельное поведение траекторий. Предельные циклы. Теорема Дюлака-Бендиксона|предельный цикл]] или особая точка системы \eqref{ode}. Такому поведению соответствует мешок Бендиксона.

'''Определение.'''
'''Мешком Бендиксона''' называется область фазового пространства системы \eqref{ode} такая, что указанная траектория $$u(t,u_0)$$ "закручивается" вдоль кривой $$\Gamma$$.

Ограничимся рассмотрением случая, когда система \eqref{ode} имеет предельный цикл $$\gamma$$ внутри мешка Бендиксона.
Выберем $$\Gamma$$ — кривая, которая имеет единственную точку пересечения с $$\gamma$$, обозначим её $$x_0$$.

На кривой $$\Gamma$$ введём новую систему координат (одномерную параметризацию). На практике полагают $$\Gamma$$ — отрезок, а система координат соответствует прямой, его содержащей.

По мере эволюции кривая $$u(t,u_0)$$ последовательно пересекает кривую $$\Gamma$$ в точках $$x_1$$, $$x_2$$, $$x_3$$ и т.д. Далее каждой точке $$x_i$$ поставим в соответствие координату $$a_i\in\mathbb{R}$$ в системе координат, отвечающей кривой $$\Gamma$$:
\begin{gather*}
x_0\mapsto a_0,\quad x_1\mapsto a_1,\quad x_2\mapsto a_2, \quad\dots\quad x_k\mapsto a_k, \quad\dots
\end{gather*}

'''Определение.'''
Пусть векторное поле, отвечающее \eqref{ode}, знакопостоянно вдоль кривой $$\Gamma$$.
Тогда задана '''функция последования''' — числовая функция $$\psi :\mathbb R \mapsto \mathbb R$$, которая определяет, в какой точке произойдет следующее пересечение траектории $$u(t,u_0)$$ с кривой $$\Gamma$$ в системе координат, связанной с $$\Gamma$$:
\begin{gather*}
\psi(a_1)=a_2,\quad\psi(a_2)=a_3,\quad\dots\quad\psi(a_k)=a_{k+1},\quad\dots
\end{gather*}

От исследования предельных циклов \eqref{ode} можно перейти к исследованию замкнутых траекторий \eqref{ode}.

'''Утверждение 1.'''
Если $$a_0$$ — координата пересечения замкнутой траектории с кривой $$\Gamma$$, то $$\psi(a_0)=a_0$$.

Следовательно, [[Неподвижные точки системы|неподвижные точки]] функции последования $$\psi(\cdot)$$ соответствуют пересечению кривой $$\Gamma$$ с замкнутыми траекториями системы \eqref{ode}.

== Отображение Пуанкаре ==

Отображение Пуанкаре применяется для исследования наличия замкнутых траекторий и устойчивости предельных циклов системы \eqref{ode}. На практике в произвольной области пространства выбирается кривая $$\Gamma$$, отвечающая перечисленным свойствам, с удобной параметризацией, исследуется поведение конкретных траекторий \eqref{ode} внутри окрестности $$\Gamma$$ и нули отображения Пуанкаре.

Введём понятие отображения Пуанкаре. Рассматриваем ту же функцию последования $$\psi(\cdot)$$ из прошлого пункта.

'''Определение.'''
Отображением Пуанкаре называется числовая функция $$\Pi :\mathbb R \mapsto\mathbb R$$ такая, что
\begin{gather*}
\Pi(a_1) = \psi(a_1) - \psi(a_2), \\
\Pi(a_2) = \psi(a_2) - \psi(a_3), \\
\dots \\
\Pi(a_k) = \psi(a_k) - \psi(a_{k+1}), \\
\dots
\end{gather*}

По определению, неподвижные точки $$\psi(\cdot)$$ соответствуют нулям функции $$\Pi(\cdot)$$ и наоборот.

'''Утверждение 2.'''
Чтобы в точке с координатой $$a^*$$ кривая $$\Gamma$$ пересекала замкнутую траекторию системы \eqref{ode}, необходимо и достаточно, чтобы $$\psi(a^*)=a^*$$ или $$\Pi(a^*)=0$$.

'''Доказательство.'''
Следует из устройства мешка Бендиксона: если положить от противного, что $$\psi(a^*)\neq a^*$$, то траектория либо "закручивается" внутрь себя, либо "раскручивается" от себя, имеем противоречие с замкнутостью данной траектории. В обратную сторону доказываем аналогично.

'''Утверждение 3.'''
Чтобы предельный цикл $$\gamma$$ был устойчивым, необходимо, чтобы $$|\psi'(a^*)| < 1$$.

'''Доказательство.'''
Следует из [[Циклы в системах с дискретным временем. Теорема Шарковского|теории дискретных динамических систем]].

== Список литературы ==

1. Братусь А.С., Новожилов А.С., Платонов А.П. Динамические системы и модели биологии 2011.

2. Абрамова В.В. Лекции по курсу "Динамические системы и биоматематика", 2024.

Отображение Пуанкаре. Мешок Бендиксона

2024-12-24T18:08:22Z

Arthur24: Новая страница: «== Мешок Бендиксона == Рассматриваем Динамическая система|двумерную динамическую систе...»

== Мешок Бендиксона ==

Рассматриваем [[Динамическая система|двумерную динамическую систему]]
\begin{equation}\label{ode}
\begin{cases}
\dot u_1(t) = f_1(u_1(t),u_2(t)), \\
\dot u_2(t) = f_2(u_1(t),u_2(t)).
\end{cases}\quad
u\in U\subseteq\mathbb R^2.
\end{equation}

[[Файл:Bendixson-bad-case.png|мини|Случай разворота траектории двумерной ДС]]

[[Файл:Bendixson-cycling.png.png|мини|Траектория "закручивается" вдоль кривой $$\Gamma$$]]

Пусть выбрана некоторая траектория $$u(t,u_0)$$ системы \eqref{ode} с начальным условием
\begin{equation*}
(u_1(0),u_2(0))=(u_1^0,u_2^0)=u_0.
\end{equation*}

Выберем в координатах $$Ou_1u_2$$ кривую $$\Gamma$$ такую, что

1. $$\Gamma$$ пересекает траекторию $$u(t,u_0)$$ в некоторой точке, обозначим её $$x_1$$;

2. в точках $$\Gamma$$ не происходит касания ни с какой траекторией системы \eqref{ode};

3. по близости с $$\Gamma$$ нет [[Неподвижные точки системы|особых точек]] системы \eqref{ode}.

Отметим, что требование отсутствия по близости к $$\Gamma$$ особых точек наложено из-за случая, когда траектория "разворачивается".
Мы ожидаем, что траектория будет либо спиралевидно "закручиваться" , либо спиралевидно "раскручиваться" , и "развороты" не будут иметь место.
На языке теории векторного поля, это означает, что векторное поле является знакопостоянным в окрестности кривой $$\Gamma$$.

Таким образом, т.к. траектория сама себя не пересекает, внутри области "закручивания" находится [[Многомерная система Лотки-Вольтерры. Теорема об отсутствии циклов|предельный цикл]] или особая точка системы \eqref{ode}. Такому поведению соответствует мешок Бендиксона.

'''Определение.'''
'''Мешком Бендиксона''' называется область фазового пространства системы \eqref{ode} такая, что указанная траектория $$u(t,u_0)$$ "закручивается" вдоль кривой $$\Gamma$$.

Ограничимся рассмотрением случая, когда система \eqref{ode} имеет предельный цикл $$\gamma$$ внутри мешка Бендиксона.
Выберем $$\Gamma$$ — кривая, которая имеет единственную точку пересечения с $$\gamma$$, обозначим её $$x_0$$.

На кривой $$\Gamma$$ введём новую систему координат (одномерную параметризацию). На практике полагают $$\Gamma$$ — отрезок, а система координат соответствует прямой, его содержащей.

По мере эволюции кривая $$u(t,u_0)$$ последовательно пересекает кривую $$\Gamma$$ в точках $$x_1$$, $$x_2$$, $$x_3$$ и т.д. Далее каждой точке $$x_i$$ поставим в соответствие координату $$a_i\in\mathbb{R}$$ в системе координат, отвечающей кривой $$\Gamma$$:
\begin{gather*}
x_0\mapsto a_0,\quad x_1\mapsto a_1,\quad x_2\mapsto a_2, \quad\dots\quad x_k\mapsto a_k, \quad\dots
\end{gather*}

'''Определение.'''
Пусть векторное поле, отвечающее \eqref{ode}, знакопостоянно вдоль кривой $$\Gamma$$.
Тогда задана '''функция последования''' — числовая функция $$\psi :\mathbb R \mapsto \mathbb R$$, которая определяет, в какой точке произойдет следующее пересечение траектории $$u(t,u_0)$$ с кривой $$\Gamma$$ в системе координат, связанной с $$\Gamma$$:
\begin{gather*}
\psi(a_1)=a_2,\quad\psi(a_2)=a_3,\quad\dots\quad\psi(a_k)=a_{k+1},\quad\dots
\end{gather*}

От исследования предельных циклов \eqref{ode} можно перейти к исследованию замкнутых траекторий \eqref{ode}.

'''Утверждение 1.'''
Если $$a_0$$ — координата пересечения замкнутой траектории с кривой $$\Gamma$$, то $$\psi(a_0)=a_0$$.

Следовательно, [[Неподвижные точки системы|неподвижные точки]] функции последования $$\psi(\cdot)$$ соответствуют пересечению кривой $$\Gamma$$ с замкнутыми траекториями системы \eqref{ode}.

== Отображение Пуанкаре ==

Отображение Пуанкаре применяется для исследования наличия замкнутых траекторий и устойчивости предельных циклов системы \eqref{ode}. На практике в произвольной области пространства выбирается кривая $$\Gamma$$, отвечающая перечисленным свойствам, с удобной параметризацией, исследуется поведение конкретных траекторий \eqref{ode} внутри окрестности $$\Gamma$$ и нули отображения Пуанкаре.

Введём понятие отображения Пуанкаре. Рассматриваем ту же функцию последования $$\psi(\cdot)$$ из прошлого пункта.

'''Определение.'''
Отображением Пуанкаре называется числовая функция $$\Pi :\mathbb R \mapsto\mathbb R$$ такая, что
\begin{gather*}
\Pi(a_1) = \psi(a_1) - \psi(a_2), \\
\Pi(a_2) = \psi(a_2) - \psi(a_3), \\
\dots \\
\Pi(a_k) = \psi(a_k) - \psi(a_{k+1}), \\
\dots
\end{gather*}

По определению, неподвижные точки $$\psi(\cdot)$$ соответствуют нулям функции $$\Pi(\cdot)$$ и наоборот.

'''Утверждение 2.'''
Чтобы в точке с координатой $$a^*$$ кривая $$\Gamma$$ пересекала замкнутую траекторию системы \eqref{ode}, необходимо и достаточно, чтобы $$\psi(a^*)=a^*$$ или $$\Pi(a^*)=0$$.

'''Доказательство.'''
Следует из устройства мешка Бендиксона: если положить от противного, что $$\psi(a^*)\neq a^*$$, то траектория либо "закручивается" внутрь себя, либо "раскручивается" от себя, имеем противоречие с замкнутостью данной траектории. В обратную сторону доказываем аналогично.

'''Утверждение 3.'''
Чтобы предельный цикл $$\gamma$$ был устойчивым, необходимо, чтобы $$|\psi'(a^*)| < 1$$.

'''Доказательство.'''
Следует из [[Циклы в системах с дискретным временем. Теорема Шарковского|теории дискретных динамических систем]].

== Список литературы ==

1. Братусь А.С., Новожилов А.С., Платонов А.П. Динамические системы и модели биологии 2011.

2. Абрамова В.В. Лекции по курсу "Динамические системы и биоматематика", 2024.

Вращение векторного поля. Индекс Пуанкаре

2024-12-24T18:07:57Z

Arthur24: Полностью удалено содержимое страницы

Вращение векторного поля. Индекс Пуанкаре

2024-12-24T18:06:23Z

== Мешок Бендиксона ==

Рассматриваем [[Динамическая система|двумерную динамическую систему]]
\begin{equation}\label{ode}
\begin{cases}
\dot u_1(t) = f_1(u_1(t),u_2(t)), \\
\dot u_2(t) = f_2(u_1(t),u_2(t)).
\end{cases}\quad
u\in U\subseteq\mathbb R^2.
\end{equation}

[[Файл:Bendixson-bad-case.png|мини|Случай разворота траектории двумерной ДС]]

[[Файл:Bendixson-cycling.png.png|мини|Траектория "закручивается" вдоль кривой $$\Gamma$$]]

Пусть выбрана некоторая траектория $$u(t,u_0)$$ системы \eqref{ode} с начальным условием
\begin{equation*}
(u_1(0),u_2(0))=(u_1^0,u_2^0)=u_0.
\end{equation*}

Выберем в координатах $$Ou_1u_2$$ кривую $$\Gamma$$ такую, что

1. $$\Gamma$$ пересекает траекторию $$u(t,u_0)$$ в некоторой точке, обозначим её $$x_1$$;

2. в точках $$\Gamma$$ не происходит касания ни с какой траекторией системы \eqref{ode};

3. по близости с $$\Gamma$$ нет [[Неподвижные точки системы|особых точек]] системы \eqref{ode}.

Отметим, что требование отсутствия по близости к $$\Gamma$$ особых точек наложено из-за случая, когда траектория "разворачивается".
Мы ожидаем, что траектория будет либо спиралевидно "закручиваться" , либо спиралевидно "раскручиваться" , и "развороты" не будут иметь место.
На языке теории векторного поля, это означает, что векторное поле является знакопостоянным в окрестности кривой $$\Gamma$$.

Таким образом, т.к. траектория сама себя не пересекает, внутри области "закручивания" находится [[Многомерная система Лотки-Вольтерры. Теорема об отсутствии циклов|предельный цикл]] или особая точка системы \eqref{ode}. Такому поведению соответствует мешок Бендиксона.

'''Определение.'''
'''Мешком Бендиксона''' называется область фазового пространства системы \eqref{ode} такая, что указанная траектория $$u(t,u_0)$$ "закручивается" вдоль кривой $$\Gamma$$.

Ограничимся рассмотрением случая, когда система \eqref{ode} имеет предельный цикл $$\gamma$$ внутри мешка Бендиксона.
Выберем $$\Gamma$$ — кривая, которая имеет единственную точку пересечения с $$\gamma$$, обозначим её $$x_0$$.

На кривой $$\Gamma$$ введём новую систему координат (одномерную параметризацию). На практике полагают $$\Gamma$$ — отрезок, а система координат соответствует прямой, его содержащей.

По мере эволюции кривая $$u(t,u_0)$$ последовательно пересекает кривую $$\Gamma$$ в точках $$x_1$$, $$x_2$$, $$x_3$$ и т.д. Далее каждой точке $$x_i$$ поставим в соответствие координату $$a_i\in\mathbb{R}$$ в системе координат, отвечающей кривой $$\Gamma$$:
\begin{gather*}
x_0\mapsto a_0,\quad x_1\mapsto a_1,\quad x_2\mapsto a_2, \quad\dots\quad x_k\mapsto a_k, \quad\dots
\end{gather*}

'''Определение.'''
Пусть векторное поле, отвечающее \eqref{ode}, знакопостоянно вдоль кривой $$\Gamma$$.
Тогда задана '''функция последования''' — числовая функция $$\psi :\mathbb R \mapsto \mathbb R$$, которая определяет, в какой точке произойдет следующее пересечение траектории $$u(t,u_0)$$ с кривой $$\Gamma$$ в системе координат, связанной с $$\Gamma$$:
\begin{gather*}
\psi(a_1)=a_2,\quad\psi(a_2)=a_3,\quad\dots\quad\psi(a_k)=a_{k+1},\quad\dots
\end{gather*}

От исследования предельных циклов \eqref{ode} можно перейти к исследованию замкнутых траекторий \eqref{ode}.

'''Утверждение 1.'''
Если $$a_0$$ — координата пересечения замкнутой траектории с кривой $$\Gamma$$, то $$\psi(a_0)=a_0$$.

Следовательно, [[Неподвижные точки системы|неподвижные точки]] функции последования $$\psi(\cdot)$$ соответствуют пересечению кривой $$\Gamma$$ с замкнутыми траекториями системы \eqref{ode}.

== Отображение Пуанкаре ==

Отображение Пуанкаре применяется для исследования наличия замкнутых траекторий и устойчивости предельных циклов системы \eqref{ode}. На практике в произвольной области пространства выбирается кривая $$\Gamma$$, отвечающая перечисленным свойствам, с удобной параметризацией, исследуется поведение конкретных траекторий \eqref{ode} внутри окрестности $$\Gamma$$ и нули отображения Пуанкаре.

Введём понятие отображения Пуанкаре. Рассматриваем ту же функцию последования $$\psi(\cdot)$$ из прошлого пункта.

'''Определение.'''
Отображением Пуанкаре называется числовая функция $$\Pi :\mathbb R \mapsto\mathbb R$$ такая, что
\begin{gather*}
\Pi(a_1) = \psi(a_1) - \psi(a_2), \\
\Pi(a_2) = \psi(a_2) - \psi(a_3), \\
\dots \\
\Pi(a_k) = \psi(a_k) - \psi(a_{k+1}), \\
\dots
\end{gather*}

По определению, неподвижные точки $$\psi(\cdot)$$ соответствуют нулям функции $$\Pi(\cdot)$$ и наоборот.

'''Утверждение 2.'''
Чтобы в точке с координатой $$a^*$$ кривая $$\Gamma$$ пересекала замкнутую траекторию системы \eqref{ode}, необходимо и достаточно, чтобы $$\psi(a^*)=a^*$$ или $$\Pi(a^*)=0$$.

'''Доказательство.'''
Следует из устройства мешка Бендиксона: если положить от противного, что $$\psi(a^*)\neq a^*$$, то траектория либо "закручивается" внутрь себя, либо "раскручивается" от себя, имеем противоречие с замкнутостью данной траектории. В обратную сторону доказываем аналогично.

'''Утверждение 3.'''
Чтобы предельный цикл $$\gamma$$ был устойчивым, необходимо, чтобы $$|\psi'(a^*)| < 1$$.

'''Доказательство.'''
Следует из [[Циклы в системах с дискретным временем. Теорема Шарковского|теории дискретных динамических систем]].

== Список литературы ==

1. Братусь А.С., Новожилов А.С., Платонов А.П. Динамические системы и модели биологии 2011.

2. Абрамова В.В. Лекции по курсу "Динамические системы и биоматематика", 2024.

Файл:Bendixson-cycling.png.png

2024-12-24T17:37:03Z

Arthur24:

Траектория "закручивается" вдоль кривой к предельному циклу.

Файл:Bendixson-bad-case.png

2024-12-24T17:19:26Z

Arthur24:

Случай разворота траектории двумерной ДС.