一维最优化问题
本文基本上是老师的讲义, 少部分为自己理解或修改.
首先回忆最优化问题的形式.
\begin{equation*}
\min_{x \in \R^n} f(x),\quad \st x \in X.\end{equation*}
考虑最简单的情况: $n = 1$, 此时考虑的函数为 $f : \R \to \R$, $X$ 可以是 $(-\infty, a]$, $[a, b]$, $[b, +\infty)$, 也可以是这些区间的并集. 为方便起见, 先考虑无约束的一维最优化问题:\begin{equation}\label{equ:notResOneOpt}\min_{x \in \R} f(x).\end{equation}
它是高维优化问题的基础.
一般只考虑非线性的 $f$, 线性的情况是平凡的.
假设 $f \in C^1$, 若 $x^* \in \R$ 是问题 \eqref{equ:notResOneOpt} 的解, 则有 $f’(x^*) = 0$, 于是我们获得了一个必要条件\begin{equation}\label{equ:fpxEqu0}f’(x) = 0
2020/03/04
5.7k字
29分钟
Optimization Theory
Optimization Theory
最优化问题
本文基本上是老师的讲义, 少部分为自己理解或修改.
求最小 (大) 值问题\begin{equation}\label{equ:OptPro} \min_{x \in \R^n} f(x),\quad \underset{\text{(subject to)}}{\st} x \in X.\end{equation}
其中:
$n$: 维数;
$x$: $x = (x_1, x_2, \cdots, x_n) \in \R^n$ 为 (优化) 变量;
$f$: $\R^n \to \R$ 单值函数, 为目标 (函数);
$X$: $X \subset \R^n$ 为约束集 / 可行域.
若 $X = \R^n$, 问题 \eqref{equ:OptPro} 变成了 $\displaystyle\min_{x \in \R^n} f(x)$ 称为无约束优化问题.
若 $X \subsetneq \R^n$, 则称为约束优化问题.
在很多情况下, 可以用一系列等式和不等式来约束:
\begin{equation*}
x \in X \Longleftrightarrow \lef
2020/02/26
1.8k字
8分钟
Optimization Theory
Optimization Theory
Fourier 级数和积分
以下为 Fourier Analysis (Javier Duoandikoetxea) 的翻译结合老师的笔记. 本人英文渣, 所以翻译得可能不怎么样.
Fourier 系数和级数当使用分离变量法解偏微分方程的时候会遇到将 $\R$ 上 (一个区间) 的函数表示为三角级数的问题\begin{equation}\label{equ:realFour1}f(x) = \displaystyle\sum_{k = 0}^\infty a_k \cos (kx) + b_k \sin (kx)\end{equation}
这是 J. Fourier 在《热的解析理论》 (1822, 第一次解决问题是 1807 年在法兰西学会) 中给出了解决偏微分方程的这个方法. 更早的时候, 在 18 世纪中叶, Daniel Bernoulli 在解决振动弦的问题时曾提到这个方法, Fourier 系数的公式出现在 1777 年 L. Euler 的一篇文章中.
\eqref{equ:realFour1} 式的右边是一个 $2\pi$-周期函数, 所以 $f$ 也是 $2\pi$-周期函数. 因此我们考虑
2020/02/22
636字
2分钟
Fourier Analysis
Fourier Analysis
