17.2.2 熵

17.2.2.1 拓扑熵

设 $\left(M,\rho \right)$ 是一个紧致度量空间, ${\left\{{\phi }^k\right\}}_{k\in \mathrm{\Gamma }}$ 是 $M$ 上一个连续的离散时间动力系统. 对任意 $n\in \mathbb{N}$ ,定义 $M$ 上距离函数 ${\rho }_n$ 为

$$\begin{array}{}\text{(17.36)}& {\rho }_n\left(x,y\right)\text{:=}\underset{0\le i\le n}{max}\rho \left({\phi }^i\left(x\right),{\phi }^i\left(y\right)\right).\end{array}$$

进一步地,令 $N\left(\epsilon ,{\rho }_n\right)$ 表示 $M$ 上两两之间 ${\rho }_n$ 距离不小于 $\epsilon$ 的点构成的集合可能具有的最大基数. 离散系统 (17.3) 或映射 $\phi$ 的拓扑熵定义为 $h\left(\phi \right)=\underset{\epsilon \to 0}{lim}\underset{n\to \mathrm{\infty }}{lim sup}\frac{1}{n}\ln$ $N\left(\epsilon ,{\rho }_n\right)$ . 拓扑熵度量的是映射的某种复杂性. 进一步地,设 $\left(M_1,{\rho }_1\right)$ 为一个紧致度量空间, ${\phi }_1:M_1\to M_1$ 是一个连续映射,如果系统 $\phi$ 与 ${\phi }_1$ 拓扑共轭,那么它们的拓扑熵相等. 特别地,拓扑熵不依赖于度量. 对任意 $n\in \mathbb{N}$ ,有 $h\left({\phi }^n\right)=nh\left(\phi \right)$ . 如果 $\phi$ 是一个同胚,则有 $h\left({\phi }^k\right)=\left|k\right|h\left(\phi \right),\mathrm{\forall }k\in \mathbb{Z}$ . 基于此,对 $M\subset {\mathbb{R}}^n$ 上的流 (17.1), ${\phi }^t=\phi \left(t,\cdot \right)$ 的拓扑熵可定义为 $h\left({\phi }^t\right)\text{:=}h\left({\phi }^1\right)$ .

17.2.2.2 测度熵

设 ${\left\{{\phi }^t\right\}}_{t\in \mathrm{\Gamma }}$ 是 $M$ 上的动力系统, $\mathrm{\Lambda }$ 为其一个吸引子, $\mu$ 是支撑在 $\mathrm{\Lambda }$ 上不变的概率测度. 对任意 $\epsilon >0$ ,考虑形如 $\{\left(x_1,\dots ,x_n\right):k_i\epsilon \le x_i<\left(k_i+1\right)\epsilon ,i=$ $1,2,\cdots ,n\}$ 的方体 $Q_1\left(\epsilon \right),\cdots ,Q_{n\left(\epsilon \right)}\left(\epsilon \right)$ ,其中 $k_i\in \mathbb{Z},\mu \left(Q_i\right)>0$ . 对 $Q_i$ 中任意点 $x$ ,随 $t$ 的增加可定义半轨 ${\left\{{\phi }^t\left(x\right)\right\}}_{t=0}^{\mathrm{\infty }}$ . 取定时间间隔 $\tau >0$ (离散情形 $\tau =1$ ), 半轨所经过的 $N$ 个方体的下角标依次记为 $i_1,\cdots ,i_N.E_{i_1,\cdots ,i_N}$ 表示初始点在 $\mathrm{\Lambda }$ 领域中, $t_i=i\tau \left(i=1,\cdots ,N\right)$ 时刻分别进入 $Q_{i_1}\cdots ,Q_{i_N}$ 的点构成的集合. 令 $p\left(i_1,\cdots ,i_N\right)=\mu \left(E_{i_1,\cdots ,i_N}\right)$ ,表示从集合 $E_{i_1,\cdots ,i_N}$ 中出发的典型轨道的概率.

测度熵刻画了在对一个试验的重复进行中, 在有限个可能结果中只有某个结果发生所产生的信息量随时间的平均增长率. 在上述假设下, 该信息量可定义为

$$\begin{array}{}\text{(17.37)}& H_N=-\sum _{(i_1,\cdots ,i_N)}p\left(i_1,\cdots ,i_N\right)\ln p\left(i_1,\cdots ,i_N\right),\end{array}$$

其中加和项为对所有长度为 $N$ 的可实现的符号序列 $\left(i_1,\cdots ,i_N\right)$ 取加和.

在吸引子 $\mathrm{\Lambda }$ 上, $\left\{{\phi }^t\right\}$ 关于不变测度 $\mu$ 的测度熵或柯尔莫哥洛夫-赛奈 (Kolmogorov-Sinai) 熵 $h_{\mu }$ 定义为 $h_{\mu }=\underset{\epsilon \to 0}{lim}\underset{N\to \mathrm{\infty }}{lim}\frac{H_N}{\tau N}$ . 对离散系统,极限 $\epsilon \to 0$ 可省略. 设 $h\left(\phi \right)$ 为 $\phi :\mathrm{\Lambda }\to \mathrm{\Lambda }$ 的拓扑熵,则 $h_{\mu }\le h\left(\phi \right)$ 总成立. 在某些情形下,$h\left(\phi \right)=sup\left\{h_{\mu }:\mu \text{ 为所有支撑在 }\mathrm{\Lambda }\text{ 上的概率测度 }\right\}.$

$◼\mathbf{A}$: 设 $\mathrm{\Lambda }=\left\{x_0\right\}$ 是系统 (17.1) 的一个稳定平衡点,将其看作有一个吸引子, $\mu$ 为其支撑在 $x_0$ 上的自然测度,则对该吸引子有 $h_{\mu }=0$ .

$◼\mathbf{B}$: 对转移映射 (17.28a), $h\left(\phi \right)=h_{\mu }=\ln 2$ ,其中 $\mu$ 为勒贝格测度.