重修微积分5——线性

来自2015.4.24 科学网 应行仁

 

 

 

数学的空间是集合上赋有某些数学性质的论域。距离空间赋予集合中点的远近概念，让我们可以很直观地想象无穷空间中的收敛、极限和连续。微分、积分和求极限的计算都是线性的，线性运算依赖于，所在空间的点有着对线性运算封闭的代数结构。微积分中大部分概念，可以在有拓扑结构和线性结构的点集空间中理解和推广。所以我们要了解同时拥有这两种结构的空间。

集合X中的元素如果对线性运算封闭，即对于数域（实数或复数）K 

x,y∈X,a∈K⇒x+y∈X,ax∈X 

那它是线性空间，其中元素叫向量。赋予向量“长度”（范数）的概念，则可以导出距离。

设X是数域K  上的线性空间，X上的范数定义为从X到R  一个映射：x↦∥x∥  ，它对于任意的x,y∈X,a∈K  满足非负性，比例性和三角不等式：

∥x∥≥0,∥x∥=0⇔x=0  ; ∥ax∥=|a|∥x∥  ; ∥x+y∥≤∥x∥+∥y∥ 

∥x∥  叫做点x的范数（norm），赋以范数的线性空间叫做线性赋范空间（Normed linear space）或简称赋范空间，记为(X,∥⋅∥)  .

线性赋范空间是定义了“长度”的线性空间，空间中两个点之差也是个空间中的点，以此可用长度来定义距离。令d(x,y)=∥x−y∥  ，则定义了一个距离。如果线性赋范空间按其导出的距离是个完备的距离空间，则称它是巴拿赫（Banach）空间。线性空间中的点有时也称为向量，以强调它的线性元素性质。

在线性代数中，大家熟悉的是有限维的线性空间，赋向量予范数，当然也成了赋范空间。所以实数以其绝对值为范数，n维欧几里德空间以其分量平分和的开平方为范数，都是巴拿赫空间。显然还可以以其他方式来定义不同的范数，可以证明n维赋范空间不同定义的范数都是等价的，因此n维巴拿赫空间不同定义的距离也都是等价的。就是说，它们在一种定义下收敛，在另一种定义下也必然如此。从实数的完备性，不难推出它们的完备性。这些已是大家熟知的结果。

对巴拿赫空间，人们更感兴趣的是无穷维的情况，它的性质略有些不同。让我们看几个例子。

例5.1：在闭区间[a,b]上所有连续函数的集合C[a,b]，对任意的f∈C[a,b]  定义范数 ∥f∥=max a≤t≤b |f(t)|  ，它是一个巴拿赫空间。

线性空间的维数是其中最多线性不相关向量的个数。在闭区间[a,b]上的多项式是这个巴拿赫空间上的向量，它们不可能都是有限个幂函数xⁿ的线性组合，所以这空间是无穷维的。

例5.2：记无穷数列x =（x_n）为集合中的一个点，对于任何一个自然数p，都可以定义一个范数 ∥x∥ p =(∑ ∞ n=1 |x n | p ) 1/p ,1≤p<</SPAN>∞ 

对于给定的自然数p，范数值有限的无穷数列的集合，在这范数下是一个巴拿赫空间，这空间很有用，记为l p   。

例5.3：在E上p次勒贝格可积函数，在下面范数下是一个巴拿赫空间，这是分析中更常遇见的空间，记为L p (E)  , ∥f∥ p =(∫ E |f(x)| p dx) 1/p ,1≤p<</SPAN>∞ 

下面将看到以L 2 (E)  最为著名。l ∞   ,L ∞ (E)  及更多巴拿赫空间的例子见【1】。

既然线性空间的点，被看作是向量，从几何直观上很自然会想象到夹角的概念，如果用正交的向量做分解，在物理和工程上会很有用。这要推广欧几里德空间的内积概念。

设X是数域K  （通常指实数或复数）上的线性空间，定义映射⟨x,y⟩  : X×X→K  ，称为X上的内积，如果它满足下列性质：∀x,y,z∈X,∀a,b∈K  有

正定性: ⟨x,x⟩≥0,⟨x,x⟩=0⇔x=0  ;

共轭对称性:⟨x,y⟩=⟨y,x⟩ ¯ ¯ ¯ ¯ ¯ ¯ ¯ ¯ ¯ ¯ ¯    ;

对第一变量的线性: ⟨ax+by,z⟩=a⟨x,z⟩+b⟨y,z⟩ 

赋以内积性质的线性空间称为内积空间。（注：有的教材的定义是对第二变量线性。）

定义范数∥x∥=⟨x,x⟩ − − − − −  √   ，如果按其导出的距离是个完备的距离空间，则称它是希尔伯特（Hilbert）空间。

不难看到，例5.2和5.3中l 2   和L 2   空间，很容易用内积来定义。

例5.4：l p   空间中无穷数列x =（x_n），y =（y_n）定义它们的内积 ⟨x,y⟩=∑ ∞ n=1 x n y n  ¯ ¯ ¯ ¯ ¯   

不难验证，以此导出的正是前面l 2   空间定义的范数，所以l 2   空间是希尔伯特空间。L 2   也可以仿此定义内积，⟨x,y⟩=(∫ E x(t)y(t) ¯ ¯ ¯ ¯ ¯ ¯ ¯ ¯  dt) 1/2   ，所以它也是希尔伯特空间【2】。

学习线性代数时，我们知道，任何向量都可以表示为在线性空间下，基向量的线性组合。对巴拿赫空间和希尔伯特空间中的点，比如说连续函数、可积函数，是不是也可以做到这一点？当然如此，不过这个线性组合很可能是无穷级数的和或积分。比如说例5.1中连续函数可以表示为多项式级数的和（斯通-维尔斯特拉斯定理：闭区间上多项式一致逼近连续函数）。

在希尔伯特空间，因为有了内积概念，我们可以有正交归一的基，即对于它们有⟨e i ,e j ⟩=δ ij   。例如e i   为无穷数列中第i个分量为1，其余分量都为0的数列，集合{e k |k∈N}  是l p   空间上的基，而且是l 2   空间上的正交归一基。

在数学物理和工程应用中，为了便于微分方程求解，人们经常将函数分解为某种无穷函数项级数的和，如傅立叶级数、各种正交多项式、特殊函数等等。这样可以把微分方程变成代数方程来求解。这其实是将线性空间中的向量表示成在一组基上的线性组合。这个函数是否等于这种分解，实际上是问这个无穷级数是否收敛。学习了拓扑概念后，我们就会问这是哪一种意义下的收敛。最简单的如幂级数等指的是逐点的收敛，这只是说在收敛域里，每个点的函数值满足收敛关系，极限函数不一定保持函数序列的性质，如有界性，连续性，可积性等等。有时我们更关心的是，能保持有某些性质的分解表示问题，这就需要了解所在的拓扑空间。

无穷维的巴拿赫空间和希尔伯特空间中的向量，可以分解为对基向量的线性组合，这并不意味着可以表示成无穷级数的和，因为基不一定是可数的。例如e −st ,s≥0  是一族函数集合的基，它是不可数的。能否做到对可数基的分解，取决于空间的拓扑，或是怎么定义它的范数和内积。

巴拿赫空间有可数的基（向量），当且仅当它是可分的，也就是说这空间有可数的稠集。显然，如果希尔伯特空间的向量都能表示成正交归一基的无穷级数和，它是可分的。反之，可分的希尔伯特空间中的向量，都能表示成正交归一基的无穷级数和。

对于可分的希尔伯特空间，将一个可数的稠集的点排成序列，剔去与序列中前面线性相关的点，形成了一个线性独立的序列，再将这组序列用Gram－Schmidt方法正交归一化，都可以形成了一个可数的正交归一基（e_k）。可分的希尔伯特空间中的点x，都可以在这个基上分解，也就是等于收敛的级数。 x=∑ ∞ k=0 ⟨x,e k ⟩e k  

也就是说在基（e_k）下，x一一对应着数列⟨x,e k ⟩  ，不难证明这个数列是l 2   空间的点，这个对应保持了线性关系，极限和内积的不变，即它与l 2   空间等价。可分的希尔伯特空间在内积的对应关系下是等价的。

尽管可分的希尔伯特空间在内积的抽象下可以看成是唯一的。空间中的点都可以等于一个收敛的级数。但是不同的内积和不同线性独立向量的选取，可以形成不同的正交归一基，方便用于不同的应用。比如说应用于通讯工程信号处理的L²(0,1)中的Haar函数组与Walsh函数组，物理中用到的Hermite多项式等。

不能或不想表示为无穷级数和的函数，也可能表示为不可数基向量的线性组合，即积分变换。比如说，对基向量分解的傅立叶变换，及对这e −ist   不可数基向量线性组合（叫积分）的傅立叶变换反演。对不可数s参数的e −st   基向量分解的拉普拉斯变换，和不可数基向量的线性组合（积分）表示的拉普拉斯变换反演。

学习数学概念，最起码的功课是用一个简单的例子，根据定义自己走过一遍，才能得到真正的体会。如果你相信自己是理解了，例5.2，5.3和5.4中l 2   和L 2   是两个简单的例子。请从内积、范数、距离、收敛、完备的概念开始，验证它们符合定义，证明它是巴拿赫空间和希尔伯特空间，而且是可分的。这些证明都不需要技巧，范数和内积中的不等式可以直接引用Minkowski和Holder不等式【4】【5】，其他都没有难度，只是验证对概念的理解。

（待续）

 

【扩展阅读】

1. 科学百科，巴拿赫空间http://science.scileaf.com/library/919

2. 维基百科，希尔伯特空间http://zh.wikipedia.org/wiki/希尔伯特空间

3. 程代展，系统与控制中的近代数学基础，北京：清华大学出版社，2007 http://product.dangdang.com/9350967.html

4. 维基百科，闵可夫斯基不等式http://zh.wikipedia.org/wiki/闵可夫斯基不等式

5. 维基百科，赫尔德不等式http://zh.wikipedia.org/wiki/赫尔德不等式

 

 

http://bbs.sciencenet.cn/uc_server/avatar.php?uid=2476161&size=small

[4]trtrtr3929  2015-4-24 09:08

"那它是线性空间，其中元素叫向量。赋予向量“长度”（范数）的概念，则可以导出距离"——只要一提到向量、距离、长度等等之类,就必然需先弄明白曲与直,什么是维等等,

http://bbs.sciencenet.cn/uc_server/avatar.php?uid=789923&size=small

[3]蔡[2]icgwang  2015-4-24 08:28

坐标，距离，最短距离，最近回归。
请教，线性有直观性，非线性的直观解释可以是什么?

 

重修微积分4——距离

来自2015.4.10 科学网 应行仁

 

 

上一篇从很抽象的角度，介绍了能够支持收敛极限的数学空间。用拓扑空间的定义和例子，从高处俯瞰你学过的初等微积分，把散落的知识，用概念间的联系组织起来，让你看到这些基本概念构筑成一个概括的，无穷空间模糊的图像。

学习没有捷径，唯常习练才能走通。旁人传的只是心法体会。如果没有过去学的微积分知识作为基础，这系列的内容即便记住了，也浮在云中，不过是观光游览。只有用学过的定理公式作为理解概念的桩脚，约束散漫的联想，抽象概念的想象才能落到实处。只有将文中定义，示例和关联的陈述，逐个用逻辑走通，勾画出来的骨架上才有色彩，才有直观想象。正确的想象和浮想的区别，前者可以作为证明的思路，其间的推理能用数学语言来表达和证明。而浮想除了娱乐，推论犹如算卦，不能明确也就没有实用的价值。

如果你已经消化了前几篇，这里将介绍具有更为直观的空间，让你头脑中图像更加鲜明。

很抽象的拓扑空间，缺乏足够的性能可直接用于物理和工程。这一篇和下面一篇，介绍在理论物理和实变泛函课中常见到的，拥有更多性质的拓扑空间。通过它们的联系，揭示相关的数学概念。读者试着从定义来验证所举的例子和关联陈述，用逻辑走通来消化概念，细化前篇建立起来的直观想象。

在集合上的两个点间，如果有了“距离”这个度量，将是应用者最易于想象远近相邻概念的拓扑。这时趋近、收敛和极限，就非常直观了。所以它在物理和数学中有着广泛的应用。这样的拓扑空间叫做距离空间（Metric space），有时也译为“度量空间”。

在集合上怎么抽象化“距离”，让它有最大外延又符合已有的直观想象？首先，它是个两点间非负实数值的度量，0值意味着相等，非0视为不同，这度量对两点是对称的，三点相互之间犹如三角形的三边长度关系。

在集合M上，距离定义为一个二元实数值函数ρ:M×M→R  ，对M上任意的x, y, z有下列非负，相等，对称，三角不等式的性质：

ρ(x,y)≥0 ，ρ(x,y)=0 ⇔  x=y ，ρ(x,y)=ρ(y,x) ，ρ(x,y)+ρ(y,z)≥ρ(x,z)

对于任何实数r>0,x 0 ∈M  ，集合{x∈M|ρ(x,x 0 )<</SPAN>r}  定义了一个以x₀为中心，r为半径的开球。以它们为开集，生成了M上的拓扑，它构成的拓扑空间称为距离空间，记为（M,ρ）。实际上这空间的开集都能用开球的并来构成，这样的一组开集（在距离空间是开球）称为拓扑基。具有可数拓扑基的空间，称为第二可数的。第二可数的空间都是第一可数的。想象一下实数中以有理数为边界值的开区间，它们的各种并集构造出实数上所有的开集。同理可证R n   空间（在通常的拓扑下），都是第二可数的空间。一般距离空间不一定是第二可数的。但都是第一可数的。

可以证明，距离空间中点的邻域，都包含有以这点为中心足够小半径的开球，所以一般拓扑空间中用邻域表达收敛的定义，可以用距离表达如下：

记无穷序列x 1 ,x 2 ,x 3 ,…  为(x n )  ，集合X上的无穷序列(x n )  收敛于a，即 lim n→∞ a n =a  或者 a n →a, (n→∞)  ，意思是：

∀ε>0,∃N∈N,∀n(n>N⇒ρ(a n ,a)<</SPAN>ε) 

距离空间的邻域必定包含有半径为有理数的小球，所以它是第一可数的，集合的聚点都有集合中的一个序列来趋近它。

在实数上二元函数d(x,y)=|x-y|，它满足距离的定义，所以（R  ，d）是个距离空间。以此代入上面公式，就是用ε−N  语言表达的数列收敛的定义。

在同一个集合上，可以有多种方法来定义距离。例如，对n维实数空间上两个点，x,y∈R n   ，不难验证函数d, d₁, d₂都可以定义为R n   上的距离。

d(x,y)=∑ n i=1 (x i −y i ) 2  − − − − − − − − − − − −  √   ,d 1 (x,y)=∑ n i=1 |x i −y i |  , d 2 (x,y)=max i {|x i −y i |} 

特别地，距离空间（R n   ，d）称为n维欧几里德空间。上面谈到的开球概念，是逻辑上离中心距离小于一个数的点集合，你可以把它想象成在三维各向同性空间的球体。对d，d₁，d₂不同距离定义的开球，如在变形的空间，具有不同的几何形状。但相互间，放大一个便能将另一包住，所以用不同距离定义出的收敛都是一样的（等价的），它们构成的空间并没有本质的区别。下面会看到，对一般的距离空间并非都是如此。

同样地，可以定义柯西列(x n )  ：

∀ε>0,∃N∈N,∀n∀m(m,n>N⇒ρ(a n ,a m )<</SPAN>ε) 

收敛的序列都是柯西列，完备的距离空间中柯西列都收敛。欧几里德空间是完备的。

到目前为止，我们可以用实数上收敛极限的图像，类比地想象距离空间相应的概念。距离空间的收敛、极限和柯西列的定义类同于实数空间。点的序列类同于数列，开球相似于开区间，开集、闭集、闭包和覆盖定义性质都一样，我们可以借用实数空间的直观来想象距离空间。下面介绍距离空间的一些重要性质，来修正你过分的联想。

并非所有距离空间都有柯西列。

例4.1：对集合X上任意两个不同点x,y 定义函数d(x,x)=0，d(x,y)=1。显然它符合距离的定义。（X，d）是个距离空间，叫“离散空间”，具有离散拓扑，没有柯西列。

对于相同的基础集合，在上面定义不同距离，并非空间上收敛都是等价的。

例4.2：记C[a,b]为实数闭区间[a,b]到R  所有连续函数的集合，对f,g∈C[a,b]  可以定义：

d 1 (f,g)=∫ b a |f(t)−g(t)|dt   

d ∞ (f,g)=max a≤t≤b |f(t)−g(t)| 

(C[a,b],d₁)和(C[a,b],d_∞)都是距离空间，因为有d 1 (f,g)≤(b−a)d ∞ (f,g)  ，如果函数序列（f_n）按距离d_∞收敛的（一致收敛），则按距离d₁也必定收敛（积分平均收敛），反之则不然。

例4.3：闭区间[0,1]上连续函数集合C[0,1]，f_n(t)=tⁿ看作是下标为n的点，序列（f_n）（或直接写成（tⁿ）），按距离d₁是柯西列，按d_∞则不是，在这两个距离空间上它都不收敛。但在[0,1]上可积函数集合里，依d₁距离，（f_n(t)）收敛到一个不连续函数 f(t)：f(1)=1，0≤t<1，f(t)=0，这个极限f(t)不在C[0,1]里。

如果距离空间X中，任何柯西列都收敛到X中的一点，则称它是完备的。并非所有距离空间都是完备的。

例4.4：(C[a,b],d_∞)是完备的（连续函数序列一致收敛的极限，是连续函数）。(C[a,b],d₁)不是完备的（连续函数序列按积分平均收敛的极限，不一定是连续函数）。

例4.5：开区间（0, 1）作为实数拓扑子空间不是完备的。柯西列（1/n）在那里没极限。

实数空间是完备的，在有界和闭时就有了很好的收敛性质。对一般完备的距离空间，有界则要换成更强的完全有界的条件。下面介绍距离空间中这些概念和关系。

如果集合M中任意两点的距离，都小于一个正数，则称集合M是有界的（Bounded）；如果对于任何 r> 0，都有限多个，半径为 r 的开球覆盖 M，则称M是完全有界（Totally   Bounded）；如果M的开覆盖都有有限子覆盖，则称M是紧的或紧致的（Compact）；如果任一无穷序列，都有一个收敛的子列，则称M是列紧的（Sequentially Compact）。

实数空间和欧几里德空间是距离空间。它们都是完备的，在那里有界的集合是完全有界的，对它们有列紧性定理：有界数列，都有一个收敛的子列。但这定理对一般距离空间不成立。

例4.6：无穷序列（tⁿ）在(C[a,b],d₁)和(C[a,b],d_∞)距离空间都是有界，却都没有收敛的子列。前者是不收敛的柯西列，后者不是柯西列，也没有柯西子列。

在一般的距离空间，一个无穷序列，未必有柯西子列，但如果它是完全有界的，则有柯西子列；如果它还是完备的，则有收敛的子列，即是列紧的。

这三个性质在距离空间中等价：完全有界且完备的，列紧的，紧的。

距离空间的子集如果是完全有界的，则它也是有界的，反之则不然。

例4.7：离散空间是有界的，但无穷集合的离散空间不是完全有界的。

距离空间如果是完备的，它的闭集形成的子空间也是完备的。紧集是完全有界和闭的。实数的有界闭区间，欧几里德空间中的有界闭集都是紧的。

在直观上大致可以这样想象：距离空间中有无穷个点的集合，如果它可以被罩在越来越小的有限个开球里，这个集合的性质叫完全有界。在完全有界集合里的一个无穷序列，任给很小的开球半径，这覆盖着集合的开球数量也都有限，总有一个含有序列中无穷个点，它们在任意小的球里互相“靠近”着，这个无穷靠近的子序列是柯西列。这柯西列的极限如果是都在这空间里，这空间称为完备的；如果它都在那集合里，这集合则是闭的，这样性质的集合称为列紧的，也是紧的，意思是它很密实且被有限地覆盖。列紧性与紧致性在距离空间没有区别，在第二可数T1空间里也是如此，在更一般的拓扑空间，它们并不等价。

紧致性说明无穷空间里的一些性质，可以通过开集表示的相邻性，只经过有限的集合来确定。在有限的世界里，我们用数学归纳法来推理，对参数1具有某种性质，在某一个自然数参数正确时，都能够推出对下一个数也拥有，则对参数为任何自然数的数学式也都拥有这个性质。

紧致性则在无穷空间中，划出一类在里面可以归纳推理的集合：开集说明其中的点都有某种的性质，如果有限个开集都具有某种性质，能够推出它们覆盖住的点也都有相同的性质，则能被开集覆盖的集合的点都有相同的性质。所以空间的紧致性是有限性之外最好的性质。

考一下你能用想象来指导证明的能力。

1. 收敛的定义只是描写某一个点如何是一个无穷序列的极限。这定义并没有说明它是唯一的。实际上T1空间（各点都有不包含对方的开邻域），因为区分能力差，一个无穷序列可能收敛到空间中任何一点。T2空间（Hausdorff空间，任何两个点能有分属它们不相交的开邻域），则具有较强的区分能力。请证明：距离空间是T2的。在T2空间，一个无穷序列如果收敛，它的极限是唯一的。

2. 用例4.3，4.4，4.6介绍空间和无穷序列（tⁿ）的性质，以及这些性质间的关系，请推出这序列在(C[a,b], d₁)空间是完全有界的，在(C[a,b], d_∞)空间不是完全有界的。请描述这两函数空间里的开球是什么样的图像，为什么在d₁的距离下，可以用有限的开球能覆盖这序列，在d_∞的距离在却不能？请注意正确的想象是能够作为数学证明思路的图像。

   （待续）

 

 

http://bbs.sciencenet.cn/uc_server/avatar.php?uid=2476161&size=small

[10]trtrtr3929  2015-4-10 14:27

曲与直的问题是现在数学普遍存在的错误,这也就是我为何一直在提问一些老师"什么是维"的原因之一,

博主回复(2015-4-10 14:41)：“维数”是空间里线性不相关最多向量的个数。
这要在下一篇，线性空间里谈。