有些人把层论归结为代数几何的范畴，主要是因为代数几何比较畅销，其中确实也用到了层论工具，但层论不仅仅为代数几何服务，它在拓扑与分析中也有非常重要的作用，本质上应该是更接近于拓扑概念。有些人感觉代数几何入门困难，很可能就是在学习代数几何前，缺少了一个纯粹层论上同调的知识背景，下面我们就来展示一下纯粹的层论上同调。
让我们先从层（sheaf）的概念开始，实际上，层就是在拓扑空间的开集族上定义的到Abel群（或其他良好代数对象）的映射，可以视为拓扑流形上连续函数的公理化，后者不但说明了层这个概念的直观来源，同时还反映从局部性质到整体行为的基本目的。
从比较技术的语言来说，设X是拓扑空间，X上的Abel群预层（presheaf）F可定义为：对任何开子集U，都有Abel群F（U），使得对任何开子集包含V≤U，有Abel群的映射ρ_UV：F（U）→F（V），满足条件：
（0）F（∅）= 0
（1）ρ_UU：F（U）→F（U）是恒同映射
（2）若W≤V≤U是开子集的包含，则ρ_UW = ρ_UVρ_VW
这样的预层X是层，若它还满足下列条件：
（3）对X内的开集U，{V_i}是的开覆盖，若s∈F（U）限制在任何V_i上为零，则s=0.
（4）对X内的开集U，{V_i}是的开覆盖，若对任何i，存在s_i∈F（V_i）满足一致性条件：对任何I，j，s_i与s_j在V_i∩V_j上的限制相同，则存在s∈F（U）,使得s在V_i上的限制是s_i.
这里的一致性条件又可以视为粘合性质，假若空间不存在整体性的对象，那么就可以构造出不满足粘合条件的非层的预层。比如对于上面函数层的例子，我们可以稍加变化，取R上的紧支连续函数层，那么对所有有界开区间U_i，其上的单位映射1_(U_i)就是不可粘合的。
可定义X上层F的茎为F_x = lim
F（U）,其中U取遍X是所有邻域。还可定义X上层F的支集supp（F）为所有满足F|U=0的开子集U的并的补集，即
{x∈X；F_x≠0}的闭包。
实际上，任何预层都可以伴随一个层，其方法是：给定预层F，对X上任何开集U，s∈F（U）是U到∪(x∈U)F_x的自然映射。Abel群层态射余核说是预层，但不是层，详见下文中来自复分析的例子。
我们还可以用范畴的观点对其做统一刻画，首先在拓扑空间X上定义范畴，其对象是X的所有开子集T，其态射给定为：对U，V∈T
Hom（U，V）= 包含I：U→V，若U≤V；
Hom（U，V）= ∅，否则
从范畴论的观点来看，预层就是拓扑空间上所有开集的范畴到Abel群范畴（或其他良好代数对象范畴）上的反变函子，层则要这样反变函子还满足条件：对任何开覆盖U=∪U_i，由限制态射诱导的序列
0→F（U）→ΠF（U_i）→ΠF（U_i∩U_j）
是正合的。
X上预层的态射f：F→G指态射族f（U）：F（U）→G（U）,使得对T内任何对U≤V，有
res_U f（V）= f（U）res_U：F（V）→G（U）
其中左边的res_U：G（V）→G（U），右边的res_U：F（V）→F（U）（请读者自己画交换图），
层的态射就是它作为预层的态射。拓扑空间X上的所有层与态射构成Abel范畴，称为X上的层范畴，记作Sh（X）.
F是X上的层G的子层，若对任何X的开子集U，F（U）是G（U）的子群且F的限制映射由G诱导。若F是G的子层，则预层U→G（U）/F（U）生成的层是商层G/F.
若f：F→G是X上的层映射，定义其核是由
ker f（U）= ker{f（U）：F（U）→G（U）}
定义的F的子层。f的像是伴随预层
im f（U）= im{f（U）：F（U）→G（U）}
的层。余核coker
f定义为商层G/im（f）.
请注意，Im
f（U）可能不是层，下面这个来自复分析的例子也许是最简单的。令Y=C\{0}，O_Y是Y上的全纯函数芽层，定义f：O_Y→O_Y为：对任何X内开集U上的全纯函数u，f（u）=
du/dz，则对任何有y∈Y有邻域V_y，Coker f（V_y）= 0，但dim
Coker f（Y）=1，这里非满射的部分主要由du/dz
= 1/z构成的。
X上层的态射f：F→G称为单射，若ker f=0；称为满射，若coker f=0.
进一步，还可以定义层的正合列关系：层F→G→H在G处是正合的，其中f：F→G，g：G→H，若im f = ker
g.
我们有：层的序列0→F→G→H→0是正合的
iff 对任何x∈X，其茎上的序列0→F_x→G_x→H_x→0是正合的。
下面看层上定义的算子，有时也被称为Grothendieck六算子：⊙，Hom，f_*，f^*，f_!与f^!
给定拓扑空间X上的两个R-模层F与G，可以定义：
（1）对X内任何开集U，有R-模张量积层：
（F⊙G）（U）= F（U）⊙ G（U）
（2）对X内任何开集U，同样有R-模Hom层：
Hom（F，G）（U）= Hom（F|U，G|U）
与张量积层不同的是，Hom层是用限制来定义的（为什么？），其结果就是不满足保茎条件。取X=[0,
1]，B是以Z为茎的常值层，A=B_{0}是在{0}处的摩天大厦层（在{0}上取值Z，其余取值为0），则对任何U=[0,a)，0＜a≤1，有Hom（A，B）（U）= 0，故Hom（A，B）_{0}
= 0，但Hom（A_{0}，B_{0}）= Hom（Z，Z）=
Z！
给定两个R-模层F与G与S-模层H，我们有下面的典型同构：
Hom（H⊙F，G）= Hom（F，Hom（H，G））= Hom（H，Hom（F，G））
给定拓扑空间上的连续映射f：X→Y，它诱导出对应层范畴上的推前函子f_*：Sh（X）→Sh（Y）与拉回函子f*：Sh（Y）→Sh（X）如下：
（3）对X上的任何层F，有推前函子f_*（F）给定为：对Y上的任何开集V
f_*（F）（V）= F（f^(-1)（V）
（4）对Y上的任何层G，有拉回函子f^*（G）给定为：对X上的任何开集U
f^*（G）（U）= lim_(V≥f（U）)G（V）
对X上的任何层F与Y上的任何层G，有伴随关系：
Hom（F，f^*G）= Hom（f_*F，G）
（5）对X上的任何层F，还有带真支集的推前函子f_!：Sh（X）→Sh（Y）给定为：对Y内任何开集V
f_!（F）（V）= {s∈F（f^(-1)（V））；f：|s|→Y是真映射}
若i：X→Y是开或闭的嵌入，则对F∈Sh（X），有i_!（F）= F^Y为零截面扩张，即（F^Y）_x =
F_x，若x∈X；（F^Y）_x = 0，若x∈Y\X.
而当Y是一点时，f_!（F）就是F在X上的紧支截面集。
（6）遗憾的是，作为f_!伴随的f^!：Sh（Y）→Sh（X）却未必存在。对X的开集U，i：U→X为包含，g=fi，取G∈Sh（Y），假若其伴随关系仍然成立，就有
f^!（G）（U）=
g^!（G）（U）= Hom（Z_U，g^!（B））= Hom（g_!（Z_U），B）= Hom（f_!（Z_U）^X,
G）
但这样的U→Hom（f_!（Z_U）^X,
G）一般不满足粘合条件，所以它不是层！
幸运的是，我们可以对这个结论进行修正（基本思想参见【6】的3.2节）最后在导出范畴内定义f^!，相应结论一般被称为Verdier对偶。设f：X→Y是局部紧空间的连续映射，则存在函子f^!：D^+（A_Y）→
D^+（A_X），使得对任何F∈Ob（D^+（A_X）），G∈Ob（D^+（A_Y）），有
Hom（F，f^!G）= Hom（Rf_!F，G）
有时为了方便，我们还经常省略表示导出函子的符号R.
综上所述，对于这个六个算子，我们下面的三对伴随关系：
（1）F⊙-与Hom（F，-）
（2）f^*与f_*
（3）f_!与 f^!
下面我们来看层的上同调，它可以通过Godement分解来建立。若F是X上的一个层，则存在层的正合列
0→F→I^0（F）→I^1（F）→……
其中对任何j，I^j（F）是内射层，并且这个构造是函子的。
事实上，这个构造基本平行于内射模的分解，我们可以令I^0（F）：U→∪(x∈U)F_x，这样就将F嵌入了内射层I^0（F），I^0（F）称为F的Godement包络。我们继续这样的操作，把
I^0（F）/F嵌入内射层I^1（F）……，这样得到内射分解I（F）.
记d^i：I^i（F）→I^(i+1)（F），则第i阶（松）层上同调定义为：
H^i（F）= Ker d^i / Im d^(i+1)
对拓扑空间X上的层F，还可以定义其Cech上同调如下：令U={U_i}_(i∈p)是X的开覆盖，对任何p≥0，记I*p为I的所有p+1个元素的集合，若K={i_0，…，I_p}∈I^p，令U_K=U_0∩…∩U_p，其中各U_k是U_i_k的简单记法，令
C^p（U，F）= ∏(k∈I^p)F（U_K）
定义上边缘映射d_p：C^p（U，F）→C^(p+1)（U，F）为：对α∈C^p（U，F），K∈{i_0，…，I_p}∈I^(p+1)
（d_pα）_K=∑(k=0,…,p+1) （-1）^j
α（i_0，…，(i_k)^…，i_(p+1)）U_(i_0，…，i_(p+1))
其中(i_k)^表示删除其中的i_k项，由此定义出X上第p阶层F的Cech上同调为：
H'^p（X，F）= ker d_p / im d_(p-1)，p=1，2，…
H'^0（X，F）= F（X）
在拓扑学中，我们有这样的结论：若X是可三角剖分的，则它关于域系数常值层的Cech上同调就是其单纯上同调。
这两个层上同调之间是不是一致的呢？为此我们需要引入下面的零调条件：X的开覆盖U={U_i}称为关于层F是零调的，若对任何q
≥ 1，p ≥ 0，H^q（U_0∩…∩U_p，F）= 0，这里各U_k = U_i_k的开覆盖。
下面是Larey定理：设X是仿紧拓扑空间，F是X上的层，U是关于F的局部有限零调覆盖，则对任何I，有自然映射诱导的同构
H'^q（U，F）= H^q（X，F），q = 0,1,2，…
其证明主要是构造对应于覆盖U的特殊分解F^p
= ∏i_*（F|U_0∩…∩U_p），由此可以得到分解：
0→F→F^1→F^2→……
有
H^q（X，F^p） =
∏H^q（U_0∩…∩U_p，F|U_0∩…∩U_p）
由假设U关于F零调，故
H'^q（U，F）=
H^q（C（U，F））= H^q（X，F），q = 0,1,2，…
由此可得，对可三角剖分空间X与X上的常值层F，其上的诸多上同调是一致的：
H^q（X，F）=
H'^q（X，F）= H_sing^q（X）= H_simp^q（X） ，q
= 0,1,2，…
拓扑空间X上的层F称为零调层，若H^p（X，F）=0，若p＞0.
拓扑空间X上的层F称为内射层，若Hom（-，F）是右正合的。内射层显然就是零调的，对此我们可以进一步细化。
拓扑空间X上的层F称为松层（flabby
sheaf），若对任何X的开子集U，限制映射F（X）→F（U）是满射。松层有个典型性质：设0→F→G→H→0是X上层的正合列，若F是松层，则对X的任何开子集U，0→F（U）→G（U）→H（U）→0是正合的。
在仿紧拓扑空间上，内射层一定是松层。为此考虑内射层F的Godement包络I^0（F），由内射性可得F是I^0（F）是直和加项，因此可以由I^0（F）是松层导出F是松层。
拓扑空间X上的层称为软层（soft
sheaf），若对任何X的闭子集A，限制映射F（X）→F（A）是满射。对软层我们也有类似的性质：若F是松层，则对X的任何闭子集Y，0→F（K）→G（K）→H（K）→0是正合的。
在仿紧空间X上，若A是X的子空间，则对任何层F，有F（A）= lim
F（U），其中U取遍包含A是开子集。由此可得，仿紧空间X上的任何松层都是软层，但反之必然。比如X={1/n；n∈N}∪{0}上的连续函数层是软层，却不是松层，这主要是因为开集X\{0}上的连续函数可以扩张到X上。
拓扑空间X上的层F称为良层（fine
sheaf），若Hom（F，F）是软层。这个定义有下面等价条件（等价性的证明参见【7】的3.6-3.7）
1）
F是良层
2） 对X的任何两个不交闭子集A与B，存在F的自同态限制在A上恒同，限制在B上是0.
3）对任何局部有限的开覆盖{U_i}，存在F的自同态f_i，使得Σf_i=1且对任何i，supp（f_i）≤
U_i
上述性质（3）实际上就是单位分解的性质，良层就是有单位分解的层，因此光滑流形上的微分形式层是良层。设F是X上的内射层，可以证明对X上的任何层G，Hom（G，F）是软层，由此可得内射层一定是良层。利用单位分解，我们还能够证明：良层一定是软层。
良层与松层是互不包含的。紧流形上的光滑函数层是良层，但不是松层；开集稠密的连通拓扑空间（比如取Zariski拓扑的实数轴R）上的常值层是松层，但一般不是良层，这两个例子都不是内射层，但却都是软层，因此是零调层。事实上，一般的常值层都不是软层，可剖分的可缩空间上的常值函数层是零调的，但它不是软层。
综上所述，我们的基本路线就是内射层→软层→零调层，其内射层分解可以表现为松层与良层两种具体形式，在存在单位分解的微分或者拓扑流形上，一般就考虑良层路线；而在不存在单位分解的复流形或者是代数簇上，则是需要考虑松层路线。
扩展阅读：
【1】Bredon G E. Sheaf theory[M]. Springer Science & Business
Media,
2012. （在拓扑学基础上讲解层论的教材，本文主要参考书）
【2】Kashiwara M, Schapira P. Sheaves on Manifolds: With a Short
History.«Les débuts de la théorie des faisceaux». By Christian
Houzel[M]. Springer Science & Business Media,
2013. （偏向于代数分析的层论参考书，技术细节比较丰富）
【3】Dimca
A. Sheaves in topology[M]. Springer Science & Business Media,
2004. （拓扑学中的层论，一份很精要的知识小结）
【4】Wedhorn
T. Manifolds, sheaves, and cohomology[M]. Springer Fachmedien
Wiesbaden GmbH, 2015. （微分流形上的层论上同调讲义，比较适合初学者入门）
【5】Wells
R O. Differential analysis on complex manifolds[M]. Springer
Science & Business Media, 2006
（微分几何自带简易层论，也是非常好的入门书）
【6】Banagl M. Topological invariants of stratified spaces[M].
Springer Science & Business Media, 2007.
（相交上同调中的层论，提供了很多启发性的例子）
【7】Godement
R. Topologie algébrique et théorie des faisceaux[J]. Publications
de, 1958,
1. （早期的层论经典参考书，但还没有见到英文版）
加载中，请稍候......
加载中…
(2016-05-26 13:41:50)