15、Dirichlet分布

（1）分布的由来

  定理2.2.61给出Beta分布与Gamma分布的关系后，我们自然想到一个问题，能否像一维正态分布推导高维正态分布一样，针对多个Gamma分布也得到类似的分布呢，这就引申出新的分布Dirichlet分布（也称狄利克雷分布）。

  1839年，德国数学家约翰·彼得·古斯塔夫·勒热纳·狄利克雷在研究天体力学问题时得到了狄利克雷分布的积分形式，同年，狄利克雷的好友，法国数学家约瑟夫·刘维尔完善了狄利克雷的推导并将其推广得到了更一般形式的积分。狄利克雷积分出现后，在十九世纪没有得到学界的关注。二十世纪初，Louis Bachelier将狄利克雷分布视为多项分布的共轭先验进行了研究。卡尔·皮尔逊及其合作者得到了狄利克雷分布的边缘分布、条件分布和矩 。George Pólya通过推导多元分布变量的相对频率的极限分布得到了狄利克雷分布。此后狄利克雷分布在贝叶斯推断、多元变量建模等问题中的应用逐渐得到重视。1962年，英国数学家Samuel Wilks在其著作Mathematical statistics中首次使用“狄利克雷分布”一词描述其概率密度函数，并将其与狄利克雷的早期工作相联系，狄利克雷分布也由此得名。

  在贝叶斯推断中，狄利克雷分布作为多项分布的共轭先验，被用于多项分布、二项分布和类型分布的参数估计。在机器学习领域，狄利克雷分布和广义狄利克雷分布被应用于构建混合模型以处理高维的聚类和特征赋权等非监督学习问题。使用狄利克雷分布建立的主题模型，即隐含狄利克雷分布（Latent Dirichlet Allocation, LDA）被应用于自然语言处理和生物信息学研究。