目录:
其一:http://blog.sina.com.cn/s/blog_76d02ce90102xqqs.html
其二:http://blog.sina.com.cn/s/blog_76d02ce90102xqrh.html
本文是我对于Bayesian Optimization的一些理解和总结
结合python源码的一些分析
无法保证正确,如果有问题,欢迎提出
源码地址:https://github.com/fmfn/BayesianOptimization
提取函数(acquisition
function)
上一篇中着重讲了高斯过程,通过使用高斯过程,我们可以得到一个关于目标函数的后验概率描述
或者简单的说,给定采样点x,可以得到f(x)的均值和方差
显然,如果采样点足够多,那么这个后验概率就会越来越拟合真实的f(x)
但是这么做显然是不怎么优雅的,贝叶斯优化的一个主要优点就是可以大幅度减少采样次数,因此才会在超参优化和人机交互方面有比较好的应用
定义提取函数的目标就是为了有目的的