分散式、联合稀疏优化_应用优化

http://blog.sina.com.cn/u/1750222145

首页博文目录关于我

个人资料

应用优化

微博

加好友发纸条

写留言加关注

博客等级：
博客积分：0

博客访问：0
关注人气：0
获赠金笔：0支
赠出金笔：0支
荣誉徽章：

正文字体大小：大中小

分散式、联合稀疏优化

(2012-02-18 16:25:16)

标签：

joint

sparse

decentralized

computation

compressive

sensing

教育

分类：分布式计算

今天，我和中科大的凌青教授、上交大的文再文教授完成一篇关于分散式(decentralized)、联合稀疏(jointly sparse)信号重构算法的文章。

分散式计算(decentralized computation)是指无中心的分布式计算。传统的并行计算(parallel computation)、分布式计算(distributed computation)容许有控制中心或计算中心，把计算任务和数据分成若干份，派送到各个计算节点，并指挥它们协作完成计算任务。分散式计算没有中心，各个节点地位平等，通过相邻节点间的通信，共同完成计算。最著名的分散式计算问题是一致性平均(consensus average)：一组网络节点(比如温度计)共同地、一致地获得它们的平均值。

所谓联合稀疏(jointly sparse)是指：多个稀疏向量的非零元在共同的位置上。换句话说，多个向量拥有共同的、很小的非零元支撑集。联合稀疏信号在应用中相当常见。

最近出现了一些有趣且重要的应用问题，它们的解决依赖于利用联合稀疏性质。比如，在无线通信中，一组认知无线电(cognitive radio)希望利用频谱的联合稀疏性，寻找可以利用的空闲的频段。又比如，美国边境管理局(US Customs and Border Control)计划沿美国和墨西哥边境，安置红外、声波、地震波等传感器，利用信号的联合稀疏性，探测非法跨越边境者，并且通过特征提取算法自动区别人类与动物。再比如，多家医院通过合作，基于它们各自的大量数据，利用统计和数据挖掘的方法共同地发现致病原因。在这些问题里，每一个节点都拥有一些数据，当这些数据结合在一起时，联合稀疏的性质能够帮助我们找出答案。

我们希望解决的核心问题是：如何通过设计新的分散式计算方法，不集中各个节点的数据，仅通过相邻节点间的简单通信，便能够让所有参与的节点有效地利用联合稀疏性获得答案。因为多方合作的机器学习依赖于数据，而这些数据也许是隐私的、甚至机密的，我们的方法不需要每个节点公开自己的数据，从而保障数据隐私。换句话说，我们的方法进行知识交换，不进行数据交换。

我们的想法、算法、以及初步实验结果公布在 http://www.caam.rice.edu/~optimization/L1/decentral/。欢迎有兴趣的读者在这里对我们工作的提出批评、建议，进行广泛的讨论。

阅读┊ 收藏 ┊ 喜欢 ▼ ┊打印┊举报/Report

前一篇：Toeplitz/Circulant/卷积形式的压缩感知

后一篇：检测梯度的正确性

新浪BLOG意见反馈留言板　欢迎批评指正