党亚峥，任职于上海理工大学管理学院，副教授、硕士生导师，主要研究方向为：金融优化、智能优化、数字金融、包容性增长。

本书首先介绍了基础知识，然后深入探讨了ADMM算法的理论和应用。包括其在各种统计和机器学习问题中的应用，如Lasso、稀疏逻辑回归等。同时，书中讨论了机器学习优化问题几种常见的目标函数项形式，稀疏学习优化问题，全局变量一致性问题，共享问题，分布式拟合模型。并介绍了使用ADMM算法及ADMM连邦学习算法解决这些问题的高效方案。此外，还涉及了分布式MPI和MapReduce的实现细节。本书内容全面而深入，旨在提高机器学习的效率和扩展性，并为实际应用提供实用指导。
通过阅读本书，读者将获得深入了解ADMM算法在大规模机器学习问题中的应用的能力。此外，读者还将了解到分布式优化和非凸优化的相关方法，以及实现这些方法的分布式MPI和Hadoop MapReduce技术的实际指导。

第1章 引言
第2章 基础知识
2.1 凸集及其性质
2.2 凸函数定义与性质及常见凸函数
2.3 正齐次函数
2.4 次微分定义和有关性质
2.5 近端算子定义以及性质
2.6 Bregman距离定义以及其性质
参考文献
第3章 ADMM算法及其修正形式
3.1 ADMM算法及其基础算法
3.1.1 对偶上升法
3.1.2 对偶分解法
3.1.3 增广拉格朗日函数与乘子法
3.2 ADMM算法
3.2.1 缩放形式
3.2.2 ADMM算法收敛性
3.2.3 最优性条件和停止标准
3.3 修正ADMM算法
3.3.1 不同的惩罚参数
3.3.2 更一般的增广项
3.3.3 超松弛
3.3.4 线性化ADMM
3.3.5 更新迭代顺序的ADMM
3.3.6 对称式ADMM算法
3.3.7 其他相关算法
参考文献
第4章 几种常见的目标函数项形式
4.1 近端算子表达形式
4.2 二次目标项形式
4.3 光滑目标函数项形式项
4.3.1 迭代求解
4.3.2 二次目标项
4.4 可分解的目标函数项形式
4.4.1 块可分离
4.4.2 组件可分离
4.4.3 软阈值
参考文献
第5章 稀疏学习优化问题
5.1 最小绝对偏差（Least Absolute Deviations）
5.2 基准点追踪（Basis Pursuit）
5.3 广义l1正则化损失最小化
5.4 Lasso
5.4.1 广义Lasso
5.4.2 Lasso组
5.5 稀疏逆协方差选择
5.6 l1/2正则化
参考文献
第6章 全局变量一致优化
6.1 正则化的全局变量一致性
6.2 一致问题的一般形式
6.3 正则化的一般形式一致问题
参考文献
第7章 共享问题
7.1 对偶性
7.2 最优交换
参考义献
第8章 分布式拟合模型
8.1 样本
8.1.1 回归
8.1.2 分类
8.2 跨训练样本划分
8.2.1 Lasso
8.2.2 稀疏的逻辑回归
8.2.3 支持向量机
8.3 跨特性划分
8.3.1 Lasso
8.3.2 Lass0组
8.3.3 稀疏的逻辑回归
8.3.4 支持向量机
8.3.5 广义可加模型
参考文献
第9章 ADMM联邦学习
9.1 联邦学习概述
9.2 联邦学习的定义和相关示例
9.3 联邦学习与分布式机器学习的区别和联系
9.4 联邦学习的分类
9.5 联邦学习算法
9.5.1 联邦学习的算法
9.5.2 联邦学习步骤
9.5.3 联邦学习与分布式机器学习的区别
9.6 ADMM联邦学习算法
9.6.1 基于ADMM的联邦学习
9.6.2 基于ADMM的联邦学习的收敛性分析
9.7 改进的ADMM联邦学习算法
9.7.1 CEADMM算法
9.7.2 Inexact CEADMM算法
9.7.3 不精确的有效通信ADMM
9.7.4 不精确的ADMM联邦学习
参考文献
第10章 分布式机器学习的同步ADMM算法和异步ADMM算法
10.1 同步一异步通信机制
10.2 同步算法
10.2.1 同步SGD方法
10.2.2 模型平均方法及其改进
10.2.3 ADMM算法
10.2.4 弹性平均SGD算法
10.2.5 讨论
10.3 异步算法
10.3.1 异步SGD
10.3.2 Hogwild！算法
10.3.3 带延迟处理的异步算法
10.4 同步和异步的融合
10.5 总结
参考文献
第11章 ADMM算法的实现
11.1 抽象实现
11.2 MPI
11.3 图形计算框架
11.4 MapReduce l
参考文献
第12章 模拟仿真
12.1 小密度lasso
12.1.1 单一问题
12.1.2 正则化路径
12.2 分布式l1正则化逻辑回归
12.3 带有特征分割的Lasso组
12.4 分布式大规模使用MPI的Lasso问题
12.5 回归器的选择
参考文献