基于随机傅里叶特征空间的高斯核近似算法

EasyChair Preprint no. 7360

Abstract

摘要  核方法是一种把低维空间的线性不可分问题转化为高维空间中线性可分问题的方法，其广泛应用于多种学习模型。其中现有的核模型选择方法在大规模数据中计算效率较低，时间成本很大。针对这一问题，本文引入随机傅里叶特征变换，将原始核特征空间转换为另一个相对低维的显式随机特征空间，并给出核近似误差上界理论分析以及在核近似的随机特征空间中训练学习模型的误差上界，得到核近似的收敛一致性和误差上界与核近似参数之间的关系。然后，基于随机傅里叶特征空间选择出最优模型参数，避免了对最优原始高斯核模型参数的大规模搜索，从而大幅降低原始高斯核模型选择所需的时间成本。实验表明本文给出的误差上界确由核近似参数控制，核近似选择的最优模型相较于原始高斯核模型有较高的准确率并且模型选择时间相对网格搜索法大幅减小。

Keyphrases: 核方法；, 核近似；, 模型选择, 随机傅里叶特征；, 高斯核；

@Booklet{EasyChair:7360,
  author = {Kai Zhang and Changqian Men and Wenjian Wang},
  title = {基于随机傅里叶特征空间的高斯核近似算法},
  howpublished = {EasyChair Preprint no. 7360},

  year = {EasyChair, 2022}}