本发明实施例提供一种基于增量学习的词向量生成方法和装置。本发明基于增量学习的词向量生成方法，包括：获取原始语料库的词共现矩阵、新增语料库的词共现矩阵和所述原始语料库的训练结果参数，训练结果参数包括梯度值和第一矩阵分解结果；将原始语料库的训练结果参数作为新增语料库的初始训练参数；使用所述新增语料库的初始训练参数、所述原始语料库的词共现矩阵和所述新增语料库的词共现矩阵采用梯度下降算法迭代优化总目标函数，获取第二矩阵分解结果，所述第二矩阵分解结果为使得所述总目标函数极小化的解；根据所述第二矩阵分解结果获取多个词向量。本发明实施例可以有效减少生成词向量过程所消耗的时长。