word2vec 到底学到了什么？Berkeley AI Research 给出定量理论

Berkeley AI Research 提出 word2vec 学习过程的定量理论：在若干温和近似下，其学习问题可归约为无加权最小二乘矩阵分解，梯度流动力学有闭式解，最终嵌入等价于对目标矩阵 M* 做 PCA。