本文共 3083 字，大约阅读时间需要 10 分钟。

������������������ Bag of Words

���������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������TF-IDF���������������������������������������������������������������������������������������������������������������������������������������������������

������N-Gram������

N-Gram������������������������������������������������������n-gram������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������

������������������ LDA

���������������Latent Dirichlet Allocation���LDA������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������

��������������� Word Embedding

������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������Word2Vec������������������CBOW���Skip-Gram���������������������

1.Word2Vec

Word2Vec���������������������������������������������������������������������������������������������������������������������CBOW���������������Skip-Gram���������������������������������������������������������������������������������������������������������������

���������������������������������������������������������������������������������������������������������������������CBOW���������������������������������������������������Skip-Gram������������������������������������������������������������������������������Softmax���������������������������������������������������������������������������

���������������������Softmax���������������������������������������������������������������������������������Hierarchical Softmax���Negative Sampling������������������������������������������������

Word2Vec vs LDA

Word2Vec���������������������������������������������������������������������������������������LDA������������������������������������������������������������������������������������������������������������������������������������������LDA������������������������������������������������-������������������������Word2Vec���������������������������������������������������������Word2Vec���������"������������������������"������LDA������������"���������������������������"���

������������������������LDA������������������������������������������������������������������������������������������������������������-������������������������������Word2Vec���������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������