由于chatgpt的大火，GPT-3又进入到了人们的视野中，本文将通过使用text-embedding-ada-002（GPT-3的一个Embeddings，选择该模型是因为它价格适中且使用简单），与三种传统文本嵌入技术生成的嵌入的性能进行比较； GloVe（Pennington、Socher Manning，2014 年）、Word2vec（Mikolov ，2013 年）和 MPNet（Song ，2020 年）。 这些嵌入将用于训练多个机器学习模型，使用Amazon美食评论数据集中的食品评论评分进行分类。 每种嵌入技术的性能将通过比较它们的准确性指标来评估。
AG真人娱乐官方网站(访问: hash.cyou 领取999USDT）
AG真人娱乐官方网站(访问: hash.cyou 领取999USDT）
MPNet(Masked and Permuted Language Model Pre-training)是一种用于NLP的基于transformer的语言模型预训练技术。MPNet提供了BERT模型的变体。BERT在预训练期间屏蔽一部分输入令牌，并训练模型根据未屏蔽令牌的上下文预测已屏蔽令牌。这个过程被称为掩码语言建模，它对于捕获文本语料库中单词的含义和上下文是有效的。除了屏蔽语言建模之外，MPNet还采用了一种随机排列输入标记顺序的排列机制。这种排列有助于模型学习输入序列中单词之间的全局上下文和关系。
AG真人娱乐官方网站(访问: hash.cyou 领取999USDT）
