天天看点

#数学之美##人工智能#句子是由词语构成的,词语也是语义的最小单元。需要正确的分词来做进一步的自然语言处理。分词也存在多

作者:产品海豚湾

#数学之美# #人工智能# 句子是由词语构成的,词语也是语义的最小单元。需要正确的分词来做进一步的自然语言处理。

分词也存在多种方式,譬如“联想公司”可以作为一个独立的词,也可以分成“联想”和“公司”两个词。但“联想”这个单独的词的语义很难和“Lenovo”这个公司关联起来。因此,可能对机器翻译而言,分成“联想公司”会更好。但是,对搜索引擎来说,拆分成两个独立的词在搜索时能够匹配更多搜索内容。因此,最终的分词决策还是依赖于具体的应用场景的 —— 这和产品设计一样,需要有具体场景的支撑才能贴合实际业务应用。

#数学之美##人工智能#句子是由词语构成的,词语也是语义的最小单元。需要正确的分词来做进一步的自然语言处理。分词也存在多
#数学之美##人工智能#句子是由词语构成的,词语也是语义的最小单元。需要正确的分词来做进一步的自然语言处理。分词也存在多
#数学之美##人工智能#句子是由词语构成的,词语也是语义的最小单元。需要正确的分词来做进一步的自然语言处理。分词也存在多

继续阅读