《自然语言处理综论》学习笔记

Ch01 导论会话代理（conversational agents）或者 对话系统（dialogue systems）是能够使用自然语言与人类会话的程序。其组成部分为： 语言输入 自动语音识别（automatic speech recognition） 自然语言理解（natural langu ...
2019-06-06 自然语言处理

《自然语言处理综论》学习笔记

Ch02 正则表达式 与 自动机正则表达式（regular expression, RE）：描述文本序列的标准记录方式。在文本检索和信息抽取的各种类型的应用中，都使用正则表达式来描述文本中的符号串。 有限状态自动机（finite state automaton）：不仅是一种用来实现正则表达式的数学工 ...
2019-06-06 自然语言处理

《自然语言处理综论》学习笔记

Ch03 词 与 转录机正词法规则（orthographic rules） 形态规则（morphological rules） 形态剖析（morphological parsing）：把单词剖析为多个词素 剖析产生的结果可以是形态结构、句法结构、语义结构或者话语结构 剖析产生的形式可以是符号串、树或 ...
2019-06-06 自然语言处理

《自然语言处理综论》学习笔记

Ch04 N 元语法N 元语法模型（N-gram model）是概率模型。 2 元语法（bigram）是包含 2 个单词的序列； 3 元语法（trigram）是包含 3 个单词的序列； 语言模型（Language Models，LM）是单词序列的概率模型。 语料库中单词数目的计算自然语言中统计计算需 ...
2019-06-06 自然语言处理

《自然语言处理综论》学习笔记

Ch05 词类标注词类（Part-of-Speech，POS），又称为单词类别（word classes）、形态类别（morphological classes）或者词汇标记（lexical tags）。 词类标注（part-of-speech tagging）：把词类指派给单词。 词类标注的常用方 ...
2019-06-06 自然语言处理

《自然语言处理综论》学习笔记

Ch06 HMM 与 MEMM马尔可夫链隐马尔可夫模型（HMM）似然度的计算：向前算法解码：Viterbi 算法HMM 的训练：向前——向后算法最大熵模型的背景知识线性回归逻辑回归逻辑回归（分类）逻辑回归（训练）最大熵模型（MEMM）6.9 小结 ...
2019-06-06 自然语言处理

《自然语言处理综论》学习笔记

...
2019-06-06 自然语言处理

《自然语言处理综论》学习笔记

Ch12 英语的形式语法句法：是指把单词安排在一起的方法。 Ch2，正则语言提供了一种表示单词符号串顺序的方法 Ch4，介绍了怎样计算这些单词序列的概率 Ch5，说明了词类范畴可以作为单词的等价类来讨论 本章的三个主要思想： 组成性 ( constituency ) ：单词的组合可以具有如一个 ...
2019-06-06 自然语言处理

《自然语言处理综论》学习笔记

Ch15 特征 与 合一基于约束的形式化方法（constraint-based formalism）：把特征中的信息用约束来表示。 基于约束的表示策略：能够表示细颗粒度的信息，可以模拟比上下文无关语法更加复杂的现象，可以有效地计算句法表示的语义。 基于特征结构和合一来实现这个表示策略。 15.1 特 ...
2019-06-06 自然语言处理

《自然语言处理综论》学习笔记

Ch16 语言和复杂性16.1 Chomsky层级形式语言（formal language）是在有限字母表上的符号串的集合。 不同的形式化方法写的语法的类别具有不同的生成能力。 如果一种语法能够定义一种语言，而另一种语法不具备这个能力，就说明前一种语法具有更加强大的生成能力或者更大的复杂性。 Cho ...
2019-06-06 自然语言处理
1…2425262728…33