一

18

MIT自然语言处理第三讲：概率语言模型（第三部分）

分类 MIT自然语言处理, 自然语言处理, 语言模型 

自然语言处理：概率语言模型
Natural Language Processing: Probabilistic Language Modeling
作者：Regina Barzilay（MIT,EECS Department, November 15, 2004)
译者：我爱自然语言处理（www.52nlp.cn ，2009年1月18日）

三、 语言模型的评估
a) 评估一个语言模型（Evaluating a Language Model）
　i. 我们有n个测试单词串（We have n test string）:
　　　　　S_{1},S_{2},...,S_{n}
　ii. 考虑在我们模型之下这段单词串的概率（Consider the probability under our model）：
　　　　　prod{i=1}{n}{P(S_{i})}
或对数概率(or log probability):
　　log{prod{i=1}{n}{P(S_{i})}}=sum{i=1}{n}{logP(S_{i})}
　iii. 困惑度（Perplexity）:
　　　　　Perplexity = 2^{-x}
　　这里x = {1/W}sum{i=1}{n}{logP(S_{i})}
　　W是测试数据里总的单词数（W is the total number of words in the test data.）
　iv. 困惑度是一种有效的“分支因子”评测方法（Perplexity is a measure of effective “branching factor”）
　　1. 我们有一个规模为N的词汇集v，模型预测（We have a vocabulary v of size N, and model predicts）：
　　P(w) = 1/N 对于v中所有的单词（for all the words in v.）
　v. 困惑度是什么（What about Perplexity）?
　　　　　 Perplexity = 2^{-x}
　　　这里 x = log{1/N}
　　　于是 Perplexity = N
　vi. 人类行为的评估（estimate of human performance (Shannon, 1951)
　　1. 香农游戏（Shannon game）— 人们在一段文本中猜测下一个字母（humans guess next letter in text）
　　2. PP=142(1.3 bits/letter), uncased, open vocabulary
　vii. 三元语言模型的评估（estimate of trigram language model (Brown et al. 1992)）
　　PP=790(1.75 bits/letter), cased, open vocabulary

未完待续：第四部分

附：课程及课件pdf下载MIT英文网页地址：
　　　http://people.csail.mit.edu/regina/6881/

注：本文遵照麻省理工学院开放式课程创作共享规范翻译发布，转载请注明出处“我爱自然语言处理”：www.52nlp.cn

本文链接地址：
http://www.52nlp.cn/mit-nlp-third-lesson-probabilistic-language-modeling-third-part/

相关文章:

  1. MIT自然语言处理第三讲：概率语言模型（第二部分）
  2. MIT自然语言处理第三讲：概率语言模型（第四部分）
  3. MIT自然语言处理第三讲：概率语言模型（第五部分）
  4. MIT自然语言处理第三讲：概率语言模型（第六部分）
  5. MIT自然语言处理第三讲：概率语言模型（第一部分）
  6. MIT自然语言处理第四讲：标注（第三部分）
  7. MIT自然语言处理第五讲：最大熵和对数线性模型（第三部分）
  8. MIT自然语言处理第四讲：标注（第四部分）
  9. MIT自然语言处理第一讲：简介和概述（第三部分）
  10. MIT自然语言处理第二讲：单词计数（第三部分）

评论

2条回复 to “MIT自然语言处理第三讲：概率语言模型（第三部分）”

  1. poson on 二月 2nd, 2009 13:43

    支持

    [回复]

    admin 回复:
    二月 5th, 2009 at 13:40

    谢谢！其实翻译是个累活！呵呵！

    [回复]

发表评论






订阅52nlp：

Add to Google Reader or Homepage