机器学习习题（3）

1. 前言

这一次我们只有4道新题，有一道题目我们之前已经做过了。就不再赘述。

2. 习题1（PRF值）

下面有关分类算法的准确率，召回率，F1 值的描述，错误的是？

A.准确率是检索出相关文档数与检索出的文档总数的比率，衡量的是检索系统的查准率

B.召回率是指检索出的相关文档数和文档库中所有的相关文档数的比率，衡量的是检索系统的查全率

C.正确率、召回率和 F 值取值都在0和1之间，数值越接近0，查准率或查全率就越高

D.为了解决准确率和召回率冲突问题，引入了F1分数

正确答案：C

解析：

对于二类分类问题常用的评价指标是精准度（precision）与召回率（recall）。通常以关注的类为正类，其他类为负类，分类器在测试数据集上的预测或正确或不正确，4种情况出现的总数分别记作：

TP——将正类预测为正类数
FN——将正类预测为负类数
FP——将负类预测为正类数
TN——将负类预测为负类数

由此：

精准率定义为：P = TP / (TP + FP)
召回率定义为：R = TP / (TP + FN)
F1值定义为： F1 = 2 P R / (P + R)

精准率和召回率和F1取值都在0和1之间，精准率和召回率高，F1值也会高，不存在数值越接近0越高的说法，应该是数值越接近1越高。

3. 习题2（判别模型与生成模型）

以下几种模型方法属于判别式模型(Discriminative Model)的有()

1)混合高斯模型

2)条件随机场模型

3)区分度训练

4)隐马尔科夫模型

A.2,3

B.3,4

C.1,4

D.1,2

正确答案：A

解析：

常见的判别式模型有：

1. Logistic regression（logistical 回归）
2. Linear discriminant analysis（线性判别分析）
3. Supportvector machines（支持向量机）
4. Boosting（集成学习）
5. Conditional random fields（条件随机场）
6. Linear regression（线性回归）
7. Neural networks（神经网络）

常见的生成式模型有:

1. Gaussian mixture model and othertypes of mixture model（高斯混合及其他类型混合模型）
2. Hidden Markov model（隐马尔可夫）
3. NaiveBayes（朴素贝叶斯）
4. AODE（平均单依赖估计）
5. Latent Dirichlet allocation（LDA主题模型）
6. Restricted Boltzmann Machine（限制波兹曼机）

生成式模型是根据概率乘出结果，而判别式模型是给出输入，计算出结果。

4. 习题3（概率论）

以下关于PMF(概率质量函数),PDF(概率密度函数),CDF(累积分布函数)描述错误的是()

A.PDF描述的是连续型随机变量在特定取值区间的概率

B.CDF是PDF在特定区间上的积分

C.PMF描述的是离散型随机变量在特定取值点的概率

D.有一个分布的CDF函数H(x),则H(a)等于P(X<=a)

正确答案：A

解析：

1. 概率质量函数 (probability mass function，PMF)是离散随机变量在各特定取值上的概率。

2. 概率密度函数（p robability density function，PDF ）是对 连续随机变量 定义的，本身不是概率，只有对连续随机变量的取值进行积分后才是概率。

3. 累积分布函数（cumulative distribution function，CDF） 能完整描述一个实数随机变量X的概率分布，是概率密度函数的积分。对於所有实数x ，与pdf相对。

5. 习题4（SPSS）

SPSS中，数据整理的功能主要集中在（ ）等菜单中

A.数据

B.直销

C.分析

D.转换

正确答案：AD

解析：对数据的整理主要在数据和转换功能菜单中。

6. 小结

我们这一章中主要对于PRF值、生成模型与判别模型、概率论和SPSS基础进行了相应的回顾。