概念辨析-生成模型/产生模型
概念辨析-生成模型/产生模型
机器学习的任务是从属性X预测标记Y,即求概率P(Y|X);
有监督学习
training data给了正确的答案即label,任务就是建立相应的模型,训练样本集外的数据进行分类预测。
生成式模型
生成模型学习一个联合概率分布P(x,y)
常见的判别方法有 k近邻法、感知机、决策树、逻辑回归、线性回归、最大熵模型、支持向量机(SVM)、提升方法、条件随机场(CRF)
判别式模型
判别模型学习一个条件概率分布P(y|x)
常见的生成方法有混合高斯模型、朴素贝叶斯法和隐形马尔科夫模型
判别式模型举例:要确定一个羊是山羊还是绵羊,用判别模型的方法是从历史数据中学习到模型,然后通过提取这只羊的特征来预测出这只羊是山羊的概率,是绵羊的概率。
生成式模型举例:利用生成模型是根据山羊的特征首先学习出一个山羊的模型,然后根据绵羊的特征学习出一个绵羊的模型,然后从这只羊中提取特征,放到山羊模型中看概率是多少,在放到绵羊模型中看概率是多少,哪个大就是哪个。
判别式模型是根据一只羊的特征可以直接给出这只羊的概率(比如logistic regression,这概率大于0.5时则为正例,否则为反例),而生成式模型是要都试一试,最大的概率的那个就是最后结果~
无监督学习
对未标记的样本进行训练学习,比发现这些样本中的结构知识。 (KMeans,DL)