人工智能学习笔记（持续更新）
北京大学 人工智能MOOC
Part I. Basics :Chapter 1. Introduction
§1.1 Overview of Artificial Intelligence
-
研究如何创建计算机和计算机软件使之具有智能行为的学科；
-
1956 达特茅斯会议 AI诞生
图灵测试 图灵(1950) 计算机器与智能Computing Machinery and Intelligence
皆在提供一种令人满意的关于智能的可操作定义
视觉图灵测试 唐纳德-杰曼(2014)
采用一个操作员辅助设备、根据给定的图像产生随机的二元问题序列
- 目前计算机视觉系统是测试任务的精度，包括对象检测、图像分割和定位，但仍然与人类行为方式有差距。（人类具有理解图像的能力）
- 评估计算机图形学能力
- 图形识别、及图形间关系理解
- 题目之间有关联，且被测试者只回答yes、no
§1.2 Foundations of Artificial Intelligence
Mathematics:
-
逻辑学：得出正确结论的形式规则是什么？
- 1847，George Bool：命题逻辑；
- 1879，Gottlob Frege：一阶逻辑，扩展了布尔逻辑，增加了对象和关系；
- 1983，Alfred Tarski：指称理论，解释如何讲逻辑中的对象与对象相关联；
-
计算：什么是可计算的？
-
Alan Turing 1912-1954：试图精确的描述那些函数是可计算的
-
Cobham Edmonds 1960s：计算的易处理性的概念
-
Steven Cook，Richard Karp 1972：提出了NP完全性的理论；
P：polynomial time 多项式时间
NP: Non-deterministic Polynomial time 不确定性多项式时间
NP-complete ：NP 与NP难 的交集。
-
-
概率：如何根据不确定信息进行推断？
- Gerolamo Cardano ： 构建了概率的概念，博弈事件中可能的结果；
- James Bernoulli ：引入了新的统计学方法；
- Thomas Bayes：提出了贝叶斯规则，称为不确定性推理的最现代方法。
Neuroscience
大脑如何处理信息？
大脑在理性决策方面很优越，但不像软件那样模块化，预测和仿真是决策的关键！
Cognitive Psychology
人类如何思考与行动？
研究认知及行为背后的心智处理的行为科学，研究人脑如何接收外部世界的输入、处理、作用（认知心理学）
如何在大脑中形成以及转录过程的跨领域学科（认知科学）
把大脑看作是信息处理设备，是研究心智过程的学科。
- 注意机制 Attention
- 一是集中在某个有用感知信息子集的状态
- 语言运用
- 语言习得、语言形成的组件、语言使用时的语气、或者其他相关领域。
- 记忆
- 记忆：三个子集：过程记忆、语义记忆、情景记忆。
- 感知
- 物理感知（视觉）、认知过程
- 元认知：关于认知的认知、关于思考的思考、关于认识的认识
- 关于认知的知识、认知的调节
- 问题求解
- 创造力
- 思考
控制理论和控制论
机器如何能在自身的控制下运行
控制理论：工程与数学的交叉学科：处理动态系统对输入的行为，以及该行为如何通过反馈进行调整。
控制论：探索调控系统，它们的结构、约束、及其可能性，定义为研究动物与机器的控制与通讯的科学，新世纪被解释为”用技术控制任何系统“
§1.3 History of Artificial
-
1950-1956 人工智能的诞生
- 图灵测试：机器智能的度量
- 达特茅斯会议：人工智能研究领域正式诞生
-
1956-1974 黄金年代
- 1958 Herbert Simon 和Allen Newell 第一个ai程序：逻辑理论家（LT）；
- 1958 John McCarthy 发明了Lisp语言；
- 1960 Masterman 设计了语义网络，用于机器翻译 ；
- 1963 Leonard Uhr和Charles Vossler 发表了关于模式识别的论文，描述了第一个机器学习程序；
- 1965 Fergenbaum 发明了Dendral的专家系统，推断有机化合物分子结构的软件；
- 1974 Shortliffe 演示了MYCIN程序，一个非常实用的基于规则的医学诊断方法；
-
1974-1980 第一个寒冬
- 1966 机器翻译失败
- 1970 连接主义遭到遗弃
- 197-1975 DARPA对卡耐基梅隆大学的语音理解研究项目感到沮丧；
- 1973，受 Lighthill ”Artificial Intelligence：A General Survey“报告的影响，英国大幅度缩减AI的研究；
- 1973-1974，DARPA，削减了一般性研究的经费；
-
1980-1987 繁荣期
- 1980 AAAI美国人工智能学会，在斯坦福大学召开第一届全国大会；
- 1982 日本 启动了 第五代计算机系统 FGCS 项目，用于知识处理；
- 1980-1987 决策树模型被发明，并以软件的形式退出，该模型具有可视化、易说明的特点；
- 1980-1987 多层人工神经元网络ANN 被发明，具有足够多的隐藏测，一个ANN可以表达任意的功能，因此突破了感知的局限性；
-
1987-1993 第二个寒冬
- 1987 Lisp机市场崩溃；
- 1988 美国政府战略计算促进会取消了新的ai经费；
- 1993 专家系统缓慢滑向低谷；
- 1990s 日本第五代计算机项目没能达到其初始目标，悄然退场；
-
1993-Present 突破
- 1997 IBM深蓝系统战胜国际象棋卫冕冠军；
- 2005 斯坦福大学自主机器人车辆Stanley，赢得了DARPA无人驾驶汽车挑战赛；
- 2006 Geoffrey Hinton和Ruslan Salakhutdinov 在Science 上发表深度学习论文；
- 2011 Watson 在Jeopardy！比赛上战胜了两届冠军获得了1m美元的大奖
- 2011 Google 启动深度学习项目，作为Google Brain 作为Google X项目之一，降一万六千台计算机连成的一个集群，致力于模仿人类大脑，通过一千万张数字图片的学习，已成功学会识别一只猫；
- 2012 Apple 推出了Siri，个人助理和知识导航软件；
- 2012 Microsoft 首席研究馆Rick Rashid 演示了一款 实时英文-中文通用翻译系统，不仅翻译准确，而且保持讲者口音和语调；
- 2014.4 Microsoft 推出了Cortana；
- 2014.6 Microsoft 推出微软小冰；
- 2015.9.8 百度推出 度秘，秘书化搜索服务；
- 2014.6 Eugene Goostman被活动33%的评委认为其是人类，通过了图灵测试；
- 2014.8 IBM发表了类人脑工作的TrueNorth芯片；
- 2015.2 Google DeepMind公司在Natrue 上发表了Deep Q-Network 通过深度强化学习达到人类水平的操控；
- 2015.12 DeepMind公司的AlphaGo 打败了欧洲围棋冠军 樊辉；深度学习软件第一次击败了人类职业围棋选手；
- 2016.3 AlphaGo 在韩国首尔对垒九段棋手中获胜，
§1.4 The State of The Art
| Humanly | Rationally | |
|---|---|---|
| Acting | Acting humanly | Acting rationally |
| Thinking | Thinking humanly | Thinking rationally |
- 弱人工智能(ANI)：无意识的AI，专注于一个具体的任务（仅针对一个特定问题）；
- 强人工智能(AGI)：将智能用于处理任何问题，研究主要目标；
- 超人工智能(ASI)：一个假想的agent。
人工智能的应用
- 计算机视觉 Computer vision
- 图像处理
- VR、AR、MR
- 模式识别
- 智能诊断
- 博弈理论和策略规划
- ai游戏
- 机器翻译
- 自然语言处理
- 非线性控制机器人学
- \(\cdots\)
优秀论文赏析：
- ”一种用于非线形降维的全局几何框架“
- ”利用神经元网络降低数据的维度“
- ”通过快速查找和发现密度峰值进行聚类“
人工智能研究领域：
- AI
-
SEARCHING
- PROBLEMS SPACE
-
REASONING
- KNOLEDGE
-
PLANNING
- RULES
-
LEARNING
- DATA
- APPLYING
- COMMUNICATING
- NLP
- MACHINE TRANSLATE
- PERCEIVING
- VISION
- SPEECH
- SENSING
- ACTING
- ROBOT
- COMMUNICATING
-
SEARCHING
Part I. Basics: Chapter 2.Intelligent Agent
§2.1 Ctbernetics and Brain Simulation
§2.2 Symbolic vs. Sub-symbolic
符号模式
专家系统：通过规则、规则的操作进行推理；
亚符号模式
研究者确信，符号系统永远无法模仿人类认知的全部过程，尤其是感知。