情报分析中,人的认知过程
1. 情报分析中的认知过程
作为一个科学过程,情报分析应用科学方法处理数据、做出判断。
但是,分析员在科学过程中并不是一个衡量。一切科学研究的主体都是人,是人对不同客体的认识过程,因而科学研究过程也是一个认知过程。
自然科学中,人的认知对象是自然实体,认知过程相对客观。社会科学中,人既是认识的主体,也是认识的客体,认知过程中的主观因素更明显、更突出。
在情报分析中,因情报固有的”不确定性“和预测功能,认知问题尤其重要。
2. 认知模式
0x1:认知模式对自然科学与社会科学研究的不同影响
社会科学研究人和自然界的社会性,人既是研究的主体,也是研究的客体,研究者的精神、思维、感情在其中有较大发挥空间。
自然科学研究人和自然界的自然性,研究者的价值观虽然有一定影响,但不像社会科学那么显著。
研究过程是否足够”中立“、”客观“是社会科学与自然科学的重要区别之一。
0x2:认识模式在情报分析中的地位
情报分析作为一门应用社会科学,因其本身固有的”不确定性“,研究者的主观意识影响更大。
情报分析的起点往往是不完整的、不可靠的信息,终点则是”不知道“或”不可能知道的事情“。情报就是从不确定中抽取出确定性,从不连贯的环境中帮助做出连贯性的决策。
本来,在分析过程中,科学方法是寻找确定性的路径。但是情报分析在应用科学方法时却面临下列挑战:
- 在相当多的情况下,情报分析的材料不可靠、不完整
- 所应用的理论是”类律“或”理想法则“,而非”定律“或”规律“
- 对假设的验证是”佐证“,而不是”实证“
- 面对的数据和事实是不完整的(incomplete)、模糊的(ambiguous)
这些问题导致了情报分析过程中观察、假设和验证过程都存在重大缺陷,而这些缺陷只能靠分析员的主观思想、经验、偏见来补足。这种情况下,分析员要充分调动自己的想象力,发挥主观能动性,做出”最佳猜测“。与生俱来的不确定性使情报分析带有很强的主观色彩。
从某种程度上来说,情报分析更像是受概念驱动,而不是数据驱动的。重要的不仅是收集到的数据,还有分析员的储备知识中的思维模式,分析员通过思维模式解读数据,并增加附加值。
0x3:认识模式如何影响情报分析
人在认识事物时,是先有事实还是先有观念,这是认识论中的一个根本问题。
20世纪的哲学家波普尔说,事实总是在人原有的观念中被看到,没有解释就没有事实,人们总是用已有的理论、假设和解释来测验事实。
美国学者西蒙第一个提出”有限理性(bounded or limited rationality)“,指出人思维能力有限,不可能认识到复杂的现实世界,要建立一种对现实世界进行简化的思维模式。
总体上来说,由于人思维能力有限,不能直接处理复杂的物质世界和社会环境,必须形成对世界的简化的、有结构的知识体系。人在接受外部事物时,就是通过这个简化的知识体系或认知地图(cognitive map)。
人感知外界的过程是一个复杂的心里过程,哪些信息参与这个过程、如何组织这些信息、这些信息的意义是什么?受一个人过去的经验、教育、文化价值、职业需要、组织观念的影响。这些因素共同组成了人的思维模式(conception framework)。
人必须根据自己已经有的知识,认识和理解新事物,也就是必须借助于思维模式才能认识世界。思维模式可以让人把接受到的信息迅速归类,也即所谓的格物致知。
思维模式处于变化之中,分析员每天都处于一个学习过程,他的思维模式随着新信息、新观念的加入在不断发生变化。同时,思维模式受感情、文化传统、个人性格、过去的经验等因素影响,有时又不能及时作出有效调整,导致滞后于实际的客观世界。
对于专业情报分析员而言,不论是模糊的还是清晰的,其头脑中都会有研究对象的一个图像。在美国情报共同体中,这个图像被称为马赛克或拼图(jigsaw puzzle),即情报马赛克理论(the mosaic theory),情报就是收集不同的信息,作为小块,最后拼成一个大的马赛克图像。
情报分析员的观察就是在不断寻找恰当的小块,并通过验证将其放到适当的位置。
0x4:认识模式的演进
认知模式不是一成不变的,而是随着人的知识、阅历增加而不断调整,这也是科学能够向前发展的原因。
社会科学和自然科学一样,宗旨都是修正人们对研究对象所形成的流行观念,或者用更恰当的概念取代它们。
杰维斯指出,思维模式有很强的生命力,在两种情形下会改变:
- 一是接收到明确的对立信息
- 二是看到事实变化
如果没有明显冲突的信息出现,针对于思维模式略有不符的信息,分析员一般只会微调自己的思维模式,以接纳和适应新信息。只有在冲突信息源源不断,微调不能满足的情况下,分析员才会实质性调整思维模式,根据新信息创立新思维模式。
3. 认知偏见
因为思维模式或固有观念是人认识过程中不可缺少的组成部分,绝大部分时候它发挥正确的、好的作用,能帮助人准确、快速地认识事物,但是少数情况下,它也会产生负面作用,能阻碍人们做出正确判断,这时人们就称其为”认知偏见“。
偏见是人性的一部分,属于人性的弱点,认知偏见是认识过程的固有部分,也是战略情报分析失误的一个重要原因。
我们接下来援引美国陆军情报部门的”战略情报分析手册“中,关于认知偏见的分类,逐个讨论它们。
0x1:人的自恋情结相关的认知偏见
人的自恋情结主要体现在人类过高相信自己理解自然和社会的能力、文化种族优越感、专业优越感、研究人员的自负等。
人对自己理解、控制自然、社会的能力总是过于自信,社会科学家相信自己能找到所有社会现象的因果关系,因而能够理解、掌握社会规律。实际上,有很多社会现象是随机发生的,根本没有因果关系,有的社会现象纵然有因果关系,凭人类目前的理解能力,也很难掌握。
1、过度自信偏见(over-confidence bias)
人总是倾向于过度相信自己的判断力,这样容易导致拒绝收集更多的信息、过早做出判断。
2、专业自负
分析员总是认为自己所从事的专业影像较大,在一个综合性事件中发挥主导作用。
- 人物分析专家认为个人在历史进程中的作用关键
- 政治分析家认为政治是重头
- 经济分析家认为经济是基础
专业人员除夸大自己专业的重要性之外,还无意识地扩大专业知识的使用范围。
中情局分析员约翰斯顿指出,当分析员碰到一个专业知识范围以外的数据时,他可能做出的选择有:
- 一是将数据归纳到自己已经建立的专业知识模型中
- 二是承认此数据不在其知识范围内,转而用自己的专业推理去解释它
- 三是承认在自己的知识范围之内,并作为异类弃而不用
- 四是向别的专家求教
这就是所谓的:”当你手上只有锤子时,你看什么都像钉子,并且还总想用手上的锤子去锤它们“
0x2:人的鸵鸟心态相关的认知偏见
人不是被动地接受新信息的刺激,而是主动接收、选择新信息,但选择的过程却不是完全客观公正的。由于思维模式的影响,在选取信息时,分析员往往忽视不符合本人思维模式的证据,对符合思维模式的证据却非常敏锐,这种现象被称为”期望思维(wishful thinking)“。
1、证明偏见(proof bias)
人总想证明自己已经相信的东西,这会在两个方面产生影响,一是只看到同自己观点相符的证据,二是从各种证据中都能解读出同自己观念相同的意义来。
2、错误证据偏见(discredited evidence bias)
一个分析员从线人那里得到信息,得出一个好的结论。如果后门证明这个线人已经被对方控制,那么分析员也不愿相信这个信息是假的,而宁愿相信可能是反间部门出错了。
0x3:人的惰性相关的认知偏见
人性固有的惰性使人在认识事物时愿意重视、相信较简单的、直线的方法,而不愿投入精力避免陷阱。
例如,当处理不可靠或不准确信息时,分析员习惯简化不确定性,要么作为不可靠信息直接弃用,要么作为可靠信息直接使用。如把可靠性只有80%的信息当做100%可靠来应用,把可靠性只有30%的信心作为垃圾信息直接弃用。
1、可供应性偏见(availability bias)
当你评估一件事情发生的概率时,这样的事最近是否发生过,你是否亲身经历过,当时是否是一件重要的事情,细节是否清楚,这些都会影响你的判断,但其实这些都和事件发生的概率没有关系。
从广义上来说,概率与个别案例相比,概率显然更有科学参考意义,但人们却更容易相信身边发生的案例。
假设根据概率分析,某品牌电视机的返修率是1%,但一个人的邻居家买的这个牌子的电视机坏了,这个人更容易相信该品牌电视机返修率高于1%。
同样的案例也发生在人们觉得飞机比火车不安全的事情上,真实原因是报道飞机失事的新闻更多,从而导致了这种认知偏误。
2、选择偏见(selectivity bias)
当你回忆的时候,并不是平等地回忆每件事。一般来说,第一印象、亲身经历在记忆中较清晰,这些对你的思考产生的影响就大,而这些或许并不是最重要的。
情报分析员一般接触的都是二手资料,但如果一个情报分析员恰巧在某国住过,那么印象就很深刻,影响就很大。这就可能导致分析员错误的给这类情报以过高的权重,从而导致分析结果出错。
3、可靠性偏见(reliability bias)
人们总是从信息的表面来看它的价值,而很少关注它的可靠性,如它的代表性,一个分析员很难精确地从各方面来计算它的价值。这方面机器学习模型就做的更好。
例如,在分析员记忆中有这样两件事,当美国出现财政赤字时就发行国债,”财政赤字“因而被认为对”发行国债“具有代表性。然而,分析员可能不知道,更多情况下,当该证据出现时,并没有出现同样结果,这种现象被称为”小样本法则(law of small number)“,指人们从很小的样本得出普遍规律。
这个问题在机器学习和数据分析中也非常常见,即所谓的”样本丰富度不足问题“,当我们用于训练的样本量过小,或者即使数量够大但是类型过少时,就容易得出不完整的概括性结论。
4、缺乏证据偏见(absence of evidence bias)
主要证据缺乏在情报分析中是常事,而不应该是”看不见的,就不用考虑“,分析员在主要证据缺乏时,一是应该分析主要证据的相关变量,在此基础上考虑修改假设,二是考虑主要证据缺乏是否是异常行为或不采取行动的指标。
5、对连续性的过度敏感(over-sensitivity to consistency bias)
证据的连续性是重要的,但有时却具有欺骗性。有时,可能因为分析员处理的信息来自同一个地方,根本不具有代表性。
6、指导偏见(anchoring)/锚定效应
一个人如果是以某个观点作为研究工作的起点,不论这个起点是自己的还是继承前任的,都不容易改变。
在多数情况下,固守思维模式是一种正确选择,概率总是偏爱维持现状。但是,情报分析就是要预测”变化“的情况,固守思维定势成为情报分析失误的重要原因。
从理论上来说,当分析员观察到与自己的思维模式不相符的数据或证据,并且这样的证据足够多时,就应当改变自己的观点。但实际上,分析员思维模式的调整往往会落后于现实变化。
在思维定势的影响下,在验证假设时会歪曲证据。分析员更容易注意到符合其思维的证据。
思维模式一旦形成,改变它所需要的反对信息要多于形成它所需要的证明信息。情报分析是日复一日的观察分析,这种”渐进式分析“最容易把信息吸收到思维定势中。
4. 面对认知偏见可能的应对之策
认知偏见是人认知过程本身的缺陷造成的,和人的感情、历史、利益无关。认知偏见无处不在,存在于情报分析的各个阶段,对情报分析的负面影响非常深。
几乎所有学者都承认,认知偏见不可能根除。思维模式是人认识事物的前提和途径,通过消除思维模式减少认知偏见的方法不可行。唯一可行的方法就是觉知它。这章我们简要讨论一下如何能认知到自己所处的认知偏见。
0x1:自我批评方法
美国情报部门要求分析员明确地说明假设前提,将思维模式或假设前提写出来至少有两个好处:
- 一方面只有写出来,人们才能意识到它,才能检查它是否成立
- 另一方面,由于人的观点发生变化的滞后性,当环境和条件变化后,人的观点或假设常常不能同时变化,只有写明了,才能看见假设与环境已经不相符了
0x2:他人审查方法
中情局除了强化分析员的自我批评意识外,也组织外部力量批评审查分析员的思维模式,主要方法有如下几种:
- 竞争性情报分析
- 外部审查
- 反派挑战者
- 战略红队