【ElasticSearch学习】之一图读懂文档索引全过程
ES索引过程详解：
1.客户端发送索引请求。
客户端向ES节点发送索引请求，以RestClient客户端发起请求为例：
ES提供了Java High Level REST Client，用户可以通过RestClient发送请求：
RestClient restClient = RestClient.builder(
new HttpHost("127.0.0.1", 9200, "http"),
new HttpHost("127.0.0.2", 9200, "http")
).build();
其中127.0.0.1，127.0.0.1是ES中的节点，ES在接受请求时，充当coordinate node节点的角色，如果设置有专用coorinate node则应该将接受客户端请求的节点设置为该专用节点，负责请求的接受和转发。在RestClient中使用round-robin轮询算法，进行发送节点的选取。
2.参数检查。
对请求中的参数进行检查，检查参数是否合法，不合法的参数直接返回失败给客户端。
3.数据预处理
如果请求指定了pipeline参数，则对数据进行预处理，数据预处理的节点为Ingest Node，如果接受请求的节点不具有数据处理能力，则转发给其他能处理的节点。
在Ingest Node上有定义好的处理数据的Pipeline，Pipeline中有一组定义好的Processor，每个Processor分别具有不同的处理功能，ES提供了一些内置的Processor，如：split、join、set 、script等，同时也支持通过插件的方式，实现自定义的Processor。数据经过Pipeline处理完毕后继续进行下一步操作。
4.判断索引是否存在
判断索引是否存在。如果索引不存在，则判断是否能够自动创建，如果节点支持Dynamic Mapping，写入文档时，如果索引不存在，会自动创建索引，并会根据索引文档信息推算字段的类型，但并不能完全推算正确。
配置：Dynamic：true时，文档有新增字段的时候，索引的mapping也会同步更新。
Dynamic：false时，索引的mapping不会被更新，新增字段无法被索引到。
Dynamic：strict时，索引有新增字段时，将会报错。
注：生产环境尽量避免使用Dynamic mapping，以免过多字段导致cluster state占用过多。
5.创建索引
创建索引请求被发送到Master节点，由Master节点负责进行索引的创建，索引创建成功后，Master节点会更新集群状态clusterstate，更新完毕后将索引创建的情况返回给Coordinate节点，收到Master节点返回的所有创建索引的响应后，进入下一流程。
6.请求预处理
shard_num = hash(_routing) % num_primary_shards
routing_partition_size参数，shard_num = (hash(_routing) + hash(_id) % routing_partition_size) % num_primary_shards
Lucene倒排索引由单词词典及倒排列表组成：
-
-
- 单词词典：记录所有文档的单词，记录单词到倒排列表的关系，数据量比较大，一般采用B+树，哈希拉链法实现。
- 倒排列表：记录单词对应的文档集合，由倒排索引项组成。
-
倒排索引项结构如表所示：
其中，文档ID：记录单词所在文档的ID；词频：记录单词在文档中出现的次数；位置：记录单词在文档中的位置；偏移：记录单词的开始位置，结束位置。
5）每隔一定的时间（默认30分钟），ES会调用Flush操作，Flush操作会调用Refresh将Index Buffer清空；然后调用fsync将缓存中的Segments写入磁盘；随后清空Transaction Log。同时当Transaction Log空间（默认512M）后也会触发Flush操作。
9.副本分片索引文档
当主分片完成索引操作后，会循环处理要写的所有副本分片，向副本分片所在的节点发送请求。副本分片执行和主分片一样的文档写入流程，然后返回写入结果给主分片节点。
10.请求返回
主分片收到副本分片的响应后，会执行finish()操作，将收到的响应信息返回给Coordinate节点，告知Coordinate节点文档写入分片成功、失败的情况；coordinate节点收到响应后，将索引执行情况返回给客户端。当文档写入失败时，主分片节点会向Master节点返送shardFieled请求，因为主副本分片未同步，Master会更新集群的状态，将写失败的副本分片从in-sync-allocation中去除；同时在路由表中将该分片的状态改为unassigned，即未分配状态。