File tree 3 files changed +62
-1
lines changed
3 files changed +62
-1
lines changed Original file line number Diff line number Diff line change 6
6
7
7
本系列知识出自中华石杉,我对这部分知识做了一个系统的整理,方便学习查阅。
8
8
9
+ 一点小建议:学习本系列知识之前,如果你完全没接触过 ` MQ ` 、` ES ` 、` Redis ` 、` Dubbo ` 、` Hystrix ` 等,那么我建议你可以先在网上搜一下每一块知识的快速入门,玩一下入门 Demo,然后再开始每一块知识的学习。这样效果更好噢~
10
+
9
11
## 高并发架构
10
12
11
13
### [ 消息队列] ( /docs/high-concurrency/mq-interview.md )
17
19
- [ 如何解决消息队列的延时以及过期失效问题?消息队列满了以后该怎么处理?有几百万消息持续积压几小时,说说怎么解决?] ( /docs/high-concurrency/mq-time-delay-and-expired-failure.md )
18
20
- [ 如果让你写一个消息队列,该如何进行架构设计啊?说一下你的思路。] ( /docs/high-concurrency/mq-design.md )
19
21
20
- ### 搜索引擎
22
+ ### [ 搜索引擎] ( /docs/high-concurrency/es-introduction.md )
21
23
- [ es 的分布式架构原理能说一下么(es 是如何实现分布式的啊)?] ( /docs/high-concurrency/es-architecture.md )
22
24
- [ es 写入数据的工作原理是什么啊?es 查询数据的工作原理是什么啊?底层的 lucene 介绍一下呗?倒排索引了解吗?] ( /docs/high-concurrency/es-write-query-search.md )
23
25
- [ es 在数据量很大的情况下(数十亿级别)如何提高查询效率啊?] ( /docs/high-concurrency/es-optimizing-query-performance.md )
Original file line number Diff line number Diff line change
1
+ ## lucene 和 es 的前世今生
2
+ lucene 是最先进、功能最强大的搜索库。如果直接基于 lucene 开发,非常复杂,即便写一些简单的功能,也要写大量的 Java 代码,需要深入理解原理。
3
+
4
+ elasticsearch 基于lucene,隐藏了 lucene 的复杂性,提供了简单易用的 restful api / Java api接口(另外还有其他语言的 api接口)。
5
+
6
+ - 分布式的文档存储引擎
7
+ - 分布式的搜索引擎和分析引擎
8
+ - 分布式,支持 PB 级数据
9
+
10
+ ## es 的核心概念
11
+ ### Near Realtime
12
+ 近实时,有两层意思:
13
+
14
+ - 从写入数据到数据可以被搜索到有一个小延迟(大概是 1s)
15
+ - 基于 es 执行搜索和分析可以达到秒级
16
+
17
+ ### Cluster 集群
18
+ 集群包含多个节点,每个节点属于哪个集群都是通过一个配置来决定的,对于中小型应用来说,刚开始一个集群就一个节点很正常。
19
+
20
+ ### Node 节点
21
+ Node 是集群中的一个节点,节点也有一个名称,默认是随机分配的。默认节点会去加入一个名称为 ` elasticsearch ` 的集群。如果直接启动一堆节点,那么它们会自动组成一个 elasticsearch 集群,当然一个节点也可以组成 elasticsearch 集群。
22
+
23
+ ### Document & field
24
+ 文档是 es 中最小的数据单元,一个 document 可以是一条客户数据、一条商品分类数据、一条订单数据,通常用 json 数据结构来表示。每个 index 下的 type,都可以存储多条 document。一个 document 里面有多个 field,每个 field 就是一个数据字段。
25
+
26
+ ``` json
27
+ {
28
+ "product_id" : " 1" ,
29
+ "product_name" : " iPhone X" ,
30
+ "product_desc" : " 苹果手机" ,
31
+ "category_id" : " 2" ,
32
+ "category_name" : " 电子产品"
33
+ }
34
+ ```
35
+
36
+ ### Index
37
+ 索引包含了一堆有相似结构的文档数据,比如商品索引。一个索引包含很多 document,一个索引就代表了一类相似或者相同的 ducument。
38
+
39
+ ### Type
40
+ 类型,每个索引里可以有一个或者多个 type,type 是 index 的一个逻辑分类,比如商品 index 下有多个 type:日化商品 type、电器商品 type、生鲜商品 type。每个 type 下的 document 的 field 可能不太一样。
41
+
42
+ ### shard
43
+ 单台机器无法存储大量数据,es 可以将一个索引中的数据切分为多个 shard,分布在多台服务器上存储。有了 shard 就可以横向扩展,存储更多数据,让搜索和分析等操作分布到多台服务器上去执行,提升吞吐量和性能。每个 shard 都是一个lucene index。
44
+
45
+ ### replica
46
+ 任何一个服务器随时可能故障或宕机,此时 shard 可能就会丢失,因此可以为每个 shard 创建多个 replica 副本。replica 可以在 shard 故障时提供备用服务,保证数据不丢失,多个 replica 还可以提升搜索操作的吞吐量和性能。primary shard(建立索引时一次设置,不能修改,默认 5 个),replica shard(随时修改数量,默认 1 个),默认每个索引 10 个 shard,5 个 primary shard,5个 replica shard,最小的高可用配置,是 2 台服务器。
47
+
48
+ 这么说吧,shard 分为 primary shard 和 replica shard。而 primary shard 一般简称为 shard,而 replica shard 一般简称为 replica。
49
+
50
+ ![ es-cluster-0] ( /img/es-cluster-0.png )
51
+
52
+ ## es 核心概念 vs. db 核心概念
53
+ | es | db |
54
+ | ---| ---|
55
+ | index | 数据库 |
56
+ | type | 数据表 |
57
+ | docuemnt | 一行数据 |
58
+
59
+ 以上是一个简单的类比。
You can’t perform that action at this time.
0 commit comments