ElasticSearch介绍+使用
ElasticSearch的介绍、倒排索引、ELK技术栈简介、HTTP API中使用ES、Java中封装使用ES
ElasticSearch
1.背景
ElasticSearch的最明显的优势在于其分布式特性,能够扩展到上百台服务器,极大地提高了服务器的容错率。在大数据时代背景下,ElasticSearch与传统的数据库相比较,能够应对大规模的并发搜索请求,同时提供了包括布尔查询、短语查询、模糊匹配、排序等强大便捷的功能。
ElasticSearch是基于lucene实现的,而lucene是一个只限于Java语言的搜索引擎类库,属于Apache公司的1999年开发的项目。而ElasticSearch在lucene的基础上支持分布式,并且提供了Restful接口,减少了整合进项目的复杂度,同时也支持任何语言调用,使得其成为最流行的搜索引擎类库。
总结下来,ElasticSearch就是一个开源的分布式搜索引擎,可以用来实现搜索、日志统计、分析、系统监控等功能,同时具有很好地扩展性,且通过RestFulAPI简化了其使用。
相较于MySQL来说,ElasticSearch擅长海量数据的搜索、分析、计算,但在事务操作的安全和一致方面来说不如MySQL,在使用时往往采取二者结合使用,如对安全性要求较高的操作使用MySQL,而对于查询性能要求较高的操作采用ElasticSearch。
2.倒排索引
ElasticSearch之所以能够高效率地实现模糊查询、词组查询等功能,是由于其采用了一种倒排索引的模式。所谓倒排索引其实是相较于MySQL中的正向索引而言的。
select * from student where name like %张三%;
对于以上的SQL来说,由于采用了%前缀模糊查询,因此必定会导致全表扫描,在数据量大的情况下效率会非常低下。为了解决这种问题,ElasticSearch采用的是倒排索引。
了解倒排索引前,需要知道在ElasticSearch中有几个关键的概念,类比于数据库而言,ElasticSearch中有索引(indices)、类型(types)、文档(documents)、字段(fields),对应于数据库中的数据库(database)、表(tables)、行(rows)、列(columns)。其实在ElasticSearch中,面向的是Json文档,其字段就是Json中的键,而文档内容就是其值,另外,在ElasticSearch中的请求语句是Json风格的,被称为DSL。
例如:
{
"id":"1",
"姓名":"张大三",
"专业":"计算机软件工程",
"绩点":"4.0"
},
{
"id":"2",
"姓名":"李小四",
"专业":"电子与计算机工程",
"绩点":"3.5"
},
{
"id":"3",
"姓名":"王小五",
"学号":"电子与自动化控制",
"绩点":"3.0"
}
姓名 | 专业 | 绩点 | |
---|---|---|---|
1 | 张大三 | 计算机软件工程 | 4.0 |
2 | 李小四 | 电子与计算机工程 | 3.5 |
3 | 王小五 | 电子与自动化控制 | 3.0 |
不同类型的文档可以组织在一起成为一个索引,如商品索引、学生索引、用户索引等。
倒排索引会对每一个文档的数据利用算法进行分词,得到一个个词条,然后根据词条以及其位置信息创建一个索引。
词条 | 文档id |
---|---|
计算机 | 1,2 |
软件 | 1 |
工程 | 1,2 |
电子 | 2,3 |
自动化控制 | 3 |
这样当用户输入如“计算机软件”进行搜索的时候就可以根据分词查找计算机和软件,去词条列表中查询到文档id,再根据文档id去原索引中查询得到1,2两条数据。这种根据词条找文档的过程就体现了倒排索引的特点。
注意:由倒排索引的原理不难看出,倒排索引提高模糊查询的办法是预先对已有的数据进行了分词处理,然后形成了一个词条的索引,相当于将原本查询所需的时间提前到了增加数据时处理的时候,因此倒排索引不适合高频动态数据,且对于数值型或者范围查询而言更擅长处理文本查询。
3.ELK
ELK是ElasticSearch技术栈的三大开源框架的首字母大写简称,分别是ElasticSearch、Logstash、Kibana,三者也被并称为ElasticStack。
Logstash是中央数据流引擎,主要功能是从各种数据源中收集、转换并将数据传送到目标存储中,比如 Elasticsearch 或者文件系统 。其典型使用场景有日志管理、事件数据处理、数据ETL。
Kibana 是一个开源的数据可视化与探索工具,专为与 Elasticsearch 配合使用而设计。它提供了强大的图形界面,用户可以通过 Kibana 从 Elasticsearch 中查询、分析和可视化数据。Kibana 是 Elastic Stack (ELK Stack) 的重要组成部分,主要用于展示和监控存储在 Elasticsearch 中的数据。
ELK的代表性作用就是日志分析和收集,除此之外也支持数据分析等功能。
4.Mapping
在ES中,Mapping(映射)定义了字段的结构和类型,决定了ES如何存储和索引文档中的数据。
Mapping常见的映射属性有:
1.type
定义字段的类型。常见类型有字符串、数字、布尔值、日期等。
2.index
定义字段是否需要被索引。index:true表示字段可以被搜索,index:false表示该字段不会被索引,不能用于搜索。
3.format
对于日期字段,format属性定义了日期的格式,例如format:"yyyy-MM-dd HH:mm:ss"。
4.analyzer
用于文本字段,定义文本分词器。例如,可以使用标准分词器、简单分词器或者自定义分词器。
5.field name
定义字段的名称。通常ES会更具文档中的字段名称自动生成映射,也可以自定义字段名。
6.muti-fields
定义一个字段可以以多种方式索引。例如,一个文本字段可以既用于全文搜索(分词),又用于精准匹配(不分词)。
Mapping常见的数据类型(type)有:
1.文本类型
text:用于存储需要全文搜索的文本。会进行分词。
keyword:用于存储不分词的精确值,比如标签、状态、URL等。
2.数字类型
integer:整数类型
long:长整型数值
float:单精度浮点数
double:双精度浮点数
3.日期类型
date:存储日期和时间数据,支持多种格式。
4.布尔类型
boolean:true或false。
5.二进制类型
binary:存储二进制数据,通常用于需要存储原始数据但是不用于搜索的情况。
6.对象类型
object:用于嵌套的JSON对象,允许在文档内存储复杂的嵌套结构。
7.数组类型
array:在ElasticSearch中,任何字段都可以是数组,数组的每个元素都具有相同的数据类型。
例如:
{
"mappings": {
"properties": {
"name": {
"type": "text",
"analyzer": "standard"
},
"age": {
"type": "integer"
},
"birthdate": {
"type": "date",
"format": "yyyy-MM-dd"
},
"is_active": {
"type": "boolean"
}
}
}
}
5.索引库的CRUD
创建索引及映射
PUT /{my_index}
{
"settings":{
"number_of_shards":3,
"number_of_replicas":2
},
"mappings":{
"properties":{
"name":{
"type":"text"
},
"age":{
"type":"integer"
},
"email":{
"type":"keyword"
}
}
}
}
这里的settings是配置索引的分片数和副本数。比如这里设置了3个主分片和2个副本分片。
查询
GET /{my_index}
修改
索引库一旦创建,就无法修改mapping,因为数据结构改变就需要重新创建倒排索引,耗费巨大。但是可以添加新的字段到mapping中。
PUT /{my_index}/_mapping
{
"properties":{
"new_field":{
"type":"integer"
}
}
}
删除
DELETE /{my_index}
6.文档的CRUD
新增文档
#POST /{my_index}/_doc/{id}
POST /student/_doc/1
查询文档
#GET /{my_index}/_doc/{id}
GET /student/_doc/1
删除文档
#DELETE /{my_index}/_doc/{id}
DELETE /my_index/_doc/1
修改文档
#全量修改:覆盖原来的文档
PUT /{my_index}/_doc/{id}
{
"field1":"value1",
"field2":"value2",
// ...
}
#增量修改:只修改指定id匹配的文档中的部分字段
POST /{my_index}/_update/{id}
{
"doc":{
"field":"new_value"
}
}
7.在Java中封装使用
使用ElasticSearch客户端(Java为例)
依赖:
<dependencies>
<!-- Elasticsearch Client -->
<dependency>
<groupId>org.elasticsearch.client</groupId>
<artifactId>elasticsearch-rest-high-level-client</artifactId>
<version>7.10.2</version>
</dependency>
<!-- Jackson for JSON Parsing -->
<dependency>
<groupId>com.fasterxml.jackson.core</groupId>
<artifactId>jackson-databind</artifactId>
<version>2.12.3</version>
</dependency>
<!-- Apache HttpComponents for Elasticsearch -->
<dependency>
<groupId>org.apache.httpcomponents</groupId>
<artifactId>httpclient</artifactId>
<version>4.5.13</version>
</dependency>
</dependencies>
封装思路:使用Java操作ES时需要创建ES客户端和索引请求,如果每次执行CRUD操作时都要创建那么会导致代码冗余,且频繁创建和关闭客户端连接会降低性能。所以通常的做法是将客户端的初始化和管理独立出来以确保高效、复用和易维护。这里采用单例模式将客户端封装为一个单例类,确保在整个声明周期中复用同一个客户端实例。
import org.elasticsearch.client.RestHighLevelClient;
import org.elasticsearch.client.RestClient;
import org.apache.http.HttpHost;
public class ElasticsearchClientSingleton {
private static RestHighLevelClient client = null;
private ElasticsearchClientSingleton() { }
public static RestHighLevelClient getClient() {
if (client == null) {
synchronized (ElasticsearchClientSingleton.class) {
if (client == null) {
client = new RestHighLevelClient(
RestClient.builder(
new HttpHost("localhost", 9200, "http")
)
);
}
}
}
return client;
}
public static void closeClient() throws IOException {
if (client != null) {
client.close();
}
}
}
然后将索引创建放在应用启动时执行一次,避免每次CRUD操作都重复创建索引:
import org.elasticsearch.client.RequestOptions;
import org.elasticsearch.client.indices.CreateIndexRequest;
import org.elasticsearch.client.indices.GetIndexRequest;
import org.elasticsearch.client.RestHighLevelClient;
import org.elasticsearch.common.settings.Settings;
import com.fasterxml.jackson.databind.ObjectMapper;
import com.fasterxml.jackson.databind.node.ObjectNode;
public class ElasticsearchIndexManager {
public static void createIndexIfNotExists(String indexName) throws IOException {
RestHighLevelClient client = ElasticsearchClientSingleton.getClient();
// 检查索引是否存在
GetIndexRequest getIndexRequest = new GetIndexRequest(indexName);
boolean exists = client.indices().exists(getIndexRequest, RequestOptions.DEFAULT);
if (!exists) {
// 如果索引不存在,则创建索引
CreateIndexRequest createIndexRequest = new CreateIndexRequest(indexName);
createIndexRequest.settings(Settings.builder()
.put("index.number_of_shards", 3)
.put("index.number_of_replicas", 2)
);
// 使用 Jackson 构建 mapping
ObjectMapper mapper = new ObjectMapper();
ObjectNode mapping = mapper.createObjectNode();
ObjectNode properties = mapping.putObject("properties");
properties.putObject("name").put("type", "text");
properties.putObject("age").put("type", "integer");
properties.putObject("email").put("type", "keyword");
createIndexRequest.mapping(mapping.toString(), XContentType.JSON);
client.indices().create(createIndexRequest, RequestOptions.DEFAULT);
System.out.println("索引创建成功!");
} else {
System.out.println("索引已存在!");
}
}
}
由于将CRUD操作与索引和客户端管理分离,只需要专注于数据的操作,客户端和索引的创建在应用启动时已经完成:
public class ElasticsearchCrudOperations {
// 创建文档
public static void createDocument(String indexName, String documentId, String jsonString) throws IOException {
RestHighLevelClient client = ElasticsearchClientSingleton.getClient();
// 确保索引存在
ElasticsearchIndexManager.createIndexIfNotExists(indexName);
IndexRequest indexRequest = new IndexRequest(indexName)
.id(documentId)
.source(jsonString, XContentType.JSON);
client.index(indexRequest, RequestOptions.DEFAULT);
System.out.println("文档创建成功!");
}
// 读取文档
public static void getDocument(String indexName, String documentId) throws IOException {
RestHighLevelClient client = ElasticsearchClientSingleton.getClient();
// 确保索引存在
ElasticsearchIndexManager.createIndexIfNotExists(indexName);
GetRequest getRequest = new GetRequest(indexName, documentId);
GetResponse getResponse = client.get(getRequest, RequestOptions.DEFAULT);
if (getResponse.isExists()) {
String sourceAsString = getResponse.getSourceAsString();
System.out.println("文档内容: " + sourceAsString);
} else {
System.out.println("文档不存在!");
}
}
// 更新文档
public static void updateDocument(String indexName, String documentId, String jsonString) throws IOException {
RestHighLevelClient client = ElasticsearchClientSingleton.getClient();
// 确保索引存在
ElasticsearchIndexManager.createIndexIfNotExists(indexName);
UpdateRequest updateRequest = new UpdateRequest(indexName, documentId)
.doc(jsonString, XContentType.JSON);
client.update(updateRequest, RequestOptions.DEFAULT);
System.out.println("文档更新成功!");
}
// 删除文档
public static void deleteDocument(String indexName, String documentId) throws IOException {
RestHighLevelClient client = ElasticsearchClientSingleton.getClient();
// 确保索引存在
ElasticsearchIndexManager.createIndexIfNotExists(indexName);
DeleteRequest deleteRequest = new DeleteRequest(indexName, documentId);
client.delete(deleteRequest, RequestOptions.DEFAULT);
System.out.println("文档删除成功!");
}
}
更多推荐
所有评论(0)