ELK速查表入门到精通,这份后端学习路线请收好

2026-08-05 来源: 点击量

这是一份为您整理的 ELK (Elastic Stack) 速查表,涵盖了核心组件、生产架构、常用查询语法及性能优化等关键信息,方便您快速查阅。

ELK速查表入门到精通,这份后端学习路线请收好


一、核心组件速查

表格

下载为表格

导出为图片

组件核心作用生产环境关键点

Elasticsearch分布式存储与搜索引擎集群部署、合理设置分片与副本、JVM内存优化

Logstash日志处理与清洗管道仅做数据处理,不直接采集日志,避免资源浪费

Kibana可视化与查询界面配置权限控制、创建监控面板、设置告警规则

Filebeat轻量级日志采集器部署在应用服务器,资源占用极低,是生产环境首选

二、生产架构速查

标准数据流:Java应用 → Filebeat (采集) → Logstash (清洗) → Elasticsearch (存储) → Kibana (展示)

小型/测试环境:单节点部署所有组件,架构为 Java服务 → Filebeat → ES → Kibana。

生产高可用架构:

Filebeat: 每台应用服务器以 Sidecar 模式部署。

Logstash: 部署 2-3 个节点,组成集群处理日志。

Elasticsearch: 至少 3 个节点,分离主节点与数据节点。

Kibana: 部署 2 个节点,前置负载均衡器。

 三、KQL 查询语法速查

KQL (Kibana Query Language) 是 Kibana Discover 页面的默认查询语言,语法简洁高效。

表格

下载为表格

导出为图片

查询需求KQL 语法示例说明

精确匹配status: 200查询字段 status 值为 200 的文档

模糊搜索message: "error timeout"在 message 字段中搜索包含 "error timeout" 的文档

多条件 ANDstatus: 500 and service: "order"同时满足两个条件

多条件 ORstatus: 404 or status: 502满足任一条件

排除条件 NOTnot status: 200排除 status 为 200 的文档

通配符user.name: admin*匹配 user.name 以 "admin" 开头的文档

嵌套字段user.name.keyword: "john_doe"对 keyword 类型字段进行精确匹配

 四、性能优化速查

字段类型选择

text: 用于全文检索,会被分词。适用于日志内容 (message)。

keyword: 用于精确匹配、聚合和排序,不分词。适用于状态码、IP、用户名、TraceID 等。

索引生命周期管理 (ILM)

为日志索引配置 ILM 策略,自动执行 滚动 (Rollover)、收缩 (Shrink)、删除 (Delete) 操作,避免磁盘爆满。

写入优化

使用 Bulk API 批量写入,避免单条写入。

在 Logstash 中合理配置 pipeline.workers 和 pipeline.batch.size,根据 CPU 和内存调整。

查询优化

查询时指定 时间范围,避免全索引扫描。

优先使用 keyword 字段进行过滤和聚合,避免对 text 字段进行聚合。

避免使用高开销的查询,如 wildcard 或 regexp,除非必要。

五、常见问题排查速查

表格

下载为表格

导出为图片

问题现象可能原因排查方向

日志丢失1. Filebeat 采集端问题

2. Logstash 处理瓶颈

3. ES 写入拒绝1. 检查 Filebeat 日志和注册文件

2. 检查 Logstash 队列是否堆积

3. 检查 ES 集群状态和磁盘水位

查询很慢1. 查询范围过大

2. 对 text 字段聚合

3. 分片过多/过少1. 缩小时间范围

2. 改用 keyword 字段

3. 检查分片策略,考虑 Reindex

CPU/内存高1. 查询过于复杂

2. 写入压力过大

3. JVM 配置不合理1. 优化查询语句

2. 检查并调整 Logstash 批处理参数

3. 确保 ES JVM 堆内存不超过物理内存 50%

磁盘爆满1. 未配置 ILM

2. 日志量突增1. 立即配置或删除旧索引

2. 分析日志来源,考虑采样或过滤

相关文章
  • RBAC推荐入门到精通,这份后端学习路线请收好
    RBAC推荐入门到精通,这份后端学习路线请收好

    RBAC 从入门到精通:后端权限学习路线RBAC 的核心不是“多写几张表”,而是把用户、角色、权限解耦:用户不直接绑定权限,而是通过角色获得权限。这样在人员变动、岗位调整、权限回收时,系统不会迅速失控。1. 先搞懂 RBAC 在解决什么问题没有 RBAC 时,用户和...

  • RocketMQ总结详解:大厂面试必问的核心知识点
    RocketMQ总结详解:大厂面试必问的核心知识点

    RocketMQ 面试核心知识点总结RocketMQ 的核心不是背 API,而是理解它如何在高吞吐、高可靠、顺序性、事务一致性之间做取舍。下面按面试高频链路整理。1. 架构与四大组件NameServer:轻量路由中心,无状态、节点间不通信,Broker 定时上报路由,Producer/Consumer 从 NameServer...

  • Beego精选入门到精通,这份后端学习路线请收好
    Beego精选入门到精通,这份后端学习路线请收好

    Beego 精选入门到精通,这份后端学习路线请收好Beego 是国内 Go 生态成熟全栈 MVC 框架,适合快速开发 Web 门户、CMS、管理后台、RESTful API,内置 ORM、缓存、日志、配置、监控、定时任务,搭配 bee 脚手架,上手快、开箱模块齐全,是 Go Web 入门、企业内部系统开发的优...

  • Python缓存方案常见问题及解决方案大全
    Python缓存方案常见问题及解决方案大全

    Python 缓存方案常见问题及解决方案大全缓存不是“加一层就变快”,而是命中率、一致性、内存、并发、过期策略之间的平衡。下面按问题类型整理,适合排查和面试复盘。一、工具选错:lru_cache 并不适合所有场景问题functools.lru_cache 只能缓存函数返回值,参数必...

  • 一文搞懂JWT手册,别再停留在会用层面
    一文搞懂JWT手册,别再停留在会用层面

    JWT 最常见的误区,是把它当成“加密过的安全令牌”。实际上 JWT 只是自包含、可验签、URL 安全的声明载体;它的 Payload 只是 Base64URL 编码,任何人都能解码,所以安全重点不在“藏数据”,而在“签名、过期、存储、吊销和算法控制”。 一、JWT 的三段结构JWT 由三部...

  • Spring Cloud常见问题及解决方案大全
    Spring Cloud常见问题及解决方案大全

    Spring Cloud 常见问题及解决方案大全Spring Cloud 微服务项目里,问题通常集中在六类:服务注册发现、服务调用、配置中心、网关路由、熔断限流、分布式事务与链路追踪。下面按故障场景整理,方便排查。 一、服务注册与发现失败常见现象Nacos / Eureka 控制台看不到服...