使用 Docker Compose 部署 ELK 日志收集系统实践

前言

在前端开发中,日志收集与管理一直是一个必不可少的工作。而随着技术的不断发展和进步,ELK(Elasticsearch + Logstash + Kibana)日志收集系统已成为了一个非常流行的解决方案。

本文将介绍如何使用 Docker Compose 快速搭建 ELK 日志收集系统,包括安装和配置 ELK,以及通过示例代码展示如何将日志发送到 ELK。

ELK 简介

ELK 是一个完整的日志收集和管理系统,由三个组件组成:Elasticsearch、Logstash 和 Kibana。它们分别负责数据存储、数据处理和数据展示。

  • Elasticsearch:基于 Lucene 搜索引擎,提供了一个 RESTful API,用于存储和查询数据。
  • Logstash:用于收集、解析和转换数据,将数据发送到 Elasticsearch 中。
  • Kibana:提供一个 Web 界面,用于查询和可视化 Elasticsearch 中的数据。

使用 Docker Compose 搭建 ELK 日志收集系统

Docker Compose 是一个用于定义和运行多个 Docker 容器的工具。使用 Docker Compose 可以方便地管理多个容器,包括容器之间的网络、数据卷等资源的管理。下面是使用 Docker Compose 搭建 ELK 日志收集系统的步骤。

1. 安装 Docker 和 Docker Compose

首先需要安装 Docker 和 Docker Compose,在这里不做过多介绍。

2. 编写 Docker Compose 配置文件

在项目根目录下创建一个 docker-compose.yml 文件,内容如下:

-------- -----

---------
  --------------
    ------ --------------------
    --------------- -------------
    ------------
      - --------------------------
    ------
      - -----------
      - -----------
    --------
      - ------------------------------------------------

  ---------
    ------ ---------------
    --------------- --------
    -----------
      - -------------
    --------
      - ------------------------------------------------
    ------------
      - ---------------------------------------------

  -------
    ------ -------------
    --------------- ------
    -----------
      - -------------
    ------
      - -----------
    ------------
      - ---------------------------------------------

--------
  -------------------

该配置文件中包含了三个服务:elasticsearch、logstash 和 kibana。

  • elasticsearch:使用 elasticsearch:7.10.2 镜像启动,绑定 9200 和 9300 端口,使用 elasticsearch-data 数据卷保存数据。
  • logstash:使用 logstash:7.10.2 镜像启动,绑定 ./logstash/pipeline 目录作为配置文件目录,依赖于 elasticsearch 服务,并将配置文件中的 ELASTICSEARCH_HOSTS 参数设置为 http://elasticsearch:9200。
  • kibana:使用 kibana:7.10.2 镜像启动,绑定 5601 端口,依赖于 elasticsearch 服务,并将配置文件中的 ELASTICSEARCH_HOSTS 参数设置为 http://elasticsearch:9200。

3. 编写 Logstash 配置文件

在项目根目录下创建一个 logstash/pipeline 目录,用于保存 Logstash 的配置文件。

在该目录下创建一个名为 logstash.conf 的文件,内容如下:

----- -
  --- -
    ---- -- ----
    ----- -- ----
  -
-

------ -
  ------------- -
    ----- -- --------------------
  -
-

该配置文件中定义了一个输入和一个输出。输入使用 TCP 协议监听 5000 端口,使用 json 编解码。输出将数据发送到 Elasticsearch 中。

4. 启动服务

在项目根目录下执行以下命令启动服务:

-------------- -- --

等待一段时间后,服务会启动完毕。可以通过访问 http://localhost:5601 来打开 Kibana 的界面。

如何将日志发送到 ELK

实现将日志发送到 ELK 上主要有两种方式:通过 Logstash 转发和直接发送到 Elasticsearch。下面分别介绍这两种方式。

通过 Logstash 转发

在应用中使用 Logstash 的监听器来将日志转发到 ELK。下面是一个示例代码:

----- -------- - -------------------------
----- ------ - -----------------------
  ----- ------------
  ----- -----
---

----------------- -- - ---- ------

该代码中使用了名为 node-logstash 的库,调用 createLogger 方法创建一个监听器。其中 host 和 port 分别为 Logstash 的地址和端口。调用 info 方法将日志信息发送到 Logstash。

直接发送到 Elasticsearch

在应用中使用 Elasticsearch 的 Node.js 客户端直接将日志发送到 Elasticsearch。下面是一个示例代码:

----- - ------ - - ----------------------------------
----- ------ - --- -------- ----- ----------------------- ---

--------------
  ------ -----------
  ----- -
    -------- ----- -- - ---- -----
  -
---

该代码中使用了名为 @elastic/elasticsearch 的库,调用 Client 构造函数创建一个 Elasticsearch 的客户端。其中 node 为 Elasticsearch 的地址。调用 index 方法将日志信息发送到 Elasticsearch 中。

总结

本文介绍了如何使用 Docker Compose 快速搭建 ELK 日志收集系统,并通过示例代码展示了如何将日志发送到 ELK 上。希望本文能对大家了解 ELK 日志收集系统有所帮助。

来源:JavaScript中文网 ,转载请联系管理员! 本文地址:https://www.javascriptcn.com/post/649cd89a48841e9894988f42


猜你喜欢

  • 如何在 Fastify 中实现请求缓存

    在前端开发中,请求缓存是一个常见而重要的功能,可以有效地缩短页面加载时间,减轻服务器负担,提升用户体验。本文将介绍如何在 Fastify 中实现请求缓存的方法,并给出精简而实用的示例代码,帮助读者更好...

    1 年前
  • 使用 ES8 中新增的 Object.getOwnPropertyDescriptors() 方法解决 JavaScript 面向对象编程中继承和类定义的问题

    JavaScript 作为一种面向对象编程语言,经常要用到继承和类定义。但是,JavaScript 的原型链继承方式不太符合我们平常在其他语言中所熟悉的继承方式。同时,JavaScript 也没有内置...

    1 年前
  • 如何使用 Node.js 进行全文搜索

    背景介绍 在现代的 Web 开发中,搜索功能是必不可少的。常见的网站如百度、Google、Bing 等都具有强大的搜索能力。在网站或后台系统中,甚至会涉及到对大量文档、日志等大量文本数据的存储和搜索。

    1 年前
  • PM2 与 keepalived 架高可用 Node.js 服务

    在现代互联网应用中,高可用性是至关重要的。为了保证服务的稳定性和可靠性,我们需要采取一些措施来防止服务出现单点故障和宕机。本文将介绍如何使用 PM2 和 keepalived 构建高可用的 Node....

    1 年前
  • 使用 Jest 和 Enzyme 测试 React Native 文本组件

    React Native 是一种跨平台的框架,它可以帮助开发者快速开发高质量的原生应用程序。在 React Native 中,文本组件是最基本的组件类型之一,因此测试这些组件非常重要。

    1 年前
  • 如何在 TailwindCSS 中实现浮动元素的响应式布局?

    如何在 TailwindCSS 中实现浮动元素的响应式布局? TailwindCSS 是一款强大的 CSS 框架,它提供了许多有用的类,可以让我们快速地编写 CSS 样式。

    1 年前
  • 使用 Serverless 构建完全无服务器的 Web 应用程序(教程)

    在现代 Web 开发中,构建无服务器的 Web 应用程序已经成为了一个趋势。Serverless 架构使用云计算服务平台,无需操作系统或者服务器,让您能够构建可扩展且高可用的应用程序。

    1 年前
  • Redux 插件开发:轻松扩展 Redux 功能

    随着前端技术的不断发展,Redux 作为一种流行的状态管理库已经成为了开发人员不可或缺的工具之一。然而,由于业务需求复杂性的不断增加,Redux 的默认功能有时可能不够满足我们的开发需求。

    1 年前
  • React Native 中如何使用 Fetch 进行网络请求

    随着移动互联网的发展,移动应用越来越普及,对前端技术有着越来越高的要求。React Native 作为一种跨平台的移动应用开发框架,受到了广泛的关注和使用。在 React Native 中,使用 Fe...

    1 年前
  • ES6 中的 Object 扩展技巧

    随着 web 技术的不断发展,前端开发也越来越重要。现代前端开发需要运用大量的 JavaScript 代码,而 ES6 中的 Object 扩展技巧可以帮助我们更高效地编写代码。

    1 年前
  • SASS 与 Gulp 的协作使用指南

    前言 前端开发工具越来越多样化,我们可以通过使用一些框架和工具来优化和简化我们的工作流程。其中,SASS 和 Gulp 是一种非常实用的组合,它们能够帮助我们加速开发过程,提高代码的可维护性和可扩展性...

    1 年前
  • Docker Compose 中配置 SSL 证书的方法

    在前端开发中,为了保证网站的安全性和数据传输的加密性,通常会使用 SSL 证书。当我们使用 Docker Compose 构建多个容器的应用时,如何配置 SSL 证书就成了一个重要的问题。

    1 年前
  • Koa2 实战:使用 koa-convert 兼容旧版本中间件

    在使用 Koa2 进行 Web 开发时,旧版本的中间件可能无法直接在 Koa2 中使用。此时,我们可以使用 koa-convert 进行中间件兼容处理,让旧版中间件也能在 Koa2 中运行。

    1 年前
  • Sequelize 数据迁移遇到的坑与解决方案

    在前端开发过程中,数据库是一个不可或缺的组件,而 Sequelize 是一种优秀的 ORM(对象关系映射)框架,我们通常使用它来操作数据库的表。在项目开发过程中,难免会涉及到数据库迁移的问题,本文将介...

    1 年前
  • 如何解决 Cypress 运行速度慢的问题

    1. 问题描述 Cypress 是一个非常强大的前端自动化测试工具,但是在测试用例规模较大时,Cypress 的运行速度可能会变得非常慢。 我们需要找到一些解决方案来改善 Cypress 的性能,确保...

    1 年前
  • Docker 和 Kubernetes 技术应用精讲

    前言 随着云计算时代的到来,容器技术越来越受到关注。容器化技术以其高效、轻量、可移植、可复制等特点,正在逐步改变传统的软件开发和部署方式。其中,Docker 和 Kubernetes 是当前最为流行的...

    1 年前
  • Router 解析:window.history 和 API 与默认行为

    在前端开发中,路由是一个非常重要的概念,它通常用于页面之间的跳转和状态管理等场景。其中,路由的实现需要解析 URL,然后根据解析结果执行相应的操作。在本文中,我们将讨论 Router 中如何解析 UR...

    1 年前
  • Chai expect 断言中如何判断一个变量是否为数值类型?

    在前端开发中,我们经常需要使用断言库来验证代码的正确性。Chai 是一个比较流行的 JavaScript 断言库,它提供了多种 API 用来满足我们的测试需求。其中, expect API 可以直接作...

    1 年前
  • 使用 Fastify 和 JSON Web Token 进行用户认证

    在 Web 应用中,用户认证是一个至关重要的功能。它用于确定用户的身份以及授权用户访问受保护的资源。在本文中,我们将介绍如何使用 Fastify 和 JSON Web Token 进行用户认证。

    1 年前
  • PM2 管理 Node.js 服务

    在 Node.js 后端开发中,为了确保 Node.js 应用的稳定运行,我们需要使用进程管理工具。PM2 是一款开源免费的 Node.js 进程管理工具,它可以方便地管理 Node.js 应用的状态...

    1 年前

相关推荐

    暂无文章