Docker + Elasticsearch: как отслеживать официальный образ Elasticsearch на Docker

1. Изменено развертывание для Elasticsearch и его инструментов мониторинга с использованием Dockerfile, Docker Compose или различных инструментов Orchestration.
2. Существует новый уровень для мониторинга: Метрики и события контейнеров, см.  Мониторинг событий и метрик Docker  и SPM для Docker.
3. Ведение журнала изменилось: контейнеры регистрируют журнал на консоли, и журналы должны быть получены из Docker-Daemon, а не получать их из файла журнала Elasticsearch. Проверьте наш пост на тему:  Инновационный Docker Log Management
4. Официальные изображения могут не предоставлять параметры для мониторинга (например, JMX). Однако официальный образ для Elasticsearch предоставляет возможность передавать параметры в среду выполнения Java. Мы будем использовать эту опцию для мониторинга Elasticsearch в этом посте. Вы также должны знать, что официальный образ Elasticsearch не содержит никаких плагинов, и коммерческий мониторинг от Elastic не может распространяться в этом образе по причинам лицензирования. Наш инструмент мониторинга —  SPM . Если вы не знакомы с SPM — но слышали о нем — или если вы используете Marvel, взгляните на  Marvel против SPM .

Далее я собираюсь продемонстрировать установку для мониторинга нескольких узлов Elasticsearch на одном хосте Docker. Окончательная установка будет предоставлять полный пакет мониторинга и ведения журнала :

• Подробные метрики приложений для Elasticsearch, развернутые в Docker
• Подробные метрики контейнера и события Docker  
• Централизованные журналы для всех контейнеров по SPM для Docker

Итак, давайте сначала определимся с одним из следующих вариантов мониторинга Elasticsearch на Docker. Вы можете:

1. Создайте свой собственный контейнер Elasticsearch с включенными компонентами мониторинга. Я не буду вдаваться в подробности об этом варианте сегодня; скорее я собираюсь сосредоточиться на официальной / доверенной сборке.
2. Используйте автономный агент, который запрашивает метрики из контейнера Elasticsearch. Для этого требуется настройка сетевых конфигураций JMX и Docker для монитора и Elasticsearch. Метрики, собираемые удаленными агентами, ограничены, и в контексте Docker запуск процесса внешнего мониторинга плюс процессы Elasticsearch потребляют больше ресурсов. И следующий вариант…
3. Внедрить агент мониторинга процесса SPM в Elasticsearch. Этот параметр имеет минимальное использование ресурсов и поддерживает расширенные функции мониторинга, такие как  отслеживание транзакций  и  AppMap .

Я решил реализовать Вариант № 3 в этом сообщении в блоге, потому что он обеспечивает лучшее понимание Elasticsearch. Это означает, что контейнеру Elasticsearch необходим доступ файловой системы к агенту мониторинга SPM. Sematext предоставляет клиент SPM (который включает агент мониторинга и отправителя метрик), предварительно установленный в образе Docker, называемый «Образ / контейнер клиента SPM» в следующих инструкциях и опубликованный в  Docker Hub как «sematext / spm-client» . Основной трюк заключается в том, чтобы подключить том из контейнера клиента SPM в контейнеры Elasticsearch для загрузки библиотеки мониторинга.

Давайте посмотрим на желаемую настройку и как туда добраться:

Настройка мониторинга для Elasticsearch на Docker

1) Вытащите образ Docker для клиента SPM

Вот  образ клиента SPM  — важно знать об этом образе то, что он предоставляет VOLUME (/ opt / spm), который можно монтировать из контейнера Elasticsearch. Загрузить изображение SPM-клиента:

docker pull sematext/spm-client

2) Сконфигурировать и запустить контейнер SPM-Client

Маркер SPM является уникальным идентификатором для отслеживаемых приложений. Если вы еще не создали приложение SPM для Elasticsearch,  создайте его здесь.

# Save the SPM Token in an Environment Variable
export SPM_TOKEN=4feb144c-4da8-xxxx-xxxx-b0b8e06e743a
# Choose name for the Elasticsearch nodes
export ES1=ES_1
export ES2=ES_2
# Create SPM Config String - let's configure 2 nodes in this example
export SPM_CONFIG="${SPM_TOKEN} es javaagent jvmname:${ES1}"
export SPM_CONFIG="${SPM_CONFIG};${SPM_TOKEN} es javaagent jvmname:${ES2}"
# Start SPM-Client with the defined configurations
docker run -d --name spm-client -h spm-client -e SPM_CONFIG="$SPM_CONFIG" sematext/spm-client

# start first node
export ES_JAVA_OPTS_1="-Dcom.sun.management.jmxremote -javaagent:/opt/spm/spm-monitor/lib/spm-monitor-es.jar=${SPM_TOKEN}::${ES1} -Des.node.name=${ES1}"
docker run --name $ES1 -h $ES1 -e ES_JAVA_OPTS -p 9200:9200 -d --volumes-from spm-client elasticsearch
# start second node
export ES_JAVA_OPTS_2="-Dcom.sun.management.jmxremote -javaagent:/opt/spm/spm-monitor/lib/spm-monitor-es.jar=${SPM_TOKEN}::${ES2} -Des.node.name=${ES2}"
docker run --name $ES2 -h $ES2 -e ES_JAVA_OPTS -d --volumes-from spm-client elasticsearch

docker run -d  --name spm-agent --restart=always -e SPM_TOKEN=SPM_DOCKER_APP_TOKEN -e LOGSENE_TOKEN=LOGSENE_APP_TOKEN