일 | 월 | 화 | 수 | 목 | 금 | 토 |
---|---|---|---|---|---|---|
1 | 2 | |||||
3 | 4 | 5 | 6 | 7 | 8 | 9 |
10 | 11 | 12 | 13 | 14 | 15 | 16 |
17 | 18 | 19 | 20 | 21 | 22 | 23 |
24 | 25 | 26 | 27 | 28 | 29 | 30 |
31 |
- 데이터엔지니어
- 코테
- 의존성주입
- Observability
- Monitoring
- 쿠버네티스
- OS
- it
- 대규모시스템
- k8s
- 제어의역전
- Pub/Sub
- DevOps
- Kafka
- 커널
- docker
- 엘라스틱서치
- 개발자
- elasticsearch
- tech
- SRE
- 개발
- Kubernetes
- fork()
- 스프링빈
- Data Engineering
- 시스템호출
- etcd
- 인프라
- 운영체제
- Today
- Total
목록elasticsearch (6)
모래성 말고 철옹성
Java Agent애플리케이션의 성능을 자동으로 측정예외와 오류 추적대표적인 프레임워크 기본적으로 지원간단한 API를 제공하여 어떤 애플리케이션이든 계측 가능Java Agent의 작동 방식지원되는 기술을 자동으로 계측하여 이벤트를 기록에이전트는 바이트코드 계측을 수행이벤트 전후에 코드를 안전하게 삽입하여 실행 시간, 메타데이터, HTTP 정보를 측정코드를 다시 컴파일 수행할 필요 없음이벤트는 트랜잭션과 스팬 형태로 Elastic APM에 전송Node.js Agent성능 메트릭과 오류를 자동으로 수집대표적인 프레임워크와 라우터를 기본적으로 지원간단한 API를 제공하여 어떤 애플리케이션이든 계측 가능Node.js Agent의 작동 방식지원되는 기술을 자동으로 계측하여 이벤트를 기록모듈이 로드될 때 패치비동기..

Elastic APM 이란Elastic 플랫폼 위에 구축된 APM(Application Performance Monitoring) 시스템소프트웨어 서비스를 실시간으로 모니터링할 수 있게 함응답 시간에 대한 자세한 성능 정보를 수집예: 데이터베이스 쿼리, 캐시 호출, HTTP 요청 등처리되지 않은 오류 및 예외를 자동으로 수집오류는 주로 stacktrace를 기반으로 그룹화새로운 오류가 발생했을 때 쉽게 식별하고, 발생 횟수도 파악할 수 있음호스트 수준의 기본 메트릭과 에이전트 별 메트릭 모니터링도 지원Elastic APM 의 구성요소Elastic APM 은 네 가지 요소로 구성APM agentsElastic APM integrationElasticsearchKibana일반적으로 이 네 가지 구성 요소로 ..

Log 란?로그(log)는 시스템, 애플리케이션, 장치, 또는 심지어 사람의 활동을 기록한 것근본적으로는 사실 timestamp + data로그의 생애 주기 (ELK Stack)Elastic Agent가 로그를 수집하고 Elasticsearch 클러스터로 전송Hot-Warm 아키텍처로 로그 수명 주기 관리처음엔 Hot 노드에 저장시간이 지나면 Warm 노드로 이동이후에는 삭제되거나 Cold/Frozen 티어로 이동 가능로그가 클러스터 내에 있는 동안에는 어느 티어에 있든지 검색 및 분석이 가능Timestamp에 대해타임스탬프 처리의 어려움 존재다양한 포맷 존재시간대 처리 복잡Elasticsearch 권장 포맷기본적으로 ISO 8601 형식여러 시간 포맷도 설정을 통해 수집 가능ISO 8601의 장점명확하..
Elastic Agent 란?에이전트(Agent)는 Integrations를 호스트 서버에 전송정책(Policy)은 각 호스트에서 어떤 Integrations 기능을 사용할지를 정의Integraions 기능은 다양한 데이터 소스를 어떻게 추출하고 전송할지에 대한 정보를 포함]IntegrationsIntegrations는 외부 서비스와 시스템을 Elastic과 연동함빠르게 시스템에 대한 인사이트와 대응을 보조새로운 데이터 소스 수집 가능Integrations는 종종 기본으로 제공되는 기능(out-of-the-box assets)과 함께 제공되며, 여기에는 대시보드, 시각화 도구, 파이프라인 등이 포함Elastic Agent policies어떤 integration을 실행할지, 어떤 호스트에서 실행할지를 지..
Uptime 가동시간시스템이 살아있지 않으면 관측할 수 없음따라서 Observability는 보통 "시스템이 살아있나?" 부터 시작HeartbeatUptime 데이터를 수집하고 ship하는 agentICMPv4 and v6 (echo requests)requires root accessTCP사용자 정의 페이로드를 보내고 받음으로써 엔드포인트 확인HTTP호스트가 예상한 응답을 반환하는지 확인e.g. 상태 코드, 응답 헤더 또는 콘텐츠 등TCP와 HTTP 모니터는 모두 SSL/TLS를 지원일부 프록시 설정도 지원용어 정리ICMP (Internet Control Message Protocol)인터넷 제어 메시지 프로토콜IP 동작에서 진단이나 제어로 사용되거나 오류에 대한 응답으로 만들어진 메시지인터넷/통신 상..
Observability가 필요한 이유현대화된 시스템들분산 시스템MSA데이터 사일로이런 현대화된 시스템들에서 우리는 운영하는데 있어 어려움이 있음장애의 원인 파악SLA 충족 여부Observability 란?가용성, 확장성 등과 같은 소스트웨어에서 비기능적 요구사항Monitoring과 다른점Monitoring은 알고있는 장애 상황에 대해 알게해줌 (CPU XX% 이상 시 장애 등)Observability는 이전에 없었던 예상치 못했던 장애에 대해 알게해줌 (이전에 없던 장애인데, 특수한 조건에서 장애 발생)Elastic Observability모든 Obserrvability data를 하나의 스택에 저장통합 관측 알림 솔루션