일 | 월 | 화 | 수 | 목 | 금 | 토 |
---|---|---|---|---|---|---|
1 | 2 | 3 | 4 | 5 | 6 | |
7 | 8 | 9 | 10 | 11 | 12 | 13 |
14 | 15 | 16 | 17 | 18 | 19 | 20 |
21 | 22 | 23 | 24 | 25 | 26 | 27 |
28 | 29 | 30 |
- CSV
- KoA
- framework
- dense_vector
- json
- Tutorial
- filebeat
- DSL
- elastic
- OPCUA
- 7.7.1
- ELK
- ubuntu
- devtools
- elasticsearch
- PYTHON
- configure
- airflow
- Crontab
- path.data
- kibana
- node.js
- query
- venv
- package.json
- typescript
- grok
- windows
- Data Engineering
- logstash
- Today
- Total
목록configure (2)
Gibbs Kim's playground
서울지하철 데이터(JSON)를 가지고 로그스태시(Logstash)를 사용하여 엘라스틱서치(Elasticsearch)에 인덱싱한 과정을 기록합니다. (Version based 7.6.2) ### json 파일의 key-value pair status example { "DESCRIPTION" : {"STN_PHONE":"전화번호","STN_LINE":"호선""STN_NM":"역명","STN_ZIP_CODE":"우편번호","STN_ADDR":"지번주소","STN_IDX":"연번","STN_ROAD_ADDR":"도로명주소"}, "DATA" : [ {"stn_zip_code":"157-857","stn_nm":"방화역","stn_line":"5","stn_phone":"02-6311-5101","stn_road..
Logstash는 raw data를 Elasticsearch로 업로드하는 기능을 수행한다.기본 구조는 다음과 같다.(input, filter, output) # Context is written in configure file (ex: test.conf)input { file { path => "FILE_PATH" # can use asterisk (*) beside file name; e.g. test_1234.csv, test_23456.csv -> test_*.csv start_position => "beginning" sincedb_path => "/dev/null" }}filter { csv { separator => "," ..