일 | 월 | 화 | 수 | 목 | 금 | 토 |
---|---|---|---|---|---|---|
1 | 2 | |||||
3 | 4 | 5 | 6 | 7 | 8 | 9 |
10 | 11 | 12 | 13 | 14 | 15 | 16 |
17 | 18 | 19 | 20 | 21 | 22 | 23 |
24 | 25 | 26 | 27 | 28 | 29 | 30 |
31 |
- 7.7.1
- filebeat
- DSL
- configure
- airflow
- package.json
- node.js
- elasticsearch
- grok
- query
- windows
- ELK
- dense_vector
- venv
- kibana
- PYTHON
- Tutorial
- typescript
- ubuntu
- elastic
- devtools
- Crontab
- Data Engineering
- path.data
- OPCUA
- json
- logstash
- framework
- KoA
- CSV
- Today
- Total
목록devtools (4)
Gibbs Kim's playground
엘라스틱서치에서는 단어 검색 시 형태소 분석을 지원한다. 해당 기능을 사용하기 위해서는 다음과 같은 과정이 필요하다. 1) nori plugin 설치 (공식문서 : https://www.elastic.co/guide/en/elasticsearch/plugins/current/analysis-nori.html) sudo bin/elasticsearch-plugin install analysis-nori 만약 지우고 싶다면 아래의 방법을 적용 sudo bin/elasticsearch-plugin remove analysis-nori 설치를 하고나면 ES를 재시작해주자. (필수) 2) Query를 사용하여 인덱스를 설정하고 nori analyzer를 setting 하자. (Kibana DevTools 기준으로..
aggregation을 활용하여 특정 필드만 작업(sum, avg, ...)시 "query" 결과로 aggregation에 해당하는 조건의 결과값들만 보고 싶을 때 filtering search를 활용하자. (Aggregation filtering 참고 : https://mingsigi.tistory.com/entry/ElasticStack-16-Terms-query-Aggregation-sum-avg) 위의 예시를 기준으로 "file_name" 필드에 값이 VALUE와 COMPLETE으로 구성되어 있다고 가정하자. 그러면 aggregation filter 수행 시 query에는 필터링을 걸어놓지 않았기 떄문에, "file_name"이 VALUE인 항목의 값들과 COMPLETE인 항목의 값들이 동시에 검..

ELK 6.4.1 에서 ELK 7.6.2 로의 데이터 이동을 snapshot 기능을 활용하여 수행한 과정을 기록합니다. 기존에 데이터가 저장된 ELK 버전 정보 더보기 Elasticsearch 6.4.1 || Logstash 6.4.1 || Kibana 6.4.1 저장된 데이터 Sample (CSV file) Kibana 6.4.1에 등록된 IndexPatterns : csv2el_seoulmetro I. Snapshot 1) Kibana 6.4.1에서 Snapshot 수행을 위한 fs(file system) 경로(repository) 설정 (in DevTools) POST /_snapshot/my_backup { "type": "fs", "settings": { "location": "path.repo..
Elasticsearch에서는 vector 값을 직접 입력할 수 있다. dense_vector로 불리는 이 필드는 float 타입의 데이터를 저장 가능하다. (A dense_vector field stores dense vectors of float values.) 필드는 차원 값을 가지는데 2048을 초과할 수 없다. (The maximum number of dimensions that can be in a vector should not exceed 2048. A dense_vector field is a single-valued field.) Example in Dev tools ## Create index and mapping PUT dense_vector_test_index { "mappings..