본문 바로가기

전체 글

(224)
1. ElasticSearch Service(ESS) 사용하기 개요 Elasticsearch service를 구축하는 방법을 알아본다. 방법 1. 서비스 사이트 접속 https://www.elastic.co/kr/elasticsearch/service Elasticsearch Service: Managed Elasticsearch on AWS, Google Cloud, and Azure The Elasticsearch Service is the official managed Elasticsearch offering on Amazon Web Services, AWS GovCloud, Google Cloud, and Microsoft Azure. Pay for what you use, cancel anytime. www.elastic.co 하기 이미지의 Start fr..
kafka connector 버전 별 설치 방법 개요 es sink connector 버전에 따른 설치 방법을 알아본다. 내용 1. 파일 source connector https://www.confluent.io/hub/jcustenborder/kafka-connect-spooldir 2.debezium 소스 커넥터 https://debezium.io/releases/1.8/ 3.es sink connector https://www.confluent.io/hub/confluentinc/kafka-connect-elasticsearch 3.1 es 버전에 맞는 source connector 확인하는 방법 git 소스 파일에서 원하는 버전을 선택하고 pom.xml에서 'es.version'을 확인한다. https://github.com/confluenti..
kafka connect, ms source connector 설치방법 msSql source connector는 debezium 에서 제공하는 플러그인을 설치하면 된다. https://www.confluent.io/hub/debezium/debezium-connector-sqlserver Debezium SQL Server CDC Source Connector Confluent, founded by the original creators of Apache Kafka®, delivers a complete execution of Kafka for the Enterprise, to help you run your business in real-time. www.confluent.io 위 커넥터를 설치하려면 먼저 'confluent-hub' 클라이언트를 설치해야한다. 2023...
confluent-hub 설치 방법 설치방법은 각 OS마다 하기 링크에 잘 설명 되어있다. https://docs.confluent.io/platform/current/connect/confluent-hub/client.html Confluent Hub Client | Confluent Documentation The Confluent Hub client is a command-line tool that makes it easy to install and update components from Confluent Hub into a local Confluent Platform installation. Install the Confluent Hub Client The Confluent Hub client is natively installe..
아파치 카프카 스터디 아파치 카프카란? https://magpienote.tistory.com/212 connector 개발자 가이드 https://docs.confluent.io/platform/current/connect/devguide.html restful api https://docs.confluent.io/platform/current/connect/references/restapi.html 카프카 커넥터 sdk https://dzone.com/articles/building-your-own-apache-kafka-connectors https://kafka.apache.org/downloads.html gradle 로 설치하는 방법 https://developer.confluent.io/get-started/ja..
2. apach kafka 설치 방법 정리 개요: aws kafka를 설치 경험 정리 카프카 설치 전반 https://blog.voidmainvoid.net/325 aws 에서 jdk 설치 필요 https://blog.voidmainvoid.net/338 aws micro-2 사용 시 kafka 최소 메모리 설정 Kafka 패키지의 기본 힙 메모리 설정이 Kafka = 1G, Zookeeper = 512M으로 설정되어 있어서 프리티어의 메모리 1G에서는 Kafka와 Zookeeper를 동시에 실행하면 "Cannot allocate memory"와 같은 문제가 발생합니다. echo $KAFKA_HEAP_OPTS export KAFKA_HEAP_OPTS="-Xms400m -Xmx400m" echo $KAFKA_HEAP_OPTS 이렇게 설정한 환경변수..
내비게이션 관점에서 Elastic search에서의 NLP, NER 활용 법 개요: elasticsearch ML 기능 중 NLP, NER을 활용할 수 있는 방안을 알아본다. NLP(Natural Language Processing)와 NER(Named Entity Recognition)은 탐색 검색 서비스 분야에서 사용되는 서로 다른 두 가지 모델로 모두 ES ML에서 사용 가능하다. NLP는 컴퓨터와 인간 언어 간의 상호 작용을 다루는 더 넓은 분야로, 자연어 데이터를 처리하고 분석하는 데 사용되는 다양한 기술과 알고리즘이 포함된다. NLP는 구문 분석, 구문 분석 및 의미 분석과 같은 작업을 포함하는 문장이나 단락의 의미를 이해하는 데 사용할 수 있다. 반면에 NER은 사람, 장소, 조직 등과 같은 텍스트 데이터에서 특정 명명된 엔터티를 식별하고 분류하는 NLP 내의 특정 ..
시맨틱 검색(semantic search)을 내비게이션 검색에 활용 하는 방법 개요: 시맨틱 검색을 이해하고 내비게이션 목적지 검색에 활용할 수 있는 예를 알아본다. 내비게이션 목적지 검색 서비스에서 시맨틱 검색이 어떻게 사용될 수 있는지에 대한 예를 알아보자. 사용자가 내비게이션 앱을 사용하여 새로운 도시의 식당을 검색한다고 가정해 보겠습니다. 사용자는 "근처 이탈리안 맛집"이라는 검색어를 입력합니다. 기존의 키워드 기반 검색을 사용하면 내비게이션 앱이 사용자의 현재 위치 근처에 있는 음식점 목록을 제공할 수 있지만 이 목록은 사용자의 기본 설정에 맞게 조정되지 않았거나 사용자가 찾고 있는 내용에 대한 포괄적인 이해를 제공하지 않을 수 있습니다. 시맨틱 검색을 통해 내비게이션 앱은 사용자의 의도를 이해하고 보다 정확하고 관련성 높은 결과를 제공할 수 있습니다. 앱은 자연어 처리(..
내비게이션 검색 관점에서 사용할 만한 ML, AI 모델 개요: 내비게이션 목적지 검색 기능을 개선하는 데 적합할 수 있는 여러 ML 및 AI 모델을 소개하고 적용 방법을 고민해 본다. CNN(Convolutional Neural Networks): CNN은 이미지 인식에 일반적으로 사용되는 일종의 신경망이지만 텍스트 분류에도 적용할 수 있습니다. CNN 모델은 해당 범주 및 메타데이터와 함께 대상 이름의 대규모 데이터 세트에서 훈련할 수 있으며 지정된 대상 이름의 범주를 예측하는 데 사용할 수 있습니다. 예) 'ㅇㅁㅌ', '이마', '이', 'e-mart', 'emart' 와 같은 데이터 셋을 '이마트'로 훈련하고 출력을 '이마트'로 사용자에게 추천 할 수 있다. 자연어 처리(NLP) 모델(Natural Language Processing (NLP) Mode..
stable-diffusion-webui-master 설치 stable-diffusion-webui-master 설치 git에서 설치파일을 다운로드 https://github.com/AUTOMATIC1111/stable-diffusion-webui Microsoft Visual C++ Redistributable 설치 https://learn.microsoft.com/en-us/cpp/windows/latest-supported-vc-redist?view=msvc-170 관련 에러 Error code: 1 stdout: Microsoft Visual C++ Redistributable is not installed, this may lead to the DLL load failure. It can be downloaded at https://aka.ms/vs/1..

반응형