Software Engineer, Java, Spring Boot, JAX-RS REST API, OAuth 2.0, Microservice, DevOps

개요LLM과 RAG을 이용한 커스텀 챗봇 개발은 현재 전지구에서 가장 핫한 주제 중에 하나이다. 이번 글에서는 Azure 인프라에서 안전하게 격리된 GPT-4o모델을 셋업하고, 역시 안전하게 격리된 Azure AI Search를 연동하여 LangChain4j 라이브러리로 커스텀 챗봇을 제작하는 방법을 정리했다.순서Azure OpenAI Instance 생성Azure OpenAI Deployment 생성Azure AI Search Service 생성LangChain4j 소스 코드를 Azure AI Search에 저장LangChain4j 코딩을 도와주는 챗봇 제작Azure OpenAI Instance 생성OpenAI의 다양한 모델을 내 인프라에 설치하려면 선호하는 리전에 OpenAI Instance를 생성해..

개요 대부분의 개발자가 OpenAI API로 LLM을 이용한 개발에 입문한다. OpenAI API는 ChatGPT와는 별개로 작동하며 최신 모델인 GPT-4 Turbo(현재 2023년 12월까지 학습된 gpt-4-turbo-2024-04-09와 동일)을 이용할 수 있다. OpenAI API를 이용하는 개발자들은 ChatGPT와 같은 프론트엔드의 필요성을 느끼는데, 이번 글에서 소개하는 Lobe Chat이 바로 OpenAI API를 ChatGPT처럼 사용하게 해주는 프론트엔드 역할을 오픈 소스로 제공한다. 내 경우 로컬에 설치하여 상시로 편리하게 이용한다. Lobe Chat의 장점은 OpenAI API 뿐만 아니라 전세계 거의 대부분의 모델에 대한 통합 프론트엔드를 제공한다는 것이다. API Key만 입력..

개요 MongoDB는 수년간 대표적인 NoSQL 제품으로 자리 잡았다. 특히, 전통적인 RDBMS 대비 우월한 샤드 및 스케일 아웃 능력으로 대량 트래픽, 대량 데이터가 발생하는 모던 웹 시대에 걸맞는 저장소로 널리 쓰이고 있다. MongoDB는 관리 측면에서 굉장한 전문성과 노력이 필요하다. 프로덕션 레벨이라면, 제작사가 직접 제공하는 MongoDB Atlas 유료 클라우드 서버리스 매니지드 상품 이용을 추천한다. 데이터 증가에 따른 스케일 아웃 같은 까다롭고 어려운 관리 이슈를 대부분 자동으로 수행해주며, 매우 편리한 브라우저 기반의 관리 UI를 제공한다. 특히 2019년 6월부터 MongoDB Atlas Full-Text Search 서비스를 개시하였는데, MongoDB 생태계에서, 복잡한 백엔드 ..

개요 Windows 11을 호스트 머신으로 하는 WSL 2 환경에서 안드로이드 앱 개발 환경을 구성하고, 안드로이드 기기를 연결하는 방법을 정리했다. WSL 2 안드로이드 개발 필수 준비물 WSL 2에서 안드로이드 앱 개발을 하려면 호스트가 되는 Windows 11에는 USBIPD, WSL 2에는 adb, Android Studio를 설치해야 한다.아래와 같이 차례대로 실행한다. # Android Studio 설치 $ sudo snap install android-studio --classic # Android Studio 바로가기 생성 $ nano ~/.bash_alises alias studio="/snap/bin/android-studio > /dev/null 2>&1 &" alias studio...