Software Engineer, Java, Spring Boot, JAX-RS REST API, OAuth 2.0, Microservice, DevOps

개요2022년 11월 OpenAI가 ChatGPT를 세상에 공개한 후로 OpenAI의 LLM는 사실상의 표준으로 자리 잡았다. LLM 연동을 지원하는 많은 오픈 소스 및 상업 솔루션이 OpenAI의 API와 동일하게 작동하는 OpenAI Compatible API을 지원한다. 이 것의 의미는 많은 기업들이 자사의 내부 보안 환경 및 쓰임새에 맞는 독자적인 OpenAI 호환 서버를 구축하고 운영할 수 있다는 것이다.이번 글에서는 LangChain4j와 Azure OpenAI를 이용하여 OpenAI 호환 서버를 제작하는 방법을 정리했다.OpenAI Compatible Server 명세OpenAI Compatible Server의 핵심은 OpenAI Chat Completion API의 작동을 정확하게 모사하..

FLUX 소개FLUX는 2024년 8월 출시된 새로운 text2img 모델 제품군이다. 제작사인 Black Forest Labs은 Stable Diffusion으로 유명한 Stability AI 출신들이 창업한 회사로 생성형 이미지 분야에서 굉장한 노하우를 가진 전문가 집단이다. FLUX를 유명하게 만든 것은 생성된 이미지의 품질이다. 자체적으로 공개한 벤치마킹 결과 Midjourney-V6.0와 SD3-Ultra를 뛰어넘는 성과를 드러냈으며 실제로 커뮤니티의 반응도 굉장히 뜨겁다. [관련 링크]이번 글에서는 오픈 소스 모델인 FLUX.1 [dev]를 이용하여 로컬 환경에서 고품질의 생성형 이미지를 제작하는 방법을 정리했다.준비물Package Manager: Stability MatrixPackage: ..

소개AWS DNA는 기업이 마주하는 문제를 AWS의 서비스를 활용하여 해결하는 과정을 체계적으로 경험할 수 있게 제작된 AWS Korea의 트레이닝 및 네트워킹 프로그램이다.매 기수마다 프로그램에 참여하는 기업을 엄선하여 선정하고, 약 4주간의 교육, 나머지 2주간의 Pre-POC를 통한 MVP 제작, 마지막 발표로 이어지는 쉽지 않은 성격의 프로그램이다.2020년 1기를 시작으로, 이번 6기는 Gen AI를 주제로 현재 재직 중인 젠틀몬스터 소속으로 참가하게 되었고, 최종 발표에서 Customer Obsession 부분에서 최고 점수를 받아 상을 수상했다.참가 계기나는 올해 젠틀몬스터에 입사하여 선행 기술을 연구하는 기술전략팀의 일원으로 Gen AI 관련 주제의 프로젝트를 담당하여 진행 중인 차에, A..

개요우리는 LLM의 시대에 살고 있다. LLM을 응용하여 생산성을 향상시켜주는 방법과 툴이 홍수처럼 공개되고 있다. 이번 글에서는 리눅스 쉘에서 Kotlin Script, LangChain4j를 이용하여 인터넷 글을 광고 필터링 후 한글로 번역하고 요약까지 해주는 스크립트를 작성해본다.스크립트 기능아규먼트로 인터넷 URL을 전달한다.인터넷 URL에서 광고 컨텐츠 및 불필요한 컨텐츠를 제거하고 글의 내용만 한글로 번역하여 Markdown 형식으로 출력한다.마지막으로 글 요약을 출력한다.사전 준비물OpenAI API KeyKotlin 설치SDKMAN을 이용하여 Kotlin을 설치한다.# SDKMAN 설치$ curl -s "https://get.sdkman.io" | bash$ source "$HOME/.sd..