Kotlin, Spring Boot를 이용하여 OpenAI 호환 커스텀 API 서버 제작하기
개요2022년 11월 OpenAI가 ChatGPT를 세상에 공개한 후로 OpenAI의 LLM는 사실상의 표준으로 자리 잡았다. LLM 연동을 지원하는 많은 오픈 소스 및 상업 솔루션이 OpenAI의 API와 동일하게 작동하는 OpenAI Compatible API을 지원한다. 이 것의 의미는 많은 기업들이 자사의 내부 보안 환경 및 쓰임새에 맞는 독자적인 OpenAI 호환 서버를 구축하고 운영할 수 있다는 것이다.이번 글에서는 LangChain4j와 Azure OpenAI를 이용하여 OpenAI 호환 서버를 제작하는 방법을 정리했다.OpenAI Compatible Server 명세OpenAI Compatible Server의 핵심은 OpenAI Chat Completion API의 작동을 정확하게 모사하..
SW 개발
2024. 10. 21. 01:14
최근에 올라온 글
최근에 달린 댓글
- Total
- Today
- Yesterday
링크
TAG
- 알뜰폰
- 태그를 입력해 주세요.
- JavaScript
- jstl
- graylog
- CentOS
- kotlin
- java
- jsp
- Spring MVC 3
- jpa
- 자전거
- 평속
- Docker
- spring
- 로드바이크
- bootstrap
- Eclipse
- MySQL
- JHipster
- Kendo UI
- Kendo UI Web Grid
- 로드 바이크
- node.js
- DynamoDB
- chrome
- Tomcat
- 구동계
- Spring Boot
- maven
| 일 | 월 | 화 | 수 | 목 | 금 | 토 |
|---|---|---|---|---|---|---|
| 1 | 2 | 3 | 4 | 5 | ||
| 6 | 7 | 8 | 9 | 10 | 11 | 12 |
| 13 | 14 | 15 | 16 | 17 | 18 | 19 |
| 20 | 21 | 22 | 23 | 24 | 25 | 26 |
| 27 | 28 | 29 | 30 | 31 |
글 보관함