Rag2 자체 호스팅 LLM을 이용한 자연어 검색 질의 최근 ChatGPT와 같은 대규모 언어 모델(LLM)의 발전으로 자연어 검색이 주목받고 있습니다. 이번 글에서는 오픈소스 LLM을 로컬 환경에서 실행하여 자연어 검색 시스템을 구축하는 방법을 알아보겠습니다.LM Studio 소개LM Studio는 로컬 환경에서 LLM을 쉽게 실행할 수 있게 해주는 데스크톱 애플리케이션입니다. 주요 특징은 다음과 같습니다:다양한 오픈소스 LLM 모델 지원간단한 GUI 인터페이스API 서버 모드 제공Windows/Mac/Linux 지원모델 다운로드 및 관리 기능사용할 LLM 모델 소개1. DeepSeek R1DeepSeek R1은 중국 DeepSeek사에서 개발한 오픈소스 LLM입니다.7B/12B 파라미터 모델 제공한국어 성능이 우수낮은 하드웨어 요구사항Apache 2.0 .. 2025. 2. 4. Vanna AI: SQL 데이터베이스를 위한 자연어 인터페이스 Vanna.AI는 SQL 데이터베이스와 대화하듯 상호작용할 수 있게 해주는 오픈소스 RAG(Retrieval-Augmented Generation) 프레임워크입니다. MIT 라이선스로 제공되는 이 파이썬 기반 도구는 자연어를 SQL로 변환하고 데이터베이스를 쉽게 활용할 수 있게 해줍니다. Vanna.AI - Personalized AI SQL Agent vanna.ai 주요 특징:간단한 2단계 작동 방식데이터로 RAG "모델" 학습자연어로 질문하면 자동으로 SQL 쿼리 생성 및 실행다양한 지원LLM: OpenAI, Anthropic, Gemini, HuggingFace 등벡터 저장소: AzureSearch, Opensearch, PgVector 등데이터베이스: PostgreSQL, MySQL, Snowf.. 2024. 12. 2. 이전 1 다음
