DataScience
로컬 AI로 만드는 우리 회사 전용 매뉴얼 챗봇-RAG와 한국어 AI로 똑똑하게
AI 2026. 1. 13. 11:07

RAG 기반 OO제품 매뉴얼 챗봇 구축한국어 특화 RAG 챗봇 구축 (KURE-v1 + Ollama + ChromaDB)"RAG 파이프라인 완벽 구현: PDF → 임베딩 → 검색 → 생성"프로젝트 개요로컬 LLM(Ollama)과 한국어 특화 임베딩을 사용하여 OO제품 매뉴얼 PDF를 학습하고 질문에 답변하는 RAG 챗봇을 구축했습니다.핵심 기술 스택임베딩: KURE-v1 (고려대 한국어 특화)벡터 DB: ChromaDBLLM: Qwen2.5-Coder 32B (Ollama)PDF 처리: PyMuPDF시스템 아키텍처전체 흐름도PDF 매뉴얼 ↓ (텍스트/이미지 추출)청킹 (1000자, 200 오버랩) ↓ (KURE 임베딩)ChromaDB 벡터 저장 ↓사용자 질문 ↓ (질문 임베딩)벡터 ..

Ollama를 이용한 로컬 코딩 어시스턴트 모델 (qwen2.5)
AI 2026. 1. 7. 12:52

OS: Ubuntu24.04CPU: Intel(R) Core(TM) Ultra 9 285KGPU: rtx5090 2장Memory: DDR5 128GB Ollama 설치curl -fsSL https://ollama.com/install.sh | sh설치 확인:ollama --version모델 다운로드ollama pull qwen2.5-coder:32b-instruct-q8_0다운로드 완료 후 테스트:ollama run qwen2.5-coder:32b-instruct-q8_0 "hello"Ollama 서버 외부 접속 허용기본적으로 localhost만 허용이라 설정 변경 필요:sudo systemctl edit ollama에디터가 열리면 아래 내용 입력:[Service]Environment="OLLAMA_H..