목차 DuckDB란? DuckDB의 주요 특징 DuckDB vs SQLite Python에서 DuckDB 사용하기 DuckDB 활용 사례 언제 DuckDB를 선택해야 하는가? 언제 다른 것이 나은가? 결론 1. DuckDB란? DuckDB는 OLAP(Online Analytical Processing) 작업을 ...

Intro Memory 기능을 구현하는데 어떻게 하면 챗봇이 사람처럼 기억을 할 수 있을까, 어떻게 구현하면 가장 도움이 될까 고민했다. 고민 결과, 각 채팅방에 중요 정보는 Long Term memory로, 최신 정보는 Shot Term memory로 구현하고자 한다. 정보 기본 Memory의 유형 단기 기억 (Short-term memory) ...

LLM as a Judge AI의 Output을 LLM이 평가하는 방식 Pairwise comparison A가 좋니 B가 좋니 Single answer grading 인간의 만족도가 기준이 됨 Reference-guided grading Chatbot Arena 한국어로 물어보면 한국...

1. 소프트웨어 설계 1-1. 소프트웨어 설계 - 요구사항 확인 현행 시스템 분석 요구사항 확인 분석 모델 확인 요구사항 예시 요구사항은 단순하게 아이디어에서 시작된다. 단순히 메신저 앱에 멘션 기능을 넣어달라는 말은 개발자 입장에서 구현하기 애매하기 때문에 명확한 요구사항 명세서가필요하다. 1-1-1. 현행 시스템 분...

RDBMS와 NoSQL의 차이점 및 Modular RAG에 적합한 선택 Modular RAG는 다양한 모듈을 조합하며 유연성과 확장성을 중요하게 여기는 프로젝트다. 이를 구현하기 위한 데이터베이스 선택에서 RDBMS와 NoSQL의 특성을 비교하고, Modular RAG에 더 적합한 데이터베이스를 선택하고자 한다. RDBMS vs NoSQL: 비...

사전 준비 1 GCP 계정 및 Compute Engine 인스턴스 2 Docker Hub 계정 3 GitHub 계정 및 Repository CI/CD를 위한 큰 순서 1. 초기 환경 준비 1-1 GCP Compute Engine 인스턴스 생성 및 설정 GCP에서 VM 인스턴스를 생성하고 Docker, Docker Com...

효율적인 Chat History 저장과 확장 가능한 구조 설계 챗봇을 설계하다, 기본적인 채팅 기록 저장 방식에 대해 고민하게 되었다. 일반적으로 채팅 기록을 저장하는 방법은 Chat Session과 Chat Messages로 나눌 수 있다. 기본적인 저장 방식에 추가로 고려한 기능, 이를 구현하기 위한 구조, 그리고 일반적인 챗봇과 카카오톡 봇 모...

Intro: GCP에 개인 서버를 만들고, 관리하려는데, CI/CD를 만들어놔야 시간 절약을 할 수 있을것 같아 공부해보려 한다. CI/CD란? CI/CD는 Continuous Integration과 Continuous Deployment의 약자로, 소프트웨어 개발 과정에서 코드 변경 사항을 자동으로 빌드, 테스트, 배포하는 일련의 프로세스...

Naive RAG에 여러 RAG를 하기 위해 Advanced RAG를 충분히 다뤘다고 생각한다. 하지만, 점점 더 복잡한 작업을 최소화하고 효율성을 높이기 위해 Modular RAG 방식을 적용하고자 한다. 마치 LEGO 블록처럼 모듈들을 쌓아가며 나만의 재사용 가능한 RAG 자산을 구축하는 것이 목표다. Modular RAG는 시스템의 유연성과 확장...

Metadata-managed SSH connections https://cloud.google.com/compute/docs/instances/ssh#third-party-tools Create an SSH key pair https://cloud.google.com/compute/docs/connect/create-ssh-keys#console ...