1. 왜 다채롭고 날카로운 시험 문제가 필요한가 인공지능 지식 엔진의 망라성을 보장하는 커버리지 맵 설계와 표 데이터의 파라메트릭 전처리가 완료되었다면, 이제 그 사실 체크리스트의 행들을 기반으로 시스템의 뼈를 사정없이 때리는 날카로운 시험 문제를 출제할 단계이다. 많은 기업 프로젝트에서 저지르는 치명적인 실수는 “A 제품의 지원 사양은 무엇인가요?”와 같이 문서에 일직선으로 적혀 있는 기초적인 사실만 단순하게 물어보는 … 더 읽기
기업들이 거대언어모델(LLM)을 활용해 사내 문서 기반의 답변을 생성하는 RAG(검색 증강 생성, Retrieval-Augmented Generation) 시스템을 도입하려는 움직임이 분주하다는 것이다. 하지만 개발을 막 시작하려고 하면 쏟아지는 기술 용어의 홍수 속에서 길을 잃기 십상이다. 특히 가장 많이 언급되는 밀버스(Milvus), 랭체인(LangChain), 라마인덱스(LlamaIndex)의 차이와 역할을 명확히 구분하지 못해 아키텍처 설계 단계부터 애를 먹는 경우가 많음의 사례가 관찰된다. 이 세 가지 … 더 읽기
LLM RAG에 대한 글을 공유 받고, 이 글을 AI와 공부한 내용을 정리해서 업로드 합니다. [LINK] 1. 기존 RAG 방식의 구조적 결함과 지식의 휘발성 현재 대부분의 AI 서비스가 채택하고 있는 RAG(Retrieval-Augmented Generation)는 사용자의 질문이 들어오는 순간 관련 문서를 검색하여 답변을 생성하는 방식임. 하지만 이 방식은 근본적인 한계를 지니고 있다는 것이다. 질문이 발생할 때마다 원시 데이터(Raw Data)에서 … 더 읽기
