1. 시험지가 준비되었다면, 이제 채점 인프라를 가동할 시간 7편과 8편에 걸친 철저한 1축(물리 대조) 및 2축(논리 정합성) 검증 프레임워크를 관통하여, 마침내 환각 확률 0%의 완벽하게 정제된 마스터 정답지(Golden Set)를 손에 쥐었다. 이 정답지는 인공지능 지식 엔진의 성능을 칼같이 판정할 기준자가 된다. 그러나 아무리 벼려진 시험지가 존재하더라도, 이를 실제 구동 중인 시스템에 투입하여 자동으로 점수를 산출해 … 더 읽기
1. 물리적 실재성 단계를 넘어 논리의 관문으로 7편에서 가동한 1축 기계 대조 파이프라인을 통해, 골든셋 초안에 적힌 모든 근거 발췌문이 진짜 원본 문서에 실재하는 문자열이라는 물리적 무결성을 확보했다. 조사 하나, 공백 한 칸의 불일치까지 완벽하게 정제해 낸 것이다.그러나 1차 방어선을 통과했다고 해서 정답지가 완전히 무결하다고 선언할 수는 없다. 아직 한 단계 더 깊은 수준의 언어적, … 더 읽기
1. 유창하게 틀리는 AI와 정답지 오염의 공포 점진적 배치 공정을 통해 수집된 질문과 정답, 그리고 근거 원문 발췌 데이터는 우리 시스템의 성능을 판가름할 ‘수능 기출문제집’의 초안이 된다. 하지만 이 단계에서 절대 잊지 말아야 할 머신러닝 검증 공학의 명제가 존재한다. 바로 “LLM(거대언어모델)은 대단히 유창하게 틀린다”는 사실이다. 문제를 출제한 AI 세션들은 문장 구조나 어순이 대충 비슷하면 원문에 … 더 읽기
1. 대량 생성의 유혹과 프롬프트 오염의 대참사 가성비 모델과 최고급 모델의 역할을 분비하는 하이브리드 LLM 앙상블 라우팅 아키텍처를 정립했다. 효율적인 구조가 설계되었다면, 이제 실제로 커버리지 맵에 등록된 지식 단위들을 시험 문제와 정답으로 바꾸어 내는 본격적인 ‘출제 공정’을 가동할 시간이다. 이때 많은 초보 기획자들과 개발자들이 빠지는 치명적인 유혹이 존재한다. 바로 “아키텍처도 완성되었으니 수백, 수천 페이지에 달하는 … 더 읽기
1. 왜 다채롭고 날카로운 시험 문제가 필요한가 인공지능 지식 엔진의 망라성을 보장하는 커버리지 맵 설계와 표 데이터의 파라메트릭 전처리가 완료되었다면, 이제 그 사실 체크리스트의 행들을 기반으로 시스템의 뼈를 사정없이 때리는 날카로운 시험 문제를 출제할 단계이다. 많은 기업 프로젝트에서 저지르는 치명적인 실수는 “A 제품의 지원 사양은 무엇인가요?”와 같이 문서에 일직선으로 적혀 있는 기초적인 사실만 단순하게 물어보는 … 더 읽기
기업들이 거대언어모델(LLM)을 활용해 사내 문서 기반의 답변을 생성하는 RAG(검색 증강 생성, Retrieval-Augmented Generation) 시스템을 도입하려는 움직임이 분주하다는 것이다. 하지만 개발을 막 시작하려고 하면 쏟아지는 기술 용어의 홍수 속에서 길을 잃기 십상이다. 특히 가장 많이 언급되는 밀버스(Milvus), 랭체인(LangChain), 라마인덱스(LlamaIndex)의 차이와 역할을 명확히 구분하지 못해 아키텍처 설계 단계부터 애를 먹는 경우가 많음의 사례가 관찰된다. 이 세 가지 … 더 읽기
LLM RAG에 대한 글을 공유 받고, 이 글을 AI와 공부한 내용을 정리해서 업로드 합니다. [LINK] 1. 기존 RAG 방식의 구조적 결함과 지식의 휘발성 현재 대부분의 AI 서비스가 채택하고 있는 RAG(Retrieval-Augmented Generation)는 사용자의 질문이 들어오는 순간 관련 문서를 검색하여 답변을 생성하는 방식임. 하지만 이 방식은 근본적인 한계를 지니고 있다는 것이다. 질문이 발생할 때마다 원시 데이터(Raw Data)에서 … 더 읽기
