1. 최고급 모델의 비용 폭탄과 단일 모델의 편향 4편까지의 공정을 통해 6+1 문항 유형에 맞춘 날카로운 질문과 근거 발췌 초안을 생성하는 원리를 정립했다. 하지만 이 이론을 대규모 엔터프라이즈 프로젝트에 그대로 투입하려는 순간, 현실적인 ‘지갑 사정(API 비용)’과 ‘속도’라는 거대한 예산적 장벽에 부딪히게 된다. 수천, 수만 문항에 달하는 골든셋 초안 추출과 복잡한 언어적 검증 과정을 전부 Claude … 더 읽기
1. 왜 다채롭고 날카로운 시험 문제가 필요한가 인공지능 지식 엔진의 망라성을 보장하는 커버리지 맵 설계와 표 데이터의 파라메트릭 전처리가 완료되었다면, 이제 그 사실 체크리스트의 행들을 기반으로 시스템의 뼈를 사정없이 때리는 날카로운 시험 문제를 출제할 단계이다. 많은 기업 프로젝트에서 저지르는 치명적인 실수는 “A 제품의 지원 사양은 무엇인가요?”와 같이 문서에 일직선으로 적혀 있는 기초적인 사실만 단순하게 물어보는 … 더 읽기
1. RAG 분해 공정의 마의 구간, 비정형과 표 데이터 2편에서 지식 베이스를 샅샅이 분해하여 지식의 영토를 확정하는 ‘커버리지 맵’의 대전제와 의미 단위 분해 규칙을 살펴보았다. 하지만 이론을 숙지한 채 실전 데이터 전처리 전선에 뛰어든 기획자와 엔지니어들이 예외 없이 마주치는 거대하고 악명 높은 장벽이 존재한다. 바로 에디션별 기능 지원 현황, 부서별 접근 권한 가부, 제품 스펙 … 더 읽기
1. 왜 촘촘한 교과서 요약본이 필요한가 인공지능 프로젝트, 그중에서도 RAG 시스템의 성능을 정량화하기 위한 골든셋 구축 과정에서 가장 거대하고 지루한 장벽은 바로 ‘지식 베이스의 원천 분해’ 단계이다. 1편에서 다루었듯, 주관에 의존하여 눈에 띄는 문장만 골라 질문을 만드는 방식은 반드시 치명적인 지식 누락을 발생시키기 때문이다. 우리가 가진 원본 지식 문서라는 거대한 영토를 단 한 평도 빠짐없이 … 더 읽기
1. 왜 내가 공들여 만든 인공지능은 결정적인 순간에 거짓말을 하는가 인공지능 기술, 그중에서도 기업 내부의 방대한 데이터를 연동하여 자연어로 답변을 도출하는 RAG(Retrieval-Augmented Generation, 검색 증강 생성) 시스템을 도입한 기업들이 공통적으로 겪는 치명적인 기술적 고통이 존재한다. 시스템 개발을 완료하고 야심 차게 현업 부서에 배포했으나, 정작 임직원들이 실전 업무에 필요한 고위험 질문을 던지면 그럴듯하게 포장된 가짜 정보를 … 더 읽기
