1. 최고급 모델의 비용 폭탄과 단일 모델의 편향 4편까지의 공정을 통해 6+1 문항 유형에 맞춘 날카로운 질문과 근거 발췌 초안을 생성하는 원리를 정립했다. 하지만 이 이론을 대규모 엔터프라이즈 프로젝트에 그대로 투입하려는 순간, 현실적인 ‘지갑 사정(API 비용)’과 ‘속도’라는 거대한 예산적 장벽에 부딪히게 된다. 수천, 수만 문항에 달하는 골든셋 초안 추출과 복잡한 언어적 검증 과정을 전부 Claude … 더 읽기
1. 왜 촘촘한 교과서 요약본이 필요한가 인공지능 프로젝트, 그중에서도 RAG 시스템의 성능을 정량화하기 위한 골든셋 구축 과정에서 가장 거대하고 지루한 장벽은 바로 ‘지식 베이스의 원천 분해’ 단계이다. 1편에서 다루었듯, 주관에 의존하여 눈에 띄는 문장만 골라 질문을 만드는 방식은 반드시 치명적인 지식 누락을 발생시키기 때문이다. 우리가 가진 원본 지식 문서라는 거대한 영토를 단 한 평도 빠짐없이 … 더 읽기
1. 왜 내가 공들여 만든 인공지능은 결정적인 순간에 거짓말을 하는가 인공지능 기술, 그중에서도 기업 내부의 방대한 데이터를 연동하여 자연어로 답변을 도출하는 RAG(Retrieval-Augmented Generation, 검색 증강 생성) 시스템을 도입한 기업들이 공통적으로 겪는 치명적인 기술적 고통이 존재한다. 시스템 개발을 완료하고 야심 차게 현업 부서에 배포했으나, 정작 임직원들이 실전 업무에 필요한 고위험 질문을 던지면 그럴듯하게 포장된 가짜 정보를 … 더 읽기
