1. 점수판 확인 이후의 진짜 여정, 자가 개선 루프 9편에서 가동한 자동 채점기 eval-runner 시스템을 통해 검색(Retrieval) 레이어와 생성(Generation) 레이어로 완전히 격리된 다차원 수학적 메트릭 지표를 손에 넣었다. 파이프라인 전반부와 후반부 중 어느 구간이 취약한지 보여주는 정밀한 점수판이 완성된 것이다. 그러나 성능 리더보드 점수를 확인하는 것은 최종 목적지가 아니다. 채점의 진짜 가치는 점수가 낮게 터진 … 더 읽기
1. 시험지가 준비되었다면, 이제 채점 인프라를 가동할 시간 7편과 8편에 걸친 철저한 1축(물리 대조) 및 2축(논리 정합성) 검증 프레임워크를 관통하여, 마침내 환각 확률 0%의 완벽하게 정제된 마스터 정답지(Golden Set)를 손에 쥐었다. 이 정답지는 인공지능 지식 엔진의 성능을 칼같이 판정할 기준자가 된다. 그러나 아무리 벼려진 시험지가 존재하더라도, 이를 실제 구동 중인 시스템에 투입하여 자동으로 점수를 산출해 … 더 읽기
1. 물리적 실재성 단계를 넘어 논리의 관문으로 7편에서 가동한 1축 기계 대조 파이프라인을 통해, 골든셋 초안에 적힌 모든 근거 발췌문이 진짜 원본 문서에 실재하는 문자열이라는 물리적 무결성을 확보했다. 조사 하나, 공백 한 칸의 불일치까지 완벽하게 정제해 낸 것이다.그러나 1차 방어선을 통과했다고 해서 정답지가 완전히 무결하다고 선언할 수는 없다. 아직 한 단계 더 깊은 수준의 언어적, … 더 읽기
1. 시험지가 준비되었다면, 이제 채점 인프라를 가동할 시간 7편과 8편에 걸친 철저한 1축(물리 대조) 및 2축(논리 정합성) 검증 프레임워크를 관통하여, 마침내 환각 확률 0%의 완벽하게 정제된 마스터 정답지(Golden Set)를 손에 쥐었다. 이 정답지는 인공지능 지식 엔진의 성능을 칼같이 판정할 기준자가 된다. 그러나 아무리 벼려진 시험지가 존재하더라도, 이를 실제 구동 중인 시스템에 투입하여 자동으로 점수를 산출해 … 더 읽기
1. 유창하게 틀리는 AI와 정답지 오염의 공포 점진적 배치 공정을 통해 수집된 질문과 정답, 그리고 근거 원문 발췌 데이터는 우리 시스템의 성능을 판가름할 ‘수능 기출문제집’의 초안이 된다. 하지만 이 단계에서 절대 잊지 말아야 할 머신러닝 검증 공학의 명제가 존재한다. 바로 “LLM(거대언어모델)은 대단히 유창하게 틀린다”는 사실이다. 문제를 출제한 AI 세션들은 문장 구조나 어순이 대충 비슷하면 원문에 … 더 읽기
1. 대량 생성의 유혹과 프롬프트 오염의 대참사 가성비 모델과 최고급 모델의 역할을 분비하는 하이브리드 LLM 앙상블 라우팅 아키텍처를 정립했다. 효율적인 구조가 설계되었다면, 이제 실제로 커버리지 맵에 등록된 지식 단위들을 시험 문제와 정답으로 바꾸어 내는 본격적인 ‘출제 공정’을 가동할 시간이다. 이때 많은 초보 기획자들과 개발자들이 빠지는 치명적인 유혹이 존재한다. 바로 “아키텍처도 완성되었으니 수백, 수천 페이지에 달하는 … 더 읽기
1. 왜 내가 공들여 만든 인공지능은 결정적인 순간에 거짓말을 하는가 인공지능 기술, 그중에서도 기업 내부의 방대한 데이터를 연동하여 자연어로 답변을 도출하는 RAG(Retrieval-Augmented Generation, 검색 증강 생성) 시스템을 도입한 기업들이 공통적으로 겪는 치명적인 기술적 고통이 존재한다. 시스템 개발을 완료하고 야심 차게 현업 부서에 배포했으나, 정작 임직원들이 실전 업무에 필요한 고위험 질문을 던지면 그럴듯하게 포장된 가짜 정보를 … 더 읽기
