RAG 골든셋 구축 방법 14부작 마스터 가이드: 5편 하이브리드 LLM 앙상블 라우팅

1. 최고급 모델의 비용 폭탄과 단일 모델의 편향 4편까지의 공정을 통해 6+1 문항 유형에 맞춘 날카로운 질문과 근거 발췌 초안을 생성하는 원리를 정립했다. 하지만 이 이론을 대규모 엔터프라이즈 프로젝트에 그대로 투입하려는 순간, 현실적인 ‘지갑 사정(API 비용)’과 ‘속도’라는 거대한 예산적 장벽에 부딪히게 된다. 수천, 수만 문항에 달하는 골든셋 초안 추출과 복잡한 언어적 검증 과정을 전부 Claude … 더 읽기

RAG 골든셋 구축 방법 14부작 마스터 가이드: 4편 6+1 문항 유형 기반 질문 생성

1. 왜 다채롭고 날카로운 시험 문제가 필요한가 인공지능 지식 엔진의 망라성을 보장하는 커버리지 맵 설계와 표 데이터의 파라메트릭 전처리가 완료되었다면, 이제 그 사실 체크리스트의 행들을 기반으로 시스템의 뼈를 사정없이 때리는 날카로운 시험 문제를 출제할 단계이다. 많은 기업 프로젝트에서 저지르는 치명적인 실수는 “A 제품의 지원 사양은 무엇인가요?”와 같이 문서에 일직선으로 적혀 있는 기초적인 사실만 단순하게 물어보는 … 더 읽기

RAG 골든셋 구축 방법 14부작 마스터 가이드: 3편 표 데이터 및 비정형 전처리

1. RAG 분해 공정의 마의 구간, 비정형과 표 데이터 2편에서 지식 베이스를 샅샅이 분해하여 지식의 영토를 확정하는 ‘커버리지 맵’의 대전제와 의미 단위 분해 규칙을 살펴보았다. 하지만 이론을 숙지한 채 실전 데이터 전처리 전선에 뛰어든 기획자와 엔지니어들이 예외 없이 마주치는 거대하고 악명 높은 장벽이 존재한다. 바로 에디션별 기능 지원 현황, 부서별 접근 권한 가부, 제품 스펙 … 더 읽기

RAG 골든셋 구축 방법 14부작 마스터 가이드: 2편 실무 가이드라인

1. 왜 촘촘한 교과서 요약본이 필요한가 인공지능 프로젝트, 그중에서도 RAG 시스템의 성능을 정량화하기 위한 골든셋 구축 과정에서 가장 거대하고 지루한 장벽은 바로 ‘지식 베이스의 원천 분해’ 단계이다. 1편에서 다루었듯, 주관에 의존하여 눈에 띄는 문장만 골라 질문을 만드는 방식은 반드시 치명적인 지식 누락을 발생시키기 때문이다. 우리가 가진 원본 지식 문서라는 거대한 영토를 단 한 평도 빠짐없이 … 더 읽기

RAG 골든셋 구축 방법 14부작 마스터 가이드: 1편 개론과 대전제

1. 왜 내가 공들여 만든 인공지능은 결정적인 순간에 거짓말을 하는가 인공지능 기술, 그중에서도 기업 내부의 방대한 데이터를 연동하여 자연어로 답변을 도출하는 RAG(Retrieval-Augmented Generation, 검색 증강 생성) 시스템을 도입한 기업들이 공통적으로 겪는 치명적인 기술적 고통이 존재한다. 시스템 개발을 완료하고 야심 차게 현업 부서에 배포했으나, 정작 임직원들이 실전 업무에 필요한 고위험 질문을 던지면 그럴듯하게 포장된 가짜 정보를 … 더 읽기

“비서끼리 알아서 해” – A2A 프로토콜과 MCP가 바꿀 미래 오피스 풍경

1. 인간이 사라진 회의실, 로봇들의 지독하게 조용한 협업 부서 간에 프로젝트 협업 미팅 일정 하나를 잡기 위해 사내 메신저나 이메일로 수십 번씩 메시지를 주고받으며 극심한 피로감과 스트레스를 느껴본 적이 있으실 겁니다. 서로 캘린더를 대조하고, 빈 시간을 찾고, 거절하고, 다시 제안하는 이 소모적인 커뮤니케이션 과정은 현대 직장인들의 소중한 몰입 시간을 처참하게 갉아먹는 주범입니다. 하지만 앞서 1, … 더 읽기

구글 OKF: 전 세계 AI 개발자들이 마크다운(MD) 파일에 열광하는 이유

회사의 가장 중요한 인프라 운영 규칙은 노션의 깊숙한 페이지에 숨겨져 있고, 이번 달 마케팅 집행 지표는 모 대리 컴퓨터 바탕화면에 이름 모를 엑셀 파일로 방치되어 있으며, 시스템의 가장 치명적인 예외 조항이나 장애 복구 히스토리는 오직 퇴사를 한 달 앞둔 박 부장님의 머릿속에만 가물가물하게 존재합니다. 직장인이라면 하루에도 수십 번씩 마주하는 이 끔찍한 ‘정보의 파편화’ 현상은 인간 … 더 읽기

챗GPT에 문서 업로드해도 자꾸 헛소리하는 진짜 이유 (RAG의 배신과 LLM 위키 혁명)

당신의 AI 비서는 혹시 금붕어인가? “챗GPT나 클로드에 수백 페이지짜리 우리 회사 사내 업무 매뉴얼과 규정집을 올려두고 질문하는데, 왜 물어볼 때마다 대답이 묘하게 달라지고 속도가 느려질까요? 분명히 파일을 똑바로 업로드했고 완벽하게 학습을 시켰다고 생각했는데, 인공지능은 왜 자꾸 엉뚱한 소리를 하거나 한참을 머뭇거리며 로딩 바만 띄우고 있을까요?” 최근 인공지능을 실무 및 사내 시스템에 도입해 본 수많은 기업의 … 더 읽기

토스(Toss)의 AI 가상 유저 리서치, 휴리봇으로 UX/UI 점검하는 방법과 5가지 프롬프팅 노하우

릴스를 보는데 토스에서 휴리봇을 사용하여 UT를 진행한다고 하길래 한번 찾아봐서 테스트도 해보았다.[LINK]생각보다 의미있는 상황이라서 왜 테크 블로그에까지 기고 했는지 알것 같았다. 1. 왜 토스는 AI 가상 유저 리서치 툴인 휴리봇을 만들었을까? ㄱ. 게릴라 UT의 한계와 디자이너의 심리적 허들 서비스를 만드는 기획자와 디자이너는 항상 사용자의 목소리를 듣고 싶어 한다. 토스(Toss)팀 역시 온라인으로 빠르게 실제 유저를 만나 … 더 읽기

[프롬프트] 토스 휴리봇처럼 대화하는 UT 프롬프트

LLM(ChatGPT, Claude 등)에 아래 프롬프트를 입력하고, 하단의 [ ] 부분만 만들고자 하는 서비스에 맞게 수정하여 가상 UT를 진행해 보세요.