늘 개발에 대한 학습에 목말라 있었음, 2011년도 xml학습으로 매해 꾸준히 히다가 2024년 본격적으로 하기로 마음을 먹음
1. 대량 생성의 유혹과 프롬프트 오염의 대참사 가성비 모델과 최고급 모델의 역할을 분비하는 하이브리드 LLM 앙상블 라우팅 아키텍처를 정립했다. 효율적인 구조가 설계되었다면, 이제 실제로 커버리지 맵에 등록된 지식 단위들을 시험 문제와 정답으로 바꾸어 내는 본격적인 ‘출제 공정’을 가동할 시간이다. 이때 많은 초보 기획자들과 개발자들이 빠지는 치명적인 유혹이 존재한다. 바로 “아키텍처도 완성되었으니 수백, 수천 페이지에 달하는 … 더 읽기
1. 최고급 모델의 비용 폭탄과 단일 모델의 편향 4편까지의 공정을 통해 6+1 문항 유형에 맞춘 날카로운 질문과 근거 발췌 초안을 생성하는 원리를 정립했다. 하지만 이 이론을 대규모 엔터프라이즈 프로젝트에 그대로 투입하려는 순간, 현실적인 ‘지갑 사정(API 비용)’과 ‘속도’라는 거대한 예산적 장벽에 부딪히게 된다. 수천, 수만 문항에 달하는 골든셋 초안 추출과 복잡한 언어적 검증 과정을 전부 Claude … 더 읽기
1. 왜 다채롭고 날카로운 시험 문제가 필요한가 인공지능 지식 엔진의 망라성을 보장하는 커버리지 맵 설계와 표 데이터의 파라메트릭 전처리가 완료되었다면, 이제 그 사실 체크리스트의 행들을 기반으로 시스템의 뼈를 사정없이 때리는 날카로운 시험 문제를 출제할 단계이다. 많은 기업 프로젝트에서 저지르는 치명적인 실수는 “A 제품의 지원 사양은 무엇인가요?”와 같이 문서에 일직선으로 적혀 있는 기초적인 사실만 단순하게 물어보는 … 더 읽기
1. 왜 촘촘한 교과서 요약본이 필요한가 인공지능 프로젝트, 그중에서도 RAG 시스템의 성능을 정량화하기 위한 골든셋 구축 과정에서 가장 거대하고 지루한 장벽은 바로 ‘지식 베이스의 원천 분해’ 단계이다. 1편에서 다루었듯, 주관에 의존하여 눈에 띄는 문장만 골라 질문을 만드는 방식은 반드시 치명적인 지식 누락을 발생시키기 때문이다. 우리가 가진 원본 지식 문서라는 거대한 영토를 단 한 평도 빠짐없이 … 더 읽기
1. 왜 내가 공들여 만든 인공지능은 결정적인 순간에 거짓말을 하는가 인공지능 기술, 그중에서도 기업 내부의 방대한 데이터를 연동하여 자연어로 답변을 도출하는 RAG(Retrieval-Augmented Generation, 검색 증강 생성) 시스템을 도입한 기업들이 공통적으로 겪는 치명적인 기술적 고통이 존재한다. 시스템 개발을 완료하고 야심 차게 현업 부서에 배포했으나, 정작 임직원들이 실전 업무에 필요한 고위험 질문을 던지면 그럴듯하게 포장된 가짜 정보를 … 더 읽기
1. AI 바이브 코딩 개념과 최신 개발 트렌드의 변화 AI 바이브 코딩(Vibe Coding)은 개발자가 직접 코드를 작성하는 전통적인 방식에서 벗어나, 구현하고자 하는 서비스의 방향성과 흐름(Vibe)을 AI에게 자연어로 설명하여 소프트웨어를 개발하는 최신 트렌드이다. 이는 전 하버드대 컴퓨터공학 교수이자 엔드로핀(Andrej Karpathy) 등 IT 업계의 선구자들이 언급하며 대중화된 용어이다. 과거의 개발이 문법(Syntax)을 익히고 디버깅을 하는 데 수많은 시간을 … 더 읽기
해당 글은 코딩 에이전트(AI)를 활용하는 패러다임이 단순한 ‘프롬프트 입력(Prompting)’에서 ‘시스템 루프 설계(Loop Engineering)’로 진화에 대한 글에서 AI와 나눈 대화 속에서 인사이트 얻은 것을 작성 [LINK] 1. 자율 루프 도입 시 발생하는 토큰 비용 부채의 현실적 한계 루프 엔지니어링이 완벽한 개발 자동화의 유토피아를 보장하는 것처럼 보이지만, 실제 엔지니어링 현장에서 직면하게 되는 가장 첫 번째 현실적 장벽은 … 더 읽기
해당 글은 코딩 에이전트(AI)를 활용하는 패러다임이 단순한 ‘프롬프트 입력(Prompting)’에서 ‘시스템 루프 설계(Loop Engineering)’로 진화에 대한 글에서 AI와 나눈 대화 속에서 인사이트 얻은 것을 작성 [LINK] 1. 앤트로픽이 제시한 복잡한 문제 해결을 위한 동적 아키텍처 루프 엔지니어링은 하늘에서 갑자기 떨어진 개념이 아니며, 글로벌 AI 연구소인 앤트로픽(Anthropic)이 정립한 동적 워크플로우(Dynamic Workflow) 아키텍처 프레임워크와 깊은 연관성을 맺고 있다. … 더 읽기
해당 글은 코딩 에이전트(AI)를 활용하는 패러다임이 단순한 ‘프롬프트 입력(Prompting)’에서 ‘시스템 루프 설계(Loop Engineering)’로 진화에 대한 글에서 AI와 나눈 대화 속에서 인사이트 얻은 것을 작성 [LINK] 1. 루프 엔지니어링 구성 요소의 기계적 메커니즘 분석 자율적으로 작동하는 루프 엔지니어링 시스템이 정상적으로 구동되기 위해서는 정밀하게 맞물려 돌아가는 5가지 기계적 구성 요소와 이를 지탱하는 1가지 외부 저장소가 필수적으로 요구된다. … 더 읽기
해당 글은 코딩 에이전트(AI)를 활용하는 패러다임이 단순한 ‘프롬프트 입력(Prompting)’에서 ‘시스템 루프 설계(Loop Engineering)’로 진화에 대한 글에서 AI와 나눈 대화 속에서 인사이트 얻은 것을 작성 [LINK] 1. 루프 엔지니어링(Loop Engineering)의 정의 패러다임의 전환: 과거 2년 동안의 방식이 AI에게 좋은 프롬프트를 주고 매 턴 결과를 확인하는 ‘도구 조작’이었다면, 이제는 작업을 찾고, 배분하고, 검증하고, 기록하는 ‘작은 시스템(루프)을 구축하여 … 더 읽기
