1. RAG 시스템 평가 자동화 패러다임 시프트와 엔지니어 독박 검증의 종말 최근 수많은 기업들이 사내 내부 데이터를 활용해 답변을 제공하는 RAG(검색 증강 생성) 시스템 도입에 열을 올리고 있다. 하지만 RAG 시스템을 구축해 본 엔지니어들이라면 누구나 마주하는 거대한 절벽이 있으니, 그것은 바로 “어제보다 오늘 고친 시스템이 정말 더 똑똑해졌는가?”라는 품질 평가의 문제라는 것이다. 검색 엔진의 파라미터나 … 더 읽기
1. 루프 엔지니어링 개념이 만드는 고부가가치 지적 반복 업무의 혁신 많은 경영진과 IT 팀장들이 인공지능을 통한 자동화를 기획할 때 흔히 저지르는 치명적인 실수는 “매일 아침 ERP 시스템에서 매출 데이터를 긁어서 엑셀에 붙여넣기 해라”와 같은 단순 규칙 기반 업무에 거대한 LLM 에이전트 루프를 적용하려는 시도이다. 비용 관점에서 이는 참사에 가깝다는 것이다. 정해진 규칙대로 데이터를 단순히 이동시키는 … 더 읽기
1. 상태 중심 아키텍처와 루프 엔지니어링 개념의 핵심 설계원칙 루프 엔지니어링 개념을 실무 환경에 소스 코드로 구현하기 위해서는 기존의 선형적(Linear) 프로그래밍 사고방식에서 완전히 탈피해야 한다. 우리가 만드는 시스템은 입력값이 들어오면 출력을 내고 끝나는 일방통행 도로가 아니라, 조건에 따라 끊임없이 뱅글뱅글 도는 로터리 교차로와 같기 때문이다. 이 교차로의 교통정리를 안전하게 수행하기 위해 가장 먼저 이해해야 하는 … 더 읽기
1. 프롬프트 엔지니어링 차이점 이해를 위한 첫걸음 생성형 AI 시대가 도래하면서 인류는 인공지능과 대화하는 새로운 기술에 직면하게 되었다. 대다수의 사용자가 인공지능 모델에게 명령어를 내리는 방식을 두고 프롬프트 엔지니어링 기술이라 일컫는다. 하지만 이 방식은 거대한 거인의 귀에 대고 한 번에 똑바른 명령을 내리기를 기도하는 것과 다름없다는 것이다. 프롬프트 엔지니어링 차이점을 명확히 이해하기 위해서는 이것이 단발성 호흡에 … 더 읽기
