늘 개발에 대한 학습에 목말라 있었음, 2011년도 xml학습으로 매해 꾸준히 히다가 2024년 본격적으로 하기로 마음을 먹음
1. RAG 시스템 최적화 실전 단계의 진입과 프롬프트 튜닝의 한계 타파 RAG 시스템 평가 자동화 루프가 인프라 레벨에서 완벽하게 구동되기 시작했다면, 이제 우리는 인공지능 어플리케이션 개발의 꽃이라고 불리는 RAG 시스템 최적화 실전 단계에 과감히 발을 들여놓아야 한다. 대다수의 초보 엔지니어들은 RAG의 답변 품질이 떨어질 때마다 시스템 프롬프트에 “제발 본문 내용에만 기반해서 친절하게 대답해줘”와 같은 애원형 … 더 읽기
1. RAG 시스템 평가 자동화 패러다임 시프트와 엔지니어 독박 검증의 종말 최근 수많은 기업들이 사내 내부 데이터를 활용해 답변을 제공하는 RAG(검색 증강 생성) 시스템 도입에 열을 올리고 있다. 하지만 RAG 시스템을 구축해 본 엔지니어들이라면 누구나 마주하는 거대한 절벽이 있으니, 그것은 바로 “어제보다 오늘 고친 시스템이 정말 더 똑똑해졌는가?”라는 품질 평가의 문제라는 것이다. 검색 엔진의 파라미터나 … 더 읽기
1. 루프 엔지니어링 개념이 만드는 고부가가치 지적 반복 업무의 혁신 많은 경영진과 IT 팀장들이 인공지능을 통한 자동화를 기획할 때 흔히 저지르는 치명적인 실수는 “매일 아침 ERP 시스템에서 매출 데이터를 긁어서 엑셀에 붙여넣기 해라”와 같은 단순 규칙 기반 업무에 거대한 LLM 에이전트 루프를 적용하려는 시도이다. 비용 관점에서 이는 참사에 가깝다는 것이다. 정해진 규칙대로 데이터를 단순히 이동시키는 … 더 읽기
1. 상태 중심 아키텍처와 루프 엔지니어링 개념의 핵심 설계원칙 루프 엔지니어링 개념을 실무 환경에 소스 코드로 구현하기 위해서는 기존의 선형적(Linear) 프로그래밍 사고방식에서 완전히 탈피해야 한다. 우리가 만드는 시스템은 입력값이 들어오면 출력을 내고 끝나는 일방통행 도로가 아니라, 조건에 따라 끊임없이 뱅글뱅글 도는 로터리 교차로와 같기 때문이다. 이 교차로의 교통정리를 안전하게 수행하기 위해 가장 먼저 이해해야 하는 … 더 읽기
1. 프롬프트 엔지니어링 차이점 이해를 위한 첫걸음 생성형 AI 시대가 도래하면서 인류는 인공지능과 대화하는 새로운 기술에 직면하게 되었다. 대다수의 사용자가 인공지능 모델에게 명령어를 내리는 방식을 두고 프롬프트 엔지니어링 기술이라 일컫는다. 하지만 이 방식은 거대한 거인의 귀에 대고 한 번에 똑바른 명령을 내리기를 기도하는 것과 다름없다는 것이다. 프롬프트 엔지니어링 차이점을 명확히 이해하기 위해서는 이것이 단발성 호흡에 … 더 읽기
1. 직무별 LLM 제어 프레임워크: 리더가 아닌 ‘실행자’로 배치하기 대형 언어 모델(LLM)을 업무에 도입할 때 가장 자주 범하는 실수는 인공지능에게 방향성을 정해달라고 요청하는 것임. 인공지능에게 추상적인 고민을 맡기면 돌아오는 것은 어디선가 본 듯한 원론적인 답변뿐임. 모든 직무에서 인공지능의 효용을 극대화하기 위해서는 ‘인간이 방향과 원본 맥락(Context)을 제공하고, 인공지능은 이를 규칙에 맞게 가공·검증·변환(Execute)하는 구조’를 만드는 것이 핵심임. … 더 읽기
1. LLM 전문가가 웹 UI 대신 API를 고집하는 현실적인 까닭 10년 넘게 인공지능과 텍스트 생성 기술을 연구해 온 유명 데이터 사이언티스트가 실제 일상 및 업무 환경에서는 대화형 인공지능 서비스인 ChatGPT나 Claude의 일반 웹 화면을 자주 사용하지 않는다고 발표했음. 이러한 현상은 언뜻 이해하기 어려울 수 있으나, 기술의 내부 동작 원리와 한계를 누구보다 깊이 이해하고 있는 전문가일수록 … 더 읽기
1. 왜 우리는 LLM에게 기대하고 실망하는가를 반복하는가? 대형 언어 모델(LLM)을 처음 접한 사용자들은 누구나 한 번쯤 감탄과 경악을 경험함. “내가 대충 던진 짧은 질문을 어떻게 이렇게 완벽하게 알아듣지?”, “이 난해한 코드를 순식간에 작성해 내다니 놀랍다”라는 반응이 대표적임. 그러나 얼마 지나지 않아 완전히 동일한 모델이 초등학생도 틀리지 않을 단순한 사실관계를 틀리거나, 어처구니없는 거짓말을 능청스럽게 늘어놓는 모습을 … 더 읽기
1. 왜 현대 IT 기업은 DORA 메트릭스 다음 단계를 고심하는가 1부에서 다룬 구글 DORA(DevOps Research and Assessment)의 4대 핵심 지표와 2부에서 살펴본 DORA의 현실적 한계 및 부작용을 통해, 우리는 한 가지 명확한 진실을 깨달을 수 있었다. DORA 메트릭스는 소프트웨어 ‘전달 파이프라인’이라는 기계적 시스템의 건강 상태를 파악하는 데에는 최상의 도구이지만, 그 시스템 안에서 직접 코드를 작성하고 … 더 읽기
1. 왜 DORA 메트릭스 맹신은 위험한 부작용을 낳는가 1부에서는 구글 DORA(DevOps Research and Assessment) 연구팀이 정립한 4대 골든 메트릭스(배포 빈도, 변경 리드 타임, 변경 실패율, 서비스 복구 시간)의 개념과, 속도 및 안정성을 동시에 달성하는 엔지니어링 조직의 성공 방정식을 다루었다. DORA 지표는 오랜 시간 동안 직관이나 추측에 머물러 있던 소프트웨어 개발 효율성을 객관적인 숫자로 시각화했다는 점에서 … 더 읽기
