ai를 활용한 자동화툴 학습하기
1. 손정의 1,000조 엔 비전 선언의 수학적 검증과 요구 조건 ㄱ. 16년 내 74조 엔에서 1,000조 엔 도약의 산술적 현실성 손정의 소프트뱅크그룹 회장은 이번 주주총회의 대미를 장식하며 향후 16년 이내에 그룹의 순자산가치(NAV)를 현재 74조 엔 수준에서 1,000조 엔(황금알 1,000개) 규모로 확대하겠다는 선언을 내놓았다. 이 파격적인 목표를 검증하기 위해서는 단순한 수사를 걷어내고 수학적인 복리 성장 모델을 … 더 읽기
1. 이론적 튜토리얼을 넘어 현장 실측 데이터로 증명하는 RAG의 진실 이론적으로 제시되는 6단계 검색 아키텍처의 허실과 해커뉴스 엔지니어들이 지적하는 과잉 엔지니어링의 위험성을 집중적으로 고찰하였다. 많은 프로젝트가 화려한 최신 기술 스택을 도입하면 마법처럼 검색 증강 생성(RAG, Retrieval-Augmented Generation) 시스템의 품질이 수직 상승할 것이라는 막연한 기대를 품고 출발한다. 그러나 실제 프로덕션 환경에 배포된 시스템은 연구실의 벤치마크 데이터셋처럼 … 더 읽기
요즘 RAG 시스템의 검증/평가 체계에 대해서 업무를 하면서 본부장님이 글을 하나 공유 해줬다. [LINK] 현재 우리가 하고 있는 것과 방향성이 조금 다르지만 습득 할만한 정보였다고 생각한다. 1. RAG 아키텍처 과잉 엔지니어링의 시작과 현실적 문제의식 인공지능 기술이 급격하게 발전하면서 거대 언어 모델(LLM)을 활용한 검색 증강 생성(RAG, Retrieval-Augmented Generation) 시스템은 기업 내 지식 관리와 고객 응대 자동화의 … 더 읽기
이론과 현실의 간극을 명확히 확인한 엔지니어링 조직이 마주하는 최종 종착지는 결국 하나로 귀결된다. 바로 “우리가 구축한 이 검색 시스템이 실제로 잘 작동하고 있는지를 어떻게 객관적 수치로 증명하고 검증할 것인가?”라는 평가 체계(Evaluation Framework)의 문제다. 수많은 기업이 RAG 시스템을 도입하면서도 실제 프로덕션 단계에서 배포 결정을 내리지 못하고 우왕좌왕하는 이유는 명확하다. 성능을 측정하는 ‘평가의 기준선(Baseline)’ 자체가 첫 단추부터 … 더 읽기
1. RAG 검색 아키텍처의 탁상공론과 실무 엔지니어들이 폭로한 현실적 한계 데이터 신선도와 트래픽 규모에 따라 점진적으로 진화하는 ‘RAG 6단계 아키텍처’와 하이브리드 검색의 메커니즘을 살펴보았다. 이론적으로 이 6단계 로드맵은 매우 논리정연하며, 인공지능 인프라를 설계하는 엔지니어링 팀에게 완벽한 교과서적 청사진을 제공하는 것처럼 보인다. 깔끔한 이론이 글로벌 대규모 실무 운영자들의 커뮤니티인 해커뉴스(Hacker News)에 공개되었을 때, 현업에서 수억 건의 … 더 읽기
키워드 검색 엔진인 BM25와 1원짜리 경량 LLM 질의 재작성(Query Rewriting) 조합만으로도 전체 실무 검색 문제의 60%를 해결할 수 있음을 확인했다. 불필요하게 고가의 벡터 데이터베이스(Vector DB)를 도입하거나 복잡한 딥러닝 임베딩 파이프라인을 구축하지 않고도, 질문을 잘 다듬어 정교한 색인에 던지는 것만으로 대부분의 기업용 검색 요구사항을 충족할 수 있다는 사실은 엔지니어링 비용을 획기적으로 줄여주는 출발점이 되었다. 그러나 비즈니스가 … 더 읽기
1. RAG 검색 60% 문제를 해결하는 BM25 키워드 검색과 1원짜리 질의 재작성 가이드 최근 인공지능 기술의 급격한 발전과 함께 거대언어모델(LLM)을 사내 업무나 서비스에 접목하려는 시도가 폭발적으로 증가했다. 그 중심에는 언제나 검색 증강 생성(Retrieval-Augmented Generation, RAG) 기술이 자리 잡고 있다. 인공지능이 사전에 학습하지 못한 기업 내부의 비공개 데이터나 실시간 최신 정보를 검색하여 정확한 답변을 생성하도록 돕는 … 더 읽기
1. RAG 분해 공정의 마의 구간, 비정형과 표 데이터 2편에서 지식 베이스를 샅샅이 분해하여 지식의 영토를 확정하는 ‘커버리지 맵’의 대전제와 의미 단위 분해 규칙을 살펴보았다. 하지만 이론을 숙지한 채 실전 데이터 전처리 전선에 뛰어든 기획자와 엔지니어들이 예외 없이 마주치는 거대하고 악명 높은 장벽이 존재한다. 바로 에디션별 기능 지원 현황, 부서별 접근 권한 가부, 제품 스펙 … 더 읽기
현재까지 나의 대화와 내 깃허브를 보았을 때 어느정도냐고 물어보았다. 1. 비개발자가 AI를 통해 시니어 개발자의 성과를 내는 시대의 도래 현대 소프트웨어 개발 환경은 급격하게 변화하고 있다. 과거에는 프로그래밍 언어의 문법을 익히고 수만 줄의 코드를 직접 타이핑하는 ‘구현 능력’이 개발자의 핵심 역량이었다. 그러나 AI 에이전트와 LLM(Large Language Model)의 등장은 이러한 패러다임을 완전히 뒤바꾸어 놓았다. 이제는 코드를 … 더 읽기
번역 관리 시스템(TMS)에서 대용량 리소스나 복잡한 다국어 메타데이터를 소화할 때, 사소한 인터랙션의 결함과 비동기 처리 지연은 사용자의 작업 연속성을 저해하는 심각한 병목 요인이 된다. 특히 AI 자동 번역과 같이 대기 시간이 수십 초 이상 발생하는 무거운 프로세스를 동기식으로 제어하거나, 브라우저의 이벤트 전파 단계를 잘못 다루면 시스템의 신뢰도가 급격히 저하된다. 최근 진행된 ‘Translation Manager’ 프로젝트의 27번째 … 더 읽기
