늘 개발에 대한 학습에 목말라 있었음, 2011년도 xml학습으로 매해 꾸준히 히다가 2024년 본격적으로 하기로 마음을 먹음
1. 스파게티 코드와 AI 망각, 대형 프로젝트의 적 우리는 RLHF/DPO 알고리즘을 통해 인간의 의도를 잘 파악하게 된 AI를 활용하여, 비개발자가 Cursor나 n8n 같은 도구로 ‘바이브 코딩’을 하는 방법에 대해 알아보았다. 하지만 랜딩 페이지 한 장이나 간단한 자동화 봇을 만드는 것과, 실제 사용자가 가입하고 결제하는 ‘대규모 서비스’를 만드는 것은 차원이 다른 이야기이다. 비개발자가 바이브 코딩으로 규모 … 더 읽기
1. DPO 알고리즘으로 똑똑해진 AI, ‘바이브’를 알아듣다 AI가 어떻게 인간의 선호도를 학습하여 정렬(Alignment)되는지, 그 기술적 근간인 RLHF의 PPO와 DPO 알고리즘에 대해 알아보았다. 특히 최신 트렌드인 DPO 알고리즘 덕분에 AI는 더욱 빠르고 효율적으로, 그리고 정확하게 인간의 의도를 파악하게 되었다. 이제 우리는 이 ‘말귀 알아먹는 똑똑한 AI’를 활용하여 실제로 무언가를 만들어내는 단계, 바로 ‘바이브 코딩(Vibe Coding)’의 세계로 … 더 읽기
우리가 챗GPT나 클로드 같은 생성형 AI와 마치 사람과 대화하듯 편안하게 이야기하고, 심지어 코드를 짜달라고 요청할 수 있게 된 것은 그리 오래된 일이 아니다. 초기 언어 모델은 그저 다음에 올 단어를 통계적으로 예측하는 거대한 기계에 불과했다. 그런 기계가 어떻게 인간의 의도(Intent)를 파악하고, 유용한 답변을 하며, 무례한 질문을 거부할 수 있게 되었을까? 그 핵심 비밀은 바로 RLHF(Reinforcement … 더 읽기
인공지능과 협업을 진행하며 가장 큰 성취감을 느끼는 순간은 AI가 내 의도를 ‘찰떡같이’ 알아듣고, 가르쳐주지 않은 부분까지 내 취향에 맞춰 스스로 제안할 때이다. RLHF의 마지막 두 단계인 보상 모델(Reward Model)과 강화학습(Reinforcement Learning)은 AI에게 단순한 지식을 넘어 ‘판단력’과 ‘습관’을 형성해주는 과정이다. 비개발자가 실무에서 이 원리를 활용한다는 것은 AI의 답변 하나하나에 점수를 매기고 교정함으로써, 시간이 지날수록 나에게 더 … 더 읽기
인공지능과 협업할 때 가장 빈번하게 발생하는 문제는 AI가 내놓은 결과물이 ‘나의 의도’와는 맞지만 ‘나의 스타일’과는 동떨어져 있다는 점이다. RLHF의 첫 번째 단계인 SFT(Supervised Fine-Tuning, 지도 미세 조정)는 바로 이 지점을 해결하는 핵심 열쇠이다. 비개발자가 실무에서 SFT 원리를 활용한다는 것은, AI에게 막연한 창작을 맡기는 대신 내가 원하는 정답의 ‘형태’와 ‘질감’을 미리 학습시키는 과정을 의미한다. 이를 통해 … 더 읽기
인공지능과 대화하는 시대가 도래하며 많은 비개발자 직군이 AI를 업무에 도입하고 있다. 하지만 대다수의 사용자가 “AI가 내 의도를 제대로 파악하지 못한다”거나 “결과물이 기대에 못 미친다”는 불평을 토로하곤 한다. 이러한 문제의 근본적인 원인은 AI의 학습 메커니즘인 RLHF(Reinforcement Learning from Human Feedback, 인간 피드백 기반 강화학습)에 대한 이해 부족에서 기인한다. RLHF는 단순히 기술적인 용어를 넘어, AI가 인간의 가치관과 … 더 읽기
최근 클로드 코드(Claude Code)와 같은 혁신적인 AI 보조 도구가 등장하면서 개발 생산성은 비약적으로 상승했다. 하지만 빛이 있으면 그림자도 있는 법이다. AI가 코드를 생성하는 과정에서 예시로 포함한 API 키나 환경 변수가 실제 값으로 교체된 채 그대로 Git 저장소에 커밋되는 사고가 빈번하게 발생하고 있다는 것이다. 이러한 민감 정보 유출은 단순한 실수를 넘어 기업의 클라우드 자산 탈취나 데이터 … 더 읽기
아침부터 Vercel 해킹으로 인해서 시끌시끌 해서, AI와 수다떤 내용을 작성해본다. [LINK] Vercel 보안 사고에 대해 심층 분석하고, 소위 ‘바이브 코딩(Vibe Coding)’이라 불리는 AI 기반 개발 환경에서 우리가 반드시 갖춰야 할 보안 장치들을 정리해 보려 한다. 개발 지식이 부족해도 AI의 도움으로 서비스를 뚝딱 만들어낼 수 있는 시대가 왔지만, 그 이면에 숨겨진 보안의 구멍을 모른다면 공들여 만든 … 더 읽기
LLM RAG에 대한 글을 공유 받고, 이 글을 AI와 공부한 내용을 정리해서 업로드 합니다. [LINK] 1. 단순한 위키를 넘어선 ‘지식 운영체제(Knowledge OS)’로의 진화 영구적 위키(Persistent Wiki)는 단순한 정보의 저장소가 아님. 이것은 사용자의 사고 과정을 보조하고, 방대한 데이터를 구조화하여 필요할 때 즉각적인 통찰을 제공하는 ‘개인용 지식 운영체제(Knowledge OS)’임. 기존의 폴더 기반 정리 방식이 정적이고 수동적이었다면, LLM이 … 더 읽기
LLM RAG에 대한 글을 공유 받고, 이 글을 AI와 공부한 내용을 정리해서 업로드 합니다. [LINK] 1. 지식의 복리(Compounding Knowledge): 시간이 흐를수록 정교해지는 위키 영구적 위키(Persistent Wiki)의 가장 큰 매력은 데이터가 쌓일수록 정보의 밀도와 정확도가 기하급수적으로 상승한다는 것이다. 일반적인 RAG 시스템은 데이터가 늘어날수록 검색 노이즈가 증가하여 답변의 질이 정체되거나 오히려 하락하는 현상을 겪음. 하지만 안드레이 카파시가 … 더 읽기
