늘 개발에 대한 학습에 목말라 있었음, 2011년도 xml학습으로 매해 꾸준히 히다가 2024년 본격적으로 하기로 마음을 먹음
1. 구경꾼 캐릭터에 머물렀던 기존 인공지능의 한계와 실태 우리가 지금까지 일상 업무나 개발 프로세스에서 습관적으로 사용하던 구글의 제미나이(Gemini)나 오픈AI의 챗GPT(ChatGPT), 그리고 앤트로픽의 클로드(Claude) 웹 인터페이스는 아무리 뛰어난 지능을 가졌어도 결국 대화형 챗봇이라는 태생적 한계에 머물러 있다. 사용자가 아무리 복잡한 시스템 아키텍처나 소스코드 구현안을 질문하더라도, 인공지능이 수행하는 행동은 모니터 화면 속 좁은 채팅창 안에 화려하고 정교한 … 더 읽기
1. 엔지니어링 사고 능력이 실력 있는 개발자와 비개발자의 몸값을 결정하는 핵심 이유 IT 업계에서 일하다 보면 누구나 한 번쯤 “개발자라면 당연히 컴퓨터공학적인 설계를 잘하고 효율적인 해결책을 내놓겠지?”라는 환상을 갖게 마련이다. 그러나 현실에서 마주하는 수많은 개발자들의 모습은 천차만별이다. 요구사항을 완벽하게 구현해내는 탑클래스 설계자가 있는 반면, 간단한 변경 사항 조차 적용하지 못해 쩔쩔매는 이들도 수두룩하다. 여기에서 우리는 … 더 읽기
바이브코딩하면서 superbase를 많이 쓰게 되었다.하지만, superbase에 한정되서 작업 진행했기 때문에 AI가 한정된 자원으로 나의 요구사항을 처리하기에는 힘들어했다. 때마침 개발자인 친구가 SQLite를 추천해줘서 SQLite도 대응하면서 AI가 훨씬 풍부한 자원으로 내 요구사항을 처리 해줬다. 그러면서 친구가 미국의회 도서관에서도 SQLite를 사용하고 있다며 링크를 보내주었다.[LINK] 사실, 요구사항을 처리하는 것에 급급해 SQLite가 얼마나 좋은 도구인지 몰랐기에 이번에 한번 학습하면서 정리하고자 … 더 읽기
요즘 트랜드는 또, MD파일을 HTML로 변경해서 보는 사람들이 늘어나고 있다고 한다. [LINK] 이 현상이 자리 잡으면, 깃허브에도 mD 파일이 아닌 HTML 파일로 볼 수 있게 제공하지 않을까? 라는 이야기를 했더니 개발자 친구는 NOPE!이라고 단호하게 이야기 했다. 우리가 매일 사용하는 생성형 AI(클로드, 챗GPT 등)는 놀라운 속도로 방대한 정보를 쏟아냅니다. “이번 프로젝트 기획서 써줘”, “프로그램 개발 계획 … 더 읽기
1. DPO 알고리즘 그 이후, Process Supervision의 시대 RLHF의 기반이 되는 PPO 알고리즘부터 최신 트렌드인 DPO(Direct Preference Optimization) 알고리즘, 그리고 이를 활용한 비개발자의 바이브 코딩 도구와 대규모 서비스 구축 전략까지 섭렵했다. 특히 1편에서 다루었던 DPO 알고리즘은 AI 모델 학습의 효율성을 비약적으로 높여, 우리가 쓰는 도구들이 더 빠르게 인간의 의도를 파악하도록 만들었다. 그렇다면 AI 기술은 여기서 … 더 읽기
1. 스파게티 코드와 AI 망각, 대형 프로젝트의 적 우리는 RLHF/DPO 알고리즘을 통해 인간의 의도를 잘 파악하게 된 AI를 활용하여, 비개발자가 Cursor나 n8n 같은 도구로 ‘바이브 코딩’을 하는 방법에 대해 알아보았다. 하지만 랜딩 페이지 한 장이나 간단한 자동화 봇을 만드는 것과, 실제 사용자가 가입하고 결제하는 ‘대규모 서비스’를 만드는 것은 차원이 다른 이야기이다. 비개발자가 바이브 코딩으로 규모 … 더 읽기
1. DPO 알고리즘으로 똑똑해진 AI, ‘바이브’를 알아듣다 AI가 어떻게 인간의 선호도를 학습하여 정렬(Alignment)되는지, 그 기술적 근간인 RLHF의 PPO와 DPO 알고리즘에 대해 알아보았다. 특히 최신 트렌드인 DPO 알고리즘 덕분에 AI는 더욱 빠르고 효율적으로, 그리고 정확하게 인간의 의도를 파악하게 되었다. 이제 우리는 이 ‘말귀 알아먹는 똑똑한 AI’를 활용하여 실제로 무언가를 만들어내는 단계, 바로 ‘바이브 코딩(Vibe Coding)’의 세계로 … 더 읽기
우리가 챗GPT나 클로드 같은 생성형 AI와 마치 사람과 대화하듯 편안하게 이야기하고, 심지어 코드를 짜달라고 요청할 수 있게 된 것은 그리 오래된 일이 아니다. 초기 언어 모델은 그저 다음에 올 단어를 통계적으로 예측하는 거대한 기계에 불과했다. 그런 기계가 어떻게 인간의 의도(Intent)를 파악하고, 유용한 답변을 하며, 무례한 질문을 거부할 수 있게 되었을까? 그 핵심 비밀은 바로 RLHF(Reinforcement … 더 읽기
인공지능과 협업을 진행하며 가장 큰 성취감을 느끼는 순간은 AI가 내 의도를 ‘찰떡같이’ 알아듣고, 가르쳐주지 않은 부분까지 내 취향에 맞춰 스스로 제안할 때이다. RLHF의 마지막 두 단계인 보상 모델(Reward Model)과 강화학습(Reinforcement Learning)은 AI에게 단순한 지식을 넘어 ‘판단력’과 ‘습관’을 형성해주는 과정이다. 비개발자가 실무에서 이 원리를 활용한다는 것은 AI의 답변 하나하나에 점수를 매기고 교정함으로써, 시간이 지날수록 나에게 더 … 더 읽기
인공지능과 협업할 때 가장 빈번하게 발생하는 문제는 AI가 내놓은 결과물이 ‘나의 의도’와는 맞지만 ‘나의 스타일’과는 동떨어져 있다는 점이다. RLHF의 첫 번째 단계인 SFT(Supervised Fine-Tuning, 지도 미세 조정)는 바로 이 지점을 해결하는 핵심 열쇠이다. 비개발자가 실무에서 SFT 원리를 활용한다는 것은, AI에게 막연한 창작을 맡기는 대신 내가 원하는 정답의 ‘형태’와 ‘질감’을 미리 학습시키는 과정을 의미한다. 이를 통해 … 더 읽기
