2025년 피지컬AI와 휴머노이드를 본격적으로 학습하면서 AI교육에 정부, 기업, 개인이 모두 학습하고 있는 시점에서 학습한 것을 정리하는 공간
ai, physical, humanoid, study, learning
인공지능과 협업을 진행하며 가장 큰 성취감을 느끼는 순간은 AI가 내 의도를 ‘찰떡같이’ 알아듣고, 가르쳐주지 않은 부분까지 내 취향에 맞춰 스스로 제안할 때이다. RLHF의 마지막 두 단계인 보상 모델(Reward Model)과 강화학습(Reinforcement Learning)은 AI에게 단순한 지식을 넘어 ‘판단력’과 ‘습관’을 형성해주는 과정이다. 비개발자가 실무에서 이 원리를 활용한다는 것은 AI의 답변 하나하나에 점수를 매기고 교정함으로써, 시간이 지날수록 나에게 더 … 더 읽기
인공지능과 협업할 때 가장 빈번하게 발생하는 문제는 AI가 내놓은 결과물이 ‘나의 의도’와는 맞지만 ‘나의 스타일’과는 동떨어져 있다는 점이다. RLHF의 첫 번째 단계인 SFT(Supervised Fine-Tuning, 지도 미세 조정)는 바로 이 지점을 해결하는 핵심 열쇠이다. 비개발자가 실무에서 SFT 원리를 활용한다는 것은, AI에게 막연한 창작을 맡기는 대신 내가 원하는 정답의 ‘형태’와 ‘질감’을 미리 학습시키는 과정을 의미한다. 이를 통해 … 더 읽기
인공지능과 대화하는 시대가 도래하며 많은 비개발자 직군이 AI를 업무에 도입하고 있다. 하지만 대다수의 사용자가 “AI가 내 의도를 제대로 파악하지 못한다”거나 “결과물이 기대에 못 미친다”는 불평을 토로하곤 한다. 이러한 문제의 근본적인 원인은 AI의 학습 메커니즘인 RLHF(Reinforcement Learning from Human Feedback, 인간 피드백 기반 강화학습)에 대한 이해 부족에서 기인한다. RLHF는 단순히 기술적인 용어를 넘어, AI가 인간의 가치관과 … 더 읽기
최근 클로드 코드(Claude Code)와 같은 혁신적인 AI 보조 도구가 등장하면서 개발 생산성은 비약적으로 상승했다. 하지만 빛이 있으면 그림자도 있는 법이다. AI가 코드를 생성하는 과정에서 예시로 포함한 API 키나 환경 변수가 실제 값으로 교체된 채 그대로 Git 저장소에 커밋되는 사고가 빈번하게 발생하고 있다는 것이다. 이러한 민감 정보 유출은 단순한 실수를 넘어 기업의 클라우드 자산 탈취나 데이터 … 더 읽기
아침부터 Vercel 해킹으로 인해서 시끌시끌 해서, AI와 수다떤 내용을 작성해본다. [LINK] Vercel 보안 사고에 대해 심층 분석하고, 소위 ‘바이브 코딩(Vibe Coding)’이라 불리는 AI 기반 개발 환경에서 우리가 반드시 갖춰야 할 보안 장치들을 정리해 보려 한다. 개발 지식이 부족해도 AI의 도움으로 서비스를 뚝딱 만들어낼 수 있는 시대가 왔지만, 그 이면에 숨겨진 보안의 구멍을 모른다면 공들여 만든 … 더 읽기
LLM RAG에 대한 글을 공유 받고, 이 글을 AI와 공부한 내용을 정리해서 업로드 합니다. [LINK] 1. 단순한 위키를 넘어선 ‘지식 운영체제(Knowledge OS)’로의 진화 영구적 위키(Persistent Wiki)는 단순한 정보의 저장소가 아님. 이것은 사용자의 사고 과정을 보조하고, 방대한 데이터를 구조화하여 필요할 때 즉각적인 통찰을 제공하는 ‘개인용 지식 운영체제(Knowledge OS)’임. 기존의 폴더 기반 정리 방식이 정적이고 수동적이었다면, LLM이 … 더 읽기
LLM RAG에 대한 글을 공유 받고, 이 글을 AI와 공부한 내용을 정리해서 업로드 합니다. [LINK] 1. 지식의 복리(Compounding Knowledge): 시간이 흐를수록 정교해지는 위키 영구적 위키(Persistent Wiki)의 가장 큰 매력은 데이터가 쌓일수록 정보의 밀도와 정확도가 기하급수적으로 상승한다는 것이다. 일반적인 RAG 시스템은 데이터가 늘어날수록 검색 노이즈가 증가하여 답변의 질이 정체되거나 오히려 하락하는 현상을 겪음. 하지만 안드레이 카파시가 … 더 읽기
LLM RAG에 대한 글을 공유 받고, 이 글을 AI와 공부한 내용을 정리해서 업로드 합니다. [LINK] 1. 지식의 작업실: Obsidian을 위키의 IDE로 활용하기 LLM 위키를 구축하기 위한 가장 강력한 도구는 옵시디언(Obsidian)임. 옵시디언은 단순한 메모 앱이 아니라, 로컬 마크다운 파일을 기반으로 지식의 연결망을 시각화해주는 지식 관리 환경(IDE)이라는 것이다. 카파시는 “옵시디언은 IDE이고, LLM은 프로그래머이며, 위키는 코드베이스”라고 비유했음. 옵시디언을 … 더 읽기
LLM RAG에 대한 글을 공유 받고, 이 글을 AI와 공부한 내용을 정리해서 업로드 합니다. [LINK] 1. 지식의 충돌과 해결: 상충 관리(Conflict Resolution)의 메커니즘 영구적 위키에 새로운 데이터를 통합할 때 가장 빈번하게 발생하는 문제는 기존 지식과의 충돌임. 과거의 데이터는 A가 정답이라고 기록했지만, 최신 논문이나 보고서는 B가 새로운 표준이라고 주장할 수 있음. 이때 LLM은 단순히 기존 파일을 … 더 읽기
LLM RAG에 대한 글을 공유 받고, 이 글을 AI와 공부한 내용을 정리해서 업로드 합니다. [LINK] 1. 지식의 위계 질서: Raw, Wiki, Schema의 3층 구조 설계 LLM 위키가 단순한 파일 뭉치로 전락하지 않으려면 엄격한 계층 구조가 필요함. 안드레이 카파시는 이를 세 가지 층위로 구분하여 관리할 것을 제안했음. ㄱ. 첫 번째 층은 ‘Raw Sources(원천 데이터)’임. 이것은 수정이 … 더 읽기
