AI를 쓰는 사람과 부리는 사람의 차이 | 카파시 강연으로 본 프롬프트 → 에이전트 → 그래프 — AI 사업일지

한 줄 요약

안드레이 카파시의 2023년 스탠퍼드 강연 두 편과 2025년 팟캐스트, 2026년 LLM 위키 글을 따라 AI 활용을 프롬프트, 에이전트, 그래프 3단계로 나눈다. 프롬프트는 답 하나를 주고 일을 잊고, 에이전트는 일을 끝내고 배운 걸 잊으며, 그래프는 끝낸 일을 쌓아 다음 일의 출발점으로 만든다는 것이 핵심이다.

영상 메타

URL: https://www.youtube.com/watch?v=MLV-lzR_QFQ
채널: AI 사업일지
길이: 12분 29초
업로드: 2026-10-13
조회수: 13,438 / 좋아요 119
시청일: 2026-10-17 KST (🌋 볼칸이 자막 추출 후 요약)
다루는 자료: 카파시 2023년 스탠퍼드 해커톤(TreeHacks) 강연·스탠퍼드 강의, 2025년 10월 드와케시 파텔 팟캐스트, 2026년 4월 GitHub 글 「LLM 위키」

픽업

AI를 쓰는 사람과 부리는 사람의 차이는 오늘 끝낸 일이 내일도 남아 있느냐다. 프롬프트는 답 하나를 주고 일을 잊고, 에이전트는 일을 끝내고 배운 걸 잊고, 그래프는 끝낸 일을 전부 쌓아 다음 일의 출발점으로 만든다.
같은 AI도 말을 거는 방식에 따라 맞고 틀린다. 「차근차근 생각해 보자」 한 줄로 같은 유형 시험 정답률이 17.7%에서 78.7%로, 「확실히 맞히게 단계별로 풀자」로는 82%까지 올랐다. AI는 인터넷의 평균 답을 흉내 내므로 「IQ 200인 사람이 답한다」 같은 조건을 걸면 평균을 넘는다.
카파시는 GPT를 실행 중에 바꿔 끼우는 범용 컴퓨터로 보고, 프로그램은 프롬프트로 적는다고 했다. 가장 뜨거운 새 프로그래밍 언어는 영어다. 소프트웨어 1.0은 알고리즘을, 2.0은 데이터셋을, 3.0은 프롬프트를 설계한다.
프롬프트의 약점은 AI가 한 번에 붙잡는 글의 양(당시 1024~2048 토큰)이다. 대화가 길어지면 앞부분부터 잘려 일이 잊힌다. 다음 단계는 AI에 손발을 다는 것이다. 해커톤 사례에서 GPT-3는 영어 문장을 JSON 명령으로 바꿔 20분 뒤 불을 껐고, 1등 작품은 백엔드 코드 없이 LLM이 JSON 상태를 고쳐 할 일 앱을 돌렸다.
카파시는 2025년 10월 팟캐스트에서 지금의 에이전트는 계속 배우는 능력이 없어 말해 준 것을 기억하리라 기대할 수 없고, 이를 푸는 데 10년쯤 걸린다고 봤다. 해법의 힌트는 2023년 강의의 노트패드다. 사람이 메모장을 쓰듯 AI가 바깥 노트에 쓰고 다시 읽게 하면 기억을 늘릴 수 있다.
2026년 4월 카파시의 「LLM 위키」는 파일을 올리고 질문하는 방식이 매번 처음부터 찾아 쌓이는 게 없다고 지적한다. 대신 자료가 들어오면 AI가 위키를 고치고(자료 하나에 10~15쪽), 좋은 답도 페이지로 남겨 계속 불어나는 결과물을 만든다. 자료 선택과 강조할 점은 사람이 정하고 정리는 AI가 한다. 틀린 내용이 쌓이면 틀린 출발점이 되므로 모순과 낡은 주장을 찾는 정기 점검을 둔다.
직원이 없는 1인 사업자에게 이 기록이 직원 역할을 한다. 스마트스토어 셀러가 AI로 쓴 문의 답변을 FAQ 문서에 넣고 반품 사유로 상세 페이지 규칙을 한 줄 고치면, 다음 달 AI는 그 문서부터 읽고 같은 실수를 두 번 하지 않는다. CLAUDE.md 같은 규칙 문서는 글자만 적힌 메모장이라 코딩을 몰라도 오늘 만들 수 있다.

용어

소프트웨어 3.0 [워크플로우 · 문화]: 카파시의 구분. 1.0은 사람이 알고리즘을, 2.0은 데이터셋을, 3.0은 프롬프트를 설계해 프로그램을 만든다.
토큰 [컨텍스트 · 캐시]: AI가 글을 읽는 단어 조각 단위. 한 번에 붙잡을 수 있는 양이 토큰 수로 정해지고, 넘치면 앞부분부터 잘린다.
에이전트 [하니스 · 패턴]: 말로 답하는 대신 명령을 내고, 앱이 그 명령을 받아 실제 행동을 하게 만드는 AI.
노트패드(스크래치패드) [컨텍스트 · 캐시]: AI가 쓴 내용을 바깥에 저장해 두고 다시 읽게 해서 기억을 늘리는 방식.
계속 학습 [모델 · 구독]: 일을 하면서 배운 것을 모델이 계속 기억하고 반영하는 능력. 카파시는 지금의 에이전트에 이 능력이 없다고 봤다.
LLM 위키 [지식 · 컨텍스트 자산]: 자료가 들어올 때마다 AI가 위키 페이지를 고쳐 지식을 쌓아 가는 카파시의 방식.
옵시디언(Obsidian) [지식 · 컨텍스트 자산]: 노트끼리 이어진 모습을 그래프로 보여 주는 메모 앱. 카파시가 LLM 위키를 볼 때 쓴다.
어텐션 [모델 · 구독]: 트랜스포머 안에서 단어 하나하나가 점이 되어 서로 메시지를 주고받으며 답을 만드는 구조.
CLAUDE.md [지식 · 컨텍스트 자산]: AI가 일을 시작할 때 먼저 읽는 규칙 문서. 글자만 적힌 메모장 파일이다.