현재 위치: 1개월차 1주차 · CHO-FAM 전체 구조를 연구 대상으로 정의하고 Cho-Pilot Mini로 첫 비교실험을 수행한다.
CHO-FAM에서 무엇을 고정 Workflow로 만들고, 무엇을 AI Agent에게 자율적으로 맡겨야 하는가?
| 요일 | 활동 | 시간 | 산출물 |
|---|---|---|---|
| 화 | O’Reilly: AI application planning·evaluation + system boundary | 1h | 개념 노트 |
| 수 | Agent architecture survey 읽기 | 1.5h | CHO-FAM 매핑표 |
| 목 | Manning Ch.1: Workflow vs Agent | 1.5h | 비교 노트 |
| 금 | CHO-FAM C4 Context 수준 구조 작성 | 1.5h | Architecture diagram |
| 토 | Cho-Pilot Mini: Workflow/Agent 버전 구현 | 2h | 실험 코드 |
| 일 | 10개 시나리오 평가 + Research Note | 1.5h | 결과표·연구노트 |
O’Reilly 주교재: Chip Huyen, AI Engineering. 공식 페이지 1주차는 foundation model 자체보다 AI application planning, evaluation, engineering stack에 초점을 맞춘다.
읽으면서 CHO-FAM에 대해 다음 네 질문에 답한다: 시스템 경계는 어디인가, 성공을 무엇으로 정의하는가, 어떤 component가 deterministic해야 하는가, 어떤 component가 model-driven이어도 되는가.
Manning 심화 참고자료: Build an AI Agent (From Scratch), Chapter 1. O’Reilly 제공 페이지 핵심은 Workflow = developer-defined flow, Agent = LLM-directed flow의 차이를 실제 코드로 확인하는 것이다.
이번 주에는 LangGraph 등 프레임워크를 먼저 사용하지 않는다. 작은 loop를 직접 작성해 observe → decide → act → observe 구조를 이해한다.
논문 세미나: ReAct: Synergizing Reasoning and Acting in Language Models. 원문 LLM core, memory, planner, tool router, critic과 single/multi-agent orchestration taxonomy를 CHO-FAM에 매핑한다.
논문 노트 형식: 문제 / 핵심 가정 / 방법 / 평가 / 한계 / CHO-FAM 적용 가설.
가상의 email, calendar, tasks JSON context를 준비하고 같은 문제를 두 방식으로 구현한다.
A. Workflow: Collect → Classify → Rank → Recommend
B. Agent: Context → LLM chooses action → Tool → Observation → Continue/Finish
목적은 Agent가 무조건 더 좋다는 것을 증명하는 것이 아니라, Agentic control이 필요한 조건을 찾는 것이다.
긴급메일, 오늘 회의, 기한 지난 task 등이 섞인 합성 업무 시나리오 10개를 만든다. 두 구현에 동일하게 적용하고 Task success, Wrong action, LLM calls, Latency, Token/Cost, Consistency를 기록한다.
성공 기준: Agent가 Workflow보다 우수할 필요는 없다. 어떤 조건에서 Workflow가 더 싸고 빠르고 안정적인지 설명할 수 있으면 성공이다.
docs/research/01-agent-vs-workflow.md — Research Note 2–3쪽docs/architecture/cho-fam-context.md — 시스템 경계와 component mapexperiments/agent-vs-workflow/ — 두 구현 및 10개 테스트results/week01.csv — 실험 결과Research Note의 마지막 문장: For CHO-FAM, agentic control should be introduced only when ______.
아래 내용은 대화형 학습에서 확인된 이해와 설계 판단을 기록한 것이다. 아직 구현하거나 측정하지 않은 항목은 완료로 간주하지 않는다.
| 학습 영역 | 확인된 이해와 결정 | 상태 |
|---|---|---|
| Day 1 · Research Methodology | Workflow는 LLM 사용 여부가 아니라 developer-defined control flow로 구분한다. 공정한 비교를 위해 입력·도구·모델·평가기준을 고정하고, 오늘 마감 누락을 더 큰 오류로 보아 Recall을 우선하되 Precision을 함께 기록한다. | 개념 완료 |
| Day 2 · Agent Architecture | Planner는 다음 행동을 선택하고, tool router/executor는 검증된 호출을 실행한다. State와 model context를 구분하며, validator와 orchestrator가 근거·실행 한도·human-in-the-loop escalation을 관리한다. | 개념 완료 |
| Day 3 · Agent Loop | observe → decide → act → observe에서 새 observation이 실제 불확실성을 줄였는지 확인한다. 동일 결과 반복, 진전 없는 탐색, scope 불명확 시 다른 접근 또는 사용자 질문으로 전환한다. | 개념 완료 |
| Day 4 · System Boundary | Cho-Pilot은 근거를 수집해 실행 가능한 업무시간을 추천한다. Email·Calendar·Task·Model service는 외부 시스템이다. 일정 생성 전에는 최신 calendar를 다시 확인하고, 조건이 바뀌면 권한 범위 안에서 재계획하거나 사용자에게 묻는다. | 개념 완료 |
| 논문·구현·측정 | ReAct 원문 노트, Workflow/Agent 코드, 10개 시나리오 반복실험 및 실제 비용·latency 측정이 필요하다. | 실습 예정 |
아래는 제출 형식과 판단 수준을 보여주는 예시다. 특히 결과표의 수치는 실제 측정값이 아니며, Lab 실행 후 교체해야 한다.
연구질문: Cho-Pilot 업무 우선순위 추천에서 Agentic control은 언제 고정 Workflow보다 가치가 있는가?
가설: 처리 순서가 명확한 시나리오에서는 Workflow가 더 낮은 cost와 latency로 일관된 성공률을 보이고, 중간 결과에 따라 추가 탐색이 필요한 시나리오에서는 Agent가 task success를 높일 수 있다.
독립변수: control strategy(Workflow/Agent). 통제변수: 입력, 도구와 권한, 모델과 공통 설정, step budget, 평가기준. 종속변수: Task success, Wrong action, LLM calls, Latency, Token/Cost, Consistency.
오류 정책: 오늘 마감 업무의 누락 비용을 오포함보다 크게 본다. Recall을 우선하되 Precision을 함께 보고, 둘을 모두 충족하지 못한 편향된 해법을 피한다.
현재 결론: 구조화된 날짜 비교, 일정 충돌 확인, 권한 및 실행 한도는 deterministic code로 처리한다. Agent는 관찰 결과가 다음 행동을 실질적으로 바꾸는 경우에만 비교 대상으로 도입한다.
마지막 문장: For CHO-FAM, agentic control should be introduced only when intermediate observations materially change the next required action and the measured gain justifies added cost and variability.
| 요소 | 경계 | 관계 |
|---|---|---|
| User | 외부 사람 | 목표·제약을 제공하고, 불명확한 결정에 답하며, 최종 행동을 승인한다. |
| Cho-Pilot | 대상 시스템 | 근거를 수집하고 우선순위와 가능한 업무시간을 추천·검증한다. |
| Email System | 외부 시스템 | 요청, 맥락, 상대방, 암시된 deadline의 근거를 제공한다. |
| Calendar System | 외부 시스템 | 회의와 가용시간을 제공하며, 확장 범위에서는 승인 후 일정을 생성한다. |
| Task System | 외부 시스템 | 업무 상태, 명시적 deadline, priority를 제공한다. |
| Model Service | 외부 시스템 | 자연어 해석과 다음 행동 후보를 제공하지만 권한과 실행 한도는 소유하지 않는다. |
User ── goal / clarification / approval ──▶ Cho-Pilot
│
┌───────────────┬────────────┼──────────────┐
▼ ▼ ▼ ▼
Email System Calendar System Task System Model ServicePlanner, state, validator, tool router, orchestrator는 Cho-Pilot 내부 책임이므로 Context diagram이 아니라 다음 단계의 Container/Component view에서 표현한다.# Workflow: 개발자가 순서와 분기를 정의
context = collect(email, calendar, tasks)
classified = llm_classify(context)
ranked = rank_by_rules(classified)
return validate(llm_recommend(ranked), context)
# Agent: 모델이 observation에 따라 다음 행동을 선택
state = initial_state(request)
for step in range(MAX_STEPS):
decision = choose_next_action(state, allowed_tools)
if decision.type in {"finish", "ask_user"}:
return validate_or_pause(decision, state)
observation = execute_validated(decision)
state = update_and_check_progress(state, decision, observation)
return budget_exhausted(state)필수 safeguard: allowed tools, argument validation, read/write permission 분리, maximum steps/cost, duplicate/no-progress detection, evidence-based completion, human escalation.
results/week01.csvscenario,control,task_success,wrong_action,llm_calls,latency_ms,cost_usd,consistent
structured_deadline,workflow,1,0,2,1200,0.004,1
structured_deadline,agent,1,0,4,2400,0.009,1
ambiguous_meeting,workflow,0,1,2,1300,0.004,1
ambiguous_meeting,agent,1,0,5,3100,0.011,1예시 해석: 첫 시나리오에서는 성공률이 같아 Workflow가 효율적이다. 두 번째에서는 Agent가 추가 탐색으로 성공했지만 비용과 latency가 증가했다. 이 값들은 설명용 가상 수치이며 실제 결론에는 사용할 수 없다.| 범위 | 상태 |
|---|---|
| 1개월차 · Weeks 1–4 | 진행중 |
| Week 01 | 현재 페이지 |
| Week 02 · CS Foundations / System Decomposition | 현재 주차 |
| Week 03 · Probability / Metrics | 예정 |
| Week 04 · Experiment Design | 예정 |
| 2–12개월차 | 전체 개요는 메인 커리큘럼 참조 |
이전 주: 없음 · 다음 주: Week 02 · System Decomposition