1주차 · Research Methodology + Agent vs Workflow

현재 위치: 1개월차 1주차 · CHO-FAM 전체 구조를 연구 대상으로 정의하고 Cho-Pilot Mini로 첫 비교실험을 수행한다.

1. 이번 주 목표

핵심 연구질문

CHO-FAM에서 무엇을 고정 Workflow로 만들고, 무엇을 AI Agent에게 자율적으로 맡겨야 하는가?

2. 주간 시간표 · 총 9시간

요일활동시간산출물
화O’Reilly: AI application planning·evaluation + system boundary1h개념 노트
수Agent architecture survey 읽기1.5hCHO-FAM 매핑표
목Manning Ch.1: Workflow vs Agent1.5h비교 노트
금CHO-FAM C4 Context 수준 구조 작성1.5hArchitecture diagram
토Cho-Pilot Mini: Workflow/Agent 버전 구현2h실험 코드
일10개 시나리오 평가 + Research Note1.5h결과표·연구노트

3. O’Reilly 정규과목

O’Reilly 주교재: Chip Huyen, AI Engineering. 공식 페이지 1주차는 foundation model 자체보다 AI application planning, evaluation, engineering stack에 초점을 맞춘다.

읽으면서 CHO-FAM에 대해 다음 네 질문에 답한다: 시스템 경계는 어디인가, 성공을 무엇으로 정의하는가, 어떤 component가 deterministic해야 하는가, 어떤 component가 model-driven이어도 되는가.

4. Manning Agent 심화 세미나

Manning 심화 참고자료: Build an AI Agent (From Scratch), Chapter 1. O’Reilly 제공 페이지 핵심은 Workflow = developer-defined flow, Agent = LLM-directed flow의 차이를 실제 코드로 확인하는 것이다.

이번 주에는 LangGraph 등 프레임워크를 먼저 사용하지 않는다. 작은 loop를 직접 작성해 observe → decide → act → observe 구조를 이해한다.

5. 논문 세미나

논문 세미나: ReAct: Synergizing Reasoning and Acting in Language Models. 원문 LLM core, memory, planner, tool router, critic과 single/multi-agent orchestration taxonomy를 CHO-FAM에 매핑한다.

논문 노트 형식: 문제 / 핵심 가정 / 방법 / 평가 / 한계 / CHO-FAM 적용 가설.

6. CHO-FAM Lab · Cho-Pilot Mini v0.1

가상의 email, calendar, tasks JSON context를 준비하고 같은 문제를 두 방식으로 구현한다.

A. Workflow: Collect → Classify → Rank → Recommend

B. Agent: Context → LLM chooses action → Tool → Observation → Continue/Finish

목적은 Agent가 무조건 더 좋다는 것을 증명하는 것이 아니라, Agentic control이 필요한 조건을 찾는 것이다.

7. 실험·평가

긴급메일, 오늘 회의, 기한 지난 task 등이 섞인 합성 업무 시나리오 10개를 만든다. 두 구현에 동일하게 적용하고 Task success, Wrong action, LLM calls, Latency, Token/Cost, Consistency를 기록한다.

성공 기준: Agent가 Workflow보다 우수할 필요는 없다. 어떤 조건에서 Workflow가 더 싸고 빠르고 안정적인지 설명할 수 있으면 성공이다.

8. 주간 산출물

Research Note의 마지막 문장: For CHO-FAM, agentic control should be introduced only when ______.

9. 1주차 학습 리포트

진행 기준

아래 내용은 대화형 학습에서 확인된 이해와 설계 판단을 기록한 것이다. 아직 구현하거나 측정하지 않은 항목은 완료로 간주하지 않는다.

학습 영역확인된 이해와 결정상태
Day 1 · Research MethodologyWorkflow는 LLM 사용 여부가 아니라 developer-defined control flow로 구분한다. 공정한 비교를 위해 입력·도구·모델·평가기준을 고정하고, 오늘 마감 누락을 더 큰 오류로 보아 Recall을 우선하되 Precision을 함께 기록한다.개념 완료
Day 2 · Agent ArchitecturePlanner는 다음 행동을 선택하고, tool router/executor는 검증된 호출을 실행한다. State와 model context를 구분하며, validator와 orchestrator가 근거·실행 한도·human-in-the-loop escalation을 관리한다.개념 완료
Day 3 · Agent Loopobserve → decide → act → observe에서 새 observation이 실제 불확실성을 줄였는지 확인한다. 동일 결과 반복, 진전 없는 탐색, scope 불명확 시 다른 접근 또는 사용자 질문으로 전환한다.개념 완료
Day 4 · System BoundaryCho-Pilot은 근거를 수집해 실행 가능한 업무시간을 추천한다. Email·Calendar·Task·Model service는 외부 시스템이다. 일정 생성 전에는 최신 calendar를 다시 확인하고, 조건이 바뀌면 권한 범위 안에서 재계획하거나 사용자에게 묻는다.개념 완료
논문·구현·측정ReAct 원문 노트, Workflow/Agent 코드, 10개 시나리오 반복실험 및 실제 비용·latency 측정이 필요하다.실습 예정

현재 답할 수 있는 핵심 질문

10. 주간 산출물 예시

아래는 제출 형식과 판단 수준을 보여주는 예시다. 특히 결과표의 수치는 실제 측정값이 아니며, Lab 실행 후 교체해야 한다.

예시 A · Research Note 요약

연구질문: Cho-Pilot 업무 우선순위 추천에서 Agentic control은 언제 고정 Workflow보다 가치가 있는가?

가설: 처리 순서가 명확한 시나리오에서는 Workflow가 더 낮은 cost와 latency로 일관된 성공률을 보이고, 중간 결과에 따라 추가 탐색이 필요한 시나리오에서는 Agent가 task success를 높일 수 있다.

독립변수: control strategy(Workflow/Agent). 통제변수: 입력, 도구와 권한, 모델과 공통 설정, step budget, 평가기준. 종속변수: Task success, Wrong action, LLM calls, Latency, Token/Cost, Consistency.

오류 정책: 오늘 마감 업무의 누락 비용을 오포함보다 크게 본다. Recall을 우선하되 Precision을 함께 보고, 둘을 모두 충족하지 못한 편향된 해법을 피한다.

현재 결론: 구조화된 날짜 비교, 일정 충돌 확인, 권한 및 실행 한도는 deterministic code로 처리한다. Agent는 관찰 결과가 다음 행동을 실질적으로 바꾸는 경우에만 비교 대상으로 도입한다.

마지막 문장: For CHO-FAM, agentic control should be introduced only when intermediate observations materially change the next required action and the measured gain justifies added cost and variability.

예시 B · C4 System Context 수준 component map

요소경계관계
User외부 사람목표·제약을 제공하고, 불명확한 결정에 답하며, 최종 행동을 승인한다.
Cho-Pilot대상 시스템근거를 수집하고 우선순위와 가능한 업무시간을 추천·검증한다.
Email System외부 시스템요청, 맥락, 상대방, 암시된 deadline의 근거를 제공한다.
Calendar System외부 시스템회의와 가용시간을 제공하며, 확장 범위에서는 승인 후 일정을 생성한다.
Task System외부 시스템업무 상태, 명시적 deadline, priority를 제공한다.
Model Service외부 시스템자연어 해석과 다음 행동 후보를 제공하지만 권한과 실행 한도는 소유하지 않는다.
User ── goal / clarification / approval ──▶ Cho-Pilot
                                             │
                 ┌───────────────┬────────────┼──────────────┐
                 ▼               ▼            ▼              ▼
           Email System   Calendar System  Task System  Model Service
Planner, state, validator, tool router, orchestrator는 Cho-Pilot 내부 책임이므로 Context diagram이 아니라 다음 단계의 Container/Component view에서 표현한다.

예시 C · 두 구현의 최소 구조

# Workflow: 개발자가 순서와 분기를 정의
context = collect(email, calendar, tasks)
classified = llm_classify(context)
ranked = rank_by_rules(classified)
return validate(llm_recommend(ranked), context)

# Agent: 모델이 observation에 따라 다음 행동을 선택
state = initial_state(request)
for step in range(MAX_STEPS):
    decision = choose_next_action(state, allowed_tools)
    if decision.type in {"finish", "ask_user"}:
        return validate_or_pause(decision, state)
    observation = execute_validated(decision)
    state = update_and_check_progress(state, decision, observation)
return budget_exhausted(state)

필수 safeguard: allowed tools, argument validation, read/write permission 분리, maximum steps/cost, duplicate/no-progress detection, evidence-based completion, human escalation.

예시 D · results/week01.csv

scenario,control,task_success,wrong_action,llm_calls,latency_ms,cost_usd,consistent
structured_deadline,workflow,1,0,2,1200,0.004,1
structured_deadline,agent,1,0,4,2400,0.009,1
ambiguous_meeting,workflow,0,1,2,1300,0.004,1
ambiguous_meeting,agent,1,0,5,3100,0.011,1
예시 해석: 첫 시나리오에서는 성공률이 같아 Workflow가 효율적이다. 두 번째에서는 Agent가 추가 탐색으로 성공했지만 비용과 latency가 증가했다. 이 값들은 설명용 가상 수치이며 실제 결론에는 사용할 수 없다.

Lab 완료 후 교체할 항목

범위상태
1개월차 · Weeks 1–4진행중
Week 01현재 페이지
Week 02 · CS Foundations / System Decomposition현재 주차
Week 03 · Probability / Metrics예정
Week 04 · Experiment Design예정
2–12개월차전체 개요는 메인 커리큘럼 참조

이전 주: 없음 · 다음 주: Week 02 · System Decomposition

← 전체 12개월 커리큘럼으로