virtual-insanity
← 뒤로

파이프라인 아키텍처 — 자동 생성

reference

파이프라인 아키텍처

자동 생성: 2026-03-24 15:47 KST
크론 잡 총 153개 (활성: 121개)

데이터 흐름

외부 소스 ──→ [수집 파이프라인] ──→ memory/raw-data
                                      │
                                      ▼
                              [처리 파이프라인] ──→ knowledge/100 수신함
                                      │
                                      ▼
                              [분석 에이전트] ──→ knowledge/200 아토믹
                                      │         knowledge/300 지식망
                                      ▼
                              [볼트 브릿지] ──→ knowledge/500 시그널
                                      │
                                      ▼
                              [리포트/운영] ──→ knowledge/400 판단
                                               webapp (virtual-insanity)

파이프라인 그룹별 상세

수집 — 텔레그램 (5/5개 활성)

잡 ID 스케줄 상태 설명 출력
inbox-bridge 매일 1,12시 ✅ ok inbox_bridge.py — Memory 소스 → 100 수신함 브릿지. memory/inbox-bridge/ (1개 파일)
moltbook-digest 매일 0:50 ✅ ok moltbook_digest.py — Moltbook 핫포스트 수집 + 한국어 요약 + moltbook-insights.md 갱신
analyst-channel-collector 평일 7,13시 ⚠️ reset analyst_channel_collector.py — 증권사 애널리스트 텔레그램 채널 데이터 수집
popular-posts-collect 평일 0,12시 ✅ ok
channel-collector 매일 0,12시 ✅ ok channel_collector.py — 텔레그램 채널 전용 수집기. memory/channel-collector/ (1개 파일)

수집 — 시장 데이터 (9/9개 활성)

잡 ID 스케줄 상태 설명 출력
intelligence-market-indicator-tracker 평일 7,9,11,13,15,17시 ✅ ok
financial-statement-collector 요일(1) 6:30 ✅ ok financial_statement_collector.py — 범용 재무제표 수집기
gics-sector-tracker 요일(2-6) 6:15 ✅ ok gics_sector_tracker.py — GICS 신규 섹터 주가 proxy 통합 수집 스크립트.
price-history-collector 평일 7,12,18시 ❌ error (에러 1연속) price_history_collector.py
macro-series-collector 평일 6:50 ✅ ok pipeline/macro_series_collector.py — FRED 거시경제 시계열 수집기.
strategy-flow-collector 평일 16:00 ✅ ok strategy_flow_collector.py — 전략/수급 데이터 수집기.
copper-market-collector 요일(5) 7:30 ⚠️ - copper_market_collector.py — 구리 선물 커브 형태 + 상하이 재고 수집
china-macro-collector 매일 10:03 ⚠️ - china_macro_collector.py — 중국 거시경제 핵심 지표 수집기.
eia-energy-3indicators 요일(1) 6:30 ⚠️ -

수집 — 섹터 (11/11개 활성)

잡 ID 스케줄 상태 설명 출력
semiconductor-report 요일(1) 7:00 ✅ ok
petrochemical-report 요일(1) 7:00 ✅ ok
collect-cluster 매일 6:00 ✅ ok
oil-supply-monitor 매일 8:30 ✅ ok oil_supply_monitor.py — 글로벌 석유 공급망 실시간 체크리스트 모니터 memory/oil-supply-monitor/ (3개 파일)
bio-pharma-collector 평일 6:30 ✅ ok
defense-collector 평일 6:32 ✅ ok
nuclear-collector 평일 6:34 ✅ ok
energy-data-collector 평일 7:30 ✅ ok energy_data_collector.py — EIA 에너지 핵심 지표 수집기.
trendforce-collector 평일 8:00 ✅ ok TrendForce 지표 수집기.
shipbuilding-data-collector 평일 7:30 ✅ ok shipbuilding_data_collector.py — 조선 산업 핵심 지표 수집기
semi-market-data 요일(1) 6:15 ⚠️ -

수집 — 리서치 (6/6개 활성)

잡 ID 스케줄 상태 설명 출력
intelligence-github-release-monitor 이벤트 ✅ ok
intelligence-blog-monitor 이벤트 ✅ ok
choi-report-collect 요일(1) 10:00 ✅ ok
nepcon-collector 매일 1,7,13,19시 ✅ ok nepcon_collector.py — 네이버 프리미엄 콘텐츠(네프콘) 수집기
cu-fnguide-snapshot 평일 17:00 ⚠️ -
cu-kr-research-collector 평일 9:30 ⚠️ -

처리 — 지식 (15/15개 활성)

잡 ID 스케줄 상태 설명 출력
vault-note-atomizer 매일 3:30 ✅ ok
deep-enricher 매일 4:10 ✅ ok deep_enricher.py — 200 정리 노트 딥 분석 파이프라인 memory/deep-enricher/ (1개 파일)
vault-flow-health 매일 7:00 ✅ ok vault_flow_health.py — 볼트 v3 흐름 헬스체크 + 텔레그램 DM 알림 memory/vault-flow-health/ (1개 파일)
vault-architect 매일 4:30 ✅ ok vault_architect.py — 볼트 v3 자율 구조 개선 파이프라인 memory/vault-architect/ (1개 파일)
intelligence-experiment-tracker 매일 1:50 ✅ ok
vault-reeval 요일(1,4) 4:35 ✅ ok vault_reeval.py — 주간 볼트 구조 재평가 및 확장/축소 제안
vault-context-builder 매일 2:20 ⚠️ reset vault_context_builder.py — 볼트 컨텍스트 요약 사전 생성
vault-indexer 매일 2:05 ✅ ok vault_indexer.py — 볼트 노트 전체를 키워드 인덱스 + Minimax 임베딩으로 인덱싱.
intelligence-discovery-enricher 매일 1:35 ✅ ok
intelligence_cluster 매일 1:00 ✅ ok
vault_cleanup 매일 2:30 ⚠️ - vault_cleanup.py — 볼트 D/E급 노트 정리 파이프라인
vault_linker 매일 2:50 ⚠️ - vault_linker.py — 볼트 노트에 entity wikilink + maturity + zk_type 자동 부여
note_atomizer_relink 요일(0) 4:00 ⚠️ -
cu-url-enricher 매일 2:15 ⚠️ -
knowledge-promoter 매일 4:15 ⚠️ - knowledge_promoter.py -- Automated knowledge promotion pipeline memory/knowledge-promoter/ (1개 파일)

분석 — 에이전트 (13/13개 활성)

잡 ID 스케줄 상태 설명 출력
methodology-harvester 월수금 9:00 ✅ ok methodology_harvester.py — 텔레그램 채널에서 방법론 패턴을 자동 수확.
signal-validator 월수금 9:30 ✅ ok signal_validator.py — 방법론 신호의 실제 유효성을 과거 데이터로 검증.
pattern-explorer 평일 6:30 ✅ ok pattern_explorer.py — 지표 조합 브루트포스 탐색기.
methodology-updater 평일 7:05 ✅ ok methodology_updater.py — 백테스트 통과 패턴을 방법론 노트에 자동 반영.
analyst-evolution-tracker 평일 8:10 ✅ ok analyst_evolution_tracker.py — 3개 애널리스트 에이전트 발전 추적기.
analyst-reasoning-agent 평일 7:55 ✅ ok
quant-signal-generator 평일 7:45 ✅ ok quant_signal_generator.py
analyst-technical-agent 평일 7:50 ✅ ok
analyst-macro-agent 평일 7:30 ✅ ok
analyst-fundamental-agent 평일 7:38 ✅ ok
analyst-pm-agent 평일 7:55 ✅ ok
signal-synthesizer 평일 7:35 ✅ ok signal_synthesizer.py — 4축 시그널 합성 파이프라인 v1.1
signal-synthesizer 평일 7:10 ⚠️ - signal_synthesizer.py — 4축 시그널 합성 파이프라인 v1.1

분석 — 원자재/뉴스 (5/5개 활성)

잡 ID 스케줄 상태 설명 출력
intelligence-geopolitical-monitor 매일 1,7,13,19시 ✅ ok
sector_news_scorer 매일 2,8,14,20시 ✅ ok sector_news_scorer.py — 섹터별 뉴스 LLM 중요도 채점기
commodity-spike-morning 평일 7:20 ⚠️ -
commodity-spike-watch 평일 10-23:*/30 ✅ ok
industry-news-extractor 요일(3) 8:03 ⚠️ - industry_news_extractor.py — NLP 기반 산업 뉴스 지표 추출 파이프라인

브릿지 — 볼트연결 (6/6개 활성)

잡 ID 스케줄 상태 설명 출력
vault-macro-bridge 매일 7:00 ⚠️ reset vault_macro_bridge.py — 매크로 지표 → 볼트 노트 + 텔레그램 DM
vault-fundamental-bridge 매일 8:00 ⚠️ reset vault_fundamental_bridge.py — 기업 펀더멘탈 → 볼트 노트 + 텔레그램 DM
vault-technical-bridge 매일 8:30 ❌ error (에러 1연속) vault_technical_bridge.py — 기술적 지표 → 볼트 노트 + 텔레그램 DM
vault-financial-bridge 요일(1) 8:15 ✅ ok vault_financial_bridge.py — company_financials DB → 볼트 노트 + 텔레그램 DM
context-review-loop 매일 9:30 ✅ ok context_review_loop.py — 7일 컨텍스트 보강 루프.
deep-dive-vault-publisher 평일 8:00 ✅ ok

출력 — 리포트/운영 (9/9개 활성)

잡 ID 스케줄 상태 설명 출력
daily-report 평일 8:00 ✅ ok daily_report.py — 데일리 마켓 인텔리전스 리포트 파이프라인. memory/daily-report/ (23개 파일)
daily-intelligence-report 매일 8:30 ✅ ok daily_intelligence_report.py — 통합 데일리 인텔리전스 리포트
system-digest 매일 3:50 ✅ ok system_digest.py — 전체 시스템 진단 결과를 하나의 JSON으로 집계. memory/system-digest/ (1개 파일)
log-rotator 매일 4:05 ✅ ok
task-briefing-evening 매일 22:00 ✅ ok
cost-monitor-daily 매일 5:30 ✅ ok
bond-daily-report 요일(2-6) 2:30 ⚠️ skipped bond_daily_report.py — 황대진 채권 메일 → 3페이지 트레이더 브리핑 자동 생성.
data-quality-monitor 매일 7:15 ✅ ok data_quality_monitor.py
sector-research-daily 평일 17:30 ✅ ok

미분류 (69개)

잡 ID 스케줄 상태
etf-data-collect-global-alloc 요일(2-6) 7:15 ✅ ok
etf-data-collect-global-theme 요일(2-6) 7:35 ✅ ok
twitter-collector 매일 0,12시 ⚠️ error
company-insight-daily 매일 5:00 ✅ ok
company-insight-weekly 요일(1) 6:00 ✅ ok
6h-content-summary 매일 1,7,13,19시 🔇 ok
daily-kpi-eval 매일 1:35 ⚠️ reset
task-briefing-morning 매일 8:05 🔇 ok
intelligence-keyword-tuner 요일(1,4) 4:30 ✅ ok
shipbuilding-excel-builder 요일(1) 6:30 ✅ ok
gmail-credit-monitor 이벤트 ✅ ok
ingest-failure-recovery 이벤트 ✅ ok
etf-data-collect-domestic-index 평일 16:00 ✅ ok
etf-data-collect-domestic-theme 평일 16:05 ✅ ok
jisik-promote-dkzkyq 매일 3:15 ✅ ok
etf-summary-generate 평일 16:10 ✅ ok
daily-report-early 평일 4:00 ✅ ok
technical-data-collector 평일 7,9,11,13,15,17시 🔇 ok
indicator-extractor 평일 15:00 ✅ ok
upstream-tracker 매일 6:30 🔇 ok
tanker-tracker 매일 6:35 🔇 ok
refining-tracker 매일 6:40 🔇 ok
dm-analyst-bot 5분마다 ✅ ok
dm-analyst-prompt-refresh 평일 8:15 🔇 ok
session-skill-extractor 매일 4:30 🔇 ok
vault-control-sync 매일 4:00 🔇 reset
vault-architect-autoupdate 매일 4:30 🔇 ok
daily-market-intelligence-report 매일 8:00 🔇 ok
newspaper-collector 매일 8:00 🔇 ok
vault-architect-afternoon 매일 14:00 ⚠️ reset
etf-data-collect-domestic-value 평일 16:08 ✅ ok
etf-insight-extractor 평일 16:25 ✅ ok
etf-weekly-report 요일(1) 7:03 ✅ ok
vault-gdrive-backup 요일(1) 6:00 🔇 skipped
media_enricher 매일 3:00 ✅ ok
source-weight-tuner 요일(1) 4:40 ✅ ok
intelligence-mutation-loop 매일 2:00 ⚠️ reset
notion-publisher 매일 9,22시 ⚠️ error
gitnexus-reindex 매일 4:10 ✅ ok
claude-practice-monitor 매일 5:30 ✅ ok
oil-supply-monitor-afternoon 매일 14:00 ✅ ok
oil-supply-monitor-evening 매일 21:00 ✅ ok
goal_alignment_daily 매일 4:10 🔇 ok
daily-system-validator 매일 6:30 ⚠️ reset
skill-health 요일(1) 8:10 ✅ ok
methodology_weekly_assessment 요일(1) 2:00 🔇 skipped
source-registry-updater 평일 9:05 🔇 skipped
analyst-calibration 요일(1) 8:25 🔇 skipped
notion_methodology_publish 요일(1) 2:30 🔇 skipped
job-4bcfc923 요일(1) 9:00 🔇 skipped
job-fe743793 요일(1) 9:15 🔇 skipped
analyst-quality-tracker 매일 8:10 🔇 ok
job-16806fbe 매일 9:35 🔇 skipped
technical-stat-models 평일 */2:35 ✅ ok
quant-performance-tracker 평일 9:05 ✅ ok
aivilization-heartbeat 매일 */6:00 🔇 reset
notion-analyst-sync 평일 8:20 🔇 ok
telegram-outbox-flusher 매일 */2분마다 🔇 -
webapp-refresh 매일 8:40 ✅ ok
linkage-validator 요일(0) 3:00 ⚠️ -
moat-scorer 요일(1) 7:00 ✅ ok
agent-community-report 매일 23:50 ✅ ok
thesis-tracker 평일 7:30 ⚠️ skipped
research_intelligence_aggregator 매일 2:10 ✅ ok
bc4aba90-d44b-4840-9818-697c2d02aa86 매일 5:00 🔇 -
df679b67-098f-46e7-b101-76a136da5398 매일 8:30 🔇 -
vault_analyst_feedback 매일 9:00 ⚠️ -
vault-note-atomizer-midday 매일 14:00 ⚠️ -
cu-queue-processor 매일 2:20 ⚠️ -

공용 모듈 (scripts/shared/)

모듈 설명
agent_output.py shared/agent_output.py — 에이전트 표준 출력 스키마.
chart_gen.py chart_gen.py — 투자 보고서/브리핑용 차트 생성 모듈.
classify.py shared/classify.py — Knowledge classification engine (v3 + v2 compat).
cron_store.py cron_store.py — jobs.json 단일 읽기/쓰기 모듈.
cu_queue.py cu_queue.py — CU fetch queue helper for pipeline CU bridging.
cycle_base.py shared/cycle_base.py — 산업 사이클 분석 공통 베이스 모듈.
db.py shared.db — SQLite connection helper for OpenClaw scripts.
discoveries.py Agent discovery sharing — read/write/prune utility for agent-discoveries.
eia_client.py shared/eia_client.py — EIA API v2 공유 클라이언트.
energy_base.py shared/energy_base.py — 에너지/탱커 트래커 공통 베이스 모듈.
fred_client.py shared/fred_client.py — FRED API 공유 클라이언트.
frontmatter.py shared/frontmatter.py — YAML frontmatter parser/renderer for markdown files.
gateway_guard.py Shared gateway restart guard for OpenClaw operational scripts.
gitnexus_client.py GitNexus KuzuDB 직접 접근 클라이언트.
indicator_ts.py shared/indicator_ts.py — 시장 지표 시계열 저장 공통 모듈.
kis_client.py shared/kis_client.py — KIS OpenAPI 공유 클라이언트.
llm.py shared/llm.py — Centralized Gateway LLM client.
log.py shared/log.py — Centralized logging for OpenClaw scripts.
markitdown_converter.py markitdown_converter.py — Microsoft MarkItDown 래퍼.
media_processor.py 미디어 파일 처리 유틸 — 이미지/PDF/동영상 원문 추출.
methodology_parser.py methodology_parser.py — 볼트 방법론 노트 파서 (공용 모듈).
output_harness.py shared/output_harness.py — 파이프라인 아웃풋 하네스 (가드레일).
pdf.py PDF text extraction utilities — shared across pipelines.
pipeline_errors.py shared/pipeline_errors.py — 파이프라인 에러 처리 표준 믹스인.
sector_ids.py 섹터 ID 표준화 — canonical 17 섹터 + 레거시 매핑.
sector_schemas.py sector_schemas.py — Layer 1: 19섹터 분석 방법론 스키마 (영구적, 정적)
sector_tracker_base.py shared/sector_tracker_base.py — GICS 섹터별 범용 주가 proxy tracker 베이스.
telegram.py shared/telegram.py — 텔레그램 전송 중앙 게이트웨이.
time_utils.py 공통 날짜/시간 유틸리티 (KST 기준)
vault_industry_context.py shared/vault_industry_context.py — 산업 맥락 로더.
vault_moc.py Shared MOC (Map of Content) utilities for vault synchronization.
vault_paths.py Centralized vault path definitions — single source of truth.
vault_search.py shared/vault_search.py — 볼트 노트 검색 레이어.
websearch.py shared/websearch.py — Scrapling 기반 웹 검색 + URL 페칭
youtube.py YouTube transcript extraction utilities — shared across pipelines.

아웃풋 하네스

모든 LLM 호출 결과는 shared/output_harness.py의 3단계 가드레일을 통과:

  1. FORMAT — JSON 추출, 코드블록 제거, 트레일링 텍스트 정리
  2. SCHEMA — 필수 필드·타입·범위 검증 + 자동 보정 (클램핑, 대소문자)
  3. QUALITY — 빈값 감지, 언어 혼용 경고, 길이 제한

프리셋 룰: CONFIDENCE_RULE, DIRECTION_RULE, CYCLE_PHASE_RULE, SENTIMENT_RULE, SCORE_100_RULE