1956년, 사이버네틱스의 선구자 W. 로스 애쉬비(W. Ross Ashby)는 제어 이론과 생물학, 시스템 아키텍처 전반을 관통하는 간결하고도 강력한 정리를 제시했습니다:

“오직 다양성만이 다양성을 흡수할 수 있다.”
(애쉬비의 필수 다양성의 법칙, Law of Requisite Variety)

수학적으로 표현하면 이렇습니다. 어떤 조절기(Regulator) $R$이 외부 환경(Disturbance) $D$로부터 발생하는 불안정성을 제어하여 목표 결과 $O$를 안정된 상태로 유지하려면, 조절기가 취할 수 있는 내적 상태와 대응 행동의 가짓수(다양성 $V_R$)는 환경이 발생시키는 교란의 다양성($V_D$)보다 크거나 같아야 합니다:

$$V_R \ge \frac{V_D}{V_O}$$

결과의 불확실성($V_O$)을 최소한으로 줄여 안정적인 상태를 유지하고 싶다면, 제어 시스템의 다양성 $V_R$은 반드시 환경의 교란 다양성 $V_D$를 능가해야 합니다.

[ 환경의 엔트로피 및 교란 (V_D) ] 
               │
               ▼
      ┌──────────────────┐
      │   조절기 (V_R)   │  ─── V_R ≥ V_D 충족 필수
      └──────────────────┘
               │
               ▼
   [ 안정된 목표 상태 (V_O) ]

복잡한 현실 앞에서 경직된 파이프라인이 실패하는 이유

지난 40년간의 소프트웨어 엔지니어링은 결정론적 상태 머신과 엄격한 DAG(Directed Acyclic Graph)를 최적화하는 데 집중해 왔습니다. 다루는 문제 영역의 엔트로피가 닫혀 있을 때(예: 고정된 은행 원장 처리, 규격화된 정적 JSON 파싱), 간단한 제어기만으로도 충분합니다. 환경의 상태 수가 적으므로 몇 줄의 if/else 분기문으로도 모든 경우를 흡수할 수 있기 때문입니다.

하지만 현대 소프트웨어와 AI는 열린 세계(Open-world)의 무한한 엔트로피 속으로 진입했습니다:

  • 비정형 멀티모달 웹 데이터와 불완전한 사용자 쿼리
  • 예고 없는 외부 API 지연 및 데이터 스키마 변형
  • 복잡한 도구 체인을 자율적으로 탐색해야 하는 에이전트 환경

다양성이 결여된 단단하고 단순한 제어기가 고도의 다양성을 지닌 환경 교란과 맞닥뜨리면 시스템은 적응하지 못하고 예외를 뿜어내며 무너집니다.

에이전트 하네스에서 필수 다양성을 구현하는 세 가지 전략

실제 상용 시스템에서 견고한 자율 에이전트 아키텍처를 설계할 때, 엔지니어는 애쉬비의 법칙을 다음 세 가지 축으로 적용합니다:

  1. 환경 다양성의 감쇄(Attenuation): 핵심 의사결정 루프에 도달하기 전 노이즈를 걸러내는 작업입니다. 강력한 스키마 검증, 샌드박스 런타임 제약, 타입 기반 입출력 필터링을 통해 진입하는 상태 공간의 크기를 인위적으로 줄입니다.

  2. 제어기 다양성의 증폭(Amplification): 동적 도구 실행, 실행 결과 피드백 루프, 자기 교정(Self-reflection) 능력을 부여합니다. 단순히 텍스트를 출력하는 모델보다, 코드를 작성하고 실행한 뒤 에러 트레이스백을 분석해 스스로 패치를 적용할 수 있는 에이전트는 기하급수적으로 높은 제어 다양성을 가집니다.

  3. 계층적 분할(Hierarchical Decomposition): 거대한 엔트로피를 가진 복합 작업을 단일 에이전트가 통째로 다루지 않고, 감독관-작업자(Supervisor-Worker) 구조로 위임 분할합니다. 각 하위 에이전트는 좁고 특화된 도메인의 다양성만 전담하여 로컬 제어 루프의 수렴성을 확보합니다.

애쉬비의 법칙이 주는 교훈은 명확합니다. 안정성은 혼돈을 억지로 틀어막는 데서 오는 것이 아니라, 현실이 던지는 변수에 맞서 시스템 내부에 충분한 자유도와 대응력을 확보하는 데서 나옵니다.