AI 에이전트를 많이 띄워도 병목은 사람에게 남아요

AI 에이전트를 많이 띄워도 병목은 사람에게 남아요

AI 뉴스 썸네일

AI 에이전트를 여러 개 동시에 돌리면 화면은 바빠져요. 하지만 결과를 읽고, 코드베이스와 맞는지 판단하고, 변경 사항을 합치는 일은 여전히 한 사람의 주의력을 통과해요.

핵심 요약

구분	핵심	왜 볼 만한가요
AI 에이전트	에이전트 실행 수와 실제 배포 가능한 작업량은 다를 수 있어요	병렬 실행보다 리뷰 처리량이 생산성을 좌우해요
개발 생산성	병목은 도구가 아니라 사람의 판단 시간에 생겨요	코드리뷰, 병합, 아키텍처 판단은 쉽게 자동화되지 않아요
실천 포인트	에이전트 수를 리뷰할 수 있는 속도에 맞춰야 해요	더 많이 맡기는 것보다 제대로 확인할 범위를 정하는 일이 중요해요

1. 에이전트는 병렬로 뛰지만, 판단은 병렬화되지 않아요

Addy Osmani는 글에서 AI 에이전트 시대의 숨은 비용을 "오케스트레이션 세금"이라고 불러요. 에이전트를 시작하는 일은 쉬워졌지만, 돌아온 결과를 이해하고 병합하는 일은 여전히 사람에게 남는다는 뜻이에요. 여러 에이전트가 동시에 코드를 만들 수 있어도, 그 코드가 맞는지 판단하는 시간까지 같이 늘어나지는 않아요. 그래서 에이전트 20개를 실행했다고 해서 20개 분량의 작업이 그대로 배포 가능한 결과로 바뀌지는 않아요. 1

이 글이 흥미로운 지점은 AI 도구의 성능보다 사람의 주의력을 먼저 본다는 점이에요. 개발자는 에이전트를 감독하는 바깥 사람이 아니라, 그 병렬 시스템 안에 들어간 느린 직렬 구성 요소가 돼요. 작업을 맡기는 순간에는 생산성이 오른 것처럼 느껴져도, 마지막에는 리뷰 대기열이 길어질 수 있어요. 이때 생기는 비용이 오케스트레이션 세금이에요. 2

Osmani는 이 상황을 파이썬의 GIL에 빗대요. 여러 스레드가 있어도 한 번에 하나만 실행되는 구간이 있으면 전체 속도는 그 구간에 묶여요. AI 에이전트 개발도 비슷해요. 테스트 작성이나 화면 캡처처럼 기계가 증거를 만들 수 있는 일은 병렬로 맡기기 좋아요. 하지만 이상한 버그를 해석하거나 아키텍처 방향을 정하는 일은 사람의 판단을 기다려야 해요.

문제는 피로예요. 여러 작업을 번갈아 확인하면 매번 다른 맥락을 다시 불러와야 해요. CPU의 문맥 전환은 아주 빠르지만, 사람의 문맥 전환은 느리고 불완전해요. 에이전트가 많아질수록 "지금 뭐가 어디까지 됐지"를 되짚는 시간이 늘어요. 이 시간이 쌓이면 리뷰가 얕아지고, 충분히 이해하지 못한 코드를 받아들이기 쉬워요.

그래서 이 글의 결론은 단순해요. 에이전트를 많이 띄우는 능력보다, 어떤 일을 맡기고 어떤 일은 직접 붙잡아야 하는지 나누는 능력이 더 중요해요. 독립적인 작업은 백그라운드에 맡겨도 좋아요. 반대로 시스템 이해가 필요한 작업은 한 번에 많이 벌리지 않는 편이 나아요.

왜 중요한가요

AI 개발 도구는 이제 "얼마나 잘 만들어주나"를 넘어 "사람이 얼마나 잘 검토할 수 있나"의 문제로 넘어가고 있어요. 코드를 쓰는 비용이 낮아질수록 읽고 판단하는 비용이 더 크게 보이기 때문이에요. 에이전트가 테스트나 스크린샷처럼 확인할 수 있는 증거를 먼저 만들게 하면, 사람은 판단이 필요한 20%에 더 집중할 수 있어요. 2

팀 단위로 보면 이 이야기는 더 중요해요. 에이전트가 만든 변경을 충분히 읽지 않고 합치면 기술 부채만 쌓이는 게 아니에요. 팀이 코드베이스를 이해하는 감각도 같이 낡아요. 당장은 대시보드가 움직이고 작업이 많은 것처럼 보여도, 나중에 장애가 났을 때 "왜 이렇게 되어 있지"를 설명하기 어려워질 수 있어요.

실무에서는 에이전트 수를 도구가 허용하는 최대치가 아니라 리뷰할 수 있는 속도에 맞추는 게 안전해요. 고립된 수정, 반복 작업, 검증할 수 있는 산출물은 맡겨도 좋아요. 복잡한 설계나 애매한 버그는 사람의 집중 시간을 먼저 확보해야 해요. AI 에이전트를 잘 쓰는 기준은 더 많은 작업을 동시에 벌이는 데 있지 않아요. 내가 책임 있게 이해할 수 있는 만큼만 병렬화하는 데 있어요. 1

참고 자료

1. The Orchestration Tax — GeekNews
2. The Orchestration Tax — Addy Osmani / X