AI 에이전트, 어디까지 맡길지부터 정합니다
같은 “AI 에이전트”라도 정해진 일을 처리하는 것과, 목표를 받아 단계를 계획하는 것은 설계가 다릅니다. 업무의 위험도에 맞춰 필요한 만큼의 자율성만 설계합니다.
정해진 범위
정해진 범위의 AI 에이전트
맡은 일 하나를 정해진 경로로 처리합니다.
어울리는 일
- 정해진 지침에 따른 메시지 답장
- 조건이 분명한 반복 등록·조회
- 문서의 정해진 항목 읽기
사람의 역할 지침과 한도를 정하고 예외를 확인합니다.
목표 기반
에이전틱 AI 워크플로
목표를 단계로 나누고, 중간 결과를 보며 다음 단계를 정합니다.
어울리는 일
- 조사·설계·구현·검증이 이어지는 개발 업무
- 여러 시스템을 오가는 처리
- 승인을 기다렸다가 이어 가는 업무
사람의 역할 목표를 정하고 승인 지점에서 결정합니다.
자율성은 한 단계씩 넓힙니다
단계 1
지켜보기
실제로 움직이지 않고, 할 일과 그 이유만 기록합니다.
단계 2
제안
AI가 초안을 만들고, 사람이 확인한 뒤 실행합니다.
단계 3
승인 후 실행
정해 둔 지점에서 사람의 승인을 받아야 다음으로 넘어갑니다.
단계 4
범위 안 자동 실행
검증을 거친 범위와 한도 안에서만 스스로 처리합니다.
사람이 통제하는 장치를 함께 만듭니다
되돌릴 수 없는 동작은 한 곳으로
결제·발송·외부 AI 호출처럼 되돌릴 수 없는 동작은 하나의 출입구를 거치게 하고, 실행 전에 해도 되는지 먼저 판정합니다.
한도는 사람이 정합니다
하루 건수·횟수·간격 한도를 두고, 시작할 때 나갈 수 있는 최대 비용을 보여 드린 뒤 동의를 받습니다.
한 일과 하지 않은 이유를 남깁니다
실행한 일뿐 아니라 멈춘 이유까지 한국어 기록으로 남겨, 무슨 일이 있었는지 나중에 확인할 수 있습니다.
애매하면 사람에게 넘깁니다
확인 값이 맞지 않거나 비용·권한이 걸린 판단이면 멈추고 사람에게 확인을 요청합니다.
데브파이소프트도 개발에 AI 코딩 에이전트를 씁니다. 조사·설계·구현·검증을 이어 가되, 설계 결정과 운영 배포는 사람이 승인하고, 모든 변경은 빌드·테스트와 코드 검토를 거칩니다.