사내 AI 도구 사용량·비용 월간 운영보고 자동화

아래 사례는 실제 참가자의 업무를 적용한 프로젝트 결과를 바탕으로 합니다.
단, 업무 데이터 등의 보안을 위하여 이미지는 AI를 활용하여 제작하였습니다.

코드는 이미 돌고 있었다

디지털이노베이션팀은 매달 초 사내 AI 도구의 사용량과 비용을 집계해 운영보고서를 씁니다.

LiteLLM 게이트웨이에서 로그를 뽑아 파이썬으로 엑셀에 옮기고, 부서별·모델별로 집계해 워드 보고서까지 만듭니다. 한 번에 6~8시간이 걸립니다.

사전 설문에서 가장 먼저 바란 건 이것이었습니다.

"추출된 json 파일을 넣으면 정해진 양식의 집계표가 자동으로 채워지는 것"

저희는 함께 받은 6일치 로그 샘플을 그대로 더해 보는 것부터 했습니다. 집계표를 자동으로 채우려면, 무엇을 더해야 맞는 합계인지부터 알아야 하니까요.

전부 더하면 10배가 된다

로그에는 날짜, 이름, 키 별칭, 토큰 수, 요청 수 열이 있습니다.

그런데 '이름' 칸을 훑어보니 한 가지가 아니었습니다. 키 해시, 사용자 ID, 모델 이름, 도구 이름이 섞여 있었습니다.

같은 날 행을 이름 유형별로 나눠 더해 보니 구조가 보였습니다.

• 이름 칸이 빈 행 — 그날의 합계 줄입니다.

• API 키별 행을 더하면 합계 줄과 같습니다.

• 사용자별 행을 더하면 합계의 2배입니다.

• 모델별 행을 더하면 합계의 6배입니다.

한 시트에 여러 기준의 집계가 함께 쌓여 있었던 겁니다. 6일 전체로 봐도 모든 행의 합은 합계 줄의 정확히 10배였습니다.

지금 코드에서는 이 구분이 이미 처리되고 있을 수 있습니다.

하지만 같은 파일을 Claude에게 넘기며 "이번 달 총 사용량 알려 줘"라고만 하면, 열 배 부풀려진 숫자가 매끄러운 보고서 문장으로 나올 수 있습니다.

합계는 '이름 칸이 빈 줄'로만 낸다. 다른 묶음은 나눠 볼 때만 쓰고, 서로 더하지 않는다.

부서도, 비용도 로그 밖에 있다

설문의 결과물은 부서별·모델별·기능별 집계와 원화 비용이었습니다. 로그의 열 14개와 하나씩 맞춰 봤습니다.

부서 대응표, 모델 이름 정리표, 단가와 환율 기준. 이 세 가지는 로그가 아니라 사람이 정해서 폴더에 넣어 둘 기준 파일입니다.

설문에 적힌 "환율 적용 기준을 매번 확인"하는 수고도 여기서 한 줄로 끝납니다.

하나 더 따로 떼어 둘 것이 있었습니다. 'admin', 'password', 'test' 같은 이름으로 들어와 모두 실패한 요청이 29줄 있었습니다.

사용량 보고서보다 보안 점검 쪽에서 볼 줄이라, 집계에서 빼고 별도 목록으로 넘기기로 했습니다.

Claude에게 맡기기 전에 정한 다섯 가지

1. 합계 기준 — 이름 칸이 빈 줄만 더합니다.

2. 부서 대응표 — 사용자 ID → 부서. 표에 없는 ID는 '미배정'으로 따로 모읍니다.

3. 모델 이름 정리표 — 접두어가 다른 이름을 하나로 묶습니다.

4. 비용 기준 — 단가표·환율·AWS 비용 합산 방식을 한 파일에. 기준월을 함께 적습니다.

5. 이상 요청 분리 — 실패만 있는 낯선 이름은 집계 대신 별도 목록으로.

넷째 날에는 매달 반복되는 이 흐름을 Skill 레시피로 굳힙니다.

레시피의 '필요한 자료' 칸에 로그 파일과 기준 파일 세 개를 적어 두면, 다음 달엔 파일만 바꿔 넣으면 됩니다.

둘째 날 시험할 때는 부서 대응표에서 한 사람을 일부러 빼 봅니다. Claude가 그 사용량을 아무 부서에나 넣지 않고 '미배정'으로 따로 보여 주는지가 통과 기준입니다.

다음 달 초, 보고서를 쓰는 날

LiteLLM도, 파이썬 코드도, 보고서 양식도 그대로입니다. 더해진 건 '무엇을 더하면 맞는 합계인가'를 기준 파일로 꺼내 둔 순서입니다.

이 숫자로 예산이 정해진다

AI 도구 사용량 보고는 다음 분기 예산과 계정 수를 정하는 근거가 됩니다. 숫자가 부풀면 그만큼 비용 판단도 어긋납니다.

어느 줄을 더하고 어느 줄을 뷸지 정해 두면, 매달 같은 기준으로 비교할 수 있습니다.

예산 회의에 올라갈 숫자라면 기준부터 맞아야 합니다. 이번 달 사용 로그를 가져오시면, 그대로 회의에 올릴 수 있는 집계 기준을 같이 정합니다.

본 프로젝트는 솔트룩스x헬로월드랩스의 공동 개발 및 운영 교육 과정을 통해 진행되었습니다.