Snowflake의 AI 예산, 한도를 초과하는 시점과 멈추는 시점은 같지 않다

요약

• CoWork에서 Cortex Agent를 호출한 경우 그 이용은 CoWork에 귀속된다. Agent만을 대상으로 한 자원별 예산에서는 이 경로의 크레딧이 계상되지 않는다.
• CoWork를 예산에 포함하면 대상 경로가 넓어지지만, 원래의 Agent가 아니라 대상 CoWork 객체에 귀속되는 이용을 다루게 된다.
• 자원별 예산의 정기 처리와 사용자별 할당량의 내장 제한은 대상도 시간 축도 다르다. 개인별 한도는 부서 전체의 공동 예산이 아니다.
• Snowflake는 대체 수단과 제약을 공개하고 있다. 문제는 통제의 유무보다 귀속, 정지 권한, 복구 조건이 실제 예산 책임과 일치하는지에 있다.

AI 이용액이 한도를 초과했다. 그 순간에 다음 처리도 멈추는가.

Snowflake의 공개 자료를 읽으면 답은 어떤 통제를 설정했는지에 따라 달라진다. 자원별 예산에는 정기 평가와 설정된 액션이 있고, 사용자별 할당량에는 지출 이벤트에서 수분 이내에 평가하는 내장 이용 제한이 있다. "예산을 설정했다"는 한 문장만으로는 어느 쪽을 가리키는지도, 무엇이 멈추는지도 알 수 없다.

다만 시차를 조사하기 전에 확인할 것이 있다. 그 비용이 애초에 감시 중인 예산에 들어 있는가.

Snowflake의Cortex Agent용 자원별 예산 가이드에는 CoWork에서 시작해 Agent를 호출하는 요청의 이용은 CoWork에 귀속된다고 명시되어 있다. Cortex Agents로 태그한 자원만을 대상으로 하는 예산에서는 그 경로로 소비한 크레딧을 파악하지 못한다. 대응책은 CoWork의 자원을 대상에 추가하거나 CoWork용 예산을 별도로 두는 것이다.

같은 Agent가 처리하고 있어도 입구가 바뀌면 예산상의 귀속처가 바뀐다. 이는 청구 오류나 권한 회피를 나타내는 이야기가 아니다. 공개된 집계 범위의 차이이다. 그러나 이용 부서가 "이 Agent에는 예산이 붙어 있다"고 생각하는 것만으로는 비용 관리의 전제를 충족할 수 없음을 의미한다.

입구를 넓히면 멈추는 범위도 다시 물어진다

Agent의 자원별 예산은 객체에의 태그, 월간 크레딧 한도, 임계값에 따른 처리를 조합한다. 특정 자원을 축으로 이용을 묶는 구조이며, 그 자원에 도달하는 모든 경로를 자동으로 같은 틀에 포함시킨다는 약속이 아니다.

CoWork용 가이드는 계정 내 CoWork 이용을 서비스의 객체 단위로 묶는다. Agent의 예산에 CoWork를 추가하면 문제의 경로를 포함할 수 있지만 대상은 처음의 Agent 호출만이 아니게 된다. 대상 CoWork 객체에 귀속되는 이용 전체가 관련된다.

그러므로 물어지는 것은 단순히 한도를 얼마로 할 것인가가 아니다. 경고를 보낸다면 누가 받고 무엇을 판단하는가. 접근을 취소한다면 어떤 역할을 통한 이용이 사라지는가. 넓게 사용되는 입구에 대한 조치는 처음에 예산을 세운 업무 이외에도 영향을 미칠 수 있다. 다만 그 영향은 설정한 액션과 권한 설계에 따른다. 임계값을 넘으면 반드시 서비스 전체가 자동 정지한다는 설명은 정확하지 않다.

화면을 공통화하면 이용자는 한 곳에서 많은 기능에 접할 수 있다. 재무상으로는 서로 다른 부서가 가진 예산 책임까지 하나가 된 것은 아니다. 기술적 입구의 통합과 지출 승인 단위의 통합을 동일시하면 설정은 존재해도 책임의 경계가 모호해진다.

Snowflake에는 그 경계를 세밀하게 나누는공유 자원용 예산도 있다. 선택한 AI 자원과 사용자에게 부여한 태그를 결합해 공통 서비스의 이용을 부서 등 집단별로 추적할 수 있다. 자원뿐 아니라 누구의 이용을 포함할 것인가가 대상 범위가 된다.

태그 조건 중 하나라도 만족하는 사람을 포함할 것인가, 모두를 만족하는 사람으로 한정할 것인가에 따라서도 집단은 달라진다. 부서명 라벨을 붙였다는 것과 그 부서의 이용이 올바르게 집계되는 것은 별개이다. 필요한 것은 명칭 확인이 아니라 선택한 자원과 사용자 집합의 대조이다.

"수시간"과 "수분"을 섞어서는 안 된다

자원별 예산에서는 이용이 한도를 초과한 후 액션까지 일반 방식으로 최대 8시간, 저지연 옵션으로 최대 2시간이 걸릴 수 있다고 설명된다. 이는 자료상의 동작 조건이며 본고가 실제 환경에서 측정한 값이 아니다. 매번 반드시 8시간을 기다린다는 의미도 아니다.

액션은 고객 측이 설정한다. 알림만이라면 그 후에 판단과 조작이 남는다. 접근을 취소하는 처리라면 다른 역할로 접근 가능한 상태가 남아 있지 않은지 확인할 필요가 있다. 커스텀 처리에 의한 취소에서는 다음 예산 기간에 적절한 시작 시 액션으로 이용을 되돌리는 설계도 빠뜨릴 수 없다.

이에 반해사용자별 할당량의 내장 제한은 지출 이벤트에서 수분 이내에 평가한다. 이를 8시간의 구조로 다루어서는 안 된다. 다만 요청을 접수하는 순간에 그 처리의 전체 비용을 예약하는 방식도 아니다. 자료는 제한이 작동하기 전에 한도를 초과할 수 있으며, 특히 큰 건의 요청이 영향을 줄 수 있다는 점을 설명한다.

한도에서 실제 정지까지 얼마나 비용이 쌓이는가는 처리의 크기, 동시 실행, 계측, 설정한 대응에 좌우된다. 공개 자료에서 일정한 초과액을 산출할 수는 없다. 크레딧 수를 그대로 달러로 바꾸는 것도 계약이나 가격 조건 없이는 불가능하다.

제한의 대상에도 경계가 있다. 내장 AI 제한은 AI Functions, Cortex Agents, CoWork, CoCo에 적용되지만 웨어하우스 지출을 정지시키는 것은 아니다. AI용과 웨어하우스용 크레딧 단위는 하나의 할당량에 혼합할 수 없고 후자에는 별도의 할당량이 필요하다. AI의 일부를 멈춘 것을 청구 전체에 한도를 둔 것으로 읽어서는 안 된다.

정지 후 업무 지속도 별개의 문제다. 자료에 따르면 새로운 요청에는 할당량 관련 오류가 반환되고 제한이 유효해지면 실행 중인 AI Functions는 종료된다. 모든 도구 동작이 취소되거나 완료된 작업까지 되돌려진다고까지는 확인할 수 없다. 추가 소비를 막는 것과 업무를 정합적인 상태로 되돌리는 것은 같지 않다.

날짜가 바뀌면 별개의 틀이 된다

사용자별 할당량의 일간·월간 한도는 대상 사용자마다 독립적으로 평가된다. 부서 전체가 나눠 쓰는 하나의 지갑이 아니다. 모두가 개인 한도를 지키고 있어도 이용자가 늘면 합계 소비는 늘어날 수 있다.

이는 개인 제한이 무의미하다는 이야기가 아니다. 일부 대량 이용자만 멈추고 다른 사람의 이용을 계속할 수 있다는 이점이 있다. 공동 예산이 답하는 "이 부서 전체에 얼마를 할당하는가"와 개인 할당량이 답하는 "이 사람에게 얼마나 쓰게 하는가"는 다른 것이다. 하나의 할당량에서는 대상자에게 같은 개인 한도를 적용하므로 서로 다른 배분이 필요하면 사용자군을 구분하는 설정이 필요하다.

시각의 기준도 사내 직관과 일치한다고 볼 수 없다. 일간 틀은 UTC 0시, 월간은 UTC에서 매월 1일에 초기화된다. 각 거점의 영업일도, 직전 24시간의 이동 창도 아니다. 경계 전후로 계속 사용하면 두 기간의 할당을 차례로 쓰는 일이 있을 수 있다. 그것은 규칙에 따른 동작이며 곧바로 우회로라 불러야 하는 것은 아니다.

한도나 대상의 변경에도 약 5~10분의 반영 시간이 있다. 여러 할당량에서 제한을 받는 사람은 하나를 해제해도 남은 제한이 사라지는 것은 아니다. 내장 제한의 기간 초기화와 자체 권한 취소 처리의 복구도 구분할 필요가 있다. 예산표가 새로운 숫자가 된 시각과 현장이 다시 사용 가능한 시각은 반드시 일치하지 않는다.

모델의 효율은 예산 책임을 결정하지 않는다

이런 관리의 경계는 공유 AI 기능이 넓어질수록 중요해진다. Snowflake의9월 2일 발표 실적 자료에서는 7월 31일 종료 분기의 제품 매출이 반올림 수치로 14억 9,000만 달러, 전년 동기 대비 37% 증가였다. CoCo는 9,100개 초과, CoWork는 5,800개 계정에서 이용된 것으로 한다.

다만 이는 분기 마지막 4주간의 주평균 이용을 동사의 내부 구분에 따른 용량 계약과 종량 이용 계정에서 측정한 것이다. 특정 유료 이용자 수가 아니며 두 집단이 겹치지 않는다고도 할 수 없다. 예산 기능의 이용 수나 모델 라우터의 도입 수로도 치환할 수 없다.

이후의8월 18일 동적 라우팅 발표는 능력과 비용의 균형을 의식한 모델 선택을 설명한다. 주석에는 프라이빗 프리뷰를 조만간 시작할 예정이라고 되어 있었다. 사내 시험의 효율 향상은 고객 청구 절감을 독립적으로 검증한 결과가 아니다. 7월에 끝난 분기의 성장을 8월 발표 기능의 효과로 삼을 수도 없다.

건당 처리에 필요한 자원이 줄어도 그 일을 어느 부서의 예산에 넣을지는 결정되지 않는다. 쓰기 쉽고 저렴해지면 이용 횟수가 늘어날 가능성도 있다. 단위 효율 개선과 지출 총액 증가는 양립한다. 그것은 성장 예측이 아니라 두 지표가 다르다는 뜻이다.

AI 비용 관리 가이드는 AI 이용에 쿼리 비용, 웨어하우스 가동, 기타 요금이 따를 수 있다는 점도 보여준다. 집계 뷰에는 보조적인 것과 중복되는 것이 있어 보이는 숫자를 모두 더하면 되는 것은 아니다.

Snowflake는 이러한 제약과 대체 수단을 공개하고 있다. 모니터링, 사용자 선택, 제한 이력, 저지연 평가 등을 사용할 수 있는 이상 "멈출 수단이 없다"고 결론짓는 것은 공정하지 않다. 또한 Cortex Agent의 자원별 예산 가이드는 이 기능이 중화인민공화국에서는 이용할 수 없다고 명시한다. 세계 시장의 논의라고 해서 개별 기능의 제공 지역까지 일률적으로는 되지 않는다.

본고는 공개 자료에 기반한 분석이며 고객 계정에서의 통제 시험, 실제 청구 검증, 특정 기업의 손실 보고가 아니다. 확인할 수 있는 것은 입구, 대상, 시간이라는 세 가지 설정이 별개로 존재한다는 것이다. 신뢰할 수 있는 예산 관리에는 그 세 가지를 하나의 숫자로 끝내지 않는 자세가 필요하다.