속도 제한

속도 제한은 사용자가 지정된 기간 내에 우리 서비스에 접근할 수 있는 횟수를 제한하는 API의 제약입니다.


제한의 이유

우리는 모든 사용자가 최고의 경험을 할 수 있도록 API에 속도 제한을 설정했습니다. 다음은 그 이유입니다:

  • 우리의 서비스를 안전하게 유지하기 위해! 속도 제한은 친절한 경비원과 같아서, 아무도 한 번에 너무 많은 요청으로 API를 압도할 수 없도록 합니다. 이는 서비스의 잠재적 오용을 방지하고 모든 것이 원활하게 작동하도록 돕습니다.

  • 모두가 공평하게 이용할 수 있도록. 놀이터에서 장난감을 나누는 것처럼, 모든 사용자가 API에 동등하게 접근할 수 있도록 하고 싶습니다. 각 사용자가 할 수 있는 요청 수를 부드럽게 제한함으로써, 아무도 너무 오래 기다리지 않도록 보장합니다.

  • 성능을 빠르고 안정적으로 유지하기 위해. 전체 요청 흐름을 관리함으로써, 모든 훌륭한 사용자에게 빠른 응답 시간과 안정적인 서비스를 유지할 수 있습니다. 이는 고속도로가 너무 혼잡해지지 않도록 하는 것과 같습니다 - 혼잡을 방지하면 교통이 더 원활하게 흐릅니다!


제한 작동 방식

속도 제한은 두 가지 방식으로 측정됩니다:

  • 초당 요청 수: 이는 초당 네트워크 요청을 할 수 있는 횟수입니다.
  • 대기열 작업: 이는 주어진 시간에 대기열에서 실행할 수 있는 동시 생성 작업의 수입니다.

대기열 작업에는 텍스트로 3D, 이미지로 3D, 텍스트로 텍스처, 리메시 endpoint가 포함됩니다. 업로드 및 Balance와 같은 다른 endpoint는 이 제한에 포함되지 않습니다.

제한은 계정별로 적용됩니다. 이는 모든 API key에 걸쳐 제한이 공유된다는 것을 의미합니다.

속도 제한 외에도 작업 처리 우선순위가 작업의 속도에 영향을 미칩니다.

각 사용자 등급은 그들의 필요에 맞게 설계된 특정 속도 제한과 우선순위 수준을 가지고 있습니다. 다음은 등급별 현재 제한입니다:

사용자 등급초당 요청 수대기열 작업우선순위 수준
Pro2010기본값
Premium2030Pro보다 높음
Ultra20100가장 높음
Studio2020Pro보다 높음
Enterprise100기본값 50, 사용자 지정 가능가장 높음

이 제한을 초과하면 API로부터 429 Too Many Requests 응답을 받게 됩니다. 이는 두 가지 유형의 히트로 인해 발생할 수 있으며, 각각 다른 응답을 제공합니다:

  • 요청 히트: 초당 너무 많은 요청을 할 때 발생합니다. RateLimitExceeded 메시지와 함께 429 Too Many Requests 응답을 받게 됩니다.
  • 대기열 히트: 너무 많은 동시 생성 작업이 실행 중일 때 발생합니다. NoMoreConcurrentTasks 메시지와 함께 429 Too Many Requests 응답을 받게 됩니다.