LUIS 프로그래밍 API의 처리량을 어떻게 늘릴 수 있습니까?

Question

LUIS 프로그래밍 API를 사용하는 경우 Google은 12 개 GET 및 POST 요청을 수행 할 때 429 개의 오류 ("너무 많은 요청")를 자주받습니다. 이를 처리하기 위해 코드에 잠시 멈춤을 넣었습니다.

LUIS에 유료 구독 키가 있습니다. 이는 초당 50 회의 요청을 받아야 함을 나타냅니다 (https://azure.microsoft.com/en-us/pricing/details/cognitive-services/language-understanding-intelligent-services/ 참조). 그러나 유료 구독 키는 응용 프로그램 끝점을 치는 데만 사용할 수 있습니다. 요청 헤더에 Ocp-Apim-Subscription-Key이있는 경우 Starter_Key와 관련된 "프로그래밍 방식 키"를 사용해야합니다 (이는 분명히 속도 제한적 임).

여기에 뭔가가 있습니까? LUIS 프로그래밍 API에서 처리량을 높이려면 어떻게해야합니까? 우리의 엔지니어

Answer 1

한

다음과 같은 대답에 도착했다, 그래서 나는 여기에 그의 대답을 게시 할거야.

프로그래밍 API는 모든 사용자에게 5 requests per second, 100K requests per month으로 제한됩니다. 유료 구독 키는 프로그래밍 API가 아닌 끝점 API에만 사용됩니다.

1. 대기열에 API 요청을 넣어 : 당신이 더 많은 처리량을해야하는 경우

   . 초당 5 번 LUIS 모델을 계속 업데이트해야 할 가능성은 희박합니다. 아마도 업데이트가있을 것입니다. 한도 내에서 그들을 대기열에 넣어.

2. 여러 LUIS 모델을 관리하는 데 동일한 사용자 계정을 사용하지 마십시오. 각 모델에 대한 추가 계정을 설정하면 추가 프로그래밍 방식 키가 제공됩니다. 각 프로그래밍 방식 키는 초당 5 건의 요청을 제공합니다.