이러한 비 차단 io 서버로 단일 요청이 오래 걸리는 경우 어떻게됩니까?

Question

nodej 또는 eventlet 또는 다른 비 차단 서버의 경우 주어진 요청이 오래 걸리면 다른 요청이 모두 차단됩니까?

예를 들어, 요청이 들어오고 계산하는 데 200ms가 걸리면 예를 들어 다른 요청이 차단됩니다. nodejs는 단일 스레드를 사용합니다.

의미는 초당 15K는 주어진 요청에 대한 응답을 계산하는 데 소요되는 실제 시간의 실질적인 b/c를 의미합니다.

하지만 이것은 나에게 잘못된 것처럼 보입니다. 그래서 나는 그것이 어떻게 작동 하는지를 상상할 수 없으므로 실제로 일어나는 일을 묻고 있습니다.

Answer 1

정확합니다. 장기 실행 코드가 비동기 적이 지 않으면 Nodejs 개발자는이를 인식해야합니다. 그렇지 않으면 응용 프로그램이 완전히 비 효과적입니다.

'오랜 시간이 걸릴'모든 것이 비동기 적으로 완료되어야합니다.

Answer 2

node.js의 모든 내용이 내부적으로 병렬로 실행됩니다. 그러나 자신의 코드는 엄격하게 연속적으로 실행됩니다. node.js에서 잠시 잠을 자면 서버가 잠자 게됩니다. 많은 계산이 필요한 요청에는 적합하지 않습니다. I/O는 병렬이며 코드는 콜백을 통해 I/O를 수행하므로 코드가 I/O를 기다리는 동안 실행되지 않습니다.

대부분의 최신 플랫폼에서 node.js 은 우리에게 입출력 스레드를 제공합니다. 플랫폼에서 가장 잘 작동하는 스레드를 사용하는 libev을 사용합니다.

Answer 3

적어도 자동으로 생성되는 여러 작업자간에 들어오는 연결의 균형을 조정하는 새로운 cluster 기능을 사용하지 않으면 기본적으로 사실입니다. 그러나이를 사용하면 다른 요청도 대부분 빨리 완료됩니다.

편집 : 근로자는 프로세스입니다.

Answer 4

줄을 서서 기다리는 10 명의 사람들로 이벤트 루프를 생각할 수 있습니다. 누군가가 자신의 청구서를 지불하는데 시간이 너무 많이 걸리는 경우

In other words ... 다른 사람들은 자신의 차례가 오기를 ... 기다리고 기다리고 배회 할 것이다 (따라서 이벤트 루프를 차단) :

이벤트 루프가 단일 스레드에서 실행 중이므로 무거운 번의 계산을 콜백 함수 또는 동기 I/O로 수행하여 실행을 차단하지 않는 것이 매우 중요합니다 ( ). 큰 값/개체 컬렉션을 수행하거나 콜백 함수에서 시간이 많이 걸리는 계산을 수행하면 의 이벤트 루프가 큐의 다른 이벤트를 계속 처리 할 수 ​​없습니다.

Answer 5

"차단"여부는 "차단"의 정의에 따라 결정됩니다. 일반적으로 블록은 CPU가 본질적으로 유휴 상태임을 의미하지만 현재 스레드는 I/O 등을 기다리고 있기 때문에 아무 것도 할 수 없습니다. 추천하지 않는 동기 입출력 기능을 사용하지 않는 한, node.js에서는 그러한 일이 발생하지 않습니다. 대신, 함수는 빠르게 리턴하고, 시작한 I/O 태스크가 완료되면 콜백이 호출되고 거기에서 가져옵니다. 중간에 다른 요청을 처리 할 수 ​​있습니다.

노드에서 계산량이 많은 작업을 수행하는 경우 완료 될 때까지 CPU를 사용할 수 없지만 다른 이유로 CPU가 실제로 사용 중입니다. 일반적으로 이것은 사람들이 "차단"이라고 말할 때가 아니라 오랜 계산 일뿐입니다.

200ms는 I/O를 포함하지 않고 전적으로 계산을 수행 할 때 시간이 오래 걸립니다. 솔직히 말하면 노드에서해야하는 일은 아닙니다. 노드의 정신에 더 많은 해결책은 노드에 의해 호출되는 다른 (자바 스크립트가 아닌) 프로그램에서 발생하는 이러한 종류의 숫자 처리를 수행하는 것이며, 완료되면 콜백을 호출하는 것입니다. 멀티 코어 머신 (또는 다른 프로그램이 다른 머신에서 실행 중임)을 가지고 있다고 가정하면, 다른 프로그램이 멀리 떨어져있는 동안 노드는 요청에 계속 응답 할 수 있습니다.

클러스터 (다른 사람들이 언급했듯이)가 도움이 될 수있는 경우가 있지만 그 중 하나가 의심 스럽습니다. 클러스터는 실제로 CPU의 단일 코어 이상이 함께 처리 할 수있는 많은 요청이있을 때 만들어지며, 단일 요청이 각각 수백 밀리 초가 걸린 경우가 아닙니다.