db connection pool의 max age에 jitter 를 적용하면 connection 생성 p99가 개선된다.

요약

본문

-

• connection pool 클래스에는 connection을 어느정도 시간동안 쓸건지 지정하는 life time과 같은 값이 존재함

• 모든 프로세스가 동이한 life time을 갖으면 짧은 타임 span안에 connection이 많이 생성되고, life time 종료시점에 한번에 없어지고 한번에 생성됨
• connection 생성 비용은 생각보다 큼
• jitter는 life time을 고정하지 않고 일정한 분산 값을 갖는 분포로 life time을 확률적으로 지정함
• connection 생성 수는 많아지지만 connection 생성 요청이 분산되지 않으므로 극단 값이 줄어드는 경향을 보임

참고

• connection pool에서 connection 순환 속도을 고려하지 않으면 조용히 서비스 성능이 악화된다.
• 평균 응답 속도보다 p99가 중요한 이유