Zettelkasten

New Relic 파이썬 에이전트는 64KB 이하 페이로드를 압축하지 않는다

·수정 1회

요약

  • 에이전트는 수집 서버로 보내는 본문 크기가 agent_limits.data_compression_threshold(기본 65536바이트)를 넘을 때만 gzip으로 압축한다. 트랜잭션 이벤트와 로그는 약 5초마다 따로 보내서 한 번에 30KB 안팎이고, 그래서 거의 압축 없이 나간다.
  • newrelic.ini에 agent_limits.data_compression_threshold = 2048처럼 적으면 설정 로더가 읽어서 기준이 바뀐다. 공식 설정 문서에는 없는 키이고, 환경 변수로는 바꿀 수 없다.
  • 실제로 압축되는지는 에이전트가 스스로 남기는 지표 Supportability/Python/Collector/<method>/Output/Bytes(모든 전송, 압축 전 크기)와 .../ZLIB/Bytes(압축된 전송만)의 호출 수를 나눠서 본다.

본문

동작 (소스로 확인, newrelic 10.16.0과 main 브랜치)

# newrelic/core/config.py — 기본값. 환경 변수를 읽지 않는다
_settings.compressed_content_encoding = "gzip"
_settings.agent_limits.data_compression_threshold = 64 * 1024
_settings.agent_limits.data_compression_level = None

# newrelic/config.py — ini에서 이 키를 읽는다
_process_setting(section, "agent_limits.data_compression_threshold", "getint", None)

# newrelic/common/agent_http.py — 기준을 "넘을 때만" 압축한다
if len(payload) > self._compression_threshold:
    ...  # zlib, wbits=31(gzip), level 미지정이면 Z_DEFAULT_COMPRESSION

같은 파일의 _supportability_request가 전송마다 Output/Bytes에 압축 전 크기를 기록하고, 압축했을 때만 ZLIB/Bytes에 압축 후 크기를 기록한다. 그래서 두 지표의 호출 수 비율이 곧 압축된 전송 비율이다.

관측: gunicorn gevent API 서버 플릿, 하루치

데이터 종류 (method) 압축 전 전송량 1회 평균 압축된 전송 비율
트랜잭션 이벤트 (analytic_event_data) 12.6GB 약 31KB 3%
로그 (log_event_data) 12.5GB 약 31KB 3%
메트릭 (metric_data) 16.2GB → 압축 후 2.7GB 약 450KB 92%
스팬 (span_event_data) 7.4GB → 압축 후 0.7GB 약 220KB 97%
  • 메트릭은 60초마다 보내므로 하루 호출 수(약 3.6만 회)를 1,440으로 나누면 보고 중인 프로세스 수(약 25개)가 나온다. 이벤트 호출 수(약 40만 회)를 같은 수로 나누면 프로세스당 분당 약 11회, 즉 5초 남짓 간격이다. New Relic 문서가 말하는 이벤트 전송 주기 5초와 맞는다.
  • 이벤트와 로그는 주기가 짧아서 한 번에 모이는 양이 기준에 못 미친다. 메트릭(약 6배)과 스팬(약 11배)은 기준을 넘어 압축된다.
  • 이 바이트가 private 서브넷에서 NAT 게이트웨이를 지나면 NAT 처리비(서울 $0.059/GB)와 인터넷 송신비가 함께 붙는다. 이 환경에서는 NAT 송신의 약 절반이 New Relic 수집 서버로 가고 있었다. 목적지를 찾은 방법은 NAT 게이트웨이 ENI의 Flow Log는 pkt-dstaddr로 출발 IP와 최종 목적지를 한 줄에 보여준다.

기준을 낮출 때 확인할 것

  • 수집 서버가 압축된 이벤트·로그를 받는지: 64KB를 넘은 이벤트·로그 묶음은 지금도 압축돼서 하루 약 2만 5천 회 전송되고 있었다(관측). 압축 형식 자체는 새로운 경로가 아니다.
  • New Relic 요금: 수집량 기준이라 줄지 않는다. 줄어드는 것은 회선을 지나는 바이트와 그에 붙는 NAT·송신 비용이다.
  • gevent 허브 블로킹: zlib 압축은 greenlet을 양보하지 않아 압축하는 동안 허브가 멈춘다. 한 번에 30KB 단위라 짧을 것으로 보지만 측정하지는 않았다. harvest 경로의 다른 블로킹 사례는 New Relic 파이썬 에이전트의 패키지 목록 수집이 gevent 허브를 harvest마다 최대 2초 막는다.
  • 문서에 없는 키: 이후 버전에서 키가 사라지면 오류 없이 기본값으로 돌아간다. 에이전트를 올릴 때 압축된 전송 비율을 다시 본다.

다른 언어 에이전트의 선례 (문서로 확인)

Ruby 에이전트는 8.8.0(2022-06-02)에서 같은 기준을 64KiB에서 2KiB(2048바이트)로 낮췄다. 릴리스 노트는 64KiB가 아주 오래된 Ruby(2.2 미만)에서 작은 페이로드를 압축할 때 생기던 segfault 때문에 정해진 값이라고 설명한다. 파이썬 에이전트에는 이런 변경이나 안내가 없고 기본값이 그대로 64KB다.

관련 노트

참고