New Relic 파이썬 에이전트는 64KB 이하 페이로드를 압축하지 않는다
·수정 1회
요약
- 에이전트는 수집 서버로 보내는 본문 크기가
agent_limits.data_compression_threshold(기본 65536바이트)를 넘을 때만 gzip으로 압축한다. 트랜잭션 이벤트와 로그는 약 5초마다 따로 보내서 한 번에 30KB 안팎이고, 그래서 거의 압축 없이 나간다. newrelic.ini에agent_limits.data_compression_threshold = 2048처럼 적으면 설정 로더가 읽어서 기준이 바뀐다. 공식 설정 문서에는 없는 키이고, 환경 변수로는 바꿀 수 없다.- 실제로 압축되는지는 에이전트가 스스로 남기는 지표
Supportability/Python/Collector/<method>/Output/Bytes(모든 전송, 압축 전 크기)와.../ZLIB/Bytes(압축된 전송만)의 호출 수를 나눠서 본다.
본문
동작 (소스로 확인, newrelic 10.16.0과 main 브랜치)
# newrelic/core/config.py — 기본값. 환경 변수를 읽지 않는다
_settings.compressed_content_encoding = "gzip"
_settings.agent_limits.data_compression_threshold = 64 * 1024
_settings.agent_limits.data_compression_level = None
# newrelic/config.py — ini에서 이 키를 읽는다
_process_setting(section, "agent_limits.data_compression_threshold", "getint", None)
# newrelic/common/agent_http.py — 기준을 "넘을 때만" 압축한다
if len(payload) > self._compression_threshold:
... # zlib, wbits=31(gzip), level 미지정이면 Z_DEFAULT_COMPRESSION
같은 파일의 _supportability_request가 전송마다 Output/Bytes에 압축 전 크기를 기록하고, 압축했을 때만 ZLIB/Bytes에 압축 후 크기를 기록한다. 그래서 두 지표의 호출 수 비율이 곧 압축된 전송 비율이다.
관측: gunicorn gevent API 서버 플릿, 하루치
| 데이터 종류 (method) | 압축 전 전송량 | 1회 평균 | 압축된 전송 비율 |
|---|---|---|---|
트랜잭션 이벤트 (analytic_event_data) |
12.6GB | 약 31KB | 3% |
로그 (log_event_data) |
12.5GB | 약 31KB | 3% |
메트릭 (metric_data) |
16.2GB → 압축 후 2.7GB | 약 450KB | 92% |
스팬 (span_event_data) |
7.4GB → 압축 후 0.7GB | 약 220KB | 97% |
- 메트릭은 60초마다 보내므로 하루 호출 수(약 3.6만 회)를 1,440으로 나누면 보고 중인 프로세스 수(약 25개)가 나온다. 이벤트 호출 수(약 40만 회)를 같은 수로 나누면 프로세스당 분당 약 11회, 즉 5초 남짓 간격이다. New Relic 문서가 말하는 이벤트 전송 주기 5초와 맞는다.
- 이벤트와 로그는 주기가 짧아서 한 번에 모이는 양이 기준에 못 미친다. 메트릭(약 6배)과 스팬(약 11배)은 기준을 넘어 압축된다.
- 이 바이트가 private 서브넷에서 NAT 게이트웨이를 지나면 NAT 처리비(서울 $0.059/GB)와 인터넷 송신비가 함께 붙는다. 이 환경에서는 NAT 송신의 약 절반이 New Relic 수집 서버로 가고 있었다. 목적지를 찾은 방법은 NAT 게이트웨이 ENI의 Flow Log는 pkt-dstaddr로 출발 IP와 최종 목적지를 한 줄에 보여준다.
기준을 낮출 때 확인할 것
- 수집 서버가 압축된 이벤트·로그를 받는지: 64KB를 넘은 이벤트·로그 묶음은 지금도 압축돼서 하루 약 2만 5천 회 전송되고 있었다(관측). 압축 형식 자체는 새로운 경로가 아니다.
- New Relic 요금: 수집량 기준이라 줄지 않는다. 줄어드는 것은 회선을 지나는 바이트와 그에 붙는 NAT·송신 비용이다.
- gevent 허브 블로킹: zlib 압축은 greenlet을 양보하지 않아 압축하는 동안 허브가 멈춘다. 한 번에 30KB 단위라 짧을 것으로 보지만 측정하지는 않았다. harvest 경로의 다른 블로킹 사례는 New Relic 파이썬 에이전트의 패키지 목록 수집이 gevent 허브를 harvest마다 최대 2초 막는다.
- 문서에 없는 키: 이후 버전에서 키가 사라지면 오류 없이 기본값으로 돌아간다. 에이전트를 올릴 때 압축된 전송 비율을 다시 본다.
다른 언어 에이전트의 선례 (문서로 확인)
Ruby 에이전트는 8.8.0(2022-06-02)에서 같은 기준을 64KiB에서 2KiB(2048바이트)로 낮췄다. 릴리스 노트는 64KiB가 아주 오래된 Ruby(2.2 미만)에서 작은 페이로드를 압축할 때 생기던 segfault 때문에 정해진 값이라고 설명한다. 파이썬 에이전트에는 이런 변경이나 안내가 없고 기본값이 그대로 64KB다.
관련 노트
- NAT 게이트웨이 ENI의 Flow Log는 pkt-dstaddr로 출발 IP와 최종 목적지를 한 줄에 보여준다
- NAT 게이트웨이는 원래 무료인 인터넷 수신에도 GB당 처리요금을 받는다
- New Relic 파이썬 에이전트의 패키지 목록 수집이 gevent 허브를 harvest마다 최대 2초 막는다
참고
- https://github.com/newrelic/newrelic-python-agent/blob/main/newrelic/core/config.py
- https://github.com/newrelic/newrelic-python-agent/blob/main/newrelic/common/agent_http.py
- https://docs.newrelic.com/docs/apm/agents/python-agent/configuration/python-agent-configuration/
- https://docs.newrelic.com/docs/release-notes/agent-release-notes/ruby-release-notes/ruby-agent-880/
- https://docs.newrelic.com/docs/release-notes/agent-release-notes/python-release-notes/python-agent-71600178/