Zettelkasten
Search
⌘K
Graph
Tags
#
inference-parallelism
2개
ctranslate2 num_workers는 가중치를 공유하고 worker별 메모리는 호출 중에만 늘어난다
2,326자
ctranslate2
faster-whisper
memory-management
inference-parallelism
benchmarking
ctranslate2의 GIL 해제와 num_workers는 독립적인 두 메커니즘이다
2,392자
ctranslate2
faster-whisper
gil
python-concurrency
inference-parallelism
threading