#tiling1개

Flash Attention은 어텐션을 칩 안의 메모리에서 블록 단위로 계산해 큰 메모리 왕복을 없앤다1,504자

flash-attention gpu-memory-hierarchy online-softmax tiling ctranslate2