#transformer5개

LoRA는 Transformer의 Attention 레이어에 주로 적용된다517자

fine-tuning LoRA transformer

트랜스포머 어텐션688자

Encoder에서 self attention 계산시 Lower Triangular를 이용해 인과적 구조로 예측가능한 트랜스포머 구조를 만든다.361자

transformer whisper speech-to-text

Transformer에서 encoder는 입력을 추상화한다.192자

Transformer에서 self attention 계산 과정616자