蘭州做網(wǎng)站多少錢關(guān)鍵詞首頁(yè)排名優(yōu)化價(jià)格
文章目錄
- 輸入
- 輸出
- 運(yùn)行
- 如何運(yùn)行
- 解決關(guān)聯(lián)性
- attention score
- 額外的
- Q K V
- Multi-head self-attention
- Positional Encoding
- Truncated Self-attention
- 影像處理
- vs CNN
- vs RNN
- 圖上的應(yīng)用
輸入
輸出
運(yùn)行
鏈接（Attention Is All You Need）
如何運(yùn)行
解決關(guān)聯(lián)性
attention score
也可以不用softmax，relu也行。
額外的
Q K V
Multi-head self-attention
Positional Encoding
https://arxiv.org/abs/2003.09229
Truncated Self-attention
只看一個(gè)小范圍。
影像處理
vs CNN
vs RNN
圖上的應(yīng)用
