突破瓶颈，打造更强大的 Transformer

忘是亡心i 2022-10-17 11:12 165阅读 0赞

自[《Attention is All You Need》][Attention is All You Need]一文发布后，基于Multi-Head Attention的Transformer模型开始流行起来，而BERT模型更是将Transformer模型的热度推上了又一个高峰。当然，技术的探索是无止境的，改进的工作也相继涌现：有改进预训练任务的，如XLNET的PLM、ALBERT的SOP等；有改进归一化的，如Post-Norm向Pre-Norm的改变，以及T5中去掉了Layer Norm里边的beta参数等；也有改进模型结构的，如Transformer-XL等；有改进训练方式的，如ALBERT的参数共享等；…

以上的这些改动，都是在Attention外部进行改动的，也就是说它们都默认了Attention的合理性，没有对Attention本身进行改动，而本文我们则介绍两个新的研究：**它们针对Multi-Head Attention中可能存在的建模瓶颈，提出了不同的方案来改进Multi-Heaed Attention。两篇论文都来自Google，并且做了相当充分的实验，因此结果应该是相当具有说服力的**

### 再小也不能小key\_size ###

第一个结果来自文章[《Low-Rank Bottleneck in Multi-head Attention Models》][Low-Rank Bottleneck in Multi-head Attention Models]，它明确地指出了Multi-Head Attention里边的表达能力瓶颈，并提出通过增大key\_size的方法来缓解这个瓶颈

#### Single-Head Attention ####

对一个单头注意力机制来说，它的定义如下：  
 Attention ( X ) = W v X ⋅ Softmax \[ ( W k X ) T ( W q X ) d k \] = W v X ⋅ P (1) \\text\{Attention\}(\\boldsymbol\{X\})=\\boldsymbol\{W\}\_\{v\} \\boldsymbol\{X\} \\cdot \\text\{Softmax\}\\left\[\\frac\{\\left(\\boldsymbol\{W\}\_\{k\} \\boldsymbol\{X\}\\right)^\{T\}\\left(\\boldsymbol\{W\}\_\{q\} \\boldsymbol\{X\}\\right)\}\{\\sqrt\{d\_\{k\}\}\}\\right\]=\\boldsymbol\{W\}\_\{v\} \\boldsymbol\{X\} \\cdot \\boldsymbol\{P\}\\tag\{1\} Attention(X)=WvX⋅Softmax\[dk(WkX)T(WqX)\]=WvX⋅P(1)  
其中 W q ∈ R d q × d , W k ∈ R d k × d , W v ∈ R d v × d \\boldsymbol\{W\}\_q\\in \\mathbb\{R\}^\{d\_q\\times d\},\\boldsymbol\{W\}\_k\\in \\mathbb\{R\}^\{d\_k\\times d\},\\boldsymbol\{W\}\_v\\in \\mathbb\{R\}^\{d\_v\\times d\} Wq∈Rdq×d,Wk∈Rdk×d,Wv∈Rdv×d，因为这是单头注意力机制，所以 d q = d k = d v = d d\_q=d\_k=d\_v=d dq=dk=dv=d

但是论文中提到**如果 d q = d k = d ≥ n d\_q=d\_k=d\\ge n dq=dk=d≥n，那么给定列满秩矩阵 X ∈ R d × n \\boldsymbol\{X\}\\in\\mathbb\{R\}^\{d\\times n\} X∈Rd×n和 n × n n\\times n n×n的正随机矩阵（每一列的和为1，且矩阵所有元素都为正数） P \\boldsymbol\{P\} P，一定存在 d × d d\\times d d×d维的 W q , W k \\boldsymbol\{W\}\_q,\\boldsymbol\{W\}\_k Wq,Wk，使得**  
 Softmax \[ ( W k X ) T ( W q X ) d k \] = P (2) \\text\{Softmax\}\\left\[\\frac\{(\\boldsymbol\{W\}\_k\\boldsymbol\{X\})^T(\\boldsymbol\{W\}\_q\\boldsymbol\{X\})\}\{\\sqrt\{d\_k\}\}\\right\]=\\boldsymbol\{P\}\\tag\{2\} Softmax\[dk(WkX)T(WqX)\]=P(2)  
**成立**。但是如果 d < n d<n d<n，则此公式不一定成立

首先证明 d ≥ n d\\ge n d≥n的情况。因为 X \\boldsymbol\{X\} X是列满秩矩阵，所以一定存在其左逆矩阵 X † = ( X T X ) − 1 X T ∈ R n × d \\boldsymbol\{X\}^\{\\dagger\}=(\\boldsymbol\{X\}^T\\boldsymbol\{X\})^\{-1\}\\boldsymbol\{X\}^T\\in\\mathbb\{R\}^\{n\\times d\} X†=(XTX)−1XT∈Rn×d，且 X † X = I n \\boldsymbol\{X\}^\{\\dagger\}\\boldsymbol\{X\}=\\boldsymbol\{I\}\_n X†X=In，令 W k = W ~ k X † , W q = W ~ q X † \\boldsymbol\{W\}\_k=\\tilde\{\\boldsymbol\{W\}\}\_k\\boldsymbol\{X\}^\{\\dagger\},\\boldsymbol\{W\}\_q=\\tilde\{\\boldsymbol\{W\}\}\_q\\boldsymbol\{X\}^\{\\dagger\} Wk=W~kX†,Wq=W~qX†，则  
 ( W k X ) T ( W q X ) =   X T W k T W q X =   X T ( X † ) T W ~ k T W ~ q X † X =   I n ⋅ W ~ k T W ~ q ⋅ I n =   W ~ k T W ~ q ≜   W ~ k q (3) \\begin\{aligned\} (\\boldsymbol\{W\}\_k\\boldsymbol\{X\})^T(\\boldsymbol\{W\}\_q\\boldsymbol\{X\})=&\\, \\boldsymbol\{X\}^\{T\} \\boldsymbol\{W\}\_\{k\}^\{T\} \\boldsymbol\{W\}\_\{q\} \\boldsymbol\{X\}\\\\ =&\\, \\boldsymbol\{X\}^\{T\}(\\boldsymbol\{X\}^\{\\dagger\})^\{T\} \\tilde\{\\boldsymbol\{W\}\}\_\{k\}^\{T\} \\tilde\{\\boldsymbol\{W\}\}\_\{q\} \\boldsymbol\{X\}^\{\\dagger\} \\boldsymbol\{X\} \\\\ =&\\, \\boldsymbol\{I\}\_\{n\} \\cdot \\tilde\{\\boldsymbol\{W\}\}\_\{k\}^\{T\} \\tilde\{\\boldsymbol\{W\}\}\_\{q\} \\cdot \\boldsymbol\{I\}\_\{n\} \\\\ =&\\, \\tilde\{\\boldsymbol\{W\}\}\_\{k\}^\{T\} \\tilde\{\\boldsymbol\{W\}\}\_\{q\}\\\\\\triangleq&\\, \\tilde\{\\boldsymbol\{W\}\}\_\{k q\} \\end\{aligned\}\\tag\{3\} (WkX)T(WqX)====≜XTWkTWqXXT(X†)TW~kTW~qX†XIn⋅W~kTW~q⋅InW~kTW~qW~kq(3)  
将式(3)的最终结果带入式(1)得  
 Softmax \[ ( W k X ) T ( W q X ) d k \] =   Softmax \[ W k q ~ d k \] =   exp ⁡ ( W ~ k q d k ) ⋅ D W ~ k q − 1 (4) \\begin\{aligned\} \\text\{Softmax\}\\left\[\\frac\{\\left(\\boldsymbol\{W\}\_\{k\} \\boldsymbol\{X\}\\right)^\{T\}\\left(\\boldsymbol\{W\}\_\{q\} \\boldsymbol\{X\}\\right)\}\{\\sqrt\{d\_\{k\}\}\}\\right\]=&\\, \\text\{Softmax\}\\left\[\\frac\{\\tilde\{\\boldsymbol\{W\}\_\{kq\}\}\}\{\\sqrt\{d\_k\}\}\\right\]\\\\ =&\\, \\exp\\left(\\frac\{\\tilde\{\\boldsymbol\{W\}\}\_\{kq\}\}\{\\sqrt\{d\_k\}\}\\right)\\cdot \\boldsymbol\{D\}\_\{\\tilde\{\\boldsymbol\{W\}\}\_\{kq\}\}^\{-1\} \\end\{aligned\}\\tag\{4\} Softmax\[dk(WkX)T(WqX)\]==Softmax\[dkWkq~\]exp(dkW~kq)⋅DW~kq−1(4)  
其中 D W ~ k q − 1 \\boldsymbol\{D\}\_\{\\tilde\{\\boldsymbol\{W\}\}\_\{kq\}\}^\{-1\} DW~kq−1是一个 n × n n\\times n n×n的对角矩阵，并且  
 ( D W ~ k q − 1 ) i i = ∑ j = 1 n exp ⁡ ( ( W k q ) j i ~ d k ) = ( 1 T exp ⁡ ( ( W ~ k q ) d k ) ) i (5) \\left(\\boldsymbol\{D\}\_\{\\tilde\{\\boldsymbol\{W\}\}\_\{kq\}\}^\{-1\}\\right)\_\{ii\}=\\sum\_\{j=1\}^n \\exp \\left(\\frac\{\\tilde\{\\left(\\boldsymbol\{W\}\_\{kq\}\\right)\_\{ji\}\}\}\{\\sqrt\{d\_k\}\}\\right)=\\left(\\boldsymbol\{1\}^T\\exp\\left(\\frac\{\\left(\\tilde\{\\boldsymbol\{W\}\}\_\{kq\}\\right)\}\{\\sqrt\{d\_k\}\}\\right)\\right)\_i\\tag\{5\} (DW~kq−1)ii=j=1∑nexp(dk(Wkq)ji~)=⎝⎛1Texp⎝⎛dk(W~kq)⎠⎞⎠⎞i(5)

> 式(5)的 1 T \\boldsymbol\{1\}^T 1T是一个全1的行向量，其实很好理解，用一个全1的行向量右乘一个矩阵，本质就是求和操作

因此，我们现在转而需要证明下式成立  
 exp ⁡ ( W ~ k q d k ) = P ⋅ D W ~ k q (6) \\exp\\left(\\frac\{\\tilde\{\\boldsymbol\{W\}\}\_\{kq\}\}\{\\sqrt\{d\_k\}\}\\right)=\\boldsymbol\{P\}\\cdot \\boldsymbol\{D\}\_\{\\tilde\{\\boldsymbol\{W\}\}\_\{kq\}\}\\tag\{6\} exp(dkW~kq)=P⋅DW~kq(6)  
给定 P \\boldsymbol\{P\} P，为了构建矩阵 W ~ k q \\tilde\{\\boldsymbol\{W\}\}\_\{kq\} W~kq，我们随意选择一个正对角线矩阵（对角线元素大于0） D 0 \\boldsymbol\{D\}\_0 D0，并且令  
 W ~ k q = d k ⋅ log ⁡ ( P ⋅ D 0 ) (7) \\tilde\{\\boldsymbol\{W\}\}\_\{kq\}=\\sqrt\{d\_k\}\\cdot \\log\\left(\\boldsymbol\{P\}\\cdot \\boldsymbol\{D\}\_0\\right)\\tag\{7\} W~kq=dk⋅log(P⋅D0)(7)  
由于 P \\boldsymbol\{P\} P是一个正矩阵（矩阵内的元素都大于0），所以满足式(7)的 W ~ k q \\tilde\{\\boldsymbol\{W\}\}\_\{kq\} W~kq矩阵总是存在的，接下来我们证明 D W ~ k q = D 0 \\boldsymbol\{D\}\_\{\\tilde\{\\boldsymbol\{W\}\}\_\{kq\}\}=\\boldsymbol\{D\}\_0 DW~kq=D0  
 D W ~ k q = Diag ( 1 T exp ⁡ ( ( W ~ k q ) d k ) ) = Diag ( 1 T P ⋅ D 0 ) = D 0 (8) \\boldsymbol\{D\}\_\{\\tilde\{\\boldsymbol\{W\}\}\_\{kq\}\}=\\text\{Diag\}\\left(\\boldsymbol\{1\}^T\\exp\\left(\\frac\{\\left(\\tilde\{\\boldsymbol\{W\}\}\_\{kq\}\\right)\}\{\\sqrt\{d\_k\}\}\\right)\\right)=\\text\{Diag\}\\left(\\boldsymbol\{1\}^T\\boldsymbol\{P\}\\cdot \\boldsymbol\{D\}\_0\\right)=\\boldsymbol\{D\}\_0\\tag\{8\} DW~kq=Diag⎝⎛1Texp⎝⎛dk(W~kq)⎠⎞⎠⎞=Diag(1TP⋅D0)=D0(8)  
最后一个等式成立，是因为 P \\boldsymbol\{P\} P的每一列和为1。最终，我们结合式(7)和式(8)  
 exp ⁡ ( W ~ k q d k ) = P ⋅ D 0 = P ⋅ D W ~ k q (9) \\exp\\left(\\frac\{\\tilde\{\\boldsymbol\{W\}\}\_\{kq\}\}\{\\sqrt\{d\_k\}\}\\right)=\\boldsymbol\{P\}\\cdot \\boldsymbol\{D\}\_0=\\boldsymbol\{P\}\\cdot\\boldsymbol\{D\}\_\{\\tilde\{\\boldsymbol\{W\}\}\_\{kq\}\}\\tag\{9\} exp(dkW~kq)=P⋅D0=P⋅DW~kq(9)  
接着我们证明 d < n d<n d<n的情况。假设 d = 1 , n = 2 d=1,n=2 d=1,n=2，则 X ∈ R 1 × 2 , W q , W k , W v ∈ R 1 × 1 \\boldsymbol\{X\}\\in \\mathbb\{R\}^\{1\\times 2\},\\boldsymbol\{W\}\_q,\\boldsymbol\{W\}\_k,\\boldsymbol\{W\}\_v\\in \\mathbb\{R\}^\{1\\times 1\} X∈R1×2,Wq,Wk,Wv∈R1×1，于是  
 Softmax \[ ( W k X ) T ( W q X ) d k \] = Softmax \[ \[ 1 , 0 \] T W k T W q \[ 1 , 0 \] d k \] = Softmax ⁡ \[ \[ W k W q 0 0 0 \] \] (10) \\text\{Softmax\}\\left\[\\frac\{\\left(\\boldsymbol\{W\}\_\{k\} \\boldsymbol\{X\}\\right)^\{T\}\\left(\\boldsymbol\{W\}\_\{q\} \\boldsymbol\{X\}\\right)\}\{\\sqrt\{d\_\{k\}\}\}\\right\]=\\text\{Softmax\}\\left\[\\frac\{\[1,0\]^\{T\} \\boldsymbol\{W\}\_\{k\}^\{T\} \\boldsymbol\{W\}\_\{q\}\[1,0\]\}\{\\sqrt\{d\_\{k\}\}\}\\right\]=\\operatorname\{Softmax\}\\left\[\\left\[\\begin\{array\}\{cc\} \\boldsymbol\{W\}\_\{k\} \\boldsymbol\{W\}\_\{q\} & 0 \\\\ 0 & 0 \\end\{array\}\\right\]\\right\]\\tag\{10\} Softmax\[dk(WkX)T(WqX)\]=Softmax\[dk\[1,0\]TWkTWq\[1,0\]\]=Softmax\[\[WkWq000\]\](10)  
这个矩阵很明显不符合我们对矩阵 P \\boldsymbol\{P\} P的要求，因为它的第二列元素无法做到不相等，或者说此时 P \\boldsymbol\{P\} P的秩很低

#### Multi-Head Attention ####

接着我们简单回顾一下Multi-Head Attenion，首先将Single-Head Attention中的一些变量重新进行定义  
 W k X ≜ K W q X ≜ Q W v X ≜ V \\begin\{aligned\} \\boldsymbol\{W\}\_k\\boldsymbol\{X\}\\triangleq \\boldsymbol\{K\}\\\\ \\boldsymbol\{W\}\_q\\boldsymbol\{X\}\\triangleq \\boldsymbol\{Q\}\\\\ \\boldsymbol\{W\}\_v\\boldsymbol\{X\}\\triangleq \\boldsymbol\{V\} \\end\{aligned\} WkX≜KWqX≜QWvX≜V  
于是则有  
 Attention ( Q , K , V ) = Softmax ( Q K T d k ) V (11) \\text\{Attention\}(\\boldsymbol\{Q\},\\boldsymbol\{K\},\\boldsymbol\{V\})=\\text\{Softmax\}\\left(\\frac\{\\boldsymbol\{Q\}\\boldsymbol\{K\}^T\}\{\\sqrt\{d\_k\}\}\\right)\\boldsymbol\{V\}\\tag\{11\} Attention(Q,K,V)=Softmax(dkQKT)V(11)  
其中 Q ∈ R n × d k , K ∈ R m × d k , V ∈ R m × d v \\boldsymbol\{Q\}\\in \\mathbb\{R\}^\{n\\times d\_k\},\\boldsymbol\{K\}\\in \\mathbb\{R\}^\{m\\times d\_k\},\\boldsymbol\{V\}\\in \\mathbb\{R\}^\{m\\times d\_v\} Q∈Rn×dk,K∈Rm×dk,V∈Rm×dv。而Multi-Head Attention就是将 Q , K , V \\boldsymbol\{Q\},\\boldsymbol\{K\},\\boldsymbol\{V\} Q,K,V分别用 h h h个不同的投影矩阵投影 h h h次，然后分别做 h h h次Single-Head Attention，最后把结果拼接起来，即  
 Q ( 1 ) = Q W Q ( 1 ) , K ( 1 ) = K W K ( 1 ) , V ( 1 ) = V W V ( 1 ) , O ( 1 ) = A t t e n t i o n ( Q ( 1 ) , K ( 1 ) , V ( 1 ) ) Q ( 2 ) = Q W Q ( 2 ) , K ( 2 ) = K W K ( 2 ) , V ( 2 ) = V W V ( 2 ) , O ( 2 ) = A t t e n t i o n ( Q ( 2 ) , K ( 2 ) , V ( 2 ) ) ⋮ Q ( h ) = Q W Q ( h ) , K ( h ) = K W K ( h ) , V ( h ) = V W V ( h ) , O ( h ) = A t t e n t i o n ( Q ( h ) , K ( h ) , V ( h ) ) O = \[ O ( 1 ) , O ( 2 ) , … , O ( h ) \] (12) \\begin\{aligned\}&\\boldsymbol\{Q\}^\{(1)\}=\\boldsymbol\{Q\}\\boldsymbol\{W\}\_Q^\{(1)\},\\boldsymbol\{K\}^\{(1)\}=\\boldsymbol\{K\}\\boldsymbol\{W\}\_K^\{(1)\},\\boldsymbol\{V\}^\{(1)\}=\\boldsymbol\{V\}\\boldsymbol\{W\}\_V^\{(1)\},\\boldsymbol\{O\}^\{(1)\}=Attention\\left(\\boldsymbol\{Q\}^\{(1)\},\\boldsymbol\{K\}^\{(1)\},\\boldsymbol\{V\}^\{(1)\}\\right)\\\\ &\\boldsymbol\{Q\}^\{(2)\}=\\boldsymbol\{Q\}\\boldsymbol\{W\}\_Q^\{(2)\},\\boldsymbol\{K\}^\{(2)\}=\\boldsymbol\{K\}\\boldsymbol\{W\}\_K^\{(2)\},\\boldsymbol\{V\}^\{(2)\}=\\boldsymbol\{V\}\\boldsymbol\{W\}\_V^\{(2)\},\\boldsymbol\{O\}^\{(2)\}=Attention\\left(\\boldsymbol\{Q\}^\{(2)\},\\boldsymbol\{K\}^\{(2)\},\\boldsymbol\{V\}^\{(2)\}\\right)\\\\ &\\qquad\\qquad\\qquad\\qquad\\vdots\\\\ &\\boldsymbol\{Q\}^\{(h)\}=\\boldsymbol\{Q\}\\boldsymbol\{W\}\_Q^\{(h)\},\\boldsymbol\{K\}^\{(h)\}=\\boldsymbol\{K\}\\boldsymbol\{W\}\_K^\{(h)\},\\boldsymbol\{V\}^\{(h)\}=\\boldsymbol\{V\}\\boldsymbol\{W\}\_V^\{(h)\},\\boldsymbol\{O\}^\{(h)\}=Attention\\left(\\boldsymbol\{Q\}^\{(h)\},\\boldsymbol\{K\}^\{(h)\},\\boldsymbol\{V\}^\{(h)\}\\right)\\\\ &\\boldsymbol\{O\}=\\left\[\\boldsymbol\{O\}^\{(1)\},\\boldsymbol\{O\}^\{(2)\},\\dots,\\boldsymbol\{O\}^\{(h)\}\\right\] \\end\{aligned\}\\tag\{12\} Q(1)=QWQ(1),K(1)=KWK(1),V(1)=VWV(1),O(1)=Attention(Q(1),K(1),V(1))Q(2)=QWQ(2),K(2)=KWK(2),V(2)=VWV(2),O(2)=Attention(Q(2),K(2),V(2))⋮Q(h)=QWQ(h),K(h)=KWK(h),V(h)=VWV(h),O(h)=Attention(Q(h),K(h),V(h))O=\[O(1),O(2),…,O(h)\](12)

#### Attention里有个瓶颈 ####

在实际使用中， Q , K , V \\boldsymbol\{Q\},\\boldsymbol\{K\},\\boldsymbol\{V\} Q,K,V一般具有相同的特征维度 d k = d v = d d\_k=d\_v=d dk=dv=d（**hidden\_size**），比如BERT-base里边是768； h h h一般选择12、16、24等，比如BERT-base里边是12；确定了 d , h d,h d,h之后，通常的选择是让投影矩阵 W ∈ R d × d h \\boldsymbol\{W\}\\in \\mathbb\{R\}^\{d\\times \\frac\{d\}\{h\}\} W∈Rd×hd，也就是说，每个Attention-Head里边，是将原始的 d d d维投影到 d h \\frac\{d\}\{h\} hd维，然后再进行Attention运算，输出也是 d h \\frac\{d\}\{h\} hd维，最后把 h h h个 d h \\frac\{d\}\{h\} hd维的结果拼接起来，得到一个 d d d维的输出。这里的 d h \\frac\{d\}\{h\} hd我们通常称为**head\_size**

在Attention中，关键的一步是  
 P = Softmax ( Q K T d k ) (13) \\boldsymbol\{P\}=\\text\{Softmax\}\\left(\\frac\{\\boldsymbol\{Q\}\\boldsymbol\{K\}^T\}\{\\sqrt\{d\_k\}\}\\right)\\tag\{13\} P=Softmax(dkQKT)(13)

在前面我们已经证明了，如果单个头的维度小于句子长度 n n n，得到的 P \\boldsymbol\{P\} P并不好。那么这里单个头的维度是否小于 n n n呢？很明显是的，就以BERT-base为例， d h = 64 ≪ n \\frac\{d\}\{h\}=64\\ll n hd=64≪n

#### 不妨试试增大key\_size？ ####

那么，解决办法是什么呢？直接的想法是让 d h \\frac\{d\}\{h\} hd增大，所以要不就是减少head的数目 h h h，要不就是增大hidden\_size的大小 d d d。但是更多的Attention Head本身也能增强模型的表达能力，所以为了缓解低秩瓶颈而减少 h h h的做法可能得不偿失；如果增加 d d d的话，那自然是能够增强模型整体表达能力的，但整个模型的规模与计算量也会剧增，似乎也不是一个好选择

难道没有其他办法了吗？有！当我们用投影矩阵将 Q , K , V \\boldsymbol\{Q\},\\boldsymbol\{K\},\\boldsymbol\{V\} Q,K,V都投影到低维时，前面都是将它们投影到 d h \\frac\{d\}\{h\} hd维，但其实它们的维度不一定要相等，而只需要保证 Q , K \\boldsymbol\{Q\},\\boldsymbol\{K\} Q,K的维度相等就行了（因为要做内积），为了区别，我们通常称 Q , K \\boldsymbol\{Q\},\\boldsymbol\{K\} Q,K的维度为**key\_size**， V \\boldsymbol\{V\} V的维度才叫**head\_size**，改变key\_size的大小而不改变head\_size的话，也不影响模型的hidden\_size

所以，这篇论文提出来的解决方法就是**增大模型的key\_size**，它能增加Attention的表达能力，并且不改变模型整体的hidden\_size，计算量上也只是稍微增加了一点

> 事实上原论文考虑的是同时增大key\_size和head\_size，Multi-Head Attention的输出拼接之后再用一个线性变换降维，但实际上只增大key\_size也是有效果的
> 
> 此外，如果同时增大key\_size和head\_size会导致计算量和显存明显增加，而只增大key\_size的话，增加的资源消耗就小很多了

#### 实验结果 ####

增加key\_size这个想法很简单，也很容易实现，但是否真的有效呢？我们来看看原论文的实验结果，其实验都是以BERT为baseline的，实验结果图表很多，推荐大家直接看原论文，这里只分享比较有代表性的一个

![gR5hlD.png][]

保持一个较大的key\_size，能使得模型在同样参数规模的情况下表现更优异

其中 d p = d h d\_p=\\frac\{d\}\{h\} dp=hd。结果显示，如果固定一个比较大的key\_size（比如128），那么我们可以调整模型的hidden\_size和head数，使得参数量可以跟原始的BERT设计一致，但是效果更优！所以，增加key\_size确实是有意义的，哪怕将总体参数量重新调整到原来的一样大，也能一定程度上提升模型的效果。这无疑对我们设计新的Transformer模型（尤其是小规模的模型）有重要的指导作用

### 再缺不能缺Talking ###

对Multi-Head Attention改进的第二个结果来自论文[《Talking-Heads Attention》][Talking-Heads Attention]，这篇论文虽然没有显式地指出它跟前一篇论文的联系，但笔者认为它们事实上在解决同一个问题，只不过思路不一样：它指出当前的Multi-Head Attention每个head的运算是相互孤立的，而通过将它们联系（Talking）起来，则可以得到更强的Attention设计，即标题的"Talking-Heads Attention"

#### 从单一分布到混合分布 ####

在前一篇论文里边，我们提到了低秩瓶颈，也就是由于key\_size太小，所以 ( Q ( i ) K ( i ) ) T (\\boldsymbol\{Q\}^\{(i)\}\\boldsymbol\{K\}^\{(i)\})^T (Q(i)K(i))T表达能力不足。为了缓解这个问题，除了增大key\_size之外，还有没有其他方法呢？有，比如这篇文论使用的混合分布思路

所谓混合分布，就是多个简单分布的叠加（比如加权平均），它能极大的增强原分布的表达能力。典型的例子是高斯混合模型：我们知道高斯分布只是一个常见的简单分布，但多个高斯分布叠加而成的高斯混合分布（也叫高斯混合模型，GMM）就是一个更强的分布，理论上来说，只要叠加的高斯分布足够多，高斯混合分布能逼近任意概率分布。这个例子告诉我们，想要增加Attention中分布的表达能力，又不想增加key\_size，那么可以考虑**叠加多个低秩分布**

那么"多个"低秩分布哪里来呢？不是有Multi-Head嘛，每个head都带有一个低秩分布，就直接用它们叠加就行了，这就是Talking-Heads Attention。具体来说，它的形式是：  
 J ^ ( 1 ) = Q ( 1 ) K ( 1 ) T , J ^ ( 2 ) = Q ( 2 ) K ( 2 ) T , ⋯   , J ^ ( h ) = Q ( h ) K ( h ) T ( J ( 1 ) J ( 2 ) ⋮ J ( h ) ) = ( λ 11 λ 12 ⋯ λ 1 h λ 21 λ 22 ⋯ λ 2 h ⋮ ⋮ ⋱ ⋮ λ h 1 λ h 2 ⋯ λ h h ) ( J ^ ( 1 ) J ^ ( 2 ) ⋮ J ^ ( h ) ) P ( 1 ) = s o f t m a x ( J ( 1 ) ) , P ( 2 ) = s o f t m a x ( J ( 2 ) ) , … , P ( h ) = s o f t m a x ( J ( h ) ) O ( 1 ) = P ( 1 ) V ( 1 ) , O ( 2 ) = P ( 2 ) V ( 2 ) , , ⋯   , O ( h ) = P ( h ) V ( h ) O = \[ O ( 1 ) , O ( 2 ) , … , O ( h ) \] (14) \\begin\{aligned\}&\\hat\{\\boldsymbol\{J\}\}^\{(1)\}=\\boldsymbol\{Q\}^\{(1)\}\{\\boldsymbol\{K\}^\{(1)\}\}^\{T\},\\quad\\hat\{\\boldsymbol\{J\}\}^\{(2)\}=\\boldsymbol\{Q\}^\{(2)\}\{\\boldsymbol\{K\}^\{(2)\}\}^\{T\},\\quad\\cdots,\\quad\\hat\{\\boldsymbol\{J\}\}^\{(h)\}=\\boldsymbol\{Q\}^\{(h)\}\{\\boldsymbol\{K\}^\{(h)\}\}^\{T\}\\\\ &\\begin\{pmatrix\}\\boldsymbol\{J\}^\{(1)\} \\\\ \\boldsymbol\{J\}^\{(2)\} \\\\ \\vdots \\\\ \\boldsymbol\{J\}^\{(h)\}\\end\{pmatrix\}=\\begin\{pmatrix\}\\lambda\_\{11\} & \\lambda\_\{12\}& \\cdots & \\lambda\_\{1h\}\\\\ \\lambda\_\{21\} & \\lambda\_\{22\} & \\cdots & \\lambda\_\{2h\}\\\\ \\vdots & \\vdots & \\ddots & \\vdots\\\\ \\lambda\_\{h1\} & \\lambda\_\{h2\} & \\cdots & \\lambda\_\{hh\} \\end\{pmatrix\}\\begin\{pmatrix\}\\hat\{\\boldsymbol\{J\}\}^\{(1)\} \\\\ \\hat\{\\boldsymbol\{J\}\}^\{(2)\} \\\\ \\vdots \\\\ \\hat\{\\boldsymbol\{J\}\}^\{(h)\}\\end\{pmatrix\}\\\\ &\\boldsymbol\{P\}^\{(1)\}=softmax\\left(\\boldsymbol\{J\}^\{(1)\}\\right),\\boldsymbol\{P\}^\{(2)\}=softmax\\left(\\boldsymbol\{J\}^\{(2)\}\\right),\\dots,\\boldsymbol\{P\}^\{(h)\}=softmax\\left(\\boldsymbol\{J\}^\{(h)\}\\right)\\\\ &\\boldsymbol\{O\}^\{(1)\}=\\boldsymbol\{P\}^\{(1)\} \\boldsymbol\{V\}^\{(1)\},\\quad \\boldsymbol\{O\}^\{(2)\}=\\boldsymbol\{P\}^\{(2)\} \\boldsymbol\{V\}^\{(2)\},\\quad ,\\cdots,\\quad\\boldsymbol\{O\}^\{(h)\}=\\boldsymbol\{P\}^\{(h)\} \\boldsymbol\{V\}^\{(h)\}\\\\ &\\boldsymbol\{O\}=\\left\[\\boldsymbol\{O\}^\{(1)\},\\boldsymbol\{O\}^\{(2)\},\\dots,\\boldsymbol\{O\}^\{(h)\}\\right\] \\end\{aligned\}\\tag\{14\} J^(1)=Q(1)K(1)T,J^(2)=Q(2)K(2)T,⋯,J^(h)=Q(h)K(h)T⎝⎜⎜⎜⎛J(1)J(2)⋮J(h)⎠⎟⎟⎟⎞=⎝⎜⎜⎜⎛λ11λ21⋮λh1λ12λ22⋮λh2⋯⋯⋱⋯λ1hλ2h⋮λhh⎠⎟⎟⎟⎞⎝⎜⎜⎜⎜⎜⎛J^(1)J^(2)⋮J^(h)⎠⎟⎟⎟⎟⎟⎞P(1)=softmax(J(1)),P(2)=softmax(J(2)),…,P(h)=softmax(J(h))O(1)=P(1)V(1),O(2)=P(2)V(2),,⋯,O(h)=P(h)V(h)O=\[O(1),O(2),…,O(h)\](14)  
写起来很复杂，事实上很简单，就是**在 Q K T \\boldsymbol\{Q\}\\boldsymbol\{K\}^T QKT之后、Softmax之前，用一个参数矩阵 λ \\lambda λ将各个 Q K T \\boldsymbol\{Q\}\\boldsymbol\{K\}^T QKT的结果叠加一下而已**。这样就把原本是孤立的各个Attention Head联系了起来，即做了一个简单的Talking

> 对上述公式做两点补充说明：
> 
> 1.  简单起见，上述公式中笔者省去了缩放因子 d k \\sqrt\{d\_k\} dk，如有需要，读者自行补充上去即可
> 2.  更一般的Talking-Heads Attention允许在 J = λ J ^ \\boldsymbol\{J\}=\\lambda\\hat\{J\} J=λJ^这一步进行升维，即叠加出多于 h h h个混合分布，然后再用另一个参数矩阵降维，但这并不是特别重要的改进，所以不做主要介绍

#### 实验结果 ####

是不是真的有效，当然还是得靠实验结果来说话。这篇论文的实验阵容可谓空前强大，它同时包含了BERT、ALBERT、T5为baseline的实验结果！众所周知，BERT、ALBERT、T5均是某个时间段的NLP最优模型，尤其是T5还是处在[superglue][]的榜首，并且远超出第二名很多，而这个Talking-Heads Attention则几乎是把它们的辉煌战绩又刷到了一个新高度！

还是那句话，具体的实验结果大家自己看论文，这里展示一个比较经典的结果：

![c6bdd1569336682cfeb76d078464d04e.png_shadow][]

结果显示，使用Talking-Head Attention情况下，保持hidden\_size不变，head数目越大（相应地key\_size和head\_size都越小），效果越好。这看起来跟前一篇增大key\_size的结论矛盾，但是事实上这正说明了混合分布对分布拟合能力具有明显的提升作用，能将key\_size缩小时本身变弱的单一分布，叠加成拟合能力更强大的分布。当然，这不能说明直接设key\_size=1就好了，因为key\_size=1时计算量会远远大于原始的BERT-base，应用时需要根据实际情况平衡效果和计算量

上述表格只是原论文实验的冰山一角，这里再放出一个实验表格，让大家感受感受它的实验阵容：

![b46ff8037315139062bb117235e776a4.png_shadow][]

几乎每个任务、每个超参数组合都做了实验，并给出实验结果。如此强大的实验阵容，基本上也就只有Google能搞出来了

#### References ####

*  [进化吧，self\_attention][self_attention]
 *  [突破瓶颈，打造更强大的Transformer][Transformer]

[Attention is All You Need]: https://arxiv.org/abs/1706.03762
[Low-Rank Bottleneck in Multi-head Attention Models]: https://arxiv.org/abs/2002.07028
[gR5hlD.png]: /images/20221014/0e1c7b906ddd4e55bc4ccd3a2562cdd9.png
[Talking-Heads Attention]: https://arxiv.org/abs/2003.02436
[superglue]: https://super.gluebenchmark.com/leaderboard
[c6bdd1569336682cfeb76d078464d04e.png_shadow]: /images/20221014/d313cea634a9439c8dea6d5e38354dc6.png
[b46ff8037315139062bb117235e776a4.png_shadow]: /images/20221014/89990a59386c4646aa673c59c31bdd1e.png
[self_attention]: https://zhuanlan.zhihu.com/p/363467058
[Transformer]: https://kexue.fm/archives/7325