一起动脑筋 · 先看一个小故事
机器人拿到一句话，不只看紧挨着的词，还能组合不同位置的信息。Transformer 怎样帮助这件事？
把过程摊开来看
- 输入表示文字变成数值
- 注意力联系不同位置
- 其他层继续变换
- 输出用于理解或生成
Transformer 是一类使用注意力等组件的神经网络结构。
它把上下文中的信息组合起来，再经过多层处理，适用于语言等任务。不同模型可使用编码器、解码器或相关变体，并非都长成同一种完整结构。
名字表示模型架构，不是一个自动知道所有知识的程序。
轮到你来试一试
看到一个图片模型用了 Transformer，就能说它其实只会处理文字吗？
想好了吗？点开看解释
不能，类似结构也可用于图片、声音等数据，关键在输入表示与训练任务。
带走一个发现
Transformer 是一类使用注意力等组件的神经网络结构。
试着遮住上面的图，把每一步讲给家人听。如果某一步说不清楚，就回到那张卡片再看一遍。