3,094
个编辑
更改
→架构结构
[[文件:Transformer.png|缩略图|Transformer整体架构]]
Transformer 是一种基于自注意力机制（Self-Attention）的深度学习模型架构，最初由 Vaswani 等人在 2017 年的论文《Attention is All You Need》中提出。它彻底改变了[[自然语言处理]]（NLP）领域，并成为许多现代模型（如[[BERT]]、[[GPT]] 等）的基础。
Transformer 是一种基于自注意力机制（Self-Attention）的深度学习模型架构，最初由 Vaswani 等人在 2017 年的论文《Attention is All You Need》中提出。它彻底改变了[[自然语言处理]]（NLP）领域，并成为许多现代模型（如[[BERT]]、[[GPT]] 等）的基础。
==架构结构==
==架构结构==
Transformer整体架构：
Transformer 由编码器（Encoder）和解码器（Decoder）两部分组成：
Transformer 由编码器（Encoder）和解码器（Decoder）两部分组成：