Vision Transformer（ViT）是一種基于Transformer架構的圖像分類模型，它将圖像劃分為一系列的圖像塊，然後将這些圖像塊轉換為序列輸入，最終使用Transformer模型進行分類。與傳統的卷積神經網絡（CNN）模型不同，ViT不需要使用卷積操作來提取特征，而是使用自注意力機制來學習圖像中的關系。
與Transformer模型相比，ViT模型的主要差別在于輸入的資料類型。Transformer模型的輸入是序列資料，而ViT模型的輸入是圖像塊。這意味着ViT模型需要使用一些額外的技巧來處理圖像資料，例如将圖像塊重新排列為序列輸入，并使用位置編碼來處理圖像塊的位置關系。
此外，ViT模型還使用了預訓練的方法來提高模型的性能。在預訓練階段，ViT模型使用大量的無标簽圖像資料進行訓練，以學習圖像中的通用特征。然後，使用有标簽的資料集對模型進行微調，以完成特定的圖像分類。
相同點：
1. ViT和Transformer模型都使用自注意力機制來處理輸入序列。
2. 兩種模型都是基于編碼器的模型。
3. ViT和Transformer模型都可以用于處理序列資料。
4. 2個模型都使用了位置編碼來标記模型的位置。
5. 2個模型編碼器部分采用了相同的模型堆疊。
不同點：
1. ViT是專門用于處理視覺任務的模型，而Transformer模型通常用于處理文本或語音任務。
2. ViT使用圖像切塊的方式将圖像分成序列，而Transformer模型直接使用單詞序列作為輸入。
3. ViT的輸入是2D圖像，而Transformer模型的輸入是1D序列。
4. ViT使用了一個額外的分類頭來完成分類任務，而Transformer模型通常用于生成任務，如翻譯或生成文本。
5. VIT模型隻有編碼器部分，而Transformer不僅有編碼器，還有解碼器。
6. VIT模型的位置編碼随意模型的訓練而變化，而Transformer模型的位置編碼隻計算一次，不随意模型的訓練而更新。
更多Transformer模型相關學習内容，可以參考
#動圖詳解transformer模型#
