模型構建 # coding=utf-8 """ BERT 三大任務演示 - 簡化版 功能： 1. 情感分析 - 判斷文本正面/負面情緒 2. 命名實體識別 - 識別人名、地名、組織等 3. 問答系統 - 從文本中提取答案 使用離線模型，便於學習和理解 """ import time import warnings warnings.f
Transformer多頭自注意力相關 QKV投影及反向傳播更新參數（∂loss/∂W_q，∂loss/∂W_k，∂loss/∂W_v） ∂loss/∂W_q：鏈式法則層層傳遞梯度，最終告訴 W_q：往這個方向更新，可以減少損失函數（達到優化模型效果） 其他可訓練參數也都是求損失函數對這個參數的偏導數，然後朝着損失函數值降低的方向改變參數值（即權重值）達到優化模
