pytorch-lightning

此 PyTorch Lightning 技能為 AI 工程師和研究人員提供了一套完整的工具組，以簡化神經網絡開發流程。它將 PyTorch 實作標準化為 LightningModules，消除了重複性的樣板代碼，確保複雜深度學習實驗的一致性。該技能旨在幫助使用者將模型從本地端輕鬆擴展到高效能運算叢集，而無需手動修改代碼。

• 完整支援 LightningModule 架構，包含訓練、驗證、測試及預測迴圈。

• 自動化 Trainer 配置，適用於多 GPU、TPU 及多節點硬體加速。

• 內建分散式訓練策略，包含 DDP、FSDP 及 DeepSpeed，專為大規模模型設計。

• 使用 LightningDataModule 進行數據管道管理，實現可重複利用且高效的數據集處理。

• 可擴展的回調系統 (Callback System)，用於 ModelCheckpoint、EarlyStopping 及自訂訓練指標。

• 無縫整合 W&B、TensorBoard、MLflow、Neptune 及 Comet，用於即時實驗追蹤。

• 使用者應透過覆寫 training_step 和 configure_optimizers 等核心方法來定義模型，以確保與 Trainer 的相容性。

• 在類別中使用 self.log() 工具，可自動跨所有裝置追蹤指標。

• 處理超過 5 億參數的模型時，建議使用 FSDP 或 DeepSpeed 策略。

• 請將 scripts/template_lightning_module.py 和 scripts/template_datamodule.py 作為新專案的主要啟動模板。

• 此技能假設環境中已安裝 PyTorch，並專注於管理訓練生命週期，而非模型架構定義本身。