学習中
講師アウラがたとえ話をしながら答える。
言語モデルの基本
2024/06/27 18:25
機械学習とバックプロパゲーション
2024/06/28 00:42
N-gram model多層パーセプトロン行列乗算GELU
2024/06/28 00:43
注意機構、ソフトマックス、位置エンコーダ
2024/06/28 00:45
トランスフォーマー、残差接続、レイヤーノルム、GPT-2
2024/06/28 00:46
minBPE、バイトペアエンコーディング
2024/06/28 00:48
初期化、最適化、AdamW
2024/06/28 00:49
Device (CPU、GPUなど)
2024/06/28 00:49
(改)
混合精度トレーニング: fp16、bf16、fp8など
2024/06/28 16:24
Distributed 分散コンピューティング並列化 DDP ZeRO
2024/06/28 16:26
データセット、データローダー、合成データ生成
2024/06/28 16:28
キーバリューキャッシュ
2024/06/28 16:28
Quantization (量子化)
2024/06/28 16:29
Fine tuning I SFT 監督下微調整SFT、PEFT、LoRA、チャット
2024/06/28 16:32
RL 強化学習 RLHF PPO DPO
2024/06/28 16:33
API、ウェブアプリの展開
2024/06/28 16:36
ここまでたどり着いたアナタに
2024/07/19 23:07
(改)