Lab
Isi model, hasil training, dan uji di browsermu.
Cara model menulis
Model melihat huruf yang sudah ditulis, menebak huruf berikutnya, lalu mengulanginya sampai tanda akhir pantun (next-token prediction). Temperature dan top-k mengatur seberapa berani tebakannya.
Model
| Arsitektur | decoder-only Transformer, 6 layer, 8 head, 256 dimensi |
|---|---|
| Jumlah parameter | 4.788.224 |
| Tokenizer | karakter, 32 token (termasuk 4 token khusus) |
| Konteks maksimal | 160 token |
| Checkpoint terbaik | step 2.400, validation loss 1,2262 |
| File model | 19,6 MB, ONNX opset 18 |
| Sampling default | temperature 0.6, top-k 10 |
Training
Grafik loss belum tersedia. Salin history.json dan metrics.json dari folder artefak notebook 04 ke website/public/models/, lalu build ulang.
Uji browser ini
Bandingkan hasil model di browser ini dengan PyTorch, huruf demi huruf, dan ukur kecepatannya.