Hasil DRL PPO — 5 Topologi

Agent (ActorCritic) belajar lewat coba-coba (PPO, reward/penalty) menempatkan rule firewall di jaringan — coverage, kapasitas per-kelas, posisi-prioritas ditegakkan lewat action mask; resiliency (jumlah node aktif minimum) lewat fase tambahan di akhir episode. Semua data di halaman ini diambil langsung dari summary.json / per_seed.csv / rule_placement.csv real di Google Drive — link lengkap ada di bagian bawah.

Sebelum — semua node berpotensi aktif, belum ada yang dilatih
Sesudah — node aktif nyata (checkpoint/seed terbaik)
Node ini negara/kota mana

Ringkasan 5 topologi (data terverifikasi, 100% dari rule_placement.csv)

Topologi Node aktif / target Biaya — seed terbaik Biaya — rata-rata 5 seed (±std) Konsistensi
NSFNET11/11 (5/5 valid)3550.65114.4 (±2078.2)⚠️ varians tinggi
ABVT18/18 (4/5 valid)10334.312008.9 (±1193.8)⚠️ varians tinggi
Geant200115/15 (5/5 valid)11121.019094.4 (±4639.8)⚠️ varians tinggi
BICS22/22 (5/5 valid)11504.216179.0 (±2337.4)⚠️ 4/5 seed mandek pola serupa
Surfnet39/39 (5/5 valid)17842.917843.7 (±0.4)✅ konsisten

Bagaimana prosesnya — dari peta jaringan sampai rule ditempatkan

13 langkah yang sama persis dengan tabel di dokumen framework — cuma dijelaskan pakai bahasa sehari-hari. Beda utama dari solver matematika: di sini ada "agent" yang belajar lewat coba-coba berulang kali (Langkah 8), bukan langsung dihitung sekali jadi.

① Persiapan (folder, config, GPU)
1
Siapkan folder kerja
Sambungkan ke Google Drive, siapkan folder untuk config, log, hasil, dan model yang akan dilatih.
2
Baca/tulis pengaturan
Baca semua angka pengaturan (berapa lama berlatih, berapa banyak percobaan/seed, seberapa besar hukuman kalau melanggar aturan) dari file config — kalau belum ada, dibuat dulu.
3
Cek mesin latih
Pastikan GPU (mesin latih cepat) yang dipakai memang jenis yang diharapkan — kalau beda, dihentikan lebih awal daripada melatih berjam-jam lalu baru ketahuan salah mesin.
4
Baca peta jaringan, hitung kapasitas
Baca file peta jaringan (.gml) — kota/node mana saja yang ada, apa yang menghubungkan mereka — lalu hitung besar "lemari penyimpanan" tiap node. Node dengan lebih banyak sambungan otomatis dapat kapasitas lebih besar.
5
Cari rute
Cari semua rute yang mungkin dari gerbang masuk ke gerbang keluar. Surfnet (topologi terbesar) pakai 40 rute tercepat saja — kalau dicari semua, komputer kehabisan memori.
② Siapkan "tempat berlatih" sang agent
6
Baca daftar rule, bagi jatah tempat, tentukan syarat minimum node aktif
Baca 500-4007 rule firewall, bagi jatah tempat per kelas prioritas di tiap node, dan tentukan berapa node minimum yang WAJIB aktif menyimpan rule (resiliency) — supaya jaringan tidak lumpuh kalau satu node mati. Di sinilah "papan permainan" tempat agent akan berlatih selesai dirakit.
7
Bentuk "otak" agent
Siapkan jaringan saraf tiruan kecil (neural network) yang nantinya akan belajar memutuskan: rule ini sebaiknya ditaruh di node mana? Di awal, otak ini masih kosong — belum tahu apa-apa.
③ Berlatih, cek ulang, simpan
8
Latih agent lewat coba-coba (225 kali percobaan, x5 seed)
Inilah jantung prosesnya, beda total dari solver matematika. Agent mencoba menempatkan rule satu per satu; kalau pilihannya bagus (menutup rute baru, tidak melanggar kapasitas) dia dapat "hadiah" kecil, kalau buruk dapat "hukuman". Setelah ratusan ribu percobaan, otaknya perlahan belajar pola yang bagus — diulang 5 kali dari awal (5 seed) supaya hasilnya tidak kebetulan satu kali coba beruntung.
9
Kumpulkan hasil, cek ulang independen, simpan
Setelah semua otak selesai belajar (5 seed), tiap hasil dicek ulang manual: rule benar-benar ketemu di semua rute, kapasitas tidak terlampaui, syarat node aktif minimum terpenuhi. Cuma otak yang lolos ketiganya boleh disebut valid — yang gagal tetap dilaporkan jujur, tidak disembunyikan.
10
Buat visualisasi
Gambar peta before/after (seperti di atas) dan grafik beban tiap node dibanding kapasitasnya.
11
Simpan salinan pengaturan
Simpan salinan persis pengaturan yang dipakai run ini, supaya bisa diulang identik nanti.
12
Simpan salinan kode
Simpan salinan kode yang benar-benar dijalankan, supaya bisa dilacak persis versi mana yang menghasilkan angka ini.
13
Matikan sesi otomatis
Setelah semua hasil aman tersimpan, sesi komputer (Colab) dimatikan otomatis — tidak membuang kuota percuma.