Red-teaming aplikasi LLM sebelum penggunanya

Pengguna akan menguji aplikasi Anda dengan cara yang tak pernah terbayang oleh test suite Anda. Lebih baik Anda yang menemukan mode kegagalannya lebih dulu — terjadwal, dan mengacu pada sebuah standar.

Checklist yang mengacu ke OWASP

Telusuri OWASP Top 10 untuk Aplikasi LLM: prompt injection, penanganan output yang tidak aman, kebocoran informasi sensitif, agency berlebih. Untuk tiap poin, tulis kasus adversarial dan jalankan seperti test biasa.

Perlakukan kebocoran PII dan ketahanan terhadap jailbreak sebagai gate rilis, bukan urusan belakangan. Build yang skornya turun di salah satunya tidak boleh dirilis.