Tuning Settingan x265

Saat tulisan ini dibuat (versi 2.2+17), x265 sudah cukup baik kualitasnya dan mampu bersanding dengan x264. Kalau encodernya sudah advance atau paham betul dalam mengoprek setting default x265, kualitasnya bisa sama dalam ukuran kecil.

Q : Kenapa harus di oprek lagi?
A : Karena pada dasarnya settingan defaultnya itu banyak pengaturan yang mengoptimalkan kompresi dengan memburamkan gambar (blur) jadinya detail gambarnya berkurang dratis.

Untuk preset awalnya sendiri, bisa pilih antara slower / veryslow.
Untuk tuning beberapa setting untuk kecepatan dibanding kualitas, bisa mengubah beberapa setting dibawah :
1. rd
Ini merupakan setting rate distortion. Kalau prosesor kamu masih lemah, sebaiknya pakai rd 4 saja, atau kamu punya prosesor multicore >8 atau waktu bukan masalah besar, bisa pakai rd 6. Menurut aku lebih worth pakai rd 4 saja, soalnya rd 6 kompresi nya gak terlalu besar, dan kualitasnya juga sama aja.

2. me (Motion Estimation)
Ada beberapa perbedaan dari x264 disini. Untuk x265, saya sarankan pakai me STAR, kualitasnya lebih baik daripada UMH, dengan kecepatan yang hampir sama. Sekarang baru aja dirilis me SEA, mirip seperti metode FULL. Untuk kualitas sendiri antara STAR sama SEA mirip, tapi untuk speed dari STAR ke SEA penurunannya sampai 70% (contoh dari 9 fps ke 3 fps). Untuk STAR ke FULL sendiri penurunannya sampai 90%, bayangin lamanya kayak gimana kalo dipake buat rilisan weekly

3. subme
Temennya ME, untuk kualitas minimumnya banget pake subme 2, kenapa? disini sampah atau residu dari chroma ikut dipakai buat estimasi frame untuk akurasi yg lebih tinggi.

4. rect dan amp
Banyak orang yang gak nyaranin pakai 2 settingan ini, karna optimasi asimetrik yang gak worth it, dan speed drop nya juga lumayan drastis (terutama amp). Bisa disesuaikan.

5. psy-rd
Settingan ini yang paling berguna menurut saya. Tapi makin tinggi bukannya makin baik, tapi artifact di video malah akan semakin kelihatan. Sebaiknya ini diatur sesuka hati dan sesuai sourcenya juga, kadang yang ini harus dinamis settingnya.

Beberapa setting penting yang perlu di modifikasi pada x265 supaya level kualitasnya sama kayak x264 :
1. ctu (Coding Tree Unit).
Set CTU ke ukuran block 32x32 pakai command --ctu 32 supaya gambar tidak terlalu flat dan smooth

2. strong-intra-smoothing.
Dari namanya sudah jelas, smoothing. Memburamkan frame intra pakai filter bilinear. Matikan setting pakai command --no-strong-intra-smoothing

3. sao (Sample Adaptive Optimization)
Untuk encode low bitrate, bagian ini sangat berguna untuk mengurangi color banding dan blocking. Tapi dalam beberapa kasus, settingan ini terlalu memburamkan gambar. Matikan setting pakai command --no-sao

4. deblock
Ubah settingan filter deblock bawaan x265 ke -1:-1 sampai -3:-3 tergantung dari video yang akan di encode. Kalau encode low bitrate, sebaiknya 0:0 supaya blocking gambarnya tidak terlihat jelas.

5. aq-mode
AQ Mode (adaptive quantization mode) disini sebaiknya pakai aq-mode 3, apalagi untuk rilisan bluray, supaya detail line art pada scene gelap bisa terlihat lebih jelas, atau pakai aja aq-strength > 1.0

Pada saat tulisan ini dibuat, untuk video bluray sendiri aku pakai settingan dibawah untuk hasil maksimal

--preset slower --ctu 32 --max-tu-size 16 --no-sao --no-strong-intra-smoothing --rc-lookahead 60 --no-rect --no-amp --deblock=-1:-1 --output-depth 10 --crf 16 --psy-rd 2.50 --aq-mode 3 --qcomp 0.7 --aq-strength 0.9 --rd 4 --max-merge 5 --me 3 --subme 5 --output <output> <input>

Keterangan : Untuk kualitas setiap mata pasti beda-beda, dan semuanya pasti subjektif. Silahkan untuk sisa settingnya, bisa trial and error sambil baca-baca Command Line lainnya dan baca juga diskusi di forum doom9