Difference between revisions of "OS: Tuning Manajemen Memory"

Revision as of 10:57, 3 April 2013

Sumber: http://doc.opensuse.org/documentation/html/openSUSE/opensuse-tuning/cha.tuning.memory.html

Untuk mengerti dan men-tune perilaku manajemen memory di kernel, akan sangat penting untuk mengetahui bagaimana cara dia bekerja dengan subsistem lainnya.

Subsistem menajemen memory, biasa di sebut virtual memory manager, yang selanjutnya akan di sebut "VM". Fungsi VM adalah untuk mengatur alokasi dari memory fisik (RAM) untuk seluruh kernel dan user program. VM juga bertanggung jawab untuk memberikan lingkungan virtual memory untuk keperluan user (di managed melalui API POSIX dengan extensi Linux). Terakhir, VM bertanggung jawab untuk membebaskan RAM jika terjadi kekurangan, baik dengan memotong cache atau swapping "anonymous" memory.

Hal paling penting untuk dimengerti ketika mempelajari dan men-tune VM adalah bagaimana cache di manaje. Tujuan utama VM cache adalah untuk meminimalkan cost dai I/O yang di sebabkan oleh swaping dan operasi file sistem (termasuk network file system). Hal ini dapat dicapai dengan menghindari I/O secara keseluruhan, atau dengan memasukan I/O ke pola yang lebih baik.

Free memory akan digunakan dan di isi oleh cache jika dibutuhkan. Semakin banyak memory yang tersedia untuk cache dan anonymous memory, semakin effektif operasi cache dan swapping. Akan tetapi, jika terjadi kekurangan memory, cache akan dipangkas atau memory akan di swap-kan.

Untuk beban kerja tertentu, hal pertama yang dapat dilakukan untuk memperbaiki performance adalah menaikan memory dan mengurangi frekuensi dimana memory harus dipangkas atau di swap-kan. Hal kedua adalah ubah cara mengatur cache dengan mengubah parameter kernel.

Terakhir, beban kerja itu sendiri harus dipelajari dan di tune. Jika aplikasi di ijinkan untuk menjalankan lebih banyak proses atau thread, effektifitas cache VM akan berkurang, jika setiap proses beroperasi di wilayah-nya sendiri di file system. Overhead memory akan bertambah. Jika aplikasi meng-alokasikan sendiri buffer atau cache yang digunakan, semakin besar cache berarti lebih sedikit memory yang tersedia untuk cache VM. Akan tetapi, semakin banyak proses dan thread juga berarti lebih banyak kemungkinan untuk overlap dan pipeline I/O, dan akan lebih baik dalam mengambil manfaat dari multiple core. Experimen perlu dilakukan untuk memperoleh hasil yang terbaik.

Penggunaan Memory

Alokasi memory secara umum dapat di lihat sebagai "pinned" (juga dikenal sebagai “unreclaimable”), “reclaimable” atau “swappable”.

Anonymous Memory

Anonymous memory cenderung merupakan program heap dan stack memory (contoh, >malloc()). Memory ini reclaimable, kecuali kasus khusus seperti mlock atau jika tidak tersedia space swap. Anonymous memory harus di tulis ke swap sebelum dia dapat di reclaim. Swap I/O (baik swapping in dan swapping out page) cenderung untuk tidak effisien daripada pagecache I/O, karena allocation dan pola akses.

Pagecache

Cache dari file data. Juga sebuah file di baca (read) dari disk atau network, isi akan di simpan di pagecache. AKses ke disk dan network tidak dibutuhkan, jika isi pagecache up-to-date. tmpfs dan segmen shared memory bertumpu pada pagecache.

Ketika sebuah file di tulis (write), data yang baru di simpan di pagecache sebelum di tulis kembali ke disk atau network (membuat dia menjadi write-back cache). Juga pada page ada data baru yang belum di tulis kembali (write back), ini di sebut "dirty". Page yang tidak diklasifikasikan sebagai dirty adalah "clean". Pagecache yang clean akan di reclaim jika terjadi kekurangan memory dengan cara membebaskan mereka. Page dirty harus di clean terlebih dulu sebelum bisa di reclaim.

Buffercache

Ini adalah tipe pagecache untuk block device (seperti, /dev/sda). Sebuah file sistem biasanya menggunakan buffercache pada saat mengakses struktur "meta-data" di disk seperti tabel inode, alokasi bitmap, dan sebagainya. Buffercache dapat di reclaim seperti halnya pagecache.

Buffer Heads

Buffer heads adalah sebuah struktur tambahan kecil yang biasanya dibuat saat akses pagecache. Ini biasanya dapat dengan mudah di reclaim ketika page pagecache atau buffercache sudah clean.

Writeback

Saat aplikasi menulis (write) ke file, pagecache (dan buffercache) menjadi dirty. Ketiga page dirty untuk selang waktu yang ditentukan, atau ketika jumlah memory dirty mencapai persentase tertentu dari RAM, kernel akan mulai melakukan writeback. Memaksa thread untuk melakukan writeback di background dan mengijinkan agar aplikasi tetap berjalan. Jika I/O tidak dapat mengikuti aplikasi dalam membuat dirty pagecache, dan data dirty mencapai persentasi kritis dari RAM, maka aplikasi mulai dikurangi kecepatannya untuk menjaga data dirty tidak melebihi batas.

Readahead

VM akan memperhatikan pola akses file dan akan berusaha uantuk melakukan readahead (membaca duluan). Readahead membaca page dari file system dan masukan pagecache walaupun belum di request. Ini dilakukan untuk memungkinkan lebih sedikit, I/O request yang besar untuk dimasukan (sehingga lebih effisien). Dan agar I/O lebih pipeline (I/O dilakukan pada saat yang sama saat aplikasi berjalan).

VFS caches

Inode Cache

Ini adalah in-memory cache dari structure inode untuk setiap file system. Disini berisi atribut seperti file size, permission (ijin) dan ownership (kepemilikan), dan pointer ke data file.

Directory Entry Cache

Ini adalah in-memory cache dari directory entry di sistem. Ini berisi nama (nama file), dan inode yang nunjuk pada file tersebut, dan children entry. Cache ini digunakan saat kita mengakses struktur directiry dan mengakses file menggunakan nama.

Menguragi Penggunaan Memory

Mengurangi Penggunaan malloc (Anonymous)

Aplikasi jalan di linux yang baru biasanya dapat mengalokasikan lebih banyak memory di bandingkan dengan yang lama. Ini karena glibc mengubah perilaku defaultnya saat mengalokasikan memory userspace. Ada baiknya membaca-baca http://www.gnu.org/s/libc/manual/html_node/Malloc-Tunable-Parameters.html untuk lebih jelasnya.

Untuk mengembalikan ke perilaku yang lama, M_MMAP_THRESHOLD harus di set ke 128*1024. Ini dapat dilakukan dengan call mallopt() dari aplikasi, atau memlalui setting variable environment MALLOC_MMAP_THRESHOLD sebelum aplikasi di jalankan.

Mengurangi Overhead Kernel Memory

Kernel memory yang dapat di reclaim (cache seperti di jelaskan di atas) dapat di pangkas secara automatis saat terjadi kekurangan memory. Kebanyakan kernel memory tidak dengan mudah untuk dikurangi tapi ini merupakan bagian dari beban kerja yang diberikan pada kernel.

Mengurangi kebutuhan dari beban kerja user akan mengurangi penggunaan memory kernel (lebih sedikit proses, lebih sedikit file dan soket yang terbuka, dll).

Memory Controller (Memory Cgroups)

Jika fitur memory cgroups tidak dibutuhkan, dia dapat dimatikan dengan cara mengirimkan cgroup_disable=memory di kernel command line. Ini akan mengurangi sedikit penggunaan memory di kernel.

Parameter Virtual Memory Manager (VM) yang dapat di Tune

Saat kita men-tune VM perlu kita sadari bahwa perubahan yang terjadi akan membutuhkan waktu untuk mempengaruhi beban kerja dan untuk berefek secara maksimum. Jika beban kerja berubah-ubah, maka perilaku akan berbeda-beda dari waktu ke waktu. Perubahan yang menyebabkan throughput membaik dalam satu kondisi mungkin akan menjadi buruk di kondisi yang lain.

Perbandingan Reclaim

/proc/sys/vm/swappiness

Parameter ini mengontrol tingkat agresif kernel untuk melakukan swap out anonymous memory relatif terhadap pagecache dan cache lainnya. Menaikan nilai ini akan menaikan jumlah memory anonymous yang di swap. Nilai default adalah 60.

Swap I/O cenderung tidak se-effisien I/O lainnya. Akan tetapi, beberapa pagecache akan di akses lebih sering daripada anonymous memory yang jarang digunakan. Keseimbangan yang tepat perlu dicari disini.

Jika aktifitas swap terlihat saat sistem berjalan dengan perlahan, maka ada baiknya mengurangi parameter ini. Jika banyak aktifitas I/O dan besarnya pagecache di sistem terlalu kecil, atau jika banyak aplikasi besar yang running, menaikan nilai ini akan memperbaiki performance.

Perlu di catat bahwa lebih banyak data yang di swap, lebih lama waktu yang dibutuhkan sistem untuk men-swap data kembali saat dibutuhkan.

/proc/sys/vm/vfs_cache_pressure

Parameter ini mengontrol tendensi kernel untuk me-reclaim memory yang digunakan untuk cache VFS, versus pagecache dan swap. Menaikan nilai ini akan menaikan kecepatan VFS cache di reclaim.

Sulit untuk mengetahui kapan parameter ini harus diubah, kecuali melalui experimen. Perintah slabtop (bagian dari paket procps) akan memperlihatkan top memory object yang digunakan oleh kernel. vfs cache adalah object "dentry" dan "*_inode_cache". Jika ini mengkonsumsi memory yang besar relatif terhadap pagecache, maka ada baiknya kita naikan nilai pressure. Juga ada baiknya dicoba untuk mengurangi swapping. Nilai default adalah 100.

/proc/sys/vm/min_free_kbytes

Parameter ini mengontrol jumlah memory yang harus bebas (free) untuk digunakan untuk aplikasi khusus termasuk yang "atomic" (yang tidak bisa menunggu reclaim). Parameter ini sebaiknya tidak di kecilkan kecuali sistem di tune secara seksama untuk penggunaan memory (ini terutama berguna di aplikasi embedded dibandingkan server). Jika ada message “page allocation failure” dan jejak stack sering terlihat di log, min_free_kbytes dapat di naikan sampai error hilang. Tidak ada yang perlu di kuatirkan, jika message tersebut jarang keluat. Nilai default tergantung dari jumlam RAM.

Parameter Writeback

Perubahan perilaku writeback terutama ke memory mmap() akan di lihat langsung sebagai memory dirty (yang akan diperhitungkan untuk di writeback). Sedang sebelumnya, hanya akan di perhitungkan untuk di writeback, sesudah di unmapped, oleh sistem call msync(), atau di bawah tekanan memory yang sangat berat.

Beberapa aplikasi tidak berharap adanya modifikasi mmap dan mengalami perilaku writeback yang baru, dan performance dapat berkurang. Berkeley DB (dan aplikasi yang menggunakannya) adalah salah satu contoh yang diketahui dapat menyebabkan masalah. Menaikan perbandingan dan waktu writeback dan akan memperbaiki slowdown yang seperti ini.

/proc/sys/vm/dirty_background_ratio

Ini ada persentase dari total free dan reclaimable memory. Jika jumlah dari pagecache dirty melebihi persentase ini, thread writeback akan mulai write back memory dirty. Nilai default adalah 10 (%).

/proc/sys/vm/dirty_ratio

Sama denga nilai persentase di ats. Jika nilai ini dilalui, aplikasi yang akan write ke pagecache akan di blokir dan mulai melakukan writeback juga. Nilai default adalah 40 (%).

Kedua nilai ini secara bersama menentukan perilaku pagecache writeback. Jika nilai ini di naikan, akan lebih banyak memory dirty yang di simpan di sistem untuk waktu yang lebih lama. Dengan lebih banyak memory dirty yang ada di sistem, kemungkinan untuk memperbaiki throughput dengan menghindari I/O writeback dan memberikan pola I/O yang lebih baik akan meningkat. Akan tetapi, dengan lebih banyak memory dirty akan menyebabkan latency ketika memory perlu di reclaim atau saat integritas data (sync) perlu di tulis kembali ke disk.

Parameter Readahead

/sys/block/<bdev>/queue/read_ahead_kb

Jika satu atau lebih proses secara berurutan membaca (read) sebuah file, kernel akan membaca beberapa data lebih dulu (ahead) untuk mengurangi waktu tunggu proses agar data tersedia. Banyaknya data yang dibaca terlebih dulu di hitung secara dinamik, tergantung seberapa "urut" proses I/O tersebut. Parameter ini menset jumlah data maksimum yang dapat di baca oleh kernel dari sebuah file. Jika kita melihat pembacaan berurut dari sebuah file tidak cukup cepat, kita dapat mencoba menaikan nilai ini. Menaikan nilai ini terlalu besar akan menyebabkan readahead membuat sampah pada pagecache yang digunakan, karena readahead akan di reclaim sebelum digunakan, atau menjadi lambat karena jumlah I/O yang percuma. Nilai default adalah 512 (kb).

Lebih Lanjut Tentang Parameter VM

Untuk daftar lengkap dari parameter VM yang dapat di tune, ada baiknya melihat isi file

/usr/src/linux/Documentation/sysctl/vm.txt

yang tersedia juga anda menginstalasi source code kernel, atau pakey kernel-source.

Non-Uniform Memory Access (NUMA)

Salah satu fungsi VM yang semakin penting adalah memberikan strategi alokasi NUMA yang baik. NUMA singkatan dari non-uniform memory access, dan sebagian besar multi-socket server hari ini adalah mesin NUMA. NUMA adalah perhatian kedua dalam mengatur swapping dan cache khususnya untuk performance. Aada banyak dokumen yang menjelaskan tentang bagaimana memperbaiki alokasi memory NUMA. Salah satu parameter yang berinteraksi dengan reclaim page adalah:

/proc/sys/vm/zone_reclaim_mode

Parameter ini mengontrol apakah memory reclaim di lakukan di node lokal NUMA meskipun banyak memory free di node lainnya. Parameter ini secara automatis akan diaktifkan pada mesin yang mempunya NUMA karakteristik yang menonjol.

Jika cache VM tidak di ijinkan untuk mengisi semua memory di mesin NUMA, itu kemungkinan karena zone_reclaim_mode di set. Menset ke 0 akan mematikan perlaku ini.

Monitoring Perilaku VM

Ada beberapa tool sederhana yang dapat digunakan untuk monitor perilaku VM:

vmstat: tool ini memberikan ringkasan yang baik tentang apa yang terjadi di VM.

/proc/meminfo: File ini memberikan detail kemana saja memory digunakan.

slabtop: tool ini memberikan informasi detail tentang penggunaan memory slab kerne. buffer_head, dentry, inode_cache, ext3_inode_cache, dll adalah cache utama. Perintah ini merupakan bagian dari paket procps.

Referensi

http://doc.opensuse.org/documentation/html/openSUSE/opensuse-tuning/cha.tuning.memory.html

@@ Line 131: / Line 131: @@
 ==Non-Uniform Memory Access (NUMA)==
-Another increasingly important role of the VM is to provide good NUMA allocation strategies. NUMA stands for non-uniform memory access, and most of today's multi-socket servers are NUMA machines. NUMA is a secondary concern to managing swapping and caches in terms of performance, and there are lots of documents about improving NUMA memory allocations. One particular parameter interacts with page reclaim:
+Salah satu fungsi VM yang semakin penting adalah memberikan strategi alokasi NUMA yang baik. NUMA singkatan dari non-uniform memory access, dan sebagian besar multi-socket server hari ini adalah mesin NUMA. NUMA adalah perhatian kedua dalam mengatur swapping dan cache khususnya untuk performance. Aada banyak dokumen yang menjelaskan tentang bagaimana memperbaiki alokasi memory NUMA. Salah satu parameter yang berinteraksi dengan reclaim page adalah:
 '''/proc/sys/vm/zone_reclaim_mode'''
-This parameter controls whether memory reclaim is performed on a local NUMA node even if there is plenty of memory free on other nodes. This parameter is automatically turned on on machines with more pronounced NUMA characteristics.
+Parameter ini mengontrol apakah memory reclaim di lakukan di node lokal NUMA meskipun banyak memory free di node lainnya. Parameter ini secara automatis akan diaktifkan pada mesin yang mempunya NUMA karakteristik yang menonjol.
-If the VM caches are not being allowed to fill all of memory on a NUMA machine, it could be due to zone_reclaim_mode being set. Setting to 0 will disable this behavior.
+Jika cache VM tidak di ijinkan untuk mengisi semua memory di mesin NUMA, itu kemungkinan karena zone_reclaim_mode di set. Menset ke 0 akan mematikan perlaku ini.
 ==Monitoring Perilaku VM==