KI: Keamanan AI

Fokus: AI tidak otomatis aman

Pada tahap awal belajar AI, banyak orang beranggapan bahwa model AI adalah “otak pintar” yang kebal terhadap serangan. Padahal, dalam dunia nyata, AI justru menjadi target yang sangat menarik bagi penyerang. Alasannya sederhana: AI membuat keputusan, dan siapa pun yang bisa memanipulasi keputusan tersebut akan mendapatkan keuntungan besar — finansial, politik, maupun strategis.

AI berbeda dengan software tradisional. Jika aplikasi biasa rusak, dampaknya mungkin terbatas. Namun jika AI rusak atau dimanipulasi, maka kesalahan akan direplikasi secara otomatis dan masif. Inilah mengapa keamanan AI (AI Security) menjadi isu kritis dalam sistem modern.

Mengubah Cara Pandang: AI sebagai Attack Surface

Dalam keamanan klasik, kita mengenal attack surface seperti port jaringan, API, atau database. Pada sistem berbasis AI, model dan data itu sendiri adalah attack surface baru.

Beberapa fakta penting yang perlu dipahami sejak awal:

• Model AI belajar dari data → data bisa diserang
• Model AI membuat prediksi → prediksi bisa dimanipulasi
• Model AI bisa di-query → informasi internal bisa bocor

AI bukan hanya alat pertahanan,
tetapi juga objek yang harus dilindungi.

Adversarial Attack — Menipu AI Tanpa Merusak Sistem

Apa itu Adversarial Attack?

Adversarial attack adalah teknik menyerang AI dengan memberikan input yang tampak normal bagi manusia, tetapi menyebabkan AI salah mengambil keputusan.

Yang menarik (dan menakutkan):

• Tidak perlu hack server
• Tidak perlu exploit OS
• Cukup memanipulasi input

Contoh nyata:

• Gambar stop sign yang ditempeli stiker kecil → AI mobil otonom mengira itu speed limit
• Email yang tampak biasa → lolos dari spam filter
• Prompt teks yang dirancang khusus → membuat chatbot melanggar aturan

Mengapa Ini Berbahaya?

Karena:

• Manusia tidak menyadari ada serangan
• Sistem tetap berjalan normal
• Kesalahan terjadi di level keputusan

AI bisa “salah dengan percaya diri tinggi”, dan itulah masalah terbesarnya.

Cara Kerja Sederhana (Intuisi)

AI belajar pola statistik. Adversarial input:

• Tidak melanggar format
• Tidak terlihat aneh
• Tetapi menggeser distribusi data sedikit demi sedikit

Hasilnya:

• Model “tersesat” secara matematis
• Tapi terlihat “baik-baik saja” secara kasat mata

Data Poisoning — Meracuni AI dari Dalam

Apa itu Data Poisoning?

Data poisoning adalah serangan dengan menyusupkan data yang salah, bias, atau berbahaya ke dalam dataset pelatihan AI.

Jika adversarial attack menyerang saat AI digunakan, maka data poisoning menyerang saat AI dilatih.

Analogi sederhana:

“Kalau sejak kecil seseorang diajari informasi salah,
maka ia akan membuat keputusan salah seumur hidup.”

Contoh Kasus Nyata

• Dataset wajah berisi label keliru → sistem face recognition salah identifikasi
• Data transaksi dimanipulasi → model deteksi fraud jadi tidak sensitif
• Data opini publik dimasukkan bot → AI analisis sentimen jadi bias

Yang membuat ini berbahaya:

• Kesalahan tertanam permanen
• Sulit dideteksi setelah model jadi
• Validasi sering kali lolos karena data terlihat “normal”

Titik Lemah yang Sering Terjadi

• Dataset dikumpulkan otomatis (scraping)
• Tidak ada verifikasi sumber
• Tidak ada data lineage
• Tidak ada audit dataset

AI sekuat data yang melahirkannya.

Model Leakage — Ketika Model “Bocor” Tanpa Disadari

Apa itu Model Leakage?

Model leakage terjadi ketika informasi internal model atau data sensitif bisa ditebak melalui interaksi dengan model tersebut.

Penyerang tidak perlu akses ke file model. Cukup:

• Mengirim banyak query
• Mengamati output
• Menyimpulkan pola internal

Bentuk-Bentuk Kebocoran Model

• Model inversion

Menebak data training (misalnya wajah, teks, atau atribut pribadi)

• Membership inference

Menentukan apakah suatu data pernah digunakan untuk melatih model

• Model extraction

Meniru model dengan mengamati input–output (mencuri intellectual property)

Mengapa Ini Masalah Besar?

Karena:

• Bisa melanggar privasi
• Bisa melanggar UU Perlindungan Data
• Bisa mencuri nilai bisnis model AI

AI bukan hanya teknologi — ia adalah aset.

Refleksi Penting untuk Mahasiswa

Beberapa takeaway kunci yang harus benar-benar dipahami:

• AI tidak netral, tidak kebal, dan tidak sakral
• Keamanan AI dimulai dari desain, bukan setelah insiden
• Data adalah titik lemah terbesar AI
• Input yang “halus” bisa lebih berbahaya daripada malware

Mindset yang Ingin Dibangun

Di akhir pertemuan ini, mahasiswa diharapkan memiliki pola pikir: “Jika saya membangun AI,

saya juga harus memikirkan bagaimana AI itu bisa diserang.”

Karena di dunia nyata:

• Penyerang selalu lebih kreatif
• AI tidak pernah sepenuhnya benar
• Keamanan adalah proses, bukan fitur

Pranala Menarik

• Keamanan Informasi: Kuliah