KI: PRAKTEK 9: Serangan terhadap AI

Fokus modul ini adalah membongkar asumsi “AI selalu benar”. Mahasiswa diajak hands-on melihat sendiri bagaimana model AI bisa ditipu, dimanipulasi, dan disesatkan, bahkan dengan perubahan kecil yang tidak terlihat oleh manusia.

Seluruh praktik menggunakan Linux Ubuntu 24.04, Python, dan open-source software. Tidak ada black box, tidak ada proprietary tools.

Tujuan

Setelah menyelesaikan modul ini, mahasiswa mampu:

• Memahami kelemahan fundamental sistem AI
• Menjelaskan konsep adversarial example dan data poisoning
• Mensimulasikan serangan nyata terhadap model AI
• Menganalisis perubahan output akibat manipulasi input/data
• Menyadari bahwa AI adalah sistem statistik, bukan sistem kebenaran

Pesan kunci:

AI bisa salah — dan kesalahan itu bisa direkayasa.

Konsep Inti (Fundamental yang Wajib Dipahami)

Adversarial Example

Adversarial example adalah input yang dimodifikasi sangat kecil, sering kali tidak terlihat oleh manusia, tetapi mengubah prediksi AI secara drastis.

Contoh dunia nyata:

• Gambar rambu STOP → AI membaca Speed Limit
• Email normal → diklasifikasikan sebagai spam
• Teks biasa → lolos sensor moderasi

👉 Masalahnya bukan bug, tetapi cara AI belajar dari pola statistik.

Data Poisoning

Data poisoning adalah serangan sebelum AI digunakan, yaitu dengan merusak data latih (training data).

Contoh nyata:

• Dataset wajah diberi label salah
• Review palsu dimasukkan ke data rekomendasi
• Data sensor dimanipulasi sebelum pelatihan

👉 Jika data rusak, model secanggih apa pun akan rusak.

Tools yang Digunakan

Semua tools bersifat open source:

• Ubuntu Linux 24.04
• Python 3.12
• scikit-learn
• NumPy
• Jupyter Notebook
• (opsional) Matplotlib untuk visualisasi

Praktikum Lengkap (Step-by-Step)

Bagian A — Setup Lingkungan

sudo apt update
sudo apt install python3 python3-pip python3-venv -y

Buat virtual environment:

python3 -m venv ai-attack-env
source ai-attack-env/bin/activate

Install library:

pip install numpy scikit-learn matplotlib jupyter

Bagian B — Train Model AI Sederhana

Kita mulai dari model yang “benar” dan “bersih”.

Dataset & Model

from sklearn.datasets import load_iris
from sklearn.model_selection import train_test_split
from sklearn.linear_model import LogisticRegression
from sklearn.metrics import accuracy_score

# Load dataset
data = load_iris()
X, y = data.data, data.target

# Split
X_train, X_test, y_train, y_test = train_test_split(
    X, y, test_size=0.2, random_state=42
)

# Train model
model = LogisticRegression(max_iter=200)
model.fit(X_train, y_train)

# Evaluate
y_pred = model.predict(X_test)
print("Accuracy:", accuracy_score(y_test, y_pred))

Catatan Penting:

Model ini tidak salah. Ia bekerja sesuai statistik.

Bagian C — Adversarial Example (Serangan Input)

Tujuan

Membuktikan bahwa perubahan kecil bisa menipu AI.

Ambil Satu Data Uji

import numpy as np

sample = X_test[0]
label = y_test[0]

print("Original prediction:", model.predict([sample]))
print("True label:", label)

Manipulasi Input Secara Halus

# Tambahkan noise kecil
epsilon = 0.1
adversarial_sample = sample + epsilon * np.sign(sample)

print("Adversarial prediction:", model.predict([adversarial_sample]))

Yang terjadi:

• Secara visual: data hampir sama
• Secara matematis: AI membaca berbeda

Diskusi Kritis

• Apakah manusia bisa melihat perbedaannya? ❌
• Apakah AI berubah keputusan? ✅
• Apakah ini bug? ❌
• Apakah ini kelemahan desain AI? ✅

Bagian D — Data Poisoning (Serangan Data Training)

Tujuan

Menunjukkan bahwa AI bisa “dibohongi” sejak awal pelatihan.

Racuni Dataset

import random

# Salin data latih
X_poisoned = X_train.copy()
y_poisoned = y_train.copy()

# Ubah label secara acak
for i in random.sample(range(len(y_poisoned)), 10):
    y_poisoned[i] = (y_poisoned[i] + 1) % 3

Train Model dengan Data Rusak

poisoned_model = LogisticRegression(max_iter=200)
poisoned_model.fit(X_poisoned, y_poisoned)

y_pred_poisoned = poisoned_model.predict(X_test)
print("Accuracy poisoned model:", accuracy_score(y_test, y_pred_poisoned))

Hasil:

Akurasi turun, tetapi AI tidak tahu bahwa ia sedang salah.

Bagian E — Analisis & Refleksi

Apa yang Dipelajari Mahasiswa?

• AI tidak memahami makna, hanya pola
• Perubahan kecil → dampak besar
• Kualitas data lebih penting dari algoritma
• Serangan AI murah dan mudah dilakukan

Output Praktikum (Wajib Dikumpulkan)

Mahasiswa menyerahkan:

• Notebook Jupyter
  • Training normal
  • Adversarial example
  • Data poisoning

• Analisis singkat (1–2 halaman):
  • Bagian mana yang paling berbahaya?
  • Mana yang lebih sulit dideteksi?
  • Implikasi untuk AI di pemerintahan / industri?

Insight Penutup (Inspiratif)

AI bukan masalahnya.
Cara kita mempercayainya tanpa verifikasi — itulah masalahnya.

Modul ini membekali mahasiswa mindset security-first:

• Jangan percaya output AI
• Selalu audit data
• Selalu uji asumsi

Pranala Menarik

• Keamanan Informasi: Kuliah