Tantangan Keamanan AI Agent: Risiko Prompt Injection, Privilege Escalation, dan Sandboxing

Pengantar Keamanan AI Agent

AI Agent modern tidak lagi sekadar menghasilkan teks, tetapi memiliki kemampuan mengeksekusi perintah CLI, menjalankan skrip Python, dan berinteraksi dengan API eksternal. Memberikan akses eksekusi langsung ke sistem tanpa skema isolasi yang ketat membuka celah keamanan serius pada infrastruktur Anda.

Prasyarat dan Asumsi Sistem

Sebelum menerapkan mitigasi, pastikan lingkungan server memenuhi spesifikasi berikut:

• Server Linux dengan OS Ubuntu 24.04 LTS
• Docker Engine versi 26.0 atau lebih baru
• Akses root atau privilege sudo

1. Ancaman Indirect Prompt Injection

Indirect Prompt Injection terjadi ketika AI Agent membaca data eksternal yang mengandung instruksi jahat terselubung. Misalnya, agent membaca file log atau konten web yang berisi perintah tersembunyi untuk menghapus direktori atau mengunduh malware.

Jika agent memiliki akses ke terminal, instruksi teks tersebut dapat diterjemahkan menjadi eksekusi command shell secara otomatis tanpa verifikasi pengguna.

2. Risiko Privilege Escalation dan Akses Credential

AI Agent sering kali membutuhkan API Key, database credential, atau access token untuk beroperasi. Jika agent berjalan langsung pada host OS atau dalam container yang tidak terisolasi dengan baik, instruksi terinjeksi dapat dipergunakan untuk membaca environment variable atau file sensitif pada sistem.

Peringatan Keamanan: Jangan pernah menjalankan proses AI Agent menggunakan user root atau menyimpan credential berakses penuh di dalam environment variable lokal tanpa pembatasan scope.

3. Mengisolasi AI Agent dengan gVisor dan Docker

Pendekatan sandboxing terbaik adalah menggunakan gVisor (runsc) sebagai container runtime. gVisor menyediakan lapisan sandbox kernel yang membatasi sistem panggilan (syscall) langsung ke kernel host.

Instalasi gVisor di Ubuntu 24.04

sudo apt update && sudo apt install -y apt-transport-https ca-certificates curl gnupg
curl -fsSL https://gvisor.dev/archive.key | sudo gpg --dearmor -o /usr/share/keyrings/gvisor-archive-keyring.gpg
echo "deb [signed-by=/usr/share/keyrings/gvisor-archive-keyring.gpg] https://storage.googleapis.com/gvisor/releases release main" | sudo tee /etc/apt/sources.list.d/gvisor.list
sudo apt update && sudo apt install -y runsc

Registrasi Runtime ke Docker

sudo runsc install
sudo systemctl restart docker

Menjalankan Container Agent yang Terisolasi

Gunakan runtime gVisor, batasi sistem berkas menjadi read-only, dan matikan akses jaringan jika tidak diperlukan:

docker run --rm --runtime=runsc --read-only --network none --memory=512m --cpus=1.0 ai-agent-runner

4. Pengaturan Network Isolation

Untuk AI Agent yang memerlukan koneksi API terbatas, buat jaringan internal khusus tanpa akses langsung ke internet publik atau jaringan internal VPS lainnya:

docker network create --internal agent_isolated_net

Jalankan container dengan melampirkan jaringan tersebut untuk mencegah ekfiltrasi data jika terjadi pembobolan:

docker run --rm --runtime=runsc --network agent_isolated_net ai-agent-runner

Checklist Keamanan AI Agent

• Aktifkan sandboxing runtime (gVisor atau Firecracker) pada container agent.
• Terapkan filesystem read-only pada lokasi eksekusi.
• Gunakan prinsip least-privilege untuk semua credential dan token API.
• Isolasi jaringan outbound menggunakan network policy atau internal Docker network.
• Hindari memberikan akses langsung ke socket Docker (docker.sock) di dalam agent container.