# Keamanan Agentic AI: Tiga Pertanyaan Kritis

> Keamanan agentic AI membutuhkan framework baru: otorisasi runtime, blast radius per-action, dan observability decision chain.

**URL:** https://www.ciptadusa.com/blog/agentic-ai-security-framework-20260717  
**Type:** blog  
**Author:** PT Cipta Dua Saudara  
**Category:** Keamanan Aplikasi  
**Published:** 2026-07-17  
**Cover:** https://cdn-uagents.enitip.com/uploads/blog/2026-07/daily-appsec-20260717-015406.jpg  

## Article

Agentic AI — sistem yang tidak sekadar menjawab pertanyaan tetapi secara otonom mengambil keputusan dan mengeksekusi aksi — sudah berjalan di production. Dark Reading melaporkan bahwa pertanyaan keamanan yang selama ini kita ajukan untuk AI konvensional tidak lagi cukup ketika agent bisa memanggil API, menulis kode, dan mengubah konfigurasi infrastruktur tanpa intervensi manusia.

## Ringkasan

Keamanan agentic AI membutuhkan framework pertanyaan baru yang berfokus pada otorisasi runtime, blast radius per-action, dan observability atas rantai keputusan — bukan hanya input validation dan output filtering.

## Tantangan

Model AI tradisional memiliki attack surface yang relatif terdefinisi: prompt injection, data poisoning, model inversion. Security team bisa memasang guardrail pada input (sanitization) dan output (content filtering) karena interaksinya bersifat request-response.

Agentic AI membalik asumsi ini. Sebuah agent yang diberi tugas "optimize our cloud spend" bisa — dalam satu execution chain — membaca billing data, menganalisis usage patterns, lalu **menghapus idle instances** atau **mengubah security group rules**. Setiap langkah dalam chain adalah potential blast radius yang berbeda.

Pertanyaan "apakah model ini bisa di-jailbreak?" menjadi tidak relevan ketika ancaman utamanya bukan manipulasi output, melainkan **aksi otonom yang legitimate tetapi tidak intended** — apa yang disebut Dark Reading sebagai sifat "untamable" dari agentic systems.

## Pendekatan

Tiga pertanyaan keamanan yang harus ditambahkan ke framework assessment untuk agentic AI:

**Apa blast radius per-action?** Setiap tool atau API yang bisa dipanggil agent harus di-classify berdasarkan reversibility dan impact scope. Read-only operations (list instances, query logs) berbeda risikonya dari write operations (delete resource, modify IAM policy). Principle of least privilege harus diterapkan per-tool, bukan per-agent.

**Bagaimana otorisasi runtime bekerja?** Static API keys yang diberikan saat deployment tidak cukup. Agent yang berjalan selama berjam-jam atau berhari-hari memerlukan scoped, time-limited credentials yang di-rotate. Setiap action chain harus melewati policy engine yang mengevaluasi apakah kombinasi aksi tertentu masih dalam batas yang diizinkan — bukan hanya apakah satu aksi individual diperbolehkan.

**Apakah decision chain observable?** Ketika agent membuat 47 keputusan berurutan sebelum mengeksekusi satu aksi, security team harus bisa merekonstruksi reasoning path secara forensik. Ini memerlukan structured logging pada setiap decision node, bukan hanya pada final action. Tanpa observability ini, incident response untuk agentic system menjadi mustahil — Anda tahu *apa* yang terjadi tetapi bukan *mengapa*.

## Implikasi

Industri sedang berada di titik di mana adoption curve agentic AI melampaui maturity security framework-nya. Organisasi yang sudah men-deploy agent di production — untuk code generation, infrastructure management, customer support escalation — perlu segera mengaudit apakah security posture mereka masih berbasis asumsi request-response, atau sudah mengakomodasi realitas autonomous execution chains.

Yang membuat masalah ini mendesak: agentic AI yang bekerja "terlalu baik" bisa sama berbahayanya dengan yang di-compromise. Sebuah agent yang mengoptimasi metrik yang salah dengan efisiensi tinggi menghasilkan kerusakan yang lebih cepat dan lebih luas daripada serangan manual.

## Referensi

- [Agentic AI Is Untamable: Ask the Right Security Questions — Dark Reading](https://www.darkreading.com/cybersecurity-operations/agentic-ai-untamable-ask-the-right-security-questions)
- [OWASP Top 10 for LLM Applications 2025 — OWASP Foundation](https://owasp.org/www-project-top-10-for-large-language-model-applications/)
- [Securing Agentic AI: A Threat Model — NIST AI 600-1](https://www.nist.gov/artificial-intelligence)

---

*Markdown version of https://www.ciptadusa.com/blog/agentic-ai-security-framework-20260717 — generated for AI agents and LLM crawlers.*