Agentic AI Mulai Masuk Era Baru Teknologi, Diskominfo Tabanan Ingatkan Risiko dan Pengawasan

Jumat, 11 September 2026 | 19:04 WITA

Diskominfo Tabanan menjelaskan perkembangan Agentic AI dan pentingnya keamanan serta pengawasan penggunaan kecerdasan buatan — Sekretaris Dinas Komunikasi dan Informatika Kabupaten Tabanan I Gusti Putu Winiantara.[ist]

TABANAN, MEDIAPELANGI.com – Perkembangan kecerdasan buatan atau Artificial Intelligence (AI) memasuki babak baru. Jika sebelumnya masyarakat lebih banyak mengenal AI sebagai teknologi yang menjawab pertanyaan atau menghasilkan informasi berdasarkan perintah pengguna, kini muncul Agentic AI yang mampu bekerja lebih otonom untuk mencapai tujuan tertentu.

Dinas Komunikasi dan Informatika Kabupaten Tabanan mengingatkan masyarakat agar memahami perkembangan teknologi tersebut secara lebih kritis. Sebab, Agentic AI tidak hanya memberikan jawaban, tetapi dapat menyusun rencana, mengambil keputusan, menjalankan sejumlah tindakan menggunakan alat eksternal hingga mengevaluasi hasil pekerjaannya.

Sekretaris Dinas Komunikasi dan Informatika Kabupaten Tabanan I Gusti Putu Winiantara, S.Sos., seizin Kepala Dinas, menjelaskan perkembangan Agentic AI menunjukkan perubahan cara manusia berinteraksi dengan teknologi.

“Agentic AI merupakan perkembangan kecerdasan buatan yang memungkinkan sistem bekerja lebih otonom dalam mencapai suatu tujuan. Agen dapat memahami instruksi, menyusun rencana, mengambil keputusan, menggunakan berbagai alat yang tersedia dan menjalankan pekerjaan dalam beberapa tahapan dengan intervensi manusia yang lebih minimal,” jelas Winiantara, Jumat (11/9/2026).

Menurut Winiantara, perbedaan utama Agentic AI dengan chatbot biasa terletak pada kemampuan yang disebut agency. Sistem tidak hanya memberikan respons satu per satu, tetapi mampu menguraikan tujuan yang lebih luas menjadi sejumlah tugas yang saling berkaitan.

Cara kerjanya dapat digambarkan melalui decision loop. Sistem terlebih dahulu mengumpulkan data melalui persepsi, kemudian menilai kondisi, menyusun rencana, menjalankan tindakan dan mempelajari hasilnya untuk menentukan langkah berikutnya.

Dalam proses tersebut, Agentic AI dapat memanfaatkan berbagai teknologi, seperti Natural Language Processing (NLP) untuk memahami bahasa, machine learning untuk prediksi dan klasifikasi, reinforcement learning untuk pengambilan keputusan, serta computer vision untuk memproses gambar dan video.

Kemampuan tersebut membuat Agentic AI berpotensi digunakan untuk berbagai kebutuhan, mulai dari pembelajaran, produktivitas, riset, pengolahan informasi, pengembangan usaha, pelayanan hingga aktivitas kreatif.

Di balik peluang tersebut, Diskominfo Tabanan mengingatkan adanya risiko yang perlu diperhatikan. Semakin besar kewenangan yang diberikan kepada agen, semakin besar pula kebutuhan terhadap pengawasan, keamanan dan tata kelola.

“Karena memiliki kemampuan menjalankan sejumlah tindakan secara mandiri, masyarakat juga perlu memahami bahwa penggunaan Agentic AI memiliki risiko yang berbeda dengan penggunaan AI biasa. Semakin besar kewenangan yang diberikan kepada sebuah agen, semakin besar pula kebutuhan terhadap pengawasan, keamanan dan tata kelola,” terang Winiantara.

Salah satu risiko utama adalah perlindungan data dan privasi. Ketika Agentic AI memperoleh akses terhadap data sensitif atau terhubung dengan berbagai sistem, terdapat kemungkinan informasi digunakan di luar tujuan awal, termasuk risiko data exfiltration atau keluarnya data kepada sistem maupun pihak yang tidak semestinya.

Risiko lain mencakup hallucination, bias model dan adversarial prompt. Kesalahan AI dapat menjadi lebih serius ketika agen memiliki kewenangan menjalankan transaksi, memberikan rekomendasi atau mengambil keputusan tanpa pemeriksaan manusia.

Winiantara menekankan persoalan etika juga tidak boleh dipisahkan dari perkembangan Agentic AI. Harus jelas siapa yang bertanggung jawab ketika sebuah agen membuat keputusan, bagaimana prosesnya dapat ditelusuri dan diaudit, serta kapan manusia wajib mengambil alih.

“Governance harus berjalan bersama dengan inovasi. Logging, audit trail yang lengkap, human-in-the-loop untuk keputusan berisiko tinggi, serta prosedur incident response harus dipersiapkan sejak awal. Termasuk adanya kill switch yang memungkinkan agen dihentikan apabila perilakunya menyimpang dari batas yang telah ditetapkan,” tegasnya.

Karena itu, penerapan Agentic AI disarankan dilakukan secara bertahap melalui pengujian terkontrol. Organisasi perlu menentukan batas kewenangan agen, tingkat risiko yang dapat diterima serta mekanisme penghentian apabila terjadi masalah.

Diskominfo Tabanan mendorong masyarakat tidak takut terhadap perkembangan AI, tetapi juga tidak menggunakannya secara sembarangan.

“Kami mengajak masyarakat untuk tidak takut terhadap perkembangan AI, tetapi juga tidak menggunakannya secara sembarangan. Manfaatkan Agentic AI untuk hal-hal yang positif, produktif dan memberikan nilai tambah. Tetap periksa informasi yang dihasilkan, jangan sembarangan memberikan data pribadi atau data sensitif, dan gunakan teknologi dengan mempertimbangkan etika serta tanggung jawab,” ajak Winiantara.

Dengan literasi digital yang kuat, Agentic AI dapat menjadi rekan kerja digital yang membantu manusia menyelesaikan pekerjaan secara lebih efektif. Namun, teknologi tersebut tetap membutuhkan manusia sebagai pengendali utama, khususnya dalam keputusan yang menyangkut kepentingan publik, keamanan, privasi dan keselamatan.

Bagi Tabanan, perkembangan Agentic AI sekaligus menjadi momentum memperkuat literasi digital masyarakat. Teknologi boleh semakin otonom, tetapi keputusan penting tetap harus berada dalam kendali manusia yang memahami risiko, etika dan tanggung jawab penggunaannya.[*rls]