Pesatnya Pertumbuhan Agen AI Berbasis Web
Peluncuran ‘Operator’ oleh OpenAI menandai terobosan besar dalam otomatisasi berbasis AI. Saat ini masih ditujukan untuk konsumen, namun hanya soal waktu sebelum agen AI berbasis web seperti ini diadopsi secara luas di lingkungan kerja. Agen ini bukan sekadar chatbot; mereka mampu meniru interaksi manusia dengan aplikasi web, menjalankan perintah, dan mengotomatisasi tugas yang sebelumnya memerlukan input manual.
Otomatisasi telah lama mengubah alur kerja di berbagai perusahaan, tetapi kehadiran agen AI ini menjanjikan kemajuan yang lebih signifikan. Namun, di balik potensinya, teknologi ini juga menghadirkan tantangan besar dalam hal keamanan dan manajemen risiko AI yang harus segera diperhatikan.
Selama ini, otomatisasi telah menggantikan berbagai tugas berulang di berbagai fungsi bisnis. Namun, agen AI berbasis web tidak hanya menyederhanakan pekerjaan—mereka juga dapat mulai melakukan tindakan yang sebelumnya tidak bisa dilakukan oleh karyawan. Perubahan ini berpotensi merevolusi produktivitas, tetapi juga membawa banyak tantangan keamanan yang harus segera diatasi.
Asisten Pribadi atau Risiko Keamanan? Agen AI dalam Penggunaan Konsumen vs. Perusahaan
Untuk memahami dampak potensial agen AI berbasis web di lingkungan kerja, pertimbangkan dua skenario berikut:
- Penggunaan konsumen:
“Operator, pesan liburan akhir pekan: cari penerbangan, reservasi hotel, sewa mobil, dan buat reservasi makan malam—semuanya sesuai anggaran saya.”
- Penggunaan di perusahaan:
“Operator, analisis log akses IT selama enam bulan terakhir, cocokkan dengan catatan HR untuk mengidentifikasi perubahan jabatan, tandai akun yang tidak memiliki pemilik, deteksi eskalasi hak akses, dan buat laporan risiko keamanan untuk tim IT dan kepatuhan.”
Jika skenario pertama adalah tugas pribadi sederhana dengan implikasi keamanan yang minim, skenario kedua melibatkan data sensitif, otomatisasi keputusan keamanan, dan bahkan berpotensi melewati pengawasan IT tradisional. Hal ini menimbulkan pertanyaan krusial dalam keamanan siber AI:
- Bagaimana kita mengontrol akses agen AI?
- Siapa yang mengawasi tindakan mereka?
- Apa yang terjadi jika mereka diretas?
Otomatisasi Perusahaan: Membuka Potensi Lebih dari Sekadar Efisiensi IT
Otomatisasi perusahaan selama ini berfokus pada penyederhanaan tugas berulang—melakukan hal yang sudah ada dengan lebih cepat dan efisien. Namun, seiring berkembangnya agen AI, potensinya tidak hanya terbatas pada otomatisasi tugas, tetapi juga membawa risiko baru.
Sebagai contoh, agen AI dapat melakukan hal berikut:
- Masuk ke Salesforce, membuat peluang bisnis, dan menghasilkan laporan secara mandiri.
- Mengotomatiskan keterlibatan pelanggan melalui rangkaian email di HubSpot.
- Mengelola akses file dan mengekstrak data dari gambar atau teks.
- Mengaktifkan infrastruktur cloud sesuai permintaan.
Berbeda dengan otomatisasi tradisional yang memerlukan integrasi API atau keahlian teknis mendalam, agen AI beroperasi seperti pengguna manusia—berinteraksi langsung dengan aplikasi bisnis, mengklik tombol, memasukkan kredensial, dan menjalankan tugas secara real-time. Potensi efisiensinya besar, tetapi risikonya juga signifikan.
Dari Cloud ke AI: Gelombang Transformasi Berikutnya
Seperti halnya komputasi cloud yang merevolusi dunia bisnis dengan kecepatan dan skalabilitasnya, AI kini mengalami transformasi serupa. Cloud membawa tantangan keamanan seperti kesalahan konfigurasi, risiko identitas, dan perluasan permukaan serangan—sesuatu yang memerlukan waktu bertahun-tahun bagi tim IT dan keamanan untuk mengatasinya.
AI mengikuti pola yang sama. Bisnis berlomba-lomba mengadopsinya, sementara tim keamanan masih mencari cara untuk melindungi arsitektur, alur kerja, dan data yang didorong oleh AI.
Penelitian CyberArk menyoroti beberapa ancaman baru yang muncul bersamaan dengan risiko agen AI berbasis web:
- Ancaman infrastruktur: Agen AI bergantung pada kredensial, kunci, dan token. Jika token sesi diretas, penyerang dapat mengambil alih agen AI dan menyamar sebagai pengguna yang sah.
- Ancaman sesi/akses: Agen AI dapat dimanipulasi untuk menjalankan tindakan yang tidak diinginkan melalui serangan penyuntikan perintah (prompt injection attacks)—bentuk baru dari rekayasa sosial.
- Ancaman identitas AI: Model AI dapat dirusak (poisoned), menyebabkan perilaku berbahaya seperti pencurian data atau penyisipan backdoor ke dalam sistem perusahaan.
Dengan meningkatnya ancaman ini, keamanan agen AI harus menjadi prioritas utama dalam strategi keamanan siber perusahaan.
Transformasi yang Didukung AI Sudah Hadir, tetapi Pertanyaannya Bukan Apakah AI Akan Mengubah Alur Kerja—Melainkan Apakah Kita Bisa Mengamankannya Sebelum Risikonya Tak Terkendali.
Risiko Keamanan Agen AI Berbasis Web: Siapa yang Mengendalikan?
Seiring semakin otonomnya agen AI berbasis web, perusahaan harus meninjau ulang strategi keamanannya.
- Akses berbasis browser: Bagaimana cara mengontrol akses jika agen AI berjalan di cloud dan berinteraksi dengan aplikasi bisnis melalui browser? Apa yang terjadi jika agen AI menggunakan kredensial Anda untuk melakukan tindakan atas nama Anda? Siapa yang bertanggung jawab atas tindakan tersebut? Apakah tindakan tersebut dipantau?
- Kontrol sesi dan audit: Tim IT dapat memantau sesi dan melacak aktivitas saat manusia berinteraksi dengan aplikasi. Tetapi bagaimana kita dapat mempertahankan tingkat pengawasan dan kontrol yang sama terhadap agen AI?
- Risiko autentikasi: Setelah diberikan akses, agen AI dapat menjalankan tindakan tanpa autentikasi lebih lanjut. Bagaimana kita dapat mencegah tindakan yang tidak sah dengan dalih otomatisasi?
- Keamanan identitas dan penilaian kerentanan AI: Dengan semakin banyaknya agen AI, bagaimana perusahaan dapat memastikan infrastruktur identitas tetap tangguh? Kontrol identitas tradisional berfokus pada pengguna manusia, tetapi otomatisasi berbasis AI memerlukan langkah keamanan adaptif untuk identitas mesin. Bisakah kita menetapkan dan mengelola agen AI sebagai identitas terpisah dengan kebijakan hak akses minimal yang dapat ditegakkan? Bagaimana kita mencegah agen AI meningkatkan hak akses mereka atau dieksploitasi sebagai vektor serangan baru?
- Siklus hidup dan eksposur data: Berapa lama agen AI menyimpan data sensitif? Siapa yang memiliki akses ke log dan riwayat eksekusi mereka? Tindakan pencegahan apa yang mencegah penyalahgunaan atau eksposur yang tidak disengaja?
Selama bertahun-tahun, kita telah mengamankan akun pengguna manusia, menegakkan akses dengan hak istimewa minimum, dan memantau aktivitas mencurigakan. Kini, kita harus menerapkan prinsip-prinsip tersebut ke dalam keamanan berbasis AI.
AI(Sec)Ops: Lahirnya Paradigma Keamanan Baru?
Apakah kita siap membiarkan AI menangani tugas-tugas online pribadi kita? Mungkin saja. Tetapi apakah kita siap membiarkan AI mengambil alih alur kerja perusahaan? Itu pertanyaan lain. Perusahaan akan selalu mengejar efisiensi dan ROI yang lebih tinggi, tetapi keamanan tidak boleh menjadi pemikiran setelahnya.
Otomatisasi berbasis AI adalah keniscayaan. Namun, saat perusahaan beralih ke alur kerja yang didukung AI, mereka harus mengadopsi pola pikir yang berorientasi pada keamanan. Masa depan dunia kerja sedang berubah, dan agen AI akan memainkan peran penting. Pertanyaan sebenarnya adalah: Bagaimana kita memastikan mereka bekerja untuk kita—tanpa menjadi ancaman?
Untuk mengamankan agen AI, kita harus menerapkan praktik terbaik dari DevSecOps yang telah kita pelajari di era cloud. Membangun AI(Sec)Ops sejak sekarang—sebelum risikonya melampaui upaya mitigasi kita—akan memastikan kita mengelola risiko secara proaktif.
Gelombang Berikutnya: Transisi dari Agen AI Konsumen ke Perusahaan
Apakah Anda akan mempercayai Operator begitu saja? Baik dari OpenAI, DeepSeek, atau penyedia lainnya? Open source atau milik eksklusif? Lanskap agen AI terus berkembang, dan saat alat ini beralih dari penggunaan konsumen ke perusahaan, risikonya akan semakin meningkat.
Bayangkan agen AI yang dapat berinteraksi dengan Salesforce, HubSpot, AWS, Office365, dan platform SaaS lainnya. Apa yang terjadi jika agen ini melewati kontrol keamanan tradisional? Bisakah perusahaan melacak tindakan mereka secara efektif? Siapa yang benar-benar mengendalikan data yang diproses oleh agen AI?
Pertanyaan-pertanyaan ini harus dijawab sebelum perusahaan sepenuhnya mengadopsi masa depan yang didukung AI. Teknologi ini akan terus berkembang, tetapi strategi keamanan harus mengikuti laju perkembangannya.
Infrastruktur IT yang kuat adalah kunci pertumbuhan bisnis. cyberark menyediakan solusi terbaik, mulai dari jaringan, storage, cloud, hingga keamanan siber, yang diintegrasikan oleh iLogo Indonesia agar sesuai dengan kebutuhan bisnis Anda.
Pelajari lebih lanjut di cyberark.ilogoindonesia.id dan konsultasikan kebutuhan IT Anda dengan kami !