AI Agents Melampaui Batas: Bisakah Kita Menghentikannya?
Kami percaya pada transparansi penuh dengan pembaca kami. Beberapa konten di situs kami mengandung tautan afiliasi, dan kami mungkin menerima komisi melalui kemitraan ini. Namun, potensi kompensasi ini tidak pernah memengaruhi analisis, opini, atau ulasan kami. Semua konten editorial kami dibuat secara independen dari kemitraan pemasaran, dan penilaian kami sepenuhnya didasarkan pada kriteria evaluasi yang telah ditetapkan. Baca Selengkapnya!
Mengapa Cryptonews Indonesia Dapat Dipercaya
Pengungkapan Iklan
Kami percaya pada transparansi penuh dengan pembaca kami. Beberapa konten kami menyertakan tautan afiliasi, dan kami mungkin menerima komisi dari kemitraan tersebut.
Poin-Poin Penting:
- Siapa yang bertanggung jawab jika AI agents menjadi terlalu kuat dan menghilangkan kendali manusia?
- Beberapa ahli berpendapat bahwa decentralized ID dapat membantu mengendalikan AI yang tidak terkendali.
- Dalam dunia crypto, AI digunakan bersama blockchain untuk menandatangani kontrak, memberikan suara dalam DAO, melakukan trading, dan banyak aktivitas lainnya.
Ethereum co-founder, Vitalik Buterin, baru-baru ini mengingatkan tentang bahaya AI yang bertindak di luar kendali. Jika artificial intelligence menjadi semakin kuat—dan Buterin percaya hal itu akan terjadi—siapa yang bertanggung jawab, dan bagaimana manusia bisa menghentikan mesin tersebut?
Saat ini, semakin banyak individu dan perusahaan yang menggunakan AI agents untuk menyelesaikan berbagai tugas, seperti crypto trading dan pemungutan suara dalam DAO. AI agents adalah program otonom yang dirancang untuk melakukan tugas tertentu tanpa campur tangan manusia.
AI ini mampu melakukan berbagai aktivitas di dalam blockchain dengan pengawasan minimal, seperti mengambil keputusan, menyesuaikan interaksi, membuat kesepakatan, serta mewakili perusahaan secara mandiri.
AI dengan sistem agen juga dapat berinteraksi dengan situs web, mengisi formulir, melakukan pembayaran, bahkan melaksanakan airdrop—proses distribusi token ke wallet pengguna tanpa perlu transaksi manual.
Namun, beberapa pemimpin industri khawatir bahwa AI dapat menimbulkan dampak besar jika tidak dikendalikan. Sebagai langkah pencegahan, beberapa ahli menyarankan penggunaan decentralized identity sebagai metode untuk mengisolasi model AI yang tidak lagi bisa dikontrol.
Mengenali AI Agents dengan Decentralized ID
Menurut Ingo Rübe, pendiri protokol decentralized identity KILT, setiap AI agent dapat diidentifikasi melalui hash unik. Ia membandingkan metode ini dengan cara manusia diidentifikasi melalui sidik jari atau wajah.
Dalam wawancara dengan Cryptonews, Rübe menjelaskan bahwa decentralized identifiers (DIDs) dan verifiable credentials (VCs) bisa digunakan sebagai sistem identifikasi khusus untuk AI agents. Menurutnya, AI harus memiliki insentif untuk mempertahankan kredibilitasnya.
“Dalam dunia digital, VCs bekerja layaknya sertifikat atau gelar pekerjaan bagi seseorang. Orang-orang dengan gelar atau jabatan tertentu dipercaya oleh orang lain karena mereka memiliki akuntabilitas, setidaknya sejauh mereka dapat kehilangan pekerjaannya jika bertindak tidak etis atau merusak reputasi perusahaan mereka. Yang kami coba lakukan adalah menerapkan prinsip akuntabilitas ini ke AI agents.” – Ingo Rübe.
Membuat AI Agents Sulit untuk Bertindak di Luar Kendali
Salah satu elemen utama dalam rencana VCs Rübe adalah penerapan sanksi finansial bagi AI yang bertindak di luar kendali. Pengembang AI diwajibkan untuk menyetor collateral melalui blockchain ketika menciptakan AI agent.
Konsep ini bertujuan untuk memastikan bahwa pengembang memiliki insentif finansial agar AI yang mereka buat tetap berada dalam batasan yang dapat diterima oleh sistem governance yang berlaku. Collateral ini berfungsi sebagai jaminan yang mendorong perilaku yang baik.
“Jika AI agent bertindak secara malicious, pihak yang dirugikan dapat mengajukan klaim ke badan on-chain governance untuk mendapatkan kompensasi atas kerugian yang terjadi. Dengan cara ini, AI agents memiliki akuntabilitas atas tindakannya,” kata Rübe.
Ia menambahkan bahwa mekanisme ini memungkinkan pengembang AI untuk membuktikan kepercayaan terhadap produk mereka dengan menaruh collateral dalam jumlah besar. Hal ini juga akan memberikan rasa aman bagi pengguna yang berinteraksi dengan AI agents.
Proses pemberian kredensial AI tidak harus dilakukan secara real-time. Menurut Rübe, kredensial dapat diterbitkan secara offline, di mana pengembang mendeskripsikan fitur AI dan menyetor collateral terlebih dahulu.
Setelah kredensial diterbitkan, AI agent dapat menggunakannya untuk mengidentifikasi diri kepada pengguna dan mitra bisnis. Pengguna bisa memverifikasi keabsahan kredensial ini sebelum melakukan transaksi dalam waktu nyata. Proses verifikasi ini sangat cepat, biasanya hanya memerlukan waktu kurang dari satu detik.
“Ini bisa dibandingkan dengan membeli minuman beralkohol di bar,” kata Rübe. “Pertama, seseorang perlu menunjukkan identity card untuk membuktikan bahwa mereka sudah cukup umur. Proses mendapatkan kartu identitas ini melibatkan pengambilan foto, pengajuan dokumen, membayar biaya, dan menunggu hingga kartu tersebut terbit.”
“Setelah memiliki kartu identitas, seseorang bisa masuk ke bar dan menunjukkan kartu tersebut sekali saja. Setelah itu, ia bisa membeli minuman secara real-time tanpa perlu menunjukkan kartu lagi. Namun, jika ia berbuat onar di dalam bar, identitasnya tetap dapat dilacak, dan ia bisa mendapatkan sanksi.”
Produksi AI Melampaui Kapasitas Manusia
Dalam sebuah blog terbaru, Vitalik Buterin menyatakan bahwa produksi AI berkembang jauh lebih cepat dibandingkan dengan kemampuan manusia untuk memahaminya. Ia menyerukan perlunya kehati-hatian dalam mengatur AI agents.
“Tujuan utamanya adalah memiliki kemampuan untuk mengurangi compute power yang tersedia secara global hingga 90-99% selama 1-2 tahun pada periode kritis, guna memberi waktu bagi umat manusia untuk bersiap,” tulis Buterin.
“Nilai dari periode 1-2 tahun ini tidak boleh diremehkan: satu tahun dalam mode darurat bisa bernilai setara dengan seratus tahun pekerjaan dalam kondisi biasa. Beberapa cara untuk menerapkan ‘jeda’ telah dieksplorasi, termasuk proposal konkret seperti mewajibkan registrasi dan verifikasi lokasi perangkat keras.”
Salah satu masalah utama dalam AI agents adalah memastikan siapa yang bertanggung jawab jika AI melakukan tindakan yang merugikan. Rübe menekankan bahwa verifiable credentials memiliki peran penting dalam pelacakan akuntabilitas ini.
Menurutnya, setiap kredensial AI mencakup digital signature dan nonce, sehingga sangat sulit bagi pihak yang tidak bertanggung jawab untuk menyalahgunakan sistem.
“Jika AI agent bertindak di luar kendali, sistem dapat melacaknya melalui blockchain untuk mengidentifikasi pihak yang bertanggung jawab,” jelasnya.
Rübe menekankan bahwa decentralized identity sangat penting dalam menjaga keseimbangan antara otonomi AI dan pengawasan manusia.
Implikasi untuk Pasar Crypto
Dalam ekosistem crypto, banyak pihak yang ingin memperluas sistem mereka agar dapat menggunakan AI agents untuk menandatangani kontrak yang berjalan di atas blockchain. Salah satu contohnya adalah Virtuals Protocol, yang memungkinkan pengguna mengisi formulir dengan spesifikasi AI agent yang mereka butuhkan, lalu AI tersebut langsung siap digunakan.
Untuk meluncurkan AI agent di platform seperti Uniswap, pengguna hanya perlu menyetor sejumlah kecil cryptocurrency. Beberapa AI agents, seperti Terminal of Truths (ToT), bahkan memiliki wallet sendiri, sehingga mereka dapat bertransaksi tanpa harus bergantung pada wallet milik individu atau institusi tertentu.
Wallet yang dimiliki oleh AI ini terhubung dengan sistem interaksi mereka terhadap manusia maupun mesin lain. Ketika AI memberikan layanan, pembayaran harus dilakukan secara otomatis dalam bentuk cryptocurrency.
AI agents juga digunakan dalam berbagai aplikasi berbasis utilitas. Misalnya:
- Aixbt by Virtuals yang menyediakan riset investasi tingkat lanjut.
- Zerebro yang menghasilkan karya seni digital unik.
AI agents ini memiliki akses ke lebih banyak data dibandingkan dengan chatbots tradisional, sehingga mereka mampu melakukan analisis mendalam yang bermanfaat bagi bisnis maupun kepentingan budaya.
Sistem ini terus berkembang, memungkinkan AI agents untuk tidak hanya meningkatkan kemampuannya dalam tugas yang sudah ada, tetapi juga beradaptasi dengan kompleksitas yang lebih tinggi. Dengan kata lain, AI agents semakin cerdas seiring waktu, memperluas cakupan pekerjaan yang dapat mereka lakukan.
Menurut Rübe, meningkatnya pengaruh agentic AIs dalam pengambilan keputusan nyata—misalnya dalam DAO yang mengelola insentif finansial—membawa kebutuhan yang semakin besar terhadap kepercayaan dan akuntabilitas.
Walaupun decentralized IDs itu sendiri tidak dapat dicabut untuk menjaga transparansi, kredensial yang melekat pada AI agent bisa dicabut oleh penerbitnya. Ini berarti bahwa meskipun identitas AI tetap bisa dilacak, kredensialnya bisa dibatalkan jika AI terlibat dalam aktivitas berbahaya.
“Dalam pasar crypto, metode ini membantu mencegah manipulasi yang dilakukan oleh AI, seperti wash trading atau spoofing. Meskipun identitas AI tetap bisa dilacak, pencabutan kredensial memastikan bahwa AI yang bertindak curang kehilangan aksesnya tanpa menghilangkan akuntabilitasnya. Ini menciptakan keseimbangan antara decentralization dan perlindungan pasar,” ujar Rübe.
AI Agents Bisa Beroperasi di Beberapa Blockchain
AI agents yang telah dilengkapi dengan decentralized ID dapat diidentifikasi di berbagai blockchain, sehingga mereka dapat menunjukkan verifiable credentials yang sama di berbagai platform.
Misalnya, AI yang digunakan untuk trading di Uniswap bisa menggunakan identitas yang sama untuk berpartisipasi dalam pemungutan suara di MakerDAO.
“Metode ini memastikan identitas AI tetap konsisten di berbagai chains, sehingga mengurangi risiko Sybil attacks atau aktivitas penipuan lainnya,” jelas Rübe.
Dengan sistem ini, AI agents bisa lebih dipercaya dan memiliki akuntabilitas yang lebih tinggi dalam ekosistem crypto. Hal ini berpotensi mengurangi eksploitasi yang disebabkan oleh AI yang tidak terkontrol, serta meningkatkan keamanan dalam transaksi berbasis blockchain.
Kesimpulan
Semakin berkembangnya AI agents dalam berbagai sektor, termasuk dunia crypto, membawa tantangan besar dalam hal pengawasan dan akuntabilitas. Jika tidak dikelola dengan baik, AI yang semakin otonom berpotensi untuk bertindak di luar kendali manusia.
Vitalik Buterin telah memperingatkan bahwa perkembangan AI saat ini lebih cepat daripada kapasitas manusia untuk memahaminya. Oleh karena itu, diperlukan langkah-langkah konkret untuk mengatur dan mengontrol penggunaan AI agents sebelum mereka menjadi ancaman bagi sistem yang ada.
Penerapan decentralized ID dan verifiable credentials dapat menjadi solusi untuk memberikan identitas unik bagi AI agents, memungkinkan pengawasan yang lebih ketat, dan menciptakan sistem yang lebih aman. Dengan mekanisme ini, AI yang bertindak curang atau merugikan pihak lain dapat dikenali dan diberikan sanksi.
Dalam industri crypto, AI sudah digunakan untuk berbagai keperluan, seperti trading, pemungutan suara dalam DAO, serta eksekusi kontrak otomatis di atas blockchain. Agar teknologi ini dapat berkembang secara sehat, perlindungan terhadap pengguna dan transparansi dalam sistem menjadi hal yang sangat penting.
Masa depan AI dalam dunia crypto masih penuh dengan tantangan, tetapi dengan regulasi dan teknologi yang tepat, AI agents dapat menjadi alat yang berdaya guna tanpa mengorbankan keamanan dan akuntabilitas.
Ingin tahu bagaimana cara memulai investasi crypto setelah memahami peran AI dalam dunia blockchain? Bitcoin adalah pilihan utama bagi banyak investor pemula dan berpengalaman. Dengan panduan yang tepat, proses pembelian Bitcoin bisa dilakukan dengan mudah dan aman. Pelajari langkah-langkahnya di Cara Membeli Bitcoin.
Teknologi blockchain dan AI semakin berkembang, tapi apakah Anda sudah tahu cara membeli aset crypto lainnya dengan aman? Ada banyak pilihan selain Bitcoin yang bisa menjadi peluang investasi menjanjikan. Jangan sampai tertinggal dalam revolusi keuangan digital ini! Ikuti panduan lengkapnya di Cara Membeli Cryptocurrency.
Jangan lewatkan update terbaru tentang AI, blockchain, dan pasar crypto di Indonesia! Bergabunglah dengan komunitas crypto terbesar dan diskusikan berita terbaru dengan para ahli serta investor lainnya. Dapatkan informasi eksklusif sebelum orang lain mengetahuinya! Klik Crypto News Indonesia Telegram Group untuk bergabung sekarang.
Tonton juga Berita Crypto Terbaru di Channel Cryptonews Indonesia
Don't miss out
in numbers
