Bahaya Privasi di Balik Kecanggihan Asisten AI Baru bernama Instinct
PerbesarKehadiran asisten kecerdasan buatan (artificial intelligence) terbaru bernama Instinct tengah memicu perdebatan sengit di kalangan komunitas teknologi global. Di satu sisi, asisten AI personal yang saat ini masih dalam tahap uji coba tertutup (private access) tersebut dipuji karena kemampuannya yang luar biasa layaknya sihir dalam menyelesaikan berbagai tugas kompleks. Namun, di sisi lain, para penguji awal mulai menyuarakan kekhawatiran serius terkait model keamanan dan ketentuan layanan yang dinilai sangat mengancam privasi pengguna.
Dikembangkan oleh tim kecil di bawah pimpinan Noah Shinn, mantan peneliti di Sierra, startup asal San Francisco ini beroperasi di bawah naungan Spear Street Technology. Instinct bekerja dengan cara menghubungkan dirinya langsung ke berbagai aplikasi dan perangkat pengguna, mulai dari email, aplikasi pesan singkat, kalender, hingga akses ke audio, lokasi, serta tangkapan layar perangkat secara real-time. Kebebasan akses tanpa batas inilah yang kini memicu tanda tanya besar mengenai batasan aman adopsi teknologi AI personal.
Hak Akses Tanpa Batas dan Ketentuan Layanan yang Agresif
Kekhawatiran utama para pengguna berakar dari dokumen Syarat dan Ketentuan Ketentuan Layanan (Terms of Service) milik Instinct yang dinilai sangat agresif. Dokumen tersebut memberikan lisensi yang bersifat abadi dan tidak dapat dibatalkan (perpetual and irrevocable) kepada Instinct untuk mengakses, menyimpan, mereproduksi, hingga memodifikasi materi apa pun milik pengguna, termasuk menggunakannya sebagai data pelatihan model AI mereka. Tidak hanya itu, asisten ini juga diizinkan untuk merekam aktivitas layar, pergerakan kursor, hingga ketukan keyboard (keyboard inputs) pengguna.
Lebih mengkhawatirkan lagi, ketentuan tersebut juga memberikan otoritas penuh kepada Instinct untuk melakukan kesepakatan, komitmen, atau transaksi mengikat atas nama pengguna. Hal ini berarti AI tersebut memiliki otonomi hukum untuk bertindak sebagai perwakilan pengguna di dunia digital tanpa memerlukan konfirmasi manual di setiap tindakan. Bagi banyak pakar keamanan siber, tingkat otonomi seperti ini dianggap terlalu berisiko untuk diserahkan kepada entitas pihak ketiga.
Kebocoran Data dan Kegagalan Sistem Penghapusan
Beberapa penguji awal telah melaporkan berbagai keanehan sistem yang membuktikan bahwa kendali data pengguna belum sepenuhnya aman. Peter Yang, salah satu pengguna awal, mengungkapkan bahwa Instinct sempat menolak untuk menghapus riwayat data dari akun Gmail miliknya ketika diminta. Meskipun tim pengembang langsung merilis pembaruan fitur penghapusan data eksternal di menu pengaturan untuk mengatasi masalah tersebut, insiden ini terlanjur menimbulkan skeptisisme.
Kejadian serupa dialami oleh Claire Vo, yang menemukan bahwa Instinct masih terus mengirimkan ringkasan kotak masuk emailnya bahkan setelah ia memutuskan sambungan akses integrasi Google. Saat dimintai konfirmasi, asisten AI tersebut mengakui bahwa email-email milik Claire disimpan dalam bentuk teks biasa (plain text) untuk kebutuhan pencarian di masa mendatang. Hal ini menunjukkan adanya celah serius di mana data sensitif tetap tersimpan di server mereka meskipun pengguna merasa telah memutus akses aplikasi.
Kerentanan Phishing dan Hilangnya Kontrol Pengguna
Aspek keamanan teknis juga menjadi sorotan tajam setelah para ahli menguji kerentanan sistem Instinct terhadap serangan siber. Alex Cohen, salah satu pendiri Hello Patient, memutuskan untuk menghapus akunnya setelah membuktikan betapa mudahnya sistem Instinct terkena metode penipuan digital (phishing). Ia memperingatkan, “Saya pikir kita belum berada di titik di mana memberikan akses baca dan tulis kepada AI ke kotak masuk email Anda adalah hal yang aman.”
Hilangnya kendali atas tindakan AI juga dirasakan langsung oleh Katie Jacobs Stanton, pendiri Moxxie Ventures. Ia menceritakan pengalamannya ketika Instinct mengirimkan email atas namanya tanpa meminta persetujuan terlebih dahulu. Mengenai dilema asisten AI personal ini, ia menekankan pentingnya faktor kepercayaan dengan menyatakan, “Semakin kuat asisten AI ini, semakin penting pula arti sebuah kepercayaan. Setiap tindakan yang berhasil akan menumbuhkan sedikit kepercayaan, namun satu saja tindakan tanpa izin dapat membuat kepercayaan itu kembali ke angka nol.”
Perkembangan teknologi asisten AI personal memang tidak terbendung, terutama setelah popularitas OpenClaw yang memicu gelombang investasi besar ke sektor ini. Investor raksasa seperti Kleiner Perkins dan Conviction kabarnya telah menggelontorkan dana segar ke Instinct. Kendati demikian, para ahli mengingatkan bahwa kenyamanan teknologi ini harus dibayar mahal dengan perubahan norma keamanan modern, di mana pengguna secara sadar maupun tidak akan mulai menyerahkan kata sandi mereka kepada aplikasi pihak ketiga tanpa memahami sepenuhnya bagaimana data tersebut dikelola.