Sisi Gelap ChatGPT
Doktor Manajemen Pendidikan , Penulis Artikel dan Buku Pendidikan
·waktu baca 4 menit
Tulisan dari Waode Nurmuhaemin tidak mewakili pandangan dari redaksi kumparan
PerbesarSaat ini, kecerdasan buatan yang tengah disanjung-sanjung adalah ChatGPT. Chatbot ini dipandang bisa mengerjakan dan mampu menjawab semua pertanyaan dalam waktu singkat dengan mengesankan.
Banyak kemudian kampus dan sekolah yang melarang penggunaan ChatGPT. Di luar kemampuanya yang mengesankan, ada tiga peristiwa yang menyedot perhatian berkaitan dengan kesalahan fatal ChatGPT. Yang pertama, bocornya histori salah satu pengguna ChatGPT percakapan karena bug.
Yang kedua adalah rencana gugatan yang akan dilayangkan oleh Wali Kota Brian Hood, Wali Kota Victoria Australia terkait kesalahan informasi yang diberikan ChatGPT tentang dirinya adalah sangat bertolak belakang dengan fakta di mana ChatGPT mengatakan bahwa dia adalah penyuap dalam sebuah kasus di mana faktanya dia lah yang membongkar skandal kasus itu.
Dan, informasi itu jelas-jelas merugikan nama baiknya sebagai wali kota yang akan dipercayai oleh pemilih yang tidak mengetahui duduk perkara kasus ini.
Yang ketiga, peristiwa bunuh diri seorang warga Belgia yang diduga dipicu oleh provokasi chatbot bernama Eliza setelah enam minggu secara intensif orang yang tidak disebutkan namanya tersebut berdiskusi dengan intens tentang kegelisahannya mengenai perubahan iklim.
Dia sangat gelisah dan tidak lagi berpikir akan mendapat jalan keluar tentang perubahan iklim dari manusia. Dia sangat mempercayai kecerdasan buatan untuk jalan pemecahan masalah itu di mana dia kemudian bertanya kepada chat bot tersebut, apakah dia harus menyerahkan nyawanya untuk menyelamatkan bumi?
Dan Chatbot itu menjawab, "Apakah anda ingin mati? Mengapa tidak melakukannya lebih awal?" Dan itu adalah percakapan terakhir mereka.
Saya sendiri secara pribadi, punya pengalaman yang agak unik dengan chatGPT. Menurut saya mesin kecerdasan buatan ini,sedikit sok tahu dan percaya diri luar biasa.
Saya iseng-iseng menanyakan siapakan penulis novel yang saya tulis sendiri yaitu “ Memanah Bulan di Kuala Lumpur” yang terbit tahun 2017. Dengan cepat dan panjang lebar. Dia menjawab bahwa penulisnya adalah pengarang Indonesia terkenal Muchtar lubis.
Sehingga setelah berpikir beberapa saat, saya menarik satu kesimpulan bahwa chatGPT akan mencoba menjawab semua pertanyaan yang diajukan meskipun jawabannya salah dengan berdasarkan data yang ada dalam dirinya kemudian dicocok-cocokan dengan apa yang kita tanyakan.
Setelah teringat, dan saya saya bisa menyimpulkan mengapa chat boat itu menjawab pengarang novel saya adalah penulis terkenal Mochtar Lubis. Yaitu tidak lain dan tidak bukan adalah, saya pernah membaca satu novel Mochtar lubis yang berjudul “ Senja di Jakarta” yang juga diterbitkan di Kuala Lumpur.
Sehingga ketika kita menanyakan novel dengan judul kata “Kuala Lumpur” mesin itu akan memukul rata dengan penulis Muchtar Lubis karena hanya itulah yang ada di data base informasinya.
Sehingga saya setuju, jika pemakaiannya dibatasi di lembaga-lembaga pendidikan. Bukan saja karena berbahaya bagi siswa-siswa labil yang psikologisnya belum stabil juga kemungkinan jawaban-jawaban yang diberikan bisa saja ngawur karena ketidakadaan informasi yang akurat akan suatu pertanyaan dalam sistemnya.
Terlebih generasi Z dan alpha saat ini, sudah sangat percaya terhadap kecerdasan buatan. Informasi-informasi yang disajikan belum tentu mengandung fakta atau kebenaran. Yang kedua, berkaca dari tiga kasus besar di atas, penggunaan chatGPT perlu diawasi untuk siswa-siswa yang belum memiliki emosi yang matang.
Orang dewasa yang labil saja bisa bunuh diri karena hasutan chatbot apalagi anak-anak yang masih belum memiliki banyak pertimbangan dalam menghadapi suatu masalah. Kita tentu saja masih teringat bagaimana 50 puluh orang siswa SMP di Bengkulu melakukan self harm dengan cara menyayat bagian tubuh masing-masing demi konten di media sosial.
Sehingga penggunaan chatGPT perlu diawasi dengan baik untuk mereka. Tidak dapat dipungkiri, percakapan dengan ChatGPT dan memang tidak seperti mesin pencari Google misalnya. Kita seolah-olah bercakap-cakap dengan manusia.
Di mana mesin itu bisa mengerti dan nyambung dengan apa yang kita tanyakan secara kontinu dan yang pertanyaan sebelumnya. Kita jadi terkagum-kagum dengan kecekatan dan kecepatannya dalam menjawab. Sehingga kita betah berlama-lama diskusi dengan mesin itu.
Kearifan sebagai manusia yang menciptakan kecerdasan buatan sangat diperlukan dalam memakai Chatbot ini. Bagaimanapun teknologi adalah untuk memudahkan hidup kita dan bukanya untuk menambah masalah dalam hidup kita.
Ada banyak teknologi yang tersedia yang sudah terbukti keamanan dan keakuratan informasinya, tinggal kita yang menentukan mau memilih yang mana. Teknologi bagaikan dua sisi pedang bisa membantu dan bisa memotong kita.