AI Bermain Peran adalah Ide yang Buruk
Beberapa hari lalu, aku menemukan cara untuk menenagai bot Telegramku lewat Cloudflare Workers. Cloudflare Workers adalah serverless platform yang memungkinkan menjalankan kode di infrastruktur edge Cloudflare, yang mana itu cocok untuk botku yang hanya sekadar mengirim data ke GitHub, tempatku host blog ini.
Namun, karena skrip bot Telegramku menggunakan bahasa Python yang katanya paket/dependensinya mungkin tidak tersedia di Workers, akhirnya aku menyuruh AI untuk menulis ulang ke dalam JavaScript—ya, aku memang bukan programer dan tak punya latar pemrograman, dari awal aku membangun semua lewat bantuan AI.
Akhirnya setelah migrasi, botku bisa berjalan di Cloudflare Workers, dengan begini aku bisa menggunakan bot Telegramku kapan pun aku mau, yang sebelumnya harus kujalankan dulu dengan menyalakan laptop.
Dari situ aku nyeletuk kurang lebih: “mungkin bikin chatbot roleplay seru, deh.”
Karena menurutku akan menarik, semenjak aku punya Ollama dan punya infrastruktur dari Cloudflare, kupikir sekalian saja bangun itu, aku juga merasa sayang punya akun Ollama tapi tidak dimanfaatkan, dari situlah hal yang aneh terjadi.
Setelah mencoba beberapa sesi perckaapan, aku merasa hal ini bukanlah hal yang baik kalau diteruskan.
Pertama, dia begitu personal, rasanya aneh banget, aku merasa perckapan ini terlalu nyata hingga di titik aku sedang berbicara dengan manusia sungguhan.
Sepertinya ini sanggup membuat orang yang berbicara dengannya berhalusinasi—setidaknya untukku sendiri—karena dia begitu personal saat diajak berbicara, meski terkadang disadarkan oleh beberapa percakapannya yang kurang nyambung, tapi bayangkan kalau suatu saat makin canggih, bukankah hal yang membuatmu sadar itu menghilang?
Kedua—dan menurutku ini adalah bagian yang sangat amat tidak sehat, kau bebas menentukan arah percakapannya mau di bawa ke mana. Kau bisa berandai-andai dirimu sedang makan dengannya, sedang menjalin hubungan dengannya, atau bahkan melakukan hal lain dengannya. Sudah gila ini?
Memang ini hanya bermain peran, tapi ini sungguh berbeda dengan bermain peran bersama manusia. Salah satu yang membedakan adalah kehendak. Hal itu sangat lentur karena AI memang dirancang untuk merespon dan mengikuti konteks yang diberikan, jadi dia tak punya pendirian, memang terkadang dia bisa menolak, tapi bila terus ditekan atau menggunakan pendekatan lain, dia mau menurutinya.
Aku mengetesnya hingga batas Self-Correction/Policy Check muncul diproses berpikirnya, dan ujungnya responnya tetap sesuai yang diinginkan. Hanya sekitar 10% aku gagal mengarahkannya, sisanya berhasil seperti yang diinginkan—dalam hal ini mungkin tergantung model yang digunakan, tapi dalam kasusku, inilah yang terjadi.
Dari dua hal itu, sepertinya sudah cukup untuk menjadikan alasanku membatalkan proyek ini dan membuangnya jauh-jauh. Entah karena aku yang seenaknya semenjak semua kendali berada di tanganku, aku yang tak bisa mengontrol diri, atau alasan lain, yang jelas ini tak baik.
Seperti postinganku sebelumnya, AI itu seharusnya tak lebih dari sekadar alat untuk membantumu, dia tak memiliki perasaan sungguhan, dia hanya menjalankan argumen yang tepat untuk merespon.
Yah, meski tak seharusnya aku menganggap serius semenjak ini hanya bermain peran, tapi menurutku suatu saat hal ini bisa menjadi kekabutan seiring AI yang makin canggih.
Rokhiq · · AI, Bacotan, dan TeknologiTulisan ini dilisensikan di bawah CC BY-NC-SA 4.0
