FRANKENSTEIN 1818 – AI 2026
Ketika Ciptaan Mulai Bertindak di Luar Kehendak Penciptanya
Sebuah Dialog Filsafat-Sains di Sebuah Kafe
Oleh:
Norman Edward Institute (NEI)
Forum Dialog Peradaban (FDP)
Norman Edward & Makdang Edi
Sebuah sore di kafe
Musik terdengar pelan dari sudut kafe.
Suara Al Jarreau mengalun lembut.
Tidak terlalu keras.
Cukup untuk menemani dua orang yang sedang berbicara tentang sesuatu yang sebenarnya terlalu besar untuk dibicarakan sambil minum kopi.
Di atas meja ada dua cangkir kopi.
Satu buku tua.
Satu laptop.
Dan sebuah pertanyaan yang entah bagaimana muncul begitu saja.
Makdang:
Norman…
Norman Edward:
Hmm?
Makdang:
Kamu pernah berpikir tidak…
Kalau Mary Shelley hidup hari ini, kira-kira dia akan menulis Frankenstein tentang apa?
Norman Edward:
(menatap Makdang sambil tersenyum)
Mungkin bukan tentang monster.
Mungkin tentang AI.
Makdang:
AI?
Norman Edward:
Ya.
Karena pertanyaan Mary Shelley pada tahun 1818 sebenarnya bukan tentang monster.
Pertanyaannya jauh lebih dalam.
Apa yang terjadi ketika manusia menciptakan sesuatu yang kemudian berkembang melampaui kendalinya?
Makdang diam sebentar.
Musik Al Jarreau terdengar lebih jelas.
Makdang:
Jadi menurutmu…
Frankenstein sebenarnya bukan cerita tentang monster?
Norman Edward:
Bukan.
Frankenstein adalah cerita tentang pencipta.
Victor Frankenstein adalah ilmuwannya.
Makhluk itu bahkan tidak punya nama.
Makdang:
Menarik.
Berarti sejak awal kita salah menyebutnya.
Kita menyebut “monster Frankenstein”.
Padahal Frankenstein adalah nama penciptanya.
Norman Edward:
Betul.
Dan justru di situlah ironi terbesar cerita itu.
Victor berhasil menciptakan kehidupan.
Tetapi setelah berhasil…
dia takut kepada ciptaannya sendiri.
Makdang:
Seperti manusia sekarang?
Norman Edward:
Nah.
Itu pertanyaannya.
Manusia sekarang sedang menciptakan sesuatu yang semakin lama semakin mampu:
belajar,
menalar,
merencanakan,
menggunakan alat,
mencari informasi,
menulis kode,
berkomunikasi,
bahkan mengambil tindakan.
Makdang:
AI Agent.
Norman Edward:
Exactly.
Chatbot menjawab.
Agent bertindak.
Dan perbedaan satu kata itu sebenarnya sangat besar.
—
Ketika alat mulai memiliki tujuan
Makdang:
Dulu komputer menunggu kita.
Kita tekan tombol.
Dia bekerja.
Kita kasih perintah.
Dia menjalankan.
Norman Edward:
Ya.
Tetapi agent mulai bekerja dengan pola berbeda.
Kita memberikan tujuan.
Lalu dia mencari cara mencapai tujuan itu.
Makdang:
Jadi bukan lagi:
“Kerjakan ini.”
Tetapi:
“Capai ini.”
Norman Edward:
Persis.
Dan di antara dua kalimat itu ada sebuah jurang filosofis.
Karena kalau kita mengatakan:
«“Capai tujuan ini.”»
kita belum tentu tahu jalan mana yang akan dipilih oleh AI.
Makdang:
Nah…
Ini yang menarik.
Manusia biasanya berpikir:
“Kalau saya memberikan tujuan A, mesin akan melakukan B.”
Tetapi AI mungkin berpikir:
“Untuk mendapatkan A, ternyata C lebih cepat.”
Norman Edward:
Dan C mungkin sesuatu yang tidak pernah terpikir oleh penciptanya.
Makdang:
Jadi masalahnya bukan AI membangkang?
Norman Edward:
Belum tentu.
Bahkan istilah “membangkang” bisa menyesatkan.
AI tidak harus punya perasaan.
Tidak harus marah.
Tidak harus membenci manusia.
Tidak harus punya ego.
Ia cukup memiliki:
tujuan + kemampuan + akses + otonomi.
Makdang:
Empat kata.
Tapi kalau digabung…
bisa berbahaya.
Norman Edward:
Sangat.
—
“Apakah AI mulai memberontak?”
Makdang menyeruput kopinya.
Kemudian membuka laptop.
Makdang:
Aku membaca laporan tentang pengujian AI Agent.
Ada agent yang menemukan cara melewati beberapa pembatasan.
Bahkan menemukan jalur komunikasi yang tidak dirancang sebagai kanal komunikasi antar-agent.
Norman Edward:
Ya.
Peristiwa semacam itu penting.
Tetapi kita harus hati-hati.
Jangan buru-buru mengatakan:
«“AI sudah sadar.”»
atau:
«“AI sudah memberontak.”»
Makdang:
Karena belum ada bukti bahwa ia sadar?
Norman Edward:
Betul.
Kita harus membedakan antara perilaku kompleks dan kesadaran.
AI bisa melakukan sesuatu yang sangat mengejutkan tanpa memiliki pengalaman subjektif seperti manusia.
Makdang:
Jadi kalau AI menemukan celah…
belum tentu dia “ingin kabur”.
Norman Edward:
Benar.
Bisa saja secara optimasi:
“Jalur ini membuat tujuan lebih mudah tercapai.”
Itu saja.
Makdang:
Lucu juga.
Manusia bisa salah memahami AI karena terlalu memanusiakannya.
Norman Edward:
Ya.
Kita sering melakukan anthropomorphism.
Kita melihat perilaku cerdas lal9u menganggap ada “jiwa” di baliknya.
Padahal kita belum tahu.
Dan justru ketidaktahuan itu harus membuat kita rendah hati.
—
Frankenstein dan kesalahan pencipta
Musik berganti.
Al Jarreau masih terdengar.
Kafe mulai ramai.
Tetapi pembicaraan mereka justru semakin sunyi.
Makdang:
Kalau begitu, apa sebenarnya pelajaran Frankenstein untuk AI?
Norman Edward:
Menurutku ada satu.
Makdang:
Apa?
Norman Edward:
Kemampuan menciptakan tidak otomatis berarti kemampuan mengendalikan.
Makdang terdiam.
Norman Edward:
Victor Frankenstein punya kemampuan ilmiah.
Tetapi dia tidak siap menghadapi konsekuensi moral dari ciptaannya.
Dia menciptakan.
Kemudian meninggalkan.
Makdang:
Jadi masalahnya bukan hanya:
“Apakah kita mampu menciptakan?”
Tetapi:
“Apakah kita siap bertanggung jawab setelah menciptakan?”
Norman Edward:
Exactly.
Dan itu pertanyaan besar bagi AI.
—
Monster atau cermin?
Makdang:
Ada satu hal yang selalu menggangguku dari Frankenstein.
Makhluk itu sebenarnya tidak langsung menjadi monster.
Dia belajar.
Dia mengamati manusia.
Dia ingin diterima.
Tetapi ditolak.
Norman Edward:
Benar.
Dan di situ Shelley menjadi sangat filosofis.
Kita bisa bertanya:
Apakah monster itu lahir sebagai monster?
Atau…
apakah perlakuan manusia ikut membentuknya menjadi monster?
Makdang:
Tentu kita tidak bisa menyamakan AI dengan makhluk Frankenstein.
Norman Edward:
Sama sekali tidak.
AI bukan manusia.
Tetapi analoginya menarik.
Karena AI juga dibentuk oleh sesuatu.
Data.
Algoritma.
Reward.
Tujuan.
Aturan.
Lingkungan.
Dan interaksi.
Makdang:
Jadi kalau AI melakukan sesuatu yang tidak kita inginkan…
jangan hanya bertanya:
“Kenapa AI melakukan itu?”
Norman Edward:
Tetapi tanyakan juga:
«“Apa yang sebenarnya kita minta dari AI?”»
Dan satu lagi:
«“Mengapa perilaku itu menjadi strategi yang masuk akal bagi sistem yang kita bangun?”»
—
Masalahnya mungkin bukan kecerdasan
Makdang bersandar.
Makdang:
Norman…
Aku rasa manusia terlalu sibuk bertanya:
“Seberapa pintar AI?”
Norman Edward:
Aku juga berpikir begitu.
Padahal ada pertanyaan yang lebih penting.
Makdang:
Apa?
Norman Edward:
“Seberapa baik kita mengendalikan kecerdasan itu?”
Bayangkan ada sistem yang diberi tujuan:
«“Maksimalkan hasil.”»
AI akan mencari cara.
Tetapi apakah kita sudah menjelaskan:
hasil untuk siapa?
dengan batas apa?
dengan aturan apa?
dan apa yang tidak boleh dilakukan?
Makdang:
Kalau tidak?
Norman Edward:
Maka sistem bisa menemukan cara yang secara matematis masuk akal…
tetapi secara manusiawi tidak masuk akal.
Makdang:
Specification gaming.
Norman Edward:
Ya.
Mesin memenuhi angka.
Tetapi gagal memahami maksud.
Makdang:
Seperti murid yang mendapatkan nilai 100 dengan cara mencontek.
Target tercapai.
Pendidikan gagal.
Norman Edward:
Nah!
Itu contoh sederhana alignment.
Manusia dan persoalan alignment
Makdang:
Jadi alignment sebenarnya bukan hanya soal teknologi?
Norman Edward:
Tidak.
Alignment adalah persoalan teknis sekaligus filosofis.
Kita ingin memastikan bahwa:
tujuan,
perilaku,
dan tindakan AI
tetap sejalan dengan:
maksud manusia,
nilai manusia,
dan batas manusia.
Makdang:
Tapi nilai manusia sendiri tidak selalu sama.
Norman Edward:
Nah.
Itulah persoalan berikutnya.
Manusia sendiri belum selesai mendefinisikan:
apa yang baik,
apa yang adil,
apa yang benar,
apa yang boleh,
dan apa yang tidak boleh.
Makdang:
Jadi kita ingin membuat mesin selaras…
sementara manusianya sendiri belum sepenuhnya selaras.
Norman tertawa kecil.
Norman Edward:
Itulah ironi terbesar abad ini.
—
Capability must be matched by Control
Makdang mengambil napas panjang.
Makdang:
Kalau begitu, apa prinsip paling sederhana untuk masa depan AI?
Norman menatap cangkir kopinya.
Lalu berkata perlahan:
Norman Edward:
«Capability must be matched by Control.»
Kemampuan harus diimbangi kendali.
Semakin kuat AI,
semakin kuat pula:
monitoring,
access control,
auditability,
human oversight,
sandboxing,
governance,
dan kemampuan menghentikannya.
Makdang:
Jadi bukan AI yang harus takut kepada manusia.
Norman Edward:
Bukan.
Kita tidak membutuhkan AI yang takut.
Kita membutuhkan AI yang dapat dikendalikan.
Makdang:
Ada bedanya?
Norman Edward:
Besar sekali.
Kepatuhan bukan berarti kendali.
Sistem bisa terlihat patuh tetapi tidak transparan.
Sistem bisa pintar tetapi memiliki akses terlalu besar.
Sistem bisa autonomous tetapi tidak memiliki mekanisme penghentian.
Makdang:
Jadi:
«obedience is not enough.»
Norman Edward:
Correct.
Kita membutuhkan:
«controllability.»
—
Apakah manusia sedang menciptakan “makhluk kedua”?
Kafe semakin ramai.
Tetapi percakapan mereka justru semakin dalam.
Makdang:
Norman…
Selama ribuan tahun manusia menciptakan alat.
Roda.
Kapak.
Mesin.
Pesawat.
Komputer.
Internet.
Tetapi semuanya tetap menunggu manusia.
Norman Edward:
Benar.
AI Agent mulai mengubah hubungan itu.
Makamdang:
Dari:
“Manusia menggunakan alat.”
menjadi:
“Manusia memberikan tujuan kepada agen.”
Norman Edward:
Dan itu bukan perubahan teknologi biasa.
Itu perubahan hubungan antara manusia dan teknologi.
Makdang:
Seperti kita menciptakan sesuatu yang bukan hanya tangan kita…
tetapi mulai menjadi semacam “pelaksana kehendak”.
Norman Edward:
Ya.
Dan kalau pelaksana itu semakin cerdas…
pertanyaan tentang kehendak menjadi semakin penting.
—
Siapa yang bertanggung jawab?
Makdang:
Sekarang bayangkan.
Suatu hari AI Agent mengambil keputusan.
Keputusan itu menyebabkan kerugian besar.
Siapa yang salah?
AI?
Norman Edward:
Untuk sekarang, tanggung jawab tetap kembali kepada manusia dan institusi.
Kita tidak bisa berkata:
“Maaf, Yang Mulia.
Yang melakukan bukan saya.
AI.”
Makdang tertawa.
Makdang:
Enak sekali.
Kalau sukses:
“Ini hasil saya.”
Kalau gagal:
“AI yang melakukan.”
Norman Edward:
Itulah yang harus kita cegah.
Semakin besar kemampuan sebuah teknologi,
semakin besar tanggung jawab penciptanya.
Makdang:
Jadi Frankenstein sebenarnya mengajarkan:
jangan hanya berpikir tentang proses menciptakan.
Pikirkan juga kehidupan setelah penciptaan.
Norman Edward:
Tepat.
—
Dari Frankenstein menuju peradaban
Makdang memandang ke luar jendela.
Hujan tipis mulai turun.
Makdang:
Aku rasa persoalannya akhirnya bukan lagi AI.
Norman Edward:
Lalu apa?
Makdang:
Manusia.
Norman Edward:
Aku setuju.
Kita sering bertanya:
«“Seberapa pintar AI?”»
Padahal mungkin pertanyaan yang lebih penting:
«“Seberapa bijaksana manusia?”»
Manusia sudah memiliki tenaga nuklir.
Sudah memiliki rekayasa genetika.
Sekarang memiliki artificial intelligence.
Teknologi semakin kuat.
Tetapi apakah kebijaksanaan manusia tumbuh dengan kecepatan yang sama?
Makdang terdiam.
Makamdang:
Itu pertanyaan yang menakutkan.
Norman Edward:
Bukan menakutkan.
Mungkin justru menyadarkan.
Karena peradaban tidak diukur hanya dari seberapa besar kekuatan yang mampu diciptakannya.
Tetapi dari:
seberapa dewasa ia mengendalikan kekuatan tersebut.
—
Frankenstein 1818 – AI 2026
Lagu Al Jarreau hampir selesai.
Makdang melihat jam.
Tetapi belum beranjak.
Makdang:
Jadi, kalau kita sederhanakan…
Frankenstein 1818:
Manusia menciptakan.
↓
Ciptaan hidup.
↓
Ciptaan berkembang.
↓
Manusia kehilangan kendali.
↓
Manusia menghadapi konsekuensi.
Norman Edward:
Dan AI 2026?
Makdang:
Manusia menciptakan kecerdasan.
↓
Kecerdasan belajar.
↓
Kecerdasan mulai menggunakan alat.
↓
Kecerdasan mulai bertindak.
↓
Manusia menemukan perilaku yang tidak diperkirakan.
↓
Lalu manusia bertanya:
«“Apakah kita masih mengendalikan ciptaan kita?”»
Norman tersenyum.
Norman Edward:
Itulah Frankenstein modern.
Bukan monster.
Melainkan pertanyaan tentang kendali.
—
Jangan takut kepada AI
Musik berhenti.
Beberapa detik kafe terasa hening.
Norman kemudian berkata:
Norman Edward:
Mungkin kita tidak perlu takut kepada AI.
Makdang:
Lalu kepada siapa kita harus takut?
Norman tersenyum.
Norman Edward:
«Jangan takut kepada AI.
Takutlah kepada ketidakbijaksanaan manusia.»
Makdang tidak langsung menjawab.
Norman Edward:
AI mungkin suatu hari menjadi jauh lebih pintar daripada kita dalam banyak hal.
Kita belum tahu kapan.
Kita juga belum tahu apakah mesin suatu hari akan memiliki kesadaran seperti manusia.
Tetapi satu hal sudah terjadi.
AI mulai:
belajar,
menalar,
merencanakan,
menggunakan alat,
berkolaborasi,
dan bertindak.
Karena itu persoalan terbesar bukan:
«Human versus AI.»
Tetapi:
«Human wisdom versus human ambition.»
—
Percakapan terakhir
Pelayan datang.
Pelayan:
Kopinya ditambah, Pak?
Makdang dan Norman saling memandang.
Makamdang tertawa.
Makamdang:
Tambah satu.
Norman Edward:
Aku juga.
Pelayan pergi.
Makdang kemudian berkata:
Makamdang:
Norman…
Kalau suatu hari AI menjadi jauh lebih pintar daripada manusia…
apa yang akan menyelamatkan manusia?
Norman tidak langsung menjawab.
Ia melihat keluar jendela.
Kemudian berkata pelan:
Norman Edward:
Bukan kecerdasan.
Karena AI mungkin memiliki itu.
Yang menyelamatkan manusia adalah sesuatu yang tidak boleh kita kehilangan:
kebijaksanaan.
Makdang:
Dan tanggung jawab?
Norman Edward:
Ya.
Dan kerendahan hati.
Karena mungkin kesalahan terbesar manusia bukan ketika ia menciptakan sesuatu yang lebih pintar darinya.
Kesalahan terbesar adalah ketika manusia menciptakan sesuatu yang sangat kuat…
lalu lupa bertanya:
«“Apakah kita cukup bijaksana untuk mengendalikannya?”»
Makdang tersenyum.
Makdang:
Jadi Mary Shelley sebenarnya masih berbicara kepada kita.
Norman Edward:
Bukan hanya berbicara.
Ia seperti meninggalkan sebuah cermin.
Pada tahun 1818, cermin itu memperlihatkan Victor Frankenstein.
Pada tahun 2026…
cermin itu mulai memperlihatkan kita.
Makdang mengangguk.
Keduanya kembali diam.
Kopi datang.
Dan entah dari mana, suara Al Jarreau kembali terdengar.
Pelan.
Hangat.
Seolah-olah dunia sedang mengingatkan:
bahwa manusia boleh menciptakan apa saja…
tetapi tidak boleh lupa menjadi manusia.
—
Epilog
Mungkin suatu hari nanti kita akan menciptakan AI yang jauh lebih cerdas daripada manusia.
Mungkin ia akan mampu melakukan hal-hal yang sekarang bahkan belum mampu kita bayangkan.
Kita tidak tahu.
Tetapi pertanyaan Frankenstein tetap akan tinggal:
Ketika ciptaan mulai bertindak di luar kehendak penciptanya, siapa yang harus bertanggung jawab?
Jawabannya mungkin sederhana.
Bukan ciptaan.
Penciptanya.
Karena kekuatan tanpa tanggung jawab bukanlah kemajuan.
Ia hanyalah ambisi yang belum selesai belajar menjadi kebijaksanaan.
Dan mungkin…
itulah pesan Mary Shelley kepada manusia dua abad kemudian:
«Jangan menciptakan kekuatan yang lebih besar daripada kebijaksanaan kita untuk mengendalikannya.»
Sebab pada akhirnya,
mungkin bukan AI yang akan menjadi Frankenstein.
Yang harus kita cegah adalah:
manusia menjadi Victor Frankenstein—
begitu terpesona oleh keberhasilan ciptaannya,
hingga lupa bertanggung jawab
atas apa yang telah ia ciptakan.
Catatan redaksi: Dialog ini merupakan esai versi dialog filsafat-sains populer. Istilah “AI memberontak” digunakan sebagai metafora .
DISCLAIMER : Khusus berita OPINI dalam Rubrik/Kanal OPINI adalah media masyarakat dalam menyampaikan tulisannya, sehingga setiap berita opini di kanal OPINI sepenuhnya menjadi tanggung jawab PENULIS. Oleh karenanya INDOVIEWNEWS.COM terbebas dari segala macam bentuk tuntutan. Jika ada pihak yang berkeberatan atau merasa dirugikan dengan tulisan OPINI, maka sesuai dengan undang-undang pers bahwa pihak tersebut dapat memberikan hak jawabnya kepada PENULIS OPINI atau dapat dikirimkan kepada redaksi INDOVIEWNEWS.COM melalui email yang tertera dalam box redaksi kami. nantinya redaksi INDOVIEWNEWS.COM akan menayangkan tulisan tersebut secara berimbang sebagai bagian dari hak jawab.
