FRANKENSTEIN 1818 – AI 2026 (IV)
KETIKA MANUSIA TAKUT KEHILANGAN KENDALI ATAS CIPTAANNYA
Dari Victor Frankenstein hingga Raja Charles III:
Siapa yang Mengendalikan Masa Depan Manusia?
Oleh:
Norman Edward
Norman Edward Institute (NEI)
—
Ada sesuatu yang menarik terjadi pada September 2026.
Di satu sisi, dunia sedang menyaksikan perlombaan kecerdasan buatan yang semakin cepat.
Amerika Serikat dan China berlomba mempertahankan dan membangun keunggulan teknologi.
Perusahaan-perusahaan AI mengembangkan model yang semakin kuat.
Militer melihat kecerdasan buatan sebagai bagian dari masa depan pertahanan.
Di sisi lain, semakin banyak ilmuwan, pengembang, pemimpin teknologi, dan tokoh masyarakat mulai bertanya:
Apakah manusia benar-benar memahami apa yang sedang kita ciptakan?
Dan kemudian, pada 17 September 2026, Raja Charles III menyampaikan peringatan yang menarik perhatian.
Dalam pertemuan dengan para pemimpin industri AI di Skotlandia, Raja Charles berbicara mengenai potensi besar AI untuk memperbaiki kehidupan manusia, tetapi juga mengenai sisi gelapnya.
Pertanyaan yang ia ajukan bukan hanya tentang teknologi.
Ia berbicara tentang humanity, moral responsibility, destiny, community, nature, bahkan soul.
Ia mempertanyakan apakah manusia memiliki mekanisme pengendalian yang cukup sebelum semuanya terlambat.
Dan di sinilah kisah Frankenstein karya Mary Shelley yang ditulis pada 1818 kembali terasa sangat dekat dengan kehidupan kita pada 2026.
—
I. FRANKENSTEIN BUKAN SEKADAR MONSTER
Selama hampir dua abad, Frankenstein sering dipahami sebagai cerita tentang monster.
Padahal inti tragedinya bukan monster itu sendiri.
Inti tragedinya adalah pencipta yang menciptakan kehidupan tanpa terlebih dahulu memikirkan sepenuhnya tanggung jawab terhadap ciptaannya.
Victor Frankenstein memiliki kemampuan untuk menciptakan sesuatu yang belum pernah ada sebelumnya.
Tetapi pertanyaan yang kemudian muncul adalah:
Setelah ciptaan itu hidup, siapa yang bertanggung jawab?
Inilah pertanyaan yang dahulu bersifat fiksi.
Hari ini pertanyaan tersebut berubah menjadi persoalan teknologi.
Manusia telah menciptakan sistem yang mampu belajar.
Sistem yang mampu mengenali pola.
Sistem yang mampu menghasilkan bahasa.
Sistem yang mampu menulis kode.
Sistem yang mampu menggunakan berbagai alat.
Sistem yang mulai mampu merencanakan dan menjalankan serangkaian tindakan.
Dan manusia mulai berbicara tentang:
AGI — Artificial General Intelligence.
Kemudian lebih jauh:
ASI — Artificial Superintelligence.
Di titik inilah Frankenstein memperoleh makna baru.
—
II. DARI “APA YANG BISA AI LAKUKAN?” MENJADI “APA YANG AKAN DILAKUKAN MANUSIA?”
Selama beberapa tahun terakhir, pertanyaan publik tentang AI sebagian besar bersifat teknis.
Seberapa pintar?
Seberapa cepat?
Seberapa murah?
Berapa banyak pekerjaan yang dapat digantikan?
Siapa perusahaan yang memiliki model terbaik?
Negara mana yang memimpin?
Tetapi semakin kemampuan AI meningkat, pertanyaannya mulai berubah.
Bukan lagi hanya:
Apa yang bisa dilakukan AI?
Melainkan:
Apa yang akan terjadi kepada manusia ketika AI mampu melakukan semakin banyak hal yang sebelumnya hanya dilakukan manusia?
Dan kemudian muncul pertanyaan yang lebih dalam:
Jika mesin dapat berpikir, apakah manusia masih menjadi satu-satunya pusat pengambilan keputusan?
Jika mesin dapat menghasilkan karya, apa arti kreativitas manusia?
Jika mesin dapat memberi nasihat moral, apakah manusia akan menyerahkan pertimbangan moral kepada mesin?
Jika mesin dapat mengambil keputusan, siapa yang bertanggung jawab ketika keputusan itu salah?
Dan akhirnya:
Jika manusia menciptakan kecerdasan yang jauh lebih kuat daripada dirinya sendiri, siapa yang sebenarnya sedang menciptakan siapa?
—
III. RAJA CHARLES III DAN PERTANYAAN TENTANG “JIWA”
Peringatan Raja Charles III menarik karena ia tidak membicarakan AI hanya sebagai persoalan industri.
Ia berbicara tentang sesuatu yang jauh lebih mendasar:
manusia.
Dalam pidatonya pada AI Summit di Skotlandia, ia menekankan bahwa manusia tidak boleh kehilangan kendali atas takdirnya sendiri maupun kehilangan “souls”.
Bahasa semacam ini penting.
Sebab selama ini diskusi AI sering menggunakan bahasa:
data, compute, model, benchmark, chips, regulation, productivity, security.
Tetapi Raja Charles memasukkan kata-kata lain:
humanity.
moral responsibility.
destiny.
soul.
community.
nature.
Artinya, persoalan AI mulai keluar dari laboratorium.
Ia memasuki wilayah:
filsafat.
kebudayaan.
etika.
agama.
politik.
Dan akhirnya:
peradaban.
—
IV. MANUSIA MUNGKIN TIDAK KEHILANGAN DUNIA — TETAPI KEHILANGAN KENDALI ATASNYA
Inilah salah satu kemungkinan yang paling menarik untuk direnungkan.
Ketika kita membicarakan bahaya AI, imajinasi manusia sering langsung menuju skenario ekstrem:
Robot mengambil alih.
Mesin menghancurkan manusia.
AI menjadi musuh manusia.
Tetapi mungkin ada bentuk kehilangan kendali yang jauh lebih halus.
Manusia tetap hidup.
Manusia tetap bekerja.
Manusia tetap berpolitik.
Manusia tetap bersekolah.
Manusia tetap menggunakan teknologi.
Tetapi perlahan-lahan manusia mulai menyerahkan:
ingatan kepada mesin,
pencarian pengetahuan kepada mesin,
penilaian kepada mesin,
keputusan kepada mesin,
kreativitas kepada mesin,
bahkan sebagian proses berpikir kepada mesin.
Pada suatu titik, manusia mungkin tidak sadar bahwa yang berubah bukan hanya teknologinya.
Yang berubah adalah:
cara manusia menjadi manusia.
Dan inilah wilayah yang belum cukup banyak dibicarakan.
—
V. FRANKENSTEIN 1818 DAN AI 2026
Victor Frankenstein menciptakan makhluk yang kemudian tidak sepenuhnya dapat ia kendalikan.
Tetapi ada perbedaan penting.
Makhluk Frankenstein adalah satu ciptaan.
AI adalah sebuah ekosistem.
Ia dikembangkan oleh ribuan perusahaan, jutaan pengembang, negara-negara, militer, universitas, dan masyarakat.
Tidak ada satu Victor Frankenstein.
Ada banyak Victor Frankenstein.
Dan masing-masing memiliki tujuan berbeda.
Ada yang mengejar ilmu pengetahuan.
Ada yang mengejar keuntungan.
Ada yang mengejar kekuasaan.
Ada yang mengejar pertahanan.
Ada yang ingin menyelamatkan manusia.
Ada yang ingin mengubah dunia.
Masalahnya:
Tidak ada satu orang pun yang memegang seluruh kendali.
Inilah yang membuat Frankenstein 2026 berbeda dari Frankenstein 1818.
—
VI. PARADOKS PALING BESAR: TIDAK ADA YANG INGIN KALAH
Pada September 2026, muncul perdebatan yang sangat penting.
Sebagian pemimpin teknologi dan ilmuwan memperingatkan bahwa pengembangan AI frontier perlu diperlambat agar keselamatan dapat mengejar kemampuan teknologi.
Namun dari perspektif keamanan nasional, perlambatan juga mempunyai risiko.
Jika satu negara berhenti sementara negara lain terus maju, maka negara yang berhenti dapat kehilangan keunggulan strategis.
Maka muncul logika:
“Saya sebenarnya ingin AI dikembangkan dengan aman. Tetapi saya tidak bisa berhenti sendirian.”
Inilah paradoks baru manusia.
Tidak ada yang ingin kehilangan kendali.
Tetapi tidak ada yang ingin menjadi pihak pertama yang menginjak rem.
Akibatnya:
semua orang terus berlari.
Dan pertanyaannya menjadi:
Jika semua orang takut berhenti, siapa yang menentukan kapan perlombaan itu harus dihentikan?
—
VII. INILAH YANG MEMBUAT AI BERBEDA DARI TEKNOLOGI SEBELUMNYA
Manusia sebelumnya menciptakan alat yang memperbesar kemampuan fisiknya.
Mesin memperbesar tenaga.
Mobil memperbesar kemampuan bergerak.
Pesawat memperbesar kemampuan terbang.
Komputer memperbesar kemampuan menghitung.
Internet memperbesar kemampuan berkomunikasi.
Tetapi AI memasuki wilayah yang berbeda.
AI memasuki wilayah:
kognisi.
Ia membantu manusia berpikir.
Menganalisis.
Menulis.
Membandingkan.
Merancang.
Memprediksi.
Menyimpulkan.
Dan mungkin suatu hari:
mengambil keputusan secara semakin mandiri.
Karena itu pertanyaan tentang AI bukan hanya:
“Apa yang dapat dilakukan mesin?”
Tetapi:
“Bagian mana dari kemampuan manusia yang masih ingin kita pertahankan sebagai milik manusia?”
—
VIII. INDONESIA DAN KEKOSONGAN PERDEBATAN KEBUDAYAAN
Indonesia tidak harus menjadi negara paling maju dalam AI untuk ikut menentukan masa depan AI.
Memang dalam teknologi frontier, Indonesia masih menghadapi ketertinggalan dibandingkan pusat-pusat pengembangan AI dunia.
Tetapi ada ruang lain yang tidak boleh kita tinggalkan:
ruang pemikiran.
Kita mempunyai tradisi filsafat.
Kita mempunyai agama.
Kita mempunyai Pancasila.
Kita mempunyai kebudayaan Nusantara.
Kita mempunyai konsep gotong royong.
Kita mempunyai pengalaman hidup dalam masyarakat yang menempatkan hubungan manusia dengan manusia, manusia dengan alam, dan manusia dengan Yang Transenden sebagai sesuatu yang penting.
Semua itu dapat menjadi sumber pertanyaan:
Untuk apa kecerdasan diciptakan?
Apa arti kecerdasan tanpa kebijaksanaan?
Apa arti pengetahuan tanpa tanggung jawab?
Apa arti kemampuan tanpa moralitas?
Apa arti kecerdasan buatan jika manusia sendiri kehilangan kebijaksanaan?
Pertanyaan-pertanyaan itu tidak membutuhkan Indonesia menjadi pemilik chip tercanggih di dunia.
Ia membutuhkan manusia Indonesia yang berani berpikir.
—
IX. SCIENCE MENJELASKAN “BAGAIMANA”, FILSAFAT BERTANYA “UNTUK APA”
Mungkin inilah pembagian yang perlu kita bangun.
Science bertanya:
«Bagaimana AI bekerja?»
Engineering bertanya:
«Bagaimana membuat AI lebih kuat?»
Industry bertanya:
«Bagaimana AI menghasilkan nilai ekonomi?»
Military bertanya:
«Bagaimana AI meningkatkan keamanan?»
Government bertanya:
«Bagaimana AI diatur?»
Tetapi filsafat bertanya:
«Untuk apa semua itu?»
Dan kebudayaan bertanya:
«Manusia seperti apa yang akan lahir dari semua itu?»
Sedangkan peradaban bertanya:
«Apakah arah perkembangan teknologi masih sejalan dengan masa depan manusia?»
Tidak ada satu disiplin yang dapat menjawab semuanya.
Karena itu AI membutuhkan:
dialog lintas ilmu.
Science.
Technology.
Philosophy.
Religion.
Culture.
Economics.
Politics.
Ethics.
Humanities.
Dan akhirnya:
civilization.
—
X. JANGAN SAMPAI MANUSIA MENJADI “CIPTAAN” DARI CIPTAANNYA SENDIRI
Inilah ironi terbesar Frankenstein.
Manusia menciptakan makhluk.
Tetapi kemudian makhluk tersebut mengubah kehidupan penciptanya.
Dalam AI, proses itu sudah mulai terjadi.
Manusia menciptakan algoritma.
Algoritma kemudian memengaruhi apa yang manusia lihat.
Apa yang manusia baca.
Apa yang manusia beli.
Apa yang manusia percaya.
Apa yang manusia sukai.
Bahkan bagaimana manusia berkomunikasi.
Jika perkembangan ini terus berlangsung, pertanyaannya bukan lagi apakah AI akan menyerupai manusia.
Pertanyaan yang lebih penting adalah:
Seberapa jauh manusia akan menyesuaikan dirinya dengan mesin yang ia ciptakan?
Dan di situlah Frankenstein 1818 menjadi sangat relevan.
—
XI. SIAPA YANG MEMEGANG KEMUDI?
Mungkin kita tidak perlu takut kepada AI.
Tetapi kita harus takut pada satu hal:
manusia yang menciptakan AI tanpa memikirkan konsekuensi peradabannya.
AI bukan iblis.
AI juga bukan penyelamat.
AI adalah teknologi yang kemampuannya semakin besar.
Dan teknologi selalu membawa nilai dari manusia yang menciptakannya.
Karena itu persoalan sebenarnya bukan:
AI atau manusia?
Persoalannya:
Manusia seperti apa yang akan mengendalikan AI?
Dan lebih jauh:
Nilai-nilai apa yang akan mengendalikan manusia ketika ia memiliki AI?
—
XII. KITA TIDAK HARUS MENGHENTIKAN MASA DEPAN
Tulisan ini bukan seruan untuk menghentikan AI.
Juga bukan seruan untuk mempercepat AI tanpa batas.
Kita justru membutuhkan sesuatu yang lebih sulit:
kebijaksanaan untuk mengetahui kapan harus bergerak cepat dan kapan harus berhenti sejenak.
Manusia tidak boleh takut terhadap masa depan.
Tetapi manusia juga tidak boleh begitu mabuk oleh kemampuan teknologinya sehingga lupa bertanya:
ke mana kita pergi?
Raja Charles III mengingatkan tentang kemanusiaan, komunitas, alam, moralitas, takdir dan jiwa.
Para ilmuwan memperingatkan tentang keselamatan.
Para pengembang mengejar kemampuan baru.
Militer mengejar keunggulan strategis.
Negara mengejar kedaulatan teknologi.
Perusahaan mengejar inovasi.
Semuanya memiliki alasan.
Tetapi di atas semua alasan tersebut ada satu pertanyaan yang harus tetap berdiri:
Apakah manusia masih memegang kemudi?
—
XIII. DARI FRANKENSTEIN MENUJU PERADABAN AI
Mary Shelley menulis Frankenstein pada 1818.
Ia tidak mengenal komputer.
Ia tidak mengenal algoritma.
Ia tidak mengenal neural network.
Ia tidak mengenal artificial intelligence.
Tetapi ia memahami sesuatu yang sangat manusiawi:
kekuatan menciptakan sesuatu selalu membawa tanggung jawab terhadap ciptaan tersebut.
Dua abad kemudian, manusia telah memperoleh kekuatan menciptakan sesuatu yang jauh lebih kompleks.
Dan karena itu tanggung jawabnya juga jauh lebih besar.
Frankenstein 1818 bertanya:
«Apa yang terjadi ketika manusia menciptakan kehidupan?»
AI 2026 bertanya:
«Apa yang terjadi ketika manusia menciptakan kecerdasan?»
Dan peradaban masa depan harus menjawab:
«Apa yang terjadi ketika manusia menciptakan kecerdasan yang suatu hari mungkin melampaui kemampuan penciptanya sendiri?»
—
XIV. PERTANYAAN UNTUK INDONESIA
Mungkin Indonesia tidak akan menjadi negara pertama yang menciptakan ASI.
Mungkin Indonesia tidak akan menjadi negara pertama yang membangun model AI paling kuat.
Tetapi Indonesia masih dapat menjadi bagian dari percakapan dunia mengenai:
manusia macam apa yang ingin kita pertahankan di era AI.
Kita dapat bertanya:
Apakah manusia masih membutuhkan kebijaksanaan ketika mesin memiliki pengetahuan yang sangat luas?
Apakah pendidikan masih bertujuan menghafal ketika mesin dapat menjawab?
Apakah seni masih memiliki makna ketika mesin dapat menghasilkan karya?
Apakah agama semakin penting ketika manusia menghadapi kecerdasan non-manusia?
Apakah kebudayaan akan menjadi semakin kaya atau justru semakin seragam?
Apakah manusia akan semakin bebas atau semakin bergantung?
Dan akhirnya:
Apakah kecerdasan yang semakin besar otomatis menghasilkan peradaban yang semakin bijaksana?
Jawabannya belum tentu.
Sebab sejarah manusia menunjukkan:
pengetahuan dapat berkembang lebih cepat daripada kebijaksanaan.
Dan mungkin itulah tantangan terbesar AI.
—
XV. EPILOG
Frankenstein tidak mati pada tahun 1818.
Ia hidup kembali setiap kali manusia menciptakan sesuatu yang kekuatannya lebih besar daripada kebijaksanaan untuk mengendalikannya.
Hari ini namanya bukan monster.
Namanya:
Artificial Intelligence.
Ia tidak datang dari laboratorium seorang ilmuwan sendirian.
Ia lahir dari ribuan laboratorium, perusahaan, universitas, negara, investor, insinyur dan jutaan manusia.
Karena itu pertanggungjawabannya juga tidak boleh dibebankan kepada satu orang.
Ia adalah tanggung jawab peradaban.
Mungkin pertanyaan terbesar abad ke-21 bukan:
«“Bisakah kita menciptakan kecerdasan buatan?”»
Kita sudah melakukannya.
Bukan pula:
«“Bisakah AI menjadi lebih cerdas?”»
Kemungkinan besar jawabannya: ya.
Pertanyaan yang jauh lebih penting adalah:
“Ketika kecerdasan buatan semakin besar, apakah kebijaksanaan manusia juga tumbuh sebesar itu?”
Sebab pada akhirnya, masa depan manusia tidak hanya ditentukan oleh seberapa cerdas mesin yang kita ciptakan.
Tetapi oleh:
seberapa bijaksana manusia yang menciptakannya.
Dan mungkin, di situlah Frankenstein 1818 bertemu dengan AI 2026.
Bukan pada monster.
Bukan pada mesin.
Tetapi pada manusia.
Manusia yang mencipta.
Manusia yang bertanggung jawab.
Dan manusia yang suatu hari harus menjawab kepada generasi berikutnya:
«Mengapa kita menciptakan kecerdasan yang begitu besar, jika kita belum selesai belajar menjadi manusia?.
DISCLAIMER : Khusus berita OPINI dalam Rubrik/Kanal OPINI adalah media masyarakat dalam menyampaikan tulisannya, sehingga setiap berita opini di kanal OPINI sepenuhnya menjadi tanggung jawab PENULIS. Oleh karenanya INDOVIEWNEWS.COM terbebas dari segala macam bentuk tuntutan. Jika ada pihak yang berkeberatan atau merasa dirugikan dengan tulisan OPINI, maka sesuai dengan undang-undang pers bahwa pihak tersebut dapat memberikan hak jawabnya kepada PENULIS OPINI atau dapat dikirimkan kepada redaksi INDOVIEWNEWS.COM melalui email yang tertera dalam box redaksi kami. nantinya redaksi INDOVIEWNEWS.COM akan menayangkan tulisan tersebut secara berimbang sebagai bagian dari hak jawab.
