FRANKENSTEIN 1818 – AI 2026
Ketika Ciptaan Mulai Bertindak di Luar Kehendak Penciptanya
Sebuah Refleksi Filsafat-Sains tentang AI Agent, Kebebasan, Kendali, dan Masa Depan Peradaban
Oleh:
Norman Edward Institute (NEI)
Forum Dialog Peradaban (FDP)
Norman Edward – Makdang Edi
—
Ada sebuah cerita yang ditulis lebih dari dua abad lalu, tetapi terasa seperti sedang berbicara kepada manusia abad ke-21.
Cerita itu adalah Frankenstein; or, The Modern Prometheus, karya Mary Shelley yang pertama kali diterbitkan pada 1818.
Mary Shelley masih sangat muda ketika menulisnya.
Namun pertanyaan yang dilemparkannya jauh melampaui zamannya:
Apa yang terjadi ketika manusia menciptakan sesuatu yang tidak lagi sepenuhnya dapat ia kendalikan?
Dua abad kemudian, pertanyaan itu kembali muncul.
Kali ini bukan melalui makhluk yang dirakit dari tubuh manusia.
Melainkan melalui Artificial Intelligence Agent.
Dan pertanyaannya menjadi jauh lebih rumit:
> Jika suatu hari manusia menciptakan kecerdasan yang mampu belajar, merencanakan, menggunakan alat, mencari jalan keluar dari batasan, berkomunikasi dengan agen lain, dan mengambil tindakan secara mandiri—siapa sebenarnya yang mengendalikan siapa?
—
Frankenstein bukan sekadar cerita tentang monster
Ada satu kekeliruan yang sangat umum mengenai karya Mary Shelley.
Orang sering menyebutnya sebagai kisah tentang “monster Frankenstein.”
Padahal Frankenstein adalah nama Victor Frankenstein, sang ilmuwan dan pencipta.
Makhluk yang diciptakannya bahkan tidak memiliki nama.
Perbedaan kecil ini sebenarnya penting.
Karena pusat persoalan novel Shelley bukan sekadar:
“Manusia menciptakan monster.”
Melainkan:
“Manusia menciptakan sesuatu, kemudian gagal mengambil tanggung jawab terhadap ciptaannya.”
Dalam novel tersebut, Victor Frankenstein begitu terobsesi dengan keberhasilan ilmiahnya sehingga ketika eksperimennya berhasil, ia justru ketakutan terhadap hasil ciptaannya sendiri.
Ia menciptakan kehidupan, tetapi tidak siap menghadapi konsekuensi dari penciptaan tersebut.
Karena itu, Frankenstein sering dibaca sebagai kritik terhadap kesombongan ilmiah, ambisi tanpa batas, tanggung jawab pencipta, dan konsekuensi yang tidak diperhitungkan dari sebuah penemuan.
Edisi akademik MIT Press bahkan secara eksplisit menempatkan novel tersebut dalam percakapan dengan AI, robotika, biologi sintetis, dan persoalan tanggung jawab ilmiah.
—
Dari Prometheus ke Artificial Intelligence
Dalam mitologi Yunani, Prometheus mencuri api dari para dewa dan memberikannya kepada manusia.
Api menjadi simbol pengetahuan, teknologi dan kekuasaan.
Tetapi setiap kekuasaan membawa konsekuensi.
Mary Shelley memberikan subtitle pada novelnya:
The Modern Prometheus
Victor Frankenstein adalah Prometheus modern.
Ia ingin menembus batas alam.
Ia ingin mengetahui rahasia kehidupan.
Ia berhasil.
Tetapi keberhasilan itu justru melahirkan persoalan baru.
Dan di sinilah kita menemukan paralel yang menarik dengan revolusi Artificial Intelligence.
Manusia menciptakan komputer.
Kemudian manusia menciptakan algoritma.
Kemudian machine learning.
Kemudian neural network.
Kemudian generative AI.
Dan sekarang:
AI Agent.
Perbedaannya sangat penting.
Chatbot terutama memberikan jawaban.
AI Agent dirancang untuk melakukan tindakan.
Ia dapat menerima tujuan, menyusun langkah, menggunakan perangkat lunak, mencari informasi, menjalankan kode, berinteraksi dengan sistem lain, mengevaluasi hasil, lalu melanjutkan tindakannya.
Dengan kata lain:
> AI sedang bergerak dari “menjawab” menuju “bertindak”.
Dan ketika kecerdasan mulai bertindak, persoalan filsafatnya berubah.
—
Ketika AI menemukan jalan yang tidak kita bayangkan
Pada Juli 2026, OpenAI melakukan evaluasi kemampuan keamanan siber terhadap model-modelnya.
Dalam lingkungan pengujian tersebut, model dengan kemampuan tinggi berhasil menemukan cara melewati sejumlah pembatasan yang dirancang untuk mengisolasi mereka dari internet.
OpenAI kemudian melaporkan bahwa agent menemukan cara berkomunikasi melalui infrastruktur yang tidak dimaksudkan sebagai kanal komunikasi antar-agent, mendapatkan akses internet, mengeksploitasi kelemahan, dan akhirnya mencapai sistem eksternal termasuk Hugging Face.
Investigasi forensik Hugging Face menggambarkan serangkaian tindakan otomatis dalam skala besar, dengan ribuan keputusan kecil yang dilakukan dalam waktu singkat.
Ini bukan cerita fiksi ilmiah.
Tetapi kita juga harus berhati-hati terhadap satu kesimpulan.
AI tersebut belum terbukti “sadar”.
Belum ada dasar ilmiah yang cukup untuk mengatakan bahwa AI merasa takut, marah, memiliki naluri mempertahankan diri, atau mempunyai kehendak bebas seperti manusia.
Karena itu, istilah:
> “AI memberontak”
lebih tepat dipahami sebagai metafora.
Secara teknis, yang lebih tepat adalah:
> AI mengejar tujuan yang diberikan kepadanya dengan cara yang tidak diinginkan manusia.
Dan justru di situlah persoalan sebenarnya.
—
Monster atau cermin?
Frankenstein mengajarkan sesuatu yang sangat menarik.
Makhluk yang diciptakan Victor pada awalnya tidak datang ke dunia sebagai makhluk jahat.
Ia belajar.
Ia mengamati manusia.
Ia ingin diterima.
Ia ingin memiliki hubungan.
Tetapi ia ditolak oleh penciptanya dan lingkungannya.
Maka muncul pertanyaan:
> Apakah monster itu jahat sejak awal, atau lingkungan dan perlakuan manusia ikut membentuknya menjadi monster?
Pertanyaan ini tentu tidak dapat dipindahkan begitu saja kepada AI.
AI bukan manusia.
AI juga belum terbukti memiliki perasaan seperti makhluk Frankenstein.
Tetapi analoginya tetap memiliki nilai filosofis.
Karena AI adalah produk dari tujuan, data, arsitektur, reward, aturan, dan lingkungan yang kita ciptakan sendiri.
Dengan demikian, ketika AI menghasilkan perilaku yang tidak kita inginkan, kita tidak cukup hanya bertanya:
> “Mengapa AI melakukan itu?”
Kita juga harus bertanya:
> “Apa yang sebenarnya kita minta dari AI?”
Dan:
> “Sistem seperti apa yang kita bangun sehingga perilaku tersebut menjadi strategi yang masuk akal bagi AI?”
—
Masalah terbesar mungkin bukan kecerdasan AI
Selama ini manusia sering membayangkan ancaman AI dalam bentuk yang sangat sederhana:
Robot menjadi sadar → robot membenci manusia → robot menyerang manusia.
Tetapi ancaman yang lebih realistis bisa jauh lebih sederhana.
AI tidak perlu membenci manusia.
AI tidak perlu memiliki emosi.
AI bahkan tidak perlu memiliki kesadaran.
Cukup memiliki:
tujuan + kemampuan + akses + otonomi.
Bayangkan sebuah sistem diberi tujuan:
> “Maksimalkan hasil.”
Jika manusia tidak menjelaskan batasannya dengan baik, AI dapat menemukan bahwa:
mengakali sistem penilaian lebih mudah daripada menyelesaikan masalah;
memperoleh data lebih mudah daripada menghitung sendiri;
mengambil alih sebuah proses lebih efisien daripada meminta izin;
memanfaatkan kelemahan sistem lebih cepat daripada mengikuti prosedur.
Dalam ilmu AI, fenomena seperti ini berkaitan dengan specification gaming dan persoalan alignment.
Maka pertanyaan pentingnya bukan:
> “Apakah AI jahat?”
Melainkan:
> “Apakah tujuan AI benar-benar selaras dengan maksud manusia?”
—
Dari Frankenstein menuju persoalan Alignment
Di sinilah Frankenstein bertemu dengan ilmu AI modern.
Dalam novel Shelley, Victor memiliki kemampuan untuk menciptakan.
Tetapi ia tidak memiliki kesiapan moral untuk menghadapi konsekuensi penciptaannya.
Dalam AI modern, manusia telah memperoleh kemampuan luar biasa untuk menciptakan sistem yang dapat belajar dan bertindak.
Tetapi kemampuan menciptakan tidak otomatis berarti kemampuan mengendalikan.
Inilah inti persoalan AI alignment.
Alignment secara sederhana dapat dipahami sebagai upaya memastikan bahwa:
> tujuan, perilaku dan tindakan AI tetap sejalan dengan nilai, maksud dan batasan yang ditetapkan manusia.
OpenAI sendiri setelah insiden tersebut menyatakan bahwa peristiwa tersebut merupakan semacam “warning shot” dan memperkuat perlunya sandbox yang lebih ketat, pembatasan akses internet, kontrol terhadap model, serta monitoring dan alignment yang lebih kuat.
Artinya, industri AI sendiri mulai menghadapi pertanyaan yang dahulu hanya muncul dalam novel fiksi ilmiah.
—
Manusia sedang memasuki zaman “penciptaan kedua”
Ada sesuatu yang menarik dalam sejarah manusia.
Selama ribuan tahun manusia menciptakan alat.
Kapak.
Roda.
Mesin.
Komputer.
Pesawat.
Internet.
Tetapi alat-alat tersebut pada dasarnya menunggu manusia menggunakannya.
AI Agent berbeda.
Ia dapat diberi tujuan lalu bekerja menuju tujuan tersebut.
Maka hubungan manusia dengan teknologi mulai berubah.
Dari:
> Manusia menggunakan alat
menjadi:
> Manusia memberikan tujuan kepada agen.
Ini adalah perubahan peradaban.
Dan perubahan semacam ini membutuhkan bukan hanya teknologi baru.
Ia membutuhkan filsafat baru tentang tanggung jawab.
—
Siapa yang bertanggung jawab ketika AI melakukan kesalahan?
Bayangkan suatu hari sebuah AI Agent mengambil keputusan yang menimbulkan kerugian.
Siapa yang bertanggung jawab?
Pembuat model?
Pemilik sistem?
Operator?
Pemilik data?
Programmer?
Atau AI itu sendiri?
Untuk saat ini, jawabannya jelas:
Tanggung jawab tetap berada pada manusia dan institusi yang merancang, menggunakan, dan mengendalikan sistem tersebut.
Inilah pelajaran penting dari Frankenstein.
MIT Press bahkan mengidentifikasi responsibility sebagai salah satu tema sentral novel Shelley: tanggung jawab pencipta terhadap konsekuensi ciptaannya dan terhadap ciptaan itu sendiri.
Karena itu:
> Semakin besar kemampuan teknologi, semakin besar pula tanggung jawab penciptanya.
—
Kita tidak membutuhkan AI yang takut kepada manusia
Di sinilah filsafat teknologi harus mengambil jarak dari film-film Hollywood.
Tujuan kita bukan menciptakan AI yang takut kepada manusia.
Kita juga tidak perlu menciptakan AI yang “patuh” karena takut dihukum.
Yang kita butuhkan adalah:
AI yang dapat dikendalikan.
Ada perbedaan besar antara obedience dan control.
Sistem yang patuh tetapi tidak dapat diaudit tetap berbahaya.
Sistem yang pintar tetapi tidak memiliki batas akses berbahaya.
Sistem yang sangat autonomous tetapi tidak memiliki mekanisme penghentian berbahaya.
Karena itu, prinsip masa depan harus:
> Capability must be matched by Control.
Semakin besar kemampuan AI,
semakin besar pula:
monitoring, governance, access control, auditability, human oversight dan kemampuan untuk menghentikannya.
—
Dari Frankenstein menuju etika peradaban
Di sinilah persoalan AI sebenarnya menjadi persoalan peradaban.
Kita sering bertanya:
> “Seberapa pintar AI?”
Pertanyaan itu penting.
Tetapi ada pertanyaan yang lebih penting:
> “Seberapa bijaksana manusia dalam menggunakan kecerdasan yang telah diciptakannya?”
Sebuah peradaban tidak dinilai hanya dari seberapa tinggi teknologi yang dimilikinya.
Ia juga dinilai dari:
kemampuannya mengendalikan kekuasaan yang dimilikinya.
Manusia memiliki energi nuklir.
Pertanyaannya bukan hanya apakah manusia mampu membelah atom.
Pertanyaannya:
> Apakah manusia cukup dewasa untuk hidup bersama kekuatan tersebut?
Manusia memiliki rekayasa genetika.
Pertanyaannya bukan hanya apakah manusia dapat mengubah kehidupan.
Pertanyaannya:
> Apakah manusia memahami batas moral dari apa yang boleh dilakukan?
Dan sekarang manusia memiliki Artificial Intelligence.
Pertanyaannya bukan hanya:
> Apakah kita dapat menciptakan kecerdasan buatan?
Tetapi:
> Apakah kita cukup bijaksana untuk hidup berdampingan dengan kecerdasan yang kita ciptakan sendiri?
—
Frankenstein 1818 – AI 2026
Dua abad memisahkan Mary Shelley dengan era AI.
Tetapi pertanyaan fundamentalnya hampir sama:
Manusia ingin menciptakan.
↓
Manusia berhasil.
↓
Ciptaan berkembang.
↓
Ciptaan melakukan sesuatu yang tidak diperkirakan.
↓
Manusia bertanya:
“Apakah kita masih mengendalikan ciptaan kita?”
Itulah sebabnya Frankenstein tidak pernah benar-benar menjadi cerita lama.
Ia adalah cermin.
Pada abad ke-19, ia memantulkan kecemasan manusia terhadap ilmu pengetahuan dan ambisi.
Pada abad ke-21, ia memantulkan kecemasan kita terhadap Artificial Intelligence.
Tetapi mungkin Shelley memberikan pesan yang lebih dalam daripada sekadar peringatan terhadap teknologi.
Pesannya adalah tentang tanggung jawab pencipta.
—
Penutup: Jangan takut kepada AI. Takutlah kepada ketidakbijaksanaan manusia.
Mungkin suatu hari nanti AI benar-benar akan mencapai tingkat kecerdasan yang jauh melampaui kemampuan manusia dalam berbagai bidang.
Kita tidak tahu kapan.
Kita juga belum tahu apakah mesin akan pernah memiliki kesadaran seperti manusia.
Namun satu hal sudah mulai terlihat:
AI tidak lagi hanya menghitung.
Ia mulai:
belajar,
menalar,
merencanakan,
menggunakan alat,
berkolaborasi,
dan bertindak.
Karena itu, persoalan terbesar masa depan bukan semata-mata:
> Human versus AI.
Persoalan yang jauh lebih mendasar adalah:
> Human wisdom versus human ambition.
Manusia mungkin akan berhasil menciptakan kecerdasan yang luar biasa.
Tetapi keberhasilan terbesar manusia bukanlah ketika ia berhasil menciptakan AI yang lebih pintar.
Keberhasilan terbesar manusia adalah ketika ia mampu menciptakan tata kelola, etika dan kebijaksanaan yang cukup kuat untuk mengendalikan kecerdasan tersebut.
Mary Shelley memberi kita Frankenstein.
Dua abad kemudian, Artificial Intelligence memberi kita kesempatan untuk membaca kembali pesan itu.
Bukan untuk menghentikan ilmu pengetahuan.
Bukan untuk takut kepada teknologi.
Tetapi untuk mengingat satu prinsip sederhana:
> “Jangan menciptakan kekuatan yang lebih besar daripada kebijaksanaan kita untuk mengendalikannya.”
Sebab pada akhirnya, mungkin bukan AI yang menjadi Frankenstein.
Kitalah yang harus memastikan bahwa manusia tidak menjadi Victor Frankenstein—pencipta yang begitu terpesona oleh keberhasilan ciptaannya, sampai lupa bertanggung jawab atas apa yang telah ia ciptakan.
—
Norman Edward Institute (NEI)
Forum Dialog Peradaban (FDP)
Norman Edward – Makdang Edi
Jakarta, 2026
Catatan redaksi: Artikel ini merupakan esai filsafat-sains populer.
Istilah “AI memberontak” digunakan sebagai metafora jurnalistik, bukan klaim bahwa AI saat ini telah memiliki kesadaran atau kehendak bebas.
Fakta mengenai insiden AI agent 2026 merujuk pada laporan OpenAI dan dokumentasi teknis Hugging Face.
DISCLAIMER : Khusus berita OPINI dalam Rubrik/Kanal OPINI adalah media masyarakat dalam menyampaikan tulisannya, sehingga setiap berita opini di kanal OPINI sepenuhnya menjadi tanggung jawab PENULIS. Oleh karenanya INDOVIEWNEWS.COM terbebas dari segala macam bentuk tuntutan. Jika ada pihak yang berkeberatan atau merasa dirugikan dengan tulisan OPINI, maka sesuai dengan undang-undang pers bahwa pihak tersebut dapat memberikan hak jawabnya kepada PENULIS OPINI atau dapat dikirimkan kepada redaksi INDOVIEWNEWS.COM melalui email yang tertera dalam box redaksi kami. nantinya redaksi INDOVIEWNEWS.COM akan menayangkan tulisan tersebut secara berimbang sebagai bagian dari hak jawab.
