FRANKENSTEIN 1818 – AI 2026 (II)
KETIKA MANUSIA TERUS MENDORONG CIPTAANNYA MENUJU SUPERINTELLIGENCE
Sebuah Refleksi tentang AGI, ASI, Batas Manusia, dan Pertanggungjawaban Peradaban
Oleh:
Norman Edward Institute (NEI)
Forum Dialog Peradaban (FDP)
Norman Edward – Makdang Edi
—
Artikel ini adalah kelanjutan dari:
FRANKENSTEIN 1818 – AI 2026
Ketika Ciptaan Mulai Bertindak di Luar Kehendak Penciptanya
Jika artikel pertama mengajak kita membaca kembali Frankenstein karya Mary Shelley sebagai cermin bagi perkembangan Artificial Intelligence, maka artikel kedua ini membawa pertanyaan tersebut satu langkah lebih jauh.
Bukan lagi:
«Apa yang terjadi ketika AI mulai bertindak di luar kehendak manusia?»
Tetapi:
«Mengapa manusia tetap mendorong perkembangan AI menuju tingkat kecerdasan yang mungkin suatu hari melampaui kemampuan manusia sendiri?»
Pertanyaan ini bukan pertanyaan tentang teknologi semata.
Ini adalah pertanyaan tentang batas peradaban manusia.
—
Dari AGI menuju ASI
Perkembangan Artificial Intelligence dalam beberapa tahun terakhir bergerak sangat cepat.
AI tidak lagi hanya digunakan untuk menjawab pertanyaan.
Ia mulai mampu:
belajar,
menalar,
menulis kode,
menggunakan berbagai alat,
menyelesaikan pekerjaan panjang,
melakukan penelitian,
merencanakan tindakan,
dan bekerja sebagai agen yang relatif otonom.
Inilah salah satu alasan mengapa pembicaraan mengenai AGI — Artificial General Intelligence menjadi semakin serius.
AGI secara sederhana menggambarkan sistem AI yang memiliki kemampuan umum yang sangat luas, bukan hanya unggul dalam satu pekerjaan tertentu.
Tetapi setelah AGI, muncul pertanyaan yang lebih besar:
«Apa yang terjadi jika kecerdasan buatan bukan hanya menyamai manusia dalam berbagai bidang, tetapi melampaui manusia dalam hampir seluruh bidang intelektual?»
Di sinilah istilah ASI — Artificial Superintelligence masuk ke dalam diskusi.
ASI bukan sekadar AI yang lebih cepat.
Bukan sekadar AI dengan memori lebih besar.
Bukan pula sekadar chatbot yang lebih pintar.
Gagasan ASI menunjuk kepada kemungkinan munculnya sistem kecerdasan yang kemampuan intelektualnya jauh melampaui manusia dalam sebagian besar bidang penting.
Dan pada titik itu, hubungan manusia dengan AI dapat berubah secara fundamental.
—
OpenAI dan pertanyaan tentang masa depan
OpenAI secara terbuka menyatakan bahwa risetnya diarahkan pada perjalanan menuju AGI dan bahwa mereka sedang mempersiapkan dunia untuk kemampuan AI yang semakin tinggi.
Dalam perkembangan terbaru, OpenAI juga menyatakan bahwa mereka sedang membangun sistem AI yang dapat membantu mempercepat riset AI itu sendiri.
Dengan kata lain:
«AI mulai digunakan untuk membantu manusia menciptakan AI generasi berikutnya.»
Ini adalah perkembangan yang sangat penting.
Sebab selama ini manusia menciptakan teknologi dengan menggunakan kecerdasan manusia.
Sekarang muncul kemungkinan baru:
«manusia menciptakan AI yang kemudian membantu manusia menciptakan AI yang lebih maju.»
Siklusnya mulai berubah.
Manusia → AI.
Kemudian:
Manusia + AI → AI berikutnya.
Kemudian mungkin:
AI + manusia → AI yang lebih mampu lagi.
Inilah salah satu alasan mengapa istilah recursive self-improvement menjadi sangat penting dalam diskusi keselamatan AI.
OpenAI sendiri menyatakan bahwa fully autonomous recursive self-improvement belum terjadi saat ini dan tidak seharusnya dikejar sebelum dapat dilakukan dengan aman.
Tetapi mereka juga melihat AI yang membantu mempercepat penelitian AI sebagai salah satu arah penting perkembangan teknologi.
Dan di sinilah pertanyaan Frankenstein kembali muncul.
—
Frankenstein tidak berhenti pada penciptaan
Victor Frankenstein menciptakan sesuatu yang sebelumnya belum pernah ada.
Tetapi kesalahan terbesar Victor bukan semata-mata karena ia menciptakan.
Kesalahan besarnya adalah:
«Ia tidak benar-benar memikirkan apa yang terjadi setelah penciptaan itu berhasil.»
Ia terlalu fokus pada:
“Apakah aku mampu menciptakannya?”
Ia tidak cukup memikirkan:
“Apa yang akan terjadi setelah aku berhasil?”
Dua abad kemudian, manusia menghadapi pertanyaan yang hampir sama.
Kita bertanya:
«Apakah manusia mampu menciptakan AGI?»
Tetapi mungkin pertanyaan yang lebih penting adalah:
«Apa yang terjadi setelah AGI berhasil diciptakan?»
Dan pertanyaan berikutnya:
«Apa yang terjadi jika AGI dapat membantu manusia menciptakan sistem yang lebih pintar daripada AGI itu sendiri?»
—
Dari alat menjadi rekan pencipta
Inilah perubahan yang mungkin paling penting.
Selama ribuan tahun manusia menggunakan alat.
Kapak tidak membuat kapak baru.
Mesin tidak merancang generasi mesin berikutnya secara mandiri.
Komputer tidak menentukan sendiri bagaimana komputer generasi berikutnya harus dibuat.
Tetapi AI memiliki karakter berbeda.
Karena objek yang sedang dikembangkan adalah:
«kecerdasan itu sendiri.»
AI dapat membantu manusia dalam penelitian AI.
Ia dapat membantu menulis kode.
Menganalisis eksperimen.
Mencari pola.
Menguji hipotesis.
Mendesain metode.
Mengevaluasi model.
Dan semakin canggih AI, semakin besar pula potensinya untuk membantu proses penciptaan AI berikutnya.
Maka kita menghadapi kemungkinan yang belum pernah dihadapi peradaban manusia sebelumnya:
«Manusia sedang menciptakan teknologi yang dapat ikut membantu manusia menciptakan teknologi kecerdasan berikutnya.»
—
Tetapi manusia mempunyai keterbatasan
Di sinilah kegelisahan “Kita ( manusia )” menjadi penting.
Manusia mempunyai umur.
Manusia mempunyai keterbatasan biologis.
Manusia mempunyai keterbatasan pengetahuan.
Manusia mempunyai keterbatasan kemampuan memahami sistem yang sangat kompleks.
Bahkan manusia sering tidak mampu memahami sepenuhnya keputusan yang dibuat oleh sistem AI modern.
Lalu kita bayangkan sebuah sistem yang kecerdasannya jauh melampaui kemampuan manusia.
Pertanyaannya:
«Apakah penciptanya masih mampu memahami ciptaannya?»
Dan lebih jauh:
«Apakah manusia masih mampu mengendalikan sesuatu yang secara intelektual jauh lebih unggul daripada manusia?»
Di sinilah persoalannya menjadi jauh lebih serius daripada sekadar:
AI versus manusia.
Persoalannya adalah:
«Human control versus machine capability.»
—
Bagaimana kalau kemampuan tumbuh lebih cepat daripada kendali?
Bayangkan sebuah teknologi mempunyai dua kurva.
Kurva pertama:
KEMAMPUAN
Semakin tinggi.
Semakin cepat.
Semakin otonom.
Semakin mampu menggunakan alat.
Semakin mampu melakukan penelitian.
Semakin mampu memperbaiki dirinya.
Sementara kurva kedua adalah:
KEMAMPUAN MANUSIA MENGENDALIKAN
Regulasi.
Pemahaman.
Audit.
Alignment.
Monitoring.
Keamanan.
Etika.
Institusi.
Jika kurva kemampuan teknologi bergerak jauh lebih cepat daripada kurva kendali manusia, maka akan muncul sebuah control gap.
Dan mungkin inilah salah satu risiko terbesar dalam perkembangan AI.
Bukan karena AI membenci manusia.
Tetapi karena:
«manusia mungkin tidak lagi memahami seluruh konsekuensi dari tindakan sistem yang telah diciptakannya.»
OpenAI sendiri kini secara terbuka menekankan pentingnya monitoring, alignment, human control, serta kemungkinan memperlambat atau menghentikan pengembangan apabila risiko keselamatan tidak dapat dikelola secara memadai.
—
Bagaimana jika penciptanya sudah mati?
Di sinilah muncul pertanyaan yang menurut kami sangat jarang dibicarakan secara serius.
Bayangkan:
Seorang ilmuwan menciptakan sistem AI pada tahun 2026.
Ia meninggal pada tahun 2070.
Tetapi sistem yang ia ciptakan masih beroperasi.
Pada tahun 2100 terjadi suatu keputusan besar yang merupakan konsekuensi dari arsitektur, tujuan, data, atau prinsip yang dahulu ditanamkan oleh generasi penciptanya.
Kemudian muncul pertanyaan:
«Siapa yang bertanggung jawab?»
Penciptanya?
Sudah meninggal.
Perusahaannya?
Mungkin sudah tidak ada.
Programmernya?
Mungkin sudah meninggal.
Pemilik sistem?
Sudah berganti berkali-kali.
Operatornya?
Mungkin tidak memahami sistem secara keseluruhan.
Dan bagaimana jika pada tahun 2120 sistem tersebut telah berevolusi melalui puluhan generasi pembaruan?
Apakah kita masih dapat menunjuk kepada manusia yang pertama kali menciptakannya?
Di sinilah persoalan AI mulai menembus batas hukum konvensional.
—
The Responsibility Gap
Kita dapat menyebut persoalan tersebut:
THE RESPONSIBILITY GAP
Kesenjangan pertanggungjawaban.
Manusia menciptakan.
AI berkembang.
Generasi manusia berganti.
AI tetap berjalan.
Kemudian terjadi akibat yang tidak pernah dibayangkan oleh pencipta pertama.
Siapa yang bertanggung jawab?
Ini bukan persoalan kecil.
Karena semakin panjang umur teknologi dibanding umur penciptanya, semakin sulit hubungan antara:
pencipta → keputusan → akibat → pertanggungjawaban
untuk dipertahankan.
Dan apabila suatu hari AI mampu membantu menciptakan generasi AI berikutnya, maka rantai tersebut menjadi semakin kompleks.
—
Pertanggungjawaban kepada siapa?
Mungkin selama ini kita berpikir:
«Pencipta bertanggung jawab kepada generasinya.»
Tetapi AI mengubah persoalan tersebut.
Seorang pencipta AI mungkin sebenarnya harus bertanggung jawab kepada:
generasi yang belum lahir.
Bayangkan manusia tahun 2026 membuat keputusan teknologi yang menentukan struktur kecerdasan buatan pada tahun 2100.
Orang yang menerima akibatnya pada tahun 2100 bahkan belum lahir ketika keputusan tersebut dibuat.
Maka etika AI tidak boleh hanya berbicara tentang:
«hak manusia hari ini.»
Ia juga harus berbicara tentang:
«hak manusia di masa depan.»
Ini membawa kita kepada sebuah konsep yang mungkin perlu dikembangkan oleh filsafat peradaban:
Intergenerational AI Responsibility
Tanggung jawab antargenerasi terhadap kecerdasan buatan.
—
Jangan sampai manusia menciptakan sesuatu yang lebih panjang umurnya daripada kebijaksanaannya
Ini mungkin inti persoalannya.
Manusia sering mengukur keberhasilan teknologi dengan pertanyaan:
«“Seberapa jauh kita mampu membuatnya?”»
Tetapi peradaban seharusnya bertanya:
«“Seberapa jauh kita boleh membuatnya?”»
Kemampuan teknis dan kebijaksanaan bukanlah hal yang sama.
Manusia dapat membuat bom atom.
Tetapi kemampuan membuat bom atom tidak otomatis membuat manusia bijaksana dalam menggunakannya.
Manusia dapat mengubah genom.
Tetapi kemampuan mengubah genom tidak otomatis memberikan jawaban moral tentang apa yang seharusnya dilakukan.
Manusia dapat menciptakan AI.
Tetapi kemampuan menciptakan AI tidak otomatis berarti manusia siap menghadapi konsekuensi dari AI tersebut.
—
AGI mungkin bukan akhir
Ada kemungkinan manusia menganggap AGI sebagai garis finish.
Padahal bisa jadi AGI hanyalah:
«pintu.»
Di balik pintu itu mungkin terdapat era baru:
AI yang membantu penelitian.
AI yang membantu menciptakan AI.
AI yang semakin mampu melakukan pekerjaan intelektual panjang.
AI yang semakin otonom.
Dan akhirnya, jika suatu hari kemampuan tersebut melewati kemampuan manusia secara luas:
«Superintelligence.»
OpenAI sendiri dalam kebijakan dan komunikasi terbarunya telah menggunakan istilah superintelligence dan menyatakan bahwa perkembangan menuju tahap tersebut membutuhkan kehati-hatian ekstrem, alignment, monitoring, standar keselamatan, serta kemampuan untuk memperlambat perkembangan jika diperlukan.
Jadi persoalannya bukan sekadar apakah superintelligence mungkin terjadi.
Pertanyaan yang lebih penting adalah:
«Apakah manusia akan mampu memastikan bahwa perjalanan menuju sana tetap berada dalam kendali manusia?»
—
Maka apakah manusia harus berhenti?
Belum tentu.
Dan artikel ini bukan seruan untuk menghentikan ilmu pengetahuan.
Kita tidak perlu menjadi anti-AI.
Kita juga tidak perlu takut kepada setiap perkembangan teknologi.
Tetapi ada perbedaan antara:
mengembangkan teknologi
dan
mengembangkan teknologi tanpa mengetahui batas aman perkembangannya.
Karena itu mungkin diperlukan prinsip baru:
«Tidak semua yang mampu kita ciptakan harus segera kita ciptakan.»
Dan:
«Tidak semua yang dapat kita lakukan secara teknis otomatis menjadi sesuatu yang bijaksana untuk dilakukan.»
—
Frankenstein 1818 bertemu AI 2026
Mary Shelley mengajukan pertanyaan pada tahun 1818:
Apa yang terjadi ketika manusia menciptakan sesuatu tetapi tidak siap menghadapi konsekuensinya?
Pada tahun 2026, pertanyaan itu mendapatkan bentuk baru.
Bukan lagi:
manusia → makhluk biologis.
Tetapi:
manusia → kecerdasan buatan.
Dan sekarang muncul pertanyaan ketiga:
«Bagaimana jika kecerdasan buatan tersebut suatu hari membantu menciptakan kecerdasan yang lebih tinggi daripada dirinya sendiri?»
Inilah titik di mana Frankenstein menjadi jauh lebih relevan.
Victor Frankenstein takut kepada makhluk yang ia ciptakan.
Tetapi manusia abad ke-21 mungkin menghadapi persoalan yang berbeda.
Kita mungkin tidak takut kepada AI.
Kita justru mungkin terlalu percaya diri terhadap kemampuan kita mengendalikannya.
—
Jangan bertanya hanya: “Bisakah kita membuat ASI?”
Pertanyaan itu terlalu kecil.
Kita harus bertanya:
1.
Apakah kita memahami risiko ASI?
2.
Apakah kita mempunyai mekanisme pengendalian yang memadai?
3.
Apakah kita mampu menghentikannya jika terjadi penyimpangan?
4.
Apakah kita memahami perilakunya ketika kemampuan intelektualnya melampaui kemampuan manusia?
5.
Siapa yang bertanggung jawab jika penciptanya sudah tidak ada?
6.
Siapa yang mewakili kepentingan manusia yang belum lahir?
Dan pertanyaan yang paling mendasar:
«Apakah kebijaksanaan manusia berkembang secepat kecerdasan yang sedang kita ciptakan?»
—
Capability must be matched by Wisdom
Kita pernah mengusulkan satu prinsip dalam artikel pertama:
«Capability must be matched by Control.»
Kini kita perlu menambahkan satu lapisan lagi:
«Capability must be matched by Wisdom.»
Kemampuan harus diimbangi kendali.
Kendali harus diimbangi tata kelola.
Tata kelola harus diimbangi etika.
Dan semuanya harus dibimbing oleh kebijaksanaan.
Sebab teknologi yang sangat pintar tetapi digunakan oleh manusia yang tidak bijaksana tetap dapat menjadi bencana.
—
Dari Frankenstein menuju peradaban AI
Mungkin inilah sebenarnya pesan terbesar Frankenstein.
Mary Shelley tidak sedang mengatakan:
«“Jangan menciptakan sesuatu yang baru.”»
Ia sedang mengingatkan:
«“Jika engkau menciptakan sesuatu yang baru, bersiaplah memikul tanggung jawab atas akibat penciptaanmu.”»
Dua abad kemudian, pesan tersebut menjadi semakin relevan.
Manusia sedang menciptakan bentuk kecerdasan yang sama sekali baru.
Mungkin AI tidak akan pernah menjadi seperti manusia.
Mungkin AI tidak akan memiliki kesadaran.
Mungkin AI tidak akan pernah mempunyai kehendak bebas.
Kita belum tahu.
Tetapi kita tahu satu hal:
kemampuan AI sedang meningkat.
Dan manusia sedang memasuki wilayah yang belum pernah dijelajah sebelumnya.
Karena itu, pertanyaan terbesar abad ke-21 mungkin bukan:
«“Bisakah manusia menciptakan kecerdasan super?”»
Tetapi:
«“Apakah manusia cukup dewasa untuk menciptakan sesuatu yang mungkin lebih pintar daripada dirinya sendiri?”»
—
PENUTUP
Jangan takut kepada ASI.
Takutlah jika manusia menciptakannya sebelum manusia memahami cara mengendalikannya.
Frankenstein adalah kisah tentang seorang manusia yang berhasil melakukan sesuatu yang sebelumnya dianggap mustahil.
Tetapi keberhasilan penciptaannya bukanlah akhir cerita.
Justru di situlah tragedi dimulai.
AI mungkin akan membawa kita pada situasi yang serupa.
Kita mungkin berhasil.
Kita mungkin menciptakan AGI.
Kemudian mungkin suatu hari manusia mendekati superintelligence.
Tetapi keberhasilan tersebut tidak boleh menjadi alasan untuk berhenti bertanya.
Justru pada saat itulah manusia harus bertanya lebih keras:
«Siapa yang mengendalikan siapa?»
«Siapa yang bertanggung jawab?»
«Dan siapa yang akan bertanggung jawab ketika para pencipta pertama sudahv tidak ada?»
Mungkin generasi kita sedang membuat keputusan teknologi yang akan menentukan wajah peradaban beberapa generasi setelah kita.
Karena itu, tanggung jawab kita bukan hanya kepada manusia yang hidup hari ini.
Tetapi juga kepada:
anak-anak yang belum lahir,
generasi yang belum hadir,
dan mungkin kepada seluruh umat manusia yang suatu hari akan hidup berdampingan dengan kecerdasan yang kita ciptakan.
Maka pesan Frankenstein 1818 untuk AI 2026 mungkin dapat dirumuskan kembali:
«“Jangan menciptakan kecerdasan yang lebih besar daripada kebijaksanaanmu untuk mengendalikannya.”»
Dan mungkin pertanyaan terbesar peradaban bukanlah:
«“Kapan AI mencapai ASI?”»
Melainkan:
«“Kapan manusia mencapai tingkat kebijaksanaan yang layak untuk hidup bersama ASI?”»
—
Jakarta, 2026
Norman Edward Institute (NEI)
Forum Dialog Peradaban (FDP)
Frankenstein 1818 – AI 2026
Sebuah dialog panjang antara pencipta, ciptaan, dan masa depan peradaban.
DISCLAIMER : Khusus berita OPINI dalam Rubrik/Kanal OPINI adalah media masyarakat dalam menyampaikan tulisannya, sehingga setiap berita opini di kanal OPINI sepenuhnya menjadi tanggung jawab PENULIS. Oleh karenanya INDOVIEWNEWS.COM terbebas dari segala macam bentuk tuntutan. Jika ada pihak yang berkeberatan atau merasa dirugikan dengan tulisan OPINI, maka sesuai dengan undang-undang pers bahwa pihak tersebut dapat memberikan hak jawabnya kepada PENULIS OPINI atau dapat dikirimkan kepada redaksi INDOVIEWNEWS.COM melalui email yang tertera dalam box redaksi kami. nantinya redaksi INDOVIEWNEWS.COM akan menayangkan tulisan tersebut secara berimbang sebagai bagian dari hak jawab.
