Google DeepMind merilis laporan setebal 145 halaman yang memperingatkan potensi munculnya Artificial General Intelligence (AGI) sebelum tahun 2030. Laporan ini menekankan risiko eksistensial jika dunia tidak mempersiapkan diri dengan sistem keamanan yang memadai.
Laporan tersebut dirilis awal April 2025 dan merinci berbagai ancaman yang dapat ditimbulkan oleh AGI, termasuk penyalahgunaan oleh aktor jahat, kesalahan sistemik, serta ketidaksesuaian tujuan antara manusia dan AI.
“Jika tidak ditangani dengan serius, AGI bisa menciptakan kerusakan permanen bagi umat manusia,” tulis tim peneliti DeepMind dalam laporan itu.
Risiko utama yang dikemukakan mencakup misuse (penyalahgunaan teknologi), misalignment (tujuan AI yang tidak selaras dengan nilai manusia), mistakes (kesalahan sistem teknis), dan structural risks (persaingan geopolitik yang mengabaikan keamanan). DeepMind menegaskan bahwa tantangan utama bukan hanya berasal dari teknologi itu sendiri, tetapi juga dari ambisi dan ketidaksiapan manusia dalam mengelolanya.
Sebagai langkah mitigasi, DeepMind mengusulkan pengembangan sistem keamanan yang dirancang untuk memantau dan mengendalikan AI menggunakan AI itu sendiri. “Kita butuh sistem pertahanan nyata, bukan sekadar optimisme,” ujar tim DeepMind dalam pernyataan tersirat yang juga mengkritik pendekatan lembaga AI lain seperti OpenAI dan Anthropic.
Dengan prediksi AGI hadir sebelum 2030, laporan ini menjadi peringatan keras bagi komunitas global untuk segera membangun kerangka regulasi dan teknologi pengaman. DeepMind menekankan bahwa kesiapan manusia akan menjadi faktor penentu dalam menghindari potensi bencana teknologi di masa depan.
