Vitalik Buterin, pendiri Ethereum, menyuarakan kekhawatirannya mengenai perkembangan kecerdasan buatan (AI) superintelligent yang dapat menimbulkan ancaman besar bagi umat manusia. Dalam artikel blog yang diterbitkan pada Januari 2025, Buterin mengajukan usulan strategis mengenai regulasi AI guna memitigasi risiko terkait dengan kecerdasan buatan yang berkembang pesat.
AI superintelligent merujuk pada model AI teoritis yang memiliki kecerdasan jauh melampaui manusia dalam berbagai sektor. Buterin memperkirakan bahwa teknologi semacam itu mungkin akan terwujud dalam lima tahun ke depan dan membawa dampak berbahaya, mulai dari kerusakan besar-besaran hingga hilangnya kontrol manusia atas teknologi tersebut.
Untuk mengatasi potensi bahaya ini, Buterin mengusulkan langkah “soft pause” atau penghentian sementara dalam penggunaan perangkat keras AI skala besar. Dalam proposalnya, Buterin merekomendasikan pengurangan daya komputasi global hingga 99% selama satu hingga dua tahun. Langkah ini bertujuan memberikan waktu kepada umat manusia untuk mempersiapkan diri terhadap potensi ancaman yang ditimbulkan oleh AI superintelligent.
Buterin juga menambahkan bahwa langkah ini harus disertai dengan aturan ketat, seperti kewajiban registrasi perangkat keras AI dan verifikasi lokasi chip. Selain itu, ia menyarankan agar perangkat keras AI hanya dapat beroperasi jika mendapat persetujuan dari badan internasional yang mengawasi, dengan mekanisme yang dapat diverifikasi melalui teknologi blockchain.
Selain “soft pause,” Buterin juga mengusulkan penerapan tanggung jawab hukum yang lebih tegas kepada pengembang, pengguna, dan penyebar teknologi AI. Hal ini bertujuan untuk menekan pihak-pihak terkait agar lebih berhati-hati dalam mengembangkan teknologi yang dapat berisiko tinggi.
Meskipun demikian, Buterin menekankan bahwa ia hanya akan mendorong “soft pause” jika langkah-langkah tanggung jawab hukum terbukti tidak cukup efektif. Ia meyakini bahwa pengurangan daya komputasi sementara dapat menjadi salah satu tindakan pencegahan yang efektif untuk menghindari potensi bencana akibat AI.
Selain itu, Buterin juga membahas bagaimana teknologi cryptocurrency dapat berperan dalam regulasi AI. Ia menyoroti penggunaan blockchain untuk memastikan transparansi dan desentralisasi dalam pengambilan keputusan terkait teknologi AI, yang akan memastikan bahwa keputusan tersebut diambil dengan akuntabilitas kolektif.
Ethereum, sebagai platform blockchain, dapat memainkan peran penting dalam menciptakan sistem yang lebih transparan dan terdesentralisasi, serta mengurangi potensi penyalahgunaan teknologi.
Proposisi ini juga mencerminkan filosofi “defensive accelerationism” (d/acc) yang didukung oleh Buterin, yakni pengembangan teknologi yang hati-hati dan terkontrol untuk mencegah risiko yang tidak diinginkan.