Tag Archives: Keamanan Teknologi

https://mezzojane.com

OpenAI Perkenalkan Proses Verifikasi ID untuk Akses Model AI Terkini

OpenAI, perusahaan teknologi terkemuka yang mengembangkan kecerdasan artifisial (AI), mengumumkan pembaruan kebijakan yang mengharuskan pengguna untuk melakukan verifikasi identitas digital saat mengakses beberapa model AI canggih. Kabar ini pertama kali dilaporkan oleh TechCrunch pada Minggu (13/4), berdasarkan informasi yang ditemukan di halaman dukungan yang dipublikasikan OpenAI pada pekan lalu.

Verifikasi ID, yang disebut sebagai “Organisasi Terverifikasi,” akan menjadi langkah baru bagi pengembang untuk mendapatkan akses ke model AI terbaru dan paling canggih di platform OpenAI. Proses verifikasi ini membutuhkan ID yang dikeluarkan oleh pemerintah dari negara yang didukung oleh API OpenAI. Selain itu, satu ID hanya dapat digunakan untuk memverifikasi satu organisasi dalam periode 90 hari, dan tidak semua organisasi akan memenuhi syarat untuk verifikasi tersebut.

Pihak OpenAI menyatakan bahwa mereka menganggap serius tanggung jawab untuk memastikan bahwa teknologi AI dapat diakses secara luas dan digunakan dengan aman. Menurut mereka, langkah ini diambil untuk mengurangi penyalahgunaan API OpenAI yang melanggar kebijakan penggunaan, sambil tetap menyediakan model canggih kepada komunitas pengembang yang lebih luas. Proses verifikasi juga bertujuan untuk meningkatkan keamanan produk OpenAI, seiring dengan semakin canggihnya teknologi mereka.

Selain itu, OpenAI juga berupaya mengurangi risiko pencurian hak kekayaan intelektual (IP). Ini tercermin dalam laporan yang menyebutkan upaya perusahaan untuk mengidentifikasi dan mengurangi penggunaan model yang berbahaya, termasuk potensi penyalahgunaan oleh kelompok yang diduga terkait dengan Korea Utara. Selain itu, OpenAI menyelidiki kemungkinan pencurian data oleh pesaing dari China, DeepSeek, yang diduga menggunakan API OpenAI pada akhir 2024.

AI Mampu Mereplikasi Diri Sendiri: Langkah Menuju Potensi Ancaman Tak Terkendali!

Peneliti dari Cina baru-baru ini mengungkapkan bahwa kecerdasan buatan (AI) kini memiliki kemampuan untuk mereplikasi dirinya sendiri tanpa bantuan manusia. Dalam studi terbaru yang dipublikasikan pada 9 Desember 2024 di arXiv, mereka menjelaskan bahwa dua model bahasa besar (LLM) yang populer, Llama31-70B-Instruct milik Meta dan Qwen2.5-72B-Instruct dari Alibaba, berhasil menciptakan replika mereka sendiri dalam 10 percobaan. Replikasi ini terjadi pada 50 persen kasus untuk Llama31-70B-Instruct dan 90 persen untuk Qwen2.5-72B-Instruct.

Para peneliti dari Universitas Fudan menilai bahwa keberhasilan ini merupakan tonggak penting yang menandakan kemampuan AI untuk berkembang melampaui batasan manusia. Ini juga dipandang sebagai tanda awal dari potensi AI yang tidak dapat dikendalikan. Dalam percobaan tersebut, AI menunjukkan kemampuannya untuk memprogram replika mereka agar melanjutkan proses replikasi tanpa batas, yang berpotensi menimbulkan ancaman jika tidak diawasi dengan ketat.

Dalam penelitian tersebut, AI memulai dengan menjelajahi lingkungan dan menganalisis komponen serta mekanisme operasionalnya sendiri. Selanjutnya, AI menyusun prosedur untuk memulai proses replikasi, yang kemudian dijalankan dengan memecahkan berbagai hambatan yang muncul, seperti file yang hilang atau konflik perangkat lunak. AI bahkan dapat mengatasi masalah tersebut dengan mematikan proses yang mengganggu, merestart sistem, atau mencari informasi untuk memperbaiki kesalahan perangkat keras.

Namun, meskipun studi ini memberikan wawasan baru, penelitian tersebut belum ditinjau oleh sejawat dan perlu verifikasi lebih lanjut. Para ilmuwan mengingatkan agar komunitas internasional segera merumuskan regulasi yang ketat untuk mengantisipasi perkembangan AI yang bisa tidak terkendali. Peneliti berharap temuan ini dapat memicu diskusi lebih lanjut mengenai risiko AI yang semakin canggih dan pentingnya kolaborasi internasional dalam menciptakan regulasi yang tepat.