DeepMind Rilis Gemini Robotics 2.5 dan Tolok Ukur Keamanan ASIMOV-jailbreak

Google DeepMind memperkenalkan Gemini Robotics 2.5, model terbaru untuk kendali robot yang disebut hingga dua kali lebih berhasil pada sejumlah tugas. Bersamaan dengan itu, DeepMind merilis tolok ukur keamanan terbuka bernama ASIMOV-jailbreak.

Gemini Robotics 2.5 dan Klaim Keberhasilan Dua Kali Lipat

DeepMind menyebut Gemini Robotics 2.5 sebagai penerus lini model robotika Gemini. Dalam pengumumannya, perusahaan menyatakan model baru ini mampu mencapai tingkat keberhasilan hingga dua kali lipat pada beberapa tugas dibandingkan pendahulunya.

Angka itu menjadi klaim utama peluncuran. Namun, DeepMind belum memerinci tugas mana saja yang diuji, jenis robot yang dipakai, maupun metodologi pengukuran dalam kutipan singkat yang tersedia.

Gemini Robotics sendiri adalah keluarga model yang dirancang DeepMind untuk menjembatani model bahasa besar dengan kemampuan fisik robot. Pendekatan ini memungkinkan robot memahami instruksi dalam bahasa alami, mengenali objek, dan merencanakan gerakan berdasarkan konteks.

Peningkatan versi dari 2.0 ke 2.5 menunjukkan DeepMind terus menyempurnakan model di jalur yang sama. Pola penomoran setengah versi biasanya menandakan perbaikan bertahap, bukan perombakan arsitektur total.

ASIMOV-jailbreak, Tolok Ukur Keamanan yang Dibuka ke Publik

Selain model baru, DeepMind merilis tolok ukur keamanan terbuka bernama ASIMOV-jailbreak. Nama itu merujuk pada Isaac Asimov, penulis fiksi ilmiah yang merumuskan tiga hukum robotika, ditambah kata "jailbreak" yang merujuk pada upaya menembus pengaman model.

Dari penamaannya, tolok ukur ini tampaknya dirancang untuk menguji seberapa mudah model robotika dibujuk melanggar batasan keamanannya. Ini relevan karena model yang mengendalikan perangkat fisik membawa risiko berbeda dari model yang hanya menghasilkan teks.

DeepMind memilih merilis tolok ukur secara terbuka. Langkah ini memungkinkan peneliti lain menguji model mereka dengan standar yang sama, sekaligus membuka peluang kritik dan perbaikan dari komunitas.

Pendekatan terbuka semacam ini bukan hal baru di industri AI. Beberapa laboratorium sebelumnya merilis tolok ukur keselamatan untuk model bahasa, namun tolok ukur khusus robotika masih tergolong jarang.

Mengapa Keamanan Model Robotika Jadi Sorotan

Robot yang digerakkan model AI bekerja di dunia nyata. Kesalahan interpretasi instruksi bukan sekadar menghasilkan teks keliru, tetapi bisa berujung pada gerakan fisik yang berbahaya.

Karena itu, pengujian terhadap upaya jailbreak menjadi penting. Jika model bisa dibujuk mengabaikan batasan keselamatan, risiko yang muncul jauh lebih besar dibandingkan pada chatbot.

DeepMind tampaknya menyadari hal ini. Merilis tolok ukur keamanan bersamaan dengan model baru menunjukkan perusahaan ingin menyeimbangkan klaim kemampuan dengan perhatian pada keselamatan.

Namun, rincian teknis soal bagaimana ASIMOV-jailbreak bekerja, jenis serangan yang diuji, dan skor model Gemini Robotics 2.5 di dalamnya belum dijelaskan dalam kutipan yang tersedia.

Apa yang Bisa Diharapkan Selanjutnya

Peluncuran ini menambah daftar panjang perkembangan model robotika berbasis AI. Persaingan di bidang ini melibatkan sejumlah laboratorium besar yang berlomba menghadirkan robot serba bisa.

Bagi DeepMind, langkah berikutnya adalah membuktikan klaim dua kali lipat keberhasilan itu lewat data yang bisa diverifikasi pihak lain. Di sinilah tolok ukur terbuka berperan.

Jika peneliti independen bisa mereproduksi hasil dan menguji ketahanan model terhadap jailbreak, klaim DeepMind akan lebih mudah dinilai secara objektif.

Analisis Redaksi

Menggabungkan peluncuran model baru dengan tolok ukur keamanan dalam satu pengumuman adalah langkah cerdas dari sisi komunikasi. DeepMind tidak hanya menjual kemampuan, tetapi juga menunjukkan kesadaran akan risiko.

Namun, klaim "dua kali lebih berhasil" tanpa rincian tugas dan metodologi masih terlalu umum. Pembaca teknis tentu ingin tahu pada tugas apa peningkatan itu terjadi, dan apakah peningkatan tersebut konsisten di berbagai kondisi.

Rilis tolok ukur ASIMOV-jailbreak justru bisa jadi kontribusi yang lebih berarti dalam jangka panjang. Standar terbuka untuk menguji keamanan model robotika masih langka, dan inisiatif semacam ini berpotensi menjadi rujukan bersama.

Yang perlu diawasi adalah apakah tolok ukur itu benar-benar dipakai luas atau hanya menjadi pelengkap pengumuman. Buktinya akan terlihat dari seberapa banyak peneliti independen yang mengadopsinya.

Sumber: arstechnica.com, deepmind.google