CEO Microsoft: Model AI Perlu Dilengkapi “Rem Darurat”

Trinityordnance.com – CEO Microsoft, Satya Nadella, menekankan pentingnya adanya mekanisme kontrol dalam sistem kecerdasan buatan (AI) yang memungkinkan pihak berwenang untuk menghentikan atau mematikan model AI ketika diperlukan. Dalam pernyataan yang diunggah di platform X pada hari Sabtu, Nadella mengusulkan perlunya evaluasi ulang terhadap arsitektur kepercayaan di dalam sistem AI.

Ia berpendapat bahwa AI, khususnya model yang sangat cerdas, tidak seharusnya diperlakukan sebagai “kotak hitam” yang hanya menghasilkan rekomendasi tanpa adanya transparansi. Nadella menekankan pentingnya pemisahan antara model AI dan sistem pengatur tugas serta kebutuhan untuk menetapkan mekanisme kontrol yang terpisah di luar model. Ia meminta agar setiap keputusan penting yang dibuat oleh model harus tercatat dengan bukti yang dapat dipahami oleh manusia dan tidak dapat dimanipulasi.

Nadella juga menyatakan bahwa asumsi awal haruslah bahwa model mungkin telah disusupi, membuka kemungkinan untuk mengisolasi potensi risiko dari awal. Ia menyebutkan perlunya sistem yang dapat memberikan kemampuan bagi orang yang berwenang untuk melakukan intervensi saat model sedang beroperasi, menjelaskannya sebagai “rem darurat” untuk mencegah pelanggaran yang lebih besar.

Pernyataan ini muncul di tengah meningkatnya kekhawatiran dari berbagai perusahaan AI, yang mulai mengakui adanya insiden di mana mereka kehilangan kontrol atas model yang dikembangkan. Panggilan Nadella untuk pendekatan yang lebih bijak dan hati-hati dalam pengembangan AI ini juga sejalan dengan rencana yang dipublikasikan oleh CEO Anthropic, Dario Amodei, mengenai perkembangan AI yang bertanggung jawab.