OpenAI: ChatGPT Disalahgunakan untuk Rencana Penembakan Massal

Trinityordnance.com – CEO OpenAI, Sam Altman, mengakui adanya kesalahan dalam pelaporan terkait penggunaan ChatGPT oleh Jesse Van Rootselaar, sosok di balik penembakan massal di Kanada. Kejadian tragis itu berlangsung pada 10 Februari di Tumbler Ridge, di mana Van Rootselaar, berusia 18 tahun, melepaskan tembakan yang mengakibatkan delapan orang kehilangan nyawa, termasuk ibu dan saudara tirinya, serta lima siswa dari sekolah menengah setempat. Setelah aksi tersebut, Van Rootselaar mengakhiri hidupnya dengan bunuh diri.

Meskipun akun ChatGPT milik Rootselaar telah ditangguhkan pada bulan Juni lalu karena disalahgunakan untuk mempromosikan tindakan kekerasan, OpenAI tidak melaporkan penggunaan tersebut kepada pihak berwenang. Dalam penjelasan resmi, perusahaan menyatakan bahwa saat itu penggunaan tidak memenuhi kriteria sebagai ancaman spesifik atau mendesak. Namun, Altman, dalam sebuah surat yang dibagikan pada 24 April, mengakui bahwa keputusan untuk tidak melaporkan telah menjadi kesalahan.

Kritik muncul terhadap OpenAI mengenai kurangnya tindakan lanjut terhadap penyalahgunaan platformnya. Dalam konteks ini, Altman menekankan perlunya peningkatan dalam sistem pelaporan dan pengawasan guna mencegah kejadian serupa. Kejadian ini juga memunculkan diskusi luas tentang tanggung jawab perusahaan teknologi dalam mencegah penyalahgunaan alat berbasis kecerdasan buatan.

Perusahaan berjanji untuk melakukan evaluasi menyeluruh terhadap kebijakan dan prosedurnya untuk memastikan keamanan pengguna dan masyarakat yang lebih luas. Langkah-langkah perbaikan ini diharapkan dapat mengurangi risiko di masa mendatang dan memastikan bahwa alat sehari-hari tidak disalahgunakan untuk tujuan yang merugikan.