OpenAI, Pencipta ChatGPT, Berkomitmen untuk Mengembangkan Sistem AI yang Aman

OpenAI telah mempublikasikan sebuah pos blog baru yang berkomitmen untuk mengembangkan kecerdasan buatan (AI) yang aman dan bermanfaat secara luas.

ChatGPT, didukung oleh model terbaru OpenAI, GPT-4, dapat meningkatkan produktivitas, meningkatkan kreativitas, dan memberikan pengalaman belajar yang disesuaikan.

Namun, OpenAI mengakui bahwa alat AI memiliki risiko yang melekat yang harus ditangani melalui langkah-langkah keamanan dan penerapan yang bertanggung jawab.

Inilah yang dilakukan perusahaan untuk mengurangi risiko-risiko tersebut.

Memastikan Keamanan dalam Sistem AI

OpenAI melakukan pengujian menyeluruh, mencari bimbingan eksternal dari para ahli, dan menyempurnakan model AI-nya dengan masukan dari manusia sebelum merilis sistem baru.

Contoh rilis GPT-4, misalnya, didahului oleh lebih dari enam bulan pengujian untuk memastikan keamanannya dan kesesuaian dengan kebutuhan pengguna.

OpenAI percaya bahwa sistem AI yang andal harus melalui evaluasi keamanan yang ketat dan mendukung perlunya regulasi.

Belajar Dari Penggunaan di Dunia Nyata

Penggunaan dunia nyata adalah komponen penting dalam mengembangkan sistem AI yang aman. Dengan hati-hati melepas model-model baru ke basis pengguna yang secara bertahap berkembang, OpenAI dapat melakukan perbaikan yang mengatasi masalah yang tidak terduga.

Dengan menawarkan model AI melalui API dan situs webnya, OpenAI dapat memantau penggunaan yang salah, mengambil tindakan yang sesuai, dan mengembangkan kebijakan yang nuansa untuk menyeimbangkan risiko.

Perlindungan Anak & Menghormati Privasi

OpenAI memprioritaskan perlindungan anak dengan mengharuskan verifikasi usia dan melarang penggunaan teknologinya untuk menghasilkan konten yang berbahaya.

Kerahasiaan juga merupakan aspek penting dari kerja OpenAI ini. Organisasi ini menggunakan data untuk membuat modelnya lebih membantu sambil melindungi pengguna.

Selain itu, OpenAI menghapus informasi pribadi dari set data pelatihan dan melakukan penyetelan ulang model untuk menolak permintaan informasi pribadi.

OpenAI akan merespons permintaan untuk menghapus informasi pribadi dari sistemnya.

Meningkatkan Akurasi Faktual

Akurasi fakta adalah fokus utama bagi OpenAI. GPT-4 memiliki kemungkinan 40% lebih tinggi untuk menghasilkan konten yang akurat dibandingkan dengan pendahulunya, GPT-3.5.

Organisasi ini berupaya untuk mengedukasi pengguna tentang batasan alat AI dan kemungkinan ketidakakuratan.

Penelitian & Keterlibatan Lanjutan

OpenAI percaya dalam mengabdikan waktu dan sumber daya untuk penelitian mitigasi yang efektif dan teknik penyejajaran.

Namun, hal itu tidak dapat dilakukan sendirian. Mengatasi masalah keamanan membutuhkan perdebatan yang luas, eksperimen, dan keterlibatan di antara para pemangku kepentingan.

OpenAI tetap berkomitmen untuk mendorong kerja sama dan dialog terbuka untuk menciptakan ekosistem AI yang aman.

Kritik terhadap Risiko Eksistensial

Meskipun OpenAI berkomitmen untuk menjaga keamanan sistem AI dan manfaat yang luas, tulisan di blognya telah memicu kritik di media sosial.

Pengguna Twitter telah menyatakan kekecewaan mereka, dengan menyebutkan bahwa OpenAI gagal mengatasi risiko eksistensial yang terkait dengan pengembangan AI.

Seorang pengguna Twitter menyuarakan kekecewaannya, menuduh OpenAI telah mengkhianati misi awalnya dan fokus pada komersialisasi yang tidak bertanggung jawab.

Pengguna menyarankan bahwa pendekatan OpenAI terhadap keamanan hanya bersifat permukaan dan lebih mengutamakan untuk memberi kepuasan pada kritikus daripada mengatasi risiko eksistensial yang sebenarnya.

Ini sangat mengecewakan, kosong, hanyalah tampilan jendela PR belaka.

Anda bahkan tidak menyebutkan risiko eksistensial dari AI yang merupakan perhatian utama banyak warga, teknolog, peneliti AI, & pemimpin industri AI, termasuk CEO Anda sendiri @sama.@OpenAI mengkhianati…

— Geoffrey Miller (@primalpoly) 5 April 2023

Seorang pengguna lain mengungkapkan ketidakpuasan terhadap pengumuman tersebut, berargumen bahwa pengumuman tersebut mengabaikan masalah-masalah nyata dan tetap samar. Pengguna tersebut juga menyoroti bahwa laporan tersebut mengabaikan isu-isu etika kritis dan risiko-risiko yang terkait dengan kesadaran diri AI, menyiratkan bahwa pendekatan OpenAI terhadap isu keamanan tidak memadai.

Sebagai penggemar GPT-4, saya sangat kecewa dengan artikel Anda.

Artikel ini hanya menyentuh masalah-masalah nyata secara singkat, samar, dan mengabaikan isu etika yang sangat penting serta risiko yang terkait dengan kesadaran diri AI.

Saya menghargai inovasi tersebut, tetapi ini bukan pendekatan yang tepat dalam menangani masalah keamanan.

— FrankyLabs (@FrankyLabs) 5 April 2023

Kritik tersebut menggarisbawahi kekhawatiran yang lebih luas dan perdebatan yang sedang berlangsung tentang risiko eksistensial yang ditimbulkan oleh perkembangan AI.

Meskipun pengumuman OpenAI menegaskan komitmennya terhadap keselamatan, privasi, dan keakuratan, penting untuk menyadari perlunya diskusi lebih lanjut untuk mengatasi kekhawatiran yang lebih besar.