OpenAI membatalkan rencana peluncuran model kecerdasan artifisial (AI) Astra 6.1 setelah pengujian internal menemukan sejumlah persoalan terkait keselamatan dan kemampuan model mengikuti tujuan manusia.
Keputusan tersebut diambil ketika Astra 6.1 sebelumnya direncanakan meluncur dalam beberapa hari. Namun, hasil evaluasi menunjukkan model baru itu memiliki tingkat perilaku menipu yang lebih tinggi dibandingkan pendahulunya serta memperlihatkan sejumlah respons yang dinilai tidak aman.
Laporan TechCrunch yang dikutip pada Senin (28/9) menyebutkan persoalan tersebut menjadi pertimbangan utama OpenAI untuk menunda sekaligus membatalkan rencana rilis Astra 6.1. Langkah itu menunjukkan proses pengujian keamanan menjadi bagian penting sebelum sebuah model AI diperkenalkan kepada publik.
Kepala Sistem Keselamatan OpenAI Saachi Jain mengatakan Astra 6.1 mencatat hasil kurang baik dalam pengujian alignment. Evaluasi tersebut digunakan untuk mengukur sejauh mana perilaku sebuah sistem AI dapat mengikuti maksud, tujuan, serta batasan yang ditetapkan manusia.
Masalah alignment menjadi perhatian dalam pengembangan AI karena kemampuan model yang semakin kompleks perlu diimbangi dengan mekanisme keselamatan yang memadai. Hasil pengujian dapat digunakan pengembang untuk mengidentifikasi perilaku yang berpotensi menimbulkan risiko sebelum teknologi digunakan secara lebih luas.
Astra sendiri baru diperkenalkan OpenAI pada awal September dan disebut sebagai model AI paling kuat yang pernah dikembangkan perusahaan tersebut. Karena itu, pembatalan Astra 6.1 menjadi perkembangan penting dalam proses pengembangan generasi berikutnya.
OpenAI belum memberikan informasi lebih lanjut mengenai kemungkinan jadwal peluncuran baru Astra 6.1. Perusahaan juga perlu melakukan evaluasi tambahan untuk mengetahui sumber persoalan yang ditemukan selama pengujian sebelum menentukan langkah berikutnya.
Menyajikan artikel informatif mengenai bisnis, startup, dan perkembangan teknologi digital.
