SelidikiNews.com, Jakarta – Sam Altman, salah satu pendiri OpenAI, tiba-tiba diberhentikan dari posisi CEO oleh dewan perusahaan pada awal bulan November lalu. Namun, dalam waktu singkat, ia dipulihkan ke jabatan tersebut karena dukungan dari karyawan dan pemegang saham.
Berita eksklusif Reuters minggu lalu mengungkapkan bahwa pemecatan ini terjadi setelah peneliti OpenAI memberi tahu dewan perusahaan tentang penemuan berpotensi berbahaya yang bisa memiliki konsekuensi yang tidak diinginkan.
Proyek internal yang disebut Q* (dikenal sebagai Q-Star) diyakini bisa menjadi terobosan dalam kecerdasan buatan umum (artificial general intelligence/AGI).
OpenAI mendefinisikan AGI sebagai sistem otonom yang melampaui kemampuan manusia dalam tugas bernilai ekonomi.
Meskipun demikian, Brad Smith, Presiden Microsoft, menolak klaim tentang risiko terobosan berbahaya tersebut, menyatakan bahwa melihat AGI yang lebih kuat dari manusia dalam 12 bulan ke depan tidak mungkin terjadi. Smith menekankan perlunya fokus pada keselamatan saat ini.
Sumber mengungkapkan kepada Reuters bahwa peringatan dari peneliti kepada dewan OpenAI adalah salah satu faktor yang menyebabkan pemecatan Altman, bersama dengan keprihatinan terhadap komersialisasi tanpa penilaian risikonya.
Ketika ditanya tentang hubungan penemuan yang mungkin berkontribusi pada pemecatan Altman, Smith menyatakan bahwa masalah sebenarnya adalah perbedaan pendapat antara dewan direksi dan pihak lainnya mengenai langkah-langkah keamanan untuk AGI.
Smith menekankan perlunya adanya sistem pengaman, serupa dengan pengaman pada lift atau rem darurat untuk bus, pada sistem AI yang mengendalikan infrastruktur kritis, agar infrastruktur tersebut selalu berada di bawah kendali manusia.
