Jakarta, FORTUNE – Para ahli menyerukan pembentukan regulasi global di hadapan forum Dewan Keamanan organisasi Persatuan Bangsa-Bangsa (DK PBB), untuk mengatur pemanfaatan teknologi kecerdasan buatan (artificial intelligence/AI) di seluruh dunia.
Profesor yang menjabat direktur Pusat Penelitian China-Inggris untuk Etika dan Tata Kelola AI, Zeng Yi, mengatakan bahwa PBB harus menunjukkan perannya di tengah perkembangan teknologi AI. Di satu sisi, teknologi tersebut memliki manfaat untuk peradaban, dan di sisi lain terdapat potensi bahaya yang masih sulit diperkirakan.
“PBB harus memainkan peran sentral untuk menyiapkan kerangka kerja AI untuk pengembangan dan tata kelola, untuk memastikan perdamaian dan keamanan global,” ujar Zeng Yi seperti dikutip dari Sky News, Rabu (19/7).
Menurutnya, teknologi AI memiliki risiko yang membahayakan kehidupan, karena belum ada acara untuk melindungi diri dari pemanfaatan AI yang berdampak melemahkan manusia. “AI bisa membuat manusia punah,” ujar Zeng Yi.
Tantangan bersatu
Pendiri perusahaan AI Anthropic, Jack Clark, mengatakan penanganan AI tidak bisa hanya dilakukan oleh sektor swasta. "Pemerintah dunia harus bersatu, mengembangkan kapasitas negara, dan membuat pengembangan lebih lanjut dari sistem AI yang kuat,” katanya dalam pertemuan pertama PBB untuk membahas AI tersebut.
Menurut Clark, teknologi AI pada satu sisi bisa membuat manusia semakin memahami seluk beluk ilmu biologi, namun di sisi yang lain berpotensi mendukung pembuatan senjata biologis. Ia menganalogikan situasi ini seperti membuat mesin tanpa memahami soal pembakaran.
"Ini berarti bahwa setelah sistem AI dikembangkan dan diterapkan, orang-orang mengidentifikasi penggunaan baru untuknya, tidak diantisipasi oleh pengembangnya, banyak di antaranya akan positif, tetapi beberapa dapat disalahgunakan,” ujar Clark.
Yang lebih menantang, risiko tak terduga teknologi AI yang tidak teridentifikasi dalam pengembangan oleh pembuatnya sendiri. Ia berharap AI tidak dianggap sebagai teknologi khusus semata, namun jenis tenaga kerja manusia yang bisa dijualbelikan dengan kecepatan komputer yang makin murah dari waktu ke waktu.
Pembentukan badan pengawas AI
Mengutip Reuters, Sekretaris Jenderal PBB, Antonio Guterres, mendukung seruan beberapa negara untuk membentuk sebuah badan di PBB yang berperan untuk mengawasi dan mengatur penggunaan teknologi AI di berbagai sektor. Hal ini menurutnya bisa meniru pembentukan International Atomic Energy Agency, International Civil Aviation Organization, atau Intergovernmental Panel on Climate Change.
Menurutnya, AI akan berdampak besar pada setiap bidang kehidupan, bahkan berpotensi menghadirkan kebaikan sekaligus kejahatan dalam skala yang besar. “Aplikasi AI militer dan non-militer dapat memiliki konsekuensi yang sangat serius bagi perdamaian dan keamanan global,” ujarnya dalam pertemuan Dewan Keamanan PBB.
Sementara itu, Duta Besar Cina untuk PBB, menyatakan Beijing siap mendukung PBB dalam menetapkan prinsip-prinsip panduan dalam penggunaan AI. "Apakah itu baik atau buruk, baik atau jahat, tergantung pada bagaimana umat manusia menggunakannya, mengaturnya dan bagaimana kita menyeimbangkan pengembangan ilmiah dengan keamanan,” katanya.
