Pembangunan AI tidak boleh dibiarkan ikut sesuka hati pasaran, pakar PBB memberi amaran

NEW YORK 19 Sept - Pembangunan kecerdasan buatan (AI) tidak seharusnya dipandu oleh kuasa pasaran semata-mata, pakar Pertubuhan Bangsa-Bangsa Bersatu (PBB) memberi amaran pada hari Khamis, menyeru penciptaan alat untuk kerjasama global.

Tetapi mereka menahan diri daripada mencadangkan penubuhan badan pentadbir seluruh dunia yang berkuasa untuk mengawasi pelancaran dan evolusi teknologi, yang percambahannya telah menimbulkan kebimbangan mengenai berat sebelah, penyalahgunaan dan pergantungan.

Panel kira-kira 40 pakar dari bidang teknologi, undang-undang dan perlindungan data telah ditubuhkan oleh Setiausaha Agung PBB Antonio Guterres pada Oktober.

Laporan mereka, yang diterbitkan beberapa hari sebelum permulaan "Sidang Kemuncak Masa Depan" berprofil tinggi, mencetuskan kebimbangan terhadap kekurangan tadbir urus global AI serta pengecualian berkesan negara membangun daripada perdebatan tentang masa depan teknologi.

Daripada 193 anggota PBB, hanya tujuh adalah sebahagian daripada tujuh inisiatif utama yang dikaitkan dengan AI, manakala 118 tidak hadir sepenuhnya -- kebanyakannya negara di selatan global.

"Terdapat, hari ini, defisit tadbir urus global berkenaan dengan AI," yang sifatnya merentas sempadan, pakar memberi amaran dalam laporan mereka.

"AI mesti berkhidmat kepada manusia secara saksama dan selamat," kata Guterres minggu ini.

"Jika tidak dikawal, bahaya yang ditimbulkan oleh kecerdasan buatan boleh memberi implikasi serius terhadap demokrasi, keamanan dan kestabilan."

 'Terlalu lewat'? 

Berlatarbelakangkan gesaannya yang jelas, pakar-pakar itu menyeru anggota PBB untuk menyediakan mekanisme untuk menggerakkan roda kerjasama global mengenai isu itu, serta mencegah percambahan yang tidak diingini.

"Pembangunan, penggunaan dan penggunaan teknologi sedemikian tidak boleh diserahkan kepada kehendak pasaran sahaja," kata laporan itu.

Ia mula-mula menyeru untuk mewujudkan sekumpulan pakar saintifik mengenai AI yang dimodelkan pada forum pakar Panel Antara Kerajaan mengenai Perubahan Iklim (IPCC), yang laporannya merupakan kata terakhir mengenai isu perubahan iklim.

Panel itu akan memberi taklimat kepada masyarakat antarabangsa mengenai risiko yang muncul, mengenal pasti keperluan penyelidikan serta cara ia boleh digunakan untuk mengurangkan kebuluran, kemiskinan, dan ketidaksamaan jantina, antara matlamat lain.

Cadangan itu dimasukkan dalam draf Global Digital Compact, masih dalam perbincangan, yang akan diterima pakai pada Ahad di "Sidang Kemuncak Masa Depan."

Laporan itu menyokong penubuhan struktur "penyelarasan" sentuhan ringan dalam sekretariat PBB.

Tetapi ia berhenti daripada badan tadbir urus antarabangsa yang lengkap -- seperti yang dicari oleh Guterres -- berdasarkan model badan pemerhati nuklear PBB, IAEA.

"Jika risiko AI menjadi lebih serius, dan lebih tertumpu, mungkin perlu bagi Negara Anggota untuk mempertimbangkan institusi antarabangsa yang lebih teguh dengan kuasa pemantauan, pelaporan, pengesahan dan penguatkuasaan," kata laporan itu.

Penulis laporan itu mengakui bahawa disebabkan oleh kepesatan perubahan dalam AI, adalah sia-sia untuk cuba membuat senarai bahaya yang komprehensif yang dibentangkan oleh teknologi yang sentiasa berkembang.

Tetapi mereka memilih bahaya disinformasi untuk demokrasi, pemalsuan yang semakin realistik -- terutamanya yang lucah, serta evolusi senjata autonomi dan penggunaan AI oleh kumpulan penjenayah dan pengganas.

"Memandangkan kepantasan, autonomi dan kelegapan sistem AI, bagaimanapun menunggu ancaman muncul mungkin bermakna sebarang tindak balas akan datang terlambat," kata laporan itu. "Penilaian saintifik dan dialog dasar yang berterusan akan memastikan dunia tidak terkejut."

abd-gw/jgc

© Agence France-Presse