Dalam beberapa tahun terakhir, kemajuan dalam bidang kecerdasan buatan (AI) telah mencapai tahap yang luar biasa. Dari model generatif hingga agen autonom, syarikat teknologi utama terus mendorong pengembangan yang semakin canggih. Namun, di tengah kejayaan ini, syarikat AI Anthropic menyeru dunia untuk mengambil jeda sejenak dalam pembangunan AI, dengan mengambil kira risiko yang mungkin timbul jika teknologi ini berkembang terlalu cepat.
Menurut laporan terkini, Anthropic, yang dikenali dengan model AI mereka seperti Claude, menekankan perlunya pertemuan global untuk membahas kebijakan yang mengawal pengembangan AI. Mereka bimbang bahawa AI yang semakin canggih mungkin melebihi kemampuan manusia untuk mengawalnya, terutama tanpa kerangka yang jelas untuk memastikan penggunaan yang etis dan selamat.
Reaksi terhadap usulan ini beragam. Sebahagian pihak melihat jeda ini sebagai langkah penting untuk menghindari risiko tak terduga, sementara yang lain khuatir ia boleh menghambat inovasi yang membawa manfaat besar.
Pertemuan global yang diusulkan ini melibatkan bukan sahaja syarikat teknologi, tetapi juga pemerintah, akademisi, dan organisasi antarabangsa. Tujuannya adalah untuk mencari kesepakatan dalam mengatur pengembangan AI secara bertanggungjawab dan beretika.