Rishi Sunak telah mengumumkan bahwa Inggris akan melakukannya Kami mengadakan pertemuan puncak global tentang keamanan dalam kecerdasan buatan di musim gugur karena ketakutan meningkat bahwa kemajuan teknologi yang cepat bisa terjadi untuk keluar dari kendali.
Masalah keamanan meningkat setelah terobosan dalam AI generatif, yang dapat menghasilkan teks, gambar, dan bahkan suara persuasif sesuai perintah, di antara para eksekutif teknologi seperti Elon Musk adalah salah satu yang peduli. Berikut adalah apa yang bisa dicapai oleh KTT tersebut.
Apa tujuan dari KTT?
Perdana Menteri telah mengubah nada bicaranya tentang masalah AI dalam beberapa minggu terakhir. Dia terlalu optimis tentang peluang yang akan muncul dan sekarang mulai membicarakannya “Risiko Eksistensial”.
Sunak mencoba memposisikan Inggris sebagai pusat alami untuk upaya pengaturan industri dalam skala global, yang dapat menjembatani AS dan China dan menawarkan alternatif dari apa yang dilihat beberapa orang sebagai pendekatan UE yang keras kepala.
Pemerintah mengatakan ini akan menjadi “KTT global besar pertama tentang keamanan AI”. Pertimbangkan risiko yang dibawa oleh teknologi dan diskusikan bagaimana mereka dapat dimitigasi melalui “langkah-langkah yang terkoordinasi secara internasional”.
Apakah diperlukan pendekatan yang terkoordinasi secara internasional?
Pakar industri telah dan telah menyatakan keprihatinan tentang AI peringatan tentang bahaya yang ditimbulkannya. Elon Musk adalah salah satu dari lebih dari 50.000 tanda tangan pada sebuah surat Pada bulan Maret, itu menyerukan jeda segera dalam pengembangan AI “besar” dan penciptaan “sistem tata kelola AI yang kuat.”
Namun, kekhawatiran tentang kemungkinan ancaman eksistensial dari sistem yang tidak dapat dikendalikan oleh campur tangan manusia tidaklah universal. Banyak orang di industri teknologi berpendapat bahwa fokusnya harus lebih cepat, berfokus, misalnya, pada potensi AI generatif yang dapat memberikan peniruan teks, gambar, dan ucapan yang masuk akal yang dapat menyebabkan disinformasi yang tidak stabil. pada pemilu.
Seperti apa kerangka kerja global itu?
Perjanjian Non-Proliferasi Senjata Nuklir yang ditengahi PBB, yang mulai berlaku pada tahun 1970, adalah contoh upaya global untuk mengurangi ancaman eksistensial. Itu merawat, yang ditandatangani oleh 191 negara, mewajibkan negara yang memiliki senjata nuklir untuk tidak membantu mereka yang tidak memperoleh atau membuat senjata nuklir. Badan Energi Atom Internasional memantau kepatuhan melalui inspeksi. Perjanjian itu juga mempromosikan penyebaran penggunaan energi nuklir secara damai.
Itu Surat yang menyerukan jeda enam bulan dalam pengembangan AI memberikan wawasan tentang komponen yang mungkin dari kerangka kerja semacam itu. Ini membutuhkan regulator khusus, pendanaan publik untuk penelitian keamanan, dan sistem yang kuat untuk memantau dan melacak.
Akankah kerangka seperti senjata nuklir dengan AI berhasil?
Seperti halnya senjata nuklir, teknologi yang harus dimiliki kerangka kerja semacam itu sudah ada dan sedang menyebar. Fenomena chatbot ChatGPT mencapai 100 juta pengguna dalam waktu dua bulan setelah peluncurannya dan gambar palsu Paus yang sekarang terkenal memakai jaket Balenciaga telah menggarisbawahi kekuatan AI generatif untuk menipu.
Salah satu insinyur Google memperingatkan bulan lalu bahwa perusahaan dapat melakukannya Kalah dengan teknologi AI sumber terbuka. Pengembang semacam itu membebaskan pekerjaan mereka bagi siapa saja untuk digunakan, ditingkatkan, atau diadaptasi sesuka mereka, mempersulit kerangka kerja untuk mengekang penggunaan model sumber terbuka.
setelah iklan buletin
China kemungkinan akan dikecualikan dari KTT Inggris, yang terbuka untuk perusahaan teknologi dan “negara yang berpikiran sama”. Hal ini menunjukkan bahwa tidak ada teknologi global dan pembangkit tenaga AI yang akan terlibat dalam kerangka kerja internasional untuk menetapkan pedoman pengembangan AI.
Apa yang sudah terjadi dalam regulasi AI?
UE telah dan sedang membuat kemajuan yang signifikan di bidang ini mengusulkan undang-undang Ini akan bertindak sebagai penentu kecepatan untuk regulasi AI dan mengkonfirmasi status blok tersebut sebagai regulator teknologi terkemuka.
AI Inggris kertas putih menetapkan seperangkat prinsip yang harus dipatuhi industri, tetapi menawarkan sedikit panduan khusus tentang cara mengaturnya. Para menteri mengecewakan beberapa pakar dengan menentang gagasan membuat regulator baru yang hanya berfokus pada AI.
G7 telah setuju untuk membentuk forum antar pemerintah yang disebut Proses AI Hiroshima untuk membahas masalah seputar alat yang berkembang pesat.