Lebih dari 1.000 pakar, peneliti, dan pendukung kecerdasan buatan telah bergabung dalam seruan untuk segera menghentikan pembuatan AI “besar” selama setidaknya enam bulan untuk lebih memahami kemampuan dan ancaman dari Sistem seperti GPT-4 dapat diselidiki dan dikurangi dengan baik.
Tuntutan itu dituangkan dalam surat terbuka yang ditandatangani para pemain AI besar Elon Musk, salah satu pendiri OpenAI, laboratorium penelitian yang bertanggung jawab atas ChatGPT dan GPT-4; Emad Mostaque, pendiri Stability AI yang berbasis di London; dan Steve Wozniak, salah satu pendiri Apple.
Tanda tangannya juga termasuk insinyur dari DeepMind, Microsoft, Meta, Google dan Amazon, serta akademisi termasuk ilmuwan kognitif Gary Marcus.
“Dalam beberapa bulan terakhir, laboratorium AI telah berlomba untuk mengembangkan dan menyebarkan pikiran digital yang semakin kuat yang tidak dapat dipahami, diprediksi, atau dikendalikan oleh siapa pun – bahkan pembuatnya – tidak dapat diandalkan,” surat itu berbunyi. “Sistem AI yang kuat hanya boleh dikembangkan ketika kami yakin bahwa dampaknya positif dan risikonya dapat dikelola.”
Para penulis, yang dikoordinasikan oleh wadah pemikir “jangka panjang” Future of Life Institute, mengutip salah satu pendiri OpenAI Sam Altman untuk membenarkan klaim mereka. Dalam posting Februari, Altman menulis, “Pada titik tertentu, mungkin penting untuk mendapatkan verifikasi independen sebelum memulai pelatihan sistem masa depan, dan untuk upaya paling maju untuk menyepakati tingkat pertumbuhan yang digunakan untuk membuat model baru.” untuk membatasi daya komputasi.”
“Kami setuju,” lanjut surat itu. “Titik itu adalah sekarang.”
Jika peneliti tidak secara sukarela menghentikan pekerjaan mereka pada model AI yang mengungguli GPT-4, tolok ukur surat untuk model “besar”, maka “pemerintah harus turun tangan,” kata para penulis.
“Ini tidak berarti jeda dalam pengembangan AI secara umum, hanya mundur dari perlombaan berbahaya ke model kotak hitam yang lebih besar dan tidak dapat diprediksi dengan kemampuan baru,” tambah mereka.
Sejak GPT-4 dirilis, OpenAI telah menambahkan kemampuan ke sistem AI dengan “plug-in” yang memberikannya kemampuan untuk mencari tanggal di web terbuka, merencanakan liburan, dan bahkan memesan bahan makanan. Tetapi perusahaan harus berurusan dengan “kelebihan kapasitas”: masalah bahwa sistemnya sendiri lebih kuat daripada yang disadarinya saat dirilis.
Saat para peneliti bereksperimen dengan GPT-4 selama beberapa minggu dan bulan mendatang, mereka kemungkinan akan menemukan cara baru untuk “menghidupkan” sistem yang meningkatkan kemampuannya untuk memecahkan masalah yang sulit. Penemuan baru-baru ini adalah bahwa AI terasa lebih akurat dalam menjawab pertanyaan saat pertama kali diminta melakukannya “dengan gaya ahli yang berpengetahuan luas”.
Seruan untuk peraturan yang ketat sangat kontras dengan buku putih andalan pemerintah Inggris tentang peraturan AI, yang dirilis pada hari Rabu, yang tidak mengandung kekuatan baru. Sebaliknya, kata pemerintah, fokusnya adalah mengoordinasikan regulator yang ada seperti Otoritas Persaingan dan Pasar dan Eksekutif Kesehatan dan Keselamatan, yang menawarkan lima “prinsip” yang harus mereka pikirkan tentang AI.
“Pendekatan baru kami didasarkan pada prinsip yang kuat sehingga orang dapat memiliki kepercayaan pada perusahaan untuk membuka teknologi masa depan ini,” kata Sekretaris Sains, Inovasi, dan Teknologi Michelle Donelan.
setelah promosi buletin
Institut Ada Lovelace termasuk di antara mereka yang mengkritik pengumuman tersebut. “Pendekatan Inggris memiliki kesenjangan yang signifikan yang dapat membuat bahaya tidak tertangani dan gagal dalam kaitannya dengan urgensi dan skala tantangan,” kata Michael Birtwistle, yang bekerja di lembaga pemikir data dan hukum dan kebijakan AI yang bertanggung jawab.
“Garis waktu pemerintah selama satu tahun atau lebih untuk implementasi akan menghindari risiko sambil mengintegrasikan sistem AI dengan cepat ke dalam kehidupan kita sehari-hari, dari mesin pencari hingga perangkat lunak office suite.”
Buruh bergabung dengan kritik, dengan Sekretaris Budaya Bayangan Lucy Powell menuduh Pemerintah “meninggalkan sisi tawar-menawar mereka”.
“Perlu waktu berbulan-bulan, jika tidak bertahun-tahun, sebelum peraturan ini mulai berlaku,” katanya. “Sementara itu, ChatGPT, Bard Google, dan banyak AI lainnya telah menjadi bagian tak terpisahkan dari kehidupan kita sehari-hari.
“Pemerintah berisiko memperbesar celah dalam rezim peraturan kami yang ada dan menambah kompleksitas yang luar biasa bagi bisnis dan warga negara, sambil melemahkan fundamental tersebut dengan tagihan data mereka yang akan datang.”