TBeberapa bulan terakhir ini merupakan yang paling menyenangkan selama 17 tahun saya bekerja dengan kecerdasan buatan. Di antara banyak kemajuan lainnya, ChatGPT OpenAI — sejenis AI yang dikenal sebagai model bahasa besar — memecahkan rekor pada bulan Januari untuk menjadi aplikasi konsumen dengan pertumbuhan tercepat sepanjang masa. untuk mencapai 100 juta pengguna dalam dua bulan.
Tidak ada yang tahu persis apa yang akan terjadi pada AI selanjutnya. Terlalu banyak yang terjadi, di depan terlalu banyak, di balik pintu tertutup terlalu banyak. Namun, kita tahu bahwa AI sekarang ada di tangan dunia dan akibatnya dunia kemungkinan besar akan berubah.
Potensi transformatif ini berasal dari fakta bahwa AI adalah teknologi serba guna yang adaptif dan otonom, mengekang beberapa keajaiban yang membuat manusia membentuk kembali Bumi.
AI adalah salah satu dari sedikit teknologi praktis yang memungkinkan kami mengubah ekonomi grosir kami untuk mencapai nol bersih. Misalnya, karyawan dan saya telah menggunakan AI untuk memprediksi sumber energi terbarukan yang terputus-putus (seperti matahari, pasang surut, dan angin), mengoptimalkan penempatan pengisi daya EV untuk akses yang sama, serta mengelola dan mengontrol baterai dengan lebih baik.
Bahkan jika AI menghasilkan keuntungan ekonomi yang besar, mungkin ada kerugian bagi sebagian orang. AI saat ini digunakan untuk mengotomatiskan beberapa pekerjaan copywriter, insinyur perangkat lunak, dan bahkan model (profesi yang saya dan ekonom Carl Frey lakukan). diperkirakan pada 2013 dengan probabilitas 98% untuk otomatisasi).
Sebuah studi oleh OpenAI memperkirakan bahwa hampir satu dari lima pekerja AS dapat melihat setengah dari tugas mereka dapat diotomatisasi melalui model bahasa yang besar. Tentu saja, AI kemungkinan akan menciptakan lapangan kerja juga, tetapi banyak pekerja mungkin masih menghadapi kesulitan dan pemotongan gaji yang berkelanjutan – misalnya, pengemudi taksi di London telah mengalami pemotongan gaji sekitar 10% setelah peluncuran Uber.
AI juga menawarkan alat baru yang mengkhawatirkan untuk propaganda. Menurut Amnesty International, algoritme Meta secara signifikan berkontribusi pada kekejaman tahun 2017 yang dilakukan oleh militer Myanmar terhadap orang-orang Rohingya dengan mempromosikan ujaran kebencian. Bisakah demokrasi kita menahan gelombang disinformasi yang ditargetkan?
Saat ini, AI buram, tidak dapat dipercaya, dan sulit dikendalikan—cacat yang telah dan akan menyebabkan kerusakan. AI telah menyebabkan salah tangkap (seperti Michael Williams, salah tersirat oleh program pengawasan AI, ShotSpotter), algoritme rekrutmen seksis (seperti Amazon). dipaksa untuk mengakui pada tahun 2018) dan penghancuran ribuan nyawa (otoritas pajak Belanda). dituduh salah Ribuan, seringkali dari etnis minoritas, untuk penipuan keuntungan).
Mungkin yang paling mengkhawatirkan, AI dapat mengancam kelangsungan hidup kita sebagai spesies. Dalam survei tahun 2022 (walaupun dengan kemungkinan bias seleksi), 48% peneliti AI percaya AI memiliki peluang signifikan (lebih dari 10%) untuk memusnahkan manusia. Pertama-tama, kemajuan AI yang cepat dan tidak pasti dapat membahayakan keseimbangan perdamaian global. Misalnya, drone bawah air yang dibantu AI, yang memiliki kemampuan terbukti untuk menemukan kapal selam nuklir, dapat membuat kekuatan militer berpikir bahwa mereka dapat meluncurkan serangan nuklir pertama yang berhasil.
Jika menurut Anda AI tidak akan pernah cukup pintar untuk mengambil alih dunia, harap perhatikan bahwa dunia baru saja diambil alih oleh virus corona sederhana. Artinya, cukup banyak orang yang memiliki minat yang cukup (mis. “Saya harus pergi bekerja dengan batuk ini atau saya tidak dapat menghidupi keluarga saya”) dengan kepentingan patogen yang jelas berbahaya yang kita timbulkan pada Sars -CoV- 2 membunuh 20 juta orang dan melumpuhkan puluhan juta lainnya. Artinya, dipandang sebagai spesies invasif, AI dapat memiskinkan atau bahkan memusnahkan umat manusia dengan awalnya beroperasi di dalam institusi yang ada.
Misalnya, pengambilalihan AI dapat dimulai dengan perusahaan multinasional menggunakan datanya dan AI untuk menemukan celah dalam aturan, mengeksploitasi pekerja, menipu konsumen, dan mendapatkan pengaruh politik hingga seluruh dunia jatuh di bawah kekuasaan mesin birokrasinya. .
Apa yang dapat kita lakukan tentang semua risiko ini? Ya, kami membutuhkan strategi tata kelola baru yang berani untuk mengatasi risiko dan memaksimalkan potensi manfaat AI – misalnya, kami ingin memastikan bahwa beban peraturan yang kompleks tidak hanya untuk perusahaan terbesar. Upaya tata kelola AI saat ini terlalu ringan (seperti pendekatan peraturan Inggris) atau terlalu lambat (seperti undang-undang AI UE, yang telah membutuhkan waktu dua tahun untuk dikembangkan, delapan kali waktu yang dibutuhkan ChatGPT untuk menumbuhkan 100 juta pengguna untuk mencapai).
Kita membutuhkan mekanisme kerja sama internasional untuk mengembangkan prinsip dan standar bersama dan menghindari “perlombaan ke bawah”. Kita perlu menyadari bahwa AI mencakup banyak teknologi berbeda dan oleh karena itu memerlukan banyak aturan berbeda. Yang terpenting, meskipun kita mungkin tidak tahu persis apa yang akan terjadi selanjutnya di AI, kita harus mulai mengambil tindakan pencegahan yang tepat sekarang.
-
Michael Osborne adalah Profesor Pembelajaran Mesin di Universitas Oxford dan salah satu pendiri pengecoran pikiran