Apakah AI merupakan ancaman eksistensial? Beberapa ahli mengatakan peringatan baru itu berlebihan

Perdebatan bercampur antara mereka yang menganggap kecerdasan buatan (AI) dapat menghancurkan umat manusia dan lainnya yang melihat teknologi sebagai pengolah kata superlatif.

Kelompok itu memperingatkan para pemimpin industri minggu ini AI suatu hari nanti dapat menimbulkan ancaman eksistensial bahaya manusia dan sosial harus dianggap setara dengan perang nuklir. Tetapi ahli lain mengangkat bahu sebagai tanggapan.

“Ketika tergoda untuk berspekulasi tentang mesin AI manusia super atau mesin berbahaya yang membawa kiamat, kenyataannya adalah kita belum berada di tingkat kecanggihan itu.” Adnan Masudkepala arsitek teknologi AI UST katanya kepada Lifewire dalam wawancara email. “AI, seperti yang kita kenal sekarang, tidak menimbulkan ancaman eksistensial. Kita masih memiliki akses terhadap keputusan seekor anjing untuk melakukan sesuatu, apalagi kecerdasan manusia.”

Kasus Bencana AI

Proposal baru-baru ini oleh beberapa pemimpin AI menunjukkan persamaannya antara takdir dan kubu kegelapansurat tersebut ditandatangani oleh lebih dari 350 eksekutif, peneliti, dan insinyur yang bekerja di AI, termasuk penulis di bidang tersebut seperti Geoffrey Hinton Dan Joshua Bengio,

“Mengurangi risiko kepunahan AI harus menjadi prioritas global bersama dengan risiko sosial lainnya, seperti pandemi dan perang nuklir,” bunyi salah satu pernyataan yang dikeluarkan oleh manifesto tersebut. Pusat Keamanan AIpesanan tidak menguntungkan.

Proposal tersebut dirilis ke pemerintah di seluruh dunia untuk sistem AI *bahkan banyak orang dalam industri AI mengatakan Semacam AI * atau untuk sementara menghentikan pengembangan teknologi sementara rencana keselamatan dapat dibuat.

Tapi Masood termasuk di antara mereka yang mengatakan bahaya yang ditimbulkan oleh AI meningkat.

“Saat kami membandingkan AI dengan ancaman nyata seperti pandemi atau perang nuklir, itu sangat kontras,” tambahnya. “Ancaman eksistensial yang kita hadapi terkait dengan kesehatan fisik kita, perubahan iklim, kemiskinan ekstrem, dan perang. Menyarankan bahwa AI, dalam kondisinya saat ini, menimbulkan risiko yang sama berarti menciptakan kesetaraan yang salah.

Risiko AI vs. Imbalan AI

Dia juga mengenali penguat AI seperti Masood AI bukannya tanpa risiko, menunjukkan bahwa ada kasus perlakuan tidak adil algoritmik atau teknologi AI untuk meringankan kampanye disinformasi. Misalnya, dia mengutip insiden baru-baru ini yang melibatkan alat AI memberikan keterangan hukum palsu dalam pengajuan pengadilan yang menunjukkan bahwa AI tidak sempurna, dan informasi yang dihasilkannya perlu diperlakukan dengan tingkat pengawasan yang sama seperti informasi dari sumber lain.

“Tapi bahaya ini, meski hebat, tidak,” katanya. “Ada risiko yang dapat diatasi melalui pengujian yang cermat, tangguh, dan AI yang bertanggung jawab. Kita dapat menggunakan AI untuk mengelola dan memitigasinya. Namun sekali lagi, ini bukanlah risiko – ini adalah bagian dari proses berkelanjutan untuk mengintegrasikan teknologi baru ke dalam media sosial kita. struktur.”

Pakar lain menunjukkan lebih banyak bahaya biasa dari AI daripada kepunahan manusia, seperti kemungkinan pengembangan chatbot dapat mengarah pada penyebaran informasi pribadi. David Ottenheimerpresiden kepercayaan dan etika digital untuk menyelaDia mengatakan dalam email bahwa ChatGPT baru-baru ini mengklarifikasi bahwa mereka tidak menggunakan data yang dikirimkan oleh pelanggan untuk menginstal atau meningkatkan modelnya kecuali mereka ikut serta.

“Terlambat ini menunjukkan kesenjangan disorganisasi yang serius dan pengabaian yang hampir buta terhadap perencanaan dan pelaksanaan data pengadaan,” tambahnya. “Seolah-olah janji tidak mendengar semua orang berteriak dari gunung bahwa pengajaran yang aman sangat penting untuk masyarakat yang sehat.”

Banyak ahli berpendapat bahwa potensi risiko AI lebih besar daripada manfaat yang ditawarkannya. Misalnya, AI digunakan dalam perawatan kesehatan untuk mengembangkan vaksin dan meningkatkan diagnosis.

“AI memegang janji besar untuk membantu memajukan tujuan empat kali lipat, pengalaman pasien, kesehatan masyarakat, pengurangan biaya, dan kepedulian terhadap kesejahteraan masyarakat.” Christina Swisherpemimpin dari Proyek Ronin, sebuah tim yang menggunakan teknologi untuk memecahkan masalah klinis yang disebut alamat email. “Pasien selalu berpikir dan menunggu, dan kami memiliki sistem perawatan kesehatan yang hanya dapat memperoleh banyak manfaat jika kami dapat menggunakan AI yang bijaksana dengan tetap menjaga keselamatan dan etika di setiap tahap siklus hidup sistem AI.”