Salah satu profesor di garis depan kecerdasan buatan mengatakan para menteri tidak berbuat cukup untuk melindungi diri dari bahaya mesin super cerdas di masa depan.
Dalam kontribusi terbaru untuk perdebatan tentang keamanan percepatan pengembangan AI, Prof Stuart Russell mengatakan kepada Times bahwa meskipun ada kekhawatiran bahwa teknologi tersebut dapat lepas kendali dan membahayakan masa depan umat manusia, pemerintah enggan untuk mengatur industri tersebut.
Russell, seorang dosen di UC Berkeley dan mantan penasihat pemerintah AS dan Inggris, mengatakan kepada Times bahwa dia khawatir ChatGPT, yang dirilis pada bulan November, dapat menjadi bagian dari mesin super cerdas yang tidak dapat dibatasi.
“Bagaimana Anda mempertahankan kekuasaan atas makhluk yang lebih kuat dari diri Anda – selamanya?” tanyanya. “Jika Anda tidak memiliki jawaban, berhentilah meneliti. Sesimpel itu.
“Taruhannya tidak bisa lebih tinggi: jika kita tidak mengendalikan peradaban kita sendiri, kita tidak bisa menentukan apakah kita akan terus ada.”
Setelah rilis ChatGPT tahun lalu, yang digunakan untuk menulis prosa dan sudah mencemaskan dosen dan guru tentang penggunaannya di universitas dan sekolah, perdebatan tentang keamanan jangka panjangnya semakin intensif.
Pendiri Tesla dan pemilik Twitter Elon Musk dan salah satu pendiri Apple Steve Wozniak, bersama dengan 1.000 pakar AI, menulis surat untuk memperingatkan bahwa “perlombaan pelarian” sedang terjadi di laboratorium AI, dan memintanya jeda dalam menciptakan AI raksasa.
Surat itu memperingatkan bahwa laboratorium “mengembangkan pikiran digital yang semakin kuat yang tidak seorang pun, bahkan penciptanya, dapat memahami, memprediksi, atau mengendalikannya dengan andal.”
Ada juga kekhawatiran tentang penerapan yang lebih luas. Komite House of Lords minggu ini mendengar bukti dari Sir Lawrence Freedman, seorang profesor ilmu perang, yang berbicara tentang kekhawatiran tentang bagaimana AI dapat digunakan dalam perang di masa depan.
Saingan Google, Bard, akan muncul di UE akhir tahun ini.
Russell sendiri sebelumnya bekerja untuk PBB mengawasi Test Ban Treaty dan diminta untuk bekerja dengan Whitehall awal tahun ini. Dia berkata: “Departemen Luar Negeri … berbicara dengan banyak orang dan mereka menyimpulkan bahwa hilangnya kendali adalah hasil yang masuk akal dan sangat signifikan.”
setelah iklan buletin
“Dan kemudian pemerintah keluar dengan pendekatan peraturan yang mengatakan, ‘Tidak ada yang bisa dilihat di sini… kita akan menyambut industri AI seperti kita berbicara tentang membuat mobil atau semacamnya.'”
“Saya pikir kami salah sejak awal ketika kami begitu tertarik dengan gagasan untuk memahami dan menciptakan kecerdasan sehingga kami tidak memikirkan untuk apa kecerdasan itu,” katanya.
“Jika satu-satunya tujuan bukan untuk menguntungkan orang, Anda sebenarnya menciptakan pesaing – dan itu jelas bodoh.”
“Kami tidak menginginkan sistem yang meniru perilaku manusia… Anda pada dasarnya melatih mereka untuk memiliki tujuan seperti manusia dan mengejar tujuan tersebut.”
“Orang hanya bisa membayangkan betapa dahsyatnya jika memiliki sistem yang sangat kuat mengejar tujuan seperti itu.”