ITUDi bidang kecerdasan buatan, doomerisme sealami gema. Setiap perkembangan di kawasan ini, atau lebih tepatnya, setiap perkembangan yang dirasakan publik, segera memicu reaksi apokaliptik. Ketakutan itu wajar; Itu sebagian datang dari bagian otak kadal dari kita yang menolak semua yang baru dan aneh, dan sebagian lagi dari film-film yang telah mengajari kita selama seabad bahwa kecerdasan buatan akan berwujud dewa pemarah yang dapat melakukan apa pun yang diinginkan. menghancurkan umat manusia.
Baru-baru ini surat publik Seruan larangan kerja laboratorium AI selama enam bulan tentu saja tidak akan memberikan dampak terukur sedikitpun terhadap perkembangan kecerdasan buatan. Tapi itu mengubah diskusi: Setiap diskusi tentang kecerdasan buatan harus dimulai dengan kemungkinan kepunahan total umat manusia. Ini konyol dan, lebih buruk lagi, itu adalah alibi, pengalih perhatian dari bahaya nyata yang ditimbulkan oleh teknologi.
Hal terpenting untuk diingat tentang doomerisme teknologi secara umum adalah bahwa ini adalah bentuk periklanan, suatu bentuk hype. Ingat ketika WeWork ingin menghapus perdagangan real estat komersial? Ingat ketika crypto akan mengarah pada penghapusan bank sentral? Ingat ketika metaverse berhenti bertemu orang di kehidupan nyata? Lembah Silikon menggunakan kiamat untuk tujuan pemasaran: mereka memberi tahu Anda bahwa teknologi mereka akan mengakhiri dunia untuk menunjukkan betapa pentingnya mereka.
Saya telah bekerja dengan AI sejak 2017 dan melaporkan apa yang prasejarah di area ini. Selama waktu itu, saya mendengar dari sumber-sumber cerdas yang biasanya dapat diandalkan bahwa industri truk mendekati akhir dan bahwa China memiliki satu triliun parameter pemrosesan bahasa alami AI dengan kecerdasan manusia super. Saya pernah mendengar orang jenius – orang jenius sejati – mengatakan bahwa sekolah kedokteran harus berhenti mengajar radiologi karena semuanya akan segera diotomatisasi.
Salah satu alasan saya bosan dengan AI doomerisme adalah karena sekarang saya sudah tidak asing lagi – saya pernah mendengarnya sebelumnya. Agar tetap waras, saya harus berpegang pada dua prinsip: Saya tidak percaya sampai saya melihatnya. Begitu saya melihatnya, saya percaya.
Banyak insinyur kunci di bidang ini menikmati doomerisme AI; itu tidak diragukan lagi benar. Tapi salah satu ciri khas zaman kita adalah para insinyur — yang, menurut pengalaman saya, tidak memiliki sedikit pun pelatihan tentang humaniora, atau bahkan menyadari bahwa masyarakat dan budaya layak dipelajari — sama sekali tidak tahu bagaimana penemuan mereka berinteraksi. dengan dunia. Salah satu penandatangan surat terbuka yang paling menonjol adalah Elon Musk, investor awal di OpenAI. Dia teknisi yang brilian. Namun jika Anda ingin tahu betapa sedikitnya pemahamannya tentang manusia dan hubungannya dengan teknologi, kunjungi Twitter selama lima menit.
Bukan berarti tidak ada penyebab nyata yang perlu dikhawatirkan terkait AI; Ini hampir selalu tentang sesuatu selain AI. Ketakutan terbesar – bahwa kecerdasan umum buatan akan mengambil alih dunia – bahkan tidak memenuhi syarat sebagai fiksi ilmiah. Ketakutan ini bersifat religius.
Komputer tidak memiliki kemauan. Algoritma adalah sekumpulan instruksi. Sifat-sifat yang muncul dalam “emergent properties” kecerdasan buatan harus ditemukan dan ditetapkan oleh manusia. Antropomorfisasi mesin pencocokan pola statistik adalah bercerita; Ini adalah film yang berlangsung dalam kesadaran kolektif, tidak lebih. Menonaktifkan ChatGPT bukanlah pembunuhan. Insinyur yang menyewa pengacara untuk chatbot mereka sama konyolnya dengan kedengarannya.
Ketakutan yang jauh lebih nyata – disuarakan oleh kritikus kecerdasan buatan yang lebih substansial – adalah bahwa AI akan memperkuat informasi yang salah dan, melalui proses otomatisasi, mengarah pada pelubangan kelas menengah. Apakah saya benar-benar perlu menunjukkan bahwa kedua masalah tersebut mendahului kecerdasan buatan selama beberapa dekade dan lebih bersifat politis daripada teknologi?
Meskipun AI dapat membuatnya sedikit lebih mudah untuk menghasilkan konten palsu, masalah dengan informasi yang salah tidak pernah terjadi pada satu generasi, tetapi pada distribusi. Ruang politik sudah penuh dengan penipuan, dan sulit membayangkan bagaimana AI bisa memperburuk keadaan. Pada kuartal pertama 2019, Facebook harus menghapus 2,2 miliar profil palsu; AI tidak ada hubungannya dengan itu. Tanggapan terhadap degradasi jaringan informasi kami – dari pemerintah dan industri media sosial – telah mengangkat bahu besar-besaran dan banyak pembicaraan Amandemen Pertama kuno.
Mengatur AI sangat bermasalah; Ini tentang memahami yang tak terduga dan membuat transparan yang pada dasarnya buram. Tapi kita sudah tahu tentang konsekuensi sosial dari algoritme media sosial dan telah melakukannya selama lebih dari satu dekade. Kami tidak perlu berfantasi atau memprediksi dampak Instagram. Penelitian ini konsisten dan menunjukkan bahwa teknologi dikaitkan dengan tingkat depresi, kecemasan, dan menyakiti diri sendiri yang lebih tinggi pada anak-anak. Namun kita tidak melakukan apa-apa. Pembicaraan samar tentang memperlambat AI tidak menyelesaikan apa pun; Rencana konkret untuk mengatur media sosial bisa jadi sudah ada.
Adapun kekosongan kelas menengah, pada tahun 2012 ketidaksetaraan di Amerika Serikat mencapai tingkat tertinggi sejak 1774. AI mungkin bukan masalahnya. Masalahnya bisa terletak pada tatanan ekonomi yang mendasari yang dimasuki AI. Sekali lagi, pembicaraan samar tentang kiamat AI adalah cara mudah untuk menghindari pembicaraan tentang konsumsi diri kapitalisme dan pilihan yang sangat sulit yang ditimbulkan oleh konsumsi diri.
Anda dapat mengatakan bahwa Doomerisme hanyalah sensasi lain dari fakta bahwa solusinya selalu sangat kabur. Surat terbuka itu menyerukan larangan enam bulan. Apa sebenarnya yang Anda bayangkan dalam enam bulan ini? Para insinyur tidak memikirkan AI? Tidak bisakah pengembang menemukan cara untuk menggunakannya? Doomerisme menyukai krisisnya yang numinous, lebih disukai tidak terpecahkan. AI sangat tepat.
Saya baru-baru ini menulis sebuah novel menggunakan AI: The Death of an Author. Saya tidak ingin mengatakan bahwa pengalaman itu tidak mengganggu. Sebenarnya itu cukup aneh. Rasanya seperti saya berhasil membuat alien untuk menulis, alien yang merupakan gabungan dari bahasa kami. Novel itu sendiri, bagi saya, tentu memiliki daya hipnotis namun terpisah – bahasa yang tidak manusiawi yang masuk akal. Tapi pengalaman itu tidak membuatku takut. Itu mengagumi saya. Mari berdiam sejenak dalam kekaguman sebelum kita beralih ke rasa takut.
Jika kita harus memikirkan AI berdasarkan film, dapatkah kita setidaknya melakukan Star Trek daripada Terminator 2? Sesuatu yang aneh telah muncul di langit – mari kita menjadi lebih sedikit Jean-Luc Picard dan sedikit lebih sedikit Klingon dalam jawaban kita. Kebenaran tentang AI adalah bahwa tidak seorang pun – baik insinyur yang membuatnya maupun pengembang yang mengubahnya menjadi produk – sepenuhnya memahami apa itu, apalagi konsekuensi apa yang akan ditimbulkannya. Sebelum kita memburunya dari langit, mari kita lihat seperti apa alien ini. Mungkin itu bagus.