Proyek yang berakar pada kecerdasan buatan (AI) dengan cepat menjadi bagian integral dari paradigma teknologi modern, membantu proses pengambilan keputusan di berbagai industri, mulai dari keuangan hingga perawatan kesehatan. Namun, terlepas dari kemajuan yang signifikan, sistem AI bukannya tanpa kekurangan. Salah satu masalah paling kritis yang dihadapi AI saat ini adalah bias data, yang mengacu pada adanya kesalahan sistemik dalam kumpulan informasi tertentu yang mengarah pada hasil yang miring saat melatih model pembelajaran mesin.
Karena sistem AI sangat bergantung pada data; kualitas data input adalah yang paling penting karena segala jenis informasi yang terdistorsi dapat menyebabkan bias di dalam sistem. Hal ini selanjutnya dapat melanggengkan diskriminasi dan ketidaksetaraan dalam masyarakat. Oleh karena itu, sangat penting untuk memastikan integritas dan objektivitas data.
Misalnya, a artikel terbaru mengeksplorasi bagaimana gambar yang dihasilkan AI, terutama yang dibuat dari kumpulan data yang didominasi oleh sumber yang dipengaruhi Amerika, dapat salah menggambarkan dan menyeragamkan konteks budaya ekspresi wajah. Berikan beberapa contoh tentara atau pejuang dari berbagai periode sejarah, semuanya dengan senyum Amerika yang sama.
Selain itu, bias yang meluas tidak hanya gagal menangkap keragaman dan nuansa ekspresi manusia, tetapi juga berisiko menghapus sejarah dan makna budaya yang vital, sehingga berpotensi memengaruhi kesehatan mental global, kesejahteraan, dan kekayaan pengalaman manusia. Untuk mengurangi bias ini, penting untuk memasukkan kumpulan data yang beragam dan representatif ke dalam proses pelatihan AI.
Beberapa faktor berkontribusi terhadap data miring dalam sistem AI. Pertama, proses pengumpulan itu sendiri mungkin cacat, dengan sampel yang tidak mewakili populasi sasaran. Hal ini dapat menyebabkan underrepresentation atau overrepresentation dari kelompok tertentu. Kedua, bias sejarah dapat dilihat pada data pelatihan, yang dapat melanggengkan bias sosial yang ada. Misalnya, sistem AI yang dilatih pada data historis miring dapat terus memperkuat stereotip gender atau ras.
Terakhir, bias manusia dapat secara tidak sengaja diperkenalkan selama proses pelabelan data, karena pemberi label mungkin memiliki bias yang tidak disadari. Pemilihan karakteristik atau variabel yang digunakan dalam model AI dapat menyebabkan hasil yang miring, karena beberapa karakteristik mungkin lebih terkait dengan kelompok tertentu sehingga menyebabkan perlakuan yang tidak adil. Untuk mengurangi masalah ini, peneliti dan praktisi perlu menyadari potensi sumber objektivitas yang bias dan secara aktif bekerja untuk menghilangkannya.
Bisakah blockchain memungkinkan AI yang tidak bias?
Sementara teknologi blockchain dapat membantu dalam beberapa aspek menjaga netralitas sistem AI, itu sama sekali bukan obat mujarab untuk menghilangkan bias sama sekali. Sistem AI, seperti model pembelajaran mesin, dapat mengembangkan kecenderungan diskriminatif tertentu berdasarkan data yang mereka latih. Selain itu, jika data pelatihan berisi berbagai penyiapan, sistem kemungkinan akan mempelajarinya dan mereproduksinya dalam keluarannya.
Konon, teknologi blockchain dapat membantu mengatasi bias AI dengan caranya sendiri yang unik. Misalnya, ini dapat membantu memastikan asal dan transparansi data. Sistem terdesentralisasi dapat melacak asal data yang digunakan untuk melatih sistem AI, memberikan transparansi dalam proses pengumpulan dan agregasi informasi. Hal ini dapat membantu pemangku kepentingan mengidentifikasi potensi sumber bias dan mengatasinya.
Demikian pula, blockchain dapat memfasilitasi pembagian data yang aman dan efisien antara banyak pihak, memungkinkan pengembangan kumpulan data yang lebih beragam dan representatif.
Selain itu, dengan mendesentralisasikan proses pelatihan, blockchain dapat memungkinkan lebih banyak pihak untuk menyumbangkan informasi dan keahlian mereka, yang dapat membantu mengurangi pengaruh perspektif miring tunggal.
Mempertahankan netralitas objektif memerlukan perhatian yang cermat pada berbagai tahap pengembangan AI, termasuk pengumpulan data, pelatihan, dan evaluasi model. Selain itu, pemantauan dan pemutakhiran sistem AI secara terus-menerus sangat penting untuk mengatasi potensi kerusakan yang dapat timbul dari waktu ke waktu.
Untuk lebih memahami apakah teknologi blockchain dapat membuat sistem AI benar-benar netral, Cointelegraph menghubungi Ben Goertzel, pendiri dan CEO SingularityNET, sebuah proyek yang menggabungkan kecerdasan buatan dan blockchain.
Dalam pandangannya, konsep “objektivitas lengkap” tidak terlalu berguna dalam konteks sistem kecerdasan hingga yang menganalisis kumpulan data hingga.
“Apa yang dapat ditawarkan oleh sistem blockchain dan Web3 bukanlah objektivitas lengkap atau kurangnya bias, melainkan transparansi sehingga pengguna dapat dengan jelas melihat bias apa yang dimiliki sistem AI. Ini juga menawarkan konfigurasi terbuka sehingga komunitas pengguna dapat mengubah model AI untuk memiliki jenis bias yang mereka sukai dan secara transparan melihat jenis bias apa yang dicerminkannya, ”katanya.
Ia lebih lanjut menyatakan bahwa dalam bidang penelitian AI, “bias” bukanlah kata yang kotor. Sebaliknya, ini hanyalah indikasi dari bias sistem AI untuk mencari pola tertentu dalam data. Yang mengatakan, Goertzel mengakui bahwa distorsi buram yang dipaksakan oleh organisasi terpusat pada pengguna yang tidak menyadarinya, tetapi dipandu dan dipengaruhi oleh mereka, adalah sesuatu yang perlu diwaspadai orang. Dia berkata:
“Algoritme AI paling populer, seperti ChatGPT, buruk dalam hal transparansi dan pengungkapan biasnya. Jadi, bagian dari apa yang diperlukan untuk menangani masalah bias AI dengan benar adalah jaringan partisipatif terdesentralisasi dan model terbuka, bukan hanya matriks sumber terbuka tetapi bobot terbuka yang dilatih dan diadaptasi model dengan konten terbuka.
Demikian pula, Dan Peterson, chief operating officer Tenet, jaringan blockchain yang berfokus pada AI, mengatakan kepada Cointelegraph bahwa netralitas sulit untuk diukur dan bahwa beberapa metrik AI tidak dapat dibiaskan karena tidak ada garis yang dapat diukur ketika kumpulan data kehilangan netralitas. Dalam pandangannya, ini pada akhirnya bermuara pada perspektif di mana insinyur menarik garis, dan garis itu dapat berbeda dari orang ke orang.
“Konsep tentang sesuatu yang benar-benar ‘tidak memihak’ secara historis merupakan tantangan yang sulit diatasi. Sementara kebenaran mutlak dalam kumpulan data apa pun yang dimasukkan ke dalam sistem AI mungkin sulit untuk dijabarkan, yang dapat kami lakukan adalah memanfaatkan alat yang dibuat lebih mudah tersedia melalui penggunaan teknologi blockchain dan Web3, ”katanya.
Peterson mengatakan teknik berdasarkan sistem terdistribusi, verifikasi, dan bahkan bukti sosial dapat membantu kami merancang sistem AI yang “sedekat” dengan kebenaran absolut. “Namun, ini belum menjadi solusi siap pakai; teknologi yang sedang berkembang ini membantu kami bergerak maju dengan kecepatan sangat tinggi saat kami terus membangun sistem masa depan, ”katanya.
Melihat ke arah masa depan yang digerakkan oleh AI
Skalabilitas tetap menjadi perhatian signifikan dengan teknologi blockchain. Dengan meningkatnya jumlah pengguna dan transaksi, kemampuan solusi blockchain untuk menangani sejumlah besar data yang dihasilkan dan diproses oleh sistem AI dapat dibatasi. Selain itu, adopsi dan integrasi solusi berbasis blockchain ke dalam AI yang ada juga menimbulkan tantangan yang signifikan.
Terkini: Cryptocurrency di Eropa: ekonom memecah MiCA dan masa depan stablecoin
Pertama, kurangnya pemahaman dan keahlian dalam teknologi AI dan blockchain, yang dapat menghambat pengembangan dan penerapan solusi yang menggabungkan kedua paradigma secara efektif. Kedua, meyakinkan pemangku kepentingan tentang manfaat platform blockchain, terutama dalam hal memastikan transmisi data AI yang tidak bias, dapat menjadi tantangan, setidaknya pada awalnya.
Terlepas dari tantangan ini, teknologi blockchain memiliki potensi yang sangat besar dalam hal meratakan lanskap AI yang berubah dengan cepat. Dengan memanfaatkan karakteristik utama blockchain, seperti desentralisasi, transparansi, dan kekekalan, bias dalam pengumpulan, penanganan, dan pelabelan data dapat dikurangi, yang pada akhirnya mengarah pada sistem AI yang lebih adil. Oleh karena itu, akan menarik untuk melihat bagaimana masa depan terus berkembang mulai saat ini.