Teks yang Dihasilkan AI Semakin Umum — Inilah Mengapa Itu Buruk

Semakin sulit membedakan antara kalimat yang dihasilkan oleh kecerdasan buatan (AI) dan manusia.

Kabar baiknya adalah sebuah makalah baru menunjukkan bahwa manusia dapat membedakan antara teks yang dihasilkan AI dan teks yang ditulis manusia. Kemampuan untuk menentukan apakah komputer teknologi informasi online akan menjadi kritis ketika model bahasa besar seperti ChatGPT muncul, yang diprediksi banyak orang akan hampir menyentuh sudut kehidupan kita.

“Jika Anda menerima pesan teks yang menyatakan bahwa nenek Anda sangat membutuhkan dana untuk prosedur medis, Anda pasti ingin tahu apakah itu penipuan AI massal atau urusan keluarga.” Kentaro Toyamaprofesor informasi komunitas di ” Universitas Michigandan penulisGeek Heresy: Menyelamatkan Perubahan Sosial dari Kultus TeknologiDia memberi tahu Lifewire dalam wawancara email. Dan kami ingin mendengar momen manusia nyata, koneksi nyata, dari orang sungguhan, bukan mesin.”

Perbedaan antara Real dan ChatGPT

Peneliti dari University of Pennsylvania menulis makalah mereka dengan menganalisis data yang dikumpulkan menggunakan “Teks Asli atau Palsu?”, sebuah game pelatihan online. Peserta diminta untuk menunjukkan apakah mesin tersebut telah menghasilkan teks tertentu atau tidak. Tugas ini melibatkan mengklasifikasikan teks sebagai nyata atau palsu dan menilai tanggapan sebagai benar atau salah. Studi ini menemukan bahwa peserta mendapat skor yang jauh lebih baik daripada peluang acak.

“Metode kami tidak hanya membuat tugas lebih menarik, tetapi juga memberikan konteks pembelajaran yang lebih otentik,” kata Liam Duga, salah satu penulis studi tersebut, dalam n. rilis berita“Konten yang dihasilkan teks, seperti produk ChatGPT, dimulai dari cara yang berpusat pada manusia.”

Toyama mengatakan ada banyak alasan mengapa belajar membedakan antara teks yang dihasilkan dan tulisan manusia itu penting. Misalnya, guru mungkin ingin mengetahui apakah siswa mempresentasikan proyek dengan menulis sendiri atau dengan menulis sebagian atau seluruh teks melalui komputer. Universitas Vanderbilt baru-baru ini mencatat Sebuah email telah dikirim Ditulis oleh ChatGPT untuk menghubungkan komunitas mereka dengan tragedi Michigan State yang mengarahkan upaya kampus untuk inklusi. Reaksi cepat.

“Ada banyak hal lain seperti ini,” tambahnya. “Sebenarnya, saya percaya bahwa salah satu bentuk penting dari konstitusi AI adalah teks, gambar, audio, video, atau output kreatif lainnya yang dihasilkan oleh komputer dapat diberi label seperti itu.”

Melihat AI, Teks yang Dihasilkan

Toyama pesimis bahwa orang dapat secara konsisten menempatkan perbedaan antara teks yang dihasilkan AI dan yang dihasilkan manusia, mengatakan “dalam jangka panjang, hampir tidak mungkin karena AI akan menjadi lebih baik dan lebih baik.” Dia menunjuk ke eksperimen informal Hal ini menunjukkan bahwa bahkan guru ahli pun kesulitan membedakan tulisan siswa dari ChatGPT.

“Saya memiliki seorang kolega yang mengklaim bahwa saya telah melihat beberapa contoh kiriman ChatGPT di mana tulisan siswa tiba-tiba meningkat secara dramatis — tetapi ChatGPT dapat diarahkan pada tingkat keterampilan yang berbeda atau menimbulkan kesalahan,” tambahnya.

Komputer akan dapat mengidentifikasi jika teks tertentu dibuat oleh seseorang. Parag AroraCEO dari kweggSistem konten AI, dalam wawancara email dengan Lifewire, melaporkan bahwa penelitian sedang dilakukan untuk mengembangkan program yang dihasilkan oleh penulisan mesin.

“Pengklasifikasi AI yang diluncurkan oleh organisasi penelitian, termasuk OpenAI sendiri, terlihat menjanjikan,” tambahnya. “Terlepas dari kemajuan GPT, mereka tampaknya selalu selangkah lebih maju, dan berdasarkan sifat penelitian, pengklasifikasi selalu setidaknya satu generasi di belakang generator. Beberapa pekerjaan telah dilakukan untuk meninggalkan tanda tangan samar sebagai generator desain untuk setiap GPT, yang bisa menjadi langkah pasti menuju pemecahan masalah ini.”

Ada beberapa metode yang menggunakan teks buatan mesin sebagai titik; Robert BrandlCEO dari saksi instrumenkatanya dalam sebuah wawancara. Ini menunjukkan manfaat dari AI ChatGPT saat ChatGPT mencoba melihat jenis konten apa yang mereka buat untuk lebih mengenal mereka. Di antara kesalahannya adalah rumus struktur di mana kalimat dimulai dengan “Pertama” dan “Kedua” dll, dan kurangnya sarkasme atau humor dalam teks.

“Ketika AI terjadi, alat yang dirancang untuk menempatkan teks AI juga akan dipelajari,” tambahnya. “Memang, mungkin sampai pada titik di mana kita perlu bergantung pada alat ini untuk memahami kapan AI digunakan, yaitu, jika penerbit tidak secara terbuka mengungkapkan penggunaan AI.”