Pengguna Reddit mengira mereka sedang memperdebatkan orang sungguhan. Sebaliknya, mereka adalah subjek yang tidak disadari dalam studi AI rahasia, dan mereka tidak senang karenanya.
Para peneliti dari University of Zurich diam -diam menjalankan eksperimen AI Reddit di R/Changemyview, salah satu komunitas platform paling populer. Mereka menggunakan model bahasa besar untuk menghasilkan komentar yang dipersonalisasi yang ditujukan untuk mempengaruhi pendapat pengguna, tanpa memberi tahu siapa pun.
Lebih buruk lagi, AI membuat identitas palsu, menyamar sebagai segalanya mulai dari penasihat trauma hingga aktivis politik, semuanya sambil menyesuaikan argumen mereka berdasarkan sejarah reddit pengguna. Setelah studi selesai, para peneliti menjangkau moderator masyarakat untuk memulai “tanya jawab” dengan masyarakat.
Cukuplah untuk mengatakan, moderator R/ChangemyView sangat marah, menuduh para peneliti melanggar berbagai aturan komunitas, termasuk aturan yang melarang penggunaan AI yang dirahasiakan dan akun otomatis. Mereka mengajukan keluhan formal ke University of Zurich dan menuntut hasil penelitian tidak pernah melihat cahaya hari.
Reddit sendiri juga belum menahan diri, dengan kepala pejabat hukum perusahaan menyebut eksperimen Reddit AI “sangat salah baik pada tingkat moral dan hukum.” Semua akun yang terkait dengan proyek ini dilarang secara permanen, dan Reddit bahkan mencari beberapa tindakan hukum sehubungan dengan penelitian ini.
Para peneliti mencoba mempertahankan tindakan mereka di pos Reddit yang panjang, mengatakan penelitian ini berisiko rendah dan dapat membantu komunitas online bertahan melawan kampanye AI jahat. Tetapi banyak redditor tidak membelinya. Seperti yang ditunjukkan oleh moderator, mempelajari data Reddit adalah satu hal; diam -diam memanipulasi percakapan nyata adalah hal lain.
Kejatuhan sudah memaksa perubahan. University of Zurich mengatakan bahwa mereka memperketat proses peninjauan etisnya, menjanjikan pengawasan yang lebih ketat untuk eksperimen di masa depan, Engadget Laporan. Para peneliti, yang menghadapi reaksi keras, telah sepakat untuk tidak mempublikasikan temuan mereka, meskipun Anda dapat membaca arsip banyak komentar untuk diri sendiri.
Namun, kerusakan telah terjadi, dan eksperimen AI Reddit ini bukanlah sesuatu yang akan kita lupakan dalam waktu dekat. Setidaknya terakhir kali sesuatu seperti ini terjadi, hanya redditor yang berdebat tentang apakah foto itu AI atau tidak.