Sumber gambar: Dihasilkan oleh alat AI Tak Terbatas
"Situs web membuat platform yang halus dan kaya fitur dan membuka pintu bagi siapa saja untuk bergabung. Mereka meletakkan kotak di depan kami, kami mengisi kotak itu dengan kata-kata dan gambar, dan orang-orang datang untuk melihat apa yang terjadi di dalam kotak itu." Perusahaan-perusahaan ini mengejar skala karena begitu cukup banyak orang berkumpul di mana saja, biasanya ada cara untuk menghasilkan uang dari mereka. Tapi AI mengubah asumsi tersebut.”
Bahkan jika web dipenuhi dengan omong kosong AI, itu mungkin terbukti bermanfaat, memacu pengembangan platform yang didanai lebih baik.
Alat peringkat situs web berita NewsGuard merilis hasil pemantauan informasi yang salah untuk Juni 2023, mengatakan 141 merek memberikan pendapatan iklan ke situs web yang dihasilkan kecerdasan buatan (AI) berkualitas rendah untuk mendukung pengembangan situs web yang tidak dapat diandalkan ini.
Situs tersebut, yang beroperasi dengan sedikit pengawasan manusia, menghasilkan rata-rata ribuan artikel setiap hari, termasuk informasi yang salah, terutama informasi medis dan kesehatan yang menyesatkan pengguna.
Media teknologi The Verge menyatakan bahwa kecerdasan buatan mematikan jaringan lama, sementara jaringan baru sedang berjuang untuk lahir, "Model kecerdasan buatan generatif mengubah ekonomi jaringan, membuatnya lebih murah untuk menghasilkan konten berkualitas rendah. Kami hanya memiliki baru mulai melihat dampak perubahan ini."
217 situs berita dan informasi buatan AI yang tidak dapat diandalkan ditemukan
Analisis NewsGuard menemukan bahwa iklan yang diposting di situs konten yang dihasilkan AI tampaknya dibuat secara terprogram, yang berarti bahwa perusahaan tidak memilih untuk menempatkan iklan mereka di situs ini, tetapi secara otomatis ditargetkan oleh sistem yang melayani mereka. Sebagian besar iklan ditempatkan oleh alat Google.
NewsGuard mendefinisikan situs berita dan informasi buatan AI (UAIN) yang tidak dapat diandalkan sebagai situs yang beroperasi dengan sedikit atau tanpa pengawasan manusia dan menerbitkan artikel yang sebagian besar atau seluruhnya ditulis oleh bot. Baru bulan lalu, analis NewsGuard memperbarui jumlah situs web di pelacak situs web UAIN yang baru diluncurkan dari 49 menjadi 217.
Sementara banyak pengiklan dan biro iklan mereka mempertahankan "daftar pengecualian" dari situs "tidak aman bagi merek", daftar ini sering kali tidak diperbarui dan tampaknya tidak mengikuti proliferasi situs UAIN.
Pada Mei dan Juni 2023, analis NewsGuard mengidentifikasi 393 programmatic ads (iklan terprogram, proses penggunaan teknologi untuk membeli dan menjual iklan digital) dari 141 merek besar, yang muncul di 217 lokasi yang diidentifikasi oleh NewsGuard 55 situs UAIN. Iklan yang ditemukan oleh NewsGuard disajikan kepada analis Internet di empat negara: Amerika Serikat, Jerman, Prancis, dan Italia.
Iklan perusahaan pakaian olahraga muncul di NoticiasDeEmprego.com.br, situs web UAIN yang menerbitkan berita tentang peluang kerja di Brasil yang dihasilkan oleh kecerdasan buatan. NewsGuard memblokir iklan terprogram ini dengan blok hitam.
NewsGuard tidak menyebutkan nama perusahaan yang menayangkan iklan tersebut, termasuk berbagai pengiklan blue-chip: enam bank besar dan perusahaan jasa keuangan, empat department store mewah, tiga merek pakaian olahraga terkemuka, tiga pembuat peralatan, dua perusahaan teknologi konsumen terbesar di dunia , dua perusahaan e-niaga global, dua penyedia broadband teratas AS, tiga layanan streaming dari jaringan penyiaran AS, platform digital Silicon Valley, dan rantai supermarket besar Eropa.
Iklan terprogram menggunakan algoritme dan proses lelang lanjutan untuk menayangkan iklan digital yang sangat bertarget langsung ke pengguna individu, bukan ke situs web tertentu. Artinya, iklan secara efektif "mengikuti" pengguna saat mereka menjelajahi internet. Karena prosesnya sangat buram, merek mungkin tidak mengetahui bahwa mereka mendanai penyebaran situs UAIN, karena iklan dibeli melalui pihak ketiga dan melibatkan banyak perantara.
Penulis Palsu Menyebarkan Informasi Kesehatan yang Diragukan
Semua 393 iklan yang ditemukan NewsGuard muncul langsung di sebelah artikel yang berisi informasi keliru yang dihasilkan AI.
Beberapa situs UAIN yang menampilkan iklan untuk merek besar tampaknya menggunakan alat kecerdasan buatan untuk menulis ulang artikel dari outlet berita arus utama. Misalnya, sebuah artikel yang diterbitkan oleh AlaskaCommons.com tampaknya merupakan versi AI yang ditulis ulang dari sebuah artikel di tabloid Inggris The Sun edisi AS, dengan gambar dan kata-kata yang serupa. Artikel di AlaskaCommons.com sering mencantumkan penulisnya sebagai Ingrid Taylor, yang telah menerbitkan 4.364 artikel sejak awal tahun, termasuk 108 artikel pada 15 Juni 2023 saja.
Beberapa situs menghasilkan rata-rata lebih dari 1.200 artikel per hari dengan sedikit pengawasan editorial manusia yang terlihat. Sebagai perbandingan, The New York Times biasanya menerbitkan sekitar 150 artikel per hari, menurut data April 2022.
Sebagian besar situs web buatan AI berkualitas rendah, tetapi tidak menyebarkan informasi yang salah. Namun, NewsGuard menemukan bahwa MedicalOutline.com mempromosikan solusi kesehatan alami yang belum terbukti dan berpotensi berbahaya dengan tajuk utama seperti "Bisakah lemon menyembuhkan alergi kulit?" "Apa 5 solusi alami untuk ADHD?" dan "Bagaimana Anda dapat mencegah kanker secara alami ."
Sangat mudah bagi situs UAIN untuk memonetisasi konten mereka dengan cepat. Di halaman masuk Google AdSense, Google mengatakan situs web mudah memperoleh pendapatan iklan terprogram: "Yang harus Anda lakukan hanyalah meletakkan kode AdSense di situs web Anda dan itu akan segera mulai berfungsi."
Sejak pertama kali melacak situs UAIN pada Mei 2023, NewsGuard telah mengidentifikasi sekitar 25 situs baru per minggu, dan pada awal Mei, laporannya hanya mengidentifikasi 49 situs yang "tampaknya hampir seluruhnya ditulis oleh perangkat lunak kecerdasan buatan". Dan jumlah total situs UAIN kemungkinan jauh lebih banyak daripada 217 situs yang diidentifikasi NewsGuard saat ini.
Sebuah iklan untuk perusahaan persewaan mobil global muncul di FoodingWorld.com, situs web UAIN yang menerbitkan artikel tentang makanan yang dibuat oleh AI. NewsGuard memblokir iklan terprogram ini dengan blok hitam.
NewsGuard menganggap situs web berita dan informasi yang dihasilkan AI tidak dapat diandalkan jika memenuhi semua 4 kriteria berikut: pertama, ada bukti jelas bahwa sebagian besar konten situs diproduksi oleh AI; Kedua, ada bukti kuat bahwa konten tersebut dibuat diterbitkan tanpa pengawasan manusia; ketiga, situs disajikan sedemikian rupa sehingga pembaca biasa mengira kontennya diproduksi oleh penulis atau jurnalis manusia; dan keempat, situs Tidak ada pengungkapan eksplisit bahwa kontennya diproduksi oleh kecerdasan buatan.
Tidak selalu berarti buruk
Dalam beberapa bulan terakhir, beberapa media melaporkan bahwa konten buatan AI mencemari internet. Pada 26 Juni waktu setempat, reporter senior The Verge James Vincent (James Vincent) menerbitkan komentar yang sangat keras. Dia menulis: "ChatGPT digunakan untuk menghasilkan situs yang penuh omong kosong. Etsy (situs e-niaga buatan) dibanjiri dengan "omong kosong buatan AI." Chatbot saling mengutip dalam aliran informasi yang salah. LinkedIn menggunakan Smart manusia untuk merangsang pengguna yang lelah. Snapchat dan Instagram ingin agar bot berbicara dengan Anda saat teman Anda pergi... Arsip Internet memerangi pengikis data, dan AI mencabik-cabik Wikipedia. Web lama sedang sekarat, dan Web baru sedang berjuang untuk lahir."
Vincent berargumen, tentu saja, bahwa web telah mati selama bertahun-tahun, dicekik oleh aplikasi yang mengalihkan lalu lintas dari situs atau algoritme yang menghargai "memperpendek rentang perhatian". Tetapi pada tahun 2023, ia mati lagi, dan katalis baru sedang dimainkan: kecerdasan buatan.
Dia menggambarkan sebuah analogi: "Situs web membuat platform yang halus dan kaya fitur dan membuka pintu bagi siapa saja untuk bergabung. Mereka meletakkan kotak di depan kita, kita mengisi kotak itu dengan kata-kata dan gambar, dan orang-orang datang Lihat isi kotak itu ". Perusahaan-perusahaan ini mengejar skala karena begitu cukup banyak orang berkumpul di mana saja, biasanya ada cara untuk menghasilkan uang dari mereka. Tapi AI mengubah asumsi tersebut."
Karena, mengingat pendanaan dan daya komputasi, sistem AI, terutama model generatif yang populer saat ini, dapat diskalakan dengan mudah. Mereka menghasilkan banyak teks dan gambar, dan segera musik dan video. Outputnya berpotensi melampaui atau mengungguli platform berita, informasi, dan hiburan yang diandalkan orang saat ini. Tetapi sistem ini seringkali berkualitas buruk. "Model-model ini dilatih pada lapisan data yang diletakkan di era internet terakhir, dan representasi mereka yang tidak sempurna dari data tersebut. Perusahaan mengikis informasi dari web terbuka dan menyaringnya menjadi konten buatan mesin yang menghasilkan biaya rendah, tetapi keandalannya buruk. Kemudian produk ini bersaing dengan platform sebelumnya dan orang-orang untuk mendapatkan perhatian,” kata Vincent.
Situs yang paling sukses cenderung menggunakan skala untuk keuntungan mereka, baik dengan meningkatkan koneksi sosial atau pemilihan produk, atau dengan mengkategorikan kumpulan besar informasi yang membentuk internet itu sendiri, tetapi skala itu bergantung pada sejumlah besar manusia. untuk menciptakan nilai potensial, pada Manusia jelas tidak bisa mengalahkan AI dalam hal produksi massal.
Tetapi Vincent juga mengatakan pada akhirnya bahwa ini bukanlah hal yang buruk. "Beberapa orang akan mengatakan itu hanya cara dunia bekerja, menunjukkan bahwa web itu sendiri membunuh apa yang datang sebelumnya, dan seringkali menjadi lebih baik. Ensiklopedia cetak, misalnya, hampir punah, tetapi saya lebih memilih luas dan aksesibilitas Wikipedia, daripada beban dan keamanan Encyclopaedia Britannica. Seperti halnya semua tulisan yang dihasilkan AI, ada cara untuk memperbaikinya juga—mulai dari peningkatan kemampuan kutipan hingga lebih banyak pengawasan manusia. Selain itu, meskipun web dipenuhi dengan sampah AI, ini mungkin terbukti bermanfaat , memacu pengembangan platform yang didanai lebih baik. Misalnya, jika Google terus memberi Anda hasil sampah dalam penelusuran, Anda mungkin lebih cenderung untuk berkontribusi Membayar dan mengaksesnya dari sumber yang Anda percayai."
Pada akhirnya, perubahan yang disebabkan AI saat ini hanyalah yang terbaru dari perjuangan panjang dalam sejarah web. Pada dasarnya, ini adalah pertarungan informasi—tentang siapa yang membuatnya, bagaimana cara mendapatkannya, dan siapa yang dibayar.
Lihat Asli
Konten ini hanya untuk referensi, bukan ajakan atau tawaran. Tidak ada nasihat investasi, pajak, atau hukum yang diberikan. Lihat Penafian untuk pengungkapan risiko lebih lanjut.
Kecerdasan buatan menciptakan spam Internet: Situs web buatan AI berkualitas rendah berkembang pesat didukung oleh iklan
Sumber: Makalah
Reporter Fang Xiao
"Situs web membuat platform yang halus dan kaya fitur dan membuka pintu bagi siapa saja untuk bergabung. Mereka meletakkan kotak di depan kami, kami mengisi kotak itu dengan kata-kata dan gambar, dan orang-orang datang untuk melihat apa yang terjadi di dalam kotak itu." Perusahaan-perusahaan ini mengejar skala karena begitu cukup banyak orang berkumpul di mana saja, biasanya ada cara untuk menghasilkan uang dari mereka. Tapi AI mengubah asumsi tersebut.”
Bahkan jika web dipenuhi dengan omong kosong AI, itu mungkin terbukti bermanfaat, memacu pengembangan platform yang didanai lebih baik.
Alat peringkat situs web berita NewsGuard merilis hasil pemantauan informasi yang salah untuk Juni 2023, mengatakan 141 merek memberikan pendapatan iklan ke situs web yang dihasilkan kecerdasan buatan (AI) berkualitas rendah untuk mendukung pengembangan situs web yang tidak dapat diandalkan ini.
Situs tersebut, yang beroperasi dengan sedikit pengawasan manusia, menghasilkan rata-rata ribuan artikel setiap hari, termasuk informasi yang salah, terutama informasi medis dan kesehatan yang menyesatkan pengguna.
Media teknologi The Verge menyatakan bahwa kecerdasan buatan mematikan jaringan lama, sementara jaringan baru sedang berjuang untuk lahir, "Model kecerdasan buatan generatif mengubah ekonomi jaringan, membuatnya lebih murah untuk menghasilkan konten berkualitas rendah. Kami hanya memiliki baru mulai melihat dampak perubahan ini."
217 situs berita dan informasi buatan AI yang tidak dapat diandalkan ditemukan
Analisis NewsGuard menemukan bahwa iklan yang diposting di situs konten yang dihasilkan AI tampaknya dibuat secara terprogram, yang berarti bahwa perusahaan tidak memilih untuk menempatkan iklan mereka di situs ini, tetapi secara otomatis ditargetkan oleh sistem yang melayani mereka. Sebagian besar iklan ditempatkan oleh alat Google.
NewsGuard mendefinisikan situs berita dan informasi buatan AI (UAIN) yang tidak dapat diandalkan sebagai situs yang beroperasi dengan sedikit atau tanpa pengawasan manusia dan menerbitkan artikel yang sebagian besar atau seluruhnya ditulis oleh bot. Baru bulan lalu, analis NewsGuard memperbarui jumlah situs web di pelacak situs web UAIN yang baru diluncurkan dari 49 menjadi 217.
Sementara banyak pengiklan dan biro iklan mereka mempertahankan "daftar pengecualian" dari situs "tidak aman bagi merek", daftar ini sering kali tidak diperbarui dan tampaknya tidak mengikuti proliferasi situs UAIN.
Pada Mei dan Juni 2023, analis NewsGuard mengidentifikasi 393 programmatic ads (iklan terprogram, proses penggunaan teknologi untuk membeli dan menjual iklan digital) dari 141 merek besar, yang muncul di 217 lokasi yang diidentifikasi oleh NewsGuard 55 situs UAIN. Iklan yang ditemukan oleh NewsGuard disajikan kepada analis Internet di empat negara: Amerika Serikat, Jerman, Prancis, dan Italia.
NewsGuard tidak menyebutkan nama perusahaan yang menayangkan iklan tersebut, termasuk berbagai pengiklan blue-chip: enam bank besar dan perusahaan jasa keuangan, empat department store mewah, tiga merek pakaian olahraga terkemuka, tiga pembuat peralatan, dua perusahaan teknologi konsumen terbesar di dunia , dua perusahaan e-niaga global, dua penyedia broadband teratas AS, tiga layanan streaming dari jaringan penyiaran AS, platform digital Silicon Valley, dan rantai supermarket besar Eropa.
Iklan terprogram menggunakan algoritme dan proses lelang lanjutan untuk menayangkan iklan digital yang sangat bertarget langsung ke pengguna individu, bukan ke situs web tertentu. Artinya, iklan secara efektif "mengikuti" pengguna saat mereka menjelajahi internet. Karena prosesnya sangat buram, merek mungkin tidak mengetahui bahwa mereka mendanai penyebaran situs UAIN, karena iklan dibeli melalui pihak ketiga dan melibatkan banyak perantara.
Penulis Palsu Menyebarkan Informasi Kesehatan yang Diragukan
Semua 393 iklan yang ditemukan NewsGuard muncul langsung di sebelah artikel yang berisi informasi keliru yang dihasilkan AI.
Beberapa situs UAIN yang menampilkan iklan untuk merek besar tampaknya menggunakan alat kecerdasan buatan untuk menulis ulang artikel dari outlet berita arus utama. Misalnya, sebuah artikel yang diterbitkan oleh AlaskaCommons.com tampaknya merupakan versi AI yang ditulis ulang dari sebuah artikel di tabloid Inggris The Sun edisi AS, dengan gambar dan kata-kata yang serupa. Artikel di AlaskaCommons.com sering mencantumkan penulisnya sebagai Ingrid Taylor, yang telah menerbitkan 4.364 artikel sejak awal tahun, termasuk 108 artikel pada 15 Juni 2023 saja.
Beberapa situs menghasilkan rata-rata lebih dari 1.200 artikel per hari dengan sedikit pengawasan editorial manusia yang terlihat. Sebagai perbandingan, The New York Times biasanya menerbitkan sekitar 150 artikel per hari, menurut data April 2022.
Sebagian besar situs web buatan AI berkualitas rendah, tetapi tidak menyebarkan informasi yang salah. Namun, NewsGuard menemukan bahwa MedicalOutline.com mempromosikan solusi kesehatan alami yang belum terbukti dan berpotensi berbahaya dengan tajuk utama seperti "Bisakah lemon menyembuhkan alergi kulit?" "Apa 5 solusi alami untuk ADHD?" dan "Bagaimana Anda dapat mencegah kanker secara alami ."
Sangat mudah bagi situs UAIN untuk memonetisasi konten mereka dengan cepat. Di halaman masuk Google AdSense, Google mengatakan situs web mudah memperoleh pendapatan iklan terprogram: "Yang harus Anda lakukan hanyalah meletakkan kode AdSense di situs web Anda dan itu akan segera mulai berfungsi."
Sejak pertama kali melacak situs UAIN pada Mei 2023, NewsGuard telah mengidentifikasi sekitar 25 situs baru per minggu, dan pada awal Mei, laporannya hanya mengidentifikasi 49 situs yang "tampaknya hampir seluruhnya ditulis oleh perangkat lunak kecerdasan buatan". Dan jumlah total situs UAIN kemungkinan jauh lebih banyak daripada 217 situs yang diidentifikasi NewsGuard saat ini.
NewsGuard menganggap situs web berita dan informasi yang dihasilkan AI tidak dapat diandalkan jika memenuhi semua 4 kriteria berikut: pertama, ada bukti jelas bahwa sebagian besar konten situs diproduksi oleh AI; Kedua, ada bukti kuat bahwa konten tersebut dibuat diterbitkan tanpa pengawasan manusia; ketiga, situs disajikan sedemikian rupa sehingga pembaca biasa mengira kontennya diproduksi oleh penulis atau jurnalis manusia; dan keempat, situs Tidak ada pengungkapan eksplisit bahwa kontennya diproduksi oleh kecerdasan buatan.
Tidak selalu berarti buruk
Dalam beberapa bulan terakhir, beberapa media melaporkan bahwa konten buatan AI mencemari internet. Pada 26 Juni waktu setempat, reporter senior The Verge James Vincent (James Vincent) menerbitkan komentar yang sangat keras. Dia menulis: "ChatGPT digunakan untuk menghasilkan situs yang penuh omong kosong. Etsy (situs e-niaga buatan) dibanjiri dengan "omong kosong buatan AI." Chatbot saling mengutip dalam aliran informasi yang salah. LinkedIn menggunakan Smart manusia untuk merangsang pengguna yang lelah. Snapchat dan Instagram ingin agar bot berbicara dengan Anda saat teman Anda pergi... Arsip Internet memerangi pengikis data, dan AI mencabik-cabik Wikipedia. Web lama sedang sekarat, dan Web baru sedang berjuang untuk lahir."
Vincent berargumen, tentu saja, bahwa web telah mati selama bertahun-tahun, dicekik oleh aplikasi yang mengalihkan lalu lintas dari situs atau algoritme yang menghargai "memperpendek rentang perhatian". Tetapi pada tahun 2023, ia mati lagi, dan katalis baru sedang dimainkan: kecerdasan buatan.
Dia menggambarkan sebuah analogi: "Situs web membuat platform yang halus dan kaya fitur dan membuka pintu bagi siapa saja untuk bergabung. Mereka meletakkan kotak di depan kita, kita mengisi kotak itu dengan kata-kata dan gambar, dan orang-orang datang Lihat isi kotak itu ". Perusahaan-perusahaan ini mengejar skala karena begitu cukup banyak orang berkumpul di mana saja, biasanya ada cara untuk menghasilkan uang dari mereka. Tapi AI mengubah asumsi tersebut."
Karena, mengingat pendanaan dan daya komputasi, sistem AI, terutama model generatif yang populer saat ini, dapat diskalakan dengan mudah. Mereka menghasilkan banyak teks dan gambar, dan segera musik dan video. Outputnya berpotensi melampaui atau mengungguli platform berita, informasi, dan hiburan yang diandalkan orang saat ini. Tetapi sistem ini seringkali berkualitas buruk. "Model-model ini dilatih pada lapisan data yang diletakkan di era internet terakhir, dan representasi mereka yang tidak sempurna dari data tersebut. Perusahaan mengikis informasi dari web terbuka dan menyaringnya menjadi konten buatan mesin yang menghasilkan biaya rendah, tetapi keandalannya buruk. Kemudian produk ini bersaing dengan platform sebelumnya dan orang-orang untuk mendapatkan perhatian,” kata Vincent.
Situs yang paling sukses cenderung menggunakan skala untuk keuntungan mereka, baik dengan meningkatkan koneksi sosial atau pemilihan produk, atau dengan mengkategorikan kumpulan besar informasi yang membentuk internet itu sendiri, tetapi skala itu bergantung pada sejumlah besar manusia. untuk menciptakan nilai potensial, pada Manusia jelas tidak bisa mengalahkan AI dalam hal produksi massal.
Tetapi Vincent juga mengatakan pada akhirnya bahwa ini bukanlah hal yang buruk. "Beberapa orang akan mengatakan itu hanya cara dunia bekerja, menunjukkan bahwa web itu sendiri membunuh apa yang datang sebelumnya, dan seringkali menjadi lebih baik. Ensiklopedia cetak, misalnya, hampir punah, tetapi saya lebih memilih luas dan aksesibilitas Wikipedia, daripada beban dan keamanan Encyclopaedia Britannica. Seperti halnya semua tulisan yang dihasilkan AI, ada cara untuk memperbaikinya juga—mulai dari peningkatan kemampuan kutipan hingga lebih banyak pengawasan manusia. Selain itu, meskipun web dipenuhi dengan sampah AI, ini mungkin terbukti bermanfaat , memacu pengembangan platform yang didanai lebih baik. Misalnya, jika Google terus memberi Anda hasil sampah dalam penelusuran, Anda mungkin lebih cenderung untuk berkontribusi Membayar dan mengaksesnya dari sumber yang Anda percayai."
Pada akhirnya, perubahan yang disebabkan AI saat ini hanyalah yang terbaru dari perjuangan panjang dalam sejarah web. Pada dasarnya, ini adalah pertarungan informasi—tentang siapa yang membuatnya, bagaimana cara mendapatkannya, dan siapa yang dibayar.