Chatbot mirip ChatGPT membuat situs web berita palsu, menyebarkan informasi yang salah

Chatbot AI seperti ChatGPT yang sangat populer telah digunakan untuk membuat banyak situs web berita dan informasi. Banyak dari situs web ini telah diterbitkan tahun ini, berkat popularitas alat AI di kalangan masyarakat. Dalam laporannya yang diterbitkan baru-baru ini, grup pemeringkat berita NewsGuard mengajukan pertanyaan tentang bagaimana penjahat dapat menggunakan teknologi ini untuk meningkatkan teknik penipuan mereka yang ada.

Bot AI mirip ChatGPT digunakan untuk membuat 49 situs web berita, yang ditinjau oleh Bloomberg . Situs web ini berperan sebagai outlet berita dengan nama umum seperti Daily Business Post dan News Live 79. Situs web lain menerbitkan konten bersponsor atau menawarkan tip gaya hidup dan berita selebriti.

Menariknya, tidak satu pun dari situs web ini yang mengakui bahwa konten mereka dibuat dengan bantuan chatbot AI seperti ChatGPT OpenAI atau mungkin Google Bard dari Alphabet. Chatbots ini mampu menghasilkan teks berdasarkan permintaan pengguna yang sederhana.

Bagaimana chatbot AI digunakan untuk menghasilkan kekeliruan untuk artikel yang diterbitkan

NewsGuard menemukan AI chatbots membuat informasi palsu untuk artikel yang dipublikasikan di situs web ini beberapa kali. Misalnya, CelebritiesDeaths.com membagikan artikel yang mengklaim bahwa Presiden AS Joe Biden telah "meninggal dengan tenang dalam tidurnya" pada bulan April. Laporan Yahoo News menyatakan bahwa artikel palsu itu juga mengindikasikan Biden telah digantikan oleh Wakil Presiden Kamala Harris.

Demikian pula, situs web lain membuat obituari untuk seorang arsitek dengan detail palsu tentang pekerjaan dan kehidupan mereka. Juga, TNewsNetwork membuat cerita yang belum diverifikasi tentang ribuan tentara yang lewat dalam perang Rusia-Ukraina. Laporan ini didasarkan pada video YouTube.

Sebagian besar situs web berkualitas rendah ini tampaknya merupakan ladang konten yang dikembangkan oleh sumber anonim. Seperti yang diharapkan, mereka bertujuan untuk membuat postingan yang akan menghasilkan pendapatan iklan. Laporan NewsGuard mengatakan situs web ini berlokasi di berbagai belahan dunia. Selain itu, mereka berbagi konten dalam berbagai bahasa termasuk Thailand, Tagalog, Portugis, dan Inggris.

Bagaimana situs-situs ini menghasilkan uang?

Beberapa dari situs ini berhasil menghasilkan pendapatan dengan mengiklankan "postingan tamu". ScoopEarth.com dan beberapa situs lain berusaha sekuat tenaga untuk membangun pengikut di media sosial. Halaman Facebook ScoopEarth memiliki 124.000 pengikut. Lebih dari 50 persen situs web ini menghasilkan pendapatan dengan menjalankan iklan terprogram, yang dibeli dan dijual secara otomatis menggunakan algoritme.

Metode menghasilkan pendapatan ini menimbulkan tantangan bagi Google, yang teknologi iklannya menghasilkan pendapatan untuk separuh situs. Ironisnya, bot AI raksasa pencarian, Bard, mungkin telah digunakan untuk membuat artikel untuk situs-situs ini. Jadi, co-Chief Executive Officer NewsGuard Gordon Crovitz mengatakan OpenAI, Google, dan perusahaan lain di belakang AI chatbots harus berhati-hati dalam hal melatih model mereka.

Menurut Crovitz, mantan penerbit Wall Street Journal, perusahaan-perusahaan ini harus mencegah model mereka mengarang berita. Crovitz lebih lanjut mengklaim "Menggunakan model AI yang dikenal mengarang fakta untuk menghasilkan apa yang hanya terlihat seperti situs web berita adalah penipuan yang menyamar sebagai jurnalisme." OpenAI sebelumnya telah mengklarifikasi bahwa ia menggunakan peninjau manusia dan sistem otomatis untuk mencegah penyalahgunaan botnya.

Namun, penjahat dunia maya telah menemukan metode baru untuk mengeksploitasi alat AI. Misalnya, teknologi kloning suara AI baru-baru ini digunakan dalam penipuan penculikan di AS. Demikian pula, scammers menggunakan AI chatbots untuk membuat email phishing yang tampak kredibel . Juru bicara Google Michael Aciman mengatakan kepada Bloomberg bahwa perusahaan membatasi iklan agar tidak berjalan di konten berisi spam atau konten yang telah dijiplak dari situs web lain.

Lebih lanjut, Aciman menjelaskan bahwa Google lebih fokus pada kualitas konten daripada proses pembuatan konten dalam menegakkan kebijakannya. Selain itu, perusahaan segera menghapus atau memblokir iklan jika menemukan pelanggaran. Raksasa teknologi Amerika baru-baru ini menghapus iklan dari beberapa situs yang mendeteksi pelanggaran luas.