Penjahat dunia maya semakin banyak menggunakan AI, termasuk ChatGPT, untuk membuat konten pemilu palsu.

OpenAI melaporkan bahwa penjahat dunia maya semakin banyak menggunakan model AI-nya untuk membuat konten palsu yang bertujuan memengaruhi pemilu. Perusahaan rintisan tersebut telah menetralkan lebih dari 20 upaya tahun ini, termasuk akun yang membuat artikel tentang pemilu AS. Beberapa akun dari Rwanda diblokir pada bulan Juli karena aktivitas serupa yang terkait dengan pemilu di negara tersebut.

Perusahaan tersebut mengonfirmasi bahwa tidak satu pun dari upaya ini berhasil menghasilkan keterlibatan viral atau menjangkau audiens yang berkelanjutan. Namun, penggunaan AI dalam campur tangan pemilu tetap menjadi perhatian yang berkembang, terutama saat AS mendekati pemilihan presidennya. Departemen Keamanan Dalam Negeri AS juga memperingatkan tentang negara-negara asing yang mencoba menyebarkan informasi yang salah menggunakan alat AI.

Seiring dengan semakin kuatnya posisi global OpenAI, meningkatnya upaya manipulasi pemilu menggarisbawahi pentingnya kewaspadaan yang lebih tinggi. Perusahaan tersebut baru saja menyelesaikan putaran pendanaan senilai $6,6 miliar, yang semakin mengukuhkan statusnya sebagai salah satu perusahaan swasta paling berharga.

ChatGPT terus mengalami pertumbuhan pesat, dengan 250 juta pengguna aktif mingguan sejak diluncurkan pada November 2022, yang menekankan pengaruh platform yang luas.