Model AI pada platform X, mengalami kesulitan dalam akurasi setelah percobaan pembunuhan Donald Trump, memposting informasi yang salah dan gagal memverifikasi fakta.

Grok, model AI milik Elon Musk yang tersedia di platform X, mengalami masalah signifikan dalam hal akurasi setelah percobaan pembunuhan terhadap mantan Presiden Donald Trump. Model AI tersebut memposting berita utama yang salah, termasuk salah satu yang mengklaim Wakil Presiden Kamala Harris telah ditembak dan yang lainnya salah mengidentifikasi penembak sebagai anggota antifa. Kesalahan ini berasal dari ketidakmampuan Grok untuk memahami sarkasme dan memverifikasi klaim yang belum diverifikasi pada X.

Setelah mengumumkan rencana untuk mengembangkan TruthGPT , Elon Musk telah mempromosikan Grok sebagai alat revolusioner untuk agregasi berita, yang memanfaatkan kiriman langsung dari jutaan pengguna. Meskipun berpotensi, insiden tersebut menggarisbawahi keterbatasan Grok , khususnya dalam menangani berita terkini. Desain model yang lucu juga dapat menjadi kekurangan, yang menyebabkan penyebaran misinformasi dan kebingungan.

Ketergantungan pada AI untuk ringkasan berita menimbulkan kekhawatiran tentang akurasi dan konteks, terutama selama peristiwa kritis. Mantan direktur kebijakan publik Facebook Katie Harbath menekankan perlunya pengawasan manusia dalam memberikan konteks dan memverifikasi fakta. Insiden dengan Grok mencerminkan tantangan yang dihadapi oleh model AI lainnya, seperti ChatGPT milik OpenAI , yang mencakup pernyataan penafian untuk mengelola ekspektasi pengguna.