Jaminan sebelumnya dari Google bahwa data Workspace tidak akan digunakan untuk melatih AI atau menargetkan iklan kini sedang diteliti, menyoroti perlunya kontrol.

AI Gemini milik Google ditemukan memindai berkas PDF di Google Drive tanpa izin pengguna, yang memicu kekhawatiran atas keamanan dan privasi AI. Penasihat Senior Kevin Bankston mengungkapkan bahwa AI tersebut membuat ringkasan pengembalian pajak pribadi tanpa izin, sehingga menimbulkan masalah privasi yang signifikan.

Bankston menceritakan perjuangannya untuk menonaktifkan fitur tersebut, yang terus beroperasi meskipun ada upaya untuk menemukan kontrol yang tepat. Kesulitan dalam mengelola integrasi Gemini di Google Drive telah menimbulkan pertanyaan tentang penanganan Google terhadap data pengguna dan pengaturan privasi.

Google sebelumnya meyakinkan pengguna bahwa data Workspace tidak akan digunakan untuk melatih AI atau menargetkan iklan. Namun, insiden ini telah menimbulkan keraguan tentang kebersihan dan privasi data.

Pengalaman Bankston menunjukkan bahwa partisipasi sebelumnya di Google Workspace Labs mungkin telah mempengaruhi perilaku Gemini, menyoroti perlunya kontrol dan persetujuan pengguna yang lebih baik seiring kemajuan teknologi AI.