Pemilik TikTok memecat dan kemudian menggugat seorang pekerja magang karena “sengaja menyabotase” LLM-nya. Hal ini terdengar lebih seperti kegagalan manajemen, dan pelajaran bagi TI bahwa pagar pembatas LLM hanyalah lelucon.

Ketika pemilik TikTok, ByteDance, baru-baru ini menemukan bahwa seorang pekerja magang diduga telah merusak model bahasa besar (LLM) yang menjadi tugas pekerja magang tersebut, ByteDance menggugat pekerja magang tersebut dengan ganti rugi senilai lebih dari $1 juta. Mengajukan gugatan tersebut mungkin tidak hanya akan menjadi tindakan yang sangat picik, tetapi juga merusak diri sendiri.

Anggap saja tuduhan itu benar dan pekerja magang ini memang menyebabkan kerusakan.  Menurut Reuters , gugatan tersebut menyatakan bahwa pekerja magang tersebut “sengaja menyabotase tugas pelatihan model tim melalui manipulasi kode dan modifikasi yang tidak sah.” 

Seberapa ketatkah pengawasan terhadap pekerja magang ini — dan sebagian besar pekerja magang membutuhkan pengawasan lebih dari karyawan biasa —? Jika saya ingin membuat para pendukung finansial senang, terutama saat ByeDance berada di bawah tekanan AS untuk menjual TikTok yang sangat menguntungkan, saya tidak ingin mengiklankan fakta bahwa tim saya membiarkan hal ini terjadi.

Yang lebih meresahkan adalah bahwa pekerja magang ini secara teknis  mampu  melakukan ini, tanpa pengawasan. Pelajaran di sini adalah sesuatu yang sudah diketahui oleh TI, tetapi berusaha diabaikan: alat AI generatif (generatif AI) tidak mungkin dikontrol secara berarti dan pembatasnya sangat mudah ditembus sehingga menjadi bahan tertawaan.

Masalahnya dengan genAI adalah kebebasan dan fleksibilitas yang sama yang dapat membuat teknologi ini begitu berguna juga membuatnya begitu mudah dimanipulasi untuk melakukan hal-hal buruk. Ada  cara  untuk membatasi apa yang akan dilakukan oleh alat berbasis LLM. Namun, pertama-tama, cara tersebut sering kali gagal. Kedua, manajemen TI sering kali ragu untuk mencoba dan membatasi apa yang dapat dilakukan oleh pengguna akhir, karena takut dapat merusak keuntungan produktivitas yang dijanjikan dari genAI.