Para skeptis yang memberikan kendali komputer atas aktivitas berisiko tinggi seperti mengemudikan mobil diberi sejumlah amunisi minggu lalu ketika para peneliti di OpenAI menemukan sistem penglihatan mesin mereka yang berusia dua bulan dapat diakali dengan pena dan kertas untuk salah mengidentifikasi objek.

Laboratorium AI menerbitkan sebuah makalah pada tanggal 4 Maret yang mengungkap sistem baru mereka dapat dikelabui agar mengidentifikasi sebuah apel sebagai iPod dengan menempelkan catatan pada apel tersebut yang bertuliskan kata iPod.

Meskipun terdapat kesalahan tersebut, OpenAI tetap optimis dengan sistem penglihatan mesin eksperimentalnya, yang disebut CLIP, yang mengeksplorasi bagaimana sistem AI dapat mengidentifikasi objek tanpa pengawasan ketat melalui pelatihan dengan basis data besar gambar dan pasangan teks.

Para peneliti perusahaan tersebut menjelaskan dalam sebuah blog bahwa mereka telah menemukan keberadaan neuron multimoda dalam CLIP. Dalam otak manusia, neuron-neuron tersebut merespons kelompok konsep abstrak yang berpusat di sekitar tema tingkat tinggi yang umum, bukan pada fitur visual tertentu.

Permukaan Serangan Baru

Namun, kemampuan sistem untuk menghubungkan kata-kata dan gambar pada tingkat abstrak juga menciptakan vektor serangan baru yang sebelumnya tidak terlihat dalam sistem visi mesin.

Serangan semacam itu yang menggunakan “gambar yang merugikan” telah digunakan terhadap sistem visi mesin komersial, tetapi dengan CLIP, serangan tersebut tidak memerlukan teknologi apa pun selain pena dan kertas.

“Sangat umum bagi sistem pembelajaran mesin untuk memiliki kelemahan dalam cara mengklasifikasikan objek,” kata Jonathan Spring, seorang analis di Divisi CERT di Institut Rekayasa Perangkat Lunak di Universitas Carnegie Mellon di Pittsburgh.