Peraturan AI baru Uni Eropa, yang dipuji sebagai yang pertama di dunia, telah memicu kontroversi atas pengecualian yang mengizinkan penggunaan AI di perbatasan Eropa. Para kritikus berpendapat bahwa undang-undang tersebut berisiko memungkinkan pengawasan dan diskriminasi yang melanggar hukum terhadap para migran.

Saat Uni Eropa menerapkan regulasi komprehensif pertama di dunia tentang kecerdasan buatan (AI), kelompok hak asasi manusia meningkatkan kewaspadaan atas pengecualian penggunaan AI di perbatasan Eropa. Undang-Undang AI Uni Eropa, yang mengkategorikan sistem AI berdasarkan tingkat risiko dan memberlakukan aturan yang lebih ketat bagi sistem dengan potensi bahaya yang lebih tinggi, akan mulai berlaku sepenuhnya pada Februari 2025. Meskipun berjanji untuk mengatur AI di seluruh industri, teknologi kontroversial seperti pengenalan wajah dan emosi masih diizinkan untuk otoritas perbatasan dan kepolisian, yang memicu kekhawatiran atas pengawasan dan diskriminasi.

Dengan Eropa yang berinvestasi besar dalam keamanan perbatasan, menggunakan menara pengawas berbasis AI dan algoritma untuk memantau arus migrasi, para kritikus berpendapat bahwa teknologi ini dapat mengkriminalisasi migran dan melanggar hak-hak mereka. Aktivis Hak Asasi Manusia memperingatkan bahwa AI dapat memperkuat bias dan menyebabkan penolakan yang tidak sah terhadap pencari suaka. Negara-negara seperti Yunani sedang menguji coba teknologi ini dan telah dituduh menggunakan AI untuk pengawasan dan diskriminasi, meskipun pemerintah membantahnya.

Para pegiat juga menunjukkan bahwa peraturan Uni Eropa memungkinkan perusahaan-perusahaan Eropa untuk mengembangkan dan mengekspor sistem AI yang berbahaya ke luar negeri, yang berpotensi memicu pelanggaran hak asasi manusia di negara-negara lain. Sementara UU AI merupakan langkah maju dalam regulasi global, para aktivis percaya bahwa UU tersebut tidak melindungi kelompok-kelompok rentan di perbatasan Eropa dan sekitarnya. Mereka mengantisipasi bahwa tantangan hukum dan pertentangan publik pada akhirnya akan menutup kesenjangan regulasi ini.