Perusahaan yang berpusat di Zurich mengumpulkan $20 juta untuk meningkatkan keamanan AI hal ini demi keamanan yang dapat memperkuat sistem perusahaan.

Para pemimpin perusahaan Fortune 500 yang mengembangkan aplikasi AI menghadapi potensi mimpi buruk: peretas mengelabui AI agar mengungkapkan data sensitif. Startup yang berbasis di Zurich, Lakera, telah mengumpulkan $20 juta untuk mengatasi masalah ini. Putaran pendanaan, yang dipimpin oleh Atomico dengan partisipasi dari Citi Ventures dan Dropbox Ventures, menjadikan total pendanaan Lakera menjadi $30 juta. Platform Lakera, yang digunakan oleh perusahaan seperti Dropbox dan Citi, memungkinkan bisnis untuk menetapkan pembatas bagi AI generatif, melindungi dari serangan injeksi cepat.

CEO Lakera David Haber menyoroti pentingnya keselamatan dan keamanan saat perusahaan mengintegrasikan AI generatif ke dalam fungsi-fungsi penting. Tim keamanan yang ada menghadapi tantangan baru dalam mengamankan aplikasi-aplikasi ini. Platform Lakera, yang dibangun berdasarkan model-model AI internal, memastikan bahwa aplikasi-aplikasi AI generatif tidak melakukan tindakan-tindakan yang tidak diinginkan. Pelanggan dapat menentukan konteks dan kebijakan untuk respons-respons AI , mencegah pengungkapan informasi sensitif.

Keunggulan unik Lakera adalah Gandalf, sebuah permainan keamanan AI daring yang digunakan oleh jutaan orang, termasuk Microsoft . Permainan ini menghasilkan basis data ancaman AI secara real-time, yang membuat perangkat lunak Lakera selalu diperbarui dengan ribuan serangan baru setiap hari. Hal ini membantu dalam menjaga langkah-langkah keamanan yang kuat bagi klien mereka.

Lakera bersaing dalam lanskap keamanan AI generatif dengan perusahaan rintisan seperti HackerOne dan BugCrowd. Matt Carbonara dari Citi Ventures memuji fokus Lakera pada serangan injeksi cepat dan kemampuan timnya untuk membangun tindakan pencegahan yang diperlukan untuk permukaan serangan baru.