OpenAI Membeli Platform Keamanan AI Promptfoo, Membangun Kemampuan Perusahaan Baru di Frontier
OpenAI, raksasa teknologi berbasis di San Francisco, sedang bersiap untuk memperkuat portofolio teknologinya dengan mengakuisisi Promptfoo, sebuah platform keamanan berbasis kecerdasan buatan (AI Security Platform). Berada dalam tahap penyelesaian akhir, rencana akuisisi ini masih menunggu persetujuan hukum standar.
Menyusul pembelian ini, OpenAI berencana menggabungkan teknologi Promptfoo ke dalam OpenAI Frontier, platform tingkat enterprise yang dirancang untuk membangun, menerapkan, dan mengelola armada agen AI. Menariknya, walaupun berada di bawah kepemilikan baru, perpustakaan platform keamanan ini akan tetap tersedia untuk publik sebagai open-source berdasarkan lisensi yang ada sekarang.
OpenAI Membeli Promptfoo: Langkah Kunci dalam Pengembangan Platform Keamanan AI
Dalam sebuah pengumuman, raksasa AI ini mengungkapkan target akuisisi terbarunya. Promptfoo, yang didirikan oleh Ian Webster dan Michael D’Angelo di San Francisco pada tahun 2024, dikenal dengan kerangka kerja sumber terbukanya dan alat antarmuka baris perintah (CLI) yang dirancang untuk pengujian, evaluasi, dan penyebaran aplikasi model bahasa besar (LLM). Saat ini, alat sumber terbuka ini dihoskan di GitHub dengan lisensi MIT yang memungkinkan penggunaan akademik dan komersial.
“Kami memulai Promptfoo karena pengembang membutuhkan cara praktis untuk mengamankan sistem AI. Seiring semakin terhubungnya agen AI dengan data dan sistem nyata, pengamanan dan validasi menjadi lebih menantang dan penting dari sebelumnya. Bergabung dengan OpenAI memungkinkan kami mempercepat pekerjaan ini, membawa kemampuan keamanan, keselamatan, dan tata kelola yang lebih kuat ke tim yang membangun sistem AI dunia nyata,” ujar Ian Webster, Pendiri sekaligus CEO Promptfoo.
Setelah akuisisi selesai, OpenAI berencana mengintegrasikan tumpukan teknologi Promptfoo ke dalam platform Frontier-nya. Platform yang berfokus pada enterprise ini diluncurkan pada bulan Februari dan berfungsi sebagai pusat kontrol utama untuk agen otonom. Perusahaan AI ini menyatakan bahwa perusahaan yang menerapkan agen AI ke dalam alur kerja memerlukan cara sistemik untuk menguji perilaku agen, mendeteksi risiko sebelum penyebaran, dan menjaga catatan yang jelas, dan teknologi baru ini akan membantu mengembangkannya di Frontier.
Di sisi lain, beberapa kemampuan inti baru yang akan diaktifkan oleh Promptfoo mencakup alat pengujian keamanan dan keselamatan baru yang membantu perusahaan mengidentifikasi dan menyelesaikan risiko besar seperti injeksi prompt, jailbreaks, kebocoran data, penyalahgunaan alat, dan lainnya.
Selanjutnya, OpenAI Frontier juga akan membangun alat evaluasi yang akan mengidentifikasi, menyelidiki, dan memperbaiki risiko agen dalam alur kerja, serta menawarkan pelaporan dan pelacakan untuk memungkinkan mereka menjaga catatan pengujian, memantau perubahan sepanjang waktu, dan memenuhi harapan tata kelola, risiko, dan kepatuhan.
