OpenAI придбала Promptfoo для захисту своїх ШІ-агентів

Компанія OpenAI оголосила сьогодні, що придбала Promptfoo, стартап у галузі безпеки AI, заснований у 2024 році для захисту LLM від онлайн-зловмисників.

Після завершення угоди технологія Promptfoo буде інтегрована в OpenAI Frontier, корпоративну платформу для AI-агентів.

Розробка незалежних агентів штучного інтелекту, які виконують цифрові завдання, викликала ентузіазм щодо підвищення продуктивності. Але це також дало зловмисникам нові можливості для доступу до конфіденційних даних або маніпулювання автоматизованими системами. Ця угода говорить про те, що передові лабораторії намагаються довести, безпечність їх технології при використанні у критично важливих бізнес-операціях.

Promptfoo була заснована Іаном Вебстером і Майклом Д’Анджело для розробки інструментів, які компанії можуть використовувати для тестування вразливостей безпеки в LLM, включаючи інтерфейс з відкритим кодом і бібліотеку. Компанія повідомляє, що її продуктами користуються понад 25% компаній з рейтингу Fortune 500.

З моменту заснування Promptfoo залучила лише 23 млн дол, а після останнього раунду фінансування в липні 2025 року її вартість склала 86 млн дол. OpenAI не розкрила суму угоди.

Promptfoo – популярний open-source інструмент, який використовують тисячі розробників та 127 компаній з Fortune 500 для:

– тестування промптів,

– порівняння моделей (GPT, Claude, Gemini тощо),

– автоматичного red-teaming (пошук prompt injection, data leaks, misuse тощо),

– оцінки RAG та агентів.

Це придбання – частина стратегії OpenAI щодо зміцнення безпеки та enterprise-ready інструментів для AI-агентів, особливо на тлі зростання ризиків від автономних систем.

Нещодавно ми писали, як досягти максимального ефекту при використанні ШІ.