«ДНК-тест» для AI: Cisco випустила безкоштовний інструмент для оцінки безпеки моделей ШІ

Компанія Cisco представила новий open-source інструмент для перевірки безпеки моделей штучного інтелекту — AI Supply Chain DNA Test. Рішення покликане допомогти компаніям оцінювати походження, надійність і потенційні ризики AI-моделей ще до їхнього впровадження в корпоративну інфраструктуру.

Ідея інструмента базується на концепції «ДНК-тесту» для AI. Він аналізує модель, її компоненти та залежності, щоб визначити:

• звідки походить модель;
• які бібліотеки та набори даних використовувались;
• чи містяться в ній потенційно небезпечні або скомпрометовані елементи;
• чи відповідає вона вимогам безпеки та комплаєнсу.

У Cisco наголошують, що стрімке поширення генеративного AI створює нові кіберризики. Багато компаній інтегрують сторонні AI-моделі, не маючи повного розуміння того, як вони були створені та які вразливості можуть містити. Це нагадує проблеми ланцюгів постачання програмного забезпечення, які стали критично важливими після масштабних атак на кшталт SolarWinds.

Новий інструмент має допомогти організаціям перевіряти AI так само, як сьогодні перевіряють програмний код або контейнери. Cisco фактично просуває підхід “AI supply chain security”, де контроль походження моделей стає такою ж важливою частиною кіберзахисту, як і захист мережі чи кінцевих пристроїв.

Рішення поширюється як open-source, що дозволяє компаніям і дослідникам адаптувати його під власні потреби. У Cisco вважають, що відкритість допоможе швидше створити галузеві стандарти перевірки безпеки AI.