Витоки даних, пов’язані з ШІ, стануть головною кіберзагрозою найближчих років
Фахівці з кібербезпеки очікують, що витоки даних, пов’язані зі штучним інтелектом, стануть однією з головних кіберзагроз найближчих років. Зокрема, Майкл Козак (Mike Kosak), спеціаліст із дослідження кіберзагроз в компанії LastPass, попереджає, що широке використання генеративного AI створює новий тип ризику AI data breach, тобто витік даних через системи штучного інтелекту.
Йдеться не лише про злам серверів, а й про ситуації, коли AI сам ненавмисно розкриває конфіденційну інформацію або її викрадають через уразливості моделей.
Основні ризики
1. AI може випадково розкривати дані
Багато компаній підключають AI до внутрішніх документів, CRM або корпоративних баз знань. У результаті чатбот може згенерувати відповідь, яка містить конфіденційну інформацію. Наприклад, мова йде про фінансові дані, внутрішні документи, персональні дані клієнтів.
2. Дані можуть витікати через запити користувачів
Зловмисники можуть використовувати спеціально сформульовані запити (prompt injection), щоб змусити AI показати внутрішні документи, розкрити приховані дані, обійти системи захисту.
3. Компанії масово передають дані в AI
Співробітники часто копіюють у чат-боти штучного інтелекту програмний код, контракти і навіть бази даних. Це створює ризик витоку, особливо якщо ШІ працює у хмарі або належить сторонньому постачальнику.
4. ШІ пришвидшує кіберзлочини
Штучний інтелект також допомагає хакерам автоматично створювати фішингові атаки, швидше знаходити вразливості та аналізувати викрадені дані.
Фахівці з безпеки вважають, що перша велика криза, пов’язана з витоком даних через AI-систему, майже неминуча, тому організації повинні готуватися заздалегідь.
Як захиститися – ключові рекомендації
Компаніям радять обмежувати доступ ШІ до конфіденційних даних, використовувати приватні AI-моделі, а не публічні сервіси, і контролювати, які дані співробітники передають у чатботи штучного інтелекту. Також рекомендують впроваджувати політики використання генеративного ШІ і постійно контролювати відповіді ШІ-систем.
А нещодавно ми писали, як від Ізраїлю до України хакери зламують камери спостереження для ведення сучасної війни.
