Скандал, пов'язаний із використанням штучного інтелекту в урядових структурах, розгорівся навколо CISA — ключового агентства, відповідального за захист критичної інфраструктури США від кіберзагроз. Мадху Готтумуккала, який наразі виконує обов’язки директора, став центральною фігурою цього інциденту.
Згідно з наявною інформацією, Готтумуккала скористався загальнодоступною версією ChatGPT для обробки або аналізу певних документів. На жаль, він не врахував, що дані, завантажені у публічний інтерфейс OpenAI, не є захищеними і можуть бути використані для навчання моделі або зберігатися на серверах компанії, що рівнозначно їх публікації.
Особливого резонансу ситуації додає той факт, що більшості співробітників Міністерства внутрішньої безпеки (DHS), до складу якого входить CISA, суворо заборонено використовувати комерційні інструменти генеративного ШІ, такі як ChatGPT, саме через ризики витоку конфіденційної інформації.
Готтумуккала був одним із небагатьох високопосадовців, які отримали спеціальний дозвіл на роботу з цією технологією. Передбачалося, що його використання буде обмежене внутрішніми, безпечними або тестовими середовищами, або ж виключно неконфіденційними даними.
Експерти з кібербезпеки наголошують, що цей випадок є яскравим прикладом того, як навіть висококваліфіковані фахівці можуть припуститися помилок, ілюструючи необхідність жорсткіших протоколів та тренінгів щодо використання нових технологій у державних установах.
Витік даних через публічний інтерфейс ШІ ставить під сумнів ефективність внутрішніх інструкцій CISA та DHS щодо поводження з конфіденційною інформацією. Кожен фрагмент тексту, завантажений у ChatGPT, стає частиною його бази знань, що потенційно робить урядові секрети доступними для сторонніх осіб.
Наразі невідомо, які саме матеріали були завантажені та наскільки критичною була їхня конфіденційність. Однак сам факт такого інциденту в агентстві, яке має захищати країну від кібератак, викликав серйозну критику з боку законодавців та громадськості.
Очікується, що цей інцидент призведе до негайного перегляду політики використання ШІ в усіх федеральних агентствах США та посилення контролю за доступом до технологій, які можуть ненавмисно скомпрометувати національну безпеку.