У понеділок, 20 травня, Європейська комісія підтвердила, що розпочала процедуру перевірки діяльності чатбота Grok. Це рішення стало прямим наслідком тривожних повідомлень про те, що інструмент штучного інтелекту використовувався для генерації глибоко сфальсифікованих (deepfake) фотографій та відео.
Головне звинувачення стосується створення неправдивих зображень оголених реальних людей. Особливе занепокоєння викликає той факт, що серед жертв цієї зловмисної діяльності були і неповнолітні. Такі дії є прямим порушенням фундаментальних прав громадян ЄС та правил безпеки, встановлених цифровим законодавством.
Розслідування проводиться в рамках Закону про цифрові послуги (DSA), який є ключовим регуляторним актом ЄС, спрямованим на забезпечення безпеки та підзвітності цифрових платформ. DSA вимагає від великих онлайн-платформ та пошукових систем вживати рішучих заходів для боротьби з незаконним контентом та захисту користувачів.
Єврокомісія тепер детально вивчатиме, чи дотримується Grok, а також його материнська компанія XAI, усіх вимог DSA щодо модерації контенту, захисту дітей та запобігання поширенню шкідливих матеріалів. Це перше подібне розслідування, ініційоване ЄС безпосередньо проти інструменту генеративного ШІ.
Регулятори прагнуть з'ясувати, які запобіжні механізми були вбудовані у Grok для запобігання генерації сексуально експліцитного контенту, особливо того, що стосується дітей. Якщо будуть виявлені суттєві недоліки, XAI може зіткнутися із значними штрафами, які можуть сягати мільярдів євро.
Цей випадок підкреслює зростаючу напругу між інноваційним розвитком штучного інтелекту та необхідністю жорсткого регулювання. Європейський Союз продовжує демонструвати свою рішучість у забезпеченні того, щоб технологічні гіганти несли відповідальність за наслідки використання своїх продуктів на території Спільноти.
Очікується, що розслідування триватиме кілька місяців. Його результати матимуть прецедентне значення для майбутнього регулювання генеративного штучного інтелекту в Європі та встановлять нові стандарти безпеки для ШІ-чатботів по всьому світу.