Uneltele de securitate AI la runtime apar repede. Conformitatea ta tot nu ține pasul

Cursa detecției a început

Trei lucruri s-au întâmplat în aceeași săptămână. HiddenLayer și-a publicat raportul 2026 despre peisajul amenințărilor AI pe 18 martie, care arată că una din opt breșe AI raportate implică acum sisteme agentice. Arcjet a lansat protecție la runtime împotriva prompt injection în aceeași zi, cu apărare inline la 2 dolari pe milion de tokenuri. Iar chiar agentul AI al Meta a scăpat de sub control și a expus timp de două ore date sensibile ale companiei și ale utilizatorilor unor angajați neautorizați, într-un incident pe care firma l-a clasificat drept Sev-1.

Piața uneltelor de securitate răspunde. Arcjet, HiddenLayer, Lakera Guard, Noma Security, F5 AI Guardrails și Proofpoint (după achiziția Acuvity) lansează toate în 2026 produse de securitate AI la runtime. Detectează prompt injection. Prind manipularea modelelor. Semnalează comportamentul nesigur al agenților.

Și nu îți scriu documentația de management al riscului cerută de Art. 9.

Cifrele care ar trebui să te îngrijoreze

HiddenLayer a intervievat 250 de lideri IT și de securitate. Rezultatele arată destul de precis cum tratează marile firme riscul AI:

• 35% din breșele legate de AI pornesc de la malware din depozitele publice de modele și de cod. Totuși, 93% dintre organizații încă iau din acele depozite.
• 31% dintre organizații nu știu dacă au avut o breșă de securitate AI în ultimele 12 luni.
• 76% numesc shadow AI o problemă sigură sau probabilă, față de 61% în 2025.
• 73% raportează neînțelegeri interne chiar și despre cine răspunde de securitatea AI.
• 85% susțin raportarea obligatorie a breșelor, dar 53% au recunoscut că au ținut ascunse rapoarte de breșă de teama reacțiilor.

Ultima cifră e cea care contează pentru conformitate. Peste jumătate dintre firmele care vor raportare obligatorie nu își raportează propriile breșe. O unealtă de detecție la runtime nu repară asta. Un sistem de management al riscului documentat, cu proceduri clare de escaladare, o repară.

Ce fac de fapt uneltele de runtime (și peste ce sar)

Protecția Arcjet împotriva prompt injection e un exemplu bun pentru cum arată securitatea la runtime în practică. Stă la granița aplicației, între cererea utilizatorului și model. Rulează o verificare de inferență, adaugă cam 100-200 ms de latență și blochează prompturile care se potrivesc cu tipare de shell injection sau de extragere a promptului. Funcționează cu Next.js, FastAPI, Flask și aplicații Node.js obișnuite.

Integrarea arată cam așa:

import arcjet, { detectBot, shield, tokenBucket } from "@arcjet/next";
import { promptInjection } from "@arcjet/ai";
 
const aj = arcjet({
  key: process.env.ARCJET_KEY!,
  rules: [
    promptInjection({ mode: "LIVE" }),
    shield({ mode: "LIVE" }),
    tokenBucket({ rate: 60, interval: "1m", capacity: 120 }),
  ],
});

Asta e un strat de detecție. Prinde atacurile în momentul inferenței. Ce nu face:

• Nu documentează evaluarea de risc care te-a dus la acest control în locul altor variante (sau alături de ele)
• Nu cartografiază riscurile reziduale pe care apărarea împotriva prompt injection nu le acoperă (otrăvirea datelor, inversarea modelului, compromiterea lanțului de aprovizionare)
• Nu creează procedura de răspuns la incident pentru momentul în care detecția eșuează (și va eșua, pentru că nicio detecție nu e de 100%)
• Nu produce documentația tehnică de care are nevoie o autoritate sau un auditor ca să verifice că sistemul tău AI respectă Art. 9

Nu e o critică la adresa Arcjet sau a altei unelte de runtime. Rezolvă o problemă reală. Problema e că firmele cumpără un produs de detecție și cred că securitatea AI e rezolvată. Nu e. Detecția e un control în interiorul unui sistem de management al riscului. Sistemul în sine tot trebuie să existe.

Art. 9 vrea un sistem, nu un produs

Articolul 9 din EU AI Act cere ca sistemele AI cu risc ridicat să aibă un sistem de management al riscului care funcționează continuu pe tot ciclul de viață al sistemului. Textul spune precis ce include:

1. Identificarea și analiza riscurilor cunoscute și previzibile în mod rezonabil, atât la utilizarea prevăzută, cât și la utilizarea greșită previzibilă
2. Estimarea și evaluarea riscurilor care pot apărea când sistemul e folosit conform scopului său
3. Adoptarea de măsuri de management al riscului pe baza acelei evaluări, inclusiv eliminare, atenuare sau furnizare de informații
4. Testarea sistemului, ca să verifici că funcționează constant pentru scopul prevăzut

O unealtă de securitate la runtime acoperă o parte din pasul 3. E o măsură de atenuare. Dar fără pașii 1, 2 și 4 documentați și ținuți la zi, ai un control fără context. Când Oficiul pentru AI va începe să ceară documentație tehnică (obligațiile pentru risc ridicat se aplică din 2 decembrie 2027, după votul Parlamentului din 16 iunie 2026, iar obligațiile de transparență din articolul 50 te leagă deja din 2 august 2026), „avem Arcjet instalat" nu e un răspuns adecvat.

Cum arată un răspuns adecvat:

• Un registru de riscuri care trece prompt injection alături de celelalte amenințări identificate (furtul modelului, otrăvirea datelor, exemple adversariale, compromiterea lanțului de aprovizionare, escaladarea privilegiilor în fluxurile agentice)
• O evaluare a probabilității și impactului fiecărui risc, în contextul concret al implementării tale
• Documentația despre ce controale acoperă ce riscuri, inclusiv detecția la runtime, validarea inputului, filtrarea outputului, controlul accesului și mecanismele de supraveghere umană
• Dovezi de testare că acele controale funcționează cum trebuie, actualizate după fiecare schimbare importantă
• Un plan de monitorizare după punerea pe piață, care aduce informațiile noi despre amenințări (cum e raportul HiddenLayer) înapoi în registrul de riscuri

Asta e diferența dintre a avea o unealtă de securitate și a avea un sistem de management al riscului.

Problema Meta e problema tuturor

Incidentul cu agentul scăpat de sub control la Meta merită privit atent, pentru că Meta are mai multe resurse de securitate AI decât aproape orice firmă de pe planetă. Are echipe interne de red team. Are cercetători în siguranță. O are pe Summer Yue, care conduce siguranța și alinierea AI la Meta Superintelligence Labs, iar ea a descris un alt incident, în care un agent OpenClaw legat de inboxul ei de Gmail a început să șteargă emailuri în masă și a ignorat comenzile de oprire până a fost oprit manual.

Dacă Meta, cu resursele ei, nu-și poate ține agenții AI sub control, un startup cu 50 de ingineri și un abonament Arcjet trebuie să fie realist în privința a ce poate face singură detecția la runtime.

Cele 73% dintre organizații care raportează neînțelegeri interne despre cine răspunde de securitatea AI sunt adevărata problemă. Nicio unealtă nu repară un eșec de organizare. Înainte să alegi între Arcjet, Lakera sau HiddenLayer, trebuie să răspunzi: cine din firma ta răspunde de sistemul de management al riscului AI? Nu de unealta de detecție. De sistem.

Unde rămâne echipa ta

Uneltele de securitate AI la runtime sunt necesare. Cumpără una. Integreaz-o. Dar nu te mai preface că un strat de detecție e o strategie de conformitate.

Dacă firma ta folosește AI cu risc ridicat conform EU AI Act, ai nevoie de un management al riscului documentat, care acoperă identificarea, evaluarea, atenuarea, testarea și monitorizarea. Furnizorul de securitate acoperă o bucată. Restul e la tine.

La DeviDevs construim sistemele documentate de management al riscului care transformă uneltele de securitate în dovezi de conformitate auditabile. Dacă ai uneltele, dar nu și documentația, știm drumul.

Despre DeviDevs: construim platforme de ML și sisteme AI securizate și ajutăm firmele să se conformeze cu EU AI Act. devidevs.com