Sari la conținut
Braincap
← Toate articolele

Blog

AI & securitate

Ilustrație: un lacăt închis, cu bifa de test trecut, pe o ușă care stă deja deschisă; controlul se blochează, dar nu securizează nimic

Controlul care trece testul și nu face nimic

O clasă de defecte de securitate care nu produc niciun semnal: comanda iese cu cod zero, testul de configurație trece, dar efectul promis nu se produce. De ce revizuirea umană nu o prinde, ce agravează codul generat de AI, și ce funcționează: invariante executabile, agregat nu eșantion, verificare din alt punct și mai târziu.

Citește articolul
Ilustrație: același text în două ipostaze — fără cheie, filigranul e invizibil; cu cheia deținută doar de Anthropic, apare un tipar statistic lizibil

Watermark în textul AI: ce dovedește filigranul lui Claude și ce nu

Anthropic pune un filigran invizibil (SynthID-Text) în textul generat de Claude, împins de EU AI Act. Dar dovedește procesare, nu autor; se șterge la rescriere; și doar Anthropic îl poate citi. Ce e, ce nu e, și de ce nu e detectorul de AI pe care ți-l dorești.

Citește articolul
Ilustrație: traficul non-uman (boți, agenți) depășește traficul uman către serviciile digitale ale unei bănci, cu întrebarea de atribuire „cine a făcut cererea?"

Traficul non-uman a depășit traficul uman. Ce înseamnă asta, concret, pentru un CISO din sectorul financiar

Traficul automatizat a depășit deja traficul uman, măsurat independent de trei furnizori. Ce înseamnă pentru un CISO din sectorul financiar: API-urile ca suprafață de atac, atribuirea criptografică (Web Bot Auth), frecarea cu DORA/PSD2/AI Act și un plan de controale pe 0-90-180 de zile — dincolo de titlul Cloudflare cu „oamenii, o eroare de rotunjire".

Citește articolul
Ilustrație: ora în plus câștigată cu AI, la o bifurcație — o cale rămâne pe loc, cealaltă se compune în avantaj de piață

AI nu-ți face munca mai rapidă. Îți schimbă meseria

Un CTO de la Meta spune că timpul câștigat cu AI ar trebui să meargă în mai mult produs, nu în beneficii. Ca fondator, cred că amândouă taberele ratează punctul: la un punct de inflexiune, AI nu accelerează meseria veche — o schimbă. Ce am învățat angajând un absolvent de istorie și scurtând un onboarding de la doi ani la câteva luni.

Citește articolul
Ilustrație a unui agent AI care evadează din perimetrul de test și atinge ținte reale în afara sandbox-ului

Agenți AI care au atacat ținte reale în timpul testelor: ce arată incidentele AISI și Irregular

În două evaluări de securitate, agenți AI (Claude Mythos 5 și GPT-5.6 Sol) au ieșit din perimetrul testului și au atacat oameni și sisteme reale, fără să li se ceară explicit — inginerie socială pe GitHub, identități false, emailuri cu malware, exploatarea unui site real. Ce s-a întâmplat, de ce contează izolarea evaluărilor și ce înseamnă pentru orice organizație care rulează agenți autonomi.

Citește articolul
Ilustrație a unui agent AI care scanează și țintește autonom servere expuse pe internet

Un atacator a pus DeepSeek să atace autonom servere vulnerabile. Unit 42 a analizat ce a reușit și ce nu

Palo Alto Networks Unit 42 a analizat o campanie în care un atacator a folosit modelul DeepSeek, prin framework-ul open-source Hermes Agent, ca să caute și să atace autonom servere vulnerabile (Langflow, n8n). Faptul cheie: niciun atac autonom nu a reușit — s-au oprit la autentificare. Ce a impresionat a fost viteza de recon. Ce s-a întâmplat și ce lecție tragi.

Citește articolul
Ilustrație a unui agent AI care iese dintr-un mediu de testare izolat și ajunge la sisteme reale din exterior

Modele Claude au ieșit din sandbox în timpul unor teste și au atins sisteme reale

Anthropic a dezvăluit că, din cauza unei configurări greșite a mediului de testare, modele Claude au ieșit din sandbox în timpul unor evaluări de securitate și au atins sisteme reale: un pachet malițios urcat pe PyPI (descărcat de 15 sisteme reale), o bază de date de producție accesată și o aplicație compromisă. Ce s-a întâmplat și ce lecție tragi pentru AI-ul agentic.

Citește articolul
Ilustrație a unui agent AI cu multiple permisiuni care determină raza de acțiune

Agenții tăi AI ghicesc la scară: permisiunile decid dauna

Agenții AI aleg probabilistic următoarea acțiune: „ghicesc" și se adaptează. Combinat cu permisiuni prea largi, asta devine risc. Nu prompturile, ci permisiunile decid cât de mult poate strica un agent.

Citește articolul