Cum au mimat roboții oamenii?
O investigație comună realizată de Anthropic și cercetători independenți în securitate cibernetică a scos la iveală o operațiune masivă de fraudă online.
Culture picks
DeepSeek atinge pragul de un miliard de dolari: creștere explozivă
Browserul Opera vine cu VPN care pornește singur pe Wi-Fi-ul public
Tensiuni în ecosistemul enterprise: Salesforce, sub lupa SAP după demonstrația AI de la Dreamforce
Disney scumpește din nou abonamentele la Disney+ și HuluSchema a folosit modele lingvistice avansate pentru a genera replici extrem de realiste, reușind să ducă de nas mii de utilizatori singuratici pe diverse aplicații de întâlniri.
Campania sofisticată s-a bazat pe sisteme automate de inteligență artificială care imită interacțiunea umană veridică. Folosind aceste modele conversaționale, infractorii au reușit să câștige încrederea victimelor la o scară fără precedent, împingându-le în cele din urmă spre capcane financiare.
De ce au eșecat filtrele tradiționale?
Atacatorii au integrat modele lingvistice mari direct în profilurile false de dating. Acești roboți puteau purta discuții profunde, cu o puternică încărcătură emoțională, adaptându-și tonul în funcție de Prin automatizarea fazei inițiale de seducție, infractorii au scăpat de nevoia de a scrie manual fiecare mesaj.
Această rețea criminală a putut astfel să țintească mii de indivizi în același timp, mărindu-și considerabil veniturile ilegale.
Depistarea acestor conturi false bazate pe inteligență artificială rămâne o bătaie de cap uriașă pentru platformele sociale. Deoarece textul generat este puternic personalizat și nu dă în vileag semne clasice de spam, filtrele tradiționale dau greș adesea în a semnala conturile suspecte.
Experții în securitate trag un semnal de alarmă: pe măsură ce modelele lingvistice devin tot mai șirete, diferența dintre utilizatorii reali și escrocii digitali va cere o analiză comportamentală avansată. Platformele sunt acum obligate să creeze metode de verificare mult mai dure pentru a-și feri utilizatorii vulnerabili de exploatarea emoțională și financiară.
Ce îndeplinește noua metodă de scrocherie?
Infractorii au pus modele lingvistice pe profiluri false ca să poarte conversații pe bandă rulantă.
Aceste sisteme au scos pe bandă rulantă mesaje pline de emoție care păreau sută la sută umane, prin care au pescuit încrederea oamenilor.
Sistemele clasice caută mesaje repetitive de tip spam, pe care textul generat de AI le ocolește fără efort. Pentru că modelele creează fraze unice pentru fiecare om în parte, conturile par complet autentice în fața filtrelor automate.
