Neki ljudi su zli, ali i AI: Anthropic priznao da se njegov Claude koristi za sajber kriminal

Kompanija Anthropic, tvorac veštačke inteligencije Claude, saopštila je da su njihovi sistemi zloupotrebljeni za izvođenje sajber napada širom sveta.

U izveštaju se navodi da je reč o novoj praksi poznatoj kao "vibe-hacking", gde AI ne samo da pomaže, već i samostalno izvodi ključne faze napada - od prikupljanja podataka do formulisanja ucena.

Veštačka inteligencija čini fišing pametnijim i opasnijim: Biometrija i potpis postali rizični

Ozbiljna opasnost: Hakeri koriste Google Calendar za krađu lozinki i informacija o kreditnim karticama

Prema navodima izveštaja, napadači su uz pomoć Claude Code-a u roku od mesec dana pogodili najmanje 17 organizacija u različitim sektorima – od zdravstvenih i državnih institucija, do verskih zajednica i hitnih službi. 

Ucenjivački zahtevi dostizali su i do pola miliona dolara.

Hakera ko pleve: Interpol uhapsio više od 1.000 osumnjičenih za sajber kriminal u Africi

Osim vibe-hackinga, otkrivene su i druge zloupotrebe:

• Prevare zapošljavanja povezane sa Severnom Korejom, gde su AI alati korišćeni za lažne intervjue i rad u IT kompanijama.
• Generisanje ransomware-a koji se preprodavao na mreži po ceni od 400 do 1.200 dolara.
• Romantične prevare uz pomoć AI bota na Telegramu, čiji su ciljevi bile žrtve u SAD, Japanu i Koreji.

Veštačka inteligencija kao deo svakodnevice: AI bi mogla u 2025. da poveća rizike za sajber bezbednost

Anthropic ističe da je na svaki incident reagovao blokiranjem naloga, uvođenjem novih sistema detekcije i obaveštavanjem nadležnih institucija.

Ipak, kompanija priznaje da su zlonamerni akteri pronašli načine da zaobiđu sigurnosne filtere, što otvara pitanje koliko su AI sistemi bezbedni i podložni zloupotrebama.

Sajber kriminalci sve češće ciljaju mlade gejmere: UNA pita - kako da zaštitimo i decu i novac?

Sajber kriminalci ga sve češće zloupotrebljavaju: Kako da razlikujete pravi od lažnog QR koda?