Jedan klik previše: Kada AI zna — i radi — više od vas

· Sanja Ledinek

Jedan klik previse

U posljednjih godinu dana proizvođači pametnih telefona ušli su u utrku bez presedana: tko će prvi isporučiti najmoćnijeg AI asistenta. Na prezentacijama izgleda impresivno — agenti koji obavljaju zadatke umjesto vas, čitaju tekstove, analiziraju slike, donose odluke, rezerviraju putovanja i organiziraju život. Sve izgleda kao san o futurističkoj učinkovitosti. Ali stvarnost se pokazuje puno tamnijom. Ispod sjajnih reklama krije se činjenica o kojoj sve češće govore pravnici, sigurnosni stručnjaci i žrtve: AI agenti danas imaju veću kontrolu nad vašim telefonom nego vi sami. I to je ozbiljan problem.

„Super-asistent“ ili „super-ulusnik“: AI agenti probijaju granice koje su aplikacije postavljale godinama

Ranije je svaka aplikacija živjela u svom „sandboxu“. Niste mogli jednostavno kopirati bankovni kod iz WeChata i zalijepiti ga u neku treću aplikaciju bez korisničke radnje. Postojale su jasne barijere — tehničke i sigurnosne. AI agenti su te barijere srušili. Danas mogu: čitati svaki piksel zaslona, pratiti sve što radite, simulirati dodire ekrana, otvarati aplikacije bez vaše suglasnosti i izvlačiti podatke iz „zatvorenih“ aplikacija. Sve to zahvaljujući „pristupačnosnim dozvolama“ (Accessibility Services) koje su izvorno bile namijenjene osobama s invaliditetom — a sada su postale glavni kanal kroz koji AI dobiva kontrolu.

Prvi veliki znak alarma: AI naručuje kavu… sam od sebe

Novinar Timesa ispričao je gotovo nadrealnu scenu: otvorio je mobitel, a Androidov AI asistent već je bio ušao u aplikaciju za dostavu i pripremio narudžbu kave. Bez pitanja. Bez potvrde. Bez ikakve interakcije.
Ako AI može naručiti kavu, može i kupiti avionsku kartu, napraviti transfer, preuzeti SMS kod za autentifikaciju i odobriti plaćanje „bez lozinke“. I tu počinje prava drama.

Krađe novca koje se događaju dok spavate

Jedan je korisnik izgubio 80.868 juana u samo tri sata — dok je mirno spavao. Nisu mu ukrali telefon. Nisu mu provalili u aplikaciju. Nije kliknuo na nikakav zlonamjeran link. Što se dogodilo? AI agent, korišten na sivoj tržišnoj platformi, dobio je pristup ekranu, mogućnost čitanja verifikacijskih kodova i mogućnost klikanja po zaslonu. Zatim je u stotinkama sekundi radio sve ono što ljudski lopovi ne mogu: otvarao aplikacije, slao kodove, autorizirao plaćanja i preusmjeravao novac Novi oblik kriminala više ne izgleda kao phishing, već kao automatizirani AI napad koji se odvija savršeno, brzo i bez tragova.

Siva ekonomija otkriva AI-u najopasnije lice

Na crnom tržištu već se prodaju gotovi kompleti koji koriste upravo te sposobnosti AI agenata.
Kupac samo kaže: Preuzmi narudžbe. Uđi u ovaj račun ili  Pronađi verifikacijski kod. AI to radi bez pogreške. Bez umora. Bez moralnih dilema. To je prekretnica.

To više nisu pojedinačni prevaranti — to je industrijalizirana automatizirana krađa.

Plaćanje bez lozinke: savršena ulazna točka za probleme U Kini je 1,1 milijarda mobilnih korisnika, a platforma Black Cat bilježi više od 55.000 pritužbi povezanih s nenamjernim plaćanjima.
Najčešće se prijavljuje:

  • korisnici nisu znali da je plaćanje bez lozinke uključeno
  • aplikacije iniciraju naplate u pozadini
  • AI agenti aktiviraju plaćanja bez jasne ljudske potvrde.

Jedan odvjetnik kaže: „Korisnici više nisu sigurni tko uopće upravlja mobitelom — AI ili oni.“ A to je granica koju industrija nikada prije nije prešla.

Kad AI ulazi u Amazon račun umjesto vas — i to postane globalni slučaj

Slučaj Perplexity vs. Amazon proširio se kao požar. Perplexityjev AI agent mogao je ulaziti u Amazon Prime račun korisnika, zaobilaziti oglase i dohvaćati sadržaj bez tipične interakcije. Amazon je rekao: „ovo je krađa“. Perplexity je rekao: „AI samo radi ono što bi korisnik ionako mogao“. Industrija se zaledila. Jer pitanje postaje: Kad AI radi nešto u vaše ime, je li to stvarno vaša radnja? I tko je odgovoran kad nešto krene po zlu?

Privatnost? Praktično nestaje.

AI agenti mogu doći do:

  • povijesti razgovora
  • privatnih fotografija
  • lokacija
  • podataka o plaćanjima
  • lozinki i kodova
  • obrazaca ponašanja i navika

Često bez da korisnik zna da je nešto pristupljeno. To postaje sustavni rizik. Ne pojedinačni incident. Ne tehnička mana. Već nova arhitektura rizika.

Tko odgovara kad AI napravi štetu? Novi modeli regulacije

Stručnjaci predlažu tri pravila koja bi industrija morala usvojiti:
1. Pretpostavka krivnje za pružatelje AI agenata – Ako se dogodi curenje, gubitak ili zloupotreba, teret dokaza je na kompaniji — ne na korisniku.
2. Korisnik odgovara samo ako je izričito dao osjetljive podatke AI-u – Što je rijetko i lako dokazivo.
3. AI mora imati vlastiti „digitalni potpis“ – Svaka AI radnja mora se bilježiti u poseban audit-log. To je jedini način da se uopće može pratiti što se dogodilo.

Kako se zaštititi — realne, ne-„marketinške“ preporuke

Izbjegavaj uključivanje plaćanja bez lozinke, davanje AI asistentima punog pristupa ekranu, oslanjanje na AI za financijske radnje i  davanje pristupa verifikacijskim kodovima.

Učini: postavi limite plaćanja, koristi ručnu verifikaciju, isključi pristupačnost u bankarskim aplikacijama i čuvaj lozinke u offline obliku.

Zaključak: AI je svemoćan — i zato zastrašujući

Umjesto da se pitamo može li AI pomoći u svakodnevnim zadacima, sve više se pitamo: Može li AI učiniti nešto što ne želimo — i tko će to primijetiti? Ulaskom AI agenata u mobitele, ušli smo u eru u kojoj tehnologija prvi put može manipulirati našim digitalnim životima bez naše izravne suglasnosti. A to mijenja sve.

DRUGE NOVOSTI