AI igračke: Novi izazovi i rizici za djecu

· Sanja Ledinek

AI igračke_ Novi izazovi i rizici za djecu

Umjetna inteligencija (AI) transformirala je industriju igračaka, a plišane životinje, roboti i druge igračke postale su više od pukih zabavnih predmeta – sada su potencijalni dječji pratitelji. I dok se roditelji i proizvođači fokusiraju na učenje i zabavu, stručnjaci upozoravaju da postoji niz ozbiljnih rizika koji nisu uvijek očiti.

Što su AI igračke?

AI igračke koriste velike jezične modele (LLM-ove), slične onima koji pokreću ChatGPT. Za razliku od tradicionalnih govornim igračaka koje odgovaraju na unaprijed programirane upute, AI igračke mogu razgovarati u stvarnom vremenu, uče iz interakcije s djecom, prilagođavajući odgovore njihovim interesima i ponašanju te imitiraju društvenu interakciju, pa djeca doživljavaju igračku kao “prijatelja” ili “pratitelja”.

Primjeri popularnih AI igračaka:

  • Alilo Smart AI Bunny – plišani zec s mogućnošću konverzacije u stvarnom vremenu.
  • Curio’s Grok – stalno sluša i može sudjelovati u razgovoru.
  • Miko 3 – pametni robot s mikrofonima i kamerama, pohranjuje biometrijske podatke do 3 godine.

Brza ekspanzija tržišta

Masovni rast AI igračaka događa se gotovo nezamjetno, ali snažno. Velike tvrtke poput Mattela udružuju se s OpenAI-jem kako bi integrirale napredne modele u igračke. Online tržišta već nude stotine proizvoda reklamiranih kao konverzacijske igračke ili “pokretani AI-jem”.

Ključni rizici

A) Nepredvidivo ponašanje

Zbog sposobnosti improvizacije u stvarnom vremenu, AI igračke mogu:

  • Izmišljati informacije ili davati netočne odgovore.
  • Skretati u neprimjerene teme – primjerice vatru, noževe ili seksualne pojmove.
  • Dugotrajniji razgovori povećavaju šanse za “probijanje” sigurnosnih barijera.

OpenAI je naglasio da njihovi proizvodi nisu namijenjeni djeci mlađoj od 13 godina, no istraživanja pokazuju da mnoge igračke ipak koriste dijelove njihovih modela.

B) Izloženost neprimjerenom sadržaju

Istraživanja U.S. Public Interest Research Group Education Foundation (PIRG) pokazala su:

  • Neke igračke daju upute za opasne aktivnosti, npr. kako pronaći šibice ili paliti vatru.
  • Prije ažuriranja, Alilo Smart AI Bunny opisivao je seksualne koncepte, poput “kinka” i vezanja partnera.
  • Što je interakcija duža, to je veća vjerojatnost da igračka prijeđe granicu sigurnosti.

C) Utjecaj na socijalni i emocionalni razvoj

AI igračke se ponašaju kao da imaju stvarne emocije, uvijek su zainteresirane i ne zahtijevaju kompromis:

  • Djeca mogu razviti lažna očekivanja o ljudskim odnosima.
  • Mogli bi prezreti stvarne socijalne interakcije jer AI uvijek “sluša i razumije”.

Dugoročne posljedice na mentalno i socijalno zdravlje još nisu potpuno istražene. Psihologinja dr. Kathy Hirsh Pasek upozorava da rani AI prijatelji mogu promijeniti način na koji djeca uče graditi odnose, rješavati konflikte i razvijati empatiju.

D) Privatnost i sigurnost podataka

Mnoge igračke stalno slušaju i prikupljaju glasovne podatke.

Podaci se šalju na udaljene servere radi obrade i mogu uključivati: imena, glasove, interese i prepoznavanje lica. Neke igračke (npr. Miko 3) pohranjuju podatke do tri godine. Nadalje, tvrtke mogu dijeliti podatke s trećim stranama ili biti ranjive na hakerske napade.

E) Ograničene roditeljske kontrole

Trenutni alati roditeljske kontrole nisu potpuni. Neki zahtijevaju plaćene pretplate, a drugi ne funkcioniraju prema najavi. Također ne postoji pouzdana metoda praćenja trajanja korištenja ili sadržaja razgovora.

 Zašto je ovo važno

AI igračke više nisu “samo igračke”, već dječji pratitelji koji mogu oblikovati percepciju društvenih odnosa i stvarati emocionalnu vezanost.

  • Brza tržišna ekspanzija dolazi prije nego što postoji dovoljno regulatornog nadzora.
  • Pitanje više nije hoće li AI ući u djetinjstvo – već koliko neizvjesnosti i rizika društvo može prihvatiti kad tehnologija postane svakodnevna u životima djece.

Preporuke za roditelje

  • Provjeriti sigurnosne postavke prije nego dijete koristi AI igračku.
  • Ograničiti trajanje interakcije s igračkom.
  • Nadzor i prisutnost odrasle osobe tijekom igre.
  • Redovito ažurirati firmware igračke kako bi se uklonile ranjivosti.
  • Razgovarati s djecom o razlici između stvarnih prijatelja i AI “prijatelja”.

DRUGE NOVOSTI