Europol zabrinut zbog moguće zlouporabe ChatGPT-a

Iako će ova nova revolucija umjetne inteligencije ponuditi uzbudljive mogućnosti za budućnost, Europol iskazuje zabrinutost potencijalne zlouporabe mogućnosti LLM-a (velikih jezičnih modela) za kibernetički kriminal, širenje dezinformacija i krađu identiteta. Primjerice, kibernetički kriminalci mogu koristiti sposobnost ChatGPT-a da proizvedu vrlo realističan tekst kako bi oponašali stil govora određenih pojedinaca ili grupa i ciljali na žrtve koje ništa ne sumnjaju. Isto tako sposobnost ChatGPT-a da izbaci tekst koji zvuči autentično kriminalcima omogućava stvarati i širiti poruke specifičnog narativa dovodeći time ljude u zabludu ili manipulirati javnim mnijenjem. Štoviše, ističu potencijalnu upotrebu chatbota za generiranje zlonamjernog koda i njegovu upotrebu u kibernetičkim napadima

PROČITAJTE JOŠ

Trgovina dodataka ChatGPT – oči i uši za AI chatbotove

ChatGPT i pitanje autorskih prava AI-a sve više zabrinjava

Hoće li ChatGPT zamijeniti ljude na radnim mjestima?

Agencija Europske unije za provedbu zakona zato smatra da je ključno riješiti potencijalne rizike povezane s zlouporabom. U izvješću naglašavaju potrebu za čvrstim regulatornim okvirom koji uravnotežuje inovacije, a istovremeno sprječava zlonamjernu upotrebu. Nadalje, tvrtke poput Microsofta i OpenAI morat će postaviti zaštitne mjere kako bi spriječile zlonamjernu upotrebu.