AI Act u praksi: bez panike, ali bez odgađanja
Priznajem, kad sam prvi put naišao na spomen AI Acta, instinktivno sam se uhvatio za glavu. Još jedna europska regulativa nalik GDPR-u? Još jedan val birokracije koji će gutati vrijeme i energiju – umjesto da ih ulažemo u rast poslovanja.
Ali nakon prvog razgovora s Mirom (našim DPO-om) i malo dubljeg razmišljanja o tome zašto bi to sve ipak moglo imati smisla – i za koga – došlo je olakšanje. U stvarnosti, neka pravila igre ionako ćemo prije ili kasnije trebati. Zamislite samo kakav bi nered nastao s osobnim podacima da ih nitko ne štiti. Moj broj mobitela isti je još od 1996. godine. Ne znam nijednog Amerikanca koji ga nije barem jednom morao promijeniti u zadnjih 30-ak godina.
Što je točno AI Act – i zašto bi marketinški timovi trebali obratiti pažnju?
Ukratko: AI Act je nova EU uredba koja je formalno na snazi od kolovoza 2024., dok su prvi konkretni zahtjevi počeli vrijediti u veljači 2025. (potpuna primjena kreće u kolovozu 2027.). Cilj joj je regulirati primjenu umjetne inteligencije u poslovanju – osobito tamo gdje AI ima konkretan utjecaj na korisnike. Primjeri? Segmentacija, personalizirani sadržaji, preporuke, automatizirane odluke, procjena kreditne sposobnosti…
Da, dobro ste pročitali – marketing, e-commerce, CRM i sve slične domene u kojima koristimo AI ulaze pod povećalo.
Zašto bi AI Act mogao biti koristan?
U FrodXu znamo da svaka regulativa znači dodatni korak, dva… ali vjerujem da bi AI Act mogao biti pozitivan iskorak. Dugoročno gledano. Kad jednom usvojimo i operacionaliziramo tražene mjere.
Zašto? Jer napokon donosi jasnoću – a jasnoća donosi stabilnost. Danas mnoga poduzeća s kojima radimo na AI podržanim CX rješenjima i automatizaciji korisničkih procesa još uvijek oklijevaju s implementacijom. Po mom mišljenju, često previše. Tehnologiju već imaju, ali je ne koriste. Strah prevladava – kao i uvijek kad se uvodi nešto novo.
Zanimljivo je da je danas lakše uvoditi direktni marketing nego, recimo, 2012. kad smo postavljali prve sustave za marketing automation. Zašto? GDPR je dao jasna pravila igre. Nešto slično očekujem i od AI Acta: jasno će odrediti što je u redu, a gdje počinju rizici. Bit će lakše donijeti odluke i poslovati s manje sumnji. Bit će jasnije što znači odgovorno korištenje AI-ja – i kako treba izgledati sustav koji je spreman na 2026. i 2027.
Koga se sve ovo tiče?
Uredba se odnosi na sva poduzeća koja koriste AI za interakciju s korisnicima na tržištima EU. Veličina firme pritom nije presudna – iako su kazne za manje tvrtke nešto blaže (ali ne zanemarive).
Dakle, ako koristite automatiziranu segmentaciju kupaca, AI preporuke (recommended product, next best action…), dinamičko određivanje cijena, chatbotove ili AI agente – AI Act se odnosi i na vas. Ako AI koristite isključivo interno, primjerice za optimizaciju proizvodnje, bez utjecaja na korisnike – prostor za brigu je manji.
Kazne? Shvatite ih kao zdravu motivaciju. Kao što je bio GDPR. 😏
Kazne mogu doseći i do 7 % godišnjeg prometa ili 35 milijuna eura – no svrha im je prije svega da nas natjeraju na pravovremeno prilagođavanje.
U praksi to znači da ćete trebati:
- jasno označiti gdje i kako koristite AI,
- omogućiti korisnicima da odbiju AI u svom slučaju,
- voditi transparentne zapise o funkcioniranju AI sustava (audit trail),
- imati mogućnost ljudske intervencije i zaustavljanja automatiziranih odluka,
- redovno testirati je li vaš AI možda pristran.
Kako se pripremiti?
Po meni, najbolji prvi korak je: napravite popis svih AI rješenja koja koristite – uključujući i ona vanjskih partnera. Nije trivijalno, ako želite biti temeljiti. Zatim odredite razinu rizika za svako rješenje i pripremite sustav dokumentacije i provjere.
|
Rizik |
Tipični primjeri |
Kriterij |
Utjecaj |
Mjere |
|
Minimalan |
Spam filteri, osnovne automatizacije bez utjecaja na korisnika |
Utječe li sustav na korisničko iskustvo ili prava? → NE |
Nema utjecaja |
Nema posebnih mjera |
|
Ograničen |
Personalizirani mailovi, segmentacija, preporuke, chatbotovi |
Utječe li na odluke ili ponašanje korisnika? → DA, ali bez posljedica |
Posredan utjecaj na ponašanje korisnika |
Jasna oznaka, mogućnost isključivanja, osnovna dokumentacija, transparentnost |
|
Visok |
Dinamičko određivanje cijena, AI odobravanje kredita itd. |
Utječe li na prava ili financijski/pravni položaj korisnika? → DA |
Izravan utjecaj na prava ili važne odluke korisnika |
Detaljna dokumentacija, audit trail, testiranje, kill-switch, human-in-the-loop |
Mi u FrodXu već uvodimo audit-log i kill-switch za naše prilagođene AI agente, a posebno promišljamo kako pametno ugraditi human-in-the-loop – a da pri tome ne ubijemo prednosti automatizacije. Puno je lakše kad koristimo Emarsys ili HubSpot, jer su se tamo proizvođači već pobrinuli za regulatorni okvir. Emarsys je uz to i europski vendor. 🙂
Kako se pripremiti?
Pitanja o AI Actu neće nestati – ali vremena za pripremu je sve manje. Zato organiziramo open mike s Miroslavom Ekartom, našim DPO-om. Bez prezentacija. Bez prodaje. Samo iskrena pitanja, konkretne dileme i praktični odgovori iz prve ruke.
Kako će nadzorna tijela provoditi kontrole? Što konkretno znači "pristranost" u vašem sustavu? Hoće li vaš AI agent moći nastaviti raditi u kolovozu 2026. i 2027. – ili će ga trebati isključiti?
Ako vas to muči, javite mi se na dejan.blatnik@frodx.com. Okupljamo zainteresirane kako bismo definirali termin i lokaciju. Vaš interes nam pomaže da događaj prilagodimo vama – i da sve odradimo na vrijeme.
Jer posljednje što bilo tko želi čuti u kolovozu 2026. je: "Zašto niste reagirali još prošle godine?"
