Na prvem predavanju bo predstavljena uporaba AI orodij pri zaposlovanju, na primeru slovenskega startupa, ki razvija sistem za samodejno rangiranje kandidatov na podlagi LinkedIna, življenjepisov in družbenih omrežij. Poudarek bo na tem, kako tak sistem pade v kategorijo visokega tveganja po EU AI Act (zaposlovanje, dostop do dela), katere obveznosti izhajajo za ponudnika in uporabnika (npr. preglednost, človeški nadzor, upravljanje tveganj) ter kako se to prekriva z zahtevami GDPR glede pravne podlage, minimizacije podatkov, profiliranja in pristranskosti. Udeleženci bodo skozi mini‑DPIA analizirali glavna tveganja (profiliranje, diskriminacija, poseg v zasebnost) in iskali praktične mitigacijske ukrepe ter slišali kratek “legal memo” o odgovornosti, etičnih popravilih in poslovnih kompromisih (inovacije vs. globe, ugled).

Na drugem predavanju bo v ospredju AI za spremljanje družbenih omrežij v e‑trgovini, na primeru podjetja iz Kopra, ki z NLP orodjem analizira javne objave strank za oceno »lojalnosti znamki« in ciljno oglaševanje. Predavanje bo pokazalo, kako se tak sistem umešča v tveganjske ravni po EU AI Act (bližina prepovedanemu družbenemu ocenjevanju, visokotvegani elementi) in katere ključne določbe GDPR so kršene, zlasti pri nezakonitem profiliranju, obdelavi občutljivih podatkov ter deljenju z partnerji. Udeleženci bodo pripravili strnjen DPIA: opredelili bodo ključna tveganja (netransparentno profiliranje, občutljivi podatki, sekundarna uporaba) in možne tehnične/organizacijske ukrepe ter oblikovali priporočila vodstvu, kako uravnotežiti skladnost, stroške in tržne cilje.