Umělá inteligence (AI) na nás útočí ze všech stran, ozývá se nám v mobilním telefonu, na internetu, zpravodajství je jí plné. Aby ale byla pomyslným dobrým sluhu a ne zlým pánem, je třeba pro ni i její uživatele nastavit pravidla. Začátkem února tak Evropská komise zveřejnila nové pokyny k zakázaným praktikám AI, které slouží jako doplněk k již platnému Aktu o umělé inteligenci (AI Act) [zde prosím proklik na první článek]. Tento průlomový dokument je první svého druhu na světě a jeho implementace je povinná pro všechny členské státy EU.
V České republice je za implementaci AI Actu zodpovědné ministerstvo práce a sociálních věcí. AI Act platí od srpna loňského roku a subjekty mají dva roky na jeho plnou implementaci. Jaké jsou postihy, když budou Akt ignorovat?
Firmy, které poruší regulaci, mohou čelit pokutám ve výši až sedm procent ročního obratu nebo 35 milionů eur (asi 875 milionů korun). Velké technologické společnosti, jako je Meta, se již připravují na právní bitvy proti těmto tvrdým opatřením.
A jaké praktiky jsou zakázané? Níže je seznam věcí, které nesmíte s AI dělat.
AI nesmí manipulovat podprahovými technikami: Reklamy nebo chatboty nesmí ovlivňovat lidi skrytými signály, které obcházejí jejich vědomé rozhodování. Konec neuromarketingu, který „láme vůli“ bez vašeho vědomí!
Žádná AI nesmí zneužívat slabiny lidí: AI nesmí cílit na děti, seniory, osoby s postižením nebo lidi v tíživé finanční situaci a ovlivňovat jejich chování ve svůj prospěch.
Sociální skórování v EU? Zakázáno: Pokud někdo chtěl zavést systém „hodnocení občanů“ podle jejich chování (jako v Číně), má smůlu. Sociální skórování s dopadem na přístup k běžným službám je v EU zcela zakázané.
AI nesmí předpovídat zločince jen na základě osobnosti: Představte si AI, která by určovala, zda někdo spáchá zločin, jen podle jeho chování na sociálních sítích nebo psychologického profilu. Takové prediktivní AI systémy jsou nyní zakázané.
Automatický sběr obličejů z internetu? Neprojde: Firmy nesmí hromadně sbírat a analyzovat fotky obličejů z webu nebo bezpečnostních kamer k vytvoření databází pro rozpoznávání tváří.
Rozpoznávání emocí na pracovišti? Pouze pro lékařské účely: AI nesmí analyzovat emoce zaměstnanců v práci nebo studentů ve školách – s výjimkou zdravotních a bezpečnostních důvodů.
Biometrická kategorizace je omezená: AI nesmí analyzovat biometrické údaje a zařazovat lidi podle rasy, politických názorů, víry nebo sexuální orientace.
Policie nemůže sledovat lidi pomocí AI v reálném čase – až na výjimky: Systémy pro biometrickou identifikaci na veřejných místech v reálném čase jsou zakázané, s výjimkou hledání pohřešovaných osob, teroristických hrozeb nebo pátrání po nebezpečných pachatelích.