EÚ zakazuje rizikové technológie AI

Európska únia oficiálne zakázala vysoko rizikové technológie umelej inteligencie (UI) vrátane biometrického dohľadu v reálnom čase, systémov sociálneho kreditu a algoritmov na predpovedanie zločinnosti.

Tento krok prichádza ako súčasť Aktu EÚ o umelej inteligencii, ktorý sa stal zákonom v auguste 2024 a teraz dosiahol svoj prvý termín na dosiahnutie súladu 2. februára 2025. Spoločnostiam, u ktorých sa zistí porušenie týchto obmedzení, hrozia pokuty až do výšky 35 miliónov eur (36 miliónov USD) alebo 7 % celosvetových príjmov, podľa toho, ktorá suma je vyššia.

**Aké technológie umelej inteligencie sú teraz zakázané?

Social credit scoring – žiadne systémy AI, ktoré hodnotia jednotlivcov na základe správania alebo reputácie, podobne ako čínsky systém.
Manipulačná AI – Žiadne nástroje AI určené na ovplyvňovanie rozhodnutí používateľov prostredníctvom klamlivých taktík.
Prediktívna umelá inteligencia v oblasti kriminality – Umelá inteligencia nemôže predpovedať kriminálne správanie na základe čŕt tváre alebo iných biometrických údajov.
Rozpoznávanie pohybov v školách a na pracoviskách – UI, ktorá sleduje emocionálne reakcie, je zakázaná, s výnimkou použitia na lekárske alebo bezpečnostné účely.
Biometrický dohľad v reálnom čase – Orgány činné v trestnom konaní musia splniť prísne podmienky, aby mohli používať AI na rozpoznávanie tváre na verejných miestach.

Tieto zákazy sa vzťahujú na všetky spoločnosti pôsobiace v EÚ bez ohľadu na ich sídlo.

Rozdelená reakcia veľkých technologických spoločností

Viac ako 100 technologických firiem vrátane Google, OpenAI a Amazon podpísalo v roku 2024 Pakt EÚ o umelej inteligencii, v ktorom sa zaviazali dodržiavať pred termínmi stanovenými v zákone.

Spoločnosti Meta, Apple a francúzska firma Mistral však odmietli podpísať s odôvodnením, že predpisy zabraňujú inováciám.

Výnimky a presadzovanie práva

Orgány činné v trestnom konaní môžu biometrickú umelú inteligenciu naďalej používať v prípadoch, ako sú nezvestné osoby alebo bezprostredné bezpečnostné hrozby, ale len pod prísnym dohľadom.
Zákon o umelej inteligencii sa prekrýva s GDPR a zákonmi o kybernetickej bezpečnosti (NIS2 a DORA), čím sa pridávajú ďalšie požiadavky na dodržiavanie súladu pri spracovaní údajov.

Táto historická legislatíva má zmeniť vývoj umelej inteligencie v Európe a prinútiť spoločnosti prehodnotiť svoje stratégie – alebo riskovať masívne pokuty.

Aký to bude mať vplyv na inovácie v oblasti umelej inteligencie v EÚ?

Príspevok EÚ zakazuje rizikové technológie AI je zobrazený ako prvý na Kryptoblog24.