Umělá inteligence v EU - naděje i výzvy
Čtvrtek 11. 1. 2024,
Každý rok je v EU zaznamenáno přes 250 tisíc pohřešovaných dětí. To znamená každé dvě minuty jedno pohřešované dítě, často v ohrožení života. Čím déle jsou děti pohřešovány, tím větší je pravděpodobnost, že jim bude ublíženo[1]. Přesné a včasné informace jsou tak naprosto klíčové pro zajištění jejich návratu a bezpečí. Je naší povinností využít dostupné a nové nástroje k jejich nalezení. Právě využití AI může výrazně přispět k úspěšnému nalezení pohřešovaných dětí a to co v nejkratším možném čase.
image by jcomp on Freepik
EU nyní nalezla politickou dohodu nad prvním nařízením na světě k umělé inteligenci, které může mimo jiné přispět k bezpečí dětí. Umělá inteligence už podle všeho pomáhá při pátrání po ukrajinských občanech pohřešovaných během války s Ruskem. Ukrajinské úřady ji využívají zejména na rozpoznávání obličejů.
O tomto využití AI psal v listopadu rozsáhlou reportáž například časopis Time. Ukrajinské úřady používají systém Clearview k odhalování infiltrátorů na kontrolních stanovištích, ke zpracování občanů, kteří ztratili své doklady, k identifikaci a stíhání členů proruských milicí a ukrajinských kolaborantů, a dokonce k nalezení více než 190 unesených ukrajinských dětí, které byly převezeny přes hranice do ruských rodin.
Evropské nařízení o umělé inteligenci (AI)
Nařízení o umělé inteligenci stanovuje harmonizovaná pravidla pro vývoj, uvádění na trh a používání systémů umělé inteligence v Unii na základě přístupu založeného na potencionálním riziku. Nařízení pracuje se třemi kategoriemi rizik: nepřijatelná, vysoká, limitovaná a minimální rizika, přičemž minimální rizika se týkají většiny technologií.
Použití technologií s nepřijatelnými riziky bude zakázáno. Mezi zakázané praktiky patří praktiky manipulující s lidským chováním (kognitivní manipulace), necílené získávání záznamů obličejů z internetu nebo záznamů průmyslových kamer, rozpoznávání emocí na pracovišti a ve vzdělávacích institucích, sociální skórování na základě chování nebo určitě biometrické systémy využívající citlivá osobní data.
Pro využití ostatních biometrických identifikačních systémů ve veřejně přístupných prostorách pro účely vymáhání práva jsou nastaveny přísné podmínky a jsou podmíněny soudním povolením. Tyto systému by se tak mohly využívat pouze pro cílené vyhledávání osob odsouzených nebo podezřelých ze spáchání závažného trestného činu.
Biometrických identifikační systémy v reálném čase bude možné využít například pro cílené vyhledávaní obětí únosů nebo boji proti terorismu. Právě tato část je klíčová pro hledání pohřešovaných dětí. Musíme využít potenciál, které tyto technologie nabízejí a ne pouze slepě zakázat jeho přínosy!
Nejsem odbornicí na umělou inteligenci, ale nové nařízení představuje další stavební blok pro posílení ochrany dětí v EU a je potřeba se mu věnovat. Stejně jako u otázky šifrování zpráv a odhalování sexuálního zneužívání dětí na internetu (Nařízení pro předcházení pohlavnímu zneužívání dětí a boj proti němu), i zde platí, že na prvním místě je využití technologií pro lidi a, že technologie by jim měli pomáhat řešit jejich problémy.
AI a dezinformace
Všichni jsme zaznamenali videa vytvořená AI, kde vystupují celebrity a politici - nerozeznatelní od reality. Andreji Bašovi se díky tomu zlepšila čeština, Špotáková pak zase mluví na pozvánce k OH plynně pěti světovými jazyky. To jsou však jen úsměvné příklady toho, co AI opravdu dokáže.
Umělá inteligence je dvousečnou zbraní. Může výrazně pomoct při odhalování a boji proti deep fakes, stejně tak ale může být zneužita pro jejich tvorbu. Využití AI je však nevyhnutelné a právě proto potřebujeme jasný rámec, v kterých bude moct fungovat. Správným krokem je povinnost jasně označit obsah vytvořený umělou inteligencí, který je často nemožný odlišit od reality.
Zajistit, aby umělá inteligence byla vyvíjena způsobem, který slouží veřejnému zájmu, není jednoduchý úkol. Akt o umělé inteligenci není dokonalý, ale je to vůbec první legislativa na světě, která komplexně pojímá umělou inteligenci. Evropská unie tím vytváří obdobný precedens jako u GDPR. Nyní se musí zapojit zbytek světa. Odrazujícím příkladem je Čína, která žije spíše dystopii Velkého bratra.
(Zne)užití umělé inteligence lze v plné míře sledovat na ruské agresi proti Ukrajině. Drony vybavené umělou inteligencí, které mohou identifikovat a útočit na cíle bez lidského dohledu jsou jen jedním z příkladů. Informační válka a šíření nepravdivých a umělé vygenerovaných zpráv Ruskem je stejně tak nebezpečné. Ukrajině se však daří většinu ruských útoků odrážet a to za pomoci západních partnerů a ukrajinských startupů, které analyzují množství dat na sociálních sítích.
