Každý systém nebo inteligentní stroj na začátku potřebuje vstupní data. A to se může stát kamenem úrazu.
Lidský zásah a vysvětlení fungování algoritmů
V současné době se stává téměř nutností zavést do podniků nové automatizované a inteligentní systémy. Rychlost a preciznost zpracování dat zde hrají klíčovou roli a nejednomu podnikateli pomohou udržet krok s konkurencí. Jenže každý systém nebo inteligentní stroj na začátku potřebuje vstupní data. A to se může stát kamenem úrazu.
Na samém začátku tedy stojí systém, který potřebuje dostat vstupní data. Na základě jejich vyhodnocení pak rozhodne o dalším postupu. Samozřejmě, že ne vždy jde o data související s lidmi. Může se jednat o informace, které ani v nejmenším nenaplňují obecnou definici osobních údajů nebo která ji sice naplňují, ale nedochází k jejich zpracování ve smyslu GDPR. Pak můžete zůstat v klidu.
Pokud si ale kladete otázku, které ustanovení GDPR je nejproblematičtější ve vztahu k zařízení obsahující umělou inteligenci, pak je to povinnost správců umožnit subjektům realizaci práva na lidský zásah ze strany správce. Očekává se, že správce je schopen srozumitelně vysvětlit, v čem spočívá logika automatizovaného zpracování a na jakých principech je založeno.
V praxi to znamená, že do každého rozhodnutí, které chytré zařízení učiní, budete muset dostatečně vidět, rozumět mu a být schopen vysvětlit, proč bylo rozhodnuto zrovna tímto způsobem. A je úplně jedno, zda půjde o jednoduchý úkon nebo velmi komplikovaný rozhodovací proces. Porozumění ze strany člověka je nutné především proto, aby bylo možné v případě nutnosti do procesu vstoupit a usměrnit ho.
Možná se právě teď ptáte, proč bychom měli stroji zasahovat do rozhodování. Odpověď je jednoduchá: Pokud by byly rozhodovací procesy v chytrém zařízení přednastaveny nesprávně, mohl by systém některé situace vyhodnotit nekorektně a diskriminovat tak celé skupiny osob. Lidský zásah zde je spíše jako pojistka pro zachování spravedlnosti.
Pamatujte na to, že v rámci informační povinnosti budete muset být schopni vysvětlit, jak používané algoritmy fungují, jakým způsobem bylo dané rozhodnutí učiněno a které skutečnosti byly pro umělou inteligenci relevantní. Splnění této povinnosti se tak může velmi snadno stát nesplnitelnou misí.
Využití umělé inteligence je určitě krok správným směrem, nicméně z výše uvedených důvodů je určitě dobré nenaložit si toho více, než kolik unesete. Ujistěte se, že používané algoritmy jsou pro vás pochopitelné, případně zvažte jejich zjednodušení. Bohužel jednodušší algoritmy si mohou vybrat svou daň v podobě nižší spolehlivosti a přesnosti.
Máte osobní zkušenost se zařízením využívající AI? Chcete zjistit, zda jsou vstupní data zpracovávána ve smyslu GDPR? Obraťte se na nás!