Umelá inteligencia
Algoritmy sú ako recepty

Ak chceme, aby nám jedlo chutilo, prísady doň musíme dôkladne vybrať: odborník na algoritmy Sebastian Schelter v rozhovore vysvetľuje, ako nás umelá inteligencia oberá o rozhodnutia a aký vplyv má na náš život.
 

Von Johannes Zeller

Umelá inteligencia a počítače, ktoré sa dokážu samostatne učiť – ešte stále to znie trochu ako science-fiction, pritom už dávno prenikli do nášho bežného života. Algoritmy určujú nielen to, čo budeme počúvať alebo pozerať prostredníctvom streamovacích služieb, neraz rozhodujú aj o tom, kto dostane úver, alebo vedia predpovedať, akého trestného činu sa trestanec znova dopustí. Ale čo je vlastne algoritmus a ako pôsobí umelá inteligencia na naše životy?

ZÁKLADNÝ RECEPT: ALGORITMUS

„Algoritmus je v prvom rade postupnosť krokov. Môžeme si ho predstaviť ako kuchársky recept: na jednej strane v ňom máme prísady, teda vloženie počítačového programu. Recept nám hovorí, čo robiť krok za krokom, aby bolo jedlo pripravené správne,“ vysvetľuje Sebastian Schelter, odborník na algoritmy, ktorý skúma dátový manažment a strojové učenie na Amsterdamskej univerzite.

Z tohto pohľadu nie sú algoritmy ničím novým, každý počítačový program funguje podobne. No ak dnes hovoríme o rastúcom vplyve algoritmov, máme na mysli najmä strojové učenie: „Pri bežnom počítačovom programe nastavuje človek všetky kroky, ktoré vyriešia určitý problém. Existujú však problémy, pri ktorých je náročné počítaču presne spísať, ako ich vyriešiť,“ hovorí odborník. V prípade strojového učenia preto uplatňujeme iný prístup. Sebastian Schelter absolvoval Technickú univerzitu v Berlíne, neskôr sa venoval výskumu na Newyorskej univerzite a v Amazon Research. Momentálne pôsobí na Amsterdamskej univerzite ako profesor, kde sú jeho zameraním otázky na rozhraní dátového manažmentu a strojového učenia. | Foto: © Sebastian Schelter

VARENIE PRE POKROČILÝCH

„Jednoduchým príkladom je spamový filter, ktorý by mal rozlíšiť reklamné e-maily od súkromných a pracovných správ. Pre človeka nie je jednoduché vytvoriť takýto program. Môžeme stanoviť rôzne kritéria a pravidlá, na základe ktorých sa teoreticky dajú rozpoznať reklamné e-maily – či už podľa času, v ktorom sa odosielajú, prípadne určitých slov, ktoré sa v texte správy vyskytujú. Pritom však človek občas narazí na hranice ľudskej kapacity,“ vysvetľuje Schelter.

Preto sa v prípade strojového učenia počítač nenaprogramuje v pravom zmysle slova, ale ukážeme mu rôzne príklady. Najlepšie riešenie potom nájde sám. Programátor nastaví namiesto celého receptu iba želaný výsledok, ktorý by mal program dosiahnuť.

 „V tomto prípade by mohlo byť nastavených 1000 želaných správ, ako aj množstvo príkladov nežiaducich reklamných e-mailov,“ pokračuje Schelter. „Algoritmus potom na základe týchto príkladov odhaduje, či je prijatá správa reklama alebo nie. Veľkým rozdielom je, že pri bežnom programovaní sa stanovujú presné kroky, zatiaľ čo učiace sa algoritmy si sami volia kritériá výberu na základe príkladov a štatistickej pravdepodobnosti.“

KEĎ NÁS PREĽSTÍ UMELÁ INTELIGENCIA

Učiace sa algoritmy dokážu niektoré problémy vyriešiť nielen rýchlejšie, ale aj lepšie než ľudia. Keď v roku 2019 porazil program Pluribus profesionálnych pokrových hráčov, preukázalo sa, že umelá inteligencia sa nielenže dokáže učiť, ale vie aj švindľovať. Pri takýchto schopnostiach sa rozširuje aj jej pôsobenie, napríklad v zdravotníctve, financiách či v justícii.

Aj v Nemecku väčšina ľudí dennodenne čelí rozhodnutiam prefíkaných algoritmov. „Z vedeckého hľadiska ide o abstraktné matematické postupy, ktoré sa dajú aplikovať na rôzne oblasti. Ak povedzme chceme zistiť, aká je pravdepodobnosť, že určitá osoba splatí úver,“ tvrdí Schelter.

V krajinách ako USA a Austrália vládne podozrenie, že algoritmy svojimi rozhodnutiami diskriminujú určité etniká. „Sčasti to súvisí s tým, že diskriminácia sa skrýva už v spomínaných príkladoch, ktoré si algoritmus osvojil,“ vysvetľuje odborník korene problému.

ALGORITMUS SO ZMYSLOM PRE SPRAVODLIVOSŤ?

Otázka, kde by mali byť hranice algoritmu a umelej inteligencie, nie je technická, ale skôr etická. Alebo môžeme algoritmus naučiť spravodlivosti?

„Táto otázka je momentálne otvorená. Osobne si myslím, že existujú oblasti, v ktorých nesprávne rozhodnutie algoritmu nemá závažné následky – napríklad, ak vám streamovacia služba prehrá nesprávnu pesničku. Na druhej strane sú oblasti, kde algoritmus môže dať odporúčanie, ale konečné rozhodnutie je na človeku. No a ešte sú oblasti, ktoré by sme mali prenechať výhradne ľudskému úsudku,“ vyjadril sa Schelter.

„V USA sa používajú algoritmy, ktoré odhadujú, aká je pravdepodobnosť, že u väzňa dôjde k recidíve. Súdy a výbory majú prístup k týmto údajom, keď rozhodujú o predčasnom prepustení.“ Natíska sa nám teda otázka: Je to spravodlivé?

„Téma spravodlivosti sa sotva dá chápať matematicky, lebo sa točí v prvom rade okolo filozofických, politických a právnych aspektov. Každý má inú predstavu o tom, čo je a čo nie je spravodlivé, pričom nie je možné matematicky naplniť zároveň všetky definície spravodlivosti.“

Aj štúdie skúmajúce spravodlivosť rozhodnutí algoritmov naznačujú, že v tejto sfére ešte je čo doháňať. V mnohých oblastiach je potrebné najskôr sa zhodnúť v etických, politických a právnych otázkach, ako v určitých prípadoch „správne“ rozhodnúť. Až potom bude možné zveriť takú úlohu algoritmu. „Potom nám ostane zodpovedať ešte filozoficko-politickú otázku, či to vlastne chceme,“ skonštatoval Schelter.