Vysoko riziková AI
Otvorí chat s pripraveným promptom.
Vysoko riziková AI označuje systémy umelej inteligencie, ktoré sú podľa EU AI Act klasifikované ako vysoko rizikové, pretože môžu mať významný vplyv na zdravie, bezpečnosť alebo základné práva osôb. Patria sem okrem iného AI v oblasti náboru zamestnancov, hodnotenia úverovej bonity, vzdelávania a kritickej infraštruktúry. Pre tieto systémy platia prísne požiadavky na transparentnosť, dokumentáciu, ľudský dohľad a riadenie rizík. V marketingu sa to týka predovšetkým AI systémov na automatizované rozhodovanie, ktoré môžu podstatne ovplyvniť správanie spotrebiteľov.
Vysoko riziková AI sa definuje regulačnou klasifikáciou, nie technickou sofistikovanosťou. Large Language Model sa stáva vysoko rizikovým až vtedy, keď sa nasadí v jednom z prípadov použitia špecifikovaných EU AI Act. Chatbot odporúčajúci produkty zostáva nízko rizikový. Ten istý chatbot sa stáva vysoko rizikovým, keď rozhoduje o úveroch alebo predvyberá uchádzačov o zamestnanie. Hranica prebieha medzi aplikačnými kontextmi, nie medzi technológiami. V marketingu sa to týka predovšetkým automatizovaných systémov, ktoré podstatne ovplyvňujú spotrebiteľov v významných rozhodnutiach – dynamické oceňovanie, ktoré systematicky znevýhodňuje určité skupiny, alebo targetovacie algoritmy, ktoré sa dotýkajú základných práv.
V každodennej B2B prevádzke znamená vysoko riziková AI konkrétne povinnosti v oblasti compliance. Ak nasadíš AI systém na automatizovanú kvalifikáciu leadov, ktorý fakticky rozhoduje o obchodných vzťahoch, musíš zdokumentovať, ako bol systém natrénovaný, aké dáta používa a ako zostávajú rozhodnutia sledovateľné. To vyžaduje technickú dokumentáciu, posúdenia vplyvu rizík a často externé audity. Pre stredne veľké firmy v regióne DACH to znamená rozpočet na právne poradenstvo, prispôsobenie interných procesov a možno vzdanie sa určitých AI funkcií. Systém, ktorý predpovedá hodnotu zákazníka, je nekritický. Systém, ktorý automaticky rozhoduje, ktorí zákazníci vôbec dostanú ponuky, môže byť vysoko rizikový.
Najväčšia pasca spočíva v sebahodnotení. Mnoho firiem podceňuje, kedy ich AI systémy prekročia prah do kategórie vysokého rizika. Nástroj marketingovej automatizácie, ktorý len odporúča, zvyčajne zostáva mimo. Hneď ako automaticky nastavuje ceny alebo riadi prístup k službám, právna situácia sa mení. Náklady na compliance sú značné: dokumentačná záťaž, pravidelné audity, technické úpravy pre Explainable AI. Menší poskytovatelia sa preto sťahujú z určitých trhov. Trade-off je reálny – viac automatizácie automaticky neznamená vyššiu efektivitu, keď náklady na compliance pohltia úspory.
Pri výbere AI systémov by si mal včas objasniť, či tvoj prípad použitia spadá pod vysoké riziko. Nespoliehaj sa len na vyhlásenia dodávateľov – právna zodpovednosť leží na prevádzkovateľovi, nie na poskytovateľovi nástroja. Over, či systém umožňuje ľudský dohľad, či sú rozhodnutia sledovateľné a či dodávateľ poskytuje potrebnú technickú dokumentáciu. Pre kritické aplikácie sa oplatí budovanie internej expertízy alebo spolupráca so špecializovanými poradcami. Alternatíva – vedome sa vyhnúť vysoko rizikovým aplikáciám a obmedziť AI na podporné funkcie – je často ekonomicky múdrejšie rozhodnutie.
Súvisiace pojmy
Takto vyzerá táto technológia v praxi.
Pozrite sa, ako technológie ako táto nasadzujeme pre firmy, alebo sa s nami spojte priamo.