Změna kultury, čistá data, bezpečné hřiště. AI žádá od firem hodně, ale zvlášť ženy by neměly váhat

Proč jsou méně nebezpeční lidé, kteří AI používají, než ti, kteří to mají zakázáno? Jakým překvapivým směrem by měly v souvislosti s novou technologií mířit firemní investice? Co ukazují testovací útoky proti společnostem, které AI zavádějí? V rámci setkání technologické podkomunity projektu Finženy debatovaly Linda Štucbartová z Women in Tech, Lenka Sedláková z Generali České pojišťovny a Ivana Kočíková z Aricoma Group.

Umělá inteligence má potenciál, který nejspíš ještě nedokážeme domyslet. Úspěch v ekonomické soutěži ale bude do velké míry záviset na schopnosti jej využít. „V Česku vidím typický přístup z extrému do extrému. Jeden den zní AI hurá, a druhý den zase, že je vlastně nebezpečná a raději ji zakážeme. Obojí je průšvih,“ uvedla Linda Štucbartová, ředitelka programu Women in Tech a zakladatelka projektu SAFE AI. Sama je velkou fanynkou AI. „Ovšem k tomu říkám: bezpečně a kompetentně. To zákazy nevyřeší,“ dodala.

Osobně se nebojí lidí, kteří AI používají, ale těch, kterým to firma zakáže a oni to stejně dělají. Do prostředí, které zaměstnavatel nemá pod kontrolou, může totiž unikat spousta citlivých informací. „Čína má největší podíl patentů vytvářených s využitím generativní AI. To znamená, že oni sledují, co se kde publikuje, o čem se mluví, kde by mohla být slepá místa. Úplně se tak mění třeba systém vědecké práce,“ podotkla Linda.

Ženám každopádně radí, aby se nedržely zpátky. Protože jsou jejich pracovní místa podle Mezinárodní organizace práce zasažena změnami spojenými s generativní AI téměř dvakrát častěji než pracovní místa mužů, měly by právě ony AI co nejvíce používat. Nejen aby posílily své kompetence, ale aby ji také trochu přetáhly na svoji stranu. Technologii totiž zásadně ovlivňuje, jak a kým je trénována.

Tři investiční priority

Kompetentní a smysluplné využití AI ve firmách začíná podle Lenky Sedlákové z Generali České pojišťovny u investic. „Asi vás překvapím. Nemyslím tím investice do technologií, ale do změny firemní kultury. Ta je z pohledu velké korporátní společnosti náročná, ale nezbytná a vy musíte investovat zejména do toho, abyste měli opravdu schopné lídry,“ uvedla žena, která zastává funkci senior manager of the central payment processing department. Právě lídři jsou totižzodpovědní za vytváření bezpečného prostředí, které vede lidi k tomu, aby přicházeli s nápady, co je třeba zavést a jak změnit procesy, které fungují neměnně i dlouhá léta.

Další nezbytnou ingrediencí je podle Lenky kvalita dat. „Velké korporace pracují s obrovskými objemy dat z desítek systémů a zdrojů, jejichž správa a udržování konzistence jsou velmi náročné. Nicméně na nekvalitních datech umělá inteligence nepřináší očekávané výsledky,“ podotkla.

Jako poslední, ale neméně důležitý předpoklad úspěchu uvedla dovednost lidí. Každá firma by si podle ní měla vybudovat strukturu vzdělávání, která jednotlivce vybaví potřebnými IT kompetencemi. Stále víc k nim bude patřit minimálně základní znalost AI, tedy k čemu ji lze využít, jak napsat prompt, jak kriticky ověřit výstup. „Tyto tři zmíněné oblasti představují ty největší investice, které bychom ve firmách měli udělat,“ shrnula expertka z Generali.

Ani na cestě změny to nejde bez brzd

Zásadní jsou ovšem i pravidla bezpečného používání umělé inteligence. Ta by měla splnit svůj účel, a zároveň firmy nesvazovat v situaci, kdy jde technologie a její využívání velmi rychle dopředu. „Já se na AI dívám úplně stejně jako na jakýkoli jiný software. Myslím se, že nikdo z nás by dnes jen tak nestáhnul nějaký program a nespustil by soubor exe. Podobně musíme nahlížet na AI nástroje,“ řekla Ivana Kočíková, která je Senior Cyber Security Specialist v Aricoma Group.

Sama za svou dosavadní praxi prošla v rámci různých analýz stovky nástrojů. „Zhruba v 60 procentech případů data, které tam vkládáte, nezůstávají v Evropské unii,“ upozornila. Řadu aplikací je podle licenčních ujednání zakázáno používat pro komerční účely, jiné zase zahrnují klauzule o možnosti předávání dat třetím stranám. Ivana proto apelovala na to, že nastavením bezpečnostních pravidel by mělo zavádění AI začínat.

Firmy, které se tím nechtějí zdržovat, podle ní riskují nejen střet s regulacemi, jako je zákon o kybernetické bezpečnosti, evropský AI Act či nařízení o kybernetické odolnosti, ale také konfrontaci s klienty či obchodními partnery. Ti je totiž mohou zanedlouho zasypat dotazníky, jakým způsobem používají AI nástroje, jak je mají zabezpečené, jestli je monitorují a mají vyhodnocená rizika.

Ivana připustila, že snaha o zajištění bezpečnosti může být svým způsobem brzdou, která by ale měla zabraňovat překotnému a riskantnímu vývoji bez pravidel. „Za sebe musím říct, že mě se brzdy, třeba v autě docela líbí, protože je to důležitý bezpečnostní prvek,“ trefně poznamenala specialistka z Aricomy.

Rezvervy v přístupu firem k bezpečnému využívání AI ukazuje její dosavadní zkušenost, kdy s kolegy testují systémy klientů formou cvičných útoků. „Ještě se nám za dobu, co to děláme v oblasti AI, nestalo, že bychom narazili na něco dokonalého a že bychom se neprolomili krátkými dotazy nebo přes agenty k informacím, ke kterým bychom se dostat vůbec neměli,“ řekla Ivana.

Chybovat je lidské a poučné

Úspěšně se vypořádat se všemi podmínkami zavádění přelomové technologie není snadné. Přesto je podle Lenky Sedlákové třeba nevzdávat se. „Myslím, si že věci jako reporting a další repetitivní práce je třeba digitalizovat a automatizovat. Lidé díky tomu dostanou čas kriticky hodnotit výstupy této automatizace a také posoudit, jakou má práce AI hodnotu,“ uvedla.

Technologická transformace přitom klade velké nároky na lídry. „Tito lidé jsou teď pod velkým tlakem, protože musí plnit standardní výkonnostní cíle, vedle toho měnit přístup k vedení týmů a zároveň se sami za pochodu učit,“ shrnula Lenka. Některé dovednosti, k jejichž získání měli dříve roky, si teď podle ní musí šéfové týmů osvojovat velmi rychle, protože i vývoj umělé inteligence jde velmi rychle vpřed.

V této souvislosti je zásadní nenechat se vykolejit neúspěchem a dobře pracovat s chybou vlastní i druhých. „Když budou dvě nemocnice, z nichž první chyby nedělá a druhá ano, tak všichni budete chtít do té první. Já vás budu přemlouvat, ať si vyberete druhou, protože ta první dělá chyby také, jen o nich neví a neučí se z nich,“ nastínila na příkladu Linda Štucbartová. Českým firmám a vůbec Čechům podle ní práce s chybou moc nejde. „Nemáme to v mentalitě,“ podotkla. Bohužel se tím komplikuje prosazování nových věcí, protože se brzdou stává strach, že se něco nepovede, a zároveň se ztrácí možnost poučit se.

Jak motivovat lidi, kteří nemají chuť vůbec vykročit do neznáma, kde by mohli šlápnout vedle? Někdy je dobrou cestou možnost postupně si novou technologii osahat na něčem praktickém. „Výborně funguje třeba informace, že AI umí navrhnout recept ze surovin, které jsou zrovna doma,“ nabídla svou zkušenost Lenka Sedláková. I ženy, které se k AI nehrnuly, se najednou nadchly, osvojily si promptování a začaly nového pomocníka využívat i k dalším úkolům. K pracovnímu využívání je pak už o dost snazší krůček.