Firemní systémy a AI nástroje – potenciál i skrytá rizika
Software dnes vzniká všude. A nejspíš na místech, kde byste to nečekali – v účtárně, v obchodě nebo třeba v HR. Umělá inteligence totiž umožnila vyvíjet vlastní aplikace nebo automatizace i lidem, kteří neumějí programovat. Finance si vytvoří reporting marží, obchodníci si napojí AI na e-mail, aby mohli automatizovat nabídky… Jak se k těmto inovacím postavit jako firma?
Staré problémy, nové tempo
S AI si nástroj vytvoříte za odpoledne, nemusíte čekat na IT ani řešit zdlouhavá kolečka zadání-vývoj-úpravy. Představte si třeba onen reporting marží. Šikovná kolegyně nebo kolega ho vytvoří, za měsíc ho používá celé oddělení, za půl roku na něm visí proces, o kterém ve vedení možná ani nevíte…
Nová technologie přináší rychlost a flexibilitu. Její používání spolu s firemními systémy ale má určitá rizika.
AI is the new legacy
Citizen development, tedy vytváření aplikací, reportů nebo automatizací bez znalosti IT principů, není nová věc. S umělou inteligencí však dosahuje nových rozměrů. A má paradoxně spoustu společného s tzv. legacy systémy:
- logice nástroje rozumí jen jeho autor,
- na nástroj jsou napojené kritické procesy,
- ve chvíli, kdy se něco rozbije, nemáte na koho se obrátit.
Nástroje napojené přes osobní účty nebo klíče zaměstnanců v AI navíc otevírají dveře útokům zvenčí. Jak se tedy s fenoménem citizen development vyrovnat?
Řešení č. 1: Zakázat AI
Jako první a celkem logické řešení se nabízí ve firmě zakázat využívání umělé inteligence. Bohužel nefunguje, jak ukázala zkušenost Samsungu z roku 2023.
Ten povolil zaměstnancům využívat ChatGPT. Během tří týdnů došlo ke třem únikům dat, od zápisu z porady po zdrojový kód čipu. A tak Samsung využívání AI zakázal. Jenže místo větší bezpečnosti se stal úplný opak – lidé AI dál využívali, jen o tom přestali mluvit. Společnost tak přišla o kontrolu.
Řešení č. 2: Zakázat sdílení dat v promptu
Možná vás napadne, že by stačilo zakázat cokoli měnit nebo sdílet v rámci promptu. Ani to se neukázalo jako funkční řešení. U jedné velké korporace agent i přes zákaz smazal ostrou databázi s tisícovkou firem, vytvořil 4 000 falešných záznamů a tvrdil, že obnova není možná. Naštěstí byla, ale tento příklad ukazuje, že nelze spoléhat na to, že AI splní instrukce.
Řešení č. 3: AI governance
Nejlepším řešením je dostat AI nástroje ve firmě pod kontrolu. A je to jednodušší, než si myslíte. Důležité je hned na začátku říct, že tato aktivita není o kontrole lidí, ale o tom, aby firma mohla inovovat bezpečně.
Jak začít používat AI ve firmě správně
Možná vám váš IT dodavatel poradil využívat AI gateway – softwarovou vrstvu mezi firemními systémy a AI aplikacemi. Ta má určitě svoje místo. Není ale odpovědí na to, co vaši lidé používají a k čemu.
Proto jsme připravili jednoduchý framework, díky kterému můžete rychle dostat AI nástroje pod kontrolu.
Náš framework pro AI governance má 5 základních bodů:
- dotazník na AI nástroje, kde zjistíte, co vaši lidé používají,
- seznam vibe coded aplikací a AI automatizací, který vyplníte podle výsledků dotazníku,
- registrační karta nástroje pro každou novou aplikaci/automatizaci,
- základní pravidla (směrnice) pro práci s AI,
- školení pro zaměstnance.
Podle našich zkušeností s vlastní implementací i s projekty u zákazníků vám zavedení AI governance zabere cca 60 hodin, což je za minimalizaci rizika celkem slušné číslo.
Jednoduchá metoda, kterou jsme zavedli u nás a řešíme ji i s klienty, odpovídá na největší rizika spojená se citizen development a vedení přináší klidnější spánek.
Chcete poradit, jak AI governance zavést u vás ve firmě? Napište nám, rádi s vámi projdeme celý proces a nasdílíme vzory dokumentů.