Organizace spěchají, aby zjistily, jak z generativní AI vytěžit obchodní hodnotu – aniž by se staly obětí nesčetných nástrah, které z toho vyplývají.
Křivka přijetí zde není nikterak pozvolná, většina vedoucích pracovníků podniků rychle pracuje na využití potenciálu této technologie pouhých několik měsíců poté, co v listopadu 2022 spustil vlnu nadšení (a obav) nástroj ChatGPT pro generativní AI.
Chcete dostávat do mailu týdenní přehled článků z CIO Business Worldu? Objednejte si náš mailový servis a žádná důležitá informace vám neuteče. Objednat si lze také newsletter To hlavní, páteční souhrn nejdůležitějších článků ze všech našich serverů. Newslettery si můžete objednat na této stránce.
Stačí se podívat na statistiky: Přibližně 45 % z 2 500 vedoucích pracovníků dotázaných pro zprávu výzkumné společnosti Gartner z května 2023 uvedlo, že publicita kolem nástroje ChatGPT je přiměla zvýšit investice do AI, 70 % uvedlo, že jejich organizace již zkoumá gen AI, a 19 % je ve skutečném pilotním nebo produkčním režimu. Tyto výsledky se shodují s novějším průzkumem CIO Tech Talk společnosti Foundry z července 2023, který zjistil, že 60 % vedoucích IT pracovníků aktivně využívá gen AI ve svém podniku a dalších 28 % je ve fázi průzkumu.
Podle průzkumu Foundry většina vedoucích IT pracovníků zvyšuje kvalifikaci zaměstnanců v oblasti genové AI (54 %) a dostává nástroje genové AI do rukou uživatelů (52 %), zatímco 42 % zavádí zásady a pokyny pro genovou AI. přesto se vedoucí pracovníci v oblasti technologií, výkonní poradci, konzultanti v oblasti řízení a nadšenci pro AI shodují, že vedení podniků čelí při testování a zavádění generativní AI mnoha problémům. Poznamenávají také, že CIO – jakožto špičkoví technologové ve svých organizacích – budou při vytváření strategií generativní AI ve firmách na tyto problémy upozorňovat.
Jaké jsou tedy obavy, které budou komplikovat firemní příručku gen AI? Zde je přehled 20 hlavních problémů, které dnes formují strategie gen AI.
1. Povolit či nepovolit
Podle různých zpráv některé společnosti zvučných jmen zpočátku blokovaly nástroje generativní AI, jako je ChatGPT, z různých důvodů, včetně obav o ochranu vlastnických dat. Některé společnosti své zákazy zrušily a omezené používání této technologie povolují, jiné nikoli.
Vzhledem k tomu, že dodavatelé přidávají generativní AI do svých nabídek podnikového softwaru a zaměstnanci tuto technologii testují, musí ředitelé IT svým kolegům poradit o výhodách a nevýhodách používání generativní AI i o možných důsledcích jejího zákazu nebo omezení.
„Otázkou č. 1 je nyní povolit, nebo nepovolit,“ říká Mir Kashifuddin, vedoucí oddělení datových rizik a ochrany soukromí ve společnosti PwC US poskytující profesionální služby. „Mnoho společností se nachází uprostřed diskuse o tom, zda to blokovat, nebo povolit.“
A to včetně pozic nejvyšších technických ředitelů, protože samotní CIO diskutují o tom, zda prosazovat, nebo pozastavit zkoumání AI.
2. Rychle se vyvíjející rizika
Společnosti, které zablokovaly používání generativní AI, zjišťují, že někteří pracovníci ji stále testují. Zároveň si uvědomují, že se budou muset naučit využívat potenciál této technologie, jinak zůstanou pozadu.
To způsobuje, že se společnosti snaží identifikovat nejnaléhavější rizika dalšího postupu při pilotním nasazení generativní AI.
„Úkolem CIO je klást otázky týkající se potenciálních scénářů. CIO by měl mluvit o rizicích a o tom, jaká rizika hrozí,“ říká Mary Carmichaelová, výkonná ředitelka poradenství v oblasti rizik ve společnosti Momentum Technology a členka pracovní skupiny pro nové trendy i poradního výboru pro rizika při asociaci pro správu ISACA.
3. Zásady přijatelného používání
Carmichaelová říká, že vedoucí pracovníci mají před sebou další velkou otázku, pokud jde o nástroje, jako je ChatGPT. Je to otázka: „Jaké pokyny dáváte svým zaměstnancům právě teď ohledně technologií, které jsou zdarma a přístupné?“.
Carmichaelová říká, že se nedávno zeptala shromáždění vedoucích pracovníků, zda mají zásady přijatelného používání, a jen několik z nich uvedlo, že je vytvořili, aby svým zaměstnancům poskytli vodítko, co je podle společnosti přijatelné.
„Zaměstnanci se již ptají: 'Mám tento nástroj používat? Kdy bych ho měl používat? Na co bych si měl dávat pozor? Ale právě teď to vypadá, že se IT oddělení snaží dohnat,“ říká Carmichael. „Takže CIO musí přemýšlet o podnikové generaci AI s kontrolními mechanismy; musí přemýšlet o nastavení některých zásad.“
4. Narušení podnikání
Generativní AI je disruptivní technologie, takže CIO a jejich kolegové z C-levelu musí zvážit, zda nebo jak se jejich společnost stane obětí této síly.
„Jak generativní AI ovlivní váš podnik? Jak zasáhla například ChatGPT váš obchodní model?“ ptá se Carmichael a upozorňuje, že některé společnosti již ztratily značnou tržní hodnotu, protože čelily náhlé konkurenci ze strany generativní AI.
„To je problém pro CIO. Někteří očekávají úspory nákladů pomocí této technologie, ale také je tu očekávání, že najdou způsoby, jak tuto technologii začlenit [do produktů své společnosti], aby posílili svou nabídku,“ dodává Carmichael. „Zde musí CIO získat znalosti o této technologii a poskytovat vedení a poradenství.“
5. Sestavování motoru za letu
Jako by to nebyly dostatečně velké výzvy, které je třeba řešit, musí vedoucí pracovníci postupovat rychle a řešit je, dokud je vše v letu.
Douglas Merrill, partner v poradenské společnosti McKinsey & Co. zabývající se managementem, říká, že CIO by měli na svou strategii gen AI aplikovat agilní procesy. „Musíte se učit, jak věci postupují, ale dělat [iterace], které jsou bezpečné a kontrolované, a zaměřit se na řízení rizik,“ vysvětluje.
6. Zatím neexistuje žádný dobrý návod
Vzhledem k tomu, že se CIO snaží zavést kontrolu a řízení rizik u technologií, které vyvolávají široký zájem a spoustu experimentů, činí tak bez předem existujících pokynů a podpory.
„Jedním z konkrétních problémů, se kterými se všichni potýkáme, je, že generativní umělá inteligence je opravdu nová a vyvíjí se opravdu rychle, takže neexistuje mnoho nástrojů,“ říká Merrill. „Pokyny k rizikům pro generativní AI jsou křehké a nové a neexistuje žádné obecně přijímané ‚Zde je návod, jak přemýšlet o ochranných lištách rizik‘. Nakonec budou, ale zatím neexistují.“
7. Inovace v rychlosti
Další oblast, kterou by se měli CIO zabývat: jak využít generativní AI k odlišení svých organizací.
CIO by se měli zaměřit na to, „kde mohou generativní AI efektivně využít. Není to žádné kladivo. Hledají umění možného. A možností je tolik, že je třeba je přímo sladit s obchodní strategií,“ říká Frances Karamouzis, významný viceprezident, analytik výzkumné společnosti Gartner.
Video ke kávě
Máte čas na rychlé a informativní video?
Uznává, že technologické inovace nejsou pro CIO žádnou novinkou, ale gen AI skutečně představuje nové výzvy vzhledem k rychlosti svého vývoje, stejně jako ke své síle a složitosti.
„CIO budou muset vymýšlet, vzdělávat a realizovat zcela odlišným způsobem, pokud jde o rychlost a viskozitu toho, jaká jsou řešení,“ dodává Karamouzis.
8. Identifikace, stanovení prioritních případů použití
Výzkumná společnost IDC ve svém průzkumu Generative AI Findings from Enterprise Intelligence Services Survey z května 2023 zjistila, že téměř 70 % nákupčích podnikových zpravodajských služeb zvažuje nebo aktivně pracuje na případech použití generativní AI.
Společnosti potřebují způsob, jak shromažďovat, ověřovat a upřednostňovat nápady na využití této technologie ve prospěch podniku.
„CIO by měli především stanovit jasný plán implementace generativní AI. Ať už jde o cíle v oblasti zvýšení produktivity nebo jiné komerční zisky, musí být s celým vedením na plánu sladěni ještě předtím, než dojde k jakémukoli výběru technologií, které plán umožní,“ říká Goh Ser Yoong, vedoucí oddělení compliance ve společnosti Advance.AI a člen pracovní skupiny ISACA Emerging Trends.
Karamouzis říká, že CIO musí využít svých předchozích zkušeností s určováním priorit technologicky zaměřených iniciativ a stejnou disciplínu uplatnit i na nápady v oblasti gen AI, aby zajistili, že jejich organizace budou investovat rozumně.
Společnost IDC ve svém průzkumu zjistila, že případy použití s nejvyšší prioritou spadají do kategorií správy znalostí, tvorby kódu a návrhu a inženýrství produktů nebo služeb. Nákupčí nejsilněji souhlasili s názorem, že generativní AI umožní jejich zaměstnancům soustředit se na úkoly s vyšší hodnotou. A nákupčí nejčastěji nesouhlasili s tím, že je generativní AI vystaví větším rizikům.
Průzkum společnosti Foundry týkající se generativní AI zjistil, že v identifikaci případů použití vedou ředitelé IT v maloobchodě (49 %), následováni vedoucími pracovníky IT ve výrobě (42 %), technologiích (42 %) a finančních službách (32 %).
9. Nákup vs. modifikace vs. budování
Společnosti mohou generativní umělou inteligenci zavést do svých organizací třemi různými způsoby a ředitelé IT povedou své společnosti při rozhodování, který způsob je pro ně nejlepší.
Společnost McKinsey vytvořila vlastní rámec, který popisuje různé typy použití jako „přijímající“, „formující“ a „vytvářející“.
Přijímač používá to, co vytvořil někdo jiný, a využívá schopnosti přímo z krabice. Formující si tyto schopnosti v podstatě přizpůsobí tak, aby fungovaly pro jeho vlastní potřeby nebo s jeho vlastními daty. Tvůrce – nejméně častý ze tří typů, říká Merrill z McKinsey – má největší potřebu struktury a kontroly, a proto si vytvoří vlastní modely, které splňují jeho vysoce specializované požadavky.
10. Připravenost podniku
Bez ohledu na to, zda je podnik taker, shaper nebo maker, bude potřebovat dostatečně moderní technologický stack a datový program, aby mohl efektivně využívat generativní AI.
„Data, struktury v cloudu, výpočetní síť a úložiště, to je určitě v kompetenci CIO,“ říká Karamouzis a dodává, že CIO mají podobně zodpovědnost identifikovat a řešit jakákoli úzká místa nebo překážky v rámci technologického nebo datového zásobníku, které by mohly jejich organizaci bránit v realizaci stanovených cílů generativní AI.
A dodává: „V této souvislosti je třeba zdůraznit, že v případě, že se jedná o problém, který by se mohl projevit, je třeba zajistit, aby byly tyto úkoly splněny: "CIO jsou těmi, kdo budou vytvářet technologie, které to umožní.“
11. Ochrana soukromí a zabezpečení dat
V polovině jara 2023 zakázala jihokorejská elektronická společnost Samsung zaměstnancům používat nástroje generativní AI poté, co zjistila, že některé její interní zdrojové kódy byly nahrány na ChatGPT.
Další společnosti se obávají, že jejich zaměstnanci dělají totéž, říká Kashifuddin.
„Vzhledem k tomu, že zaměstnanci s těmito nástroji komunikují, musí se společnosti ujistit, že do nich nevkládají proprietární data, která se posílají zpět do základních modelů,“ dodává.
Vedoucí pracovníci se obracejí na své CIO, stejně jako na vedoucí pracovníky v oblasti dat a ochrany soukromí, aby přijali opatření, vypracovali zásady řízení, zavedli kontrolní mechanismy a nasadili monitorovací nástroje, které zajistí, že zaměstnanci dodržují zásady přijatelného používání a nezveřejňují proprietární data a duševní vlastnictví.
12. Dodržování zákonů o datech a ochraně soukromí
Další problém, se kterým se potýkají ředitelé IT – a také vedoucí pracovníci v oblasti dat, dodržování předpisů, rizik a bezpečnosti – je tento: jak monitorovat a zajistit, aby pracovníci neporušovali zákony o ochraně osobních údajů a osvědčené postupy ochrany dat, pokud používají generativní umělou inteligenci.
„Když vložíte svá data do motoru umělé inteligence, který ovládá někdo jiný, pak jste nad těmito daty ztratili kontrolu,“ varuje Carl Froggett, CIO ve společnosti Deep Instinct, tvůrce platformy pro kybernetickou bezpečnost.
13. Potřeba auditní stopy
Podle odborníků jsou CIO také žádáni, aby vymysleli způsoby, jak rozeznat a auditovat výsledky vytvořené generativní umělou inteligencí, aby bylo zajištěno, že výsledky jsou přesné, nezaujaté a neporušují chráněné duševní vlastnictví.
Jak vysvětluje Carmichael: „Odpovědná a vysvětlitelná AI jsou další výzvy, které budou muset CIO řešit.“
14. Nové předpisy
Vlády po celém světě diskutují o tom, zda a jak regulovat používání AI. A zatímco firemní právní oddělení a externí poradci pomohou vedoucím pracovníkům rozeznat, co pro ně nové zákony znamenají, CIO budou muset hrát roli v tom, aby technologie AI v podniku dodržovaly všechny nové zákony.
„CIO musí mít přehled o vyvíjejících se předpisech a právních rámcích souvisejících s využíváním AI, jako je například nedávný zákon Evropské unie o AI,“ řekl Goh. „Zásadní je dodržování zákonů na ochranu dat, předpisů o duševním vlastnictví, směrnic specifických pro dané odvětví a etických norem. CIO by měli úzce spolupracovat s právními týmy, aby pochopili a řešili veškeré právní důsledky spojené s generativní AI.“
15. Obavy o přesnost
Podobně Kashifuddin a další upozorňují na to, že je třeba, aby CIO pomohli svým organizacím a samotným pracovníkům přijmout postupy pro zajištění kvality, které ověří veškeré získané poznatky produkované AI. To zahrnuje zavedení kontroly kvality v rámci IT pro každý takový kód, který chtějí vývojáři používat, dodává Kashifuddin.
Důsledky nedodržení tohoto kroku mohou být značné, jak ukazují některé dobře medializované příklady. Jedním z pozoruhodných příkladů je případ newyorského právníka, který čelí vlastnímu soudnímu jednání poté, co podal právní dokument vypracovaný pomocí ChatGPT, který obsahoval citace právních případů vytvořených touto technologií.
16. Požadavky na zvyšování kvalifikace
AI rychle mění poptávku po IT dovednostech a talentech a pracovníci napříč organizací se budou muset naučit pracovat s generativními nástroji AI.
Pracovníci IT se mezitím musí rekvalifikovat na práci s generativními nástroji AI, aby mohli vykonávat svou práci, a osvojit si dovednosti potřebné k podpoře této technologie při jejím využívání v celé organizaci.
Jak říká Goh: „CIO musí posoudit nedostatky v dovednostech v rámci svých IT oddělení a zajistit odpovídající školení a zdroje pro pochopení a efektivní práci s generativní AI.“
17. Kyberbezpečnostní hrozby posílené o umělou inteligenci
Další oblast, která CIO znepokojuje: jak hackeři využívají generativní AI.
„Mluvíte o nové úrovni sofistikovanosti [hackerů] při vytváření e-mailů a zpráv a obcházení biometrických údajů, protože generativní AI přebírá podobu, způsoby chování a fráze, které by použil skutečný člověk,“ říká Froggett a dodává, že generativní AI dokáže generovat falešná videa a zvuky, které vypadají autenticky.
Takové sofistikované útoky mohou způsobit, že stávající bezpečnostní kontroly, jako je například hlasová autentizace, budou zastaralé – což nutí ředitele IT a CISO, aby rychle hledali alternativy.
„Kontrolní mechanismy, které jsme měli zavedené, nemusí fungovat kvůli tomu, co už generativní umělá inteligence dělá,“ dodává Froggett.
18. Nervózní pracovníci
Společnost Goldman Sachs ve své zprávě z března 2023 vypočítala, že přibližně dvě třetiny současných pracovních míst „jsou vystaveny určitému stupni automatizace AI a že generativní AI by mohla nahradit až čtvrtinu současné práce“. Jinými slovy, firma uvedla, že by kvůli automatizaci mohlo zaniknout ekvivalent 300 milionů pracovních míst na plný úvazek.
„Panuje zde velká nejistota. Lidé přemýšlejí: 'Jak to ovlivní mou kariéru? Budu se muset rekvalifikovat?“ Carmichael říká.
Jako součást výkonného týmu by se CIO měli snažit zapojit své zaměstnance a řešit jejich obavy, říká a dodává, že věří, že gen AI vytvoří pracovní místa – a možná více, než kolik jich bude ztraceno. To je poselství, které by mohli sdílet i CIO, kteří řeší ožehavou výzvu řízení změn gen AI.
19. Vedení změn prostřednictvím této nové technologie
CIO budou patřit mezi vedoucí pracovníky, kteří budou zodpovědní za vedení svých organizací v průběhu všech narušení, která má gen AI přinést.
Podle Carmichaela a dalších jsou CIO pro tuto práci přirozeně vhodní; své dovednosti v této oblasti si budovali v uplynulém desetiletí, kdy vedli své organizace v rámci digitální transformace.
Někteří však říkají, že vedení v průběhu nadcházejících změn bude jiné než předchozí scénáře řízení změn, protože tempo zavádění a narušení, které gen AI přináší, by mohlo překonat předchozí technologické revoluce.
„Tempo všechny překvapilo a my teď musíme držet krok,“ říká Carmichael. „Otázkou tedy je, jak dobře to všechno zvládnete a jak se s jistotou posunete vpřed.“
20. Stmelování týmů
CIO samozřejmě nemůže všechny tyto problémy řešit sám – a ani by se o to neměl pokoušet. Ale jako hlavní technolog v mnoha organizacích bude CIO pravděpodobně klíčovým poradcem výkonného týmu ohledně rizik a příležitostí, které gen AI představuje.
„CIO umožňuje nebo vybavuje, působí jako zprostředkovatel, poradce a doručovatel,“ říká Karamouzis. „Takže nyní je role CIO jednou z nedílných rolí ve vrcholní funkci, která pomáhá ostatním pochopit celý seznam věcí, které je třeba udělat."
CIO Business World si můžete objednat i jako klasický časopis (v tištěné i v digitální podobně) Věnujeme se nejnovějším technologiím a efektivnímu řízení podnikové informatiky. Přinášíme nové ekonomické trendy a analýzy a zejména praktické informace z oblasti podnikového IT se zaměřením na obchodní a podnikatelské přínosy informačních technologií. Nabízíme možná řešení problémů spojených s podnikovým IT v období omezených rozpočtů. Naší cílovou skupinou je vyšší management ze všech odvětví ekonomiky.
PŘEDPLATNÉ
ČLÁNKY DO MAILU