Hlavní navigace

Sedm klíčových otázek, které musí CIO zodpovědět, než se pustí do generativní AI

10. 7. 2023
Doba čtení: 14 minut

Sdílet

 Autor: Depositphotos
Na požádání musí být vedoucí IT a společnosti, které zastupují, schopni okamžitě využít sílu generativní umělé inteligence a pochopit a také spravovat potenciální zranitelnosti, zkreslení a další rizika, aby ochránili citlivá data a udrželi důvěru zákazníků.

Některé společnosti používají generativní umělou inteligenci k psaní kódu a některé ji používají k vytváření marketingových textů nebo k podpoře chatbotů. A pak jsou tu další jako SmileDirectClub, kteří vytvářejí obrázky, aby odpověděli na otázku, jak lépe sloužit svým zákazníkům.

Co se dozvíte v článku
  1. Kde je obchodní hodnota?
  2. Jaká je naše strategie nasazení?
  3. Můžeme udržet naše data, zákazníky a zaměstnance v bezpečí?
  4. Jak se chráníme před zkreslením?
  5. S kým můžeme spolupracovat?
  6. Kolik to bude stát?
  7. Je vaše datová infrastruktura na generativní umělou inteligenci připravena?

SmileDirectClub, teledentologická společnost se sídlem v Nashvillu, používá generativní umělou inteligenci k vytváření zubů. Nebo, konkrétněji, k pomoci lidem pochopit, jak lze jejich zuby opravit.

Máme se bát umělé inteligence? Zde je deset důvodů, proč ano Přečtěte si také:

Máme se bát umělé inteligence? Zde je deset důvodů, proč ano

„Máme platformu nazvanou platforma SmileMaker,“ říká CIO Justin Skinner. „Vyfotografujeme vaše zuby telefonem a vygenerujeme reprezentaci 3D modelu a můžeme pomocí AI promítnout, jak by vypadal plán rovnání, jak dlouho by to trvalo a jak by to vypadalo, až skončíme. “

Stávající generativní platformy umělé inteligence, jako je ChatGPT od OpenAI, Google Bard nebo Stable Diffusion, nejsou trénovány na 3D obrazech zubů. Ne že by některý z nich byl vůbec k dispozici, když SmileDirectClub začínal.

SmileDirectClub si vybudoval vlastní generativní umělou inteligenci s využitím vlastní datové sady na vlastních serverech v souladu s HIPAA, GDPR a dalšími předpisy.

Šestero nejpřeceňovanějších IT technologií Přečtěte si také:

Šestero nejpřeceňovanějších IT technologií

Společnost zahájila projekt před třemi lety s externím partnerem. Když to pak nefungovalo, najalo si svůj vlastní tým, aby vytvořil proprietární modely, které potřeboval.

„Neexistuje nic takového na úrovni přesnosti, kterou potřebujeme,“ říká Skinner. „Zuby jsou velmi choulostivé. Není zde mnoho rozlišovacích znaků, takže získat přesný 3D model z telefonu je obtížný úkol.“

První generace nástroje byla uvedena do provozu v listopadu loňského roku v Austrálii a letos v květnu v USA a dosud ji použilo přibližně 100 000 lidí. Příští verze bude obsahovat fotorealistickou projekci toho, jak budou nové zuby vypadat.

Dnes tento nástroj zákazníkům nabízí pouze návrh léčebného plánu, říká Skinner. Pro otisk s vysokým rozlišením stále potřebují navštívit zubaře nebo doma použít otiskovací sadu. To se také může v budoucnu změnit s tím, jak se technologie zdokonalí.

Ale to není jediný způsob, jak se SmileDirectClub snaží využít generativní AI.

Sedm způsobů, jak zničit svoji reputaci lídra IT Přečtěte si také:

Sedm způsobů, jak zničit svoji reputaci lídra IT

„Zkoumáme – z důvodů snížení nákladů a efektivity – využití nástrojů, jako je ChatGPT a Bard, a těšíme se, až si pohrajeme s Microsoft Copilot,“ říká Skinner.

Jeho společnost není sama.

Podle nedávného průzkumu mezi vedoucími pracovníky, který provedl The Harris Poll jménem Insight Enterprises, již 39 % společností zavedlo zásady nebo strategie týkající se generativní umělé inteligence a 42 % je v procesu jejich vývoje. Dalších 17 % to plánuje, ale ještě nezačalo. Pouze 1 % společností neplánuje vyvíjet plány pro generativní umělou inteligenci.

Kromě toho, jak SmileDirectClub odpovídá na kritickou otázku týkající se péče o zákazníky, je zde sedm dalších otázek, na které si musejí CIO odpovědět a které jim mohou pomoci formulovat generativní strategie nebo zásady umělé inteligence.

Kde je obchodní hodnota?

Podle průzkumu Harris Poll 72 % vedoucích pracovníků uvedlo, že plánují v příštích třech letech zavést generativní technologie umělé inteligence, aby zvýšili produktivitu zaměstnanců. A 66 % uvedlo, že je plánují využít ke zlepšení služeb zákazníkům. Navíc 53 % uvádí, že jim to pomůže s výzkumem a vývojem a 50 % s automatizací vývoje nebo testování softwaru.

A to je jen špička ledovce, pokud jde o případy podnikového využití generativní AI – a dochází zde k rychlým změnám.

CIO musí tvrdě pracovat, aby zůstali na vrcholu vývoje, říká Skinner. Ještě důležitější je, že CIO musí pochopit, jak se možnosti generativní umělé inteligence obecně konkrétně vztahují na jejich podnikání.

„To je první otázka,“ říká. „Opravdu těmto věcem rozumím? A rozumím hluboce tomu, jak to aplikovat na své podnikání, abych získal hodnotu?“

Vzhledem k rychlému tempu změn znamená pochopení generativní umělé inteligence s ní experimentovat – a to ve velkém měřítku.

To je přístup, který používá společnost Insight Enterprises. Integrátor řešení založený na Tempe má v současné době 10 000 zaměstnanců, kteří používají generativní nástroje umělé inteligence a sdílejí své zkušenosti, aby společnost mohla přijít na to dobré i špatné.

Video ke kávě

Máte čas na rychlé a informativní video? 

„Je to jedno z největších nasazení generativní umělé inteligence, jaké znám,“ říká David McCurdy, hlavní podnikový architekt a technický ředitel společnosti Insight. „Mojí misí je, abych pochopil, co ten model dělá dobře a co ne.“

Novost generativní umělé inteligence může být skvělá, říká, ale není nijak zvlášť užitečná.

„Ale sedli jsme si, naplnili jsme tím smlouvy a položili jsme tomu různé otázky o nich: kde jsou odpovědnosti, kde jsou rizika,“ říká. „Tohle je skutečné ‚maso a kosti‘, které roztrhalo smlouvu na kusy a bylo to 100% účinné. Toto bude případ použití po celém světě.“

Další zaměstnanec, skladník, přišel s nápadem využít generativní AI, která mu pomůže psát skripty pro SAP. 

„Nemusel otevírat tiket ani se nikoho ptát, jak to udělat,“ říká McCurdy. „To je ten druh věcí, po kterých jdu, a je to neuvěřitelné.“

Otázkou číslo jedna, kterou by si každý CIO měl položit, je to, jak jejich společnost plánuje používat generativní umělou inteligenci během příštího jednoho nebo dvou let, říká. „Ti, kteří říkají, že to není priorita, dělají velkou chybu,“ dodává. „Někteří lidé mají pocit, že počkají a uvidí, ale ztratí produktivitu. Jejich správní rady, jejich generální ředitelé se budou ptát: ‚Proč ostatní společnosti tuto technologii milují? A proč my ne?‘“

Nalezení příležitostí, kde může generativní umělá inteligence poskytnout obchodní hodnotu na úrovni přesnosti, kterou je dnes schopna poskytnout, je jen malou částí obrázku.

Jaká je naše strategie nasazení?

Společnosti, které chtějí proniknout do generativní hry s umělou inteligencí, mají širokou škálu způsobů, jak toho dosáhnout.

Mohou například dolaďovat a provozovat vlastní modely. Každý týden jsou k dispozici nové modely s otevřeným zdrojovým kódem, každý schopnější než ten předchozí. A dodavatelé dat a umělé inteligence nabízejí komerční alternativy, které lze provozovat on-premise nebo v soukromých cloudech.

Žene se další kyberbič. Nové digitální předpisy EU budou mít dopad jako GDPR Přečtěte si také:

Žene se další kyberbič. Nové digitální předpisy EU budou mít dopad jako GDPR

Poté tradiční dodavatelé SaaS jako Salesforce a samozřejmě Microsoft a Google začleňují generativní AI do všech svých služeb. Tyto modely budou přizpůsobeny pro konkrétní případy obchodního použití a spravovány dodavateli, kteří již vědí, jak řídit soukromí a rizika.

A konečně jsou tu veřejné modely, jako je ChatGPT, ke kterým mohou menší společnosti přistupovat přímo prostřednictvím svých veřejných rozhraní a větší společnosti je mohou používat prostřednictvím zabezpečených privátních cloudů. Insight například provozuje OpenAI GPT 3.5 Turbo a GPT 4.0 hostované v privátním cloudu Azure.

Další možností pro společnosti s velmi konkrétními požadavky, ale bez zájmu o trénování vlastních modelů, je použít něco jako ChatGPT a poté jim poskytnout přístup k firemním datům prostřednictvím vektorové databáze.

„Hodnotou je použití stávajících modelů a umístění vašich vlastních dat vedle nich,“ říká McCurdy. „To je skutečně místo, kde bude docházet k inovacím a produktivitě.“

To je funkčně ekvivalentní vkládání dokumentů do ChatGPT, aby je bylo možné analyzovat, než položíte své otázky, tedy až na to, že dokumenty nebude nutné vkládat pokaždé. Například Insight vzal všechny bílé knihy, které kdy byly napsány, všechny přepisy rozhovorů a nahrál je do vektorové databáze, aby na ně mohla odkazovat generativní AI.

Nečekané technologické otřesy, které určitě přijdou Přečtěte si také:

Nečekané technologické otřesy, které určitě přijdou

Můžeme udržet naše data, zákazníky a zaměstnance v bezpečí?

Podle květnové zprávy PricewaterhouseCoopers téměř všichni obchodní lídři tvrdí, že jejich společnost upřednostňuje v blízké budoucnosti alespoň jednu iniciativu související se systémy AI.

Ale pouze 35 % vedoucích pracovníků uvádí, že se jejich společnost v příštích 12 měsících zaměří na zlepšení správy systémů umělé inteligence, a pouze 32 % odborníků na rizika tvrdí, že se nyní podílejí na plánování a strategické fázi aplikací generativní umělé inteligence.

Podobný průzkum mezi vedoucími pracovníky vydaný společností KPMG a zveřejněný v dubnu, ukázal, že pouze 6 % organizací má k dispozici specializovaný tým, který vyhodnocuje rizika generativní umělé inteligence a implementuje strategie migrace rizik.

A pouze 5 % má zaveden vyspělý program odpovědné správy AI, ačkoli 19 % na takovém programu pracuje a téměř polovina tvrdí, že ho plánují vytvořit.

To je důležité zejména pro společnosti, které používají externí generativní platformy umělé inteligence, než aby si budovaly vlastní od nuly.

Pozor, téměř třetina vašich zaměstnanců je na odchodu! Přečtěte si také:

Pozor, téměř třetina vašich zaměstnanců je na odchodu!

Například Skinner ze společnosti SmileDirectClub také hledá potenciální výhody produktivity na platformách jako ChatGPT, ale obává se rizik pro data a soukromí.

„Je důležité porozumět tomu, jak jsou data chráněna, než se do toho pustíme,“ říká.

Společnost se chystá zahájit interní komunikační a vzdělávací kampaň, která má zaměstnancům pomoci porozumět tomu, co se děje, a výhodám a omezením generativní umělé inteligence.

„Musíte se ujistit, že ve vaší společnosti nastavujete zásady zabezpečení a že členové vašeho týmu vědí, jaké zásady to jsou,“ říká. „Právě teď je naší zásadou, že na tyto platformy nemůžete nahrávat údaje o zákaznících.“

Společnost také čeká na to, jaké možnosti podnikové úrovně přijdou online.

„Microsoft Copilot bude kvůli integraci s Office 365 pravděpodobně jako první využit ve velkém měřítku,“ říká.

Podle Matta Barringtona, lídra v oblasti nových technologií ve společnosti Ernst & Young Americas, se asi polovina společností, s nimiž mluví, dostatečně obává potenciálních rizik spojených s komplexním přístupem k ChatGPT a podobným platformám.

„Dokud to nepochopíme, blokujeme to,“ říká.

Druhá polovina se snaží zjistit, jak mohou vytvořit správný rámec pro školení a podporu lidí.

„Musíte být opatrní, ale musíte to umožnit,“ říká.

Navíc, dokonce i u těch 50 %, kteří ChatGPT zbrzdili, ho jejich lidé stále používají, dodává. „Vlak opustil nádraží,“ říká. „Síla tohoto nástroje je tak velká, že je těžké jej ovládat. Je to jako v prvních dnech cloud computingu.“

Jak se chráníme před zkreslením?

Vypořádat se s předpojatostí (bias) je dost těžké s tradičními systémy strojového učení, kde společnost pracuje s jasně definovaným souborem dat. U velkých základních modelů, jako jsou modely používané pro generování kódu, textu nebo obrázků, však může být tato trénovací datová sada zcela neznámá. Navíc způsoby, jak se modely učí, jsou extrémně neprůhledné – dokonce ani výzkumníci, kteří je vyvinuli, ještě plně nechápou, jak se to všechno děje. To je něco, čeho se zejména regulační orgány velmi obávají.

Pište pro CIO Business World

 

Máte dobré nápady, máte co říct? Chcete se podělit o své znalosti se čtenáři CIO BW?

Je tu ideální příležitost. V redakci neustále hledáme externí autory, kteří rozšíří náš záběr. Nabízíme možnost publikací zajímavých článků nejen na webu, ale také v našem tištěném magazínu. Pokud máte zájem, ozvěte se šéfredaktorovi na e-mail: radan.dolejs@iinfo.cz

„Evropská unie jde v čele,“ říká Barrington z EY. „Navrhují zákon o umělé inteligenci a Sam Altman z OpenAI požaduje přísná pravidla. Je toho ještě hodně, co nás čeká."

A Altman není jediný. Podle červnového průzkumu Boston Consulting Group mezi téměř 13 000 vedoucími pracovníky, manažery a předními zaměstnanci 79 % dotázaných podporuje regulaci AI.

Čím vyšší je citlivost dat, která společnost shromažďuje, tím opatrnější musí tato společnost být, říká.

„Jsme optimističtí ohledně dopadu, který bude mít umělá inteligence na podnikání, ale stejně tak jsme opatrní ohledně odpovědné a etické implementace,“ říká. „Jednou z věcí, o které se budeme silně opírat, je zodpovědné používání AI.“

Pokud se společnost ujme vedení v učení, jak nejen efektivně využít generativní umělou inteligenci, ale také zajistit přesnost, kontrolu a odpovědné používání, bude mít oporu, říká, i když se technologie a předpisy neustále mění.

To je důvod, proč si transkripční společnost Rev dává na čas, než přidá generativní AI do sady nástrojů, které nabízí.

Společnost, která působí na trhu téměř 12 let, začala nabízením přepisovacích služeb poháněných lidmi a postupně přidala nástroje AI, aby rozšířila své lidské pracovníky.

Nyní společnost zkoumá použití generativní umělé inteligence k automatickému vytváření shrnutí schůzek.

„Dáváme si trochu času na to, abychom provedli náležitou péči a zajistili, aby tyto věci fungovaly tak, jak chceme, aby fungovaly,“ říká Migüel Jetté, vedoucí výzkumu, vývoje a AI společnosti Rev.

Souhrny nejsou tak riskantní jako jiné aplikace generativní umělé inteligence, dodává. „Je to dobře definovaný problémový prostor a je snadné se ujistit, že se model chová. Není to úplně otevřená věc, jako je generování jakéhokoli obrazu z výzvy, ale stále potřebujete mantinely.“

Práce z válečné zóny: Ukrajinští IT profesionálové sdílejí své zkušenosti Přečtěte si také:

Práce z válečné zóny: Ukrajinští IT profesionálové sdílejí své zkušenosti

To zahrnuje zajištění toho, aby byl model spravedlivý, nezaujatý, vysvětlitelný, odpovědný a v souladu s požadavky na ochranu soukromí, říká.

„Máme také velmi přísné alfa testování s několika našimi největšími uživateli, abychom se ujistili, že se náš produkt chová tak, jak jsme očekávali,“ říká. „Využití, které nyní máme, je docela omezené, a to do té míry, že se příliš neobávám špatného chování generativního modelu.“

S kým můžeme spolupracovat?

Pro většinu společností bude nejúčinnějším způsobem nasazení generativní umělé inteligence spoléhání se na důvěryhodné partnery, říká analytička společnosti Forrester Research Michele Goetzová.

„To je ten nejjednodušší způsob,“ říká. „Je to zabudováno.“

Pravděpodobně to bude trvat nejméně tři roky, než společnosti začnou zavádět své vlastní schopnosti generativní umělé inteligence, říká. Do té doby si budou společnosti hrát s technologií v bezpečných zónách, experimentovat a přitom se spoléhat na stávající partnery z řad dodavatelů pro okamžité nasazení.

Ale podniky budou muset stále provádět své kroky vedoucí k souladu s pravidly, říká.

„Prodejci říkají, že provozují AI jako službu a ta je zablokována,“ říká. „Ale stále to může být trénink modelu a stále mohou existovat znalosti a duševní vlastnictví, které se vztahují k základnímu modelu.“

Tucet chyb při hledání zaměstnání, které byste neměli udělat Přečtěte si také:

Tucet chyb při hledání zaměstnání, které byste neměli udělat

Pokud například zaměstnanec nahraje citlivý dokument ke korektuře a AI je poté vyškolena na tuto interakci, může se pak naučit obsah tohoto dokumentu a použít tyto znalosti k zodpovězení otázek uživatelů v jiných společnostech, čímž dojde k úniku citlivých informací.

Existují také další otázky, které by CIO mohli chtít položit svým dodavatelům, říká, například odkud pocházejí původní data školení a jak jsou ověřována a řízena. Také to, jak je model aktualizován a jak jsou zdroje dat spravovány v průběhu času.

„CIO musí věřit, že prodejce dělá správnou věc,“ říká. „A to je důvod, proč máte mnoho organizací, které ještě nejsou připraveny vpustit do svých organizací novější generativní AI v oblastech, které nemohou efektivně ovládat.“ To je případ zejména silně regulovaných oblastí, říká.

Kolik to bude stát?

Náklady na vestavěnou AI jsou relativně přímé. Společnosti podnikového softwaru, které do svých sad nástrojů přidávají generativní umělou inteligenci – společnosti jako Microsoft, Google, Adobe a Salesforce – udávají ceny poměrně jasně. Když však společnosti začnou budovat vlastní generativní AI, stává se situace mnohem komplikovanější.

Ve všem tom nadšení z generativní umělé inteligence mohou společnosti někdy ztratit přehled o tom, že velké jazykové modely mohou mít velmi vysoké výpočetní požadavky.

„Lidé se chtějí rozjet a vidět výsledky, ale nepřemýšleli o důsledcích toho, že to dělají ve velkém,“ říká Ruben Schaubroeck, senior partner ve společnosti McKinsey & Company. „Nechtějí používat veřejný ChatGPT kvůli soukromí, bezpečnosti a dalším důvodům. A chtějí používat svá vlastní data a umožnit jejich dotazování pomocí rozhraní podobných ChatGPT. A vidíme, jak organizace vyvíjejí velké jazykové modely na svých vlastních datech.“

Mezitím se rychle objevují a vyvíjejí menší jazykové modely. „Tempo změn je zde obrovské,“ říká Schaubroeck. Společnosti začínají provádět zkušební testy, ale zatím se tolik nemluví o celkových nákladech na vlastnictví, říká. „To je otázka, kterou moc neslyšíme, ale neměli byste v ní být naivní.“

Je vaše datová infrastruktura na generativní umělou inteligenci připravena?

Vestavěnou (embedded) generativní umělou inteligenci mohou společnosti nasadit snadno, protože dodavatel přidává umělou inteligenci hned vedle dat, která potřebuje k jejímu fungování.

Jan Dvořák: V Gopasu je vzdělávání zážitkem Přečtěte si také:

Jan Dvořák: V Gopasu je vzdělávání zážitkem

Například Adobe přidává generativní výplň AI do Photoshopu a zdrojový obrázek, se kterým potřebuje pracovat, je přímo tam. Když Google přidá generativní AI do Gmailu nebo Microsoft přidá do Office 365, všechny potřebné dokumenty budou snadno dostupné. Složitější podniková nasazení však vyžadují solidní datový základ, a to je něco, na čem mnoho společností stále pracuje.

„Mnoho společností stále není připraveno,“ říká Nick Amabile, generální ředitel společnosti DAS42, poradenské firmy v oblasti dat a analýzy. Data musejí být centralizována a optimalizována pro aplikace AI, říká. Například společnost může mít data rozprostřená mezi různými back-endovými systémy a získání maximální hodnoty z umělé inteligence bude vyžadovat stažení a korelaci těchto dat.

„Velkou výhodou umělé inteligence je, že je schopna analyzovat nebo syntetizovat data v rozsahu, kterého lidé nejsou schopni,“ říká.

Pokud jde o AI, data jsou palivem, potvrzuje Sreekanth Menon, viceprezident a globální lídr pro služby AI/ML ve společnosti Genpact.

Proto je ještě naléhavější než kdy jindy přizpůsobit podnik umělé inteligenci správnými daty, vyčištěnými daty, nástroji, správou dat a ochrannými „zábradlími“, říká a dodává: „A je můj současný datový kanál dostatečný k tomu, aby moje generativní umělá inteligence byla úspěšná[?]“

To je jen začátek toho, co bude potřeba k tomu, aby byl podnik připraven na generativní AI, říká. Společnosti se například budou chtít ujistit, že jejich generativní AI je vysvětlitelná, transparentní a etická. To bude vyžadovat platformy pozorovatelnosti, říká, a tyto platformy se teprve začínají objevovat pro velké jazykové modely.

Dáváte si předsevzetí? Máme pár tipů z IT pro letošek Přečtěte si také:

Dáváte si předsevzetí? Máme pár tipů z IT pro letošek

Tyto platformy musejí být schopny sledovat nejen přesnost výsledků, ale také náklady, latenci, transparentnost, zkreslení a bezpečnost a rychlé monitorování. Modely pak obvykle potřebují důsledný dohled, abyste se ujistili, že se v průběhu času nerozpadají.

„Právě teď musíte zavést mantinely a hlavní zásady,“ říká. Poté mohou společnosti začít inkubovat generativní AI a jakmile dosáhnou zralosti, demokratizovat je do celého podniku.

 

CIO Business World si můžete objednat i jako klasický časopis (v tištěné i v digitální podobně) Věnujeme se nejnovějším technologiím a efektivnímu řízení podnikové informatiky. Přinášíme nové ekonomické trendy a analýzy a zejména praktické informace z oblasti podnikového IT se zaměřením na obchodní a podnikatelské přínosy informačních technologií. Nabízíme možná řešení problémů spojených s podnikovým IT v období omezených rozpočtů. Naší cílovou skupinou je vyšší management ze všech odvětví ekonomiky.