Generativní AI? No samozřejmě!

Pro vedení skupiny Samsung to byla nepříjemná zpráva. Na jaře 2023 se na internetu náhle objevily poznámky z interních schůzek a údaje o výkonnosti výrobních zařízení. Viníky nebyli hackeři, ale vlastní zaměstnanci společnosti, kteří použili generativní umělou inteligenci. Jeden ze zaměstnanců například použil ChatGPT, aby ze svých poznámek ze schůzek vytvořil hotový dokument, aniž by si uvědomil, že bezplatná verze asistenta AI ukládá všechny informace z podnětů svých uživatelů - a využívá je k rozšiřování svých znalostí.

Příklad, který ukazuje, že generativní inteligence s sebou nese i rizika, jako je nedostatečné povědomí zaměstnanců o bezpečnostních mezerách, nedostatek firemních směrnic nebo nové příležitosti pro útoky hackerů. V celosvětovém průzkumu provedeném poradenskou společností McKinsey považovalo 53 % všech účastníků, kteří již s generativní umělou inteligencí pracovali, za největší riziko této nové technologie kybernetickou bezpečnost.

Generativní umělá inteligence zároveň nabízí firmám obrovský potenciál pro zvýšení jejich efektivity a inovační síly. Skupina Otto proto hledala způsob, jak využít příležitostí, které tato technologie nabízí - a zároveň omezit její rizika. Pod názvem ogGPT vyvinula mateřská společnost skupiny EOS vlastní generativní AI pro 26 000 zaměstnanců skupiny. „Chtěli jsme vytvořit řešení, které bude přizpůsobeno vlastním potřebám naší skupiny, s důrazem na bezpečnost a ochranu dat," říká Anja Körber, vedoucí oddělení umělé inteligence a automatizace v IT společnosti Otto Group. Zpoplatněná podniková verze Chat GPT nepřipadala v úvahu - a to i přesto, že tento asistent s umělou inteligencí neukládá informace z výzev. „Servery se nacházejí v USA," říká Anja. „To znamená, že v případě pochybností by k údajům měli přístup místní zaměstnanci, například z podpory. A evropské normy, jako je například GDPR, v USA neplatí."

Průzkum poradenské společnosti McKinsey také jasně ukazuje, že existuje mezera, pokud jde o firemní směrnice. Skupina Otto Group se touto otázkou již zabývala, a to i jménem svých poboček. V průběhu dvou měsíců zaměstnanci Otto Group v rámci různých projektů a hackathonů vypracovali nejen směrnici pro umělou inteligenci, ale také jednotlivé stavební kameny pro ogGPT. Výsledkem je základní rámec, který aktualizuje své znalosti - i pomocí dat z internetu -, ale přesto je bezpečný, vysvětluje Anja: „ogGPT zapomíná na výzvy. Nad daty máme plnou kontrolu."

Jedinečnou předností ogGPT však není jen bezpečnost. „Chtěli jsme funkce, které odpovídají našim požadavkům," říká Anja. Asistent s umělou inteligencí dokáže například shrnout obsah dlouhého e-mailového vlákna. ogGPT se již také používá k psaní newsletteru: zatímco dříve čtenáři newsletteru dostávali pouze nadpisy, které odkazovaly na další obsah, nyní v něm najdou kompaktní shrnutí obsahu. Jedná se o výrazné zlepšení, které by dříve bylo příliš časově náročné provádět ručně.

Interní řešení také snižuje obavy zaměstnanců, kteří si musí zvyknout na integraci generativní AI do své každodenní práce, dodává Anja: „K dispozici jsou interní odborníci a specializovaná komunita. To dává mnoha lidem dobrý pocit: když nemohu najít řešení, mohu se zeptat kolegy."

Interní generativní AI je užitečná i pro pobočku společnosti Otto EOS, říká Janusch Skubatz, ředitel informační bezpečnosti skupiny EOS. První interní projekty již probíhají. „Myslím, že v budoucnu budeme ogGPT také využívat," říká, „ale překážky v oblasti ochrany dat při správě pohledávek jsou obzvláště vysoké. Například při akvizici nesplácených úvěrů získáváme přístup k datům, která si ochranu obzvláště zaslouží.„Proto se na EOS vztahují dalekosáhlejší pravidla než na jiné společnosti a často také smluvní požadavky partnerů, říká Janusch: „Musíme proto pečlivě kontrolovat, zda technologie musí splňovat další požadavky."

Janusch se však domnívá, že rozhodujícím faktorem je pravidelná interakce s generativní umělou inteligencí: „Zkušenosti jsou předpokladem pro získání citu pro technologii a kvalitu výsledků. „Tímto způsobem lze předejít rizikovým situacím, jako byly ty ve společnosti Samsung, a využít obrovský potenciál."