Umetna inteligenca je že v vašem podjetju. Kdo jo upravlja?

UI iz sence

V večini podjetij zaposleni vsak dan uporabljajo orodja UI, pogosto tudi tam, kjer podjetje ni zagotovilo nobene uradne rešitve. Tako je videti UI iz sence. Osnutek pogodbe se vnese v javni klepetalnik, da bi ga skrajšali, tabela s podatki o strankah pa konča v storitvi, ki je ne nadzorujejo ne IT, ne pravna služba, ne varnostni oddelek. Ljudje želijo delo opraviti hitreje, podjetje pa jim ni ponudilo varne in dovolj dobre alternative.

Hkrati uprave vlagajo v uradne projekte UI in tu pride do drugega neprijetnega odkritja. Številni pilotni projekti nikoli ne preidejo v redno delovanje, tisti, ki preidejo, pa pogosto ne prinesejo učinka, ki bi ga bilo mogoče izmeriti v poslovnem rezultatu. Uporaba UI raste veliko hitreje kot donosnost naložbe.

Demo je lahek. Produkcija je neusmiljena.

Razlog za neuspeh skoraj nikoli ni model. Projekti se ustavijo v prostoru med modelom in organizacijo.

Neki bančnik iz Ljubljane je to strnil v en stavek: „Imamo vse podatke in vsa orodja UI, a ne vemo, kaj naprej s tem.“

Scenarij je skoraj vedno podoben. Podjetje uvede pomočnika UI za zaposlene v prodaji. Ta odlično piše in povzema, a ne pozna veljavnih pogojev izdelkov, internih cenikov niti zadnje različice poslovnega procesa, vezanega na konkreten izdelek. Po nekaj napačnih odgovorih se zaposleni vrnejo k starim navadam, mnogi tudi k javnemu klepetalniku. Krog se sklene: uradno orodje je opuščeno, UI iz sence pa je še močnejša.

Ko UI preide iz demonstracije v redno delovanje, uprave začnejo postavljati drugačna vprašanja:

• Kje so naši podatki in ali je kakšen zaupen dokument zapustil nadzorovano okolje?
• Kako povezati znanje, razpršeno po ERP-ju, CRM-ju, SharePointu, elektronski pošti in Excelovih tabelah, ki jih vzdržuje ena oseba?
• Kako naj UI spoštuje obstoječe pravice dostopa, tako da direktor vidi aneks k pogodbi, pripravnik pa ne?
• Ali lahko zaupamo odgovoru brez navedenega vira in ali bi ga smeli predložiti kreditnemu odboru ali revizorju?
• Koliko bo stalo obračunavanje po žetonih, ko bo orodje namesto desetih ljudi začelo uporabljati pet tisoč?
• Kako bomo dokazali skladnost z Aktom EU o umetni inteligenci, GDPR, NIS2 in uredbo DORA? Ti predpisi ne razlikujejo med pilotom in produkcijo.

Nobeno od teh vprašanj ni tehnološko v ožjem smislu. Vsa se nanašajo na nadzor.

Suverenost ni zapiranje, temveč pravica do izbire

Suverena UI se pogosto napačno razume kot zahteva, da podjetje vse počne samo, na lastnih modelih in v lastnem podatkovnem centru. Ni tako. Suverenost pomeni, da podjetje ohrani nadzor nad tistim, kar je zanj ključno: nad podatki, poslovnim znanjem, pravicami dostopa, sledjo odločitev in možnostjo, da zamenja tehnologijo, ko se trg spremeni.

“Suverena umetna inteligenca pomeni, da podjetje ohrani nadzor nad tem, kar je zanj ključno: nad podatki, poslovnim znanjem, pravicami dostopa in odločitvami, ki jih podpira umetna inteligenca.”

Zato pravo vprašanje ni „ali mora biti vse on-premise?“, temveč „kaj mora ostati pod našim nadzorom?“. Odgovor je odvisen od primera uporabe. Priprava marketinških gradiv lahko poteka prek javnih storitev, ob pogodbenih zaščitah. Analiza kreditnih map ali preprečevanje pranja denarja sodita v okolje, ki ga podjetje nadzoruje. Suverenost torej ne pomeni, da vse ostane znotraj. Pomeni, da o vsakem primeru odločate vi, zavestno in dokumentirano.

Najdragocenejša stvar v podjetju ni model UI

Model UI, ki je danes najboljši, čez šest mesecev to ne bo več. Znanje podjetja, torej njegovi podatki, postopki in izkušnje, je trajno in predstavlja resnično konkurenčno prednost. Zato je ključno arhitekturno načelo suverene UI ločitev znanja od modela: podjetje mora imeti možnost zamenjati model, ne da bi spreminjalo celoten sistem. Podjetje, ki svoje znanje veže na enega dobavitelja, izgubi prav tisto, kar mu je najdragocenejše.

Iz tega načela je nastal KVARK, poslovna platforma UI, ki se je več kot dve leti razvijala v okviru srbskega podjetja Egzakta. KVARK lahko deluje v celoti znotraj infrastrukture naročnika, vključno z načinom brez dostopa do javnega interneta. Kadar poslovna potreba to upravičuje, je mogoč strogo nadzorovan dostop do zunanjih modelov. Iznos podatkov je pri tem zavestna, avtorizirana odločitev, ne privzeta nastavitev.

Pravice dostopa se ne definirajo znova, temveč se podedujejo iz izvornih sistemov. Kdor dokumenta ne vidi v SharePointu, ga ne bo našel niti prek KVARK-a. Vsak odgovor pride z virom. Platforma beleži, kdo je kaj vprašal, kateri model je odgovoril in kdo je odobril naslednji korak. Modeli so le zamenljive komponente sistema. Agenti zbirajo podatke iz več virov, jih primerjajo, povzemajo in pripravljajo osnutke. Končna odločitev s pravno ali finančno težo ostane pri človeku.

„Podjetja ne želijo še enega okna za pogovor z umetno inteligenco. Potrebujejo sistem, ki razume njihovo poslovanje, spoštuje obstoječa pravila dostopa in omogoča, da se vsak odgovor preveri in pojasni,“ poudarjajo v Egzakti.

Rezultati implementacije v veliki finančni instituciji kažejo, zakaj je to pomembno:

• čas za iskanje informacij se je zmanjšal za 80 odstotkov,
• priprava analiz AML se je pospešila za 50 do 70 odstotkov,
• cikel poročanja ESG se je skrajšal s šestih mesecev na dva tedna.

Takšni rezultati ne nastanejo le zato, ker je bil uporabljen dober model, temveč zato, ker je UI povezana s podatki, procesi in načinom dela organizacije.

Račun za suvereno UI se je spremenil

Najpogostejši ugovor suvereni UI je cena. Natančneje, predstava, da lastna infrastruktura UI pomeni podatkovni center s tisoči grafičnih procesorjev. Ta predstava ne ustreza več resničnosti.

Razvoj strojne opreme in napredek odprtih modelov sta spremenila račun. Za resne zmogljivosti UI ni več nujno potreben ogromen podatkovni center. Sodobni strežniki z več enotami GPU lahko zahtevne modele poganjajo neposredno v okolju podjetja, z večjim nadzorom nad podatki, infrastrukturo in načinom uporabe UI.

Spreminja se tudi logika stroškov. Pri javnem oblaku strošek raste z uporabo: z vsako poizvedbo, uporabnikom in dodatno obremenitvijo. Pri lastnih zmogljivostih je največji del naložbe začetni, strošek uporabe pa je mogoče veliko natančneje načrtovati.

Po analizah Egzakte na podlagi implementacij pri naročnikih je bil v scenariju z nekaj sto sočasnimi uporabniki skupni strošek lastništva lokalne rešitve v petih letih nižji za približno 86 odstotkov. To ni univerzalni račun: odvisen je od modela, obremenitve, števila uporabnikov in načina uporabe. A kaže, da oblak ni več samodejno cenejša možnost za vsak scenarij UI.

KVARK deluje na strežnikih, ki jih v Sloveniji načrtuje in sestavlja LM TEK, podjetje iz skupine Egzakta. Evropska suverenost UI tako začne svojo pot pri evropski strojni opremi.

LM TEK v Sloveniji pokriva celoten proces: od raziskav in razvoja, prek načrtovanja in proizvodnje, do sestavljanja in testiranja. To pomeni, da ključni del infrastrukture ni le nabavljen v Evropi, temveč je tu tudi načrtovan, proizveden in testiran, z evropsko dobavno verigo in dokumentacijo, prilagojeno zahtevam kupcev iz javnega sektorja in reguliranih panog.

Suverenost UI se ne začne šele na ravni modela ali programske opreme. Začne se veliko globlje: pri strojni opremi, na kateri ti sistemi delujejo.

Beograd in Ljubljana, dve mesti, en ekosistem UI

KVARK je tudi zgodba o tem, kaj lahko nastane, ko se znanje, razvoj in proizvodnja povežejo prek meja. Platforma UI se razvija v Beogradu, strojna oprema, na kateri deluje, pa se načrtuje in proizvaja v Sloveniji. Srbija in Slovenija tako postajata komplementarna dela istega tehnološkega ekosistema.

V tej kombinaciji se združujejo razvoj in inženiring, svetovalno znanje in industrijska proizvodnja, z infrastrukturo, načrtovano za evropske zahteve. Rezultat ni tehnologija, ki v regijo prispe kot končni izdelek, temveč rešitev, ki v regiji nastane: od razvoja platforme do strojne opreme, na kateri deluje.

Za slovenske banke, zavarovalnice in industrijo to pomeni, da suverena rešitev UI ne rabi priti z drugega kontinenta. Lahko se razvija in proizvaja v regiji, po evropskih pravilih, z jasno odgovornostjo in partnerji, ki so geografsko in operativno blizu.

“KVARK je dokaz, da lahko naša regija razvija kompleksno infrastrukturo UI in ni nujno le uporabnica, temveč tudi ustvarjalka tehnologije.”

Od strategije prek strojne opreme in razvoja do implementacije

Transformacija z UI ni programski projekt. Zahteva povezovanje poslovne strategije, transformacije procesov, razvoja in integracije programske opreme, platforme UI, infrastrukture in same implementacije. Ko so ti elementi razdeljeni med različne dobavitelje, prav na njihovih stičiščih nastajajo največji izzivi pri koordinaciji, odgovornosti in dobavi.

Egzakta je zato zgradila vertikalno integriran model UI, ki pokriva celotno verigo: od strategije in oblikovanja poslovnih procesov, prek razvoja in integracije rešitev IT in UI, do lastne infrastrukture in implementacije pri uporabniku.

Svetovalna ekipa oblikuje strategijo in transformacijo poslovnih procesov. IT Solutions z več kot 100 inženirji razvija in integrira rešitve z obstoječimi sistemi. KVARK predstavlja platformo UI, LM TEK v Sloveniji pa načrtuje, razvija in proizvaja infrastrukturo, na kateri KVARK deluje.

S tem Egzakta ne dobavlja le posamezne tehnologije UI, temveč povezuje strategijo, razvoj, programsko opremo, UI, strojno opremo in implementacijo v eno integrirano verigo z odgovornostjo, ki sega od začetne poslovne potrebe do sistema, ki deluje v produkciji.

Egzakta ima danes več kot 240 zaposlenih in več kot 350 zaključenih projektov, s poslovanjem iz Srbije, Slovenije, Nizozemske in Združenih arabskih emiratov.

Najdražja odločitev glede UI je lahko tista, ki jo odložite

Evropa je UI že začela obravnavati kot strateško infrastrukturo. Akt o umetni inteligenci in DORA postavljata nova pravila, pobude, kot sta InvestAI in mreža tovarn UI, pa kažejo, da se hkrati gradijo tudi evropske zmogljivosti za razvoj in uporabo umetne inteligence. V tej mreži je tudi slovenska SLAIF.

Za podjetja zato vprašanje ni več le, ali bodo uporabljala UI, temveč koliko nadzora bodo nad njo ohranila.

Če se sistemi UI uvajajo brez ustrezne evidence, nadzora dostopa, jasne odgovornosti in človeškega nadzora, je te elemente težko vgraditi naknadno. Ni jih mogoče preprosto dodati nekaj tednov pred regulatornim pregledom.

Obstaja tudi cena odvisnosti. Če podjetje svojo ključno zmožnost UI zgradi na tuji platformi, del nadzora prepusti drugemu: nad stroški, tehničnimi pogoji, razpoložljivostjo sistema, pa tudi nad načinom, kako se njegovi podatki obdelujejo in hranijo.

In obstaja cena zamujene hitrosti. Podjetje, ki v dveh urah najde, poveže in pojasni informacije, za katere konkurenca potrebuje dva dni, ne pridobi le tehnološke prednosti. Vsak dan sprejme več kakovostnih odločitev.

Zato vprašanje ni le, koliko stane uvedba UI. Vprašanje je, koliko lahko stane odločitev, da se z njo počaka.

“Če podjetje svojo ključno zmožnost UI zgradi na tuji platformi, se hkrati odpove nadzoru – nad stroški, tehničnimi pogoji, razpoložljivostjo sistema ter nad tem, kako se njegovi podatki obdelujejo in hranijo.”

Ko Evropa UI ne želi le uporabljati, temveč graditi svojo suvereno UI

Medtem ko globalna razprava teče o tem, čigav model je zmogljivejši, se v reguliranih panogah odločitve sprejemajo po drugem merilu: ali lahko institucija pojasni, dokaže in, kadar je treba, ustavi tisto, kar njen sistem UI počne z njenimi podatki.

Po dveh letih razvoja, treh komercialnih implementacijah in podvojeni inženirski ekipi KVARK kaže, da rešitev te ravni kompleksnosti lahko nastane tudi v tem delu Evrope, s povezavo raziskav in razvoja, inženirskega znanja in proizvodnih zmogljivosti znotraj skupine Egzakta, z ekipami in strokovnim znanjem v Srbiji in Sloveniji.

KVARK je zato več kot izdelek enega podjetja. Kaže, da regija lahko razvija in gradi kompleksno infrastrukturo UI za najzahtevnejša okolja in da v evropski tekmi za suvereno umetno inteligenco ni nujno le uporabnica tehnologije, temveč tudi njena ustvarjalka.

Avtor besedila je Goran Golubović, Consulting Director, Egzakta