LLM Platforma Pointé je technologický základ, na ktorom staviame inteligentné riešenia pre organizácie, firmy aj tímy, ktoré chcú pracovať efektívnejšie, rýchlejšie a s lepším prehľadom nad svojimi dátami a procesmi. Ide o našu vlastnú platformu, ktorú sme navrhli tak, aby bola flexibilná, bezpečná a pripravená na postupné rozširovanie podľa potrieb 

1. Predstavenie platformy Pointé

LLM Platforma je technologický základ, na ktorom staviame inteligentné riešenia pre organizácie, firmy aj tímy, ktoré chcú pracovať efektívnejšie, rýchlejšie a s lepším prehľadom o svojich dátach a procesoch. Ide o našu vlastnú platformu navrhnutú tak, aby bola flexibilná, bezpečná a pripravená na postupné rozširovanie podľa potrieb zákazníka.

Platforma funguje ako centrálne prostredie, do ktorého je možné pridávať rôzne digitálne nástroje od operačných auditov, cez dátovú analytiku až po pokročilé rozhodovacie systémy. Každý nástroj rieši konkrétnu oblasť, no všetky spolupracujú v jednom ekosystéme, ktorý je jednoduchý na používanie a pripravený na dlhodobý rast.

1.1 Prečo vznikla LLM Platforma Pointé

Moderné organizácie pracujú s obrovským množstvom dát, procesov a rozhodnutí. Často však chýba jednotné miesto, kde by tieto informácie dávali zmysel, boli prepojené a dokázali sa automaticky vyhodnocovať. LLM Platforma vznikla práve preto:

• aby zjednotila prácu s dátami, dokumentmi a procesmi,

• aby poskytla priestor pre inteligentné nástroje riešiace konkrétne úlohy,

• aby bola pripravená rásť spolu s potrebami organizácie,

• aby bola bezpečná, stabilná a jednoducho integrovaná do existujúceho prostredia.

1.2 Výhody pre organizácie

LLM Platforma prináša organizáciám jasný a merateľný prínos. Je navrhnutá tak, aby sa dokázala prispôsobiť rôznym prostrediam, rýchlo sa nasadila a dlhodobo podporovala rast aj zložitejšie potreby. Vďaka jednotnému ekosystému, bezpečnej architektúre a modulárnemu prístupu poskytuje stabilný základ pre moderné digitálne riešenia.

Kľúčové výhody platformy:

• Modulárnosť – zákazník si vyberá len to, čo skutočne potrebuje.

• Bezpečnosť – všetky dáta sú spracované v kontrolovanom a dôveryhodnom prostredí.

• Rýchla implementácia – platforma je pripravená na nasadenie bez zdĺhavých úprav.

• Jednotné prostredie – všetky nástroje fungujú v jednom ekosystéme.

• Dlhodobá udržateľnosť – platforma sa dá rozširovať o nové moduly a funkcionality.

• Reálny dopad – zlepšenie procesov, úspora času a kvalitnejšie rozhodovanie.

2. Možnosti nasadenia

LLM Platforma je navrhnutá tak, aby sa dala nasadiť v rôznych prostrediach podľa potrieb zákazníka. Vďaka svojej jednoduchosti dokáže pracovať s lokálnymi modelmi (Ollama, Hugging Face) aj s cloudovými poskytovateľmi (Gemini, Claude, ChatGPT). Zákazník má plnú kontrolu nad tým, kde budú jeho dáta spracované a komu dôveruje.

Platforma podporuje tieto operačné systémy:

• Windows 10, 11 a Windows Server

• Linux

• macOS

V prípade potreby je možné vytvoriť aj mobilné aplikácie pre iOS a Android, napríklad na zber dát v teréne alebo prácu s offline nástrojmi.

2.1 On‑premise alebo cloudové nasadenie

LLM Platforma je postavená na moderných serverových technológiách, ktoré umožňujú jej prevádzku v rôznych infraštruktúrach.

 Variant A: On‑premise (vlastná serverovňa)

Platformu je možné nainštalovať priamo do infraštruktúry zákazníka. Tento variant je vhodný pre organizácie, ktoré:

• požadujú maximálnu kontrolu nad dátami,

• majú prísne bezpečnostné alebo legislatívne požiadavky,

• chcú prevádzkovať vlastné LLM modely bez závislosti od cloudu.

On‑premise riešenie poskytuje najvyššiu úroveň súkromia a umožňuje plnú integráciu s internými systémami.

Variant B: Cloudové nasadenie

Platformu je možné prevádzkovať aj u cloudových poskytovateľov. Tento variant prináša:

• rýchle nasadenie bez investícií do hardvéru,

• jednoduchú škálovateľnosť,

• prístup k výkonným cloudovým LLM modelom.

Zákazník si môže vybrať poskytovateľa podľa svojich preferencií a úrovne dôvery v cloudové služby.

2.2 Nasadenie na PC používateľa

LLM Platformu je možné nasadiť aj priamo na pracovnú stanicu koncového používateľa. Tento spôsob je vhodný najmä pre menšie tímy alebo situácie, kde nie je dostupný server ani cloud.

Variant A: Pripojenie s AI PC

Ak zákazník nemá vlastný server alebo nechce využívať cloud, existuje možnosť pripojiť k bežnému pracovnému počítaču tzv. AI PC – samostatné zariadenie určené na výpočty pre umelú inteligenciu.

Tento variant umožňuje:

• prevádzkovať veľké LLM modely lokálne,

• spracovávať dáta bez ich odosielania mimo organizácie,

• dosiahnuť vysoký výkon bez budovania serverovej infraštruktúry.

Najpoužívanejšie AI PC zariadenia:

• Nvidia DGX Spark

• Acemagic F3A Ryzen AI 9 HX 370

• Mac Studio M4 Max

Zariadenia Nvidia a Acemagic sú vybavené dvoma sieťovými kartami, čo umožňuje ich priame pripojenie k infraštruktúre alebo priamu komunikáciu s pracovnou stanicou používateľa. Vďaka tomu môžu fungovať ako samostatný výpočtový uzol pre všetky AI operácie.

Variant B: PC – Cloudové LLM

Pre zákazníkov, ktorí dôverujú cloudovým službám, ponúkame možnosť využívať LLM Platformu v kombinácii s cloudovými modelmi. V tomto variante pracuje používateľ na svojom bežnom počítači, zatiaľ čo všetky výpočtovo náročné operácie prebiehajú v cloude.

Výhody tohto riešenia:

• minimálne hardvérové nároky,

• okamžitý prístup k najvýkonnejším modelom,

• jednoduché škálovanie výkonu,

• flexibilita vo výbere poskytovateľa.

2.3 Hardvérové požiadavky

Pri plánovaní hardvéru je dôležité zohľadniť, koľko modelov a akú veľkosť modelov bude platforma využívať. Veľkosť LLM modelu priamo ovplyvňuje kvalitu odpovedí, rýchlosť spracovania aj celkovú spoľahlivosť.

Vo všeobecnosti platí:

• väčšie modely poskytujú presnejšie výsledky,

• lepšie rozumejú viacerým jazykom,

• dokážu pracovať so širším spektrom úloh,

• vyžadujú vyšší výpočtový výkon a viac pamäte.

Pri návrhu riešenia preto hľadáme rovnováhu medzi kvalitou modelu, očakávaným výkonom a dostupným hardvérom.

Cena verzus výkon:

Vyššia kvalita modelu si prirodzene vyžaduje výkonnejší hardvér. Investícia do výkonu však prináša dlhodobé benefity:

• rýchlejšie spracovanie,

• vyššiu presnosť,

• lepšiu stabilitu,

• možnosť škálovať riešenie bez okamžitej výmeny zariadení.

3. Bezpečnosť platformy

Bezpečnosť je jedným zo základných pilierov LLM Platformy. Rovnako ako pri možnostiach nasadenia, aj v oblasti ochrany dát a prístupu platforma podporuje viacero bezpečnostných modelov. Dokáže pracovať s Identity Providers (IdP) pre autorizáciu používateľov a bez problémov funguje v prostredí chránenom firewallom alebo reverse proxy.

Pri on‑premise nasadení je bezpečnosť plne v rukách zákazníka – od sieťových nastavení až po interné prístupové politiky. Pri cloudovej verzii je možné platformu prevádzkovať pod modernými bezpečnostnými riešeniami, ako sú napríklad Cloudflare, Azure Front Door s WAF a ďalšie služby, ktoré poskytujú ochranu pred útokmi a neoprávneným prístupom.

3.1 GDPR a spracovanie dát

LLM Platforma je navrhnutá tak, aby rešpektovala súkromie používateľov a spĺňala požiadavky GDPR. Dáta nie sú automaticky odosielané tretím stranám – zostávajú v zariadení alebo infraštruktúre koncového používateľa.

Platforma:

• dáta triedi a spracováva výhradne v rámci prostredia používateľa,

• odosiela dáta do externých aplikácií len na základe výslovnej konfigurácie používateľa,

• umožňuje automatizované exporty, pričom zákazník rozhoduje, kam budú dáta smerované.

Zodpovednosť za to, ako a kam sa dáta odosielajú, je vždy na strane zákazníka, ktorý má nad spracovaním plnú kontrolu.

3.2 GDPR a cloudové LLM modely

Pri využívaní cloudových LLM modelov je potrebné dodržiavať pravidlá GDPR. Európske organizácie môžu spracovávať dáta len v rámci dátových centier, ktoré sa nachádzajú v Európskej únii alebo spĺňajú ekvivalentné požiadavky.

Z dostupných poskytovateľov tieto požiadavky spĺňa napríklad Google Gemini, ktorý ponúka spracovanie dát v rámci európskych dátových centier.

4. Prípadové štúdie

LLM Platforma sa dá využívať mnohými tvorivými spôsobmi a jej skutočný potenciál sa naplno prejaví až vtedy, keď používatelia porozumejú jej fungovaniu (viď kapitola 5) a dokážu ju prepojiť s vlastnými procesmi. Kombinácia správneho nastavenia, kreatívneho prístupu a dôkladnej analýzy interných postupov umožňuje organizáciám vytvárať riešenia, ktoré výrazne zjednodušujú prácu, šetria čas a zvyšujú presnosť rozhodovania.

4.1 Vyťažovanie dokumentov

Príchod LLM modelov zásadne zmenil spôsob, akým sa pracuje s dokumentmi. Technológie, ktoré sa vyvíjali viac ako 30 rokov v oblasti extrakčných platforiem, dnes dokáže LLM nahradiť jednoduchšie, presnejšie a s výrazne menšími nárokmi na konfiguráciu.

Vďaka LLM Platforme je možné zo skenovaných dokumentov automaticky získavať štruktúrované dáta, ktoré sa následne používajú v ďalších procesoch – od účtovníctva, cez logistiku až po právne oddelenia.

Proces vyťažovania prebieha v týchto krokoch:

1. Konverzia vstupu Dokument (napr. PDF) sa prevedie na obrázok, aby bol pripravený na OCR spracovanie.

2. OCR spracovanie Obrázok je prečítaný pomocou OCR technológie – podľa požiadaviek zákazníka môže ísť o:Deepseek OCR,neurónovú sieť Surya OCR,služby od Googlu alebo Microsoftu.

3. Spracovanie LLM modelom Väčší LLM model (napr. Mistral) spracuje získaný text podľa používateľského príkazu a prevedie ho do požadovanej štruktúry.

4. Odoslanie výsledkov Výstupné dáta sú automaticky odoslané na endpoint, ktorý si zákazník určí (napr. interný systém, API, databáza).

4.2 Ukážka vyťažovacieho procesu pomocou platformy Deepseek OCR