Jednou z kľúčových oblastí, na ktoré v rámci našej práce upozorňujeme, je bezpečné a zodpovedné používanie verejne dostupných AI nástrojov. Často sa stretávame s tým, že organizácie, verejné inštitúcie aj súkromné firmy vkladajú dôverné, alebo citlivé údaje do nástrojov ako:

• ChatGPT (OpenAI)
• Microsoft Copilot (Word, Excel, Teams AI)
• Google Gemini (ex-Bard)
• Claude (Anthropic)
• AI nástroje tretích strán integrované do CRM, účtovníctva alebo helpdesku

Tieto nástroje sú síce výkonné a užitočné, no mnohé z nich bežia v režime, ktorý umožňuje poskytovateľovi analyzovať alebo uchovávať vložené dáta a to aj bez súhlasu užívateľa a najmä ak používateľ nemá platený firemný plán alebo aktívne nezapol súkromný režim (napr. „ChatGPT Team“ alebo „Enterprise“).

Ako to funguje:

Tieto nástroje často fungujú v tzv. „hostovanom cloude“ poskytovateľa, ktorý má podľa svojich podmienok (Terms of Use, Privacy Policy) právo dočasne alebo trvalo uchovávať vstupy a výstupy používateľa, a v niektorých prípadoch ich dokonca využiť na ďalší tréning modelov.

Prečo je to problém?

• Môže dôjsť k neúmyselnému úniku dôverných informácií (napr. o klientoch, zamestnancoch, interných procesoch)
• Niektoré AI systémy môžu vložené dáta použiť na trénovanie modelov
• Organizácia stráca kontrolu nad tým, kam a ako boli dáta spracované
• Môže ísť o porušenie GDPR, zmluvných záväzkov alebo interných smerníc

Ako k tomu pristupujeme my?

V oblasti bezpečného používania AI nástrojov kladieme dôraz na prevenciu, informovanosť a zmluvné istoty. Našim klientom poskytujeme nielen odborné odporúčania, ale aj systémové riešenia, ktoré reflektujú reálne riziká a zároveň spĺňajú normy informačnej bezpečnosti.

• Pomáhame vytvoriť interné smernice pre prácu s AI nástrojmi a definujeme pravidlá, čo je a nie je prípustné vkladať do externých systémov (napr. ChatGPT, Gemini, Copilot).
• Vzdelávame tímy o rozdieloch medzi open-source, on-premise, cloudovými a verejnými AI službami – vrátane právnych a etických rizík ich používania.

Odporúčame a zavádzame bezpečné alternatívy:

• self-hosted modely (napr. Mistral, LLaMA, GPT4All)
• privátne API brány so šifrovaním vstupov/výstupov
• firemné AI nástroje s kontrolou nad dátami a logmi

Máme s klientom uzatvorenú zmluvu o mlčanlivosti a ochrane dát (NDA), ktorá presne definuje spôsob práce s dôvernými údajmi, rozsah zodpovednosti a postupy v prípade incidentu. Sme držiteľom certifikátu systému manažérstva kvality podľa normy ISO 9001 a implementujeme princípy ISO/IEC 27001 (Informačná bezpečnosť) pri návrhu našich interných procesov aj zákazníckych riešení. Na požiadanie pripravíme bezpečnostný audit používania AI vo firme a to vrátane správy o rizikách, návrhu opatrení a implementačného plánu. Ak pracujete s osobnými údajmi, ekonomickými alebo zdravotnými údajmi a ste verejná správa, komerčný subjekt s know-how, zmluvnými tajomstvami alebo právnymi záväzkami, alebo jednoducho firmy a úrady, ktoré chcú AI využívať zodpovedne a dlhodobo udržateľne ste tu správne!