Od osobního AI asistenta až po podnikové AI agenty a vlastní AI řešení.
Přečtěte si víceUmělá inteligence v praxi
Praktický pohled na AI, její možnosti, podnikové využití, rizika, bezpečnost a odpovědné zavádění do firemního prostředí.
Co je umělá inteligence?
- Umělělá inteligence je nástroj, který dokáže analyzovat informace, rozpoznávat souvislosti, vytvářet obsah, automatizovat činnosti a podporovat lidské rozhodování. Její skutečná hodnota není v nahrazení člověka, ale ve schopnosti pomoci lidem pracovat rychleji, přesněji a efektivněji.
- S rostoucími možnostmi AI ale rostou také její rizika. Výstupy mohou být nepřesné nebo zcela chybné, citlivá data mohou být zpracována nevhodným způsobem a přílišná důvěra v automatizovaná rozhodnutí může mít skutečné právní, bezpečnostní i obchodní důsledky.
- AI proto musí být používána s jasně stanoveným účelem, odpovědností a kontrolou. U důležitých rozhodnutí má zůstat člověk součástí procesu, výsledky mají být ověřitelné a organizace musí vědět, jaká data AI používá, kam tato data putují a kdo nese odpovědnost za výsledek.
- AI má člověku pomáhat rozhodovat, nemá rozhodovat místo člověka tam, kde následky vyžadují lidský úsudek a odpovědnost.
MODELY
GPT | OpenAI
Modely GPT jsou univerzální AI nástroje pro každodenní práci. Pomohou napsat nebo upravit text, shrnout a analyzovat dokumenty, porovnat informace, pracovat s daty, programovat nebo hledat řešení konkrétního problému.
Gemini | Google
Gemini je silný zejména při práci s kombinací textu, obrázků, audia a videa. Dokáže například analyzovat dlouhé dokumenty, vysvětlit graf nebo fotografii, pracovat s obsahem videa a spojovat informace z různých zdrojů do jedné analýzy.
Claude | Anthropic
Claude vyniká při práci s dlouhými dokumenty a velkým množstvím informací. Dokáže porovnávat smlouvy, analyzovat rozsáhlé podklady, hledat souvislosti, připravovat strukturované závěry a dobře se uplatňuje také při programování a komplexních úlohách.
Llama | Meta
Llama je vhodná tam, kde chcete AI provozovat ve vlastní infrastruktuře, přizpůsobit ji konkrétnímu účelu nebo integrovat přímo do vlastních aplikací. Organizace tak může mít větší kontrolu nad provozem, daty a celým AI řešením.
PLATFORMY
Od osobního AI asistenta až po podnikové AI agenty a vlastní AI řešení.
Přečtěte si více
Od osobního AI asistenta až po podnikové AI agenty a vlastní AI řešení.
Přečtěte si více
Od osobního AI asistenta až po podnikové AI agenty a vlastní AI řešení.
Přečtěte si víceKdyž AI selhala, skutečné případy a jejich následky
Mata v. Avianca
AI si vymyslela soudní rozhodnutí, v roce 2023 byly v americkém soudním řízení použity neexistující soudní případy vytvořené pomocí ChatGPT. AI vytvořila přesvědčivě vypadající názvy případů, citace i části údajných rozsudků a právníci informace před podáním řádně neověřili. Výsledkem byla sankce 5 000 USD a výrazný reputační dopad.
Poučení: AI může působit naprosto přesvědčivě a přitom generovat neexistující fakta. V právu, financích, compliance nebo zdravotnictví proto musí existovat nezávislá kontrola zdrojů.
Arup Deepfake Fraud (2024)
Pracovník finančního oddělení společnosti Arup v Hongkongu obdržel požadavek týkající se důvěrné transakce. Následovala videokonference, při které útočníci pomocí AI deepfake videa a hlasu napodobili CFO a další kolegy.
Výsledek:15 převodů → 5 bankovních účtů → přibližně 200 milionů HKD, tedy 25 milionů USD.
Selhání: deepfake odstranil důvěryhodnost obrazu a hlasu jako prostředku ověření identity.
Mid Central Operating Engineers v. HoosierVac (2025)
Advokát použil generativní AI při přípravě právních podání. AI vytvořila fiktivní soudní rozhodnutí, která advokát následně použil bez ověření.Federální soud mu uložil sankci 6 000 USD. Soud výslovně upozornil, že používat AI pro prvotní rešerši je jedna věc, ale spoléhat se na její výstup bez ověření samotné existence případů je něco úplně jiného.
Selhání: AI vytvořila přesvědčivě vypadající, ale neexistující právní zdroje.
AI vytvořila neexistující judikaturu (2024/2025)
Právník ve státě Victoria použil právní software využívající AI k vytvoření seznamu předchozích soudních případů.Když soudce začal uvedená rozhodnutí ověřovat, případy nebylo možné dohledat.
Právník následně přiznal, že informace vytvořila AI a před předložením soudu je neověřil. Následek už nebyl jen finanční.
V roce 2025 mu regulátor změnil profesní oprávnění. Nemůže samostatně působit jako principal lawyer, provozovat vlastní praxi ani nakládat se svěřeneckými prostředky a po dobu dvou let musí pracovat pod dohledem.
Selhání: AI vygenerovala falešné právní autority a profesionál výsledek považoval za důvěryhodný.
Character.AI
Character.AI čelila žalobám rodin, které tvrdily, že její AI chatboti vedli s nezletilými uživateli nevhodné a nebezpečné konverzace a v některých případech přispěli k sebepoškozování či úmrtí. Jeden z chatbotů se podle žaloby státu Pensylvánie dokonce vydával za licencovaného psychiatra a uváděl falešné licenční číslo.
Následky: společnost čelila několika žalobám a regulatornímu tlaku, doplnila bezpečnostní opatření pro mladší uživatele a v roce 2026 dosáhla předběžného urovnání s pěti rodinami. V říjnu 2026 následně požádala o ochranu před věřiteli podle Chapter 11, přičemž měla vedle právních problémů také významné provozní a ekonomické potíže.
Poučení: AI může být nebezpečná právě tehdy, když její odpovědi působí natolik přirozeně a autoritativně, že jim uživatel začne důvěřovat jako skutečnému odborníkovi.
AI si vymyslela soudní rozhodnutí, v roce 2023 byly v americkém soudním řízení použity neexistující soudní případy vytvořené pomocí ChatGPT. AI vytvořila přesvědčivě vypadající názvy případů, citace i části údajných rozsudků a právníci informace před podáním řádně neověřili. Výsledkem byla sankce 5 000 USD a výrazný reputační dopad.
Poučení: AI může působit naprosto přesvědčivě a přitom generovat neexistující fakta. V právu, financích, compliance nebo zdravotnictví proto musí existovat nezávislá kontrola zdrojů.
Arup Deepfake Fraud (2024)
Pracovník finančního oddělení společnosti Arup v Hongkongu obdržel požadavek týkající se důvěrné transakce. Následovala videokonference, při které útočníci pomocí AI deepfake videa a hlasu napodobili CFO a další kolegy.
Výsledek:15 převodů → 5 bankovních účtů → přibližně 200 milionů HKD, tedy 25 milionů USD.
Selhání: deepfake odstranil důvěryhodnost obrazu a hlasu jako prostředku ověření identity.
Mid Central Operating Engineers v. HoosierVac (2025)
Advokát použil generativní AI při přípravě právních podání. AI vytvořila fiktivní soudní rozhodnutí, která advokát následně použil bez ověření.Federální soud mu uložil sankci 6 000 USD. Soud výslovně upozornil, že používat AI pro prvotní rešerši je jedna věc, ale spoléhat se na její výstup bez ověření samotné existence případů je něco úplně jiného.
Selhání: AI vytvořila přesvědčivě vypadající, ale neexistující právní zdroje.
AI vytvořila neexistující judikaturu (2024/2025)
Právník ve státě Victoria použil právní software využívající AI k vytvoření seznamu předchozích soudních případů.Když soudce začal uvedená rozhodnutí ověřovat, případy nebylo možné dohledat.
Právník následně přiznal, že informace vytvořila AI a před předložením soudu je neověřil. Následek už nebyl jen finanční.
V roce 2025 mu regulátor změnil profesní oprávnění. Nemůže samostatně působit jako principal lawyer, provozovat vlastní praxi ani nakládat se svěřeneckými prostředky a po dobu dvou let musí pracovat pod dohledem.
Selhání: AI vygenerovala falešné právní autority a profesionál výsledek považoval za důvěryhodný.
Character.AI
Character.AI čelila žalobám rodin, které tvrdily, že její AI chatboti vedli s nezletilými uživateli nevhodné a nebezpečné konverzace a v některých případech přispěli k sebepoškozování či úmrtí. Jeden z chatbotů se podle žaloby státu Pensylvánie dokonce vydával za licencovaného psychiatra a uváděl falešné licenční číslo.
Následky: společnost čelila několika žalobám a regulatornímu tlaku, doplnila bezpečnostní opatření pro mladší uživatele a v roce 2026 dosáhla předběžného urovnání s pěti rodinami. V říjnu 2026 následně požádala o ochranu před věřiteli podle Chapter 11, přičemž měla vedle právních problémů také významné provozní a ekonomické potíže.
Poučení: AI může být nebezpečná právě tehdy, když její odpovědi působí natolik přirozeně a autoritativně, že jim uživatel začne důvěřovat jako skutečnému odborníkovi.
AI Act - nová pravidla pro umělou inteligenci v Evropě
Evropský AI Act, tedy nařízení (EU) 2024/1689, představuje první komplexní právní rámec EU zaměřený přímo na umělou inteligenci. Cílem není AI zakázat, ale nastavit pravidla tak, aby její používání neohrožovalo bezpečnost, základní práva a další chráněné hodnoty.
Základní princip je poměrně jednoduchý, čím větší riziko AI představuje pro člověka nebo společnost, tím přísnější jsou požadavky.
AI Act rozděluje AI podle rizika
Kterých AI modelů se AI Act týká?
Modely typu GPT, Claude nebo Gemini typicky spadají do konceptu General-Purpose AI (GPAI), pokud splňují definici obecného modelu schopného vykonávat širokou škálu úloh. Evropská komise ve svých guidelines používá jako technické vodítko mimo jiné trénink nad 10²³ FLOP.
Pro poskytovatele těchto modelů platí například povinnosti:
Nejpokročilejší modely se systémovým rizikemAI Act zavádí ještě přísnější režim pro GPAI modely se systémovým rizikem.Jedním z kritérií je tréninkový výkon přesahující 10²⁵ FLOP, který vytváří domněnku systémového rizika. Tento práh je aktuálně předmětem přezkumu.
Pro jejich poskytovatele to znamená:
A co Open Source?
Ano, AI Act se může týkat i open-source modelů.Open-source poskytovatelé ale mohou za určitých podmínek získat výjimku z některých povinností. Nejde tedy o jednoduché pravidlo - je to Open Source, takže se na to AI Act nevztahuje. Evropská komise vydala speciální výklad právě k tomu, kdy se výjimky použijí.
Platí tedy jednoduché pravidlo
AI Act neposuzuje pouze „jaký model používám“. Posuzuje celý kontext:
Proto: GPT, Claude nebo Gemini samy o sobě nejsou automaticky „high-risk“. High-risk může být konkrétní AI systém a způsob, jakým model firma použije.
Modelový příklad - jedna AI, tři různé situace
Výsledek znamená
Základní princip je poměrně jednoduchý, čím větší riziko AI představuje pro člověka nebo společnost, tím přísnější jsou požadavky.
AI Act rozděluje AI podle rizika
- Nepřijatelné riziko - AI použití, která představují zásadní ohrožení práv a bezpečnosti lidí. Vybrané praktiky jsou zakázané. Typicky určité formy social scoringu, manipulativního využití AI nebo některé biometrické praktiky.
- Vysoké riziko - AI, která může významně ovlivnit zdraví, bezpečnost nebo základní práva člověka. Typicky některé systémy pro nábor zaměstnanců, vzdělávání, kritickou infrastrukturu, biometriku nebo migraci. Vyžadují řízení rizik, dokumentaci, dohled člověka a další kontrolní mechanismy.
- Riziko vyžadující transparentnost - Například chatboti, AI agenti, deepfakes a některý AI generovaný obsah. Uživatel musí v relevantních případech vědět, že komunikuje s AI nebo že obsah vytvořila či manipulovala AI.
- Minimální nebo žádné riziko - většina běžných AI aplikací. Typickým příkladem jsou spam filtry nebo AI ve videohrách. AI Act pro většinu těchto systémů nestanovuje zvláštní povinnosti.
Kterých AI modelů se AI Act týká?
Modely typu GPT, Claude nebo Gemini typicky spadají do konceptu General-Purpose AI (GPAI), pokud splňují definici obecného modelu schopného vykonávat širokou škálu úloh. Evropská komise ve svých guidelines používá jako technické vodítko mimo jiné trénink nad 10²³ FLOP.
Pro poskytovatele těchto modelů platí například povinnosti:
- technická dokumentace
- informace pro firmy, které model integrují do vlastních systémů
- politika respektování autorských práv
- zveřejnění souhrnu obsahu použitého pro trénování
Nejpokročilejší modely se systémovým rizikemAI Act zavádí ještě přísnější režim pro GPAI modely se systémovým rizikem.Jedním z kritérií je tréninkový výkon přesahující 10²⁵ FLOP, který vytváří domněnku systémového rizika. Tento práh je aktuálně předmětem přezkumu.
Pro jejich poskytovatele to znamená:
- hodnocení modelu → vyhodnocování systémových rizik → mitigace → hlášení závažných incidentů → kybernetická bezpečnost.
A co Open Source?
Ano, AI Act se může týkat i open-source modelů.Open-source poskytovatelé ale mohou za určitých podmínek získat výjimku z některých povinností. Nejde tedy o jednoduché pravidlo - je to Open Source, takže se na to AI Act nevztahuje. Evropská komise vydala speciální výklad právě k tomu, kdy se výjimky použijí.
Platí tedy jednoduché pravidlo
AI Act neposuzuje pouze „jaký model používám“. Posuzuje celý kontext:
- MODEL → ÚČEL → AI SYSTÉM → DATA → DOPAD NA ČLOVĚKA → ROLE ORGANIZACE → ÚROVEŇ RIZIKA
Proto: GPT, Claude nebo Gemini samy o sobě nejsou automaticky „high-risk“. High-risk může být konkrétní AI systém a způsob, jakým model firma použije.
Modelový příklad - jedna AI, tři různé situace
- AI pomáhá napsat e-mail - Zaměstnanec zadá: „Uprav tento e-mail zákazníkovi do profesionální podoby.“ AI připraví text a zaměstnanec ho zkontroluje.Riziko: nízké, AI pouze podporuje člověka při běžné práci a nerozhoduje o jeho právech nebo přístupu ke službě.
- AI komunikuje se zákazníkem. Firma nasadí chatbota: „Jsem virtuální asistent. Jak vám mohu pomoci?“ Zákazník komunikuje přímo s AI - klíčové téma: transparentnost.
Uživatel má podle pravidel AI Act v relevantních případech vědět, že komunikuje se systémem AI.
- Stejná technologie rozhoduje o uchazečích - HR oddělení vytvoří systém: CV kandidáta → AI analýza → scoring → doporučení přijmout / vyřadit Najednou AI ovlivňuje přístup člověka k zaměstnání. To může být high-risk AI systém. Ne proto, že používá GPT, ale protože je AI použita v oblasti zaměstnávání způsobem, který může významně ovlivnit člověka.
Výsledek znamená
- Stejný model, stejná technologie, úplně jiné riziko. AI Act neposuzuje pouze to, zda používáte GPT, Claude nebo Gemini. Rozhodující je především, co s AI děláte, jaký má její výstup dopad a jakou roli vaše organizace v AI hodnotovém řetězci zastává.