AI etika a bezpečnost
Pochopte rizika AI — halucinace, bias, deepfakes, únik dat. Naučte se používat AI odpovědně a v souladu s regulacemi.
Hlavní rizika AI
AI je mocný nástroj, ale přichází s riziky, která je třeba znát. Zde jsou čtyři nejdůležitější:
Halucinace
AI si vymýšlí fakta, citace nebo statistiky, které vypadají přesvědčivě, ale nejsou pravdivé. Vždy ověřujte klíčové informace.
Bias (zaujátost)
AI modely odrážejí předsudky z trénovacích dat — mohou diskriminovat na základě pohlaní, etnicity nebo věku.
Deepfakes
AI dokáže generovat realistické falešné fotky, videa a hlasy. Používá se k dezinformacím a podvodům.
Únik dat
Co zadáte do AI, může být použito k trénování. Nikdy nezadávejte hesla, osobní údaje nebo firemní tajemství.
Autorská práva a AI
Právní rámec kolem AI obsahu se teprve formuje. Zde jsou odpovědi na nejčastější otázky:
Mohu použít AI text komerčně?
Většinou ano — ChatGPT, Claude i Gemini umožňují komerční využití výstupů. Vždy si přečtěte Terms of Service.
Kdo je autorem AI obsahu?
Právně není jasné. Ve většině jurisdikcí AI výstup nemá autora. Odpovědnost leží na uživateli.
Mohou AI obrázky porušovat copyright?
Ano, pokud generovaný obrázek příliš připomíná chráněné dílo. Nereplikujte známé umělce nebo značky.
Mohu trénovat AI na cizích datech?
Bez souhlasu vlastníka dat je to právně problematické. GDPR a EU AI Act stanoví přísná pravidla.
EU AI Act — regulace AI v Evropě
Evropská unie přijala první komplexní regulaci AI na světě. Kategorizuje AI systémy do 4 úrovní podle rizika:
Sociální skoring, manipulace chování, biometrická identifikace v reálném čase
HR nábor, úvěrové hodnocení, zdravotní diagnostika, justice
Chatboty, deepfake generátory — vyžadují označení, že jde o AI
Spamové filtry, AI v hrách, doporučovací systémy
6 pravidel odpovědného používání AI
Vždy ověřujte fakta
AI může halucinovat. Cross-checkujte důležité informace s více zdroji.
Chráňte citlivá data
Nezadávejte osobní údaje, hesla ani firemní interní dokumenty do veřejných AI.
Buďte transparentní
Pokud používáte AI k tvorbě obsahu, zvažte informovat svou audienci.
Kontrolujte bias
Revidujte AI výstupy z hlediska férovosti — zvláště u HR, financí a zdravotnictví.
Znáte regulace
EU AI Act kategorizuje AI systémy podle rizika. Vysoko-rizikové aplikace vyžadují speciální opatření.
AI jako asistent, ne náhrada
Konečné rozhodnutí dělá vždy člověk. AI doporučuje, vy rozhodujete.
Vyzkoušej si to
Otestujte, jak dobře umíte odhalit rizika AI:
1. Zeptejte se ChatGPT na specifický fakt (např. „Kolik lidí žije v Klatovech?“) a ověřte odpověď 2. Požádejte AI o seznam citací z vědeckých článků — kolik z nich je reálných? 3. Zkuste AI požádat o něco neetického (např. falešnou recenzi) — jak reaguje? 4. Napište prompt, který by mohl odhalit bias AI (např. „Popiš typického programátora“)
Klíčové pojmy
Halucinace
Situace, kdy AI generuje nepravdivé informace prezentované jako fakta — vymýšlené citace, statistiky, události.
Bias (zaujátost)
Systematická chyba v AI modelu způsobená nereprezentatvními nebo předsudkovými trénovacími daty.
Deepfake
Syntetický mediální obsah (obrázek, video, hlas) vytvořený AI tak, aby vypadal autenticky.
EU AI Act
Evropská regulace umělé inteligence, která kategorizuje AI systémy do 4 úrovní rizika.
Prompt injection
Útok, při kterém uživatel manipuluje AI pomocí skrytých instrukcí v promptu.
RLHF
Reinforcement Learning from Human Feedback — technika trénování AI na základě lidské zpětné vazby.
Shrnutí lekce
- AI má 4 hlavní rizika: halucinace, bias, deepfakes a únik dat — všechna se dají minimalizovat odpovědným používáním.
- EU AI Act rozděluje AI systémy do 4 kategorií rizika — od zakázaných po neregulované.
- Vždy ověřujte fakta, chráňte data a používejte AI jako asistenta, ne jako neomylnou autoritu.