Neustálý vývoj umělé inteligence má silný dopad na téměř každý aspekt našeho života, počínaje od toho, jak se učíme a pracujeme, až po to, jak se společensky projevujeme a trávíme volný čas. S těmito vlivy přichází i rostoucí úroveň rizika pro nové formy kybernetické kriminality, narušení dat a porušování soukromí. Proto při práci s AI musíme tato rizika brát na vědomí, aby přínosy jejího využití nepřicházely na úkor naší kyberbezpečnosti a soukromí.
Máme přesnou definici pro AI?
Tomáš Zadák, CEO &client partner digitální agentury Ler Studio, zdůrazňuje, že současná AI není umělou inteligencí ve smyslu, jak ji běžně chápeme. „Jedná se pouze o velkou databázi dat, se kterou když pracujete, už se může zdát, že se jedná o AI. Jako každá nová technologie i zde je prostor pro zneužití, hlavně co se týče autorských práv,“ říká.
Myšlenka, kterou Tomáš Zadák rozvíjí, poukazuje na fakt, že řada současných technologických softwarů a aplikací se zabudovanou umělou inteligencí stále nedosahuje takové úrovně autonomního myšlení a učení, které jsme my lidé přirozeně schopni. Místo toho jsou tyto technologie spíše nástroji pro analýzu a zpracování velkého objemu dat. Lidé mohou mít předsudky vůči AI, očekávat od ní vlastnosti, které nejsou v její současné podobě možné, nebo naopak mohou podceňovat její schopnosti a dopady na společnost. Je proto důležité, aby veřejnost a odborníci pečlivě sledovali vývoj AI a nedocházelo tak k mylným očekáváním nebo naopak nedopatřením.
Hrozba zneužití AI tu bude vždy, ale společně ji můžeme minimalizovat tím, že se budeme průběžně s umělou inteligencí učit pracovat a ovládat ji jako svého pomocníka. „Chceme bojovat proti zneužití AI? Vzdělávejme sebe a své okolí v technologické a mediální gramotnosti,“ radí Ondřej Tyleček, generální ředitel kreativní agentury Fairy Tailors.
AI vaše data nemaže, ale naopak shromažďuje
Pokud jste již prováděli nějaké interakce s umělou inteligencí nebo jste vyzkoušeli AI filtr obličeje online, všechna tato data byla v kybernetickém prostředí shromážděna. Ptáte se, kam všechny tyto informace putují a co se s nimi děje dál? Systémy umělé inteligence často shromažďují osobní údaje, aby přizpůsobily funkci vyhledávání uživatelským preferencím a zdokonalily modely AI, které používáte, jako je například Chat GPT.
Bylo bohužel zjištěno, že při zpracování dat systémem AI data neprochází bezpečnostní kontrolou, tedy že se vaše data mohou ocitnout v rukou jiného uživatele. Tomuto zjištění předcházela nepříjemná událost, ke které došlo u Chat GPT, který umožnil některým uživatelům vidět tituly z historie chatu jiného aktivního uživatele. Je potřeba uvést na pravou míru, že i když existují zákony na ochranu osobních údajů, neexistuje žádný explicitní zákon, který by chránil společnost před poškozením soukromých dat ze strany AI. „Je třeba vytvořit co nejdříve jasný legislativní rámec, aby toto zneužívání sebou neslo i možnost rychlého a dostatečně razantního zákonného postihu, který může odradit další, kteří by chtěli AI zneužít,“ říká Tomáš Vacek, partner reklamní agentury Contexto.
Staronový nástroj šikany
Denní příliv fotografií od uživatelů sociálních sítí dosahuje obrovských rozměrů a s ním roste i možnost šíření irelevantních nebo útočných fotomontáží na internetu. Samotné šíření je možné již řadu let, ale s příchodem umělé inteligence tento proces získal novou dimenzi. AI nejenže urychluje tvorbu falešných obrázků, ale také povyšuje jejich věrohodnost na takovou úroveň, že je odhalení manipulace ve většině případech téměř nemožné. Tímto způsobem se otevírají dveře šíření dezinformací, ať už ve formě nevinných žertů či zákeřných útoků, což si žádá bezpodmínečný rozvoj digitální gramotnosti a obezřetnosti, aby bylo možné těmto činům zabránit.
Digitální gramotnost je v dnešní době nezbytná
Na rychlý technologický vývoj, zejména v oblasti umělé inteligence a automatizace, se pojí také diskuse o jeho přínosech a hrozbách. „Rychlá digitalizace, kterou vidíme v posledních letech, otevřela diskuse o autonomii strojů a rozhodování, zodpovědnosti za chyby v automatizaci, a ochraně soukromí a bezpečnosti dat. Je to dvojsečná zbraň; vývoj IT může být jak nástrojem pro zlepšení našeho života, tak i potenciální hrozbou, pokud se etické otázky neřeší adekvátně a včas,“ říká Jana Večerková, zakladatelka a ředitelka intenzivních kurzů programování Coding Bootcamp Praha.
V době, kdy společnost stále více spoléhá na technologie, je nezbytné, abychom měli na paměti negativní dopady umělé inteligence. Vzdělávání, kontrola a etické využívání jsou klíčové k tomu, aby nám síla AI nesloužila proti nám samým. Temné stránky AI mohou být výzvou, ale se zodpovědným přístupem a kolektivní snahou lze těmto problematikám čelit a omezit jejich dopad na společnost. Útokům v kyberprostoru lze předejít, stačí, když potřebné prevenci půjdete naproti.