Umělá inteligence se postupně stává součástí běžného života. Pomáhá nám pracovat, vyhledávat informace, řídit domácnost a ovládat zařízení, která ještě před několika lety působila jako technologická novinka. S rostoucími možnostmi ale přichází i otázka, kterou bychom neměli přehlížet: Co se stane, když se chytrá technologie dostane do nesprávných rukou — nebo začne sama šířit bezpečnostní problém dál?

Právě na toto riziko upozorňuje společnost Anthropic v souvislosti s možným zneužitím pokročilé umělé inteligence. Představa, že by se digitální hrozba mohla šířit mezi propojenými zařízeními podobně jako biologický organismus, může znít přehnaně. Z bezpečnostního pohledu však nejde jen o sci-fi scénář. Je to připomínka, že s rostoucí propojeností našeho světa roste také význam jeho ochrany.

Neznamená to, že se naše domácnosti mají začít bát každé chytré zásuvky nebo televizoru. Znamená to, že bychom měli lépe rozumět tomu, jaká rizika přináší technologie, kterou si dobrovolně pouštíme do svého soukromí.

Dosud jsme si kybernetické útoky spojovali především s počítači, firemními sítěmi, ukradenými hesly nebo vydíráním prostřednictvím zašifrovaných dat. Jenže hranice digitálního světa se postupně posouvají. K internetu jsou připojené televizory, kamery, robotické vysavače, chytré termostaty, domácí asistenti i další zařízení, která často považujeme za obyčejné vybavení domácnosti.

Výzkumníci společnosti Anthropic upozornili, že menší modely AI by v blízké budoucnosti mohly získat schopnost samostatně se šířit mezi některými zařízeními připojenými k internetu. Ve svém experimentu zkoumali jednotlivé kroky takového procesu a také to, zda je model dokáže propojit do funkčního celku. Nešlo tedy o potvrzení, že už existuje nekontrolovatelný virus s umělou inteligencí, který se dokáže šířit po celém světě. Jde o varování, že některé technologické překážky se postupně zmenšují.

A právě zde je podstata problému. Umělá inteligence nemusí sama o sobě představovat hrozbu. Riziko vzniká tehdy, když se spojí její rostoucí schopnosti, automatizace a nedostatečně zabezpečená zařízení.

Běžný škodlivý program bývá vytvořen tak, aby napadal určité systémy nebo využíval konkrétní slabiny. Pokročilý AI agent by mohl některé činnosti provádět pružněji, rozpoznávat neznámé prostředí a přizpůsobovat se mu. Pokud by se podobné schopnosti spojily s možností automatického šíření, obrana by byla složitější. Problém by totiž nemusel mít jediné centrum, které lze vypnout, ale mohl by se postupně rozrůstat v mnoha různých sítích.

Přirovnání k hlenkám (slizovky), které se šíří pomalu, ale vytrvale, je proto působivé. Neměli bychom ho však chápat jako důkaz, že se takový scénář nevyhnutelně naplní. Je to model možného budoucího rizika, nikoli popis již probíhající globální epidemie umělé inteligence.

V bezpečnosti často rozhodují zdánlivé maličkosti. Chytrá domácnost může být jen tak bezpečná, jak bezpečná jsou její nejslabší zařízení. Zařízení, které jsme si koupili kvůli pohodlí, může mít zastaralý software, dlouhodobě neaktualizovaný systém nebo nedostatečně zabezpečený vzdálený přístup. Některé levné výrobky navíc přestávají dostávat podporu dříve, než jejich majitelé vůbec začnou uvažovat o bezpečnostních rizicích.

Výzkumníci v této souvislosti připomínají také existující škodlivé sítě zařízení, takzvané botnety. Jedna z nich, označovaná jako Kimwolf, měla podle údajů citovaných Anthropicem zasáhnout více než dva miliony zařízení, především levných televizních boxů s Androidem. To je důležité rozlišení: zneužívání chytrých zařízení není nová hrozba. Nové může být to, jakou roli v jejím šíření začne hrát umělá inteligence.

Následky nemusí znamenat jen poruchu spotřebiče. Napadená zařízení mohou být zneužita k dalším kybernetickým útokům, mohou se stát součástí cizí infrastruktury nebo mohou zpřístupnit data, která bychom raději ponechali v soukromí. Robotický vysavač například může obsahovat podrobné informace o uspořádání domácnosti. Bezpečnost se tak dotýká nejen techniky, ale také našeho soukromí a pocitu bezpečí.

A pokud by se podobné problémy ve větším měřítku dotkly firem, institucí nebo důležitých služeb, nešlo by už pouze o záležitost jednotlivých domácností. Kybernetická bezpečnost se stává součástí širší odolnosti společnosti.

Dobrou zprávou je, že není nutné čekat na nové zákony ani na dokonalejší technologie. Řadu rizik lze omezit obyčejnými, ale důsledně dodržovanými návyky.

Při nákupu chytrého zařízení bychom se neměli dívat pouze na cenu a funkce. Důležitá je také informace, zda výrobce poskytuje bezpečnostní aktualizace a jak dlouho bude zařízení podporovat. U již používaných výrobků má smysl pravidelně instalovat dostupné aktualizace, změnit výchozí hesla, používat silná a jedinečná přístupová hesla a zabezpečit domácí Wi-Fi.

Pokud nějaké zařízení vzdálené ovládání nepotřebuje, není důvod mu automaticky ponechávat všechny dostupné možnosti přístupu z internetu. U zařízení, která už výrobce nepodporuje, je vhodné zvážit, zda je stále bezpečné je používat. A pokud domácí síť nabízí možnost oddělit chytré spotřebiče od počítačů a telefonů, může takové rozdělení omezit následky případného napadení.

Neméně důležitá je i otázka soukromí. Před zapnutím nové funkce bychom měli vědět, jaká data zařízení shromažďuje, kam je odesílá a kdo k nim může mít přístup. Pohodlí by nemělo automaticky znamenat, že se vzdáme kontroly nad informacemi o vlastním životě. Tato opatření nezaručí absolutní bezpečnost, může ale výrazně snížit počet zbytečných slabin, které útočníkům usnadňují práci.

Nelze očekávat, že každý člověk bude odborníkem na kybernetickou bezpečnost. Výrobci proto musí přebírat větší odpovědnost za bezpečnost svých výrobků už při jejich návrhu. Aktualizace by měly být dostupné po rozumně dlouhou dobu, výchozí nastavení by mělo být bezpečné a zákazník by měl srozumitelně vědět, kdy jeho zařízení přestává dostávat podporu.

Stejně důležitá je odpovědnost institucí a státu. Potřebujeme jasné bezpečnostní standardy, sdílení informací o nových hrozbách a schopnost rychle reagovat, pokud se zranitelnost jednoho výrobku začne šířit mezi velké množství uživatelů.

Umělá inteligence přináší významné příležitosti také pro obranu. Může pomáhat rozpoznávat neobvyklé chování v sítích, vyhledávat slabiny a zrychlovat reakci na incidenty. Stejný technologický vývoj, který může útočníkům usnadnit některé činnosti, tedy může posílit i obránce. Rozhodující bude, zda dokážeme bezpečnostní opatření rozvíjet dostatečně rychle a zda je budeme skutečně používat.

Zpráva společnosti Anthropic by neměla být důvodem k tomu, abychom přestali používat moderní technologie. Měla by být impulzem k tomu, abychom o nich začali přemýšlet trochu jinak. Nepanikařit, ale nepodceňovat.

V minulosti jsme často vnímali bezpečnost jako ochranu konkrétní věci: počítače, telefonu, domu nebo firmy. V propojeném světě ale žádné zařízení neexistuje úplně samo. Je součástí širšího systému, ve kterém může slabina jednoho prvku ovlivnit další. A s rostoucí autonomií umělé inteligence může být stále důležitější nejen to, co technologie dokáže, ale také jaké má pravomoci, k čemu má přístup a kdo kontroluje její činnost.

To je výzva pro výrobce, instituce i každého z nás. Odolnost totiž nevzniká až ve chvíli, kdy se objeví problém. Buduje se předem — správným nastavením, informovaností, odpovědným přístupem a schopností zachovat klid, když se něco pokazí.

Nemusíme se bát každé nové technologie, potřebujeme jí ale rozumět, používat ji odpovědně a nenechat pohodlí převážit nad bezpečností. Protože skutečně chytrá domácnost není jen ta, kterou lze ovládat mobilem. Je to také domácnost, jejíž obyvatelé vědí, jak ji chránit.

PhDr. Lukáš Šeršeň, PhD., DBA
bezpečnostní poradce prezidenta ČAKO