Hlasy volající po utlumení vývoje umělé inteligence sílí. Co teď? Máme zpomalit, nebo dál závodit bez pravidel?
Špatně je obojí. Jediná obhajitelná cesta je investovat do bezpečnosti, a to tolik, aby umělá inteligence mohla postupovat co nejrychleji. Zpomalení vývoje AI s sebou totiž přináší obrovské náklady, které navíc z nemalé části nesou ti nejchudší.
Středoškolákům v nigerijském státě Edo trvalo šest týdnů, aby se posunuli ve výuce o tolik, kolik jiným trvá rok a půl až dva roky. Pomohl jim AI tutor v odpoledním programu, který v roce 2024 v rámci studie otestovala Světová banka spolu s učiteli, kteří s nimi celou dobu pracovali. A to se bavíme o AI v roce 2024, která byla naprosto nesrovnatelná s tím, co je i v rámci základních balíčků dostupné dnes.
Tuberkulóza patří stále mezi nejsmrtelnější infekční nemoci světa. Jen v roce 2024 usmrtila podle poslední zprávy WHO z listopadu 2025 zhruba 1,2 milionu lidí, z toho drtivou většinu v chudších zemích. Odhalí ji přitom obyčejný rentgen plic. Bohužel tam, kde je jí nejvíc, prostě nejsou radiologové, kteří by snímky četli. Z toho důvodu už od roku 2021 WHO doporučuje pro čtení snímků využívat software s AI.
Těch příběhů je mnohem víc, ale i tyto dva jasně ukazují, o co v debatě o AI jde a o čem se skoro vůbec nemluví. S umělou inteligencí můžeme naložit třemi způsoby. Můžeme ji zpomalit. Můžeme závodit bez pravidel. Nebo se můžeme soustředit na bezpečnost a investovat do ní stejně jako do rozvoje jejích dovedností. Eticky obhajitelná je jen ta třetí cesta.
Zpomalení znamená, že v zemi s nízkými příjmy dítě nikdy nedostane adekvátní výuku. Znamená to rentgenový snímek, který může někomu zachránit život, ale nemá si ho kdo přečíst. Hodnota AI je nesmírně vysoká mimo jiné i tam, kde je lidských odborníků nejméně, ale tam se o tempu jejího vývoje nerozhoduje.
Zpoždění se navíc sčítá. Lepší vzdělání znamená vyšší příjmy, ty znamenají lepší výživu, bydlení, zdravotní péči… Každý rok, o který AI zpomalíme, se v téhle spirále nepromítne jednou, ale opakovaně. A kdo požaduje zpomalit AI, rozhoduje i za lidi, pro které vývoj AI znamená šanci na lepší život. Nebo možná vůbec nějaký život.
Bezhlavé závodění je také špatnou možností. Rizika AI jsou skutečná: její zneužití, koncentrace moci v rukou úzké skupiny států a jednotlivců, chyby v systémech, kterým svěřujeme osobní data, včetně těch zdravotních atd.
Další velkou hrozbou je chyba s katastrofálním dopadem, která otřese důvěrou veřejnosti natolik, že politici zatáhnou za ruční brzdu mnohem prudčeji, než by dnes kdokoliv navrhoval. Kdo chce závodit bez pravidel, riskuje náraz, který povede právě k tomu zpomalení, kterému se chce vyhnout.
Máme maximalizovat úsilí o bezpečnost, ale ne proto, abychom vývoj brzdili. Proto, abychom mohli postupovat minimálně stejně rychle jako dosud.
V praxi to znamená investovat do bezpečnosti AI stejně agresivně jako do jejích schopností. Testování, dohled a pravidla pro nasazení v citlivých oblastech mají tvořit základní infrastrukturu, která rychlost a třeba i další zrychlování umožní. Byrokracie a nadmíra regulace, která vývoj dusí, není řešení. Ale hlavně – vždy, když někdo navrhne vývoj AI zpomalit, měl by vedle seznamu rizik předložit i to, kolik bude zpoždění stát a kdo to zaplatí.
Je fakt, že nejsem nestranný pozorovatel, a je fér, aby to čtenář věděl. Investujeme do společností, které pak akcelerujeme s pomocí AI. A ano, mnohé procesy v našich společnostech již kompletně vykonávají AI agenti pod dohledem lidí. Data Světové banky nebo WHO ale platí bez ohledu na to, kdo je cituje.
Zpomalit AI je příliš drahé a zejména pro ty, kteří o tom nerozhodují. Závodit bez pravidel je hazard s důvěrou, na které celý pokrok stojí. Zbývá jediná cesta: postavit takové mantinely, abychom mohli jet naplno.
Zdroj: HN.cz
.jpg)
