Rozvoj umělé inteligence (AI) přináší společnosti řadu nových možností, ale také rizik. AI může zjednodušit práci, zvýšit efektivitu a zpřístupnit lidem věci, které dříve nebyly možné. Současně ale vyvolává obavy z dopadů na zaměstnanost, soukromí, spravedlnost či šíření informací.

Dopad na práci a zaměstnání

Umělá inteligence může ulehčit rutinní a opakující se činnosti, zvýšit produktivitu a umožnit lidem tvořit i v oblastech, kde by to pro ně bylo dříve příliš složité – například při tvorbě ilustrací nebo programování. Na druhou stranu část pracovních míst může být ohrožena. Podobné změny se děly už v minulosti při nástupu nových technologií, například strojů v zemědělství či textilním průmyslu. Tentokrát však může změna probíhat rychleji a mít výraznější dopad na celou společnost. Rizikem je také nahrazování lidské práce levnější, ale méně kvalitní prací strojů – například u překladů beletrie nebo zákaznické podpory.

Spravedlnost rozhodování

AI se stále častěji využívá pro rozhodování o lidech – někdy poskytuje pouze podklady, jindy rozhoduje zcela automaticky. Příkladem mohou být nástroje pro hodnocení životopisů uchazečů, podklady pro soudní rozhodování nebo automatické opravy přijímacích testů. Výhodou je rychlost, úspora nákladů a někdy i vyšší spolehlivost než u člověka, který může být unavený nebo nepozorný. Zároveň tu ale existuje vážné riziko předpojatosti a diskriminace. Modely se učí z historických dat, která v sobě často nesou předsudky – a algoritmy je mohou dále posilovat. Některé firmy například používají AI při třídění životopisů uchazečů o práci. Pokud se v minulosti na technické pozice hlásili častěji muži, může algoritmus plošně upřednostňovat mužské uchazeče před ženami, i když k tomu není skutečný důvod.

Narušování soukromí

Systémy AI stále častěji shromažďují a analyzují osobní údaje – od rozpoznávání obličejů po sledování vzorců chování. To může přinášet pohodlí, například v podobě personalizovaného obsahu, snadnějšího ovládání zařízení nebo rychlého placení. Současně ale roste riziko zneužití dat, ať už ze strany firem, nebo autoritářských států. V některých zemích jsou na ulicích rozmístěny kamery s rozpoznáváním obličejů, které sledují pohyb obyvatel. Deklarovaný účel je zvýšení bezpečnosti obyvatel, takové systémy ale mohou být využity i k politické kontrole společnosti, např. při trestání účasti na pokojných opozičních demonstracích.

Dezinformace a manipulace

Generativní AI umožňuje snadno vytvářet falešné či manipulativní texty, fotografie, videa nebo zvukové nahrávky. Technologie takzvaných „deepfake“ činí podvrhy stále věrohodnějšími a tím zvyšují riziko šíření dezinformací a manipulace veřejného mínění. V předvolebních kampaních se například objevují falešné nahrávky kandidátů, které působí velmi věrohodně, i když jsou zcela smyšlené. To může ovlivnit volby a tím směřování celé společnosti.

Vzdělávání

Umělá inteligence má velký potenciál i v oblasti vzdělávání. Umožňuje personalizovat výuku, nabízet vysvětlení na míru a přizpůsobit se potřebám jednotlivých žáků. Zároveň ale nese i rizika – může oslabovat motivaci k vlastnímu učení a usnadňovat podvádění při testech a úkolech.

Pracovní listy

Kromě interaktivních cvičení jsou k dispozici také pracovní listy, které jsou v tomto případě vhodné především jako výchozí materiál pro skupinovou diskuzi:

• Přínosy a rizika umělé inteligence
• Dezinformace a umělá inteligence
• Umělá inteligence a předpojatost