Přejít na hlavní obsah

Umělá inteligence s rozmyslem

Umělá inteligence budí nadšení i obavy a obojí má své důvody. Univerzita, která má učit samostatně myslet, k ní proto přistupuje s rozmyslem. Zavádí ji tam, kde prokazatelně pomáhá, a chrání schopnosti, které musíme rozvíjet sami. 

Vždy, když se objeví nějaká nová technologie, vzbudí velká očekávání. Lidé se těší, že technologie konečně vyřeší jejich problémy. Za vrcholem počátečního nadšení a přehnaných očekávání však zpravidla následuje propast deziluze, kdy lidé zjišťují, že jejich očekávání byla přehnaná. V této fázi se objevují spíše negativní zprávy. Mezitím se však technologie vylepšuje, lidé se s ní naučí pracovat, objeví, na co se hodí a na co ne. Jejich očekávání se stabilizují a dřívější novinka se stane běžnou součástí každodenního života. 

Podle konzultantské firmy Gartner, která tuto „křivku humbuku“ popsala, se generativní umělá inteligence momentálně nachází právě v oné propasti deziluze. Ta je přitom v životním cyklu technologií velmi důležitá. Ukazují se v ní skutečné limity technologie a učíme se, k čemu ji opravdu potřebujeme. 

Od deziluze k vystřízlivění

Od léta 2025 vznikly na univerzitách v Nizozemsku, Británii, USA a Kanadě otevřené dopisy, které vyzývají k obezřetnosti. Silné emoce vzbudilo i zavedení AI do IS MU: ozývají se kritické hlasy a někteří AI zcela odmítají, protože se obávají o samostatné myšlení. Taková debata je potřebná, a to zejména na univerzitě, která je přirozeně místem, kde se o nových technologiích má přemýšlet kriticky. 

Když jsem nedávno zjišťoval, jak se k umělé inteligenci stavějí kritici na jiných univerzitách, nejrychleji mi s tím pomohla umělá inteligence. Tato drobná ironie dobře vystihuje, kde dnes jsme: AI používáme často, aniž bychom o tom věděli, a zároveň o ní pochybujeme. 

AI má mnoho podob 

Pro většinu lidí dnes umělá inteligence znamená ChatGPT, Gemini, Claude nebo Copilot. Ve skutečnosti ji denně používáme mnohem šířeji: v překladačích, v kontrole pravopisu, ve vyhledávačích, ve spamovém filtru elektronické pošty, v navigaci i v předpovědích počasí. 

Pokaždé, když dáváme příspěvek na sociální média, umělá inteligence kontroluje jeho nezávadnost. Pokaždé, když sociální médium otevřeme, umělá inteligence nám vybere příspěvky, které nás nejvíce zaujmou. 

Děti na základních školách běžně využívají systém Umíme to (vyvinutý na Fakultě informatiky MU), který žákům vybírá úlohy podle toho, co už zvládají. I to je umělá inteligence. 

Hranice mezi chatboty a těmito nástroji je tenčí, než by se zdálo. Architektura transformer, na které stojí dnešní jazykové modely, vznikla v roce 2017 pro strojový překlad. Překladač, který bez váhání používá většina z nás, je tak blízkým příbuzným ChatGPT. 

Jednotlivá použití se z etického hlediska liší hlavně účelem, ověřitelností a tím, kdo nese odpovědnost za výsledek. Model, který na snímcích hledá známky nádoru, má měřitelnou přesnost a prochází certifikací. Text z volně dostupného generátoru se ověřuje mnohem hůř. 

Užitečná otázka proto zní: K čemu a jak AI použijeme? 

AI tam, kde dává smysl 

Umělá inteligence se stává součástí digitální infrastruktury podobně, jako se jí kdysi stal internet. Počítač a informační systém dnes ke studiu patří samozřejmě a s AI to bude podobné. Volba se tak přesouvá k otázce, k čemu a jak ji použijeme. 

Odpověď se liší obor od oboru. Ve studijním programu zaměřeném na vývoj softwaru patří práce s AI k profilu absolventa, protože ji absolventi budou v praxi denně potřebovat. V předmětech, kde se studující učí psát a argumentovat, dává smysl chránit prostor pro samostatnou práci. 

Univerzita zavádí AI tam, kde prokazatelně pomáhá. Automatický přepis přednášek usnadňuje studium lidem se sluchovým postižením. AI tutor, který vysvětluje a nabízí podobné úlohy k procvičení, je k dispozici i ve dvě ráno a několik takových už na univerzitě zkoušíme. Ve výzkumu přinesla AI průlom například v předpovědi struktury bílkovin a čím dál více se využívá v mnoha dalších oborech. 

Vedle toho existuje spousta zbytečného používání: texty, které napíše jedna AI a přečte jiná, chatbot na každé webové stránce nebo generované obrázky tam, kde by stačila fotka. Do univerzitních systémů proto AI patří jen tam, kde lidem skutečně ušetří práci nebo jim pomůže. 

To platí i pro Informační systém MU. AI souhrn ve vyhledávání je technicky nejjednodušší první krok a jeho přínos je zatím malý. Slouží hlavně jako základ, na kterém stavějí užitečnější asistenti, například souhrn odpovědí z předmětové ankety pro garanty studijních programů a proděkany. 

Jazykový model běží na vlastním hardwaru univerzity, data neopouštějí MU a model se na nich neučí. Respektuje přístupová práva uživatelů, a kdo o AI souhrn nestojí, může si ho vypnout. Podrobnosti najdete na vývěsce v IS MU. 

Životní prostředí: rozhoduje účel 

Mezi důvody, proč AI nevyužívat, patří i obavy z dopadu AI na životní prostředí. Ty jsou rozhodně oprávněné a stojí za to se jimi zabývat. Dnešní osobní počítače spotřebují zlomek energie oproti počítačům před padesáti lety. Jejich počet je ale o několik řádů vyšší, takže celková spotřeba výpočetní techniky dlouhodobě roste. Nejrychleji přitom roste spotřeba, kterou nevidíme – cloudové služby a obří datacentra. A tam se zvyšuje i podíl AI. 

Vyšší efektivita totiž obvykle nevede k nižší, ale naopak vyšší spotřebě, neboť levnější služby lidé využívají častěji. S umělou inteligencí se děje totéž: jednotlivý dotaz je sice stále úspornější, ale počet dotazů roste rychleji. 

Dopad navíc silně závisí na kontextu. Jednoduchá otázka, složité uvažování, generování obrázku a autonomní agent se ve spotřebě liší o řády. Záleží také na tom, odkud pochází elektřina a kde datové centrum stojí: spotřeba vody na chlazení je sice v celosvětovém měřítku malá, ale v oblastech s nedostatkem vody může být významná. 

Do celkové bilance patří i přínosy, protože AI životnímu prostředí také pomáhá. Zpřesňuje předpovědi počasí, takže lze lépe plánovat výrobu elektřiny z obnovitelných zdrojů, optimalizuje energetické sítě, v precizním zemědělství šetří vodu a chemii a pomáhá sledovat stav přírody. Stejně jako u aut nebo plastů rozhoduje účel: rozumné použití je v pořádku, problémem je plýtvání. 

Co AI dělá s učením 

V předmětu Etika a IT, který učím, studující každý rok zkoušejí, jak si chatboti poradí s úlohami z předmětů, kterými sami prošli. V současné době zvládají chatboti vyřešit téměř všechny úlohy napříč obory. Domácí úkol, esej nebo protokol vypracovaný bez dohledu tak dnes jen málo vypovídá o tom, co studující opravdu umí. 

O dopadu na učení přitom rozhoduje způsob použití. Experiment s téměř tisícovkou tureckých středoškoláků porovnal při procvičování matematiky dvě verze chatbota. Žáci s běžným chatbotem si nechávali dávat hotová řešení: při procvičování si vedli lépe, v následném testu bez AI ale dopadli hůř než kontrolní skupina a přeceňovali, kolik se naučili. Chatbot nastavený jako tutor, který dával jen nápovědy a studenty tématem provázel jako učitel, učení nepoškodil. AI tedy pomáhá, když vede k přemýšlení, a škodí, když přemýšlení nahrazuje. 

Platí stará pedagogická zásada: nejdřív dovednost, potom nástroj. Kalkulačku dáváme dětem do ruky, až když umějí počítat. Vyučující v každém předmětu proto musí vědomě rozhodnout, které dovednosti mají studující trénovat sami, a podle toho upravit hodnocení. 

Osvědčuje se rozhovor nad odevzdanou prací, práce s vlastními daty, která AI nezná, anebo kombinace zkoušek pod dohledem bez AI a projektů, v nichž je AI povolená, a hodnotí se i to, jak s ní studující pracují. Toto však nelze stanovit obecně, je třeba respektovat specifika jednotlivých studijních programů a předmětů. 

Mnohé univerzity využívají detektory textu generovaného AI. Například Australská katolická univerzita v roce 2024 obvinila z podvodu téměř šest tisíc studujících a výstup detektoru byl často jediným důkazem. Univerzita ho v roce 2025 přestala používat. Ví se přitom, že detektory jsou nespolehlivé, falešně obviňují zejména nerodilé mluvčí a upravený text snadno přehlédnou. 

Masarykova univerzita využívání detektorů nepodporuje. Naopak se letos v září připojila k Dubajské dohodě o akademické integritě v éře umělé inteligence. Zavazuje se v ní využívat AI v souladu s etickými hodnotami a tak, aby podporovala učení. 

Absolventi, kteří myslí sami 

Umělá inteligence se stane samozřejmou součástí prostředí, ve kterém budou naši absolventi žít a pracovat. Úkolem univerzity je připravit je na to: naučit je používat AI s rozmyslem, poznat, kdy pomáhá a kdy škodí, a při tom všem si zachovat vlastní myšlení. 

Už Sókratés se podle Platóna obával, že písmo oslabí lidskou paměť. V něčem měl pravdu, a přesto si bez písma dnes vzdělání neumíme představit. S umělou inteligencí nás čeká podobná cesta: po fázi deziluze přijde čas, kdy budeme vědět, k čemu se hodí, a budeme ji používat klidně a s rozmyslem. 

Na této cestě potřebujeme nadšence i skeptiky. Kritické hlasy pomáhají najít hranice a připomínají, co si chceme uchovat: samostatné myšlení, poctivou argumentaci a osobní setkávání vyučujících se studujícími. Právě v tom je síla univerzity a v době AI na tom bude záležet víc než kdy dřív. 

Univerzita, která o AI kriticky přemýšlí a zároveň ji umí rozumně používat, vychová absolventy, kteří budou technologie nejen využívat, ale sami utvářet. 

Autor článku je členem pracovní skupiny pro AI ve výuce a AI ambasadorem MU.

Hlavní novinky