Univerzita připravila doporučení k využívání generativních modelů AI

Následující doporučení by mělo sloužit jako průvodce pro všechny členy akademické obce UP a přispět k rozvoji bezpečného, transparentního a inovativního prostředí, ve kterém může AI podporovat naše akademické cíle a poslání.

Tento text by měl být chápán jako živý, tzn. bude pravidelně aktualizován tak, aby odrážel nejnovější vývoj v oblasti AI a zajišťoval, že naše praxe zůstane v souladu s nejnovějšími poznatky a nejlepšími postupy. Text je v souladu se závěry Pedagogické komise UP pro používání AI ve výuce.

Při využívání AI je třeba zodpovědně nakládat s osobními údaji a dalšími citlivými informacemi (například i potenciálního intelektuálního vlastnictví UP), které se do systémů AI vkládají. Je třeba si uvědomit, že taková data jsou zpravidla zpřístupňována třetí osobě a že nad nimi jejich držitel ztrácí kontrolu. Je tedy důležité zabezpečit, aby nedocházelo k narušení soukromí, únikům citlivých informací mimo organizaci, diskriminaci atd.

Zároveň je také nutné pamatovat na problém týkající se možného úniku duševního vlastnictví a ochraně práva třetích stran. To se týká např. patentů, výzkumných datasetů, projektových záměrů, ale také například jazykových/cizojazyčných překladů materiálů obsahujících citlivé údaje zmíněné výše. V případě, že s daty vyžadujícími zvláštní ochranu chceme uvnitř systémů umělé inteligence pracovat, je třeba využívat specifické licence, které zajišťují, aby data vkládaná do systémů neunikla mimo danou organizaci/instituci.

Využívání systémů umělé inteligence v oblasti výzkumu a výuky vyžaduje odpovědný přístup. Především je nutné vzít do úvahy možné etické, bezpečnostní a právní otázky spojené s vytvářením a šířením generovaného obsahu. Takové systémy mohou vytvářet přesvědčivý, ale potenciálně nepravdivý nebo zkreslený obsah, což může mít vliv na integritu výzkumných výsledků a vzdělávacích materiálů. Rovněž existuje nebezpečí zneužití technologie k vytváření dezinformací nebo manipulativního obsahu.

Proto je zásadní integrovat etické normy a pravidla do všech fází výzkumného a výukového procesu, a tím zajistit, že případná aplikace AI bude transparentní, odůvodněná a v souladu s etickými zásadami a normami UP.

Při využívání nových (především generativních) forem AI je třeba počítat s tím, že tyto nástroje dosud chybují a mohou poskytovat informace, které jsou nepravdivé či zkreslené. Proto je třeba výstupy umělé inteligence vždy ověřit. Kvalita výstupů generovaných AI velmi závisí na tom, jakým způsobem pedagogové/studenti zadávají do těchto systémů svá zadání (požadavky, příkazy) – tzv. prompty. Ve výukovém procesu je třeba oddělit situace, kdy je využití umělé inteligence efektivní a výhodné, od situací, ve kterých je využívání umělé inteligence málo efektivní či přímo nežádoucí (např. při testování faktických znalostí a dovedností studentů). Stejně tak je třeba v rámci výukových aktivit volit vhodné a efektivní pedagogické metody, které s nasazením/využíváním umělé inteligence počítají .

AI lze využít v rámci tvorby pomůcek pro ověřování znalostí a dovedností studentů, např. k tvorbě baterií testových otázek či samotných testů různých typů. Opět je však třeba počítat s potenciální chybovostí těchto systémů, a lidská kontrola je tedy nezbytná. Generativní AI tak může být využita např. k autotestování, generování testových otázek ke konkrétnímu výukovému materiálu, ale také např. pro analýzu studentských prací na různých úrovních (např. na základě kritérií definovaných pedagogem).

Při vedení závěrečných prací je třeba počítat s tím, že někteří studenti mohou pokročilé nástroje umělé inteligence při tvorbě prací aktivně používat. Využití AI v rámci těchto typů prací však musí být v souladu s principy definovanými v tomto doporučení. Odhalení, zdali studenti používají při psaní závěrečné práce nástroje umělé inteligence, je obtížné.

Je tedy nutné v oborech, které si to žádají, přikročit postupně ke změně ověření autorství závěrečné práce. To mohou být například průběžné konzultace zaměřující se na kontrolu textu či ověření znalostí studenta o tématu závěrečné práce při její obhajobě.

Zároveň je třeba upozornit, že každý z nás má zásadně právo na to, aby nebyl předmětem rozhodnutí, jenž se jej významně dotýká, které by bylo založeno výhradně na automatizovaném zpracování. Rozhodne-li se tedy pedagog k nějaké formě využití AI při hodnocení aktivit studentů (např. hodnocení písemné práce), vždy je zapotřebí, aby šlo o hodnocení samotného pedagoga, nikoli o hodnocení učiněné výlučně prostřednictvím AI.

Generativní AI (a další nástroje využívající prvky AI) lze využít jako pomocné nástroje ke zlepšení kvality textu, zejména po stránce stylistické, nikoliv tvůrčí (například formulace závěrů, argumentace v diskuzi založených na výsledcích vědeckého bádání apod.). Pokud je generativní umělá inteligence použita tak, že přímo ovlivňuje obsahovou stránku textu (schémata, grafické abstrakty, flowcharty ale také výstavba textu), měla by být tato skutečnost vždy uvedena. Pokud je generativní umělá inteligence použita k úpravě formy textu, není nutné její využití uvádět (podobně, jako když se neuvádí např. využití automatických kontrol pravopisu či využití referenčních citačních systémů).

doc. Mgr. Lucie Plíhalová, Ph.D.
(garant, prorektorka pro vědu a výzkum)