V době rychlého technologického rozvoje a stále se rozšiřujících možností umělé inteligence (AI) je nezbytné, aby Univerzita Palackého stála v čele inovací a zároveň zachovávala etické normy a integritu. Tento dokument reflektuje snahu vyvážit potenciál AI ke zlepšení výuky, výzkumu a administrativních procesů s potřebou ochrany osobních údajů, intelektuálního vlastnictví a akademické cti.
Následující doporučení by mělo sloužit jako průvodce pro všechny členy akademické obce UP a přispět k rozvoji bezpečného, transparentního a inovativního prostředí, ve kterém může AI podporovat naše akademické cíle a poslání.
Tento text by měl být chápán jako živý, tzn. bude pravidelně aktualizován tak, aby odrážel nejnovější vývoj v oblasti AI a zajišťoval, že naše praxe zůstane v souladu s nejnovějšími poznatky a nejlepšími postupy. Text je v souladu se závěry Pedagogické komise UP pro používání AI ve výuce.
Veškeré systémy AI (generativní či jiné) na UP je třeba využívat tak, aby byly dodrženy etické principy UP definované Etickým kodexem zaměstnanců a studentů UP, a to následovně:
a) Umělou inteligenci je třeba používat smysluplně a zodpovědně – tak, aby nám sloužila jako nástroj, pomocí kterého budeme zlepšovat naše znalosti a dovednosti či zefektivňovat pedagogickou a vědeckovýzkumnou činnost na UP. To znamená využití AI jako studijního, manažerského a administrativního a edičního nástroje, nikoliv jako plnou náhradu tvůrčí činnosti. Nedoporučuje se tedy používat nástroje generativní AI k formulaci vlastního textu, tj. údajného vlastního tvrzení autora, či jeho závěrů, argumentů apod.
b) AI nesmí být zneužívána k plagiování. V odborných textech a další tvůrčí činnosti včetně uměleckých výstupů je využití generativní AI nutné deklarovat.
c) Pracovníci ani studenti se nesmí vydávat za autory textů ani dalších tvůrčích výstupů vygenerovaných s pomocí AI.
d) AI nesmí být zneužívána k úmyslnému zkreslování výsledků vědy a výzkumu (např. účelová modifikace a falzifikace dat).
e) AI nesmí být zneužívána k tvorbě a šíření nepravdivých informací.
f) Veškeré výstupy generované AI je třeba ověřit.
g) Odpovědnost nese vždy člověk, který AI tímto způsobem zneužije.
Při využívání AI je třeba zodpovědně nakládat s osobními údaji a dalšími citlivými informacemi (například i potenciálního intelektuálního vlastnictví UP), které se do systémů AI vkládají. Je třeba si uvědomit, že taková data jsou zpravidla zpřístupňována třetí osobě a že nad nimi jejich držitel ztrácí kontrolu. Je tedy důležité zabezpečit, aby nedocházelo k narušení soukromí, únikům citlivých informací mimo organizaci, diskriminaci atd.
Zároveň je také nutné pamatovat na problém týkající se možného úniku duševního vlastnictví a ochraně práva třetích stran. To se týká např. patentů, výzkumných datasetů, projektových záměrů, ale také například jazykových/cizojazyčných překladů materiálů obsahujících citlivé údaje zmíněné výše. V případě, že s daty vyžadujícími zvláštní ochranu chceme uvnitř systémů umělé inteligence pracovat, je třeba využívat specifické licence, které zajišťují, aby data vkládaná do systémů neunikla mimo danou organizaci/instituci.
Využívání systémů umělé inteligence v oblasti výzkumu a výuky vyžaduje odpovědný přístup. Především je nutné vzít do úvahy možné etické, bezpečnostní a právní otázky spojené s vytvářením a šířením generovaného obsahu. Takové systémy mohou vytvářet přesvědčivý, ale potenciálně nepravdivý nebo zkreslený obsah, což může mít vliv na integritu výzkumných výsledků a vzdělávacích materiálů. Rovněž existuje nebezpečí zneužití technologie k vytváření dezinformací nebo manipulativního obsahu.
Proto je zásadní integrovat etické normy a pravidla do všech fází výzkumného a výukového procesu, a tím zajistit, že případná aplikace AI bude transparentní, odůvodněná a v souladu s etickými zásadami a normami UP.
Při využívání nových (především generativních) forem AI je třeba počítat s tím, že tyto nástroje dosud chybují a mohou poskytovat informace, které jsou nepravdivé či zkreslené. Proto je třeba výstupy umělé inteligence vždy ověřit. Kvalita výstupů generovaných AI velmi závisí na tom, jakým způsobem pedagogové/studenti zadávají do těchto systémů svá zadání (požadavky, příkazy) – tzv. prompty. Ve výukovém procesu je třeba oddělit situace, kdy je využití umělé inteligence efektivní a výhodné, od situací, ve kterých je využívání umělé inteligence málo efektivní či přímo nežádoucí (např. při testování faktických znalostí a dovedností studentů). Stejně tak je třeba v rámci výukových aktivit volit vhodné a efektivní pedagogické metody, které s nasazením/využíváním umělé inteligence počítají .
AI lze využít v rámci tvorby pomůcek pro ověřování znalostí a dovedností studentů, např. k tvorbě baterií testových otázek či samotných testů různých typů. Opět je však třeba počítat s potenciální chybovostí těchto systémů, a lidská kontrola je tedy nezbytná. Generativní AI tak může být využita např. k autotestování, generování testových otázek ke konkrétnímu výukovému materiálu, ale také např. pro analýzu studentských prací na různých úrovních (např. na základě kritérií definovaných pedagogem).
Při vedení závěrečných prací je třeba počítat s tím, že někteří studenti mohou pokročilé nástroje umělé inteligence při tvorbě prací aktivně používat. Využití AI v rámci těchto typů prací však musí být v souladu s principy definovanými v tomto doporučení. Odhalení, zdali studenti používají při psaní závěrečné práce nástroje umělé inteligence, je obtížné.
Je tedy nutné v oborech, které si to žádají, přikročit postupně ke změně ověření autorství závěrečné práce. To mohou být například průběžné konzultace zaměřující se na kontrolu textu či ověření znalostí studenta o tématu závěrečné práce při její obhajobě.
Zároveň je třeba upozornit, že každý z nás má zásadně právo na to, aby nebyl předmětem rozhodnutí, jenž se jej významně dotýká, které by bylo založeno výhradně na automatizovaném zpracování. Rozhodne-li se tedy pedagog k nějaké formě využití AI při hodnocení aktivit studentů (např. hodnocení písemné práce), vždy je zapotřebí, aby šlo o hodnocení samotného pedagoga, nikoli o hodnocení učiněné výlučně prostřednictvím AI.
Generativní AI (a další nástroje využívající prvky AI) lze využít jako pomocné nástroje ke zlepšení kvality textu, zejména po stránce stylistické, nikoliv tvůrčí (například formulace závěrů, argumentace v diskuzi založených na výsledcích vědeckého bádání apod.). Pokud je generativní umělá inteligence použita tak, že přímo ovlivňuje obsahovou stránku textu (schémata, grafické abstrakty, flowcharty ale také výstavba textu), měla by být tato skutečnost vždy uvedena. Pokud je generativní umělá inteligence použita k úpravě formy textu, není nutné její využití uvádět (podobně, jako když se neuvádí např. využití automatických kontrol pravopisu či využití referenčních citačních systémů).
doc. Mgr. Lucie Plíhalová, Ph.D.
(garant, prorektorka pro vědu a výzkum)
prof. Mgr. Kamil Kopecký, Ph.D.
(za Komisi pro AI RUP UP)
Příklady odkazování:
Při tvorbě tohoto textu byl využit systém Perplexity, a to pro pomoc při sestavení referenčního seznamu odborných zdrojů k danému tématu. Při tvorbě tohoto textu byl využit nástroj ChatGPT (GPT4), a to pro tvorbu kapitoly 1–2.
Další informace o generativní umělé inteligenci naleznete na našem webu www.ai.upol.cz.