Prohlášení FM VŠE k využívání umělé inteligence ve vědě a ve výuce

Vysokoškolské vzdělání i akademická práce je čím dál více ovlivněna nastupujícím fenoménem umělé inteligence (AI). Vzhledem k tomuto trendu a stále se množícím dotazům na možnosti využití AI při studiu, výuce a tvůrčí činnosti, považuje FM VŠE za žádoucí formulovat alespoň obecné stanovisko.

Nástroje AI a jejich využití při studiu, výuce a tvůrčí činnosti vnímáme především jako příležitost a výzvu, nikoliv jako hrozbu. AI, ale i moderní technologie obecně nabízí nové možnosti, jak celou řadu procesů a výstupů zlepšit či zefektivnit. To platí zejména pro intelektuálně náročné a tvůrčí činnost vyžadující oblasti lidské činnosti, kam akademická práce akademické prostředí bezesporu patří. Na stranu druhou se s masovým nasazením a rozšířením těchto nástrojů pojí celá řada nových otázek spojených zejména s oblastí etiky akademické práce, její integrity a standardů.

Cílem FM VŠE je využíváním nástrojů AI podporovat lepší dosahování cílů učení, kvality i rozsahu tvůrčí činnosti, ale i dalších aktivit. Zároveň je ale nezbytné přiznat, že užití těchto nástrojů se musí dít za určitých podmínek a v určitém vymezeném rámci. Cílem následujícího textu je tak formulovat východiska pro efektivní, přínosné a tvůrčí, ale zároveň bezpečné a etické využívání nástrojů AI v prostředí vysokoškolské instituce.

První část a druhá část prohlášení vychází ze stanoviska, které formulovala Masarykova Univerzita v dubnu 2023 (MASARYKOVA UNIVERZITA, 2023. Stanovisko k využívání umělé inteligence ve výuce na Masarykově univerzitě. [online], 3/2023. Dostupné z: https://www.muni.cz/o-univerzite/uredni-deska/stanovisko-k-vyuzivani-ai. [cit. 2023-09-27],  MASARYKOVA UNIVERZITA, 2023. Doporučení k využití nástrojů umělé inteligence při plnění studijních povinností. [online], 3/2023. Dostupné z: https://www.muni.cz/o-univerzite/uredni-deska/stanovisko-k-vyuzivani-ai. [cit. 2023-09-27]). Tyto principy jsou natolik obecně platné, že je lze doporučit i pro studenty dalších vysokoškolských institucí, tedy i FM VŠE. Části vycházející z těchto dokumentů jsou označeny kurzívou.

Doporučení

Studujícím

  • Buďte zvídaví. Seznamujte se s principy fungování nástrojů AI a sledujte vývoj v této oblasti. Zajímejte se o to, jak nástroje AI fungují, k čemu a jak je můžete při svém studiu smysluplně využívat. Kompetence spojené s aktivním využíváním nástrojů AI budou nabývat na důležitosti a lze předpokládat, že je budou vyžadovat i vaši budoucí zaměstnavatelé.
  • Buďte pragmatičtí. Nástrojů AI využívejte v první řadě pro podporu svého učení a k rozvoji dovedností spojených se studiem. Nástroje AI mohou být při studiu výtečným pomocníkem. Mohou pomáhat se zpracováním dat, s formulací odpovědí na různé otázky, s nimiž se při studiu setkáte, a samozřejmě s vypracováním textů. Zároveň však mohou nástroje AI uživatele snadno svést na scestí.
  • Buďte svědomití a poctiví. Přestože využití AI studium v mnohém zjednodušuje, nesmí vést k tomu, že polevíte ve svém studijním úsilí a spolehnete se plně na výstupy poskytované těmito nástroji. Vždy dodržujte etické zásady a k práci s nástroji AI přistupujte kriticky. K výstupům, které nástroje AI poskytují, buďte vždy obezřetní a důkladně je kontrolujte. Za všech okolností prověřujte a ověřujte informace, které těmito cestami získáte. Buďte si vědomi toho, že výstupy poskytované nástroji AI mohou být zavádějící, chybné, založené na stereotypech či předsudcích, anebo diskriminační.
  • Buďte transparentní. Využití nástrojů AI musí být v souladu s principy akademické i osobní morální integrity a musí být transparentní. Pokud vyučující, vedoucí práce anebo fakulta využití nástrojů AI v určitých případech nedoporučuje, respektujte to. Za všech okolností otevřeně deklarujte, resp. citujte využití nástrojů AI, a to především v písemných pracích. Pravidla akademické integrity nejsou nijak nová, naopak jsou již zavedena a jsou všeobecně známa. Z tohoto hlediska je nepřiznané využití AI principiálně stejné jako tzv. ghostwriting (práce psané na zakázku), což je jedna z forem plagiátorství.
  • Buďte zodpovědní. AI dokáže násobit lidské schopnosti v dobrém i špatném smyslu slova. Pamatujte, že za využití výstupů AI je vždy zodpovědný člověk – uživatel. Uvědomte si, že využitím nástrojů AI souhlasíte s podmínkami, které formulují jejich poskytovatelé. Poskytnete-li nástrojům AI informace anebo osobní údaje, počítejte s tím, že se mohou dostat k nepovolaným osobám.

Vyučujícím

  • Buďte otevření novinkám. Sledujte vývoj v oblasti nástrojů AI. Hledejte cesty, jak je co nejlépe využít ve výuce či v související akademické práci. Tam, kde to je vhodné, tyto nástroje při své pedagogické práci aktivně používejte. Podporujte využívání nástrojů AI studujícími.
  • Buďte vynalézaví. Přemýšlejte o tom, jak práci s nástroji AI integrovat do výuky a kombinovat je s dalšími metodami výuky. Buďte připraveni tyto metody průběžně měnit, přizpůsobovat vývoji a příkladům dobré praxe.
  • Šiřte ideu poctivosti. Seznamujte studující se základními principy akademické integrity nejen při využívání nástrojů AI. Doporučujte studujícím způsoby, jak využití nástrojů AI v jejich práci deklarovat.
  • Dbejte na zodpovědnost. Vysvětlujte studujícím, že AI je nástrojem, který bere do svých rukou vždy konkrétní člověk – a ten nese zodpovědnost za to, k jakým cílům jej využije.
  • Buďte vstřícní, transparentní a nastavte jasná pravidla. Formulujte otevřeně podmínky, za nichž budete využití nástrojů AI studujícími považovat za vhodné ve studiu, při domácí přípravě anebo během tvorby písemných prací. Poskytněte studentům příležitosti k rozvoji dovedností při využití nástrojů AI. Veďte studující k získávání kompetencí, které budou stále důležitější pro jejich budoucí kariéru. Pokud se rozhodnete využití nástrojů AI nedoporučit anebo dokonce zapovědět, studujícím své rozhodnutí objasněte.
  • Buďte pragmatičtí. Nástrojů AI využívejte ke zlepšení výuky. Vývoji v oblasti AI přizpůsobujte jak metody výuky, tak i hodnocení studijních výkonů studujících. Tam, kde je to možné a účelné, zvažte nahrazení písemných prací jinými formami výstupů. Při hodnocení studentských písemných prací klaďte větší důraz na sledování procesu jejich vzniku a také na prezentaci písemných výstupů studujícími.
  • Buďte obezřetní. Pamatujte, že využíváním nástrojů AI dáváte jejich poskytovatelům řadu informací, které mohou být citlivé povahy. Univerzita nedoporučuje využívat volně přístupných nástrojů pro detekci původu textu, které slibují rozpoznat využití nástrojů AI. Vložením studentské práce ke kontrole v některých externích nástrojích může docházet k porušení osobnostních a autorských práv studujících, nehledě k tomu, že prokazování nepřiznaného využití nástrojů AI je velmi problematické.

Doporučení k využití nástrojů umělé inteligence při plnění studijních povinností

Tato část představuje nezávazná doporučení k využívání nástrojů umělé inteligence při plnění studijních povinností. Nevěnuje se otázkám využití nástrojů AI ve výzkumu, což představuje další rozsáhlou doménu pro uplatnění těchto nástrojů. Problematiku užití AI při tvůrčí činnosti řeší celá řada akademických vydavatelů, více viz např. The use of AI and AI-assisted writing technologies in scientific writing (Elsevier), Taylor & Francis Clarifies the Responsible use of AI Tools in Academic Content Creation (Taylor & Francis), Emerald Publishing’s stance on AI tools and authorship (Emerald), ChatGPT and Generative AI (Sage).

Vzhledem k dynamickému vývoji v oblasti AI se předpokládá, že tato doporučení budou průběžně upravována, zpřesňována a doplňována. Doporučení se týkají zejména nástrojů AI využitelných při přípravě textů, analogicky však lze postupovat i při využití nástrojů zpracovávajících obraz anebo zvuk.

Obecně platí, že aplikace založené na AI by měly být při plnění studijních povinností využívány především jako pomocný nástroj. Mohou dobře sloužit například ke kontrole gramatiky a stylistiky, k návrhům struktury textu, ale lze je využívat též jako pomůcku ke stylistické reformulaci textu, ke zlepšení čitelnosti a přehlednosti, k formulaci shrnutí delších pasáží textu, jako pomoc při zpracování rešerší či k vyhledávání zdrojů publikovaných informací apod. Nástroje AI, jako jsou chatboty založené na LLM („Large Language Models“), se nedoporučuje využívat k přímé formulaci vlastního textu, resp. ke generování závěrů, argumentů, zjištění či tvrzení v textu obsažených, které by měl formulovat autor samostatně. Také nemají nahrazovat informace dostupné v původních zdrojích, s jejich vyhledáváním však mohou pomáhat. Plnění studijního úkolu typu písemné práce má být založeno především na údajích, datech a informacích, které studující vyhledává v původních zdrojích, kdy lze na využitý zdroj, resp. na jeho autora jasně odkázat. Je nutné zdůraznit, že za způsob využití a odkazování na využití nástrojů AI nese zodpovědnost výlučně autor dané práce.

Při využívání nástrojů AI se zejména doporučuje dodržovat pravidla stanovená institucí, na níž je úkol připravován. Nemá-li instituce tato pravidla stanovena, doporučuje se způsob odkazování konzultovat se zodpovědnou osobou (např. kvalifikační práci s jejím vedoucím, seminární práci s vyučujícím apod.). V případě kvalifikačních prací se doporučuje doplnit obvyklé prohlášení o původnosti práce větou:

“Prohlašuji, že jsem nástroje AI využil/-a v souladu s principy akademické integrity a že na využití těchto nástrojů v práci vhodným způsobem odkazuji.”

Lze využít i jinou podobnou formulaci dle oborových zvyklostí či dle doporučení vedoucího práce.

Vyučujícím se doporučuje poskytnout studujícím prostor pro aktivní využívání aplikací založených na AI při zpracování studijních úkolů a plnění studijních povinností tam, kde to je vhodné. Zásadním prvkem plnění úkolu je vždy samotný proces jeho plnění a prezentace. Právě tím studující nabývají příslušné znalosti a dovednosti. Hodnocení výkonu studujících by proto mělo být v první řadě založeno na procesu tvorby požadovaného výstupu, teprve poté na samotném výsledku z hlediska formy a obsahu. Doporučuje se rovněž klást větší důraz na prezentaci úkolu studujícími a na diskusích o obsahu úkolu, kdy studující musejí prokázat dovednosti a schopnosti samostatně shrnout, objasnit a obhájit své postupy a závěry.

Příklady nástrojů AI, které lze využívat při zpracování písemných prací a způsobů odkazování na jejich využití

Stanovisko kromě dalšího vyzývá k transparentnosti při využívání nástrojů AI v písemných pracích a doporučuje otevřené deklarování, resp. citování nástrojů AI při zpracování kvalifikačních textů.

Mezi obecně uznávaná kritéria (spolu)autorství patří nejen významný tvůrčí přínos k tvorbě díla jako takového, ale i schválení finální verze výsledné podoby díla a přijetí (spolu)odpovědnosti za dílo jako celek. Protože nástroje využívající AI výsledné dílo v tomto smyslu slova netvoří a nemohou je vědomě schválit ani za něj převzít zodpovědnost, nemohou být uvedeni jako spoluautoři. Autorem v kontextu autorského zákona je aktuálně pouze fyzická osoba, která dílo vytvořila. Dílo musí být autorovým vlastním duševním výtvorem odrážejícím osobnost autora, který „při realizaci díla mohl vyjádřit své tvůrčí schopnosti prostřednictvím rozhodnutí učiněných na základě své tvůrčí svobody“ a mohl mu vtisknout svůj „osobní dotek“. Toto se může stát v některé z různých tvůrčích fází realizace díla, jimiž jsou koncepce, provedení a redakce díla. Přestože nástroje AI, jako jsou generativní AI, nemohou být z tohoto hlediska „autorem“ jako takové, v souvislosti s etickou rovinou akademické práce a akademickou integritou je v určitých případech třeba jejich využití deklarovat a na tyto nástroje odkazovat.

Prvky AI jsou dnes součástí celé řady nástrojů a aplikací, které lze využívat při práci na studijních úkolech, například při zpracování textů. V oblasti zpracování studijních úkolů lze proto nástroje AI využívat různými způsoby. Podle typu použitých nástrojů využívajících AI je třeba zvolit vhodný způsob odkazování a citování. Obecně platí, že všude tam, kde využití aplikace AI přímo ovlivní obsahovou stránku úkolu, například písemné práce, je nutné využití aplikace deklarovat. Pokud je aplikace AI využita pouze k formálním úpravám práce, není nezbytné využití takového nástroje uvádět.

Mezi aplikace využívající AI využitelné při zpracování studijních úkolů, zejména písemných prací, patří například:

  • Aplikace na kontrolu pravopisu, stylistiky a gramatiky, prediktivní klávesnice apod. (včetně např. Grammarly). Využití těchto aplikací není nezbytné v písemných pracích zvlášť deklarovat.
  • Aplikace sloužící k tvorbě odkazů, k organizaci zdrojových dokumentů (odborných publikací, článků), k poskytnutí přehledu existujících publikací apod. (např. Google Scholar, apod.). Využití těchto aplikací není nezbytné v písemných pracích zvlášť deklarovat.
  • Nástroje pro strojový překlad (např. DeepL, Google Translate). Na využití tohoto nástroje je vhodné odkázat, pokud je přeložený text součástí písemné práce. Autor tak může učinit například pomocí odkazu u příslušné pasáže textu, kde byl takto získaný překlad citován či parafrázován. Kromě běžné citace zdroje daného textu je vhodné doplnit citaci dalším odkazem na využití příslušného překladače. Autor uvede odkaz na zdroj citovaného původního textu dle dané citační normy a doplní jej poznámkou, která může mít tuto podobu: „Přeloženo nástrojem [NÁZEV APLIKACE, NÁSTROJE].”
  • Nástroje generativní AI, jako jsou například textové generátory, aplikace pro extrakci informací, automatické shrnutí textu, chatboty, aplikace integrované do internetových vyhledávačů sloužící k sumarizaci obsahu webových stránek (SciSpace Copilot), aplikace k sumarizaci a vyhledávání vědeckých zdrojů (Consensus), jazykové modely založené na technologiích LLM (např. ChatGPT, Bing AI, Google Bard, Perplexity, Copilot apod.). V případě využití těchto nástrojů se odkazování odvíjí od způsobu, jakým je takto generovaný textový výstup v práci využit. Může jít například o tyto případy:
  1. Aplikace generativní AI poskytuje podklady (např. shrnutí apod.) a podněty ke struktuře a obsahu textu apod., které nejsou v písemné práci využity v doslovném znění anebo parafrázi. V takovém případě je vhodné opatřit text práce prohlášením, jako například:
    “Při přípravě této práce autor/-ka použil/-a [NÁZEV APLIKACE; WEBOVÁ ADRESA APLIKACE] za účelem [DŮVOD]. Po použití tohoto nástroje autor/-ka provedl/-a kontrolu obsahu a přebírá za něj plnou zodpovědnost.”
  2. Aplikace generativní AI poskytuje podněty k obsahu textu, které jsou v písemné práci využity v doslovném znění, v přímé citaci anebo parafrázi. V takovém případě je vhodné opatřit příslušnou pasáž citací, která je zde v podstatě deklarací využití příslušného nástroje AI. Citace se vytvářejí v souladu s citačními pokyny instituce, na níž je studijní úkol vypracováván. Pokud citační pokyny neobsahují instrukce k citování nástrojů AI či výstupů z nich, analogicky se postupuje podle jiné citační normy, v současnosti např. APA, The Chicago Manual of Style, MLA (viz dále). Doporučujeme sledovat aktualizace příslušných citačních norem pro citování nástrojů AI. Jako součást odkazu lze uvést i příslušný prompt (text zadání dotazu pro aplikaci generativní AI) anebo jeho shrnutí.

Po konzultaci s vedoucím písemné práce, v závislosti na druhu aplikace a způsobu jejího využití a v neposlední řadě na základě zvyklostí v příslušném oboru či studijním programu lze odkazování na využití nástroje generativní AI (ChatGPT apod.) vyřešit podle následujících doporučení:

  • obecná deklarace (viz výše);
  • přímý odkaz dle vybrané citační normy;
  • popis využití aplikace generativní AI v příloze a/nebo v části popisující metodiku písemné práce. Autor vypracuje souhrn či svodku kde shrne způsoby, jimiž příslušné nástroje generativní AI v písemné práci využil. Může také poskytnout komentář k omezením, která v souvislosti s využitím daných nástrojů AI v souvislosti s příslušnou písemnou prací existují a jak se s nimi vyrovnal. Podá především informace k využité aplikaci (s odkazy), souhrn příslušných promptů (v doslovném znění či v podobě shrnutí), výstupů aplikace generativní AI (opět v doslovném znění či v podobě shrnutí) a vysvětlí, kde a jak takto generované výstupy v textu písemné práce uplatnil;
  • autor k písemné práci přiloží kopii všech promptů a příslušných výstupů nástroje generativní AI ve formě datasetu, na který pak ve výstupu (písemné práci) příslušným způsobem odkazuje.

Zde navržené postupy k odkazování je možné podle okolností různě kombinovat. Autor výstupu také může řetězce promptů a výstupů generativní AI archivovat, zejména u závěrečných prací (ve formě snímků obrazovky, kopií textu apod.).

 Závěrem

Využívání AI nástrojů při řešení studijních úkolů není v žádném případě zakazováno, naopak, jejich užití v souladu s etickými zásadami a pravidly akademické integrity je podporováno. Koneckonců se jedná o technologie, které jsou v řadě současných nástrojů již delší dobu implementovány, aniž by o tom jejich uživatelé často věděli.

 Příklady užití AI

„Stručně vysvětli The Resource-Advantage (R-A) Theory of Competition a její relevanci pro stanovení konkureční výhody v marketingu. Uveď příklady“

Citace

„Stručně vysvětli The Resource-Advantage (R-A) Theory of Competition a její relevanci pro stanovení konkureční výhody v marketingu. Uveď příklady“. Prompt. ChatGPT, GPT-4, OpenAI, verze z 29. 9. 2023, chat.openai.com/chat.

 

„man in a ruin of an ancient city invaded by the jungle, light, unreal engine 5 and Octane Render,highly detailed, photorealistic, cinematic“

Citace

„man in a ruin of an ancient city invaded by the jungle, light, unreal engine 5 and Octane Render,highly detailed, photorealistic, cinematic“ Prompt. Midjourney v 5.2, verze z 29. 9. 2023,

 

Prohlášení FM VŠE k využívání umělé inteligence ve vědě a ve výuce