Protokol 07-E / Etika

Etické protokoly a eliminácia skreslenia

Technická dokumentácia pre pedagógov zameraná na identifikáciu algoritmového skreslenia, zabezpečenie akademickej integrity a implementáciu overovacích procesov pri používaní generatívnej AI.

Spustiť analýzu Ochrana údajov

Algoritmická neutralita

Identifikácia systémových chýb v tréningových dátach, ktoré môžu viesť k diskriminácii určitých skupín študentov na základe socioekonomických faktorov.

Overenie faktov

Krížová kontrola výstupov AI s overenými akademickými zdrojmi s cieľom eliminovať halucinácie a faktografické nepresnosti v učebných osnovách.

Transparentnosť pôvodu

Povinné označovanie obsahu generovaného umelou inteligenciou v súlade s pravidlami akademickej etiky a autorského zákona.

Detekcia a eliminácia skreslenia

Proces detekcie skreslenia (bias detection) v pedagogickom prostredí začína kritickým zhodnotením vstupných parametrov. Algoritmy umelej inteligencie sú trénované na rozsiahlych datasetoch, ktoré historicky obsahujú kultúrne, rodové alebo jazykové preferencie. Pri generovaní testov alebo študijných materiálov dochádza k prenosu týchto skreslení, čo môže znevýhodniť študentov z menšinových prostredí. Našou úlohou je implementovať filtre, ktoré tieto anomálie zachytia ešte pred distribúciou materiálov.

Podľa interných meraní (Sgraffito Report 2023) vykazujú neupravené modely LLM až 14% mieru kultúrneho skreslenia v humanitných predmetoch. Tento fakt vyžaduje od pedagóga aktívnu rolu "editora-kontrolóra". Pri analýze výstupov je nevyhnutné sledovať, či AI neprisudzuje stereotypné vlastnosti určitým historickým postavám alebo či neopomína dôležité regionálne súvislosti, najmä v kontexte regiónu Liptovský Mikuláš.

⚠ VAROVANIE: Riziko halucinácií

Umelá inteligencia nie je vyhľadávač, ale pravdepodobnostný model. Každý faktický údaj, dátum alebo citácia musí byť overená z primárneho zdroja. Používanie neoverených AI výstupov v akademickom procese sa považuje za hrubé porušenie metodických pokynov.

V rámci procesu eliminácie skreslenia odporúčame využívať techniku "Adversarial Prompting". Pedagóg zámerne zadáva dopyty, ktoré testujú hranice neutrality modelu. Ak systém generuje jednostranné odpovede, je potrebné upraviť systémový prompt tak, aby explicitne vyžadoval multioborový pohľad. Tento prístup je kľúčový najmä pri plánovaní učebných osnov pre stredné odborné školy.

Verifikačný kontrolný zoznam

Fáza 1: Príprava dopytu

  1. 01

    Definovanie neutrálnej role asistenta bez prednastavených názorových preferencií.

  2. 02

    Zahrnutie požiadavky na citovanie zdrojov z rôznych geografických oblastí.

  3. 03

    Vylúčenie emočných a subjektívnych prídavných mien zo zadania.

Fáza 2: Validácia výstupu

  1. 04

    Krížová kontrola mien, dátumov a štatistických údajov v databázach.

  2. 05

    Analýza vyváženosti zastúpenia pohlaví a etník v generovaných príkladoch.

  3. 06

    Finálna revízia jazykovej korektnosti a absencie nevhodných stereotypov.

Pravidlá akademickej integrity

Akademická integrita v ére AI neznamená zákaz technológií, ale ich transparentné začlenenie. Každá práca, na ktorej sa podieľala AI, musí obsahovať deklaráciu o použití nástroja, špecifikáciu použitého modelu a popis spôsobu, akým bol výstup modifikovaný človekom. Bez tohto postupu sa práca považuje za plagiát.

92%
Pedagógov vyžaduje jasné pravidlá citovania AI výstupov.
05
Minút trvá základná verifikácia integrity dokumentu.

Chronológia riešenia incidentov

Krok 1: Identifikácia anomálie

Zistenie skreslenia alebo faktickej chyby vo výstupe AI. Okamžité pozastavenie distribúcie materiálu študentom.

Krok 2: Technická analýza promptu

Skúmanie zadania, ktoré viedlo k chybe. Overenie, či nešlo o "prompt injection" alebo nevhodne formulované obmedzenia.

Krok 3: Korekcia a re-generovanie

Úprava systémových nastavení a opätovné generovanie obsahu pod prísnym dohľadom metodika.

Krok 4: Dokumentácia prípadu

Zápis incidentu do interného registra pre účely budúceho vzdelávania a prevencie podobných javov.

Pripravení na bezpečnú implementáciu?

Získajte prístup k plným metodickým príručkám pre modernú školu a zabezpečte etický rozvoj vašich študentov.

Prejsť na automatizáciu hodnotenia

Tento webový portál slúži ako nezávislý referenčný zdroj a informačný projekt. Nie je priamo prepojený so žiadnymi vládnymi inštitúciami, verejnými organizáciami, komerčnými dodávateľmi softvéru ani konkrétnymi vlastníkmi značiek technológií umelej inteligencie. Všetky metodické odporúčania vychádzajú z nezávislého výskumu v oblasti digitálnej pedagogiky.