EÚ chce označovať AI texty: Dostanú „neviditeľnú stopu“, odborníci upozorňujú na háčik

Chatbot Claude od spoločnosti Anthropic začne podľa nových pravidiel upravovať spôsob, akým vytvára texty, aby bolo možné jeho výstupy označiť ako obsah vytvorený umelou inteligenciou (AI). Ako uviedol britský denník The Guardian, zmena súvisí s pravidlami Európskej únie, no vyvoláva aj otázky o tom, či označovanie AI textov neovplyvní ich kvalitu.

Anthropic oznámila, že Claude zmení spôsob, akým pri generovaní textu robí drobné náhodné výbery slov. Výsledkom má byť určitý vzorec ukrytý v texte, ktorý bude možné odhaliť samotnou spoločnosťou alebo osobami disponujúcimi príslušným kľúčom. Bežný čitateľ by pritom nemal zmenu na prvý pohľad spozorovať.

AI texty dostanú „neviditeľnú stopu“

Nový systém má fungovať na princípe tzv. vodoznaku. Nejde pritom o viditeľné označenie, ktoré by sa objavilo napríklad na začiatku alebo konci textu. Úprava sa má týkať spôsobu, akým model vyberá jednotlivé slová a formuluje vety.

Pri generovaní odpovede má AI viacero možností, ako konkrétnu myšlienku vyjadriť. Môže napríklad zvoliť jedno zo slov, ktoré majú podobný význam. Práve tieto drobné náhodné rozhodnutia má nový systém upravovať tak, aby po sebe zanechávali rozpoznateľný štatistický vzorec.

Cieľom je, aby bolo možné identifikovať text vytvorený chatbotom aj v prípade, že používateľ ho ďalej upraví alebo ho vydáva za vlastnú prácu.

Objavili sa obavy zo zhoršenia kvality

Zavedenie vodoznaku však vyvolalo diskusiu o tom, či dodatočné obmedzenia neovplyvnia samotnú kvalitu textov.

Technologický publicista John Gruber upozornil, že ak bude model pri výbere slov menej slobodný, môže mať menšiu možnosť zvoliť vždy najpresnejšiu formuláciu. Podľa jeho názoru by tak vodoznak mohol viesť k menej kvalitnému a menej presnému písaniu.

Nie všetci odborníci však tento názor zdieľajú. Steven Murdoch, profesor informatiky na University College London, uviedol, že zmena by podľa neho nemala mať pre používateľov citeľný vplyv. Náhodnosť je totiž podľa neho už prirodzenou súčasťou fungovania veľkých jazykových modelov.

Rozdiel má spočívať predovšetkým v tom, že náhodnosť už nebude úplne náhodná, ale bude vytvárať štatisticky rozpoznateľný vzorec.

Prečo chce EÚ označovať texty vytvorené umelou inteligenciou?

Nové pravidlá súvisia s európskou reguláciou umelej inteligencie. Podľa The Guardian sa požiadavka na označovanie obsahu vytvoreného AI začne uplatňovať od decembra a týkať sa má spoločností pôsobiacich v Európskej únii.

Jedným z dôvodov je snaha uľahčiť rozpoznanie obsahu vytvoreného umelou inteligenciou. V praxi by to mohlo sťažiť napríklad študentom, právnikom či akademikom vydávať text vytvorený chatbotom za vlastnú prácu. Označovanie AI obsahu však môže mať aj širší význam.

AI môže naraziť na vlastné texty

Odborníci upozorňujú na ďalší problém, ktorý s množstvom AI-generovaného obsahu súvisí. Ak sa budú nové modely vo veľkej miere trénovať na textoch, ktoré už vytvorili iné AI systémy, môže vzniknúť takzvaný „model collapse“, teda postupná strata kvality modelov.

Umelá inteligencia by v takom prípade začala pri učení spracúvať čoraz väčšie množstvo vlastných výstupov, čo môže viesť k postupnému skresľovaniu informácií a zhoršovaniu schopnosti rozlišovať jednotlivé koncepty.

Práve preto nemusí byť označovanie AI textov iba otázkou kontroly používateľov. V budúcnosti môže zohrávať úlohu aj pri ochrane samotných systémov umelej inteligencie.

Claude tak čaká zmena, ktorú používateľ nemusí pri bežnom čítaní vôbec postrehnúť. V pozadí však môže ísť o významný krok v tom, ako bude možné rozlišovať text vytvorený človekom od textu vytvoreného umelou inteligenciou.

Zdroj: theguardian.com