Jak zjistit, že text byl napsán neuronovou sítí

Podle data Bloomberg, asi 30 % specialistů používá neuronové sítě ke generování textu. V Rusku 67 % respondentů chtít uplatnit v práci umělé inteligence, aby méně pracoval a nepřišel o příjem. To je jen taková statistika potěší ne všechny zákazníky. Někteří nedůvěřují neuronovým sítím, a tak preferují, aby texty nepsali roboti, ale lidé.

Chápeme, proč se zákazníci obávají technologií a jaké prostředky k odhalení neurotextů dnes existují.

Proč je třeba s texty z neuronových sítí zacházet opatrně

Zde jsou hlavní důvody, proč jsou zákazníci k takovým článkům opatrní.

Riziko porušení autorských práv

Dnes neexistuje oficiální stanovisko k otázce kdo patřit autorská práva k textům vytvořeným pomocí AI. Autorem je podle zákona ten, kdo vytváří dílo tvůrčí nebo duševní prací. Nicméně, v případě nervová síť lidé pouze dávají pokyny, ale sami nepíší.

Vzhledem k tomu, že zákon neuznává neurotexty jako předměty autorského práva, pravidla pro používání obsahu generovaného technologiemi jsou určena v uživatelské dohodě neuronové sítě.

A pokud OpenAI přenáší práva na text i ve verzi zdarma, pak Gerwin limity jeho použití pro politické, diskriminační účely nebo v nevýhodné reklamě. A dovnitř střední cesta používat obsah pro komerční účely Umět pouze pokud je produkt generován za placenou sazbu.

Riziko získání nejedinečných nebo nepřesných informací

Neuronová síť obdrží požadavek, projde jej algoritmy, analyzuje dostupné informace k tématu a vydá odpověď. Aniž by bylo popřeno, že stejný požadavek od jiného uživatele může vytvořit podobný nebo podobný text.

A tady přichází nové nebezpečí. Přišli vědci z Cornell University závěr: pokud se odpovědi neuronové sítě na stejnou otázku velmi liší, pak s vysokou pravděpodobností přichází s fakty.

Riziko, že neurotexty sníží zdroje společnosti ve výsledcích vyhledávání

Na konci loňského roku specialista na kvalitu Googlu Duy Nguyen prohlásilže společnost má zavedené algoritmy pro detekci a downgrade vytvořeného obsahu umělá inteligence. Mnozí se proto obávají, že vyhledávače budou takový obsah vyhledávat a pesimizovat. Tedy ke snížení pozice ve výsledcích vyhledávání.

Předchůdce již existují. Například marketér Neil Patel utrácel experimentvytvořením 50 testovacích webů, které rozdělil do dvou skupin. Odborník zaplnil stránky prvního dílu články vytvořenými výhradně umělou inteligencí. Stránky druhého hostily články o umělé inteligenci upravené lidmi a také materiály napsané copywritery bez použití neuronových sítí.

Výsledky experimentu ukázaly, že zdroje první skupiny ztratily několik pozic ve výsledcích vyhledávání. A to vedlo k pokles návštěvnost až 70 %.

Zástupci Googlu zároveň dodali, že mají kladný vztah k rozvoji neuronových sítí a vytvořili již své vlastní Chatbot Bard. Pro firmu jsou ale prioritou kvalitní texty. Systém, který výsledky řadí, nabízí uživatelům především materiály, které splňují standardy E-E-A-T (zkušenosti, kompetence, důvěryhodnost, důvěryhodnost).

Texty, které jim odpovídají, vzbuzují důvěru a jsou považovány za užitečné, protože obsahují příklady, zkušenosti, analytickou část a výzkum. A obsah, který neuronové sítě vytvářejí, bez dodatečného hlubokého upřesnění osobou, často takový není.

Mezitím ve Státní dumě navrhl zavést označování materiálů vytvořených pomocí AI. Dokud se tak nestane, určete, že text generované neuronovou sítí, budete to muset udělat sami. Nebo pomocí speciálních služeb.

Jak nezávisle určit, že text byl napsán neuronovou sítí

Nedávno se konala technologická univerzita MIREA experiment, které se zúčastnilo 20 pedagogů a přes 200 studentů. Polovina z nich psala vědecké práce samostatně. A zbylých 50 % využilo pomoci neuronových sítí. Učitelé naopak museli takové materiály AI spočítat.

K tomu učitelé dbali na stylistické a pravopisné rysy textu. Například pro velké množství opakujících se slov a významů, aktuálních a logických chyby, nedostatek původních rozsudků. Učitelé tak byli schopni identifikovat 96 % prací napsaných pomocí neuronové sítě. 4 % studentů, kteří nebyli vystaveni, přiznala, že strávili mnoho hodin úpravou textu AI.

Neexistuje žádný univerzální návod, který by pomohl vypočítat text generovaný neuronovou sítí. Experiment však ukazuje, že podobné vzory jsou těmto materiálům vlastní. Zvažme je podrobněji.

Opakování významů a slov

Jedním z důvodů, proč web klesá ve výsledcích vyhledávání, je reoptimalizace klíčových slov. Neuronová síť v reakci na požadavek často „odpovídá v kruhu“. Někdy používá různé výskyty, ale význam se stále opakuje.

Na níže uvedeném snímku obrazovky tedy umělá inteligence měla za úkol napsat prodejní příspěvek o novém šetrném způsobu barvení vlasů. A v malém textu neuronová síť opakovaně opakovala stejné teze.

Téměř každá věta generovaný text opakuje se fráze "nový způsob barvení". A také dochází k opakovanému zdvojování významů o bezpečnosti metody a individuálním přístupu, který zdůrazní jedinečnost každého klienta.

Zde je několik citátů z textu, které to ilustrují: „přeměňte svůj obraz a vyjádřete svou individualitu“, „vezměte v úvahu svou individualitu“, „vhodné pro vás“, „vytvořte pro vás jedinečný a stylový vzhled“, „udělejte svůj účes jedinečným“, „zachovejte zdraví a lesk vašich vlasů“, „bezpečné pro vaše vlasy“, „péče o vlasy, jejich zachování zdraví".

Mezitím stačilo jednou zmínit, že v salonu byla představena nová procedura - sparing metoda barveníkterá udrží vlasy při životě. A také vysvětlit, jak metoda funguje, v čem je její novinka a proč je bezpečná. A přidejte, že paleta barev je rozmanitá a mistři, kteří byli vyškoleni, nejenže provedou barvení ve vysoké kvalitě, ale také pomohou s výběrem barvy.

Přítomnost velkého množství známek a klišé v textu, nedostatek smyslových zkušeností

Barevný příklad také ukazuje, že neuronová síť nemůže napodobit, jak člověk mluví v reálném životě. Lidé zapečetí, použijí slang a zkratky, záměrně zkreslují slova. Taková prezentace pomáhá upoutat pozornost, vyvolat emoce, zprostředkovat pozici autora, jeho smyslovou zkušenost.

Výzkum ukázat: neuronová síť nesdílí pocity, nepřijímá nikoho pozice. Proto preferuje neutralitu, klišé a klišé. Ve výše uvedeném příkladu se jedná o „odborné dovednosti“, „vysoce kvalitní materiály“, „jedinečná příležitost“.

Zároveň neuronová síť generuje texty v různých stylech. Můžete jí dát například za úkol připravit materiál na téma „Co ovlivňuje náklady na olej». Ale pro upřesnění, že text by neměl být psán suchým jazykem, ale doplněním metafor a přirovnání. Výsledek je však stále umělý. Umělá inteligence totiž nemá žádné měřítko, „necítí“ text tak, jak to dělá člověk.

Jeden z odstavců pomůže vidět, že dosažený výsledek nelze srovnávat s intonací, která je člověku vlastní: „Poptávka a nabídka jsou jako tanec dvou milenců na trhu s ropou. Li poptávka po ropě stoupá jako rozbouřený oceán, a pokud nabídka nestačí, ceny stoupají jako šampaňské na silvestrovském večírku. Pokud ale poptávka klesne a nabídka stoupne, pak ceny mohou klesnout jako balón na dětské oslavě.“

Text působí uměle a většina odboček v něm není na místě. A ačkoli se příspěvek skutečně ukázal jako „nesuchý“, je těžké si představit, že by to takto napsal odborník. Navíc doslova každá věta je metaforou a přirovnáním. Tyto techniky by však měly být přesné a úhledně zakomponované do textu. Jinak se smysl ztratí za přemírou obrázků.

Přítomnost nesmyslných frází a nedostatek logiky

Lingvista Noam Chomsky ve své knize Syntactic Structures poznamenává, že gramaticky správná konstrukce frází ve větě nezaručuje přítomnost logika a význam. Jako příklad odborník uvedl frázi bezbarvé zelené nápady spí zběsile – „bezbarvé zelené nápady spí zběsile“.

Algoritmy pomáhají neuronové síti vytvářet správné věty z hlediska gramatiky. Pro AI však neexistuje žádný pojem „význam“. A pro každý odstavec to může mít svou logiku, protože materiál je získáván z různých zdrojů.

Neuronová síť byla například požádána o vygenerování recenzí na sprchový gel a teplákovou soupravu. Text o oblečení dopadl takto: „S pomocí obleku se můžete uvolnit, ponořit se do světa sportu a také se projít. Disponuje regulací teploty, díky které se cítíte pohodlně za každé situace.

A tady je recenze na sprchový gel: “Úžasný gel, neteče, nezatěžuje pokožku. Baleno v sáčku, v krabičce, s víčkem. Netřeba čekat na nic extra, aby se to trochu drolilo. Lze použít jako noční sprchový gel.

Některé fráze v nich dobře stavěný, ale zároveň působí absurdně a připomínají Chomského ilustraci.

Nedostatek textury a povrchní příklady

Umělá inteligence podává v textech zřejmé informace, obecná fakta, používá zjednodušené fráze a příklady, které otázku příliš neodhalují. V tomto případě nezáleží na složitosti tématu. Otázka může být hluboká, jako jsou vyhlídky rozvoje inkluze v Rusku. Nebo jednodušeji a individuálně, pokud jde o volbu techniky.

V textu o inkluzi neuronová síť řekla, jak důležité a relevantní toto téma je. Dodala také, že inkluze je dlouhodobý proces provázený obtížemi, ale na vytváření podmínek pro lidi se speciálními potřebami se pracuje. A shrnuto: pokud nepřestanete, pak vývoj určitě bude.

To, co je napsáno, však na otázku neodpovídá. Je důležité, aby byl text konkrétní. Můžete například analyzovat, které z přijatých zákonů fungují a které ne a proč. Odhalit zahraniční zkušenosti. A vysvětlit, jaké konkrétní kroky může stát, byznys a každý člověk ještě podniknout k rozvoji inkluze.

V textu o nákup smartphonugenerované neuronovou sítí, jsou také uvedeny zřejmé faktory výběru. Například: měli byste se rozhodnout pro operační systém (iOS nebo Android), značku, přečíst si recenze a technické specifikace a také vzít v úvahu své vlastní možnosti.

Lidé to však chápou. Další věcí je mluvit o čipech operačních systémů, naznačovat omezení, která v tuto chvíli existují. Nebo zmiňme inovativní řešení – například technologii eSIM, která umožňuje mít v jednom smartphonu až pět čísel. Nebo sdílet předražené modely zařízení a jejich protějšky za nejlepší cenu.

Zkreslování faktů, doplňování vymyšlených informací

Neuronová síť věrohodně odpovídá na téměř jakoukoli otázku, poskytuje kroniku, data, příjmení, historii původu. V tomto případě jsou informace zkreslené nebo zcela vymyšlené. Taková chyba v práci AI se nazývá halucinace.

Neuronová síť tedy dostala za úkol vyprávět o slavném hluší lidékteří významně přispěli k rozvoji společnosti. V důsledku toho většinu z nich vynalezla umělá inteligence.

Například astronaut Raymond Lou nebo boxer Mario Gallegos. A 42. prezidentem Spojených států stále nebyl Matthew Clinton, ale Bill Clinton. A nepřišel o sluch.

Kromě toho AI sebevědomě odpověděla na požadavek „napiš příspěvek o kreativě amnézie». I když takový termín neexistuje.

Na otázku, proč si bot vymýšlí lidi a mluví o neexistujících pojmech, se pouze omlouvá za možný zmatek.

Když se falešná fakta prolínají s pravdivými údaji, je obtížnější odhalit halucinace neuronové sítě. Zvlášť když plynulé čtení. Pokud se však soustředíte na příklady uvedené v textu, můžete si všimnout těch, které vypadají podezřele, a zkontrolovat je zadáním do vyhledávacího pole.

Nedostatek aktuálních informací o aktuálních změnách, akcích

Neuronové sítě se samy učí při komunikaci s uživateli, pamatují si vysvětlení člověka, jeho reakce na generovaný obsah, příklady, které člověk sdílí s botem. Experti poznamenalže schopnost umělé inteligence učit se je pro ně byla překvapením. A že tato dovednost pomáhá neuronovým sítím se zlepšovat.

V čem strojové učení, vedená vývojáři na gigabajtech dat – články, knihy, texty z webu – má jasný začátek a konec. A neuronové sítě v podstatě nemají přístup k vyhledávačům. Proto informace, které se objevily po školení provedeném vývojáři, nejsou pro AI dostupné až do další fáze.

Interval mezi strojovým učením je přitom měsíce a někdy i roky. Pokrok samozřejmě nestojí: například v květnu tohoto roku se GPT Plus stal dostupným pro uživatele s placeným předplatným ChatGPT s přístupem k internetu. Většina neuronových sítí, zejména jejich bezplatné verze, však zatím takovou možnost nemá.

Základ bezplatné verze ChatGPT4 je tedy omezen na rok 2021, takže robot neví, kdo vyhrál poslední mistrovství světa v roce 2022. A neuronová síť Google – Bard AI – přiznala, že nedokáže sestavit text o významných událostech, které se letos v létě ve světě odehrály.

Vzhledem k tomu, že její poslední školení provedli vývojáři v květnu 2023, léto pro Bard AI ještě nepřišlo.

V takových případech neuronové sítě obvykle nepřicházejí s fakty, ale přiznávají, že nemohou.předpovídat budoucnost».

Pokud text neobsahuje aktuální informace k tématu nebo vypadá odtrženě od reality, protože se toho v poslední době hodně změnilo, je možné, že materiál byl napsán neuronovou sítí.

Jaké služby mohou pomoci

Text generovaný umělou inteligencí lze rozpoznat i pomocí samotné neuronové sítě. Například může bot GPT-4. Pomoci mohou také speciální služby, které dokážou detekovat algoritmy AI. Podívejme se na některé z nich níže.

1. Text.ru. Stránka je umístěna jako copywriting a výměna proti plagiátorství. Nedávno se ale na portálu objevil placený neuroasistent. Jednou z jeho funkcí je AI detektor. Text, který má být zkontrolován, by se měl načíst do okna. Po několika sekundách systém zobrazí výsledek.
2. PR CY. Do služby můžete nahrát texty o délce 1 000 znaků. Zároveň jsou na portálu upřesnění: nekvalitní, spamované možnosti, které člověk napsal, bude systém považovat za výsledek práce AI. Stejně jako texty s jasným stylistickým zabarvením - například podobným dílům Majakovského.
3. GPTZero. Nástroj čte složitost, kombinaci slov, strukturu a délku vět. Pokud si však služba dobře poradí s texty v angličtině, pak při načítání ruskojazyčného materiálu často dává chybu. Z výhod - přítomnost bezplatné verze.

Neuronová síť může být skvělým pomocníkem. Například při hledání nápadů. Úplné důvěřování jejímu obsahu je však nebezpečné. S materiály AI byste měli zacházet zodpovědně: upravujte spam, kontrolujte přesnost, logiku a relevanci faktů. A styl přizpůsobte „lidskému“ jazyku, ať neděsíte publikum, šetříte reputaci a pozici firmy ve výsledcích vyhledávání.