Online Plus

Texty vytvořené AI nelze bezpečně odlišit od výtvorů lidí, tvrdí výzkumníci

Online Plus

Plus

Texty vytvořené umělou inteligencí se nedají bezpečně rozpoznat od výtvorů lidí. Na základě své studie to tvrdí výzkumníci z americké univerzity v Marylandu. Podle jejich testů při detekci zklamaly všechny dnes nejpoužívanější metody od zkoumání textů jinou neuronovou sítí až po tzv. watermarking, tedy metodu, při které se do textu vkládají člověkem nerozpoznatelné signály, ze kterých má být možné určit, že text vytvořil stroj.
David Slížek

19. května 2023, 11:10

Přepis epizody

Přepis mluveného slova do textu je prováděn automatizovaným systémem a proto obsahuje mnoho nepřesností. Je určen pouze pro rychlou orientaci a vyhledávání. Nalezené výsledky vyhledávání jsou v přepisu zvýrazněny podbarvením.

Co hledáte?

Složité rozpoznávání textu vytvořených já jim chystaná regulace umělé inteligence v Evropě, blokování twitterových účtů v Turecku a označování a já jí obrázků ve vyhledávání Googlu. To jsou témata pravidelného přehledu dění ve světě počítačů a internetu, který vás také dnes provází David Slížek.
On-line plus.
A já na dálku přes internet vítám u mikrofonu samozřejmě také našeho pravidelného komentátora, redaktora deníku n Petra Koubského. Ahoj Petře. Ahoj. Davide. Google přidá do výsledků vyhledávání obrázků informace o původu vyhledávaných fotek. Bude v nich uvedeno například to, kdy se obrázek poprvé zařadil do indexu vyhledávače. Na jakém webu se nejspíš poprvé objevil a na jakých serverech či sociálních sítích se o něm lidé zmiňovali. Podle firmy to má uživatelům pomoci určit, zda je fotka pravá nebo zmanipulovaná. Nová funkce bude nejprve k dispozici uživatelům ve Spojených státech. Google také oznámil, že všechny obrázky vytvořené jeho generativní AI jsou a budou označeny jako dílo umělé inteligence. Podobné označení mají podle firmy časem nést i fotky vyrobené dalšími provozovateli obrázkových generátorů včetně populárních nástrojů, jako je miliony nebo fotobanky jako je šetrnost. Ok. Petře, vlastně dvě zprávy v jedné, které sebe podle mě navzájem docela dotýkají. Obě jsou totiž zaměřeny na to, aby lidé byli schopní třeba právě když vyhledávají nějaké fotky ve vyhledávání Googlu, tak aby byli schopní určit, jestli ta fotka třeba právě byla vygenerovaná nebo je opravdu původní anebo třeba jestli jde o fotomontáž. To pak podle třeba těch informací o tom, kde se ta fotka poprvé objevila a v jakém kontextu. To vypadá jako poměrně zajímavé, asi pozitivní opatření od Googlu, co myslíš?