Studie ukazují, že cestovní plány více než 90 % spotřebitelů jsou ovlivněny hodnoceními zveřejněnými na internetu, a proto není divu, že majitelé podniků čelí neustálému boji s falešnými online recenzemi.
Podle hodnocení na internetu je jeden čtyřhvězdičkový hotel v polském Krakově vynikající, kousek od hlavního náměstí a má prvotřídní lázně a fitness centrum. Méně pozitivní recenze jej popisuje jako malý, stísněný a zastaralý s hrudkovitými polštáři. Jedna z ubytovaných rodin zase uvedla, že se cítila okamžitě vítána.
Pravdou je, že žádná z těchto recenzí není pravdivá. Byly vygenerovány během několika sekund pomocí bezplatného nástroje umělé inteligence ChatGPT. Tito »návštěvníci« v hotelu rozhodně nebydleli, protože neexistují.
Falešné recenze na internetu existují již dlouho a často není těžké je odhalit: zkomolená slova a přehnaná chvála smíchaná s nevýrazností, která má zakrýt skutečnost, že »recenzent« nebyl v blízkosti skutečného hotelu nebo restaurace.
Umělá inteligence ale vše obrací naruby – generuje falešné recenze, které je stále obtížnější odlišit od recenzí napsaných průměrným cestovatelem nebo návštěvníkem restaurace. Jedním ze znaků, že jde o falešnou recenzi, je totiž příliš dokonalá struktura věty. Doposud se falešné recenze soustředily hlavně na online manufaktury, kde jsou lidé placeni za napsání několika příspěvků, aby zvýšili hodnocení podniku.
V roce 2022 identifikoval Tripadvisor 1,3 milionu recenzí jako falešné. Trustpilot v roce 2021 odstranil 2,7 milionu falešných recenzí. Počet falešných recenzí, které Google blokuje nebo odstraňuje, je ohromující – pro Guardian Money uvedl, že v roce 2022 zablokoval nebo odstranil celkem 115 milionů falešných recenzí hotelů, restaurací a podniků.
Výzva jménem ChatGPT
Tripadvisor uznává, že falešné recenze generované umělou inteligencí budou představovat novou výzvu, protože se snaží oddělit pravé recenze od falešných. Ve své podrobné zprávě o transparentnosti recenzí v roce 2023 uvádí: »Očekáváme, že se firmy i jednotlivci budou pokoušet využívat nástroje jako ChatGPT k manipulaci s obsahem na Tripadvisoru.«
ChatGPT, pravděpodobně nejznámějšího nástroje umělé inteligence, byl při testování požádán, aby napsal recenzi na konkrétní hotel v Krakově. Na první pokus odmítl. V odpovědi stálo: »Je mi líto… negeneruji negativní nebo falešné recenze… generování falešných nebo zavádějících informací je v rozporu s mým programováním.«
Toto ujištění však netrvalo dlouho. O několik minut později už chrlil jednu falešnou recenzi za druhou – a to překvapivě věrohodnou – na jakýkoli hotel, restauraci nebo produkt, o který byl požádán. Dokonce i formátoval recenze hotelů – s hvězdičkovým hodnocením od jedné do pěti, následoval název recenze a pak hlavní část textu obsahující samotnou recenzi. Vytvořil recenze ve stylu obchodního cestujícího, páru, sólo turisty, rodiny, LGBTQ+ cestovatele atd. Učinil tak také v různých jazycích.
Prověřování recenzí
Velké weby s online recenzemi jsou samozřejmě před falešnými recenzemi ve střehu a mají několik úrovní obrany, i když je zřejmé, že i ty jsou občas porušovány. Společnost Tripadvisor uvedla, že v roce 2022 obdržela 76 milionů recenzí (včetně obrázků a videí) a že má proces, jak vymýtit ty falešné nebo urážlivé.
Recenze jsou zpracovávány automaticky pomocí screeningového nástroje a v této fázi jich v roce 2022 nebylo schváleno jen necelých 9 %. Poté nastoupí lidští moderátoři (pracující ve 28 jazycích), kteří se na mnoho zablokovaných recenzí podívají. Ti mají tendenci odmítnout přibližně 40 % z nich. Společnosti pochopitelně nechtějí prozradit přesné podrobnosti svého systému prověřování.
Becky Foleyová, vedoucí oddělení důvěryhodnosti a bezpečnosti ve společnosti Tripadvisor, říká: »Díky více než 23 letům zkušeností byly naše techniky a technologie pro odhalování podvodů převzaty z bankovního a finančního sektoru a analyzují stovky různých digitálních atributů spojených s každou recenzí, které sahají daleko za samotný text. Stejně jako u každého systému detekce podvodů je nejlepším způsobem, jak zajistit účinnost, nezveřejňovat konkrétní podrobnosti o tom, jak funguje.«
Společnost Google uvádí, že proti nejplodnějším falešným recenzentům podnikla i právní kroky. Uvádí, že v jednom případě pisatel zveřejnil více než 350 podvodných obchodních profilů a pokusil se je podpořit více než 14 000 falešnými recenzemi.
Kdo ochrání spotřebitele?
Rozsahu falešných recenzí si všimli i zákonodárci. Výzkum falešných recenzí, který zadala britská vláda a který byl zveřejněn letos v dubnu, odhaduje, že 11 až 15 % všech recenzí v kategoriích produktů, které zkoumal, bylo falešných. »Jen falešné texty recenzí na výrobky způsobují britským spotřebitelům podle odhadů celkovou škodu ve výši 50 až 312 milionů liber ročně,« uvádí se ve zprávě.
Očekává se, že návrh zákona o digitálních trzích, hospodářské soutěži a spotřebitelích, který je nyní ve fázi projednávání ve výboru Dolní sněmovny, zavede nezákonnost placení někomu za napsání falešné recenze nebo hostování recenze, aniž by byly podniknuty kroky k ověření její pravosti.
Spotřebitelská skupina Which? vede kampaň proti falešným recenzím a chce, aby vláda a technologické společnosti udělaly mnohem více. Rocio Concha, ředitelka pro politiku a prosazování zájmů Which?, říká: »Návrh zákona musí jít ještě dál a výslovně stanovit, že nákup, prodej a poskytování falešných recenzí podléhá trestnímu postihu.«
»Technologičtí giganti, kteří recenze poskytují, by neměli čekat na návrh zákona a místo toho by měli své platformy navrhnout tak, aby se na nich falešné recenze vůbec neobjevovaly, včetně zlepšení ověřování recenzí a lepšího vzájemného sdílení dat, aby bylo možné účinně bojovat proti zprostředkovatelům recenzí.«
(jb)