Poslední dobou se stále častěji a více hovoří o různých nebezpečích umělé inteligence, a i v rámci tohoto blogu se o nich stále častěji píše s tím, jak se lidstvo blíží do bodu singularity (propojení člověka a stroje) a k vytvoření tzv. obecné (generální) AI, tedy AI s vlastním vědomím. A ta by mohla snadno být tím vůbec největším problémem současného světa a vést skutečně až k úplnému zániku živočišného druhu homo sapiens.

Ovšem již i ta současná AI může být nebezpečná tím, jakým způsobem je zneužitelná v rukou člověka. Problém je v tom, že se současná AI dokáže procesem hlubokého strojového učení naučit napodobovat mnohé lidské činnosti dosud vyhrazené jen několika málo vyvoleným a nadaným lidem, takže dokáže sama napsat novelu či román ve stylu slavného spisovatele, nebo vytvoří obraz ve stylu známého malíře, nebo fotografa. A nejen to, AI dnes dokonale dokáže napodobit i lidský hlas. A to dokonce s těmi jemnými nuancemi v hlase, kterými obvykle dáváme najevo náš emoční stav. Takže slyšíme v jeho hlase úzkost, strach, nebo něco řekl chvějícím se hlasem apod. Hlasoví imitátoři skončí časem všichni na nepodmíněném vládním příjmu v CBDC, protože AI bude jistě ta nejlepší imitátorka hlasu na světě, která dokáže známe hlasy známých osobností napodobit nejlépe. Není divu, že se někteří lidé pokouší její umění nějak zneužít a těch způsobů jak to udělat je nepřeberné množství.

Asi nejčastějším způsobem zneužívání AI je využití její schopnosti expertního kódování počítačových programů. Zkrátka jí zadáte jen smysl a účel či cíl a necháte ji programovat. Model AI naučený programovat Vám do pár minut vyplivne bezchybný a třeba i škodlivý kód programu přesně podle vašeho zadání. No a nebo z jiného soudku: Matka v Arizoně nyní varuje všechny ostatní před děsivým telefonním podvodem zahrnujícím také umělou inteligenci, která dokáže naklonovat hlas vaší milované osoby.

Paní Jennifer DeStefano vypověděla, že jí zavolalo neznámé telefonní číslo a málem by to už nechala přejít do hlasové schránky. Její 15letá dcera však byla tou dobou někde na lyžích mimo město, a tak raději zvedla telefon v obavě, že možná došlo k nehodě a že jí volá její dcera.

Zvednu telefon a slyším hlas své dcery která říká: ‚Mami!‘ a při tom silně vzlyká. Řekla jsem: „Co se stalo?“ A ona řekla: ‚Mami, pokazila jsem to,‘ a pořád vzlyká a brečí do telefonu…“

“ Byl to skutečně přesně její hlas. Bylo to její skloňování. Bylo to přesně tak, jako by skutečně plakala. Ani na vteřinu jsem nezapochybovala, že je to doopravdy ona. To je ta podivná část, která mě teprve opravdu dostala až k jádru.“

DeStefano dále řekla, že potom teprve slyšela ve sluchátku také nějaký cizí mužský hlas: „Dej hlavu dozadu, lehni si na zem.“
DeStefanové dosavadní zmatek se změnil v čistou hrůzu.
Ten muž s ní telefonuje a říká jí:
‚Poslouchejte dobře, mám vaši dceru. 
Takhle to s ní půjde dolů. Zavoláš policii, zavoláš komukoli, tak ji celou nacpu drogami.“ 
„Promluvím si s ní a vysadím ji v Mexiku.“ 

A v tu chvíli jsem se začala třást. 

V pozadí její zoufalý hlas říká: „Pomoz mi, mami. Prosím pomozte mi. 
Pomozte mi,“ vzpomíná si DeStefanová.
Muž po telefonu po ní poté požadoval peníze, nejprve požádal o 1 milion dolarů, poté svůj požadavek ale snížil až na 50 000 dolarů, když mu DeStefano řekla, že nemá takové finanční prostředky.
DeStefanová ho nechala mluvit. Během telefonátu se však zcela náhodou ocitla v tanečním studiu své druhé dcery, obklopená dalšími ustaranými maminkami, které jí chtěly pomoci. 

Jedna z nich zavolala 911 a druhá manželovi DeStefanové
Během pouhých čtyř minut ji ale potvrdili, že její dcera je v bezpečí.
Byla nahoře ve svém pokoji a říkala: „Cože? Co se to děje?‘ 

„Pak se na ty chlapy ale samozřejmě zlobím. Tohle není něco, s čím si jen tak hraješ,“ řekla DeStefanová

Jakmile si uvědomila, že její dcera je v bezpečí, DeStefanová zavěsila. V mysli DeStefanové však nebylo zprvu vůbec žádných pochyb o tom, že to byl skutečně hlas její dcery v telefonu.
Byl to úplně její hlas. Bylo to její skloňování. Bylo to tak, jako by opravdu plakala. Ani na vteřinu jsem nepochybovala, že je to doopravdy ona. To je ta podivná část, která mě opravdu dostala až k jádru.

Ale nakonec se ukázalo, že 15letý mladík nic z toho neřekl. 
Hlas v telefonu byl totiž jen klon hlasu její dcery vytvořený umělou inteligencí.

Subbarao Kambhampati, profesor počítačových věd na Arizonské státní univerzitě se specializací na umělou inteligenci, řekl, že technologie hlasového klonování se velmi rychle zlepšuje.
„Už nemůžete věřit ani svým uším.“ řekl k tomu Kambhampati.
Dříve se při klonování hlasu odebíralo velké množství hlasových vzorků od osoby, která byla klonována. 
V dnešní době Kambhampati řekl, že hlas lze dnes naklonovat pouhými třemi sekundami vašeho hlasu.
A s těmi třemi sekundami se to může velice přiblížit tomu, jak skutečně přesně zníte. 
Většina klonování lidského hlasu totiž´ ve skutečnosti hlavně zachycuje skloňování a emoce. řekl Kambhampati.
Technologie hlubokého učení má v současné době jen velmi malý dohled a podle Kambhampatiho je k ní stále snadnější přístup a použití.
Je to nová a výkonná hračka a myslím, že by mohla mít i dobré využití, ale takové jako toto určitě může být i docela znepokojivé.

Dan Mayo, asistent zvláštního agenta, který má na starosti kancelář FBI ve Phoenixu, uvedl, že podvodníci, kteří používají technologii hlasového klonování, často najdou svou kořist na sociálních sítích.
Aby se Mayo nestal obětí podvodů, jako je tento, vyzývá Mayo všechny, aby ponechali své profily v soukromém režimu a nebyly viditelné pro veřejnost.
Musíš tyto věci držet pod zámkem. 
Problém je v tom, že pokud to máte veřejné, dovolujete si být podvedeni lidmi, jako je tento, protože budou hledat veřejné profily, na kterých je o vás co nejvíce informací, a když se jich zmocní, tak z toho budou těžit a do vás při tom budou kopat. řekl dále Mayo.

Podle Federální obchodní komise budou nyní podvodníci stále častěji žádat oběti, aby převedly peníze, poslaly jim kryptoměny nebo třeba jen zaplatily výkupné pomocí dárkových karet. 

Jakmile jsou peníze ale jednou převedeny, tak získat je zpět je téměř nemožné.

Cítím potřebu o tom říct všem lidem, které znám. Byl to doslova ten nejděsivější okamžik celého mého života 

♬ originální zvuk – Beth

Mayo řekl, že červené vlajky, které je třeba pokaždé hledat, zahrnují hlavně telefonní číslo volající z předvolby, kterou neznáte, nebo to telefonní číslo je mezinárodní číslo a osoba v telefonu vám nedovolí hovořit s ostatními členy rodiny a žádat je o pomoc. Jen si vzpomeňte na různé filmy.  Zpomalte. Zpomalte tu osobu. Zeptejte se jí na spoustu otázek.  Pokud mají někoho, koho znáte, dozvíte se o něm spoustu podrobností, které se tento podvodník nikdy nedozví. 
Začnete se ptát, kdo to je, a různé podrobnosti o jejich životě, které nejsou veřejně dostupné, a tehdy opravdu rychle zjistíte, že jde o podvodníka .řekl k tomu ještě Mayo.

Není známo, kolik lidí obdrželo podobné podvodné hovory v rodinné tísni nebo o falešném únosu pomocí hlasového klonu AI, ale Mayo řekl, že „se to nyní stává skoro každý den“, ale ne každý hovor se na hlásí. Mayo také řekl, že věří, že se mnohým lidem tak ulevilo, že jejich rodinní příslušníci jsou v bezpečí, že zkrátka pak zapomněli nahlásit tento podvod. Existují však ale také někteří lidé, kteří tomu uvěří a skutečně nakonec pošlou peníze těmto podvodníkům. 
Věřte mi, FBI ale všechny tyto lidi hledá a nakonec je i najdeme.
řekl Mayo.
Pokud jde o DeStefanovou, tak ta je sice vděčná, že nakonec neposlala podvodníkům žádné peníze, ale to ještě nezabránilo v její značné traumatizaci.
Doslova jsem se posadila a rozbrečela jsem se. 
Byly to slzy za všechna ta, co kdyby. Všechno to totiž vypadalo tak skutečné. A bude stále hůř….

Podklady k dnešnímu článku:https://winepressnews.com/2023/04/14/scammers-use-ai-to-fake-a-kidnapping-and-demand-1-million-ransom-against-arizona-mom/

PODPOŘTE MYŠPULE SVĚT !

https://myspulesvet.org a video kanály Myšpule Svět jsou projekty investigativní občanské žurnalistiky financované výhradně ze soukromých a osobních zdrojů. Přispějete-li na jejich provoz a udržení přispějete dobré věci v boji za lidská práva a svobodu nás všech!

Finanční dar mi můžete poslat na KB čú.:27-1399760267/0100

do zprávy pro příjemce napište prosím: „dar Myšpuli“

Za jakoukoliv Vaši případnou podporu Vám s pokorou a úctou děkuji! Vaše Myšpule