V Číně řádí aplikace, která umožňuje uživatelům ve velkém vytvářet deepfake videa

V poslední době stala aplikace Zao jednou z nejstahovanějších aplikací v čínské verzi App store pro iOS. Aplikace umožňuje uživatelům přesvědčivě překrýt obsah videí, filmů nebo obrázků vlastním obličejem nebo obličeji celebrit a vytvořit takzvaný „deepfake“.

V západních státech není aplikace dostupná, ale videa od čínských uživatelů se objevila na sociálních sítích a ukazují čeho je aplikace schopná díky využití technologii umělé inteligence dosáhnout. Vznikla videa, ve kterých uživatelé dosazují své obličeje do seriálů Hra o trůny nebo Teorie Velkého Třesku. Aplikace má v databázi velké množství známých tváří herců, zpěváků i postav z počítačových her.

Aplikace používá umělou inteligenci pro analýzu fotky uživatele a následné dosazení do zvoleného videa namísto obličeje někoho jiného. Přestože aplikace Zao působí spíše zábavně, do budoucna se jedná o potenciálně velké riziko, protože bychom nemuseli dokázat poznat reálné video od nějakého uměle připraveného. Mohly by tak vznikat například falešné poplašné zprávy, které by mohly mezi obyvatelstvem vyvolat paniku.
Nicméně uživatelé si v podmínkách využití aplikace všimli zajímavé zmínky. Vývojáři totiž vložili do podmínek větu o tom, že veškeré nahrané fotky mohou v budoucnu libovolně používat pro vlastní účely. To vyvolalo velké diskuze kvůli ochraně soukromí uživatelů. Vývojáři se však již za to omluvili a podmínky použití upravili a zmínku již smazali.
Uživatelé mimo Čínu si aplikaci nevyzkouší. Stažení je totiž provázané na nutnost vlastnit čínské telefonní číslo. Jelikož za aplikací stojí čínští vývojáři, není jisté, zda se aplikace dočkáme i na jiných trzích, zatím tomu však nic nenasvědčuje.

Tato kauza dokazuje, jak rychlý vývoj na poli umělé inteligence probíhá. Ještě před pár lety se jednalo pouze o technologické koncepty, které vyžadovaly vysoký výpočetní výkon a daly se jednoduše rozpoznat. Nyní však technologie dospěla do fáze, kdy se dá využít pro komerční účely a v některých případech dokáže nic netušícího uživatele oklamat.