Facebook zakáže podvodná videa vytvořená pomocí umělé inteligence

Deepfake videa jsou videa vytvořená pomocí strojového učení, která uměle zasazují postavy do situací, které se ve skutečnosti nestaly. Dříve se tato metoda těšila popularitě především v oblasti pornografické tvorby, kdy producenti do erotických filmů vkládali obličeje slavných osobností, například herců. V současnosti se ale stalo populárním manipulovat videa s politickým obsahem. Toho si je vědom i Facebook, který zavádí nová pravidla a bude taková videa ze své sítě odstraňovat. Není pravděpodobně náhodou, že k takovému kroku Facebook přistoupil zrovna před blížícími se volbami na post prezidenta Spojených států amerických.

Facebook bude videa odstraňovat podle dvou kritérií: jde-li o uměle generované video snažící se vyvolat dojem, že osoba řekla něco, co ve skutečnosti neřekla, nebo jde-li o video, které obsahuje nereálný obsah vytvořený pomocí umělé inteligence nebo strojového učení. Facebook přitom upozornil, že nemá v úmyslu odstraňovat parodická a satirická videa. Jde tak spíše o zastavení kampaní, které mají poškodit politické subjekty pomocí šíření zdánlivě skutečných videí.

Kritici ale upozorňují, že se Facebook nechystá bojovat s videi vytvořenými pomocí „tradičních“ střihačských technik (v angličtině označovanými jako „shallow fakes“) a že i tato videa mohou nadělat spoustu škody. Za pravdu jim přitom dávají některé nedávné případy. Virálním se stalo video britské poslankyně Keir Starmer, které bylo sestříháno tak, že vyvolalo dojem, že Starmer nedokázala odpovědět na otázku týkající se Brexitu. Dalším příkladem je například video americké předsedkyně sněmovny representantů Nancy Peolosi, které dokázali jeho autoři sestříhat tak, že na něm demokratická politička působila značně opilá.