Môžeme veriť videám, ktoré vidíme na internete? Deepfakes technológia je aj naďalej problémom
Najlepší model mal úspešnosť detekcie len na úrovni ~65%
Spoločnosť Facebook publikovala prostredníctvom svojho blogu výsledky niekoľkomesačnej kooperácie s koalíciou Deepfake Detection Challenge (DFDC). Cieľom tejto spolupráce bolo porovnať na medzinárodnej úrovni detekčné systémy schopné detegovať takzvané „Deepfakes“. Deepfakes je technológia, ktorá je schopná na základe AI (umelej inteligencie) upravovať obrázky vrátane videí. Je napríklad schopná vygenerovať tváre známych osobností hovoriacich rôzne nezmysli, pričom výsledné videá vyzerajú ako skutočné. A to dokonca aj v reálnom čase. Ako táto technológia funguje v praxi sa môžete pozrieť vo videu nižšie.
Vcelku vysoká úspešnosť detekcie Deepfakes. Stále to však nie je dosť
Facebook píše, že sa im podarilo vytvoriť obrovský set dát, ktorý predstavuje viac ako 100-tisíc videí nahraných prostredníctvom viac ako 3 tisíc hercov. Následne experti z DFDC si dali za cieľ detegovať falošné videá prostredníctvom nimi vyvinutých algoritmov (ide o 2114 expertov). Celkovo nahrali do systémov viac ako 35-tisíc modelov detekcie Deepfakes.
Facebook hovorí, že úspešnosť najlepšieho modelu detekcie bola na úrovni 82,56%. Podarilo sa im tak odhaliť viac ako tri štvrtiny falošných videí. Druhým dychom však treba dodať, že je to stále málo. Zároveň ide o výsledok verejne dostupných videí, ktoré boli vytvorené profesionálnymi hercami pre tento účel.
„Model s najvyššou výkonnosťou v súbore verejných údajov dosiahol priemernú presnosť 82,56 percenta,…“ píše Facebook.
Výsledok v praxi je však o niečo horší
Facebook ďalej píše, že v prípade black box data setu, úspešnosť najlepších modelov bola výrazne nižšou. Ide o 10-tisíc videí, ktoré neboli súčasťou dát vytvorených profesionálnymi hercami. Inými slovami, ide o videá voľne šíriace sa na internete. Ten najlepší model dosiahol úspešnosť detekcie len na úrovni 65,18%.
„Žiadny z 2 114 účastníkov, medzi ktorých patrili poprední odborníci z celého sveta, nedosiahli priemernú úspešnosť na úrovni 70 percent…“ píše Facebook.
Technológia Deepfakes je tak aj naďalej strašiakom, pričom každým dňom sa zdokonaľuje. V súčasnosti tie najlepšie algoritmy sú schopné vytvoriť takmer ľudským okom nerozoznateľné falošné videá od tých skutočných.
Neprehliadnite
Komentáre