Czy można sprawdzić, czy przez kamerę online rozmawialiśmy z prawdziwą osobą, a nie deepfake’iem? Naukowcy IDEAS NCBR – ośrodka badawczo-rozwojowego w obszarze sztucznej inteligencji – opracowali prototyp oprogramowania, które pozwoliłby na bezpieczniejsze rozmowy online. Rozwiązanie docelowo byłoby tanie, łatwe w skalowaniu i nie wymagałoby zaufania pośrednikowi, jak w przypadku podpisów elektronicznych.
W ostatnich latach coraz częściej słyszymy o przypadkach oszustw wykorzystujących deepfake’i. W Polsce, w marcu 2024 roku, fałszywe wideo z udziałem CEO InPost Rafała Brzoski, Andrzeja Dudy czy Roberta Lewandowskiego promowały oszukańcze “programy inwestycyjne” służące wyłudzaniu pieniędzy. W styczniu pracownik banku w Hong Kongu wypłacił 25 milionów dolarów oszustom, którzy podczas wideokonferencji podszyli się pod dyrektora finansowego firmy. Deepfake’i stają się coraz bardziej zaawansowane, a ich wykrycie coraz trudniejsze, co stawia przed nami nowe wyzwania w zakresie bezpieczeństwa cyfrowego.
W odpowiedzi na te zagrożenia, naukowcy z IDEAS NCBR stworzyli eksperymentalny projekt o nazwie ProvenView. Twórcami rozwiązania są postdoc Shahriar Ebrahimi i doktorantka Parisa Hassanizadeh, badacze z Iranu pracujący w grupie „Bezpieczeństwo systemów i prywatność danych” kierowanej przez prof. Stefana Dziembowskiego. ProvenView zostało nagrodzone podczas hackathonu ZK Hack Kraków w maju 2024 roku w kategorii „best proof of provenance project”.
– Technologia Zero-Knowledge Proofs (ZKP) jeszcze dekadę temu uważana była za dziedzinę wyłącznie teoretyczną, bliższą czystej matematyce niż zastosowaniom informatyki. W ostatnich latach byliśmy świadkami dramatycznej zmiany w tej dziedzinie. Stało się to dzięki wielu przełomowym usprawnieniom tej technologii, a także dzięki jej popularyzacji za sprawą blockchaina. Rozwiązanie ProvenView stanowi jeszcze jeden spektakularny przykład tego, jak ZKP może być wykorzystane w walce z zagrożeniami współeczesnego świata cyfrowego – mówi prof. dr hab. Stefan Dziembowski, lider grupy badawczej “Bezpieczeństwo systemów i prywatność danych" w IDEAS NCBR.
Sprawdzenie autentyczności wideo na wyciągnięcie ręki
ProvenView może znaleźć zastosowanie zarówno w codziennych interakcjach online, jak i w ochronie treści twórców. Na przykład, po zakończeniu spotkania online, użytkownik będzie mógł sprawdzić, czy wideo jego rozmówcy rzeczywiście pochodziło z jego kamery internetowej. Ale to nie koniec jego zastosowań.
– To rozwiązanie może się przydać zarówno użytkownikom indywidualnym, którzy mogliby go użyć do autoryzacji spotkań online, jak i twórcom treści, którzy dzięki temu mogliby wzmocnić ochronę swojego wizerunku opublikowanego w filmie na YouTube przed kradzieżą i wykorzystaniem np. w pornografii – mówi Shahriar Ebrahimi, postdoc w IDEAS NCBR.
Autoryzacja bez pośrednika, czyli tajemnice ZKP
ProvenView to prototypowe oprogramowanie, które wykorzystuje Zero-Knowledge Proofs (ZKP) do autoryzacji bez konieczności zaufania pośrednikowi. Na czym dokładnie polega ZKP? To technika kryptograficzna, która pozwala na udowodnienie prawdziwości pewnej informacji bez ujawniania jakichkolwiek szczegółów o niej.
Oto uproszczony przykład działania: w pierwszym kroku autor oryginalnego wideo tworzy cyfrowy dowód jego autentyczności. To taki cyfrowy zapis, który mówi: "To wideo jest prawdziwe i ja je stworzyłem". Oprogramowanie umożliwiające taki zapis może być wbudowane w aplikację do nagrywania wideo lub być osobnym programem. Podrobienie dowodu autentyczności opartego na ZKP jest niezwykle trudne ze względu na zaawansowane mechanizmy kryptograficzne, które są w nich wykorzystywane. W drugim kroku, kiedy ktoś chce sprawdzić autentyczność wideo, nie musimy mu pokazywać całego materiału. Zamiast tego, pokazujemy mu cyfrowy dowód. I właśnie tu pomaga nam Zero-Knowledge Proofs: dzięki zaawansowanej matematyce, dowód ten można sprawdzić bez potrzeby oglądania samego wideo.
– Zaletą ZKP (Zero-Knowledge Proofs) jest to, że osoba tworząca dowód autentyczności nie musi mieć zewnętrznych potwierdzeń zaufania, jak podpis elektroniczny. Każdy może generować takie dowody autentyczności na swoim własnym urządzeniu. Nazywa się to „generowanie dowodów po stronie klienta” (client-side proof generation). Dzięki temu rozwiązanie jest bardzo elastyczne i może obsłużyć wiele osób naraz, bez obciążania sieci. Niezależnie od tego, czy dowody generuje 10 osób, 10 tysięcy, czy nawet 10 miliardów osób, obciążenie sieci się nie zmienia – wyjaśnia Shahriar Ebrahimi, postdoc w IDEAS NCBR. – W przyszłości nasze rozwiązanie mogłoby stać się dodatkiem do przeglądarki internetowej albo programu do edycji wideo.
Dalszy rozwój projektu
ProvenView to rozwiązanie w fazie eksperymentalnej, które nie jest jeszcze gotowe do wdrożenia. Projekt w obecnym stadium to swoisty dowód słuszności koncepcji (proof-of-concept), że takie metody mogą być użytkowane w praktyce.
– W tej chwili dowody autentyczności można generować dopiero po zakończeniu tworzenia wideo. Dodatkowo, udowodnienie autentyczności jest bardzo czasochłonne i nie może być wykonane online, w czasie rzeczywistym. Przy obecnie dostępnej technologii możemy najszybciej udowodnić autentyczność wideo o niskiej liczbie klatek na sekundę (kl/s). Załóżmy, że oryginalne wideo z spotkania było nagrywane w 30 kl/s. Najpierw bardzo szybko sprawdzamy, czy w wersji w odcieniach szarości z 2 kl/s występuje jakaś nieprawidłowa aktywność. Później, dla większej pewności, sprawdzamy autentyczność wideo kolorowego. Ostatecznie dowód byłby dostępny na przykład godzinę po odbyciu rozmowy – dodaje Shahriar Ebrahimi, postdoc w IDEAS NCBR.
Dzięki dalszym pracom nad wydajnymi dowodami rekurencyjnymi, naukowcy z IDEAS NCBR mają nadzieję, że w przyszłości możliwe będzie udowodnienie autentyczności wideo w czasie rzeczywistym.
O IDEAS NCBR
IDEAS NCBR sp. z o.o. to ośrodek badawczo-rozwojowy działający w obszarze sztucznej inteligencji, powołany przez Narodowe Centrum Badań i Rozwoju. Naszą misją jest wsparcie rozwoju tej technologii w Polsce poprzez stworzenie platformy łączącej środowisko akademickie z biznesowym. Budujemy największą w Polsce przestrzeń przyjazną prowadzeniu innowacyjnych badań na światowym poziomie. Kształcimy nowe pokolenie naukowców, ukierunkowanych na praktyczne zastosowanie opracowanych algorytmów oraz ich późniejszą komercjalizację w przemyśle, finansach, medycynie i innych gałęziach gospodarki.