Jednym z zagrożeń związanych z rozwojem sztucznej inteligencji są deepfejki oraz klonowanie głosu. Dzięki AI możliwe jest tworzenie lub modyfikowanie zdjęć, filmów i nagrań audio w taki sposób, aby wyglądały lub brzmiały jak prawdziwe. W efekcie można stworzyć materiał przedstawiający osobę w sytuacji, która nigdy nie miała miejsca, lub wygenerować głos do złudzenia przypominający głos członka rodziny, znajomego czy współpracownika. 

Takie materiały mogą służyć do ośmieszania innych, niszczenia reputacji, rozpowszechniania fałszywych informacji, również do oszustw.  

Przestępcy tworzą fałszywe materiały z udziałem znanych osób, ekspertów, lekarzy czy celebrytów. Wykorzystują ich wizerunek, aby promować rzekomo pewne inwestycje, zachęcać do zakupu fałszywych produktów, rozpowszechniać dezinformację lub zwiększać wiarygodność innych oszustw. Znana twarz ma wzbudzić zaufanie i skłonić odbiorcę do podjęcia decyzji, której w normalnych okolicznościach prawdopodobnie by nie podjął. 

 

Fałszywe wiadomości głosowe i tekstowe 

Rozwój narzędzi AI sprawia, że do stworzenia syntetycznej próbki głosu może wystarczyć zaledwie kilka sekund nagrania. Taką próbkę cyberprzestępcy mogliby pozyskać z filmów opublikowanych w internecie, nagrań zamieszczonych w mediach społecznościowych czy wiadomości głosowych wysyłanych za pośrednictwem komunikatorów. AI analizuje m.in. ton głosu, tempo mówienia i sposób wymawiania słów, aby wygenerować nagranie przypominające głos konkretnej osoby. 

Choć o takim wykorzystaniu AI mówi się coraz częściej, obecnie znacznie częściej spotykane są oszustwa wykorzystujące wiadomości tekstowe oraz przejęte konta w mediach społecznościowych, komunikatorach czy poczcie elektronicznej. W obu przypadkach celem jest przekonanie odbiorcy, że kontaktuje się z nim bliska lub zaufana osoba. 

Scenariuszy jest wiele. Może to być wiadomość od rzekomego znajomego z prośbą o pieniądze, ponieważ: 

• czeka w kolejce do kasy i zorientował się, że nie ma przy sobie ani karty, ani portfela, 

• dostał mandat i musi szybko uregulować płatność, 

• zepsuł się telefon, który trzeba naprawić i kontaktuje się z urządzenia kolegi, 

• na opłacenie czynszu, którego termin wypada właśnie dzisiaj. 

Każda z tych historii brzmi wiarygodnie. Jeśli wiadomość pochodzi z konta należącego do znajomej osoby lub jest napisana w charakterystycznym dla niej stylu, łatwiej uwierzyć, że jest prawdziwa.  

Jeśli przestępca przejmie Twoje konto w komunikatorze, mediach społecznościowych lub skrzynkę e-mail, może uzyskać dostęp do wcześniejszej korespondencji. Narzędzia sztucznej inteligencji pozwalają w krótkim czasie przeanalizować dużą liczbę wiadomości i wychwycić charakterystyczne elementy komunikacji, takie jak: 

• sposób pisania, 

• najczęściej używane zwroty, 

• emocje pojawiające się w wypowiedziach, 

• formy zwracania się do innych 

• osoby, z którymi kontaktujesz się najczęściej,  

• przede wszystkim – informacje, którymi dzielisz się z innymi oraz relacje z najbliższymi. 

Na tej podstawie cyberprzestępcy mogą przygotowywać spersonalizowane wiadomości do wielu osób jednocześnie, np. z prośbą o pilną pożyczkę, przesłanie kodu BLIK lub wykonanie przelewu. 

Widząc wiadomość od bliskiej osoby , nie zastanawiamy się zbytnio nad tym, czy wiadomość jest prawdziwa. Oszuści dodatkowo stosują: 

• presję czasu, próbując przekonać, że potrzebują pilnego wsparcia teraz, zaraz, 

• angażowanie emocjonalne, przekonywanie, że wydarzyło się coś niespodziewanego i to właśnie Ty możesz pomóc, 

• manipulacje, wysyłając prośby o stosunkowo niewielkie kwoty. 

 

O czym warto pamiętać, kiedy ktoś zwraca się z prośbą o pieniądze?  

Rozwój sztucznej inteligencji sprawia, że coraz trudniej odróżnić prawdziwe nagrania od tych wygenerowanych przez AI. Dlatego warto zachować ostrożność i stosować kilka prostych zasad bezpieczeństwa. 

• Myśl krytycznie – nie ufaj wyłącznie głosowi ani otrzymanym wiadomościom. Zastanów się, czy prośba jest wiarygodna i czy nie ma na celu wywołania presji. 

• Weryfikuj – potwierdź tożsamość rozmówcy innym kanałem komunikacji. Jeśli otrzymasz wiadomość lub telefon z prośbą o pilną pomoc, zadzwoń na znany Ci numer tej osoby i upewnij się, że faktycznie się z Tobą kontaktowała. 

• Zwracaj uwagę na sygnały ostrzegawcze – presja czasu, silne emocje, prośba o zachowanie tajemnicy lub natychmiastowe przekazanie pieniędzy powinny wzbudzić Twoją czujność. 

• Chroń swoje konta – stosuj silne, unikalne hasła oraz uwierzytelnianie wieloskładnikowe (MFA), aby utrudnić cyberprzestępcom przejęcie dostępu. 

• Kontroluj aktywność – regularnie sprawdzaj historię logowań i powiadomienia o próbach logowania do swoich kont. 

• Dbaj o prywatność – ogranicz widoczność publikowanych treści, korzystaj z ustawień prywatności i zastanów się, jakie zdjęcia, filmy oraz nagrania głosowe udostępniasz w internecie. 

• Poszerzaj swoją wiedzę – śledź informacje o nowych metodach oszustw i rozmawiaj o nich z rodziną oraz znajomymi. 

Technologia stale się rozwija, a wraz z nią metody wykorzystywane przez cyberprzestępców. Choć deepfejki i klonowanie głosu stają się coraz bardziej przekonujące, to właśnie świadomy użytkownik pozostaje najskuteczniejszą linią obrony. Krytyczne myślenie, weryfikacja informacji i ostrożność to najlepsze narzędzia w walce z cyfrową manipulacją.

 

 

Artykuł wyraża jedynie poglądy autorów i nie może być utożsamiany
z oficjalnym stanowiskiem Ministerstwa Cyfryzacji