TikTok, znany ze swojej wirusowości i szybko krążących trendów cyfrowych, stał się żyznym gruntem dla oszustw finansowych, szczególnie tych związanych z kryptowalutami. Szeroki zasięg platformy, w połączeniu z jej atrakcyjnością dla młodszych odbiorców, stanowi atrakcyjną perspektywę dla oszustów mających na celu wykorzystanie niczego niepodejrzewających użytkowników.
Oszustwa działają pod pozorem legalności, często zaczynają się od deepfake’owego filmu znanego autorytetu popierającego giełdę kryptowalut. Użytkowników kusi się do zarejestrowania się na rzekomej giełdzie przy użyciu kodu promocyjnego, który rzekomo zasili ich konto znaczną ilością bitcoina. Jednak przy próbie wypłaty tych środków, platforma wymaga wstępnego przelewu bitcoina, aby „zweryfikować” konto użytkownika. Niewiedzące ofiary, które przestrzegają tego wymogu, odkrywają, że nie tylko obiecany bitcoin jest nieosiągalny, ale także wszelkie przelane na platformę środki są bezpowrotnie stracone przez cyberprzestępców prowadzących oszustwo.
W sercu tych oszustw leży nielegalne wykorzystanie sztucznej inteligencji (AI) do tworzenia filmów deepfake. Popularne osobistości takie jak Elon Musk, Mr. Beast, Sam Altman, Warren Buffet, Joe Rogan, Donald Trump i Tucker Carlson są naśladowani w fałszywych rekomendacjach giełd kryptowalut. Te sfabrykowane poparcia zwabiają użytkowników obietnicami znacznych nagród w Bitcoinie, przygotowując scenę dla oszustw finansowych.
Próbka filmu krążącego na TikToku naśladująca Elona Muska
Próbka filmu krążącego na TikToku naśladująca Donalda Trumpa
Złośliwe wykorzystanie AI, zwłaszcza technologii deepfake, podkreśla eskalację wyrafinowania cyberprzestępców. Tworząc przekonujące fałszywe filmy znanych osób, oszuści skutecznie manipulują publicznym zaufaniem. To wykorzystanie nie tylko pokazuje niepokojący trend cyberzagrożeń na platformach mediów społecznościowych, ale również stanowi przykład potencjału AI w zwiększaniu skuteczności oszustw finansowych. Technologia deepfake, kiedyś domena wysoko wykwalifikowanych osób, staje się coraz bardziej dostępna, co czyni coraz trudniejszym odróżnienie prawdziwych poparć od sfabrykowanych.
Początkowo ograniczone do anglojęzycznych odbiorców, te oszustwa przekroczyły bariery językowe, przenikając do regionów nienależących do anglojęzycznych. Ostatnie przejawy tych oszustw zaobserwowano w różnych językach, w tym hiszpańskim, niemieckim, włoskim i francuskim, odzwierciedlając rozszerzający się krajobraz zagrożeń. Wielojęzyczna ekspansja tych oszustw świadczy o globalnym zagrożeniu i podkreśla konieczność międzynarodowej współpracy w zwalczaniu tych oszustw napędzanych przez AI.
Zrzuty ekranu filmów oszukańczych w języku włoskim i francuskim krążących na TikToku
Chociaż TikTok jest głównym miejscem tych oszustw, dowody wskazują na wieloplatformowe podejście złowrogich aktorów. Platformy takie jak YouTube również były wykorzystywane do rozpowszechniania treści oszukańczych, wskazując na szersze cyfrowe ślady i rozszerzony zasięg tych oszukańczych praktyk. Sam TikTok ma ponad 1 miliard aktywnych użytkowników miesięcznie, co czyni powierzchnię ataku ogromną. Kiedy zaczęliśmy blokować dostęp do tych oszukańczych stron internetowych, ochroniliśmy kilka tysięcy użytkowników w ciągu kilku dni.
Oszustwa na TikToku nie są odosobnionymi incydentami, ale raczej wskaźnikami rosnącego trendu zagrożeń związanych z sztuczną inteligencją. Łatwość rozpowszechniania dezinformacji za pomocą technologii deepfake, w połączeniu z pokusą szybkich zysków finansowych, to potężna kombinacja, która może torować drogę do bardziej wyrafinowanych oszustw w przyszłości. Potencjalne konsekwencje wykraczają poza indywidualną stratę ekonomiczną, prowadząc do szerszego podważania zaufania do cyfrowych platform i znaczących osobistości.
Luis Corrons, Ewangelista Bezpieczeństwa
