Zrobiłem X, ale nikt mi nie pogratulował, bo jestem ze wsi
Ta kobieta kończy dzisiaj X lat, ale nikt nie złożył jej życzeń, bo jest ze wsi
Dzisiaj się zaręczyliśmy, ale nikt nam nie złożył życzeń, bo jesteśmy biedni
Przymruż oczy, widzisz twarz Jezusa?
Od kilku tygodni social media zalewają różne wariacje tego typu postów. Łączą je dwie rzeczy:
1. są do nich dołączone grafiki wygenerowane przez AI,
2. są publikowane przez podejrzanie wyglądające konta społecznościowe, które:
a) zazwyczaj posiadają już sporo obserwujących (kilka, kilkanaście, a czasami nawet kilkadziesiąt tysięcy obserwujących),
b) z dużą częstotliwością publikują treści wyłącznie rozrywkowe, nastawione typowo na pozyskiwanie interakcji,
c) nie są profilami konkretnych firm, instytucji, osób czy twórców cyfrowych, a ich nazwy są bardzo ogólne, nie wiadomo kogo reprezentują, kto się za nimi kryje.
Autorzy tych postów skutecznie wykorzystują zarówno AI jak i nowy sposób działania algorytmów społecznościowych. A te częściej wyświetlają teraz użytkownikom treści, które zyskują na popularności zamiast pochodzące z obserwowanych przez niż kont. Niestety ułatwia to zadanie kombinatorom i oszustom.
Meta walczy z wymuszaniem interakcji, ale nieskutecznie
Tego typu treści w bardzo sprytny sposób obchodzą zabezpieczenia, jakie aktualnie wprowadzają Facebook i Instagram. Poniżej informacja o nowych ograniczeniach, jaką kilka tygodni temu otrzymałem od supportu Mety.
Wszelkie wariacje słów: polub, komentarz, napisz, podziel, udostępnij, prośba, reakcja. Wszystkie pytania czy zachęta do napisania czegoś w komentarzach, zareagowania, kliknięcia, używanie słów kluczy czy podzielenia się czymś jest uznane na Platformie za wyłudzanie aktywności. Dlatego post jest oflagowany jako ogólnie odbierany negatywnie. Każda aktywność powinna wynikać z autentycznej wewnętrznej chęci Użytkownika do zareagowania w jakiś sposób na materiały na Platformie. Jeżeli pojawia się cokolwiek z powyżej wymienionych, to jest już zewnętrzna potrzeba.
Treści typu „polub/udostępniaj, jeśli się zgadzasz” zaczynają być już przez Metę blokowane. Wszystkie posty w stylu „…ale nikt nie pogratulował” zachęcają do interakcji (w domyśle: pogratulowania), ale nie robią tego wprost. Tym samym skutecznie obchodzą zabezpieczenia, które dopiero zaczyna wprowadzać Meta.
Ktoś próbuje dotrzeć do bardzo konkretnej grupy docelowej
Zwróć uwagę, że treści te są adresowane do osób, które prawdopodobnie:
– pochodzą terenów wiejskich,
– są w podeszłym wieku,
– są wierzące,
– są mało zaawansowane technologicznie, ponieważ nie zdają sobie sprawy, że obrazek w poście został wygenerowany przez AI.
Prawdopodobnie są to osoby o poglądach bardziej prawicowych niż lewicowych, którymi łatwo manipulować.
Gdyby ktoś w trakcie np. nadchodzącej kampanii wyborczej chciał kierować reklamy do tego typu grupy, byłoby mu ciężko stargetować precyzyjnie reklamy przy obecnych opcjach konfiguracji (coraz mniej szczegółowych opcji kierowania na podstawie zainteresowań użytkowników). Zawsze może jednak postawić jakieś konto-wydmuszkę, które będzie publikowało treści angażujące konkretną grupę docelową, a potem kierować reklamy do zaangażowanych przez nie użytkowników.
Oprócz siania propagandy wśród użytkowników prawdopodobnie podatnych na nią bardziej niż ogół społeczeństwa, dane mniej świadomych użytkowników można również wykorzystać do różnego rodzaju oszustw internetowych. Na zasadzie: nabrałeś się nasz obrazek wygenerowany przez AI, być może nabierzesz się też na wujka z Kanady, który chce zapisać Ci spadek w testamencie albo Brada Pitta, który się w Tobie zakochał.
Uważam, że ktoś odpowiedzialny za bezpieczeństwo w polskim internecie powinien przyjrzeć się tej sprawie. Zbadać, kto stoi za tymi kontami i dlaczego stały się one szczególnie aktywne na pół roku przed wyborami prezydenckimi w Polsce, które odbędą się w maju 2025.
Chałkoń = pierwszy viral bazujący na AI
Strona na Facebooku o nazwie Polska w dużych dawkach opublikowała 7 stycznia post o treści „Ta kobieta upiekła chałkonia ale nikt jej nie pogratulował” wraz z poniższa grafiką, oczywiście wygenerowaną przez AI.
Post prześmiewczy wobec tego, co od tygodni obserwujemy na naszych wallach. Zapoczątkował on jednak całą serię podobnych, które tworzyły nawet duże marki: IKEA, Żabka, Auchan, Kaufland, OLX. Oczywiście za profilami tych marek nie kryją się żadne podejrzane interesy – wszyscy wiedzą, co to za firmy i jaki jest ich cel. Niemniej świadomie lub też nie, ale wykorzystują one formę komunikacji, która ostatnio kojarzona jest raczej z podejrzanymi działaniami.
To pierwsza, ale jestem przekonany, że nie ostatnia fala viralowych memów, które bazują na GenAI.
