Utilizatorii de Facebook spun „Amin” unor imagini bizare cu Iisus, generate de inteligența artificială

Sursa: https://www.nbcnews.com/tech/tech-news/facebook-users-say-amen-bizarre-ai-generated-images-jesus-rcna143965

Utilizatorii de Facebook spun ‘amin’ unor imagini bizare cu Iisus generate de inteligența artificială

Imaginile extravagante adună sute de milioane de vizualizări pe platforma de socializare, ceea ce îi face pe unii utilizatori să se teamă de escrocherii.

De Angela Yang, 19 Martie 2024, NBC News

Vaci extrem de musculoase. Rechini sărind dintr-o mare noroioasă. Iisus din creveți: imagini ciudate care par a fi generate de inteligența artificială stârnesc reacții pe Facebook, lăsând utilizatorii amuzați, nedumeriți și în gardă în caz de escrocherii.

Majoritatea imaginilor provin de la zeci de pagini de Facebook care postează aproape la fiecare oră din zi, multe dintre ele centrate în mod inexplicabil pe teme care îl implică pe Iisus și însoțitoarele de bord. Unele dintre aceste pagini și-au creat un număr considerabil de adepți în ultimele luni, iar postările au adunat deseori comentarii care variază de la laude de tip chat-bot la comentarii răutăcioase la adresa utilizatorilor care par să creadă că imaginile sunt reale.

Imaginile au primit sute de milioane de vizualizări pe platformă, potrivit unei noi analize efectuate de Stanford Internet Observatory, care a studiat 120 de astfel de pagini, dintre care unele sunt aparent conduse de aceiași administratori.

Reprezentările artistice complicate cu Iisus ca temă, fie că sunt construite folosind sticle de plastic sau sculptate în nisip, se numără printre cele mai frecvente imagini. Mai recent, Iisus a căpătat forme din creaturi marine, în principal creveți, crabi și căluți de mare

. ‘Realizate cu propriile mele mâini! 😊’, susțin postările, lamentându-se adesea: ‘Nimănui nu-i plac operele mele de artă 😭😭’.

Iar însoțitoarele de bord, majoritatea părând a fi asiatice, sunt frecvent înfățișate rugându-se împreună cu Iisus, ținând cruci și fiind pline de noroi. În ceea ce pare a fi un eveniment încrucișat, unele imagini arată chiar însoțitoare de zbor care pozează cu Iisus creveți.

De asemenea, sunt deosebit de populare imaginile cu tineri copii de culoare care prezintă opere de artă magistrale pe care se presupune că le-au construit, cum ar fi un Iisus făcut din fructe, mașini făcute din sticle de plastic și tigri făcuți din anvelope. Acești ‘băieți din Africa’ sunt ‘💪 Dintre cei mai buni designeri din Village❤️👍💪🙏’, potrivit legendelor de pe unele dintre postări, care continuă să declare: ‘Realizate cu propriile mele mâini!’.

Multe dintre imaginile generate de inteligența artificială atrag fluxuri de utilizatori care comentează ‘Amin’ la imagini bizare cu Iisus, laudă munca impresionantă a unor artiști inexistenți sau urează la mulți ani unor copii falși care stau jalnic în noroi. 404 Media, un startup de știri axat pe tehnologie, a fost primul care a raportat despre imaginile AI care au inundat Facebook.

Marea majoritate a imaginilor sintetice nu indică în postări sau pe pagini că sunt generate de inteligența artificială, chiar dacă Meta cere utilizatorilor să eticheteze conținutul generat de inteligența artificială pe platformele sale, în timp ce lucrează la metode de detectare automată a acestui tip de conținut.

Meta nu a răspuns la o solicitare de comentarii.

Pe măsură ce tehnologia IA generativă facilitează propagarea de conținut înșelător și dezinformarea totală, cercetătorii în domeniul informațiilor au devenit din ce în ce mai îngrijorați de implicațiile pe care le poate avea inundarea necontrolată a platformelor sociale de imagini IA.

Deși anumite caracteristici ale artei generate de inteligența artificială pot face mai ușor deosebirea între imaginile reale și cele sintetice, lipsa etichetării sistematice i-a făcut pe unii utilizatori – în special pe cei mai în vârstă – să se lase păcăliți de conținutul falsificat, potrivit comentariilor la multe dintre postări. Paginile de Facebook respective nu au prezentat motive clare pentru spamul lor cu inteligență artificială, dar utilizatorii semnalează deja potențialul unei operațiuni de înșelăciune.

Studiul de la Stanford, care nu a fost încă revizuit de colegi, a constatat, de asemenea, că unele dintre imagini au fost postate de pe pagini de Facebook care au fost furate de la alte persoane sau organizații, inclusiv de la o biserică din Georgia și de la un vânzător de mori de vânt, și apoi reproduse în pagini de spam cu IA.

O astfel de pagină, acum plină de imagini IA cu Iisus și însoțitoare de bord, a păstrat numele unei formații de liceu din Carolina de Nord. Karen Jarvis, o purtătoare de cuvânt a Davie County Schools, a confirmat într-un e-mail că pagina Davie High School Davie High School War Eagle Bands nu mai este acum afiliată cu școala, care a fost nevoită să creeze o nouă pagină.

„De fapt, a fost pagina de Facebook originală a DCHS Band, dar a fost deturnată de la formația noastră de liceu și de atunci a devenit ceea ce vedeți astăzi”, a scris Jarvis.

„Au existat nenumărate încercări (din partea directorului fanfarei, a oficialilor școlii, a membrilor actuali ai fanfarei și a absolvenților) de a recâștiga controlul, de a raporta pagina/imaginile etc., dar Facebook nu a răspuns.”

Fenomenul i-a determinat, de asemenea, pe unii observatori să speculeze că paginile în cauză îi ademenesc pe unii utilizatori creduli să identifice potențiale ținte de înșelăciune.

„Conținutul generat de inteligența artificială pare să fie o binecuvântare pentru autorii de spam și înșelăciune, deoarece imaginile sunt ușor de generat, sunt adesea senzaționale din punct de vedere vizual și atrag implicarea”, au scris cercetătorii de la Stanford în lucrarea lor preprint.

Aceștia au scris că paginile folosesc ‘loturi de urmăritori neautentici’ pentru a-și da o aparență mai legitimă, precum și pentru a se angaja cu comentatorii reali, iar conturile de escrocherie ar căuta uneori informații personale de la comentatori sau ar încerca să le vândă produse false.

O căutare efectuată de NBC News a găsit mai multe răspunsuri de la conturi care cereau să se împrietenească cu comentatorii, fiecare folosind un scenariu similar. Un comentator care a scris: ‘Îmi place!!! Atât de drăguț!!!’ la o imagine generată de inteligența artificială cu un copil mic cuibărit într-un coș cu pisoi, a primit un răspuns în câteva ore de la un cont creat recent sub numele Stephen Townsend. Contul, care nu a răspuns la o solicitare de comentarii, nu afișa informații personale sau postări în afară de un profil și o fotografie de copertă, ambele încărcate în aceeași zi.

„Bună ziua, Sincer, sunt foarte impresionat de profilul și personalitatea ta. De asemenea, îți admir simțul umorului aici. De obicei nu scriu în secțiunea de comentarii, dar cred că meriți acest compliment”, a răspuns profilul.

„Mi-ar plăcea să fiu prietenul tău. Te rog frumos să-mi trimiți o cerere de prietenie. Dacă nu te deranjează. Mulțumesc.”

Este același stil de comentariu întâlnit peste tot pe Facebook, lăsat de obicei ca răspuns la comentariile la postările populare ale IA, precum și direct pe paginile de profil ale utilizatorilor. Unii utilizatori care suspectează că paginile conduc potențiale campanii de înșelăciune lasă, de asemenea, propriile comentarii pentru a-i avertiza pe cei care nu reușesc să distingă anumite imagini ca fiind generate de IA.

Hazel Thayer, o utilizatoare de Facebook care a distribuit mai multe dintre imaginile bizare pe TikTok după ce le-a observat în feed-ul ei în urmă cu câteva săptămâni, a declarat că acum primește imagini IA ca acestea poate la fiecare 10 postări: ‘Derulez chiar acum. Tocmai am primit una – asta după patru postări’.

Și din perspectiva ei, cu siguranță arată ca o activitate falsă.

„Pentru că, dacă vezi comentariile acestor afurisite de „Iisus” din creveți, sunt numai oameni care spun ‘Amin’, ” a spus Thayer.

„Nu cred că cineva spune ‘Aleluia’ domnului nostru din creveți.”