Meta plănuiește să introducă profiluri AI pe Facebook și Instagram, care vor acționa ca utilizatori reali. Vor avea descrieri, poze de profil și capacitatea de a genera și partaja conținut.
Prin lansarea acestor profiluri AI, Meta își dorește să crească interacțiunea și utilizarea aplicațiilor prin oferirea de engagement artificial utilizatorilor, cum ar fi like-uri, comentarii și urmăritori.
„Ne așteptăm ca aceste AI-uri să existe, în timp, pe platformele noastre, într-un mod similar conturilor obișnuite. Vor avea biografii și poze de profil și vor putea genera și distribui conținut generat de AI pe platformă.” – Connor Hayes, Vicepreședinte de produs pentru gen AI la Meta
Mai e important de menționat aici și ce a zis Mark Zuckerberg, CEO-ul Meta, despre AI și integrarea în produsele Meta:
„Fiecare aspect al activității noastre va fi schimbat într-un fel sau altul [de către AI]. [De exemplu], feed-urile vor trece de la conținutul prietenilor – care era deja predominant – la conținut creat în mare parte de creatori. În viitor, o mare parte din acesta va fi generată de AI.”
Deși criticii consideră că acest tip de interacțiune este artificial și problematic, Meta mizează pe faptul că utilizatorii vor aprecia creșterea numerelor, indiferent dacă vine de la oameni reali sau de la boți. Profilurile AI ar putea oferi și răspunsuri utile în discuții, cum ar fi recomandări personalizate.
Cred că unii utilizatori / creatori de conținut / influenceri vor fi încântăți de creșterea engagementului, indiferent dacă e făcut de utilizatori reali sau de boți. Alții (probabil mai puțini) vor dori să aibă interacțiuni autentice de la oameni.
În același timp, conținutul generat de AI va fi tot mai popular. E rapid de creat. Dar o problemă care se conturează e cea a ‘camerei de ecou’. Problema e de fapt conturată deja. Se văd deja efectele algoritmului actual.
Modul în care e construit algoritmul actual consider că izolează foarte mult și diminuează gândirea critică. Algoritmul actual e construit pe preferințele tale – ți le identifică și îți oferă conținut bazat pe ce învață despre tine. Dacă nu îl influențezi constant prin căutări și altfel de conținut, ajungi să trăiești într-o bulă online, unde sunt doar oameni cu opinii și credințe asemănătoare cu ale tale. Oameni sau boți AI asemănători cu tine.
Nu mai ești expus la alte lucruri, opinii, evenimente, locuri, oameni și tot așa. Fiecare din noi trebuie să facă un efort pentru a-și diversifica conținutul. Pentru a vedea și altceva decât conținut care îți întărește opiniile și credințele. Pentru că aici e problema: să crezi ceva și să nu cauți răspunsuri, dovezi; ai o opinie și tu o consideri un adevăr, cu toate că nu ai căutat informații de pe urma cărora să îți faci tu propriile opinii.
Meta pariază că dorința utilizatorilor de a vedea engagement crescut va depăși orice preocupări legate de autenticitate. Engagement cu orice preț.
Credeați că a fost complicat 2024 cu toată dezinformarea de pe rețelele sociale. Va deveni tot mai complicat să ai încredere în ce vezi / citești.
Tu ce părere ai? Preferi să crească cifrele, chiar și în mod artificiali, sau preferi interacțiuni reale?
UPDATE: Se pare că există deja sute de mii de astfel de profiluri, dar cele mai multe sunt private.
UPDATE (6 ianuarie): În 2023, Meta a lansat 28 de profiluri AI. În vara anului trecut, au decis să le închidă, doar că nu le-au închis pe toate. Și acum, în contextul declarațiilor de mai sus, utilizatorii au devenit foarte vocali în nemulțumirile lor.
Profilurile au fost șterse, iar reprezentații Meta au oferit un răspuns oficial pentru Fast Company:
„Există o confuzie: articolul recent din Financial Times se referea la viziunea noastră privind existența personajelor AI pe platformele noastre pe termen lung, nu la anunțarea unui produs nou. Conturile menționate fac parte dintr-un test pe care l-am lansat la Connect în 2023. Acestea erau gestionate de oameni și făceau parte dintr-un experiment timpuriu pe care l-am realizat cu personaje AI. Am identificat eroarea care afecta capacitatea utilizatorilor de a bloca aceste AI-uri și eliminăm acele conturi pentru a remedia problema.”
Cei de la Engadget au scos în evidență alte declarații ale lui lui Hayes dintr-un interviu de anul trecut:
„La începutul aplicațiilor de socializare, volumul de conținut pe care îl puteai vedea într-o zi era cumva limitat de cine urmăreai sau cu cine erai prieten. În ultimii cinci sau șase ani, multe aplicații — inclusiv noi — au început să relaxeze această limitare și să recomande conținut de la conturi pe care nu le urmărești. (…) Cred că următorul salt care se va întâmpla va fi relaxarea limitei privind ceea ce pot crea oamenii și trecerea către feed-uri care combină conținut creat de oameni cu conținut generat în întregime de mașini.”
Problema reală e că devine că e inevitabil ca feed-urile noastre să fie tot mai invadate de AI – atât de conținut, cât și de profiluri (vezi planurile Meta). Social media se îndepărtează tot mai mult de partea socială, de comunicare și conexiune între oameni. Aș ține să menționez și faptul că Meta a ascuns tot mai adânc eticheta ”Made with AI” de la postări. Deci știm deja ce fel de viitor va fi pe platformele Meta.
La fel de important e modul în care va fi afectată publicitatea – business-urile plătesc pentru a ajunge la oameni, nu la conturi automatizate.
