Confruntati cu exploatarea datelor de anumiti dezvoltatori de inteligenta artificiala (AI), artistii îsi "saboteaza" în mod deliberat creatiile pentru a le face inutilizabile, cu ajutorul cercetatorilor universitari, scre AFP. Paloma McClain este o ilustratoare americana. O serie de programe de inteligenta artificiala generativa sunt deja capabile sa creeze imagini inspirate de stilul ei, desi artista nu si-a dat niciodata acordul si nu va obtine nimic din punct de vedere financiar. "M-a deranjat", explica designerul, stabilit în Houston (Texas). "Nu sunt o artista cunoscuta, dar ma simteam inconfortabil la ideea ca munca mea sa fie folosita pentru a antrena" un model de inteligenta artificiala. Pentru a remedia acest lucru, ea si-a trecut lucrarile prin Glaze, un program care adauga pixeli, invizibili pentru ochiul uman, la ilustratiile sale pentru a perturba activitatea AI. Dupa acest tratament, imaginile create sunt neclare, fetele sunt estompate, fara nicio comparatie cu originalele. "Încercam sa furnizam instrumentele tehnologice care sa protejeze creatorii umani de abuzurile modelelor generative de inteligenta artificiala", explica Ben Zhao, cercetator la Universitatea din Chicago, a carui echipa a creat Glaze. "O problema serioasa" Alertat în noiembrie 2022, acest profesor de informatica a dezvoltat softul în doar patru luni, folosind lucrari anterioare menite sa perturbe recunoasterea faciala. "Am lucrat la turatie maxima, deoarece stiam ca problema este grava", spune Ben Zhao. "O multime de oameni sufereau". Gigantii inteligentei artificiale generative au încheiat acorduri pentru a-si asigura drepturile de utilizare a anumitor continuturi, dar marea majoritate a datelor, imaginilor, textelor sau sunetelor folosite pentru dezvoltarea modelelor au fost utilizate fara consimtamânt explicit. De la lansarea sa, Glaze a fost descarcat de peste 1,6 milioane de ori, potrivit cercetatorului, a carui unitate se pregateste sa lanseze un nou program numit Nightshade. Nightshade se concentreaza pe indicatiile pe care utilizatorul unui model generativ de inteligenta artificiala le transmite pentru a obtine o noua imagine. Scopul sau este de a deraia algoritmul, care va propune, de exemplu, o imagine a unei pisici atunci când a fost solicitat un câine. O alta initiativa este cea a start-up-ului Spawning, care a dezvoltat Kudurru, un software care detecteaza încercarile de colectare masiva de imagini de pe platformele de imagini. Artistul are apoi optiunea de a bloca accesul la opera sa sau de a trimite o alta imagine decât cea solicitata, "ceea ce echivaleaza cu otravirea" modelului de inteligenta artificiala în curs de dezvoltare si afecteaza fiabilitatea acestuia, descrie Jordan Meyer, cofondator al Spawning. Mai mult de o mie de site-uri web au fost deja integrate în reteaua Kudurru. Spawning a creat, de asemenea, Have I Been Trained? (haveibeentrained.com), un site care permite sa afli daca imaginile au fost introduse într-un model de inteligenta artificiala si le ofera proprietarilor acestora posibilitatea de a le proteja împotriva utilizarii neautorizate în viitor. Pe lânga imagini, cercetatorii de la Universitatea Washington din St. Louis (Missouri) si-au îndreptat atentia catre sunet si au dezvoltat AntiFake. "Acest software îmbogateste un fisier de sunet cu zgomote suplimentare, imperceptibile pentru urechea umana, care fac imposibila imitarea credibila a unei voci umane", explica Zhiyuan Yu, doctorandul care a realizat acest proiect. Programul vizeaza în special prevenirea "deepfakes", adica a montajelor foto sau video hiperrealiste care se folosesc de înfatisarea unei persoane, adesea o celebritate, pentru a o face sa faca sau sa spuna ceva. Echipa, supravegheata de profesorul Ning Zhang, a fost contactata recent de producatorii unui podcast de succes, care doreau sa îl protejeze împotriva deturnarii, potrivit lui Zhiyuan Yu. Desi pâna acum a fost folosit doar pentru limbajul vorbit, AntiFake ar putea proteja si vocile cântaretilor, potrivit cercetatorului, al carui software este disponibil gratuit. Unitatea lui Ben Zhao a fost abordata de "mai multe companii care doresc sa foloseasca Nightshade pentru a-si proteja imaginile si proprietatea intelectuala", potrivit universitarului din Chicago. El nu se opune ca societatile, chiar si cele mari, sa foloseasca programul sau. "Scopul este ca oamenii sa îsi poata proteja continutul, indiferent daca sunt artisti individuali sau companii cu o cantitate uriasa de proprietate intelectuala", spune Ben Zhao. În cazul Spawning, ideea nu este doar de a obstructiona, ci si, într-o etapa ulterioara, de a "permite oamenilor sa se organizeze pentru a-si vinde datele în schimbul unei plati", explica Jordan Meyer, care anunta lansarea unei platforme la începutul anului 2024. "Cea mai buna solutie", spune el, "ar fi o lume în care toate datele utilizate pentru inteligenta artificiala sa fie supuse consimtamântului si platii. Speram sa împingem dezvoltatorii în aceasta directie".
