OpenAI ar pregăti o tehnologie de marcare a textelor generate de ChatGPT, menită să faciliteze identificarea conținutului creat cu ajutorul inteligenței artificiale. Sistemul, denumit „textGrain” în informațiile prezentate în materialul inițial, ar utiliza marcaje invizibile pentru cititor, care ar putea fi recunoscute ulterior cu ajutorul unui instrument special de detecție.
Potrivit informațiilor relatate de News.ro, tehnologia ar viza atât textele obișnuite generate de ChatGPT, cât și codul produs de instrumentele de programare bazate pe inteligență artificială. Ideea din spatele unui asemenea sistem este de a permite diferențierea mai ușoară a conținutului generat de un model AI de cel redactat de o persoană.
Subiectul apare într-un moment în care utilizarea inteligenței artificiale se extinde rapid în jurnalism, educație, programare, marketing și în activitățile de zi cu zi. În același timp, instituțiile, companiile și organizațiile educaționale caută metode prin care să poată identifica mai bine originea conținutului digital și să înțeleagă în ce măsură acesta a fost realizat cu ajutorul sistemelor automate.
Totuși, marcarea textelor generate de AI ridică și întrebări importante privind acuratețea identificării, protejarea conținutului, transparența și posibilitatea ca textele modificate de oameni să nu mai poată fi recunoscute de detectoare.
Cum ar funcționa marcajele invizibile din textele generate de ChatGPT
În mod obișnuit, un text generat de inteligența artificială nu conține o etichetă vizibilă care să indice automat cititorului că a fost produs de un model lingvistic. După copierea într-un document, publicarea pe un site sau transmiterea prin e-mail, textul poate arăta la fel ca unul redactat de o persoană.
Un sistem de watermarking textual încearcă să rezolve această problemă prin introducerea unor indicii identificabile în conținutul generat. Aceste indicii nu trebuie să fie vizibile sub forma unui simbol, a unei mențiuni sau a unui marcaj grafic. Ele pot fi reprezentate prin anumite tipare statistice în alegerea și distribuția cuvintelor, pe care un detector specializat încearcă să le recunoască.
Într-un astfel de mecanism, modelul generează textul într-un mod care respectă regulile sistemului de marcare. Ulterior, un instrument de verificare analizează conținutul și caută semnalele asociate acelei tehnologii.
Scopul nu este neapărat ca fiecare cuvânt să poarte un semn distinct, ci ca textul, privit în ansamblu, să conțină suficiente indicii pentru a putea fi evaluat statistic.
Această abordare ar putea permite identificarea unor texte fără a modifica aspectul lor obișnuit. Pentru utilizator, conținutul ar putea arăta ca orice alt răspuns produs de ChatGPT, în timp ce un detector compatibil ar încerca să stabilească dacă sunt prezente marcajele specifice.
Cu toate acestea, trebuie făcută o distincție importantă: identificarea unui tipar asociat unui anumit sistem nu înseamnă automat că poate fi demonstrată cu certitudine originea fiecărui text. Rezultatul depinde de metoda utilizată, de lungimea materialului și de eventualele modificări intervenite după generare.
2. Ce legătură are această tehnologie cu noile reguli europene
Unul dintre motivele pentru care OpenAI introduce marcaje invizibile este reprezentat de cerințele de transparență din Regulamentul european privind inteligența artificială, cunoscut sub numele de AI Act.
Regulile europene urmăresc ca anumite tipuri de conținut generate de inteligența artificială să poată fi identificate de sisteme informatice. Scopul este de a facilita recunoașterea originii conținutului și de a reduce riscul ca materialele produse automat să fie prezentate în mod înșelător drept conținut realizat în întregime de oameni.
OpenAI a anunțat la 5 octombrie 2026 că va introduce, în următoarele săptămâni, watermark-uri invizibile pentru textele eligibile generate de ChatGPT și Codex în Uniunea Europeană. În cazul dezvoltatorilor care folosesc API-ul OpenAI, funcția va putea fi activată pentru anumite modele, inclusiv în afara Uniunii Europene, însă nu va fi activată implicit la nivel global.
Această diferență este importantă. Anunțul nu înseamnă că toate textele generate de orice instrument de inteligență artificială vor primi automat același marcaj în toate țările. Implementarea descrisă de companie vizează anumite produse, modele și condiții de utilizare.
De asemenea, watermark-ul invizibil nu trebuie confundat cu o etichetă vizibilă de tipul „Generat cu inteligență artificială”. Marcajul este destinat identificării automate, în timp ce informarea directă a cititorului poate necesita alte măsuri, în funcție de context și de obligațiile legale aplicabile.
3. Ce este, mai exact, textGrain
Tehnologia textGrain se bazează pe modificarea subtilă a tiparelor statistice din alegerea cuvintelor. Atunci când un model lingvistic generează un text, există adesea mai multe variante prin care poate formula aceeași idee. Sistemul de marcare influențează aceste alegeri astfel încât rezultatul să conțină un semnal care poate fi recunoscut ulterior de un detector compatibil.
Marcajul nu presupune introducerea unor spații invizibile, caractere ascunse sau semne de punctuație neobișnuite. Potrivit explicațiilor publicate de OpenAI, semnalul este integrat în tiparul alegerilor lingvistice făcute de model.
Acest lucru are un avantaj practic: textul poate fi copiat într-un document, într-un articol sau într-un mesaj fără să apară un simbol vizibil care să-i schimbe aspectul.
Totuși, mecanismul are și limite. Pentru ca semnalul să fie detectat, trebuie să existe suficient text și suficientă flexibilitate în alegerea formulărilor. În cazul unui răspuns foarte scurt, al unei formule matematice sau al unei secvențe de cod în care există puține variante corecte, sistemul poate avea dificultăți.
Cu alte cuvinte, textGrain nu funcționează ca o semnătură digitală tradițională atașată unui fișier și nici ca o etichetă care oferă instantaneu o dovadă absolută privind autorul unui material.
4. Cât de precis poate fi identificat un text generat de inteligența artificială
Una dintre cele mai importante întrebări este dacă un detector poate stabili cu certitudine că un anumit text a fost produs de ChatGPT.
OpenAI recunoaște că tehnologia nu este infailibilă. Un detector poate semnala un marcaj care nu este prezent în realitate sau poate să nu identifice un marcaj existent. Aceste situații sunt cunoscute drept rezultate fals pozitive și, respectiv, fals negative.
Un rezultat fals pozitiv apare atunci când sistemul indică prezența unui watermark, deși acesta lipsește. Un rezultat fals negativ apare atunci când un text conține marcajul, dar detectorul nu îl recunoaște.
Performanța depinde de lungimea materialului, de limbă, de tipul conținutului și de modificările efectuate după generare. OpenAI arată că textele scurte și cele cu formulări foarte constrânse sunt mai dificil de identificat. În explicațiile sale tehnice, compania precizează și că performanța diferă între limbi.
Prin urmare, procentul de reușită obținut într-un test nu trebuie interpretat ca o garanție că detectorul va identifica la fel de bine orice text întâlnit în practică. Rezultatele depind de condițiile de testare și de criteriile folosite pentru evaluare.
Această limitare este deosebit de importantă în educație, jurnalism și în mediile profesionale. O decizie importantă nu ar trebui luată exclusiv pe baza unui rezultat automat, fără verificarea contextului și a celorlalte dovezi disponibile.
5. Ce se întâmplă dacă un text generat de AI este modificat de un om
O altă problemă apare atunci când utilizatorul modifică textul după ce acesta a fost generat.
În practică, multe materiale nu sunt publicate în forma inițială. Un autor poate corecta greșeli, poate schimba ordinea paragrafelor, poate elimina anumite expresii, poate adăuga informații sau poate rescrie întregi secțiuni pentru a adapta textul la propriul stil.
Modificările ușoare pot permite păstrarea semnalului statistic, însă rescrierea substanțială, parafrazarea amplă sau traducerea pot reduce șansele de identificare.
Acest lucru ridică o întrebare importantă: dacă o persoană folosește inteligența artificială pentru o primă versiune și apoi rescrie materialul în mod substanțial, ce poate demonstra detectorul despre contribuția fiecăruia?
Răspunsul este că watermark-ul, singur, nu poate stabili exact cât din text a fost scris de model și cât a fost modificat de om. El poate oferi un indiciu privind prezența unui semnal asociat sistemului, dar nu descrie întregul proces editorial.
Nici absența marcajului nu dovedește automat că textul a fost scris de o persoană. Conținutul poate să nu conțină un watermark detectabil, poate să fi fost modificat sau poate să provină de la un alt sistem care nu folosește aceeași tehnologie.
6. Vor putea fi detectate și textele din articolele publicate pe internet?
În principiu, un text publicat pe un site ar putea fi analizat de un detector compatibil, dacă păstrează suficient din semnalul introdus la generare. Totuși, nu trebuie presupus că orice articol publicat online va putea fi identificat automat și fără erori.
Un material lung, păstrat aproape neschimbat, poate oferi detectorului mai multe informații decât un titlu, o propoziție sau un răspuns foarte scurt. În schimb, intervențiile editoriale ample pot face marcajul mai greu de recunoscut.
Pentru redacții, companii și instituții, acest lucru înseamnă că verificarea originii conținutului ar putea deveni un proces mai complex, care combină instrumentele tehnice cu evidențele interne și cu informațiile despre modul în care a fost produs materialul.
De exemplu, o redacție care folosește inteligența artificială pentru documentare, traducere sau redactarea unei versiuni preliminare ar putea avea nevoie de reguli clare privind contribuția AI și verificarea informațiilor. Detectorul poate fi un instrument suplimentar, dar nu înlocuiește responsabilitatea editorială.
În mod similar, o companie care utilizează modele lingvistice pentru a redacta documente poate avea nevoie de proceduri interne prin care să păstreze evidența materialelor generate și a intervențiilor umane, mai ales atunci când transparența este importantă.
7. Ce înseamnă această schimbare pentru elevi, studenți și profesori
Educația este unul dintre domeniile în care identificarea textelor generate de inteligența artificială stârnește cele mai multe discuții.
Unele instituții de învățământ încearcă să stabilească dacă lucrările prezentate de elevi sau studenți reflectă munca proprie ori au fost realizate cu ajutorul unor instrumente automate. Un sistem de watermarking ar putea oferi un indiciu suplimentar, însă nu rezolvă singur problema.
Un detector nu poate stabili automat dacă folosirea AI a fost permisă de profesor, dacă studentul a contribuit substanțial la lucrare sau dacă regulile instituției au fost încălcate. Aceste aspecte depind de cerințele temei și de politica educațională aplicabilă.
De asemenea, o identificare incorectă poate avea consecințe serioase pentru o persoană acuzată pe nedrept că a folosit inteligența artificială. Din acest motiv, rezultatele unui detector trebuie interpretate cu prudență și nu ar trebui transformate, fără alte verificări, într-o dovadă definitivă de fraudă academică.
Pe termen lung, școlile și universitățile ar putea pune un accent mai mare pe explicarea procesului de lucru, prezentarea surselor, susținerea orală a proiectelor și verificarea etapelor prin care a fost realizată o lucrare.
8. Cum va afecta tehnologia persoanele care folosesc AI la serviciu
Inteligența artificială este utilizată tot mai des pentru redactarea mesajelor, pregătirea rapoartelor, generarea de cod, sintetizarea documentelor și organizarea informațiilor.
În mediul profesional, un marcaj invizibil ar putea ajuta anumite organizații să identifice conținutul provenit din sisteme compatibile. Totuși, prezența unui asemenea semnal nu înseamnă automat că materialul este incorect, inutil sau lipsit de contribuție umană.
Un raport redactat cu ajutorul AI poate fi verificat și completat de un specialist. Un program poate fi generat parțial cu ajutorul unui model, apoi testat și corectat de un dezvoltator. Un articol poate porni de la o versiune generată automat și poate fi revizuit de un jurnalist care verifică informațiile și adaugă context.
Watermark-ul nu poate evalua singur calitatea acestei munci. El oferă un indiciu privind proveniența, nu un verdict despre valoarea sau corectitudinea rezultatului.
Companiile vor trebui să decidă cum folosesc asemenea semnale, ce materiale necesită verificări suplimentare și cum informează angajații despre regulile interne privind inteligența artificială.
9. Va publica OpenAI tehnologia pentru ca și alți dezvoltatori să o poată folosi?
OpenAI a anunțat că intenționează să pună tehnologia textGrain la dispoziție în regim open-source, astfel încât alți dezvoltatori și cercetători să poată contribui la dezvoltarea și evaluarea metodelor de marcare a textelor. În același timp, accesul la detectorul folosit pentru identificarea marcajelor va fi inițial limitat la cercetători și organizații aprobate.
Cele două lucruri nu sunt identice. Publicarea tehnologiei de marcare și accesul la instrumentul de detecție pot avea condiții diferite. De aceea, anunțul nu trebuie interpretat ca o promisiune că orice utilizator va putea încărca imediat orice text într-un detector public și va primi un verdict sigur.
Deschiderea tehnologiei către comunitatea de cercetare ar putea ajuta la evaluarea performanței în limbi diferite, la testarea rezistenței marcajelor și la identificarea situațiilor în care sistemul produce erori.
În același timp, dezvoltatorii vor trebui să analizeze atent rezultatele și să evite folosirea detectorului în contexte în care o eroare ar putea produce consecințe disproporționate.
10. Watermark-ul nu dovedește cine este autorul unui text
O distincție esențială este aceea dintre proveniența tehnică și autorie.
Dacă un detector identifică un watermark asociat unui model OpenAI, rezultatul poate indica faptul că sistemul a generat sau a procesat conținutul. Dar acesta nu stabilește cine a introdus solicitarea, cine a editat materialul, cine deține drepturile asupra lui sau cine răspunde pentru informațiile publicate.
De asemenea, marcajul nu dovedește că textul este adevărat. Un material poate conține informații incorecte chiar dacă provine de la un model AI, la fel cum un text redactat de o persoană poate conține erori.
OpenAI precizează că semnalele de proveniență nu garantează acuratețea, proprietatea legală sau prezentarea corectă a conținutului.
Prin urmare, watermark-ul trebuie privit ca un instrument de transparență, nu ca un sistem universal de verificare a faptelor sau de stabilire a responsabilității.
Introducerea marcajelor invizibile în textele generate de ChatGPT reprezintă un pas important în dezvoltarea metodelor de identificare a conținutului produs cu ajutorul inteligenței artificiale. Tehnologia textGrain urmărește să ofere un semnal statistic care poate fi recunoscut de un detector, fără să introducă semne vizibile în text.
OpenAI a anunțat că va implementa treptat această tehnologie pentru textele eligibile generate de ChatGPT și Codex în Uniunea Europeană, în contextul cerințelor europene de transparență. Compania intenționează, de asemenea, să pună tehnologia la dispoziție în regim open-source, în timp ce accesul inițial la detector va fi controlat.
Cu toate acestea, sistemul are limite. Textele scurte, conținutul foarte precis și materialele rescrise substanțial pot fi mai greu de identificat, iar detectorul poate produce rezultate greșite.
Cea mai importantă consecință este că identificarea tehnică a unui text generat de AI ar putea deveni mai ușoară în anumite condiții, dar nu va elimina nevoia de verificare umană. Un watermark nu poate demonstra singur cine a scris un material, cât a contribuit o persoană la realizarea lui sau dacă informațiile publicate sunt corecte.
Într-un mediu digital în care inteligența artificială este folosită tot mai frecvent, transparența privind originea conținutului va deveni tot mai importantă. Pentru ca asemenea sisteme să fie utile, ele trebuie însă însoțite de reguli clare, evaluări independente și o interpretare prudentă a rezultatelor.
