Fereastră de context
Fereastra de context este tot textul pe care un asistent AI (ChatGPT, Claude) îl poate lua în calcul într-o conversație când scrie răspunsul: mesajele tale, răspunsurile lui anterioare, documentele lipite și răspunsul pe care îl scrie acum.
Cum funcționează
Documentația Anthropic descrie fereastra de context ca pe o „memorie de lucru” a modelului, diferită de datele pe care a fost antrenat. Tot ce este în conversație ocupă loc în ea: instrucțiunile, fiecare mesaj, documentele și imaginile, plus răspunsul generat. Spațiul se măsoară în tokeni (bucăți de cuvinte), iar ajutorul OpenAI precizează că împărțirea în tokeni depinde de limbă. Când o conversație devine foarte lungă, aplicația trebuie să facă loc: Anthropic scrie că, în planurile plătite cu execuția de cod activă, Claude rezumă mesajele mai vechi când conversația se apropie de limită, iar interfețele de chat pot gestiona contextul după principiul „primul intrat, primul ieșit”. Rezultatul practic: detaliile de la începutul unei conversații lungi pot ajunge rezumate sau să nu mai fie luate în calcul exact.
Exemplu (inventat, pentru ilustrare)
O contabilă lucrează două ore în aceeași conversație: la început a scris regulile firmei („sumele în lei, fără TVA, tabel cu trei coloane”), apoi a lipit zeci de mesaje și documente. Spre final, răspunsurile nu mai respectă formatul cerut la început. Nu e un capriciu: regulile de la început sunt departe, într-o conversație care a crescut mult. Soluția este o conversație nouă, care începe cu regulile și doar documentul de care are nevoie acum.
Ce faci concret
- Pentru o sarcină nouă, începe o conversație nouă. Nu continua la nesfârșit același fir.
- Pune regulile importante (format, ton, ce să nu facă) în primul mesaj și repetă-le scurt dacă observi că nu mai sunt respectate.
- Lipește doar partea de document de care ai nevoie, nu tot dosarul.
- La finalul unei conversații lungi, cere un rezumat cu deciziile luate și pornește de la el într-o conversație nouă.
- Verifică în continuare răspunsurile: o fereastră de context mare nu înseamnă că asistentul nu greșește.
Fereastra de context nu este o memorie permanentă despre tine și nu este același lucru cu datele pe care a fost antrenat modelul. Mărimea ei diferă de la un model și de la un plan la altul și se schimbă în timp, așa că nu ne bazăm pe o cifră anume.
Întrebări frecvente
De ce „uită” ChatGPT sau Claude ce i-am spus la început?
Într-o conversație foarte lungă, tot textul ocupă loc în fereastra de context. Când se apropie de limită, aplicația trebuie să facă loc, de exemplu rezumând mesajele vechi, așa cum descrie Anthropic pentru Claude. Detaliile de la început pot ajunge mai puțin exacte. O conversație nouă, cu regulile scrise la început, rezolvă de obicei problema.
Ce este un token?
Un token este o bucată de cuvânt. Fereastra de context și limitele de folosire se măsoară în tokeni, nu în cuvinte. Ajutorul OpenAI precizează că felul în care textul se împarte în tokeni depinde de limbă.
Cât de mare este fereastra de context?
Depinde de model și de plan, iar cifrele se schimbă des. Pentru valoarea actuală, verifică pagina oficială a asistentului pe care îl folosești, de exemplu articolul de ajutor Claude despre mărimea ferestrei de context.
Dacă lipesc un document lung, îl citește tot?
Dacă documentul încape în fereastra de context, asistentul îl poate lua în calcul. Totuși, poate rata sau înțelege greșit detalii, așa că cere citate exacte din document și verifică afirmațiile importante.
Mai departe
- Lecția „Ce este un asistent AI” (profesori): ce poate și ce nu poate face
- Glosar: ce este un prompt
- Glosar: halucinația AI și cum verifici
- Toți termenii din glosar