Agenții AI: ce sunt și ce pot face singuri

Un agent AI este un sistem care primește un scop, nu doar o întrebare, și decide singur ce pași să facă pentru a-l atinge: caută informații, deschide un fișier, apelează un program, verifică rezultatul și continuă până termină sau cere ajutor. Un chatbot obișnuit răspunde și așteaptă următorul mesaj. Un agent încearcă să ducă sarcina la capăt.

Diferența pare mică, dar schimbă mult riscurile și posibilitățile. Mai jos vezi din ce este făcut un agent, ce poate face în practică, unde greșește și ce limite merită stabilite înainte să-i dai acces la conturile sau la fișierele tale. Pentru fundalul tehnic, utile sunt Modelele de limbaj mari (LLM): cum generează text și ghidul principal despre inteligența artificială.

Ce este un agent AI și prin ce diferă de un chatbot?

Un agent AI combină un model de limbaj cu un ciclu de acțiune: planifică, acționează, observă rezultatul și își ajustează planul. Chatbotul, la rândul lui, produce un răspuns și atât. Diferența se vede în sarcina concretă.

Dacă îi ceri unui chatbot „cum rezerv o sală pentru o ședință”, primești pașii. Dacă îi ceri unui agent „rezervă o sală pentru joi dimineață și trimite invitațiile”, el poate verifica calendarul, alege un interval liber, face rezervarea și trimite mesajele, dacă are permisiunea pentru fiecare dintre aceste acțiuni.

Cuvântul „agent” este folosit larg, uneori și pentru automatizări simple, așa că merită să întrebi ce face de fapt sistemul: decide singur pașii sau urmează o listă fixă?

Din ce părți este făcut un agent?

Un agent are patru componente, iar calitatea lui depinde de fiecare în parte.

• Modelul de limbaj, care interpretează scopul și hotărăște pasul următor.
• Uneltele: funcții pe care agentul le poate apela, cum ar fi căutarea pe web, citirea unui fișier, trimiterea unui email sau interogarea unei baze de date. Comunicarea cu ele se face de obicei prin API-uri.
• Memoria: ce a făcut până acum și ce a aflat. Este limitată de fereastra de context, uneori completată cu note salvate separat sau cu un sistem de tip RAG.
• Regulile: ce are voie și ce nu, în ce ordine cere confirmare și când se oprește.

Cum lucrează un agent pas cu pas?

Majoritatea agenților repetă același ciclu până când scopul este îndeplinit sau apare o problemă. Ciclul seamănă cu felul în care ai rezolva tu o sarcină nouă:

1. Înțelege scopul și îl reformulează în pași mici.
2. Alege o unealtă potrivită pasului curent.
3. O folosește și primește un rezultat: o pagină, un număr, o eroare.
4. Evaluează dacă rezultatul a ajutat sau trebuie schimbat planul.
5. Repetă sau declară că a terminat și raportează ce a făcut.

Fiecare dintre acești pași este un apel către model, deci o cerere lungă poate presupune zeci de apeluri. De aici rezultă timp mai lung și costuri mai mari decât la o conversație obișnuită; mecanismul de calcul al costului este legat de tokenii consumați.

Ce pot face agenții în practică?

Agenții sunt cei mai folosiți la sarcini cu mai mulți pași mărunți, repetitive și ușor de verificat. Câteva exemple realiste:

Observă coloana din dreapta: în toate cazurile rămâne un punct de control uman. Un agent bun nu elimină supravegherea; o mută de la fiecare pas la momentele care contează.

Unde greșesc agenții?

Agenții moștenesc toate defectele modelelor de limbaj și le adaugă pe cele ale acțiunii. O eroare într-un chatbot produce un răspuns greșit pe care îl poți ignora. O eroare într-un agent poate produce o acțiune greșită: un fișier șters, un mesaj trimis persoanei nepotrivite, o comandă dublată.

Principalele probleme sunt cele de mai jos:

• Erori care se acumulează: o presupunere greșită la primul pas contaminează toți pașii următori.
• Halucinații cu consecințe: modelul poate afirma că a făcut ceva ce nu a făcut, sau poate inventa un parametru. Fenomenul este explicat în Halucinațiile AI: de ce inventează uneori modelele.
• Instrucțiuni ascunse în conținut: o pagină web sau un email poate conține text menit să-l manipuleze pe agent să facă altceva. Tehnica se numește prompt injection și seamănă cu ingineria socială, doar că ținta este programul.
• Bucle fără sfârșit: agentul repetă aceeași încercare fără să progreseze și consumă resurse.

Ce limite pui unui agent?

Cel mai sigur este să aplici principiul permisiunilor minime: agentul primește exact accesul de care are nevoie pentru sarcină și nimic în plus. Câteva reguli practice:

1. Dă acces de citire înainte de acces de scriere. Dacă sarcina e să rezume, nu trebuie să poată șterge.
2. Cere confirmare înainte de acțiunile care nu pot fi anulate: plăți, ștergeri, mesaje trimise în numele tău.
3. Folosește conturi separate sau medii de test, nu contul tău principal.
4. Stabilește o limită de pași sau de cost, ca să nu ruleze nelimitat.
5. Păstrează un jurnal al acțiunilor, ca să poți urmări ce s-a întâmplat.

Atenție: nu da unui agent parole sau chei de acces în clar. Folosește metode de autorizare care pot fi revocate, iar principiile de bază sunt în Parolele puternice și managerele de parole explicate.

Când merită să folosești un agent?

Merită când sarcina are mulți pași previzibili, rezultatul se verifică repede și o greșeală nu are consecințe grave. Nu merită când miza e mare, regulile sunt neclare sau verificarea durează mai mult decât ar dura sarcina făcută de tine. Un test simplu: dacă ai da aceeași sarcină unui stagiar în prima zi, cât de multă încredere i-ai acorda? Aceeași măsură e potrivită și pentru un agent, cu mențiunea că el lucrează mai repede și nu obosește, dar nici nu simte când ceva nu e în regulă.