Printre noile măsuri, sistemele automatizate vor monitoriza mai strict activitatea modelelor AI în timpul testelor și vor notifica personalul uman în termen de 30 de minute în cazul în care este detectat un comportament suspect. Dacă operatorii umani nu concluzionează, în termen de 30 de minute, că este vorba despre o alarmă falsă, activitatea urmează să fie sistată, a explicat OpenAI.

OpenAI a ajuns în centrul atenției după ce unul dintre modelele sale a identificat, în timpul unui test, o modalitate de a evada dintr-un mediu digital izolat și de a obține acces la internet, pătrunzând ulterior în sistemele informatice ale platformei AI Hugging Face. Modelul căuta doar o soluție pentru sarcina primită în timpul testării și nu a provocat niciun prejudiciu.

Alarmant a fost, însă, faptul că AI a acționat în totalitate din proprie inițiativă, iar OpenAI a descoperit atacul abia după ce acesta a avut loc.

Evenimentul a condus la apeluri pentru îmbunătățirea securității în cadrul testelor noilor sisteme AI.

Ulterior s-a aflat că modelele dezvoltate de Anthropic, rivalul OpenAI, și de Meta, compania-mamă a Facebook, au pătruns, de asemenea, în sistemele altor companii în timpul testelor.

Sistemele de monitorizare automată vor fi atente la tentativele de furt de date, precum și la încercările de a eluda măsurile de securitate, a declarat OpenAI. Modelele AI vor fi, de asemenea, îndrumate mai ferm pentru a nu recurge la mijloace necinstite, cum ar fi exploatarea vulnerabilităților, în
demersul lor de a finaliza sarcinile primite în cadrul testelor.

Unele teste ale noilor modele AI au fost suspendate până când noile măsuri vor fi puse în aplicare.

Sursa: agerpres.ro