Un agent de inteligență artificială dezvoltat de Anthropic a ajuns să trimită 20 de cereri de viză printr-un formular oficial al Departamentului d
Un agent de inteligență artificială dezvoltat de Anthropic a ajuns să trimită 20 de cereri de viză printr-un formular oficial al Departamentului de Stat al SUA, în timpul unor teste interne. Cererile nu erau complete și nu au fost procesate, însă incidentul arată cât de ușor pot agenții autonomi să treacă de la simulări la acțiuni reale pe internet, scrie The Washington Post.
Anthropic a recunoscut într-un raport publicat pe 9 octombrie că modelele sale au efectuat mai multe acțiuni neintenționate în timpul evaluărilor. Compania nu a identificat public site-urile afectate, însă surse citate de presa americană au indicat că unul dintre ele a fost portalul Departamentului de Stat pentru cereri de viză.
Compania spune că incidentele nu au dus la compromiterea sistemelor guvernamentale și nici la accesarea datelor clienților Anthropic. După analizarea cazurilor, accesul la internet pentru anumite teste cu agenți A.I. a fost restricționat,…
Comentarii