AIUC-1

AIUC-1 este un standard de securitate, siguranță și fiabilitate scris special pentru agenții AI, publicat de Artificial Intelligence Underwriting Company. Certificarea combină un audit făcut de o firmă acreditată cu testarea adversarială a agentului însuși (prompt injection, scurgeri de date, halucinații, apeluri nesigure de unelte), repetată în fiecare trimestru și reînnoită în fiecare an.

Unde suntem

Vaulty nu este certificat AIUC-1 și nu a început certificarea. Mai multe alegeri de proiectare pe care le urmărește standardul fac parte din Vaulty. Agentul citește sistemele tale prin conexiuni doar-citire. Orice acțiune care schimbă ceva, cum ar fi trimiterea unui mail sau scrierea într-un sistem, este un pas separat pe care îl aprobă un om. Datele, parolele și cheile de acces ale fiecărei firme sunt ținute separat. Cifrele vin din interogări pe care utilizatorul le poate vedea, iar activitatea agentului este înregistrată în jurnal.

Ce e planificat

O taxonomie scrisă a riscurilor AI; planuri de reacție la eșec pentru incidente de securitate, rezultate dăunătoare și cifre greșite; teste automate pentru prompt injection și pentru izolarea dintre firme; semnalarea clară a oricărui conținut scris de AI; și o verificare prealabilă (due diligence) documentată a furnizorilor noștri de modele. Vom decide asupra certificării AIUC-1 complete după ce acestea vor fi la locul lor, iar cardul acesta se va schimba doar după ce un auditor acreditat își va da avizul.