Mi az adatmérgezés
Az adatmérgezés az adatzavar megzavarása, hogy a modell vagy az automatizált rendszer hibás következtetést hozzon. A gyakorlatok, a tanulás, a tudás adatbázisok, a keresések vagy az elemzések befolyásolhatják a támadást, a nem minőségi integrációt, vagy az emberi hibát.
Hogyan keletkezik a támadás vagy a hiba
A káros adatok a nyilvánosan gyűjtött adatokba, az RAG rendszerben használt importokba, visszajelzésekbe vagy dokumentumokba kerülhetnek. A támadó megpróbálja megváltoztatni az általános viselkedést vagy egy adott témában a hibát okozni.
Az adatok származása és jogosultsága
Minden forrásnak megvan a tulajdonosai, a céljai, a dátumai, a verziói és a hozzáférési szabályok, és a fontos gyűjtemények bejegyzése korlátozott és ellenőrzött. A külső tartalom elkülönül a jóváhagyott ismeretektől, és nem kap automatikusan ugyanazt a bizalmat.
Validáció és monitoring
A ellenőrzések nem szokásos értékeket keresnek, hirtelen változást a forgalomban, duplikát és konfliktusokat keresnek a megbízható forrással. A rendszer a testállományon lévő válaszok minőségét követi. Az antivirus ellenőrzés nem elég, mert a káros információk technikailag érvényes szövegek lehetnek.
A reakció és a felépítés
Ha gyanús, felállítjuk a további feldolgozást, jelöljük meg a szóban forgó verziókat, és megőrizzük a bizonyítékot. A csapat visszaállítja az utolsó ellenőrzött állapotot, megváltoztatja az megközelítéseket és újra tesztel a viselkedést.
A PAR HOUSE Agency megközelítés
Az adatáramlásokat minimális engedéllyel és megfigyelhető eredettel tervezzük. Elkülönítjük a felhasználói bejegyzést a megbízható utasításoktól, átváltoztatjuk a tudást, és rendszeresen teszteljük a kritikus forgatókönyveket. Minden automatizálásnak van egy biztonságos megállási és visszaállási lehetőség.
