Jak Salemate zabezpiecza Asystenta AI?

Instrukcje systemowe, dane Salemate, treści użytkownika i dane zewnętrzne mają odrębne poziomy zaufania. Tekst z zamówienia, wiadomości lub artykułu jest traktowany jako dane, a nie polecenie.

Narzędzia są wpisane na zamkniętą listę i mają ścisłe schematy argumentów. Model nie może utworzyć własnego endpointu, zapytania SQL, adresu sieciowego ani polecenia systemowego.

Każde narzędzie ponownie sprawdza użytkownika, uprawnienia i limit danych. Wyniki są skracane, a identyfikatory klientów maskowane tam, gdzie pełna wartość nie jest potrzebna.

Po wykryciu podejrzanej instrukcji lub niezaufanych danych możliwość tworzenia akcji jest wyłączana dla bieżącego przebiegu rozmowy.

Niezależny model moderacji sprawdza wiadomość przed jej zapisaniem oraz każdą odpowiedź modelu przed pokazaniem jej użytkownikowi lub wykonaniem narzędzia. Przy braku wyniku kontroli Asystent zatrzymuje przetwarzanie.

Katalog Centrum Pomocy przechodzi podczas budowania kontrolę schematu, limitów, ścieżek wewnętrznych, duplikatów i bezpośrednich sygnałów RAG poisoning. Nieprawidłowy katalog jest odrzucany także podczas uruchomienia backendu.

Jawna granica cache obejmuje wyłącznie stałe instrukcje bezpieczeństwa. Kontekst konta, historia, pamięć użytkownika i bieżąca wiadomość są dodawane dopiero za tą granicą.

Odpowiedzi są oczyszczane z aktywnego HTML, niebezpiecznych schematów URL i podejrzanych linków. Interfejs renderuje treść jako bezpieczny tekst i kontrolowany Markdown.

Limity wiadomości, równoległych żądań, liczby narzędzi, tokenów, dziennego kosztu i kredytów AI chronią konto oraz usługę przed automatycznym nadużyciem.

Administrator może awaryjnie wstrzymać Asystenta bez wyłączania pozostałych funkcji Salemate. Zdarzenia bezpieczeństwa są rejestrowane w audycie bez surowej treści rozmów w panelu administracyjnym.