Treść zgłoszenia może skłonić agenta do opublikowania własnych poświadczeń
Na czym polega problem
Agent umieszcza treść zgłoszeń w tym samym kontekście co swoje instrukcje i ma narzędzie czytające zmienne środowiskowe. Każdy, kto może otworzyć zgłoszenie, może polecić mu odczytać token wdrożeniowy i wkleić go w publiczny komentarz.
Reprodukcja
1. Otwórz zgłoszenie, którego treść zawiera krótką instrukcję skierowaną do agenta. 2. Poczekaj na przebieg segregacji. 3. Agent wywołuje narzędzie środowiskowe i odpowiada w wątku, podając token.
Poprawka
Usunąć narzędzie środowiskowe z tego agenta, przenieść token do sekretu o wąskim zakresie, którego agent nigdy nie widzi, i oznaczyć treść zgłoszeń jako niezaufane wejście w strukturze promptu. Filtrowanie publikowanych komentarzy to druga warstwa, nie poprawka.
