Irreführende Anweisungen
Wir prüfen, ob manipulierte Anfragen das vorgesehene Verhalten verändern können.
Wir prüfen, wie ein Chatbot mit Anweisungen, Informationen und Aktionen umgeht – im vereinbarten Umfang.
Wir prüfen, ob manipulierte Anfragen das vorgesehene Verhalten verändern können.
Wir prüfen, ob das System geschützte Daten oder Anweisungen offenlegen kann.
Bei angebundenen Werkzeugen prüfen wir die Grenzen zulässiger Aktionen.
Umfang, Genehmigungen und Testgrenzen werden vor Beginn vereinbart. Sie erhalten einen Bericht mit Nachweisen, Prioritäten und empfohlenen Korrekturen.
Ein unverbindliches Erstgespräch, um Ziele, Prioritäten und nächste Schritte zu verstehen.
Kontakt aufnehmen