Giftangriffe auf Large-Language-Modelle

In meinem Paper habe ich Poisoning Angriffe auf verschiedene LLMs durchgeführt und bewertet. Wenn Angreifende erst einmal Zugriff auf die Trainingsdaten von neuen LLMs bekommen, können schwer detektierbare Hintertüren oder unerwünschte Verhaltensmuster in einem LLM verankert werden. Es hat sich gezeigt, dass neuere "schlauere" Modelle sind nicht robuster gegenüber diesen Angriffen sind.

Für das Experiment wurden vier Modelle auf einem NVIDIA DGX Spark einem Instruktions-Fine-Tuning unterzogen und dabei teilweise mit manipulierten Daten trainiert.