Cyber-Physische Systeme dringen immer weiter in sensible Bereiche unseres Alltags vor, wie beispielsweise Kommunikation, Heimautomatisierung oder Logistik. Moderne Cyber-Physische Systeme umfassen zunehmend Techniken der Künstlichen Intelligenz (KI), insbesondere des Maschinellen Lernens. Die beeindruckenden Anwendungsbereiche KI-basierter Cyber-Physischer Systeme können allerdings aufgrund von Fehlverhalten der Systeme mit Bedrohungen, beispielsweise für Leib und Leben von Menschen, daherkommen. Dieser Vortrag behandelt die Frage, wie durch Resilienz ein Fehlverhalten von KI-basierten Cyber-Physischen Systemen verhindert werden kann. Dabei werden zunächst Resilienz-Mechanismen auf Ebene des Maschinellen Lernens diskutiert. Darauf aufbauend wird das Gesamtsystem betrachtet und beschrieben, wie durch Resilienz-Mechanismen auf Systemebene ein Fehlverhalten Cyber-Physischer Systeme verhindert werden kann.