Das geht bei Linux Mint (ein Ubuntu Derivat) übrigens genauso.
Mit openSuSE habe ich dagegen nicht so viel Erfahrung, was Live Systeme angeht. Ich installiere mir das immer permanent, parallel zu Windows. openSuSE ist allerdings leider auch nicht so einfach zu handhaben, wenn es um Versionsupgrades geht. Diesbezüglich hat Mint den Vorteil, dass die aktuelle Version fünf Jahre lang mit Systemupdates versorgt wird.
Knoppix kenne ich noch aus Zeiten, wo man das System von CD bzw. DVD als schreibgeschütztes Live-System gebootet hat. Nach dem Ausschalten waren sämtliche Änderungen dann immer futsch. Das hatte allerdings auch den Vorteil, dass man sich das System nicht mit Schadsoftware infizieren konnte und immer ein sauberes System zum Starten hatte. Demgegenüber hätte Linux Mint den Vorteil, dass man das Live-System auch persistent machen kann. D.h., Einstellungsänderungen und Daten lassen sich dauerhaft abspeichern.
In der Knoppix-Dokumentation ist mittlerweile allerdings auch erwähnt, dass das System sich automatisch den übrigen verfügbaren Platz zum Speichern anlegt. Das habe ich selbst noch nicht ausprobiert. Es hätte allerdings einen gewissen Charme für die Installation auf der von Dir erwähnten USB-Festplatte. Übrigens: ist das schon eine Platte mit USB 3.0 Anschluss?