da stimm ich meinem Vorredner zu, ohne Assembler und C kommst du nicht weit, dazu benötigst du Kenntnisse in Treiberprogrammierung. Wenn du es aber nicht lassen möchtest, warum bastelst du nicht am Linux-Kernel herum, das ganze in einer Virtuellen Box natürlich. Hier ein Link > http://www.techbooksforfree.com/linux.shtml in deutsch wird schwer werden sowas zu finden, kenne nur ein Buch in deutsch das heisst > Linux Treiber programmierung, musste mal googeln.
menuet os, siehe www.menuetos.net ist ein fertiges OS in Assembler, da könntest du 'mal anfangen.
Forth ist eine Minimal-Programmiersprache, die in vielen Umgebungen auch ohne OS läuft und deine Anforderungen „Kommandos eingeben und abarbeiten lassen“ perfekt erfüllt.