シュトフは1914年
ベルリンに生まれ、彼の父はその翌年、
第一次世界大戦で死亡した。国民学校を卒業後、レンガ職人の徒弟となる。一方で1928年、若きシュトフはドイツ共産主義青年同盟(Kommunistischer Jugendverband Deutschlands、略称:KJVD)に参加し、そして
1931年彼は
ドイツ共産党に入党した。党の情報部に所属し、
ナチスに対する闘争に従事。彼はまた、1935年から37年まで兵役で
ドイツ国防軍の砲兵連隊に入営。除隊後はベルリンの建築事務所で働いていたが、
第二次世界大戦勃発後の1940年に再び従軍した。彼は第2級
鉄十字章を授与され、
下士官の位に昇級した。1942年に負傷。1943年には反ナチス組織の地下活動と連絡を取っていた。敗戦時の1945年4月、
ソ連軍の捕虜となるが、7月に脱走した。
1952年〜55年、彼は内相を務めた。この役職にあって、彼は東ドイツの全兵力に対する指揮権を公式に保有していた。そして1953年の「
6月17日蜂起」を鎮圧後には、党中央委員会政治局員となった。1954年〜62年、彼は閣僚評議会副議長(副首相)を務め、1955年からは、人民警察予備隊、国家保安省、科学技術庁、核研究・核技術庁、そして「核エネルギー平和利用のための経済評議会」に対して責任を負っていた。
1956年〜60年、東ドイツの再軍備に伴い彼は国防相をも務めた。そしてこの職にあって、
ワルシャワ条約機構統合軍の副司令官を兼ねていた。1960年には、国家機関内における閣僚評議会及びSED中央委員会の決定の執行を調整し、統制することを任された。1962年〜64年、彼は閣僚会議第一副議長(第一副首相)を務め、1963年〜64年に、国家評議会の委員を兼ねた。