曾用名云泽、云时雨，１９０６年１２月２３日生于内蒙古土默特左旗，蒙古族。１９２３年夏进北平蒙藏学校学习。同年１２月加入中国社会主义青年团。１９２５年９月转为中国共产党党员。１９２５年１０月进苏联莫斯科中山大学学习。１９２８年初毕业后，在莫斯科东方大学、中山大学做教学翻译工作。１９２９年６月回国。同年７月，参加组织中共西蒙工委，历任工委组织委员、书记。
抗日战争时期，任蒙旗独立旅政治部代理副主任，地下党委书记。１９３８年４月任中共绥蒙工委委员。同年５月任国民革命军新编第三师政治部代理主任。１９４１年８月赴延安，任延安民族学院教育长、陕甘宁边区政府民族事务委员会主任。
抗日战争胜利后，历任绥蒙政府主席，中共晋察冀边区中央局委员，中共内蒙古工作委员会书记，内蒙古自治运动联合会主席兼军事部部长，内蒙古军政学院院长，内蒙古自治学院院长。１９４７年至１９４９年，任中共内蒙古工委书记，内蒙古自治区人民政府主席，内蒙古军区司令员兼政委，中共中央东北局委员。
建国后，历任中央人民政府委员，政务院委员，国防委员会委员，中央民族事务委员会党组书记、副主任、主任，中央民族学院院长，华北行政委员会委员，中共中央华北局副书记，中共中央内蒙古分局书记，绥远省人民政府主席。１９５４年后，历任国务院副总理，中共内蒙古自治区党委第一书记、自治区人民委员会主席，内蒙古军区司令员兼政委，内蒙古大学校长，中共中央华北局第二书记，内蒙古自治区政协主席。１９７５年、１９７８年当选为第四届、第五届全国人大常委会副委员长。１９７８年当选为第五届全国政协副主席。１９７７年—１９８２年任中共中央统战部部长。１９８３年当选为中华人民共和国副主席。１９８８年当选为第七届全国人大常委会副委员长。
是中共第七届中央候补委员，第八届中央委员、政治局候补委员，第十至十二届中央委员，第十一届和十二届中央政治局委员。
１９５５年被授予上将军衔，荣获一级解放勋章。
１９８８年１２月８日在北京逝世。
１９９２年１２月２３日，乌兰夫纪念馆�