После окончания академии генерал-майор Рахимов вернулся на фронт и в ноябре 1944 года назначен командиром 37-й гвардейской стрелковой дивизии. Дивизия сражалась в Восточно-Прусской наступательной операции. Генерал Рахимов отличился при штурме города-крепости Грауденц, которую оборонял 9-тысячный гарнизон.
Бойцы его дивизии мощным ударом 16 февраля 1945 года прорвали вражеские укрепления на подступах к городу, освободили несколько населенных пунктов и первыми ворвались в город. В жестоком бою на городских улицах, где каждый дом был приспособлен к обороне, враг несколько раз вытеснял атакующие части из города и каждый раз гвардейцы восстанавливали занятые рубежи.
Упорные действия дивизии Рахимова стянули на неё основные силы гарнизона, что позволило другим частям в ночь на 22 февраля с разных сторон одновременным ударом освободить город. Остатки гарнизона укрылись в средневековой цитадели и через несколько дней капитулировали.
В одном из боев 26 марта 1945 года при артиллерийском обстреле атакующих частей вражескими кораблями прямым попаданием тяжелого снаряда был разрушен наблюдательный пункт дивизии. Находившийся на наблюдательном пункте генерал-майор Сабир Рахимов был смертельно ранен осколком снаряда в голову и через несколько часов скончался в госпитале, не приходя в сознание.
