Иосиф Иванович Мрозовский родился в православной семье дворян Гродненской губернии 14 декабря 1857 года. Начальное военное образование он получил в Полоцкой военной гимназии (так тогда назывался Полоцкий кадетский корпус), в которой учился одновременно с другим будущим героем Первой мировой – генералом А.Ф.Рагозой. Во время учебы будущие генералы приятельствовали и решили продолжать образование вместе – поступили в Михайловское артиллерийское училище, которое окончили в один день, 22 мая 1877 года. Но в дальнейшем пути кадет-полочан разошлись – подпоручик Мрозовский был выпущен не в гвардию, как Рагоза, а в армию, в 34-ю полевую артиллерийскую бригаду. Боевое крещение юный офицер принял на фронте русско-турецкой войны 1877-78 гг., за участие в боях был произведен в поручики, но ни одного ордена пока не заслужил.
В дальнейшем служба артиллериста Иосифа Мрозовского складывалась вполне успешно. Он окончил Михайловскую артиллерийскую академию (1882), после чего получил в перевод в элитную 1-ю лейб-гвардейскую артбригаду, командовал батареей, принял участие в Китайском походе 1900-01 гг., причем его вклад в подавление так называемого «боксёрского восстания» был отмечен Золотым оружием с надписью «За храбрость» и мечами к ордену Святого Владимира 3-й степени. На русско-японской войне Мрозовский сражался уже в должности командира артдивизиона и артбригады. На японском фронте генерал-майор (с 11 ноября 1903 года) Иосиф Иванович Мрозовский был ранен и заслужил высокие ордена Святого Станислава 1-й степени с мечами, Святой Анны 1-й степени с мечами, Святого Владимира 2-й степени с мечами и Святого Георгия 4-й степени, причем последнюю награду получил с формулировкой «за искусное руководство при подавлении огня многочисленной неприятельской артиллерии 17 и 18 августа 1904 г. под Ляояном». Для генерал-майора такой набор наград был исключительным. И именно после Русско-японской войны в и без того удачной военной карьере белорусского генерала-артиллериста начался настоящий взлет. По рекомендации великого князя Николая Николаевича его назначили начальником артиллерии главного военного округа страны – Петербургского. Должность была ответственной и сложной – армия переоснащалась новыми артиллерийскими системами, «обкатывали» их именно в столичном округе. Иосиф Иванович зарекомендовал себя наилучшим образом и 6 декабря 1907 года в качестве подарка к своему полувековому юбилею получил чин генерал-лейтенанта «за отличие».
26 августа 1908 года Мрозовский впервые за всю свою военную службу расстался с артиллерией: великий князь Николай Николаевич перевел полюбившегося ему генерала на должность начальника 1-й гвардейской пехотной дивизии. Интересно, что этот пост Мрозовский принял у своего земляка — гродненца Платона Алексеевича Лечицкого. В качестве «придворного военачальника» Мрозовский, видимо, чувствовал себя уверенно, так как занимал пост четыре года. И на повышение ушел не куда-нибудь, а на престижный Гренадерский корпус, расквартированный в Москве (назначение состоялось 21 мая 1912 года). 14 апреля 1913-го Мрозовскому был присвоен высший на тот момент чин в русской армии – генерала от инфантерии. Впрочем, в душе Иосиф Иванович продолжал считать себя артиллеристом, поэтому по его просьбе 26 января 1914 года он был «переименован» по профессиональной принадлежности – в генералы от артиллерии…
Начало Великой войны генерал Мрозовский встретил на должности командира Гренадерского корпуса и во главе его прошел боевыми дорогами первого года войны. Русские гренадеры отличились во время боев с австро-венгерскими войсками в Польше. В числе первых Иосиф Иванович 27 сентября 1914 года был удостоен высшей воинской награды России – ордена Святого Георгия 3-й степени. Такую награду за всю войну получили всего 60 человек, в их числе восемь белорусов. Мрозовский был первым из них. Кроме нее, генерал был удостоен орденов Белого Орла с мечами и Святого Александра Невского с мечами.
Во главе корпуса Мрозовский чувствовал себя вполне уверенно, но 2 сентября 1915 года неожиданно для себя был отстранен от должности. Причиной тому стало решение Николая II передать Гренадерский корпус старому генералу А.Н.Куропаткину, чья репутация в армии еще со времен русско-японской войны была крайне низкой (и дальнейшими действиями Куропаткин отнюдь не реабилитировал себя, скорее наоборот). Что же касается Мрозовского, то ему предложили пост командующего Московским военным округом, к которому 2 октября 1915 г. был прибавлена особая должность «Главнокомандующего над Москвой».. Заслуженный боевой военачальник в глубине души был обижен, но… приказ есть приказ. И Мрозовский взялся за его выполнение со свойственной ему обстоятельностью, тем более что на его плечи возлагалось решение целого ряда сложнейших проблем.
В 1915-16 гг. Москва была уже переполнена беженцами из западных областей Российской империи. В городе резко возросла преступность, во множестве появились дети-беспризорники. Росли цены на продукты, начался товарный дефицит… Мрозовский подошел к решению этих вопросов по-военному четко. Он приказал открыть в Москве сеть дешевых столовых и взять под контроль все ввозимые в город по железной дороге и речным путям продукты, обратился к министру земледелия с просьбой о выделении городу финансов для закупки продовольствия. «Необходимость в этом объясняется отсутствием регулярного подвоза продуктов, в связи с неаккуратным использованием частными лицами выдаваемых им нарядов, и же
ланием обеспечить беднейшую часть населения Москвы, — писал Мрозовский. — Продовольственным запасам, недостаток в которых становится все более и более ощутимым, придаю особенное значение. Отсутствие означенных запасов с увеличивающейся крайне дороговизной легко может вызвать среди столичного населения при его приподнятом настроении, по обстоятельствам переживаемого военного времени, нежелательные беспорядки». Благодаря Иосифу Ивановичу в Москве заработало множество детских приютов, было создано «Общество оказания помощи беднейшему населению Москвы топливом», разработана обширная система мер борьбы со спекуляцией и городской преступностью. И во многом благодаря Мрозовскому на рубеже 1916/17 годов сложную ситуацию в Москве удалось выправить.
Во время февральского переворота 1917 года генерал от артиллерии Иосиф Иванович Мрозовский был одним из немногих высших военачальников, которые до конца остались верными присяге. Мрозовский со всей резкостью заявил о том, что не намерен подчиняться Временному правительству и до последнего предпринимал попытки сохранить ситуацию в Москве под своим контролем. По приказу генерала были закрыты газеты, печатавшие воззвания к революции, из города начали высылать лидеров оппозиции. Даже когда весь московский гарнизон заявил о своем переходе на сторону новой власти, Мрозовский еще раз подтвердил, что останется верным присяге. В ночь на 2 марта 1917 года, в последний день существования монархии в России, он был арестован и помещен под домашний арест. Служить Временному правительству генерал не собирался, подал прошение об отставке и 10 марта был уволен от службы «по болезни» с мундиром и пенсией.Заслуги генерала на посту Главнокомандующего над Москвой были отмечены редчайшим орденом – бриллиантовой звездой Святого Александра Невского с мечами. Это была последняя награда, которую генерал получил в своей жизни…
В дальнейшем ветеран четырех войн вел частную жизнь и в политике участвовать не стремился. В 1919-м старый генерал уехал на юг России, откуда эмигрировал в Турцию, а затем в Германию и Францию. Там Мрозовский поселился в Ницце, являясь одним из руководителей местного «Общества единения русских».
Скончался генерал от артиллерии, кавалер пятнадцати боевых наград Иосиф Иванович Мрозовский 16 сентября 1934 года в возрасте 76 лет в Париже. Его могила находится на кладбище Сент-Женевьев-де-Буа.