Матвей Рябцев родился 1 августа 1870 г. в с. Николаевская Тума Касимовского уезда в семье пономаря местной церкви. 6 августа был крещен в честь апостола Матфия.
Воспитывался Матфий Рябцев в Касимовском духовном училище, затем обучался в Рязанской духовной семинарии, вначале на содержании отца, а затем — в епархиальном классе на казенном содержании.
По окончании в 1891 г. семинарии по первому разряду был назначен учителем и регентом в двухклассную приходскую школу в село Полянки Пронского уезда Рязанской губернии.
В 1893 г. был назначен псаломщиком в храм с. Николаевская Тума, получив должность своего отца, а также учителем и законоучителем в местную двухклассную церковно-приходскую школу.
В 1894 г. по своему желанию остался только учителем школы, так как отец вернулся к своей должности.
В 1895 г. обвенчался с Любовью Павловной, был рукоположен в священника и назначен служить в храм в с. Макшеево Егорьевского уезда, а также заведующим и учителем местной школы.
В 1903 и в 1905 гг. избирался депутатом на училищный и епархиальный съезды. В 1905 г. нес послушание противораскольнического миссионера по 1-му Егорьевскому благочинию.
2 сентября 1905 г. был назначен служить в Вознесенский собор Касимова. С 1906 по 1910 гг. — заведующий Касимовской одноклассной церковно-приходской школой и законоучитель в ней. С 1906 г. состоял законоучителем, а также учителем латинского языка в городской мужской гимназии.
Когда началась Первая мировая война и в городском лазарете были размещены раненые воины, то отец Матфий стал служить и в городском лазарете, духовно окормляя раненых. В семье отца Матфия и его супруги Любови Павловны в это время было шестеро детей.
1 ноября 1918 г. во время митинга мобилизованных в Касимове выстрелом из толпы был убит выступающий перед ними военный комиссар Илюшкин. Это стало поводом к началу восстания в уезде. Мобилизованные, разойдясь по волостям, поднимали крестьян против новой власти.
Волнениями было охвачено 9 волостей. Подавление восстания сопровождалось расстрелами. Было отдано распоряжение об аресте священника. Причины ареста называют разные. Одна из них заключалась в том, что о. Матфий укорял за жестокость комиссара, который впоследствии и расстрелял его. Другая причина — священник порицал власти за расстрел касимовцев у собора. Третья и наиболее вероятная версия — о. Матфия, авторитетного священника, уважаемого в городе человека, новая богоборческая власть решила убрать.
Солдаты, пришедшие арестовать отца Матфия, предложили ему спрятаться, с тем, чтобы своему начальству доложить, что не застали его дома. Но он не согласился и решил идти с ними на казнь.
В числе других приговоренных к смерти, священник должен был быть расстрелян у стены городского кладбища. Солдаты отказались стрелять, и тогда сам предводительствующий отрядом карателей, большевистский комиссар по фамилии Кокорев (в честь него была позже переименована улица, которая ведет к кладбищу), расстрелял священника. Тела расстрелянных перебросили через ограду кладбища, где потом они и были захоронены.
Известно, что комиссар, который расстрелял отца Матфия, смертельно заболел уже в 1919 году злокачественной волчанкой и попал в больницу. Лицо его было изуродовано страшными язвами. Когда ему сделали трепанацию черепа, гной был обнаружен и в головном мозге. Болезнь была настолько мучительна, что он кричал от боли и, осознавая, по-видимому, что эти страдания ему посланы за тяжкие грехи, кричал: «Отец Матвей, прости меня!».
Однако по воспоминаниям старых касимовских священников, убийца так и не смог покаяться, приглашенному к нему родственниками священнику Григорию Отрадину, находясь в бреду и явно не понимая происходящего.
