В первые века своего существования христианство далеко не всегда находилось на положении преследуеиой религии. В империи господствовала веротерпимость, а имевшие место гонения всегда носили не религиозный, а политический характер и были кратковременны. Достоверно засвидетельствованы крупные, в масштабах всей империи, гонения только до середины III века (в 250 и 257–260 годах) и для времени Диоклетиана. Так, например, при первом из указанных гонений от всех жителей империи требовали принесения жертвы в честь римских богов. Отказ от принесения жертв римские власти приравнивали к политической неблагонадёжности. Уклонившимся угрожали конфискация имущества и тюремное заключение. Богатые христиане, как правило, исполняли требования властей. Такие представители христианского клира, как карфагенский епископ Киприан, обычно спасались бегством. Только незначительная часть наиболее стойких христиан предпочитала подвергнуться репрессиям, чем отказаться от веры. После окончания этого гонения христиане, принесшие жертву, — их называли «lapsi» (падшие) — стремились возвратиться в свои общины. Клир был настроен к ним примирительно. Это вызвало новую ересь — новатианство, — которая во многих отношениях была продолжением монтанизма.
Последнее гонение на христиан, при Диоклетиане, отличалось особенной жестокостью и планомерностью. В это время были казнены многие христиане, повсеместно закрывались их храмы, уничтожались священные книги и т.д. Однако и в это время государственный аппарат преследовал церковь не по религиозным, а по политическим соображениям, связанным с реставраторской политикой императорских властей после кризиса середины III века. Однако Диоклетиану не удалось уничтожить христианство. После его отречения от власти гонение прекратилось и христианские общины вновь перешли на полулегальное положение.