开始，穆罕默德在麦地那面临着许多困难。政治上持观望态度的“伪士”，一度拥有强大的势力。他对他们采取安抚政策。后来由于伊斯兰教带来明显的利益而使他们转变态度。对于麦地那的犹太部落，他曾希望得到他们的支持并承认他是《申命记》中预言的先知。开始他采用了犹太人的一些习俗和仪式，例如以耶路撒冷为礼拜朝向，遵奉中午的礼拜和“阿术拉”斋戒日。但犹太人极力否认他的先知身分，诋毁他的教义，导致穆罕默德与他们决裂。他改变了朝向，确定易卜拉欣为克尔白和朝觐的创始人，规定莱麦丹月为斋月，从而给伊斯兰教涂上了鲜明的阿拉伯民族色彩。在军事上，他抓住每次战役后的时机，对犹太部落实行各个击破，逐步消除了犹太人的威胁。到627年末，麦地那社团就成了单一的穆斯林社团。