在山东回族一共53万，回族分布以济南、德州、泰安、菏泽、聊城五市为主，共占山东省回族总数的67.67%。其中，济南和德州是回族人口聚居度较高的城市。

元朝时，朝廷安排由大量回回人构成的探马赤军驻扎山东，挖掘疏浚黄河和运河（济州河和会通河），任务完成后军队就地落户，娶妻生子，繁衍生息，他们形成回回人聚居区后，不断吸引周边回族聚集，由此奠定了今天山东回族的分布格局。即主要分布于黄河与运河两岸，包括鲁西南、鲁中、鲁西北地区。下面，简要介绍一下山东回族的大体分布及形成来源。

早在唐宋时期，山东就已经形成一定规模的穆斯林聚居区，当时的穆斯林主要聚集在山东青州和济南地区，他们是今天山东回族的先民。当时的青州是东西交通要冲，大量来自阿拉伯、波斯的穆斯林商人取道青州去贸易，官府设置“青州押两蕃使司”，专门管理通过东都、汴州到达青州和海上取道青州深入内陆的蕃客。

宋代重视海运，商贸有一定发展，青州存在不少穆斯林，形成了一定聚居区。但是，青州只是蕃客中转站，留居当地的蕃客不会很多。此外，济南也有小型穆斯林聚居区，主要分布在历山顶街一带，聚居形成乌满拉巷，建有清真寺。而且，一些山东回族的族谱也记载祖上自唐代来到山东。

回回大规模来到山东是蒙元时期。蒙古人从鄂嫩河畔称汗起兵，统一漠北后，向西征伐，灭国四十，在中亚、西亚俘虏了大批回回工匠随军前行，同时掳掠了大批回回青壮年组成亲军、探马赤军（蒙古语，意思是先锋）补充军队。公元1234年，蒙古大军灭亡宋朝，建立大元，回回人由此来到中原。

至元十年(公元1273年)，元世祖下令；“河洛、山东居天下腹心，则以蒙古、探马赤军列大府以屯之”。建立山东河北蒙古军都万户府，置司于濮州（今山东郓城北），专门管理探马赤军。包含大量穆斯林的探马赤军由此在山东驻扎居住，他们“上马则备战斗，下马则屯聚牧养”。

至元十八年(公元1281年)，元世祖下令探马赤军开挖济州河、会通河，它们与运河南段连接形成著名的京杭大运河。大批回回人奉令挖河，工程完成后，朝廷“令探马赤随地入社，与编民等”。回回在运河附近落户，娶妻生子，繁衍生息不断壮大，形成济宁、临清、聊城、德州等沿运河城市，基本奠定了今天回族的分布格局。据1990年全国清真寺调查，山东、河南、安徽、浙江四省共有现存的清真寺1212坊，这些清真寺60％以上修建在运河两岸。至于沿大运河两岸的其他城市，如天津、沧州、德州、临清、聊城、济宁、台儿庄、淮安、扬州等地，历来也都是回族人从事商业活动的重要商埠。

经历了元末农民起义及燕王扫北两次大规模战乱后，山东人口大减，洪武皇帝及明成祖迁移各地人民补充山东。其中主要，山西洪洞县、河北沧州、南京地区等地的回族被迁移到了山东。他们的迁入，进一步壮大了山东回族的队伍。

自山西洪洞县迁入的回族家族如：临清的洪氏家族、阳谷范海乡陈庄陈氏家族、莘县张鲁集回民等；自南京迁入的回族家族如：德州宁津长官镇张氏、德州东南各县的丁姓、济南商河白姓、青州金岭镇王姓等；自河北沧州迁入的回族家族如：青州刘氏、济南济阳张氏、菏泽曹州郭氏等。

今天，山东仍有许多回族聚居的村镇，保持着编民屯垦的称呼。如无棣县的五营；阳信县的六营、大营、小营；济阳县的刘家营、马家营；泰安市的前营；甄城县的军屯；禹城县的韩家寨；齐河县的老寨子、小寨子；陵县的亚虎寨、柳福寨以及冠县的七甲、八甲等。

洪武皇帝建立大明后，禁胡服、胡语、胡姓名，并且下诏“蒙古、色目现居中国、许与中国人结婚，不许本类自相嫁娶”推动回回人中国化，使回族进一步壮大。

同时也有大量汉人入教随回，成为回族的一部分。回汉杂居，互相往来，部分回族汉化为汉，部分汉人回化为回。不同于基督教强烈的传教激情，回族普遍缺乏传教热情，基本不主动传教（除一些苏菲外）。回族更多是族内宣教，汉人主要通过与回族通婚及受回族邻里朋友影响入教而成为回族的一部分。

如淄博回族中的郭、陈、孟、曲等姓，及青州回族中的谢姓都是入教随回的后裔。青州回族中的谢氏原系汉人，其始祖谢秉正迁居心寺街，因宅基是衡王府花园，有四株古松，故号其堂曰“四松堂”。谢氏与回族邻里和睦相处，感情笃厚，对清真寺和回族公墓捐献土地，后因信奉伊斯兰教而转为回族。益都城里的马氏一支，原为住于临淄谭家店子的马姓汉族望户，其中一支先迂往金岭镇(今淄博市临淄区辖)居住，逐渐信仰斯兰教成为回族，后又迁到益都城居住。又如金岭镇孟氏，原张店洪沟人．后因经商与回民结交，成为穆斯林，其后人与当地回族女子通婚，遂成为回回家族。

值得一提的是，德州回族的形成还与东南亚穆斯林入华有关。明朝永乐十五年（1417年），苏禄国（东南亚穆斯林国家）东王访华入京，归国途中在德州归真，东王的长子回国继承王位，而次子温嗒刺、三子安都鲁及其侍从留下为东王守墓。官府赐祭田两顷三十亩，并且迁徙附近回族为其守灵。由此不断聚集发展，形成山东德州温、安两姓回族聚居区。

至此，山东回族的分布格局已经形成。清末，山东开埠，鲁东得到发展，一些回族迁往青岛等地，使回族分布更加分散，呈现出星罗棋布的分布格局。