在耶路撒冷还处于伊斯兰教徒统治下的9世纪中叶，意大利海洋城邦阿马尔菲、比萨、热那亚、威尼斯当中，最早活跃于地中海世界的是阿马尔菲，其富商莫罗为那些从西欧到访圣地的朝圣者修建了兼具医院功能的客栈。后来成为圣约翰骑士团徽章并使用至今的具有八个尖角的变形十字架，最初其实是阿马尔菲的纹章。
但是，这个尚未成为骑士团的组织的领导权，不知何时脱离了以阿马尔菲商人为主的意大利人之手，落到了以普罗旺斯地区出身人士为主体的法国人手中。一个不知其姓，只知其名为杰拉尔的普罗旺斯人在十字军形成前后处于异教徒的统治之下的耶路撒冷，巧妙地经营着阿马尔菲商人开设的医院兼客栈。
杰拉尔的努力因不久之后发生的第一次十字军东征对耶路撒冷的征服而收获回报。将《圣经·新约》的作者之一圣约翰奉为守护圣人的这个组织，终于进入了古籍记载所称的“从圣墓教堂扔一块石头都能够着的距离”，也就是基督教徒统治下的耶路撒冷的城中心。4年后，教皇帕斯夏二世正式承认这一组织——一个服务于宗教和军人，并救治病人的宗教团体。因此，这一组织被称为“圣约翰医院骑士团”。
1130年，教皇英诺森二世对圣约翰骑士团授予军旗。军旗为红色，上面缝有白色十字架，骑士团决定将以前的黑底加白色变形十字架的徽章用于非军事场合，将教皇赐予的徽章用于军事场合。
开始拥有军旗，就意味着从治病救人起家的圣约翰骑士团的性质也逐渐向军事方面倾斜。1119年，纯军事组织的宗教团体圣殿骑士团正式创建，接着，1190年条顿骑士团正式创建，主要宗教骑士团的创建都集中在这一时期。这对居住在巴勒斯坦这片土地上的基督教徒来说，意味着一种迫不得已的方向转变，即用武力夺取的圣地必须用武力坚守。
但是，正因为这些骑士团创建之初都是为了实现骑士精神与修道院精神的融合，因此就不可能成为世俗武士的集团。骑士们放弃了世俗身份，被课以严格的义务，必须遵守与修道士同样的规则——清贫、服从、贞洁。骑士们被禁止娶妻成家，换言之，他们是一种僧兵。
尽管内部组织松散，但在达到夺回圣地这一目的的第一次十字军东征之后，随着第二次和第三次远征，十字军远征的内容也演变为西欧的皇帝或国王亲自率兵讨伐，与此相呼应，圣约翰骑士团的性质也发生了变化，军事性质变得越来越强，而这一军事性质是其他骑士团从一开始就具有的。骑士团的内涵发生了变化。
在欧洲的中世纪，专门以武为生，凭借武力保护他人的人被认为体内必须流淌着与众不同的“蓝色血液”。以往不分“蓝色血液”还是“红色血液”，一律身穿黑色制服的圣约翰骑士团也在这一时代，将手持武器保护基督教徒免受异教徒侵害的阶级，与通过医术保护民众的阶级明确区分开来。从事医疗的人虽然同属骑士团，却不再被赋予骑士身份。创建伊始便被称为理事长的骑士团最高领导人改称为大团长。这是愈加演变为一个军事化组织的佐证。
但是，并非一切都那么顺理成章。从“穷人的仆人”变身为“基督的战士”的圣约翰骑士团，在1099年到1291年的两个世纪间，也曾为其自身生存问题而奋斗。
为了争夺主导权，各个骑士团之间的关系并不融洽，因此可以说几乎没有形成过统一战线，但骑士团的军事力量在巴勒斯坦地区的基督教势力当中，属于不可或缺的存在。他们参加了几乎所有的重要战役，骑士团的勇猛作战使战局完全改变的例子也并不罕见。撰写十字军史，不叙述骑士团的作用是说不过去的。
仅就圣约翰骑士团来说，当时随时都能投入的军事力量也不过约500名骑士和同等人数的佣兵而已。但是，相对于毗邻的巴勒斯坦地区的其他十字军势力，圣约翰骑士团的军事组织有着超群卓越之处，前者的涣散从一开始便暴露无遗，而后者的组织坚固严密，并因将世俗的欲望切换成为神服务这一立场而获得强大的攻击精神。
1187年耶路撒冷再度落入伊斯兰教徒之手后，巴勒斯坦地区的十字军势力为了存亡而战的多次战役中，与伊斯兰教徒针锋相对的主要就是圣约翰骑士团。伊斯兰教中的狂热信徒相信把基督教徒驱赶到地中海里就是真主的旨意，同时认为所有实现这一旨意的战斗皆为圣战，并为此而冲上前来。圣约翰骑士团则凭借同样出自自身信仰的精神挺身而出，阻挡在前。此时，以狮子之心参加战斗的并不是人称“狮心王”的理查一世，而是以圣约翰、圣殿、条顿为主体的骑士团。
而且，这些骑士团在拥有充裕坚实的财政基础这一点上也得天独厚，不仅巴勒斯坦的十字军诸侯，而且西欧的王公贵族也羡慕不已。
不管怎么说，只要一搭上宗教，就能够轻而易举地筹集到资金，这是在古今东西早已得到证明的事实。
首先，因为是捐给宗教团体，捐款方就有了正当理由，捐助者的亲属也只好同意。尤其就中世纪的宗教骑士团而言，他们会不畏捐躯牺牲，远赴巴勒斯坦与基督的敌人决一死战，当时不能指望比这更名正言顺的捐赠理由了。
第二，由于不允许团员娶妻成家，筹集起来的钱财也没有分散之忧。
第三，就接受捐赠这一形式的增资方法而言，宗教团体尤其独具优势，只要团体本身存在，募捐活动就能一直持续。不知为何，这种团体在财产运作方面十分娴熟巧妙，经常是只增不减。虽然没有染指高利贷的圣殿骑士团那么露骨，但是就短期之内取得的成果来说，无论是动产还是不动产，圣约翰骑士团的财产都深入且广泛地浸透到了整个欧洲。
隶属骑士团的骑士们都自备盔甲，其华贵程度，即使与西欧的王公贵族同坐一席也毫不逊色，骑士团构筑的城堡之威容甚至让耶路撒冷王国的国王都羡慕不已。在圣约翰骑士团和条顿骑士团的医院，无论患者身份都一律提供白面包和高级葡萄酒，床单和睡衣也免费供应。
这种优越的环境与精神层面的攻击性和坚强相辅相成，使这些宗教骑士成为阿拉伯人所说的“卡在嗓子眼儿里取不出来的一根刺”。“基督的战士”的存在，不仅是巴勒斯坦当地，而且是西欧，甚至是连敌人也必须面对的事实。骑士团全体成员宁肯玉碎不为瓦全的奋斗精神，亦是只有那些不用通过自我满足也足以充分确信自我存在理由的人才具有的坚强。1291年前的时代是宗教骑士团的黄金时代。如果没有骑士们的勇敢战斗的话，伊斯兰教徒们所盼望的“把基督教徒从巴勒斯坦一扫而尽”，肯定在1291年之前很早就得以实现了。