耶律阿保机当选可汗后的第二天，众兄弟都来请罪，再次得到了他的宽恕。可谁知道半年之后，那些人又叛变了。他们拥立剌葛为新可汗，想劫持耶律阿保机参加由他们控制的可汗改选大会。耶律阿保机识破了他们的阴谋，亲自带兵讨伐剌葛。剌葛趁耶律阿保机带兵攻打自己的时候，悄悄派了另一支部队来偷袭阿保机的大营，还夺走了象征可汗权力的旗鼓和象征祖先的神帐。耶律阿保机的妻子有勇有谋，她率领部下拼死抵抗，等援军到来后又追赶敌人，结果仅仅夺回了旗鼓。耶律阿保机整顿好部队后对剌葛发动了进攻，很快就打败了他。但他并没有紧追残敌，因为他知道剌葛的部下不久就会思念家乡，等他们士气低落的时候再出兵，就能事半功倍。果然，一个月后剌葛的部下纷纷逃了回来，耶律阿保机乘机发动进攻，将剌葛活捉。至此，耶律家族的反叛势力一蹶不振，但这几次反叛给契丹人民带来极大的伤害。
然后，他又着手对付其他部落。当时另外几个部落都催促他把可汗之位让出来，耶律阿保机见众怒难犯，就交出了旗鼓，然后对他们说：“我属下有很多汉人，可不可以让我带领他们去治理汉人的地盘？”那些人都同意了。耶律阿保机在自己的地方发现了盐矿，除了自己吃之外，还供应给其他部落。他说：“我把盐拿给你们吃，你们不能白吃，应该来犒劳我啊。”那些人觉得他说得有道理，于是带上酒肉到耶律阿保机那里去，等大家都喝醉的时候，耶律阿保机就把他们杀了。