苻洪被众人拥戴为盟主，不过却是个有名无实的盟主，掌握最高权力的是他的同族蒲光、蒲突等人。后来匈奴汉国的大将军刘曜，迁都长安，建立了前赵政权，苻洪不堪蒲光、蒲突等人排挤，就去投奔了刘曜，被刘曜封为率义侯。公元329年，刘曜为后赵石虎所杀，苻洪没了靠山，只好又带着自己的一部分人马跑到了陇山。陇山地形险要，却并不安全。公元333年，石虎准备攻打苻洪。苻洪势单力孤，自知不是石虎的对手，就主动带着2万户居民向石虎投降。石虎还没出手就成了赢家，自然非常高兴，就封他为冠军将军，对他很器重。苻洪跟随石虎到了长安后，就向他建议，将秦、雍及氐、羌等族10万户迁到关东，以充实东部。石虎同意了，还任苻洪任命为流民都督，专门管理这些新迁来的居民。
惠武皇帝苻洪像
苻洪很有才干，他屡建战功，被石虎封为西平郡公。他的部下也有2000多人被赐封为关内侯，苻洪就是他们的领侯将，他的势力就逐渐扩大了。石虎的养孙冉闵，是个战功赫赫的野心家，他见苻洪势力很大，就劝石虎除掉苻洪。不过石虎很信任苻洪，就没有同意。石虎死后，儿子石遵为帝，苻洪继续居于高位。不料没过多久，石遵就在冉闵的煽动下，罢免了他的流民都督一职。苻洪是个聪明人，见职务被免，就知道后赵已经容不下自己了。于是，他迅速地脱离了石遵，去投奔东晋穆帝司马聃。东晋偏安江南，北方都是胡人的地盘，苻洪的投诚自然令司马聃喜出望外。永和六年（公元350年），司马聃封苻洪为征北大将军、冀州刺史、广川郡公。