丘处机本名亡佚，金朝皇统八年（1148年）正月十九日生于山东登州府栖霞县滨都村。他自幼不爱儒学，偏好神仙之事，十九岁那年便弃俗入道。次年他听闻王重阳在宁海州全真庵授徒，就前往皈依。王重阳为他取名处机，字通密，号长春子。

1168至1169间，王重阳率领他与其他弟子马钰、谭处端、刘处玄、王处一和郝大通在山东登州和宁海州传教，创立了七宝、金莲、三光、玉阳和平等会，奠立了全真道的根基。

1169年冬，王重阳带领弟子到了河南汴梁，寓居于瓷器王氏旅邸。次年一月初四日，王重阳羽化登仙，遗命嘱咐丘处机向马钰、谭处端和刘处玄学习。

马、谭、刘、丘四子暂葬亡师于孟宗献花圃，随即到陕西终南拜谒王重阳的道友和早年弟子。1172年，四子迁葬重阳遗蜕于终南县刘蒋村，然后庐墓守墓。

1173年中秋夜，四子在鄠县秦渡镇真武庙各言其志，丘处机说要以“斗闲”为务。翌日分别后他一路西行，最后来到了磻溪，在附近的破窑洞内住下来。他每日到渡口为来往行人免费背渡，此期间日只一食、行则一蓑，人称为蓑衣先生。

1180年，丘处机来到陇州龙门山，见此处风景秀美，环境清幽，又有天然洞穴、泉水，又听说这里是汉代仙人娄景修行场所，即决定于此长住下来。他选好栖身洞穴后，即按当年王重阳师父所传修炼之法，继续修炼。

丘处机认真研读道经，当读《黄庭内景经》时，见其中有“昼夜不寐乃成真，雷鸣电激神泯泯”之句，就夜战睡魔，勉强不眠，终于战胜睡魔。从此丘处机夜不倒卧，只以打坐入静为休息。

丘处机在龙门洞内住了多年，声望渐高。1186年京兆路统军夹谷清臣邀请丘处机来到终南“祖庭”主持教务。

1188年春天，金世宗下诏召见丘处机。丘处机在燕京住了半年时间，期间多次辞行，但金世宗都不允许，并常召他进宫议事。丘处机就再三恳请归山，世宗见其去意已决，只好答应，并赐钱十万，处机坚辞不受。

1191年冬天，由于金章宗下令禁止传教活动，丘处机只好带着赵虚静、宋道安等几名弟子离开陕西，回到故乡山东栖霞。丘处机将旧宅拓建为太虚观，继续弘扬道法。

丘处机常把富人捐赠的钱粮拿出来救济灾民，深受燕赵、齐鲁地区百姓爱戴，人们称他“父师”。地方官员见其确实在为百姓做好事，也就默许他去做，丘处机的慈济名声因而享誉朝野。

1214年山东大乱，负责平乱的金朝驸马都尉仆散朝恩知丘处机很有名望，就请他招安登州和莱州一带的乱民。由于丘处机德望昭著，故此各地的乱民都表示愿意接受招安。

1216至1219年间，金、宋朝廷多次邀请丘处机赴朝辅政，但他都拒绝前往。地方官员和士绅不解他为何这样决定，于是丘处机分辨道：“我的行止是按天意而动的，你们如何知道呢？”

1219年冬天，蒙古成吉思汗从西域乃蛮国派扎巴儿和刘仲禄带着前来相请。丘处机知蒙古军队素以大肆杀伐闻名，为了劝阻这支野蛮杀伐、横行天下的军队，欣然答应了成吉思汗的邀请。次年早春二月，丘处机携同十八名弟子，踏上了西行止杀壮举。

丘处机在燕京、德兴府、宣德州等地留居了一年，至1221年初出关西行。临行之际，百姓们拦住马头问丘处机何日能归，他感动地回答说：“三年可归。”

丘处机一行西出居庸关，途经今日内蒙古、新疆、中亚细亚，穿越草原绝漠、崇山峻岭，在年底到达撒马尔干城过冬。

1222年，丘处机终于抵达成吉思汗的行宫。成吉思汗起身相迎，丘处机谨以打躬拱手为礼。成吉思汗称丘处机作“神仙”，并问及可有长生不老的方法，丘处机答道：“只有卫生之道，并无长生之药。”成吉思汗赞赏他的坦诚。

在随后的大半年间，成吉思汗多次向丘处机问道。丘处机向他指出天道好生，不喜杀戮,以及治民应以敬天爱民为本、养生应以清心寡欲为要等道理。成吉思汗深表赞同，命耶律楚材将谈话内容辑成《玄风庆会录》，以之教育自己子孙。

丘处机于1223年辞行，不久成吉思汗也停止了西征。后来，蒙古铁骑大举南下，势如破竹地击溃金兵。蒙古兵向来杀掠成性，但因丘处机“止杀”的言论和全真道的保护，中原数十州郡的人民幸免生灵涂炭。

1224年起丘处机应石抹公的邀请，居于燕京天长观。此时道教大兴，燕京的道众成立了天长、平等、长春、灵宝、长生、明真、平安、消灾和万运八会。及后成吉思汗诏命丘处机掌管天下道教，并将天长观改名长春观。

长春观后面有御赐的太液池，池中养满众善士放生的鱼鳖。1227年七月初三，暴雨带来的洪水冲毁了堤岸，池中的鱼鳖随水而去，丘处机知道后笑说：“山崩池枯，鱼鳖都返归河海，难道我要和它们一样走了？”

七月四日，丘处机嘱告门人“当年丹阳师兄说将来教门当会大兴，今日已经应验，我现在归去也没有遗憾了。”七月九日，他登坐宝玄堂，留讼曰“生死朝昏事一般，幻泡出没水常闲。微光见处跳乌兔，玄量开时纳海山。挥斥八纮如咫尺，吹嘘万有似机关。狂辞落笔成尘垢，寄在时人妄听间”，然后羽化，得年八十岁。

丘处机以古稀之年冒着风沙严寒和各种艰难险阻，万里迢迢往见成吉思汗，“一言止杀”救百姓脱离兵燹之灾，功垂万世。清代乾隆皇帝有感他的事迹，曾撰联曰：“万古长生，不用餐霞求秘诀；一言止杀，始知济世有奇功”，堪为正评。