龟山位于汉阳城区东北部，在长江、汉水汇合处的西南一侧。
龟山曾名大别山、鲁山、翼际山。龟山另一古老名称为大坟，还有一名称为梁城山。
龟山之名缘于其形，其山若巨鳌浮水上。龟山诸多古名渐为人淡忘，而龟山之名一直沿用至今。龟山之“龟”与“归”谐音，人们常在龟山盼亲人早日回归，所以民间有称龟山为“望归山”之说。
龟山素有“江汉门户，江城脊梁”之称，为历代兵家必争之地，战略地位显要。春秋战国时期、东汉、三国时期以及北朝时期曾多次发生争夺鲁山城的战事。民国年间北伐军进攻汉阳，占领龟山，开进汉阳城。
龟山自古以来就是风景名胜之地。历代名人大禹、楚庄王、张之洞、郭沫若、毛泽东、邓小平、李先念等留下佳话、诗篇和胜迹。春秋战国之后，见于文字记载的龟山名胜与古迹多达数十处。明清时期，山头禹功矶上有晴川阁、禹稷行宫（禹王庙），庙侧有禹碑、禹柏、楚波亭、长生殿。禹功矶后有玉清宫、黄宫书院、铁门关；矶南有洗马口、振衣冈和水月庵；矶北有杨柳堤，堤上有一字桥、千花台等。山顶有岳王宫、月树亭、桂音殿、拂云楼、南岳殿、三官殿、九宫殿、龙祥寺和大别山摩崖等；山尾有补乾亭、桃花洞、桃花夫人祠、罗汉寺及古桐树；山南有太平兴国寺、桂月亭、一杯亭和状元石；山北有关王庙、藏马洞、磨刀石、招真亭和锁穴。此外，有关龟山的典故传说达10余种。
