Akbaba Köyü'nün tarihi, bölgesel farklılıklar gösteren iki önemli yerleşim alanıyla şekillenmiştir. Beykoz'daki köy, 1500'lü yıllarda Türkler tarafından kurulmuş ve adını İstanbul'un fethinde önemli bir rol üstlenen Gazi Ak Baba Mehmet Efendi'den almıştır. Diğer yandan, Gümüşhane'deki köy, Peçenek Türkleri dönemine kadar uzanan köklü bir geçmişe sahiptir ve Kurtuluş Savaşı sonrası yeniden hayat bulmuştur. Her iki köy de kendine özgü kültürel ve doğal zenginlikleriyle dikkat çekmektedir.

Akbaba Köyü'nün tarihi hakkında farklı bilgiler bulunmaktadır:

• Beykoz Akbaba Köyü: Beykoz'daki Akbaba Köyü, 1500'lü yıllarda Türkler tarafından kurulmuştur. Köy, İstanbul'un fethinde büyük fedakârlıklar gösteren Gazi Ak Baba Mehmet Efendi'nin adını almıştır. Evliya Çelebi'nin seyahatnamesine göre, 17. yüzyılda Akbaba Köyü, 100 haneden oluşan, cami ve hamamın yanı sıra 20 dükkânı bulunan gelişmiş bir köydü.
• Gümüşhane Akbaba Köyü: Gümüşhane'deki Akbaba Köyü'nün tarihi, Peçenek Türklerinden Kilki Bey'in Kelkit'i kurduğu döneme kadar uzanır. Köy, 1. Dünya Savaşı sırasında Ruslar tarafından işgal edilmiş, Kurtuluş Savaşı'nın kazanılmasıyla göç eden köy halkı geri dönmüştür. Cumhuriyet sonrası köy adlarının Türkçeleştirilmesi sırasında, köydeki birçok kişinin ak sakallı olması nedeniyle köye "Akbaba" adı verilmiştir.

Her iki Akbaba Köyü de beyaz kirazı, kestanesi ve cevizi ile ünlüdür.