ตำบลบ้านกุ่ม เดิมทีมีต้นไม้ชนิดหนึ่งเกิดขึ้นเองตามธรรมชาติ ตามพื้นที่ไร่นา ของชาวบ้านเป็นจำนวนมาก มีลักษณะใบมน ขี้นบนบก เรียกว่า “กุ่มบก” และมีขึ้นตามริมแม่น้ำเพชรบุรีมากเช่นกัน ก็เรียกว่า “กุ่มน้ำ” ก็เลยเรียกเป็นตำบลบ้านกุ่ม ตลอดมาจนปัจจุบัน ตั้งอยู่ในเขตการปกครองของอำเภอเมืองเพชรบุรี ประกอบไปด้วย 13 หมู่บ้าน ได้แก่ หมู่ที่ 1 บ้านใต้วัดน้อย หมู่ที่2 บ้านใต้กรมทหาร หมู่ที่ 3 บ้านน้ำหัก หมู่ที่ 4 บ้านท้องคุ้ง หมู่ที่ 5 บ้านโพธิ์ หมู่ที่ 6 บ้านบางปลาหมอ หมู่ที่ 7 บ้านบางปลาหมอ หมู่ที่ 8 บ้านหน้าวัดกุฏิ หมู่ที่ 9 บ้านกุ่ม หมู่ที่ 10 บ้านกุ่ม หมู่ที่ 11 บ้านใหม่ หมู่ที่ 12 บ้านใต้เหมืองใหญ่ หมู่ที่ 13 บ้านเหนือวัดปากคลอง