Ο Μ.Γ.Σ.Σ. Θερμαϊκός Θεσσαλονίκης είναι από τα αρχαιότερα σωματεία της Θεσσαλονίκης και της Μακεδονίας. Ιδρύθηκε το 1925 με πλήρες όνομα Μουσικογυμναστικός Σύλλογος Σιδηροδρομικών Θεσσαλονίκης "Ο Θερμαϊκός" και χρώματα μαύρο και άσπρο.
Την ίδρυση του αποφάσισε μια ομάδα σιδηροδρομικών της Θεσσαλονίκης με πρωτοπόρο τον Μαλιγκούδη, ο οποίος διετέλεσε πρόεδρος του συλλόγου επί τριάντα έτη. Ο σύλλογος υπήρξε ιδρυτικό μέλος της ΕΠΣΜ και της ΕΠΟ. Γύρω του συσπειρώθηκαν σταδιακά όλοι οι σιδηροδρομικοί της Βορείου Ελλάδος και το 1957 είχε 3.000 μέλη. Το πλεονέκτημά του ήταν πως οι ποδοσφαιριστές του δεν είχαν επαγγελματικές έννοιες, αφού τους βασικούς παίκτες οι ιθύνοντες φρόντιζαν να τους διορίζουν ως τεχνικούς ή υπαλλήλους στους ΣΕΚ. Επίσης, οι ΣΕΚ είχαν παραχωρήσει στο σύλλογο έκταση 30 στεμμάτων στην περιοχή των Σφαγείων για τη δημιουργία γηπέδου. Το εντευκτήριο του συλλόγου ήταν σε διαμέρισμα στην οδό Αριστοτέλους. Εκτός από ποδοσφαιρικό τμήμα είχε τμήμα στίβου και αθλοπαιδιών.
H πρώτη του συμμετοχή στο πρωτάθλημα της ΕΠΣ Μακεδονίας ήταν την περίοδο 1927-28[1]. Συμμετείχε στην Α΄ κατηγορία ως το 1933 που υποβιβάστηκε. Ανέβηκε πάλι στην Α΄ για μία σεζόν τα πρώτα μεταπολεμικά χρόνια και έπεσε πάλι. Το 1957, με προπονητή τον Πάνο Μάρκοβιτς, αναδείχθηκε πρωταθλητής Β΄ κατηγορίας[2] και ανέβηκε στην Α΄ ΕΠΣΜ, όπου πρωταγωνίστησε για τρεις σεζόν. Την περίοδο 1959-60[3] αναδείχθηκε πρωταθλητής της πρώτης κατηγορίας και προβιβάστηκε στην Α' Εθνική[4] μέσω του πρώτου πρωταθλήματος της Β' Εθνικής, το οποίο και άρχισε αμέσως μετά την λήξη των κατά τόπους πρωταθλημάτων. Έτσι ο Θερμαϊκός, όπως και άλλες ομάδες, βρέθηκαν την χρονιά 1959-60, να λαμβάνουν μέρος σε δύο πρωταθλήματα. Πρώτα αυτό της ΕΠΣΜ, που τελείωσε τον Φεβρουάριο και έναν μήνα αργότερα σε αυτό της Β' Εθνικής. Εκεί στον Βόρειο Όμιλο, θα βρεθεί αντίπαλος με τους Όλυμπο Κατερίνης, Ολυμπιακό Κοζάνης, Ασπίδα Ξάνθης, Ηρακλή Καβάλας, Απόλλων Σερρών, Ορφέα Ξάνθης και Μελιτέα Θεσσαλονίκης (ο οποίος και είχε έρθει δεύτερος στο πρωτάθλημα της ΕΠΣΜ). Ο Θερμαϊκός θα καταλάβει την πρώτη θέση και έτσι θα κερδίσει και δεύτερο πρωτάθλημα, μέσα στην ίδια χρονιά.
Σημαντικοί παίκτες της περιόδου εκείνης υπήρξαν οι Κυνηγόπουλος, Ζλατάνος, Τιτόπουλος, Γριμπιλάκος, Σαραντής, Φωτιάδης, Παπαγιαννάκης, Αγγελίδης, Βενετόπουλος, Βασάρας, Πασχαλίδης, Πατάκας, Σαμαρόπουλος, Καλαϊτζίδης κ.ά.
Η πιο σημαντική επιτυχία της ομάδας ήταν η συμμετοχή της στην Α' Εθνική την περίοδο 1960-61[4]. Κατέλαβε την 15η θέση (προτελευταία) και υποβιβάστηκε. Σημείωσε 3 νίκες (επί του Εθνικού Πειραιά και του Φωστήρα εντός και επί του Παναιγιάλειου στο Αίγιο), 8 ισοπαλίες (ξεχωρίζουν αυτές με τον ΠΑΟ και τον Άρη εντός) και 19 ήττες. Τα τέρματά του ήταν 33-75.
Έπαιξαν οί:Αγγελίδης, Αθανασιάδης, Αλμπάνης, Αντώναρος, Βασσάρας, Βενετόπουλος, Γκιουλέκας, Γριπελάκος, Δημητρακόπουλος, Δήμου, Εμμανουηλίδης, Ζλατάνος, Ιωαννίδης, Καραμπάτσος, Κυνηγόπουλος, Λύκκισας, Μπαλάσης, Νάκος, Ξανθόπουλος, Ξυλάς, Σαράντης, Σαρδέλης, Στεφανίδης, Στράντζαλης, Σωτηριάδης, Τοκμακίδης, Τσιγκάρης καί ο Χατζηθεοδώρου.
Μετά το σύντομο του πέρασμα από την Α' Εθνικη, ο Θερμαϊκός θα αγωνιστεί για τις επόμενες τέσσερις χρονιές στη Β'Εθνική[5]. Μάλιστα την περίοδο 1962-63 κατετάγη 2ος στον όμιλό του, πίσω από την Δόξα Δράμας, χάνοντας την άνοδο για 3 βαθμούς, ενώ την επόμενη περίοδο (1963-64) θα τερματίσει 3ος, 2 βαθμούς πίσω από τους ισόβαθμους στην πρώτη θέση, Φίλιππο Καβάλας και Ηρακλή Σερρών.Το 1964-65 θα είναι και η τελευταία του χρονιά στη Β' Εθνική, όπου θα έρθει τέταρτος, στους ίδιους βαθμούς με τον τρίτο Φοίνικα Πολίχνης και έναν, πίσω από μία άλλη ομάδα της Θεσσαλονίκης, την Μ.Ε.Ν.Τούμπας.
Μετά το τέλος της περιόδου 1964-65 και παρότι θα έρθει τέταρτος στον τρίτο όμιλο της Β'Εθνικής, η ομάδα θα διαλυθεί με πολιτική παρέμβαση επειδή αποτελούσε εργατική ένωση (των σιδηροδρομικών) και είχε ομοιότητες με τις Λοκομοτίβ της Ανατολικής Ευρώπης[6]. Ο σύλλογος μετά από μία μικρή παύση θα ξαναεπανέλθει στα τοπικά πρωταθλήματα της Θεσσαλονίκης. Άσχετα με τις διώξεις, η ένωση των σιδηροδρομικών θα συνεχίσει να τελεί τις συνελεύσεις της, σε ότι αφορά τον Θερμαϊκό, στα γραφεία του Εργατικού Κέντρου της Θεσσαλονίκης, ακόμα και κατά την περίοδο της Χούντας[7] όταν όλα τα σωματεία της εποχής στεγάζονταν σε γραφεία, άσχετα εάν τα οικονομικά τους ήταν πενιχρά.
Έκτοτε ο Θερμαϊκός θα παραμείνει στις κατηγορίες της ΕΠΣΜ, όπου και αγωνίζεται μέχρι και σήμερα. Κατά την διάρκεια της δεκαετίας του '70, ο Θερμαϊκός θα κερδίσει δύο φορές το κύπελλο της ΕΠΣΜ[8]. Το πρώτο θα έρθει την περίοδο 1975-76, όταν θα κερδίσει την Ελπίδα Τούμπας με 1-0 και το δεύτερο, δύο χρόνια αργότερα, όταν θα κερδίσει με το ίδιο σκορ τον Π.Α.Ο. Κουφαλίων. Την αγωνιστική περίοδο 2011-12, παρότι βρίσκεται στη Α' κατηγορία, δεν θα λάβει μέρος στα πρωταθλήματα της ΕΠΣΜ, κάτι που δεν θα πράξει την επόμενη χρονιά και έτσι θα συνεχίσει να παίρνει μέρος στα τοπικά της Θεσσαλονίκης.