Ιδρύθηκε το 1926 από πρωτοπόρους σιδηροδρομικούς 24 τον, αριθμό.
Επικεφαλής και πρόεδρος για 30 χρόνια ο Μαλιαγκούδης Βασίλειος, ο οποίος μαζί με τον τότε προπονητή Α. Σκλαβούνο που ασκούσε και καθήκοντα αντιπροέδρου, απετέλεσαν με τους 9 πρώτους, το πρώτο Δ.Σ. του συλλόγου.
Με απόφαση του πρωτοδικείου (1522) που εκδόθηκε την 18-7-1925, αναγνωρίσθηκε και επίσημα σωματείο. Ο Θερμαϊκός ήταν η πρώτη εργατική ομάδα.
Ο Σύλλογος δημιούργησε και Χορωδία, αποτελούμενη από 30 καλλίφωνους νέους, με 1 επικεφαλής τον καλλιτέχνη Στασινό Φρανσουά.
Στο 1ο πρωτάθλημα ποδοσφαίρου Θεσσαλονίκης, η ομάδα τερμάτισε στην 4η θέση και το πρώτο γήπεδο, ήταν στο παλαιό σιδηροδρομικό σταθμό, από όπου πέρασαν πολλοί σπουδαίοι ποδοσφαιριστές, που έρχονταν για εργασία που τους παρείχε ο σύλλογος, από πολλές ομάδες της Θεσσαλονίκης και όχι μόνο.
Αγωνίσθηκε σε όλες τις κατηγορίες με επιτυχία και το 1959 – 60 μετά από σκληρούς αγώνες πρωταθλημάτων ομίλων επάξια ανεβαίνει στην πρωτοεμφανιζόμενη Α’ Εθνική κατηγορία, όπου και παρέμεινε δυστυχώς για 1 έτος. Είχε υπέροχη ομάδα, αλλά από συμπαραστάτες φίλους και φιλάθλους, ήταν σχεδόν μόνη και έτσι ήταν αδύνατο να παραμείνει στη μεγάλη κατηγορία.
