Ιδρύθηκε τον Απρίλιο του 1939 από τον Νικόλαο Αναστασίου (Νικολό) και τον Μάριο Κωνσταντινίδη.
Μερικοί από τους παίκτες που απετέλεσαν την πρώτη ομάδα ήταν: Ο Σαράντης Λιζάρδος (τερματοφύλακας), ο Αντώνιος Παπαδήμας, ο Γεώργιος Ρεντούμης, ο Γεώργιος Λέκκας, ο Ιωάννης Ηλία Κοντογιάννης, ο Γεώργιος Πιττάκης, ο Δημήτριος Μπεσίρης, ο Κωνσταντίνος Βελονίδης, ο Χάιδας Γεωργούλας.
Το πρώτο γήπεδο που χρησιμοποίησαν για τους ποδοσφαιρικούς αγώνες ήταν ο χώρος που βρίσκεται σήμερα το Α΄ Γυμνάσιο Παλλήνης και για αποδυτήρια το χώρο της αλωνιστικής, δίπλα στο γήπεδο.
Τα δοκάρια των τερμάτων τα είχε κατασκευάσει ο Χάικ Μπουλανικιάν, ο μαραγκός του χωριού. Τα χρώματα της ομάδας ήταν το πράσινο-λευκό και αργότερα άλλαξαν σε μαύρο-κίτρινο, γιατί θεώρησαν ότι τα σκούρα χρώματα δεν λερώνονταν εύκολα.
Κάθε Δευτέρα ο Νικολός, επειδή ήταν τσαγκάρης, είχε την φροντίδα να διορθώνει τα παπούτσια των παικτών που ήταν κατασκευασμένα από πέτσινες σόλες.
Ο Νικόλαος Αναστασίου διετέλεσε πρόεδρος της ομάδας μέχρι το 1958. Από το 1949 έως το 1958 τοποθέτησε γενικό αρχηγό και προπονητή τον Νικόλαο Μίληση, τον μετέπειτα κοινοτάρχη.
Πρόεδροι του Παλληνιακού μετά το 1958 διετέλεσαν οι: Τσέλιος Πέτρος, Μίλησης Νικόλαος, Κοντογιάννης Κωνσταντίνος, Μαλλιαρός Δημήτριος, Αναστασίου Λεονάρδος, Μερτύρης Λάζαρος και Καραμπίνης Κωνσταντίνος του Βασιλείου.
Το επίσημο καταστατικό της ιδρύσεως του Παλληνιακού έγινε επί προεδρίας του Κωνσταντίνου Κοντογιάννη.
Το 1953 η ομάδα κατέκτησε το κύπελο των Μεσογείων, ένα σπουδαίο γεγονός για το μικρό χωριό. Σ’ αυτήν την επιτυχία μεταξύ άλλων συμμετείχαν οι παίκτες: Βασίλειος Σκούρας, Αναστάσιος Καραμπίνης, Ιωάννης Μπαξεβάνης, Βασίλειος Ρεντούμης, Χρήστος Λεβαντής, Αθανάσιος Χατζησταματίου.