Seine Familie stammt aus Süddeutschland und kann dort bis in das 14.Jahrhundert nachgewiesen werden. Später zogen sie nach Salzburg, wo der Familienvater - er nannte sich noch Carl Mielichhofer - bis zum Jahr 1848 im Bergwesen tätig war. Danach verließ er Salzburg und wirkte an der K.u.K Marineakademie in Fiume (Rijeka), wo er schließlich Professor für Mathematik und Schiffsbau wurde. Mit seiner Gattin Theresia hatte er drei Söhne Sigmund, Alfons und Ludwig, von denen Alfons 1863 in Klosterneuburg zur Welt kam.
Wie seine beiden Brüder wählte Alfons die Offizierslaufbahn und besuchte die K.u.K. Militärakademie in Wien. Er wurde Artillerieoffizier, mußte aber diesen Beruf bereits als Leutnant krankheitshalber aufgeben. Zur Wiederherstellung seiner Gesundheit verbrachte er daraufhin längere Zeit in Ägypten und lernte auf diese Weise den Orient kennen und lieben. Hier malte er auch seine ersten Bilder als Autodidakt. Später nahm er dann bei dem Gebirgsmaler Anton Schrödl privaten Malunterricht.
Künstlerhauses, obwohl er kein Mitglied dieser Vereinigung war, dennoch mit Ölgemäden aus Kairo vertreten. Auch in den Jahren 1897 und 1898 waren seine Bilder hier zu sehen.
1901 reiste er schließlich im Auftrag der Österreichischen Akademie der Wissenschaften als künstlerischer Begleiter des bekannten Orientalisten Dr. Alois Musil nach Jerusalem und von dort nach Jordanien. Er sollte die Kalifenschlösser der Omajaden in der Wüste von Arabia Petraea aufnehmen. Musil hatte dort nämlich im Besonderen das Jagd-Schloss "Quessr' Amra" (Kleines Schloss Amra, erbaut in den Jahren 712 bis 715)) bereits 1898 entdeckt.
Nachdem sie nun mit einer Gruppe von etwa sieben Männern das Schloss erreicht hatten, reinigte und kopierte Mielich mit Schwamm und Pinsel die Fresken. Er arbeitete bis zur Erschöpfung, währenddem zwei Überfälle räuberischer Beduinen stattfanden, in deren Verlauf er verwundet wurde und außerdem noch eine fieberhafte Erkrankung durchzustehen hatte.
Mielich enwickelte sich daraufhin immer mehr zum gefragten Orientmaler und bekam schließlich auch den Auftrag eine Bühnendekoration für ein Wiener Theater zu malen. In einer Ausstellung im Künstlerhaus zeigte Mielich zu dieser Zeit in ca. 70 Ölstudien, Bleistiftzeichnungen, Guachen, Aquarellen und Porträts einer breiten Öffentlichkeit die Eindrücke seiner Orientreise. Seine Gemälde aus dem Orient implizieren ziemlich intensiv den Eindruck von Freilichtmalerei, obwohl sicher nicht sämtliche seiner Gemälde spontan im Freien entstanden sein dürften.
Am 24.Januar 1929 war sein Gesundheitszustand derartig schlecht geworden, daß eine Operation notwendig wurde. Obwohl die Operation selbst erfolgreich durchgeführt worden war, starb Alfons Mielich am darauffolgenden Tag infolge einer plötzlichen Herzschwäche.