Si pensa che l'Olympus Mons si sia formato in un lungo periodo di tempo, attraverso l'eruzione di lava da una bocca centrale. Il vulcano non è più attivo, ma è ancora considerato un vulcano giovane per gli standard geologici.
La questione se Olympus Mons fosse una volta una gigantesca isola vulcanica è oggetto di dibattito. Alcuni scienziati ritengono che il vulcano possa essersi formato sul bordo di un grande cratere, successivamente riempito di lava. Altri credono che il vulcano si sia formato sulla superficie aperta di Marte e che sia semplicemente cresciuto fino alle dimensioni attuali nel tempo.
La prova della possibilità che Olympus Mons fosse un tempo un'isola deriva dalla presenza di una serie di grandi mesas dalla sommità piatta attorno alla base del vulcano. Si pensa che queste mesa siano i resti di isole vulcaniche che un tempo si trovavano in un mare che copriva gran parte della superficie di Marte.
La teoria secondo cui Olympus Mons una volta era un'isola è supportata dal fatto che il vulcano si trova nella provincia vulcanica di Tharsis, che si pensa sia stata sede di una grande quantità di attività vulcanica in passato. Tuttavia, non esiste una prova definitiva che Olympus Mons sia mai stata un’isola, e la questione probabilmente rimarrà oggetto di dibattito per qualche tempo a venire.
