La plate-forme arabique est relevée et brisée à son angle sud-ouest, où elle participe à l'instabilité de la zone de fracture de la Rift Valley. Des systèmes de failles guident les grandes orientations du relief, et de splendides escarpements dominent la mer Rouge et le golfe d'Aden. Tandis que le socle est généralement masqué par les éléments d'une couverture calcaire, les traces d'une intense activité volcanique sont partout perceptibles. D'immenses trapps recouvrent sur plusieurs centaines de mètres certaines parties du pays; volcans et coulées fraîches marquent le paysage.
Basse et bordée de récifs coralliens, la frange côtière, le plus souvent une plaine sablonneuse, telle la Tihama le long de la mer Rouge, n'excède pas 50 km de large. Vers l'intérieur, une chaîne montagneuse lui succède sur 100 à 150 km de longueur. Les altitudes sont particulièrement élevées dans la partie septentrionale, le long de la mer Rouge (3.760 m au djebel Nabi Chuayb), tandis qu'au droit d'Aden elles ne dépassent pas 2.000 m. Ces montagnes sont précédées par un spectaculaire escarpement, qui assure la jonction avec la plaine littorale. L'ensemble est violemment disséqué par l'érosion, qui dégage des formes grandioses et découpe la montagne en bastions aux versants vertigineux. Vers l'intérieur, sur 300 à 400 km de profondeur, de hauts plateaux inclinés vers l'est et le nord succèdent à la montagne; on parvient aux étendues sableuses du Rub al-Khali, le désert arabique.