Mark Calaway fait ses débuts à la WCW en 1989 sous le nom de Mean Mark Callous. Il avait alors pour manager Paul E. Dangerously. Il remplace Sid Vicious au côté de Dan Spivey dans l'équipe des Skyscrapers, entamant une feud avec les Road Warriors. Cette feud s'interrompt avec le départ de la WCW de Spivey ; les Skycrapers continueront une ou deux fois avec un membre masqué, mais l'équipe sera dissoute. Au Great American Bash 1990, il perd NWA United States Championship contre Lex Luger. La WCW ne renouvelle pas son contrat après son match contre Sting le 1er septembre 1990 dans un house show.
En 1992, il sauve Randy Savage d'une attaque de Jake "The Snake" Roberts . Lors de Wrestlemania VIII, il remporte le combat face à Jake Roberts. En 1992, il bat Kamala lors du SummerSlam 1992 par disqualification.
Il a sa revanche en remportant au Survivor Series 1992 un match qu'il a lui-même inventé, le Casket match(1er de l'histoire), en enfermant Kamala dans le cercueil.
En janvier 1993, il entame une rivalité avec Giant Gonzales. Les deux Hommes s'affrontent à WrestleMania IX, match qui se solde par une victoire de l'Undertaker par disqualification. Lors du SummerSlam 1993, le Phemon obtient la victoire contre le Giant Gonzales.
Au Royal Rumble 1994, il perd face a Yokozuna dans un casket match pour le championnat de la WWE et disparait pendant de longs mois. Au Summerslam 1994, lors de son retour, il gagne contre un Undertaker imposteur (incarné par Brian Lee) et ayant Ted Dibiase comme manager. Au Survivor Series 1994, dans un casket match contre Yokozuna, il obtient sa vengeance en l'enfermant dans le cercueil.
L'année 1995 a impliqué l'Undertaker dans des rivalités avec des membres de la Million Dollar Corporation de Ted Dibiase. Il a vaincu Irwin R. Shyster au Royal Rumble 1995 et King Kong Bundy lors de Wrestlemania XI. Par la suite, Kama Mustafa vola l'urne de Paul Bearer et la changea en chaine. Ceux-ci se sont affrontés à quelques reprises et l'Undertaker remporta un casket match contre Kama au Summerslam 1995.
Par la suite, il eut une rivalité avec Mabel, qui s'était emparé de la chaine. Mabel et Yokozuna blessèrent l'Undertaker au visage et celui-ci porta ensuite un masque semblable à celui du fantôme de l'opéra.
En décembre 1995, il remporte un match du cercueil contre King Mabel. Suite à ce combat, la WWE le nomme aspirant numéro 1 au championnat de la fédération. Kevin Nash, ancien champion, intervient en la faveur de Bret Hart lors du combat pour le titre au Royal Rumble 1996.
La guerre entre l'Undertaker et Kevin Nash se termine, avec la victoire du Deadman à Wrestlemania XII.
.


