Milne startede hans karriere som 14 årige hos Dundee Celtic. Senere blev han professionel hos byens store fodbold klub United. Det var her på Tannadice han havde hans bedste fodbold år. Det blev knap 300 kampe, et skotsk mesterskab i 1982/83, da han var med til at vinde klubbens første og eneste mesterskab. Han var også med i tre tabte pokalfinaler, hvori han scorede i den ene. Det var også i denne tid han opnåede 3 U21 landskampe for Skotland.
Han skiftede til Charlton i januar 1987, da de betalte 125.000£. Her blev det til godt 20 kampe, inden han skiftede Bristol City, der spillede i tredje bedste række. Det var herfra Ferguson købte Ralph Milne. Han debuterede den 19-11-1988 hjemme mod Southampton. Det blev til i alt 30 kampe og 3 mål i hans tid på Old Trafford. Han forlod United i sommeren 1991 til fordel for en klub i Hong kong.
Ralph Milne døde den 6. september 2015 i Dundee i en alder af 54 år.
