Joey nasceu em 19 de maio de 1951 no bairro de Forest Hills, no distrito de Queens. Seus pais se divorciaram no início dos anos 1960 e Joey sofreu muito; o novo marido de sua mãe morreu posteriormente em um acidente de carro. Joey sofria de um transtorno obsessivo-compulsivo desde novo, que o levou diversas vezes a realizar certas ações para neutralizar a obsessão.
Antes da experiência com Ramones, Joey tocou nos Snipers. Ele usava botas rosa, camisa preta, luvas até o cotovelo, cabelos longos e óculos redondos. Ele admirava The Who e os Beatles; mas em particular os Stooges e Iggy Pop, seu artista favorito. Em Forest Hills ele conheceu dois outros garotos: Douglas Glenn Colvin e John Cummings, os futuros Dee Dee e Johnny Ramone, respectivamente.
Joey começou como baterista; mais tarde se tornou cantor para compensar a falta de voz de Dee Dee, que lutava para tocar baixo e cantar ao mesmo tempo. Os anos nos Ramones foram marcados por sucessos e excessos, mas também por problemas e mudanças de formação. O último show dos Ramones e Joey com essa banda foi em 6 de agosto de 1996 em Los Angeles, imortalizado no álbum We are Outta Here!, gravado ao vivo.
Depois que os Ramones se separaram, Joey embarcou em uma carreira solo, gravando o álbum Don't Worry About Me, que contém canções originais e dois covers: 1969 dos Stooges e uma versão punk de What a Wonderful World, de Louis Armstrong.
Joey nunca viu o lançamento de seu álbum de estúdio: ele morreu em 15 de abril de 2001 em um hospital de Nova York, pouco antes de completar 50 anos; enquanto ouvia a música In a Little While do U2. Ele foi sepultado na seção judaica do Hillside Cemetery, em Lyndhurst, New Jersey.
Em 30 de novembro de 2003, "Joey Ramone Place" foi dedicado a ele em Nova York, onde a capa do primeiro álbum dos Ramones foi tirada; e onde Joey e Dee Dee dividiam um apartamento. Em setembro de 2010, a Associated Press noticiou que a placa indicando Joey Ramone Place foi a placa mais roubada em toda a cidade de Nova York. Em 27 de setembro, poucos dias depois, a placa foi movida para uma altura de 6 metros.
Em 10 de setembro de 2014, o U2 dedicou a ele uma música chamada The Miracle (Of Joey Ramone), a faixa de abertura do álbum Songs of Innocence; onde, embora não mencionando explicitamente seu nome, eles falam da primeira vez que viram os Ramones em Dublin, e o quanto aquele show influenciou sua carreira musical de forma positiva.
A MTV afirmou sobre Joey: "Suas marcas registradas como jaqueta de couro preta, cabelo na altura dos ombros, jeans rasgados e sua voz simplesmente linda fazem de Joey Ramone o padrinho do punk."