Khánh Ly tên thật là Nguyễn Thị Lệ Mai, sinh ngày 6 tháng 3 năm 1945 tại Hà Nội, cũng có khi cô lấy tên Phạm Thị Lệ Mai theo họ Phạm của người cha dượng. Năm 1954, Lệ Mai theo mẹ di cư vào miền Nam.
Khi còn ở Hà Nội, dù chưa tới 9 tuổi, Khánh Ly đã tham dự một cuộc thi hát với bài Thơ Ngây của nhạc sĩ Anh Việt nhưng không được giải gì. Cuối năm 1956, mới 11 tuổi, Khánh Ly một mình đi nhờ xe chở rau từ Đà Lạt về Sài Gòn tham dự cuộc thi tuyển lựa ca sĩ nhi đồng do đài Pháp Á tổ chức tại rạp Norodom. Lệ Mai hát bài Ngày Trở Về của nhạc sĩ Phạm Duy và đoạt giải nhì, sau "thần đồng" Quốc Thắng.
Năm 1962, Khánh Ly thực sự bước chân vào sự nghiệp ca hát, cô hát cho phòng trà Anh Vũ trên đường Bùi Viện, Sài Gòn. Cuối năm đó cô chuyển lên sống tại Đà Lạt và hát cho các phòng trà ở đó. Năm 1964, Khánh Ly gặp nhạc sĩ Trịnh Công Sơn, lúc đó còn chưa nổi tiếng, ông mời cô về Sài Gòn biểu diễn. Lúc đó, vì không muốn rời Đà Lạt nên Khánh Ly từ chối lời đề nghị của người nhạc sĩ trẻ đó.
Năm 1967, do tình cờ cô gặp lại Trịnh Công Sơn tại Sài Gòn và từ đó, Khánh Ly cùng Trịnh Công Sơn đã trở thành một hiện tượng của tân nhạc Việt Nam.
Khánh Ly và Trịnh Công Sơn đã có những buổi trình diễn ngoài trời cho sinh viên tại Quán Văn nằm trên bãi đất rộng sau trường Đại học Văn Khoa Sài Gòn. Họ tiếp tục trình diễn khắp nơi ở miền Nam Việt Nam, nhất là trong sân cỏ trường đại học, nơi Khánh Ly được mệnh danh là "Nữ Hoàng Chân Đất" hay "Nữ Hoàng Sân Cỏ". Khánh Ly chính là ca sĩ Việt Nam đầu tiên tổ chức sô (show) diễn riêng của mình.
Từ năm 1967 đến 1975, Khánh Ly hợp tác với nhiều hãng đĩa tại Sài Gòn, thâu âm nhiều bài hát trong các dĩa nhạc của các hãng dĩa Việt Nam, Sóng Nhạc, Tình Ca Quê Hương, Dư Âm, Nhạc Ngày Xanh, Continental và thâu vào băng Akai của Chương trình Phạm Mạnh Cương, Trường Sơn, Sơn Ca, Họa Mi, Jo Marcel... Năm 1968, Khánh Ly mở Hội Quán Cây Tre ở Đakao, số 2bis đường Đinh Tiên Hoàng, Sài Gòn. Đây là nơi tụ họp của các văn nghệ sĩ và các sinh viên học sinh yêu văn nghệ yêu tiếng hát Khánh Ly, và đây cũng là nơi tổng phát hành những cuốn băng nổi tiếng Trịnh Công Sơn - Khánh Ly Hát Cho Quê hương Việt Nam.
Trong hai năm 1969, 1970, được sự tài trợ của chính phủ Việt Nam Cộng Hòa, Khánh Ly đã có nhiều cuộc trình diễn cho các sinh viên Việt Nam ở châu Âu, Mỹ và Canada. Năm 1970, nhận được lời mời của đài truyền hình NHK, Khánh Ly sang biểu diễn ở Nhật Bản. Khánh Ly đã ghi âm và trình diễn các ca khúc bằng cả hai thứ tiếng Việt và Nhật.
Năm 1970, Chiến tranh Việt Nam lan rộng, Trịnh Công Sơn viết nhiều ca khúc phản chiến và được Khánh Ly hát trong những cuốn băng Hát Cho Quê Hương Việt Nam. Khánh Ly cũng tham gia hát trong những buổi ca nhạc gây dựng quỹ của các hội đoàn, hội Công giáo Việt Nam để xây chùa, nhà thờ, trại mồ côi, trại tị nạn. Năm 1972, cô mở một phòng trà ca nhạc mang tên Khánh Ly trên đường Tự Do, số 1214 tại thành phố Sài Gòn.
Sau năm 1975, Khánh Ly rời Việt Nam và định cư tại Cerritos, California, Hoa Kỳ. Năm 1979, một lần nữa Columbia Nippon lại mời Khánh Ly đến Nhật để thâu băng nhạc của Trịnh Công Sơn. Năm 1982, đài Bunka Honso Radio mời Khánh Ly tham gia Liên hoan Âm nhạc Châu Á với nhiều nghệ sĩ nhiều nước châu Á. Năm 1985, Khánh Ly cùng chồng là nhà báo Nguyễn Hoàng Đoan mở hãng thu riêng Khánh Ly Productions. Năm 1987, Khánh Ly trở lại Nhật để thâu băng cho phim Thuyền Nhân (Boat Man).
Năm 1988, là một tín đồ Công Giáo mộ đạo, Khánh Ly được mời đến Vatican trong lễ tưởng niệm những tín hữu Việt Nam tử vì đạo. Trong sự kiện này, Khánh Ly đã gặp mặt Giáo Hoàng Jean Paul II. Năm 1989, sau khi bức tường Berlin bị phá bỏ, Khánh Ly và Thanh Tuyền đã hát trong chương trình nhạc đầu tiên ở Đông Đức. Năm 1992, Khánh Ly được mời đến Đại hội giới trẻ Thế giới ở Denver, Colorado, Hoa Kỳ, là lần thứ hai Khánh Ly được gặp Giáo Hoàng Jean Paul II. Năm 1996, Đài truyền hình NKH ở Nhật Bản đã chọn Khánh Ly là một trong 10 nhân vật nổi tiếng để làm phim tài liệu về cuộc đời và gia đình Khánh Ly.
Hiện nay Khánh Ly vẫn tiếp tục sự nghiệp ca hát của mình và là một diva (nữ ca sĩ được mến mộ) trụ cột của Trung tâm Thúy Nga.