Yossi Klein Halevi urodził się i wychował w Borough Park na Brooklynie w Nowym Jorku w rodzinie żydowskiej. Jego ojciec był żydem urodzonym na Węgrzech ocalałym z Holokaustu. Po ukończeniu szkoły średniej w Yeshiva University High School for Boys (Brooklyn Branch), w 1978 roku uzyskał tytuł licencjata w dziedzinie judaistyki na Brooklyn College i ukończył studia magisterskie z dziennikarstwa na Northwestern University. W 1982 Halevi wyemigrował do Izraela.
Halevi pracował jako starszy pisarz dla dwutygodnika The Jerusalem Report od jego założenia w 1990 do 2002 roku. Halevi pisał felietony dla The Jerusalem Post , artykuły o tematyce dotyczącej Izraela dla The Wall Street Journal, The New York Times i Los Angeles Times.
Pierwsza książka Haleviego, Memoirs of a Jewish Extremist, została opublikowana w 1995 roku. Opowiada w niej o swojej młodzieńczej fascynacji wojowniczym rabinem Meirą Kahanem.
W 2001 roku opublikował mniej znaną U bram ogrodu Eden.... Książka opowiada o jego duchowej podróży jako religijnego Żyda w światy chrześcijaństwa i islamu w Izraelu.
Halevi włączał się w modlitwy i medytacje w meczetach i klasztorach, próbując doświadczyć nabożnego życia swoich nieżydowskich sąsiadów i stworzyć religijny język pojednania między największymi trzema monoteistycznymi wyznaniami.
Z kolei książka Like Dreamers: The Story of the Israeli Spatroopers who Reunited Jerusalem and Divided A Nation została wydana przez HarperCollins w październiku 2013 roku i spotkała się z bardzo pozytywnymi recenzjami.
Opowiada o zdobyciu Starego Miasta w Jerozolimie przez 55. Brygadę Spadochroniarzy Izraela w czasie wojny sześciodniowej w 1967 r. i o dalszych losach siedmiu z tych żołnierzy, którzy odegrali kluczową rolę we wpływaniu na politykę współczesnego Izraela, od ruchu pokojowego po ruchy osiedleńcze.
W The Wall Street Journal Elliott Abrams pochwalił książkę jako „prawdziwą wersję Exodusu Leona Urisa”, powieści historycznej z 1958 roku. Like Dreamers zdobył nagrodę Book of the Year 2013 w National Jewish Book Awards.
15 maja 2018 roku Harper opublikował książkę Haleviego Listy do mojego palestyńskiego sąsiada]. W książce Halevi „otwiera dialog z wyobrażonym palestyńskim sąsiadem… Opracowuje swoje rozdziały jako serię listów do owego sąsiada, które zawierają zarówno zwięzłe, wyważone historie – dotyka takich tematów, jak historia nowoczesnego syjonizmu i okupacja Zachodniego Brzegu i Gazy – oraz jego własne wspomnienia dorastania amerykańskiego Żyda, obawiającego się, że Izrael zostanie zniszczony w 1967 r., przeprowadzki do Izraela czy tego, jak zakończył się jego „romans z ruchem osadniczym”.
Halevi stara się rozpocząć pierwszy publiczny dialog między izraelskim pisarzem a jego sąsiadami na temat tego, kim jesteśmy, dlaczego uważamy się za rdzennych mieszkańców tej ziemi i jaka jest nasza wspólna przyszłość w regionie.
