Urodził się jako Aubrey Solomon Eban w Kapsztadzie w Południowej Afryce, przeprowadził się do Wielkiej Brytanii we wczesnym dzieciństwie. Uczył się w St. Olave’s Grammar School, a potem był wyróżniającym się studentem Queens’ College na Uniwersytecie Cambridge. Następnie prowadził zajęcia z języka arabskiego na Pembroke College w latach 1938–1940. Służył w armii brytyjskiej w czasie II wojny światowej, dochodząc do stopnia majora. Był także oficerem łącznikowym, odpowiedzialnym za kontakty aliantów z żydowską społecznością w Palestynie (jiszuw), gdzie pozostał po wojnie.
Pozostając w Izraelu, zmienił swe imię na brzmiące bardziej hebrajsko – Abba. Był pierwszym reprezentantem Państwa Izrael w ONZ, gdzie odniósł sukces, uzyskując zgodę Narodów Zjednoczonych na podział Palestyny na część żydowską i arabską (Rezolucja 181). Jednocześnie był ambasadorem w USA. Jego umiejętności oratorskie, z których był znany, a także biegła znajomość dziesięciu języków zapewniły poparcie dla Izraela kilku niezdecydowanych krajów (choć większość była mu niechętna lub nawet wroga). W 1952 został wybrany na wiceprzewodniczącego Zgromadzenia Ogólnego NZ.
W latach 1966–1974 sprawował urząd ministra spraw zagranicznych, bronił opinii o Izraelu po wojnie sześciodniowej. Był zdecydowanym zwolennikiem zwrotu Arabom terytoriów wówczas zagarniętych w zamian za pokój. Krytykowano go za to, że nie wyrażał otwarcie swoich poglądów w izraelskiej debacie publicznej.
Jego komentarz: „Palestyńczycy nigdy nie przeoczą szansy, by zmarnować szansę [na pokój]” wypowiedziany po rozmowach pokojowych w Genewie w 1973 często cytowano.
Na skutek rozłamów w Partii Pracy, której był członkiem, utracił w 1988 miejsce w parlamencie. Resztę życia poświęcił na pisanie i prowadzenie wykładów, m.in. na uniwersytecie Princeton i Columbia. Był także narratorem w kilku telewizyjnych filmach dokumentalnych opowiadających o historii Izraela.
W 2001 otrzymał najwyższą nagrodę państwową Państwa Izrael.