Den 82-årige påven Benedictus XVI förespråkade en tvåstatslösning i konflikten.
– Jag ber alla ansvariga att utforska alla tänkbara vägar i sökandet efter en rättvis lösning på kvarstående svårigheter, så att båda folken kan leva i fred i sitt eget hemland, inom säkra och internationellt erkända gränser, sade påven på röda mattan inför väntande dignitärer och religiösa ledare.
Israels premiärminister Benjamin Netanjahu har inte förhållit sig så positivt till upprättandet av en palestinsk stat som sin företrädare.
Påven stannade vid Jerusalem
Påven hedrade också förintelsens offer vid minnesmärket Yad Vashem.
–Låt aldrig deras namn bli glömda. Låt aldrig deras lidande bli förnekat, ringaktat eller glömt, sade påven.
Den tyskfödde påvens tal var en besvikelse för Yad vashems ledare rabbi Israel Meir Lauta. Han sade sig vara besviken över att påven inte uttryckte ånger och lät bli att nämna att förintelsen utfördes av nazister.
Under besöket i Jerusalem träffade påven Israels president Shimon Peres.
På onsdagen ska påven träffa palestiniernas president Mahmud Abbas på Västbanken. Under besöket i de palestinska områdena ska han bland annat också besöka Betlehem.