As mishnayot foram estudadas e analisadas paralelamente na Babilônia e em Israel. As principais yeshivot de Israel (Tiberias, Sepphoris e Caesarea) compilaram seus estudos e analises na Gemara Yerushalmi. Juntos, a Mishna e a Gemara Yerushalmi formam o Talmud Yerushalmi. (Note que o nome não é preciso, já que o Talmud Yerushalmi não foi compilado em Jerusalém e sim na terra de Israel.) A compilação dos textos do Talmud Yerushalmi são atribuídas a Rav. Mana e Rav. Yossi ao redor do ano 350EC. O texto do Talmud Yerushalmi é mais antigo que o Talmud Bavli em aproximadamente 1 século.

Por viver na terra de Israel os sábios do Talmud Yerushalmi dedicaram uma parte considerável de seu esforço em analisar todos os tratados de Zeraim que trata das leis de agricultura que são aplicáveis unicamente na terra de Israel. (Em contraste, do seder de Zeraim o Talmud Bavli aborda unicamente o tratado Berachot (ver gráfico.)

Na época da compilação do Talmud Yerushalmi havia uma pressão muito forte dos Romanos contra os judeus, os sábios não tiveram o tempo necessário para finalizar o trabalho, com a amplitude, detalhe e qualidade que eles desejavam. O resultado final ficou claramente incompleto e o texto é difícil de ser estudado. Mesmo com estas dificuldades o Talmud Yerushalmi é um ponto de referencia importante para o estudo de Torah Oral, e com base nele foi possível instituir diversas halachot, especialmente as que se referem a agricultura na terra de Israel.

O estudo do Talmud Yerushalmi é unicamente recomendado para pessoas fluentes e já avançadas no Talmud Bavli.