Moshe rabenu recebeu a Torah no Sinai em duas formas: a Torah Escrita e a Torah Oral (-400 AEC).
Com a proibição de escrever a Torah Oral, as tradições eram passadas de geração em geração, nas casas, escolas e Yeshivot da época. Esta mecânica mudou drasticamente depois da destruição do segundo Beth Hamikdash (+70 EC). Sem ter um lugar central de estudo (o templo), e preocupados que os detalhes da tradição oral iriam se perder (incluso sobre as leis relacionadas com serviço do templo), foi autorizado a escritura dos discursos rabínicos.

A Mishnah foi a primeira compilação destes discursos rabínicos, é o texto de base do Talmud, e foi compilada pelo Rabino Yehuda Hanassi antes de falecer em +217EC. Por sua natureza as mishnayot são textos concisos, sem muito detalhes, de forma em facilitar sua memorização.

Três séculos depois de serem escritas, as Mishnayot foram estudadas, analisadas, debatidas, e discutidas pelos rabinos de Israel e Babilônia. Para melhor preservar todos os detalhes das leis, os rabinos escreveram e copilaram estas analises chamadas de Gemara.

Nasce assim o Talmud Bavli composto da Mishnah e a Gemara Babilônica. O Talmud Bavli não cobre o estudo de todas as mishnayot. Somente 37 dos 63 tratados da Mishnah tem uma Gemara Babilônica.

A metodologia de estudo das mishnayot foi estabelecida por Rab (Rav. Abba Arika) um discípulo de Rab Yehuda Hanassi. Em sua maioria a compilação do Talmud Bavli foi começada por a Rav Ashe (Rosh Yeshiva de Sura de 375EC-427EC) e terminada por Ravena (que faleceu 499EC). Por sua maior popularidade, hoje quando se menciona simplesmente Talmud é uma referencia ao Talmud Bavli.

Os mais velhos manuscritos de um Talmud Bavli completo, conhecido como o Munich Talmud data de 1342 EC e está disponível online.

As edições atuais do Talmud Bavli incluem explicações da gemara por Rashi (1040-1105EC) nas margens internas; e pelos netos de Rashi e outros rabinos da época chamados de Tosafot, nas margens externas das páginas.