Nació en Galilea (Israel) en la tercera generación de Tanah. 

Antes de venir a estudiar al Beit Midrash en Yavneh, era conocido como un gran erudito de la Torá y, por lo tanto, era uno de los cuatro principales sabios de Yavneh. 

"En un momento en que Israel no está atrapado en transgresiones y malas acciones, las lluvias cesan, les traen un anciano como el rabino Yossi de Galilea, y él los daña y las lluvias caen" (Yerushalmi Talmud, Bendiciones de Dios, Halajá 2). 

Se casó con la hija de su hermana, cuando sus discípulos notaron que ella era una mala mujer que le causaba pena y lo humillaba delante de ellos, le aconsejaron que la repudiara, él les dijo: Su dirección es grande y no puedo repudiarla. Una vez estudió Torá junto con Rab Elazar ben Azaria. Después de terminar de estudiar, lo invitaron a comer a su casa. Cuando llegaron a la casa, su esposa los recibió con cara de mal humor. Vio un caldero y le preguntó a su esposa: ¿Hay comida en este caldero? Ella le dijo: ¡Aquí hay una verdura! Quitó la tapa de la olla y vio que allí había carne de pollo. Rabí Elazar ben Azaria comprendió que la mente de la mujer no está arreglada con su marido. Después que hubieron comido, le dijo: Rabí, divórciate de esta mujer que no te honra. Él le dijo: Su dirección es demasiado grande para mí y no puedo deshacerme de ella. Él le dijo: Le daremos la tarifa de ketubah y te divorciarás de ella. Después de que lo hicieron y la ahuyentaron, Shiaohu nombró a otra buena mujer. La misma mujer de la que se divorció (la hija de su hermana) se casó con el guardia de la ciudad y luego quedó ciega. Ambos fueron juntos a recoger limosna, una vez se toparon en la calle donde vive el rabino Yossi HaGalili y ella no quería entrar, su marido que conocía todas las calles de la ciudad escuchó que el rabino Yossi HaGalili era un benefactor y muchas veces daba caridad y preguntó por qué no entra a la calle donde vive el rabino Yossi HaGalili. A pesar de su respuesta de que ella es su ex esposa y que se avergüenza de ver lo acogedor que es con todos, su marido comenzó a golpearla. Rabí Yossi HaGalili escuchó los gritos en la calle y los vio siendo humillados en el mercado, los llevó a su casa y les proveyó todos los días de sus vidas (Bereshit Rabá 17/3). 

Tuvo tres hijos y uno murió durante su vida (Talmud Babli Tractate Simjot capítulo 10). 

Rabí Yossi de Galilea dijo: Cuando el Santo, bendito sea, vino a entregar la Torá al Sinaí, las montañas estaban serias y discutían entre sí. Esto significa que la Torá me es entregada y esto significa que me es entregada. Significa que fui llamado y significa que fui llamado. El Todopoderoso dijo que ustedes, que se creían dignos de que se les entregara la Torá sobre sus cabezas, son deficientes en el grado de orgullo, pero el Monte Sinaí, que no se consideró a sí mismo sino que subestimó su valor, es él quien merece que se le entregue la Torá.

'El rabino Yossi de Galilea dijo Gedol Shalom que incluso en tiempos de guerra no hay apertura excepto en paz' ​​(Vaikra Rabbah 9/9). 

Antes de la destrucción de Beiar regresó a Galilea y devolvió su alma a su creador.