Al final de la década de los 80’s y al principio de los 90 la comisión diocesana de la Renovación Carismática estaba preparando una conferencia en la que el invitado especial seria el Padre Emiliano Tardif. Al ver la necesidad de un grupo de música para avivar los retiros y conferencias de la renovación carismática, se estableció un ministerio de música Diocesano.

A través de los anos el grupo estuvo dirigido por 5 dirigentes distintos y diferentes miembros participaron en el ministerio de música. En el ano 1993 se le pide a la Señora Carmen Rivera que con su hija Camille se hagan cargo del ministerio. Carmen se hace cargo de la coordinación del grupo y Camille a cargo de la dirección musical. Se reorganizó el ministerio, y se invito a talentos-cantantes y músicos de las diferentes parroquias de la diócesis de St. Petersburg. Luego se decide que el ministerio debería de tener un nombre para identificarse y surge un nuevo nombre Yeshua, (que quiere decir Jesús- la victima sacrificada) y en ese momento se consagro el ministerio a Maria Santísima.

Al estar reorganizado, el ministerio empezó a llevar la música a los diferentes retiros y congresos en el área. También Yeshua avivaba la música a los retiros de Vida en el Espíritu. El pueblo le agrado el ministerio y empezó a pedir la música de Yeshua en grabación.

No teniendo recursos económicos para lograr este sueno se pidió ayuda a la Comisión Diocesana quien brindo su apoyo incondicional y fue así que este sueno se convirtió en realidad. En el 1996 surgió la primera grabación titulada Mi Canción es Para Ti la cual estaba compuesta por canciones originales de Carmen Colon Rivera, Camille Rivera y Carmelo Rivera. Fue tan grande la acogida que el pueblo de Dios pidió otra grabación. Para ese entonces el grupo ya contaba con nuevos integrantes talentosos e hicieron una enorme aportación para este proyecto. Surgieron nuevas composiciones hasta que hubo las suficientes para hacer la segunda grabación. Se termino la segunda grabación titulada Dios esta conmigo.

Carmen se sintió que era tiempo de pasar a su hija Camille la dirección del grupo. Camille había trabajado mano a mano al lado de Carmen poniendo melodía a las canciones que esta componía haciendo arreglos musicales y componiendo también sus propias canciones.

Al poco tiempo entro Alex Nuñez al ministerio Yeshua. Alex añadió un toque profesional al ministerio ya que el era trompetista profesional en Cuba. Este aporto un sin numero de nuevas ideas al grupo. Camille y Alex se casaron, y juntos comenzaron a crear nuevos arreglos para añadir al repertorio de Yeshua y continuar de embellecer las canciones tradicionales y originales de Yeshua.

Después de varios anos, Camille pasó la dirección del grupo, a su marido Alex. El lo reorganizo y comenzó a trabajar con nuevas ideas, teniendo como meta adicional llevar el mensaje a
los jóvenes.

En 2003, la tercera grabación se termina llamada Dueño del tiempo.

Aunque las grabaciones han sido mayormente de canciones originales del ministerio, Yeshua siempre a hecho arreglos para canciones tradicionales de la Renovación por ejemplo “Alabare” y “Quédate Señor”**. Los arreglos de Yeshua varían como los países Latinoamericanos. Hay Merengue, Cumbia, Salsa, Nueva Trova, Bolero, Rancheras y Plena. Es la combinación perfecta pues personas de todas las generaciones y de las diferentes nacionalidades pueden gozar de la música de Yeshua.

Como logros, Yeshua ha participado en el festival de música Hosanna, ha viajado a Brooklyn, NY; Jacksonville, y Orlando, FL llevando el Evangelio de Cristo a través de la música. El Señor sigue utilizando al ministerio con poder para llevar Su amor Su alegría y Su avivamiento.