La ordenación sacerdotal de monseñor Yegros estuvo a cargo de monseñor Aníbal Mena Porta, en la Catedral de Asunción, el 18 de diciembre de 1960.
La diócesis de Carapeguá fue creada por el papa Pablo VI mediante la bula Qui superno concilio, el 5 de junio de 1978. El decreto ejecutorio de monseñor José Mees, nuncio apostólico, es del 20 de agosto de 1978.
Ese mismo día tomó posesión canónica el primer obispo, monseñor Ángel N. Acha Duarte. Monseñor Yegros fue designado segundo obispo residencial de la diócesis de Carapeguá y su ordenación episcopal tuvo lugar el 29 de mayo de 1983.
Monseñor Yegros es considerado padre, abuelo, hermano y compañero espiritual de las familias católicas de esta comunidad. El pastor católico se ganó el cariño de todos los fieles porque con su carisma, humildad, sencillez y ahora en su padecimiento de enfermedad, más que un hombre adulto, es un niño grande que requiere de cuidado, de amor y de acompañamiento.
Monseñor Celso Yegros fue vicario cooperador de San Lorenzo y de la catedral de la “ciudad universitaria”, párroco de Virgen del Rosario, Sajonia, y San Antonio, notario eclesiástico del Arzobispado, miembro en varias ocasiones del Consejo Presbiteral.
También fue secretario de la Obra de las Vocaciones Eclesiásticas, miembro del Equipo Directivo del Seminario Mayor del Paraguay desde 1971 a 1975, profesor, vicedirector y director del Instituto Catequístico “Monseñor Juan Sinforiano Bogarín”.