Olimpia es uno de los equipos más exitosos de las competiciones de la Conmebol. Posee 8 títulos internacionales, entre los que se destacan 1 Copa Intercontinental en 1979 y 3 Copa Libertadores de América (1979, 1990 y 2002). Es el único club paraguayo de fútbol que consiguió ganar torneos oficiales de la CONMEBOL, y es además, uno de los dos únicos clubes del mundo en haber ganado una copa internacional sin jugarla, ya que en 1990 fue campeón de la Copa Libertadores y en ese mismo año obtuvo la Supercopa Sudamericana, adjudicándose automáticamente la Recopa Sudamericana. Es la institución deportiva paraguaya que ha logrado más campeonatos y trofeos a nivel internacional.
De manera oficial comenzó su carrera en el ámbito internacional en la Copa de Campeones de América de 1960 (hoy Libertadores), torneo sudamericano organizado por la CONMEBOL en el que obtuvo el segundo lugar detrás del Peñarol de Montevideo. Su última consagración en este mismo plano es la Recopa Sudamericana 2003 obtenida ante el San Lorenzo de Almagro de Argentina.