Durante la discussione sulla questione dello svolgimento della III Olimpiade, il Comitato Olimpico Internazionale ha deciso di organizzarla sul territorio degli Stati Uniti, poiché questo paese ha mostrato buoni risultati nei due giochi precedenti. Inizialmente, volevano organizzare le Olimpiadi a Chicago o New York, ma di conseguenza la scelta è caduta sulla piccola città portuale di St. Louis.
La III Olimpiade di St. Louis, insieme alle Olimpiadi di Parigi, si è svolta nell'ambito dell'Esposizione Universale. Tuttavia, la direzione locale della Mostra non la considerava un concorrente, ma, al contrario, cercava in tutti i modi di utilizzare i giochi per i propri scopi pubblicitari. Inoltre, gli organizzatori hanno ripetuto alcuni degli errori delle Olimpiadi estive del 1900 a Parigi. A causa dell'attaccamento all'Esposizione Mondiale, le competizioni furono respinte in secondo piano e le Olimpiadi stesse durarono per quasi 5 mesi (1 luglio - 23 novembre 1904). Molte competizioni si sono svolte sotto la guida di varie organizzazioni professionali, tuttavia, nonostante ciò, sono state tutte insignite del titolo di discipline olimpiche.
Secondo il CIO, 12 paesi hanno preso parte ai Giochi estivi di St. Louis. L'unico stato a partecipare per la prima volta alla competizione è stato il Sudafrica. Rispetto alle Olimpiadi di Parigi, il numero dei paesi partecipanti è diminuito drasticamente. I 13 stati che hanno partecipato ai Giochi estivi di Parigi non hanno potuto venire a St. Louis per motivi economici. La Russia, che all'epoca era in guerra con il Giappone, non prese parte alla competizione.
Alle III Olimpiadi estive hanno preso parte un totale di 651 persone, di cui 6 donne. Hanno gareggiato per 94 serie di premi in 18 sport. La più numerosa è stata la squadra degli Stati Uniti d'America, hanno rappresentato 533 persone ai giochi. In molti sport (boxe, wrestling, pallanuoto, tiro con l'arco e tennis) si sono esibiti solo atleti americani, quindi i giochi hanno dimostrato chiaramente la superiorità del paese.
A St. Louis, per la prima volta, hanno iniziato a premiare i tre, non due, atleti che hanno mostrato il miglior risultato. Il principale vincitore del concorso è stato premiato con una medaglia d'oro; l'atleta che ha preso il secondo posto - argento; e il terzo posto è stato premiato con una medaglia di bronzo. Questa tradizione è sopravvissuta fino ai giorni nostri.
Nell'evento a squadre non ufficiale, i paesi partecipanti sono stati posizionati come segue: I posto - USA (78 ori, 82 argenti, 78 medaglie di bronzo), II posto - Germania (4 ori, 4 argenti, 5 bronzi), III posto - Cuba (4 medaglie d'oro, 2 d'argento, 3 di bronzo).