Jocurile Olimpice au constituit mari sărbători naţionale ale elenilor. În perioada desfăşurării Jocurilor Olimpice, se încheiau, pe o lună întreagă, sacre armistiţii de pace: în această perioadă, nu era permisă desfăşurarea operaţiunilor militare nu numai în Eleea (oraş în cea mai veche zonă a Greciei), dar şi în alte regiuni ale Eladei.
Sub motivul „sfinţeniei locului”, elenii au reuşit să obţină de la Statele Peloponiziene acordul de a considera Eleea o ţară împotriva căreia nu este permis să lupţi.
În timpul desfăşurării Olimpiadelor, erau sistate toate acţiunile militare şi nu erau duse la indeplinire condamnările la moarte; dacă ignora cineva regula, acesta era supus unei amenzi usturătoare. De exemplu, în anul 420 i. Hr., spartanii au îndrăznit să desfăşoare, pe teritoriul Eleei, acţiuni militare cu participarea a mii de pedestraşi înarmaţi. Conform legii, spartanilor li s-a impus să plătească o amendă de 200 de drahme pentru fiecare ostaş, însă ei au refuzat s-o facă, şi atunci li s-a interzis să participe la Jocuri.
Există puţine mărturii istorice despre desfăşurarea primelor Jocuri Olimpice, în schimb, despre apariţia lor există multe mituri şi legende. Conform uneia dintre acestea, Jocurile au apărut încă din vremea lui Kronos. Zeiţa Rhea, ca să-l salveze pe noul său născut, Zeus, de soţul său avid de sânge, a dat copilul, spre îngrijire şi creştere, nimfelor şi cureţilor („fraţii indieni”), care îi insoţeau în Olimpia.
Mai târziu, unul dintre concureţi, Heracle, fiul lui Zeus, s-a dovedit a fi cel mai puternic — a ajuns primul în competiţiile de alergări şi a fost decorat cu o coroniţă din măslin sălbatic. Conform altei legende, organizatorul competiţiilor era insuşi Zeus, cu ocazia sărbătoririi victoriei sale asupra lui Kronos. S-ar părea totuşi că apariţia Jocurilor Olimpice ţine de secolul al IX-lea i.Hr., când grelele războaie interne pustiau statele greceşti. Atunci Iphitos, împăratul Eleei, a plecat la Delphi, pentru a se sfătui cu oracolul cum să-şi protejeze poporul de război şi jaf. Oracolul din Delphi a răspuns: „Trebuie să iniţiezi Jocurile, plăcute zeilor!”. Iphitos a organizat imediat o întâlnire cu puternicul său vecin Lycurgus, împăratul Spartei, şi au decis, împreună, că Eleea trebuie să fie recunoscută drept stat neutru. Toate statele mici, care duceau lupte interminabile unul împotriva altuia, au fost de acord cu luarea acestei decizii. Atunci Iphitos, ca să le mulţumească zeilor, a organizat Jocurile atletice.
Astfel, în Grecia s-a instalat un obicei, conform căruia, o dată la patru ani, cetăţenii mergeau în Olimpia, ca admire pe atleţi şi să-i slăvească pe zei. Jocurile Olimpice au devenit un eveniment naţional, care unea toată Grecia.
Inainte de Jocuri, şi după ele, Grecia era un stat constituit din numeroase state mici, care se duşmăneau între ele. Competiţiile au fost numite Olimpice, în cinstea oraşului Olympia, unde acestea se desfăşurau. Drept loc pentru competiţii, a fost aleasă dumbrava sacră (în greacă, Altis). Existau nişte reguli severe ale Jocurilor: la competiţii puteau participa numai grecii, barbarii având dreptul de a fi doar spectatori.
Femeilor li se interzicea să privească Jocurile sportive, dar fetiţelor li se permitea. Femeia văzută la Jocuri era supusă unei pedepse aspre, excepţie făcându-se doar în cazul preoteselor Demetrei. Mai târziu, femeilor li s-a permis să încerce să devină campioane olimpice, dar… „prin corespondenţă” — trimiţându-şi la competiţii carul. Se cunosc si numele unor astfel de campioane.
Poeţii, oratorii şi savanţii considerau o onoare să-şi citească noile lor creaţii în faţa spectatorilor, iar artiştii plastici — să-şi expună sculpturile. Statele aveau dreptul să dea citire aici tratatelor, noilor legi şi altor documente importante. Astfel, Olimpia din antichitate a devenit centru unificator şi cultural, unde, o dată la patru ani, viaţa socială clocotea. Sărbătoarea se desfăşura în prima perioadă de lună plină a solstitiului de vară (adică, la sfârşitul lui iunie—începutul lui iulie) şi era constituită din două părţi.
O parte era dedicată competiţiilor, iar alta — riturilor religioase, însoţite de sacrificii, procesiunilor şi meselor sărbătoreşti în onoarea invingătorilor. Conform relatărilor scriitorului antic grec Pausanias, până în anul 472 î.Hr., toate competiţiile se desfăşurau într-o singură zi, ulterior acestea fiind distribuite şi pentru alte zile ale Olimpiadei.
Arbitrii erau numiţi prin tragere la sorţi. Ei se ocupau şi de organizarea întregii sărbători, urmăreau desfăşurarea Jocurilor şi acordau premii. De cele mai multe ori, arbitrii purtau haine de culoarea purpurei şi stăteau pe locuri speciale. Sub comanda lor, se afla un detasament de ostasi. Înainte de a se prezenta în faţa spectatorilor, toţi participanţii trebuiau să aducă dovezi că ultimele 10 luni până la competiţie ei le-au dedicat antrenamentelor şi să-şi susţină spusele prin a jura în faţa statuii lui Zeus. Taţii, fraţii şi învăţătorii lor de gimnastică, dacă voiau să participe şi ei la întreceri, trebuiau să jure şi ei că nu s-au făcut vinovaţi de niciun delict. Cu 30 de zile înainte, sportivii işi demonstrau în prealabil măiestria în Gimnaziul Olimpic.
Drept premiu pentru biruinţa la Jocuri, servea o coroniţă din ramuri de măslin sălbatic; invingătorul trebuia să urce pe un podium din bronz şi i se dădea să ţină în mână crengi de palmier. Campionul, pe lângă gloria care o căpăta pentru sine, îşi proslăvea şi statul, care îi oferea, pentru biruinţă, tot felul de înlesniri şi privilegii. Atena, de exemplu, acorda premii băneşti. Din anul 540 î.Hr., elenii au permis să fie instalată statuia biruitorului în Altis.
Când revenea acasă, invingătorul era omagiat, în onoarea lui se alcătuiau cântece şi i se dădeau premii. În Atena, invingătorul la Olimpiadă avea dreptul să trăiască pe banii statului, în edificiul public numit pritaneu (casa socială a oraşului), fapt ce constituia o mare onoare.