Gelazy pochodził prawdopodobnie z Afryki, z rodziny rzymskiej. Wiemy o tym, gdyż w jednym ze swoich listów, skierowanym do cesarza Anastazego I, nazywa się "Rzymianinem od urodzenia". Już jako młodzieniec był w Rzymie na dworze papieskim, gdzie w latach późniejszych sprawował nawet urząd sekretarza papieży: św. Symplicjusza (+ 483) i św. Feliksa III (+ 492). Właśnie po tym ostatnim papieżu został wybrany jego następcą. Rozpoczął swoje rządy 1 marca 492 roku; przerwała je jego śmierć 19 listopada 496 roku. Rządził więc Kościołem zaledwie 4 lata i kilka miesięcy. Nie wiemy, w jakim wieku objął rządy i w jakich okolicznościach zastała go śmierć. Został pochowany w bazylice św. Piotra na Watykanie.
Sytuacja Kościoła była w owych czasach nader trudna. Zachód zalały plemiona germańskie, podbijając krwawo miejscową ludność i walcząc ze sobą o każdy skrawek Europy. Również ich orientacja religijna nie była ustalona. Większość z nich przyjęła wprawdzie chrześcijaństwo, ale na przykład Wizygoci, Ostrogoci czy Wandalowie byli w większości arianami. Byli wrogo nastawieni wobec Kościoła rzymskiego. Równie trudne były stosunki Rzymu ze Wschodem. Każda prowincja cesarstwa wschodniego była podzielona religijnie i rozdarta na różne orientacje: katolicką, nestoriańską, monofizycką. Cesarze wschodnio-rzymscy i patriarchowie Konstantynopola, niechętni Rzymowi, czynili wszystko, żeby się od Rzymu "uniezależnić". Cesarz Anastazy I był zwolennikiem monofizytyzmu. Herezja ta miała także nazwę eutychianizmu, pochodzącą od imienia Eutychesa, patriarchy Konstantynopola. W tej sytuacji trzeba było wiele dyplomacji, taktu i cierpliwości, by uniknąć zadrażnień i utrzymać chociażby względny pokój.
Gelazy zostawił po sobie cenne pisma. Do najważniejszych z nich należy jego list dogmatyczny, wyjaśniający naukę Kościoła dotyczącą osoby i natury Pana Jezusa. Najgłośniejszym jednak echem odbił się w świecie wspomniany już wyżej list tego papieża do cesarza Anastazego, w którym papież po raz pierwszy wystąpił z nauką o podwójnej władzy na świecie: duchowej i świeckiej, wewnętrznej i zewnętrznej, papieskiej i cesarskiej. Była to pierwsza próba oddzielenia tych dwóch władz i określenia ich granic, jak też wzajemnej do siebie relacji, tak by się wzajemnie uzupełniały, a nie przeciwstawiały, aby służyły dobru poddanych. W średniowieczu problem ten podejmą papież Innocenty III, Sorbona oraz niektórzy prawnicy Anglii i Francji, a także Włoch.
Pomimo wielkiego taktu ze strony papieża, nie udało mu się zażegnać schizmy, której początek dał Akacjusz, patriarcha Konstantynopola, sprzyjający herezji monofizyckiej. Pierwsza, otwarta i oficjalna schizma w dziejach Kościoła trwała przez kilkanaście lat i zakończyła się dopiero w roku 519 - a więc po śmierci Gelazego.
Pomimo krótkich i ciężkich rządów papieża, historia lata jego pontyfikatu nazywa "gelazjańskim renesansem". W Kościele panował bowiem względny spokój. Nie notowano większych wojen w państwach Europy i Bliskiego Wschodu.
Z postacią św. Gelazego I wiąże się także istnienie Sakramentarza Gelazjańskiego, przypisywanego (mylnie) właśnie temu papieżowi. Księga ta zachowała się w postaci kilku manuskryptów, z których najstarszy - z VIII w. - znajduje się w Bibliotece Watykańskiej. Jest to drugi najstarszy sakramentarz - po sakramentarzu z Werony. Był szeroko rozpowszechniony w Galii; w oparciu o niego, pod wpływem kultury celtyckiej, powstały ryty gallikańskie. Sam sakramentarz został skompilowany prawdopodobnie w VII lub VIII w. w okolicach Paryża, jego autorem nie mógł więc być papież Gelazy I.