Baranyay József az Érsekújvárhoz közeli Kamocsán a helyi jegyző fiaként 1876. szeptember 6-án született. Gimnáziumi tanulmányait Keszthelyen és Debrecenben végezte el, Budapesten szerzett jogi diplomát, jogi gyakorlatot azonban nem folytatott. Az újságírást a Dunaszerdahelyen megjelenő Csallóközi Lapokban kezdte 1903-ban. A következő évtől 1912-ig a lap felelős szerkesztője volt és dolgozott más vidéki lapoknak is. Majd Komáromba került, itt különböző lapok és időszaki kiadványok (naptárak, kalendáriumok) szerkesztése mellett könyvtárosként működött 1906-tól 1945-ig.
1904–1912 között szerkesztette a dunaszerdahelyi Csallóközi Lapokat, 1914–1919 között pedig a Komáromi Újságot és a Komáromi Kalendáriumot, 1920-ban a Vagyunk folyóiratot, majd a Barázda agrárpolitikai és kisebbségvédelmi újságot (1921–1926, 1936–1939) és a Csallóközi Naptárt (1921-1938), közben 1920–1944 között egyik szerkesztője a Komáromi Lapoknak is.
1912-es alakulásától a Jókai Könyvnyomda, Könyv- és Papírkereskedés Részvénytársaság elnöke, amely a legrégibb komáromi nyomda jogutódja volt (a vállalatot a húszas években Földes Samu, majd a Puzsér testvérek nyomdája vette meg).
1919. május 1-jén internálták és csak 9 hónap elteltével szabadult. Többek között az internálás körülményeiről szól a „Vesztőhelytől az internálótáborig” című könyve, amely a Komáromi Lapok 1942. évi számaiban megjelent írásait tartalmazza. Később tagja volt a Jókai Közművelődési és Múzeum Egyesületnek.
A világháborúk közötti években a kedélyes, szellemes, művelt agglegény, mázsás súlyt jóval meghaladó alakjával a komáromi társasági élet közkedvelt személyisége volt.
Szépirodalmi művein, elbeszéléskötetein kívül számos hely- és művelődéstörténeti, könyvet írt a régi Csallóközről, a csallóközi aranymosásról, Komárom és a magyar királyok kapcsolatáról, a komáromi magyar színészetről, nyomdászatról és sajtóról, Komárom előfordulásáról a magyar népdalokban stb.
Írásaiból a rendszerváltás után két válogatás is készült (Kalandozások Komárom vármegyében, 1998; Nagyobb munkái, 2002).
1945-öt követően a kollektív bűnösség elve alapján, mint magyar nemzetiségű köztisztviselőt megfosztották állásától. 1945 nyár végén kiköltözik a múzeum épületéből és a tanyi rokonainál húzódik meg, ahol tétlenségre kárhoztatva, fizetés és nyugdíj nélkül kénytelen eltölteni életének utolsó fél évtizedét.
Komáromban, 1952. január 20-án hunyt el. Sírja a komáromi református temetőben található, Komáromban utca viseli a nevét, szülőfalujában emléktáblát kapott.
Baranyay József emléktáblája Tanyon
Pokornyi Gábor
