明治9(1876)年、浅口郡新庄村川南(里庄町新庄)で村山菊蔵の長男として生まれる。醇成小学校、生石高等小学校、岡山中学校を経て第一高等学校に進み、東京帝国大学政治学科を主席で卒業。恩賜の銀時計を受けた。中途で小川知彰の養子となり、小川姓となる。
明治37(1904)年、京都帝国大学の講師に迎えられ、翌年、助教授となる。欧米に留学後、大正2(1913)年、京都帝国大学経済学部長に就任する。この頃から政界にに進出し、衆議院議員に立候補し京都より当選。大正13(1924)年には岡山県より立候補し当選。以来、毎回選出、民政党に属して党内財政通として大いに活躍し、広田内閣のとき商工大臣、近衛内閣のとき鉄道大臣となり、このとき関門トンネルを開通させた。第二次世界大戦にあたって、ビルマ政府の最高顧問に就任し、現地の財政立て直しの指導にあたった帰国途中の昭和20(1945)年、東シナ海において乗船していた阿波丸が撃沈された。享年69歳であった。