明治7(1874)年、賀陽郡門田村(総社市門田)に生まれる。現在は、雪舟が修行した宝福寺(総社市井尻野)に満谷国四郎の顕彰碑が建てられている。従兄は、岡山洋画の先駆者と知られる堀和平である。幼い国四郎は堀家に行くたびに和平の画技を見て強く心をうたれた。浅尾小学生の頃では代用教員をしていた吉富朝次郎に愛され、岡山中学、現在の岡山朝日高等学校に進むと、同校の洋画教師だった松原三五郎について洋画の手ほどきを受けた。
明治24(1891)年、中学を3年で退学。徳永仁臣をたよって上京後、五姓田芳柳に師事し、また、小山正太郎が主宰する画塾でさらに油画修業に励み、明治31(1898)年、油絵「林大尉の死」を発表した。明治美術館の会場に明治天皇がたまたま見に来られ、その絵の前にしばらく立ち止まられ感激され、大変褒められていたといわれている。その作品が宮内省の買い上げされ、明治32(1899)年には「妙義山」が外務省に、明治33(1900)年の「尾道港」は再び宮内省買い上げとなった。明治33(1900)年には、水彩画「蓮池」をフランス大博覧会へ出品して三位になる。徹底した写実的な技法を駆使して名声を獲得し、洋画家として着実な地位を築いた。明治33(1900)年渡米し、その翌年にはフランスやイタリアなどを歴遊。明治44(1911)年再び渡欧し、約2年かけフランスやスペインなどを巡り、デッサンを学ぶとともに、ルノワールやセザンヌなどの影響を強く受けて帰国した。これを境に写実的であった過去の殻を脱ぎ捨て、作風は大きく変化し、画面構成も次第に単純化。さらに4度にわたる中国旅行を経て円熟期を迎え、独自のスタイルを築き上げるに至った。