福岡県福岡市出身。祖父は政財界のフィクサーともいわれた杉山茂丸、父は作家の夢野久作である。弟は詩人の杉山参緑。1937年（昭和12年）福岡中学校（現福岡県立福岡高等学校）卒業後、1940年（昭和15年）陸軍士官学校（53期）を卒業し、ボルネオでは胸部貫通銃創の重傷を負う。陸軍少佐で終戦を迎える。

戦後、3万坪の農地を売り、緑化の費用にあてた。インドの政府や個人の協力を得て、インドの各地にあった砂漠地帯や土砂崩壊の地域を緑化したが、日本の政府や企業などからは理解や協力が得られず、日本ではあまり知られていない。

1955年（昭和30年）戦友から、日本で農業を学んでいたインド人を紹介され杉山農園で農業技術を教えた。初めてインドに行ったのは1962年（昭和37年）、砂漠となったパンジャブ州を見て、国道1号線沿いの延長470キロメートルに、成長が早く根が深くパルプの原料となるユーカリを植林し、ヒマラヤからの地下水脈をせき止めて水を確保することを提案した。また、国際文化福祉協会を設立しインド救援の寄付金を募った。

植林開始と共に旱魃に襲われ、3年間で500万人が餓死する事態に、インド政府も事業中止に至ったが、杉山は杉山農園を売却して資金を調達し、家族を日本に残して渡印した。のち、4万坪の福岡市の杉山農園、家屋敷は人手に渡り、借家住まいとなり、国連関係者からの環境会議出席の求めに友人から旅費を借りて出席した。祖父・茂丸が台湾で関与した蓬莱米をインドに移植することに成功している。

終始、日本政府からの援助は無く、学界からは黙殺され、国際文化福祉協会の財団法人認可申請もいまだ認められていない。インド、パンジャブからパキスタンまでの国際道路のユーカリ並木とその周辺の耕地は杉山の功績であるとされている。

1965年の「ベトナムに平和を!市民文化団体連合」（後の「ベトナムに平和を!市民連合」）結成の際には、玄洋社国際部長として呼びかけ人となっている。

• 杉山龍丸『砂漠緑化に挑む』　葦書房、1984年 – 死の2年前の論文を含み、緑化のノウハウをまとめている。
• 杉山満丸『グリーン・ファーザー　インドの砂漠を緑にかえた日本人・杉山龍丸の軌跡』　ひくまの出版、2001年－長男がインドでの緑化事業の軌跡を訪ねたドキュメント。