静岡県生まれ。1961(昭和36)年、東京大学法学部を卒業し、警察庁に入庁。
東大に近い本郷二丁目の本富士署署長を務めていた1969(昭和44)年9月30日朝、赤軍派により署長室を炎上されるという事件に見舞われるが、本人は隣室の会議室で会議中だったため事なきを得た。警視庁広報課長を務めていた1972(昭和47)年、浅間山荘事件が勃発。現地に派遣され、マスコミの取りまとめを行なった。
1984(昭和59)年4月から1985(昭和60)年8月まで大分県警本部長を務め「大分は今も第二の故郷」という。警察庁刑事局長時代に暴力団対策法を制定。1994(平成6)年7月から警察庁長官。1995(平成7)年3月30日、オウム真理教捜査の渦中に何者かに狙撃されて重傷を負う(国松長官狙撃事件)。
1997(平成9)年3月に長官を退任。警察庁顧問、特殊法人「自動車安全運転センター」理長を経て、外交に転じ、1999(平成11)年よりスイス大使の任に就いている。