漫画家小林よしのりとは小・中・高校での幼なじみ。ただしクラスは一度も同じになった事がない。小林の紹介により、小林の同期漫画家である秋本治とも親交が深い。
シンガーソングライターの中島みゆきとも交友があり、中島のアルバム『36.5℃』(1986年作品)には甲斐がプロデューサーとして参加している。また、中島がパーソナリティを務めていたラジオ番組「中島みゆきのオールナイトニッポン」で、甲斐の事が話題に上った時には親しみと揶揄を込めて甲斐のお父さんと呼ばれていた。
同じライブハウス出身(福岡の照和)で同年代でもあるミュージシャンの長渕剛と、一時期交友を深めた時期がありお互いのラジオ番組にゲスト出演したりしていたが、その後は当時のような交友はないようである。
ミュージシャンの坂本龍一とは同時期にNHK-FM「サウンドストリート」のDJを務めており(坂本が火曜日、甲斐が水曜日の担当)、収録後に飲みながら音楽談義に花を咲かせる機会も多かったという。音源上の共演は無いが、2003年のアルバム『翼あるもの2』において糸井重里作詞・坂本作曲の「雪列車」(オリジナル歌手は前川清)をカバーしている。