ffmpeg 使ったほうがいいのかと思っていたけど、cat でできるんですね。メタデータとかどうなんだというのは少し気になるけど。
$ cat first.mp3 second.mp3 > combined.mp3
■追記
さすがに連結部分にエラーフレームは生じるらしく、 メタデータも考慮してくれる mp3wrap というコマンドなんかもあるらしい(by kumagai 氏)。cat して結合したのを ffmpeg に通すとかでも正常化はできそうだけれど。
普通に apt で入る。
$ sudo apt-get install mp3wrap
使い方は
$ mp3wrap combined.mp3 first.mp3 second.mp3 third.mp3
のようにすると、combined_MP3WRAP.mp3 みたいなファイルが生成される。次回作業することががあったらこっち使おう。