Есть много версий. Одна из них очень правдоподобна:
Был во время Русско-Японской войны (1904-05 гг) в составе Российского флота полуброненосный крейсер «Баян». Как он проявил себя, неведомо, но чем кончилась сама война для России - известно. Сам «Баян» и почти вся 1-я Тихоокеанская эскадра были в конце концов затоплены в Порт-Артуре. А 2-я Тихоокеанская в это время плыла вокруг шарика навстречу Цусиме. В Петербурге понимали, что флоту требуется пополнение (в том числе крейсеры), но новых современных на тот момент проектов не было.

Читайте также: Как выглядели бытовые приборы прошлого века. ФОТО

Решили, чтобы не терять времени, заказать три крейсера по образу и подобию недавно утопшего «Баяна». Но их строительство шло медленно. В результате долгострой длился 6-7 лет, и крейсера вошли в строй только в 1912 году. Надо ли говорить, что к тому времени они уже безнадежно устарели... И бывшие артурцы, увидев через 7 лет в Кронштадте до боли знакомый силуэт старого крейсера, не могли удержаться от восклицания: - Аххренеть, это ж «Баян»! Старый баянище!!!

Читайте также: Почему нижнюю пуговицу пиджака застегивать не стоит

Но мне больше нравится другая версия:
До того, как появились клавиатуры, обычно, чтобы не переписывать какую-то повторяющуюся фразу много раз, писали её только в начале предложения, а в остальных её вхождениях ставили такой знак: -//- , который похож на баян и обозначает повторение.