Quem vai pela RS-122 do Caí a Bom Princípio, logo antes de chegar a esta cidade, passa por uma grande ponte sobre o rio Caí. Se reparar bem, verá que por baixo desta ponte, além do rio, passa uma estrada. É a velha estrada Rio Branco, que ia do Caí até a Feliz, quase sempre acompanhando a margem do rio.

Percorrendo a velha estrada, andando apenas algumas centenas de metros, no mesmo sentido em que corre o rio, chega-se a uma pequena localidade que é muito antiga. Ali existe um modesto salão de baile chamado Salão Kayser. Também conhecido popularmente como Kaysão. No rio, ali bem perto, existe o antigo passo Selbach, por onde carros, cavalos e pedestres atravessavam o rio antes da existência da ponte. Havia uma barca no local.

Esta localidade era conhecida antigamente como Caí e ela já existia, com algumas casas e ao menos um estabelecimento comercial, na década de 1850. Nesta mesma época, no local onde hoje existe a cidade de São Sebastião do Caí havia apenas fazendas esparsas, sem constituir uma povoação.

Com o tempo, na medida que formou-se a vila e depois a cidade de São Sebastião do Caí, ou Caí, a localidade mais antiga (aquela a que nos referimos, junto ao passo Selbach) passou a ser chamada de Caí Velho. Nome que ainda hoje é utilizado, embora alguns prefiram chamar o local de Bela Vista, como uma extensão da localidade deste nome que existe rio acima, na mesma margem (a esquerda) do rio Caí.