На Токио-эки (Токийский вокзал то бишь) вайфай, например, есть везде и бесплатный. Для каждой секции своя точка, шинкансенная работает, подтверждаю.
Прожила без всяких дополнительных приложений весной этого года) (с марта по май)

Если что, есть ещё Старбаксовый бесплатный вайфай, там надо зарегистрировать свой мэйл и будет вам счастье в любом старбаксе любого города Японии.