La gran mayoría de los baños públicos están separados por género, por lo que aunque todavía existen baños mixtos, es poco probable que encuentres uno por casualidad.
Normalmente no se permite el traje de baño (o cualquier otra cosa), ya que los japoneses consideran que estropearía el agua (ni siquiera tu cabello puede tocar el agua, en particular). Una vez más, algunos lugares especiales pueden permitir trajes de baño por alguna razón u otra, pero tendrías que buscarlos específicamente.
Aparte de eso, la etiqueta es más o menos la misma que en cualquier otro lugar de Japón: sé discreto. No correr, no gritar, etc. Simplemente imita a las personas que te rodean y estarás bien.
Editado para agregar: Tal vez esto enfatice: no hay una regla especial para las mujeres (u hombres) extranjeros. Aunque existe la tolerancia habitual para cierta cantidad de comportamiento "no japonés", no llega tan lejos como para permitirle usar su traje de baño. Puedes considerarlo como usar zapatos dentro de casas o santuarios / templos.