Tokenizer Clase
- java.
lang. Object - com.
microsoft. bot. dialogs. choices. Tokenizer
- com.
Implementaciones
public class Tokenizer
implements TokenizerFunction
Proporciona la implementación predeterminada de Tokenizer.
Resumen del constructor
| Constructor | Description | |
|---|---|---|
| Tokenizer() | ||
Resumen del método
| Modificador y tipo | Método y descripción |
|---|---|
| java.util.List<Token> |
tokenize(String text, String locale)
Tokenizador simple que se interrumpe en espacios y puntuación. |
Métodos heredados de java.lang.Object
Detalles del constructor
Tokenizer
public Tokenizer()
Detalles del método
tokenize
public List
Tokenizador simple que se interrumpe en espacios y puntuación. La única normalización realizada es en minúsculas.
Parámetros:
Devoluciones: