# Tokenizer

# Introducción

Las funciones de la extensión tokenizer proporcionan una interfaz para la creación de tokens de PHP integrada en el Motor Zend. Utilizando estas funciones se pueden escribir herramientas propias de análisis o de modificación de código fuente de PHP, sin tener que hacer frente a las especificaciones del lenguaje a nivel léxico.

Véase también el apéndice sobre tokens.

- Instalación/Configuración
  - Instalación
- Constantes predefinidas
- Ejemplos
- PhpToken — La clase PhpToken
  - PhpToken::__construct — Devuelve un nuevo objeto PhpToken
  - PhpToken::getTokenName — Devuelve el nombre del token.
  - PhpToken::is — Indica si el token es de un tipo dado.
  - PhpToken::isIgnorable — Indica si el token será ignorado por el analizador PHP.
  - PhpToken::__toString — Devuelve el contenido textual del token.
  - PhpToken::tokenize — Separa el código fuente dado en tokens PHP, representado por objetos PhpToken.
- Funciones Tokenizer
  - token_get_all — Divide la fuente dada en tokens PHP
  - token_name — Obtiene el nombre simbólico de un token PHP dado

`↑` and `↓` to navigate • `Enter` to select • `Esc` to close • `/` to open