Hermes Desktop acaba de cambiar: el Preview Pane ahora es un bucle completo de control del navegador


Le pides a Hermes que «inicie sesión en este sitio y descargue mis facturas» — antes andaba a los tumbos en un Chromium aparte que no podías ver, perdía todas las sesiones iniciadas y solo te enterabas de lo que había pasado después. Ya no: el Preview Pane de Hermes Desktop se ha conectado de punta a punta — el agente ahora puede manejar el navegador integrado justo delante de ti, con las sesiones en las que ya iniciaste sesión, paso a paso. Un lote de cambios fusionados en main entre el 19 y el 20 de agosto convirtió esta superficie de un espejo unidireccional en un bucle completo.

El panorama completo: una cadena de herramientas completa

El Preview Pane solía ser un espejo unidireccional: open_preview ponía una página en el panel y read_preview devolvía su texto, pero el agente jamás podía tocarla. El conjunto de herramientas de escritorio ahora tiene un set completo:

Herramienta Qué hace
open_preview Abre una página en el panel (existente)
read_preview Devuelve el texto de la página (existente)
drive_preview Opera la página: elements inventaría los elementos clicables y escribibles, y luego click/type/scroll/press actúan sobre ellos; back/forward/reload manejan el historial
annotate_preview Mantiene una marca sobre un elemento («click here») — señalar sin actuar
close_preview Cierra todo el panel o una pestaña concreta (nuevo el 19 de agosto — antes el agente solo podía suplicarte que pulsaras ✕)

La barra del navegador también ganó un botón «open in system browser» y un botón para copiar la URL (los SSH gateways reciben automáticamente la dirección reenviada), y los enlaces del chat ahora tienen menú contextual: abrir en el navegador integrado o en el system browser. El navegador integrado y tu navegador de todos los días por fin hablan entre sí.

Lo que hace que se sienta «silky»

Tres diseños subyacentes son los que realmente transforman la experiencia:

1. Lecturas de diff incrementales — se acabó enviar la página entera. Antes, cada «mirada» reenviaba el inventario completo de la página. Ahora: solo la primera mirada devuelve el inventario completo; cada mirada posterior devuelve lo que cambióadded (elementos nuevos en su totalidad), changed (handle + lo que realmente se movió de label/value/disabled), removed/rebound como simples listas. Medido en una app shell de 85 elementos: la carga inicial bajó de 18,693 a 4,930 caracteres, y un turno estable que movía dos cosas cuesta unos 200. Una tarea de diez pasos solía pagar por diez copias de una página que apenas se había movido. Una relectura completa solo vuelve cuando la mitad de la página es nueva.

2. Handles de elementos duraderos — los re-renders del framework no los pierden. Los elementos se nombran por lo que son y por lo que dicen (btn-sign-in, inp-email), recordando un atributo estable, su rol, su nombre accesible y el landmark en el que se asientan. Cuando un framework destruye un nodo y construye uno nuevo, el handle se re-enlaza automáticamente (el agente oye rebound en lugar de una eliminación más una adición que re-leer). La cadena de selectores :nth-child que viajaba con cada elemento ha desaparecido — era el 74% del inventario en una página de 85 elementos, y una cadena posicional se rompe en cuanto aparece un hermano. Un #id o un [data-testid] sobrevive donde la página ofrece uno.

3. Entrada real, no eventos sintéticos. Las acciones pasan por sendInputEvent de Chromium — una página no puede notar la diferencia, y el estado de hover/focus se comporta exactamente como lo haría con un usuario (los clics sintéticos dejan las páginas en estados que ningún usuario podría haber producido, y los frameworks estilo React se tragan los eventos de entrada falsificados). El engine sigue inyectado, pero solo para resolver handles, medir nodos y leer la página — el actuar en sí es entrada real en coordenadas reales.

Supervisabilidad: lo ves, así que lo dejas actuar

Manejar un navegador en el que el usuario tiene la sesión iniciada no es lo mismo que manejar uno desechable. Por eso el panel narra en tiempo real lo que el agente está haciendo: el campo que está considerando, el elemento al que apunta, el clic que aterriza, el texto que acaba de leer. El pulso continúa durante los 20–100 segundos que el modelo pasa pensando — una persona que mire el panel puede saber lo que el agente está a punto de hacerle a su sesión en vivo, y detenerlo. Esto no es automatización sin supervisión; es automatización que observas.

Qué puedes hacer

  • Tareas con sesión iniciada: «entra en el dashboard y descarga mis facturas» — hecho en el panel, con tus sesiones existentes;
  • Relleno de formularios: elements para encontrar los inputs → type para rellenar → enviar, todo visible;
  • Señalar en colaboración: annotate_preview marca el elemento objetivo, el agente solo señala y tú haces clic (ideal para flujos de «ayúdame a cambiar esta única cosa»);
  • Limpieza: close_preview cierra el panel al terminar — sin necesidad de suplicar.

Estado del lanzamiento y cómo obtenerlo

Estas capacidades (#90197 / #90239 / #89366) se fusionaron en main el 19 y 20 de agosto y aún no están en ningún lanzamiento (la última versión sigue siendo v0.20.5). Para probarlas: hermes update --branch main o espera al próximo lanzamiento. Complementan las herramientas browser_* existentes (que manejan un Chromium aparte): el Preview Pane es para «el navegador frente a ti, con la sesión ya iniciada», mientras que browser_* es para automatización desatendida — elige según quieras o no mirar. Más capacidades de escritorio: Hermes Desktop Skills Hub y la inmersión en Bot Mode; el control del navegador también recibió un resumen en 4 Hidden Hermes Tricks.

Resumen

Lo que realmente cambió la conexión del Preview Pane es esto: la navegación web impulsada por el agente pasó de ser una caja negra en segundo plano a una colaboración visible y detenible — rápida por las lecturas incrementales, estable por el re-enlace de handles, real por la entrada genuina y confiable por la narración en vivo. Instala el build de main y deja que Hermes maneje una página frente a ti una sola vez — esa sensación «silky» es una experiencia distinta a la de antes.