Siri gana conciencia visual con iOS 27 y accede al contenido de la pantalla

Fuentes: Siri sieht mit: Was steckt hinter Apples neuer Kontextfunktion?

Apple presentó en la WWDC, en su sede de Cupertino, una nueva función de Siri llamada On-Screen Awareness, que llegará con iOS 27. El vicepresidente de software Sebastien Marineau-Mes demostró en directo que el asistente podrá analizar en tiempo real texto, interfaces de aplicaciones e imágenes mostradas en pantalla, de modo que el usuario ya no tenga que describir lo que está viendo. En la demostración, Siri identificó una formación de nubes como inversión marina, explicó el fenómeno y generó una nota con un plan de visita al Mount Tamalpais en California a partir de una sola pregunta.

La función se activa por voz, botón lateral, Dynamic Island, menús contextuales o botones dentro de las apps. Para integrarla en aplicaciones de terceros, Apple ofrece las API UserActivity y View Annotations, que se complementan con Content Transfer para pasar contenidos reconocidos a otras apps. Apple asegura que el procesamiento se realiza en el dispositivo mediante el modelo AFM 3 Core Advanced y que los datos se envían a servidores Private Cloud Compute sin ser almacenados, aunque en la UE varias funciones de Siri con IA quedarán inicialmente fuera por las reglas DMA. El lanzamiento global arrancará en inglés.