Tema 12 Optimización de prestaciones

Transcripción

1 Tema 12 Optimización de prestaciones Formación específica, cursos verano 2008 ETS de Informática Aplicada Universidad Politécnica de Valencia

2 Motivación Optimizar para qué? Potencia de cálculo limitada Cantidad de energía disponible limitada Objetivo principal Comprender como gestiona la memoria el CLR Evitar prácticas que provocan recolección de basura innecesaria Comprender qué hace el entorno de ejecución y tratar de que haga lo menos posible

3 Conceptos generales básicos El código debe ejecutarse suficientemente rápido Nivel de satisfacción del usuario, versión anterior, productos de la competencia Incluir especificación de rendimiento mínimo e ideal Un buen rendimiento se diseña junto con la aplicación Es mejor (en primera instancia) centrarse en el rendimiento percibido que en el rendimiento real Comprender la plataforma sobre la que se ejecuta el código CLR (Common Language Runtime)

4 Compact CLR Engine Optimizar prestaciones suele implicar un compromiso entre Código que se ejecuta rápido Código que ocupa poca memoria Esto no siempre es así en el Compact CLR! Garbage Collector (GC) [Recolector de basura] Just-In-Time compiler (JIT) [Compilador en tiempo de ejecución]

5 Compilador JIT Compilador Fuente a lenguaje intermedio (IL) Compilador JIT Lenguaje intermedio código nativo La compilación se realiza método a método Sólo cuando el método es invocado Esto afecta al rendimiento

6 Compilador JIT Minimizar el coste Reducir la profundidad de la jerarquía de llamadas de métodos Evitar métodos muy largos Evitar la recursión Diferencias con el CLR del Desktop El código nativo generado puede desecharse No soporta imágenes nativas (mayor tamaño)

7 Compilador JIT Method Inlining El cuerpo de un método se incluye en el del método que lo llama Se evita realizar la llamada public void MetodoLlamador() { // Código que ejecuta una tarea X public void MetodoLlamador() { // Código que ejecuta una tarea X } this.metodollamado(); // Código que ejecuta una tarea Z private void MetodoLlamado() { // Código que ejecuta una tarea Y } En tiempo de ejecución } // Código que ejecuta una tarea Y // Código que ejecuta una tarea Z

8 Compilador JIT Típicamente acceso a atributos NOTA: Method Inlining Menos de 17 bytes de IL Sin saltos (típicamente un if) Sin variables locales Sin manejadores de excepciones Sin argumentos de coma flotante de 32-bits Sin valor de retorno Si tiene más de un argumento, deben accederse en el orden (menor a mayor) indicado en el IL

9 Compilador JIT Métodos virtuales Permiten que sean sobreescritos por clases derivadas 40% más costosos para el compilador JIT No permiten Method Inlining Coste de los diferentes tipos de métodos Métodos de instancia 2x/3x código nativo Métodos virtuales x1.5 código gestionado COM e Invoke x5/x6 método de instancia Ver ejemplo 1

10 Recolector de basura Localiza objetos y los libera cuando ya no son referenciados No debemos preocuparnos de la gestión de la memoria Pero hay que diseñar teniendo en cuenta la cantidad de memoria utilizada! Gestión de memoria en Windows CE y Windows Mobile

11 Recolector de basura Windows CE Máximo de 32 procesos en ejecución Máximo de 32 MB de memoria por proceso Restricciones eliminadas en Windows Embedded CE 6.0 Si queda poca memoria Se manda WM_HIBERNATE a las aplicaciones activa el recolector de basura Se manda WM_CLOSE a las aplicaciones Windows CE.NET Advanced Memory Management: Compact Framework Advanced Memory Management:

12 Recolector de basura Espacio de memoria virtual Windows CE Espacio de memoria virtual de aplicaciones Windows CE.NET

13 Recolector de basura Full collection (code pitching) La recolección de basura Se realiza sobre el hilo que está en ejecución Detiene la ejecución de todos los hilos Se realiza cuando: Se ha asignado 1 MB de memoria desde la última recolección (750 KB en la versión 1.0). El código llama a GC.Collect La aplicación pasa a ejecución en background Se produce un error al tratar de asignar un objeto gestionado El subsistema System.Drawing recibe un error out of memory al tratar de asignar un recurso no gestionado La aplicación recibe un mensaje WM_HIBERNATE

14 Contadores de prestaciones Remote Registry Editor Visual Studio 2005 Visual Studio Remote Tools Remote Registry Editor

15 Contadores de prestaciones HKEY_LOCAL_MACHINE\SOFTWARE\Microsoft\.NETCompactFramework Crear una nueva clave PerfMonitor Crear una nueva entrada DWORD llamada Counters

16 Contadores de prestaciones Cada ejecución de una aplicación genera un fichero nombreaplicación.stat Obtener el fichero vía ActiveSync Remote File Viewer

17 Contadores de prestaciones Analisis de datos: Remote Performance Monitor.NET CF v2.0 SP1 C:\Archivos de programa\microsoft.net\sdk\ CompactFramework\v2.0\bin\NetCFRPM.exe

18 Contadores de prestaciones Loader El número de clases y métodos cargados es una buena indicación del tamaño de la aplicación Total Program Run Time (ms) Tiempo transcurrido desde la invocación del CLR App Domains Created # App Domains creados en el proceso App Domains Unloaded # App Domains descargados del proceso Assemblies Loaded # ensamblados cargados en todos los App Domains Classes Loaded # clases cargados en todos los App Domains Methods Loaded # métodos cargados en todos App Domains

19 Contadores de prestaciones Generics Puede aparecer el uso (interno) de generics aunque no sea explícito en el código Closed Types Loaded Closed Types Loaded per Definition # tipos genéricos cargados en todos los AppDomains # máximo de tipos genéricos creados para una definición dada en todos los AppDomains Open Types Loaded # tipos genéricos abiertos creados en todos los AppDomains Closed Methods Loaded Closed Methods Loaded per Definition Open Methods Loaded (normalmente solo mediante Reflection) # métodos genéricos únicos cargados en todos los AppDomains # máximo de métodos genéricos únicos creados para una definición dada en todos los AppDomains # métodos genéricos abiertos creados en todos los AppDomains (normalmente solo mediante Reflection)

20 Contadores de prestaciones Locks y Threads Problemas de retardos si Threads in Thread Pool > que el máximo número de hilos en el pool (25) Ratio Work Items Queued / hilos disponibles Los temporizadores utilizan hilos del pool (System.Threading.Timer) System.Threading.Monitor.Enter protege regiones de acceso concurrente Threads in Thread Pool # hilos en el pool actualmente Pending Timers Scheduled Timers Timers Delayed by Thread Pool Limit Work Items Queued Uncontested Monitor.Enter Calls Contested Monitor.Enter Calls # temporizadores esperando ser disparados actualmente # temporizadores en ejecución o planificados actualmente # temporizadores retrasados por el límite del pool de hilos # elementos de trabajo encolados en el pool de hilos # llamadas realizadas a Monitor.Enter que no se contestaron # llamadas a Monitor.Enter con lock contention

21 Contadores de prestaciones Garbage Collector Estadísticas del GC: GC Latency Time, Garbage Collections (GC), GC Compactions, y Code Pitchings Boxed Value Types (boxing y unboxing es costoso) Managed String Objects Allocated Peak Bytes Allocated (native + managed) Managed Objects Allocated Managed Bytes Allocated Managed String Objects Allocated Bytes of String Objects Allocated Garbage Collections (GC) Bytes Collected By GC Managed Bytes In Use After GC Total Bytes In Use After GC GC Compactions Code Pitchings Calls to GC.Collect GC Latency Time (ms) Pinned Objects Objects Moved by Compactor Objects Not Moved by Compactor Objects Finalized Boxed Value Types # máximo de bytes en uso por el CLR (memoria nativa y gestionada) # objetos asignados por el GC # bytes asignados por el GC # objetos string gestionados asignados por el GC # bytes de objetos string gestionados asignados por el GC # ejecuciones del GC Collector has run. # bytes recuperados por el GC # objetos vivos después de la última recolección # bytes de memoria, nativa y gestionada, después de la última recolección # veces que el GC ha compactado el heap # veces que el GC ha eliminado código compilado JIT (pitching) # veces que la aplicación ha llamado al método GC.Collect() Tiempo (ms) que el GC ha necesitado para recuperar objetos y compactar el heap # objetos pinned encontrados durante la recolección # objetos desplazados por el GC durante una compactación # objetos que el GC no pudo desplazar durante una compactación # objetos que ejecutaron el finalizador # bytes que han sido boxed

22 Contadores de prestaciones Memory JIT Heap counter representación nativa de todos los métodos gestionados compilados por el compilador JIT GC Heap counter memoria asignada para objetos gestionados El resto puede indicar el tamaño de la aplicación código más pequeño = código más rápido Process Heap Short Term Heap JIT Heap App Domain Heap GC Heap # bytes en uso en el heap por defecto del CLR # bytes en uso en el heap a corto plazo del CLR # bytes en uso en el heap del compilador JIT # bytes en uso en el heap del CLR del App Domain # bytes en uso en el heap del GC

23 Contadores de prestaciones JIT Números más grandes provocarán mayores pérdidas de prestaciones en la aplicación Native Bytes Jitted Methods Jitted Bytes Pitched Methods Pitched Method Pitch Latency Time (ms) # bytes de código nativo generado por el compilador JIT # métodos generados por el compilador JIT # bytes de código nativo generado por el compilador JIT que son pitched # métodos generados por el compilador JIT que son pitched Tiempo total (ms) gastado en pitching métodos generados por el compilador JIT

24 Contadores de prestaciones Exceptions Son muy costosas Un número alto no solo indica pérdida de prestaciones, sino un mal diseño de la aplicación Exceptions Thrown # excepciones gestionadas lanzadas

25 Contadores de prestaciones Interop Traspasar la frontera entre código gestionado y código nativo tiene un alto coste Intentar diseñar llamadas grandes en lugar de múltiples llamadas pequeñas Platform Invoke Calls COM Calls Using a vtable COM Calls Using IDispatch Complex Marshaling Runtime Callable Wrappers # llamadas Platform Invoke de código gestionado a código nativo, excluyendo las llamadas Platform Invoke internas del CLR # llamadas de código gestionado a código nativo utilizando el método vtable de COM Interop # llamadas de código gestionado a código nativo utilizando el método IDispatch de COM Interop # objetos marshalled de código gestionado a código nativo que precisaron copiar o transformar datos # COM Runtime Callable Wrappers creados

26 Contadores de prestaciones Networking Socket Bytes Sent Socket Bytes Received # bytes enviados a través de sockets # bytes recibidos a través de sockets

27 Contadores de prestaciones Windows.Forms El proyecto por defecto (sin ningún control ni código) incluye un brush y una font En presencia de valores altos, podría pensarse en reutilizar algunos de los ya creados Controls Created Brushes Created Pens Created Bitmaps Created Regions Created Fonts Created Graphics Created (FromImage) Graphics Created (CreateGraphics) # controles creados por la aplicación # brochas creadas por la aplicación # lápices creados por la aplicación # bitmaps creados por la aplicación # regiones creadas por la aplicación # fuentes creadas por la aplicación # objetos gráficos creados por 'FromImage' # objetos gráficos creados por 'CreateGraphics'

28 Contadores de prestaciones Analisis de datos en vivo: Remote Performance Monitor Instalación.NET CF v2.0 SP2 Instalar en PC C:\Archivos de programa\microsoft.net\sdk\ CompactFramework\v2.0\WindowsCE\wce500\armv4i Instalar Netcfrtl.dll y Netcflaunch.exe en Windows\ (PDA) Ejecución Windows\netcflaunch (PDA) C:\Archivos de programa\microsoft.net\sdk\ CompactFramework\v2.0\bin\NetCFRPM.exe (PC) Introducir IP y puerto + ruta completa de la aplicación a monitorizar

29 Contadores de prestaciones Análisis de datos en vivo: Remote Performance Monitor Instalación.NET CF v2.0 SP2 Instalar en PC C:\Archivos de programa\microsoft.net\sdk\ CompactFramework\v2.0\WindowsCE\wce500\armv4i Instalar Netcfrtl.dll y Netcflaunch.exe en Windows\ (PDA) Ejecución Windows\netcflaunch (PDA) C:\Archivos de programa\microsoft.net\sdk\ CompactFramework\v2.0\bin\NetCFRPM.exe (PC) Introducir IP y puerto + ruta completa de la aplicación a monitorizar

30 Contadores de prestaciones Análisis de datos en vivo: Remote Performance Monitor Ejecutar el monitor de rendimiento de Windows XP Perfmon en la consola Agregar los contadores.net CF deseados

31 Medición de prestaciones por programa.net Compact Framework no incluye ningun profiler Medir el tiempo de ejecución requiere el uso de tick count Environment.TickCount # milisegundos desde el inicio del sistema Medir el consumo de memoria (# de bytes consumidos por la aplicación) long bytesutilizadosporobjetosgestionados = GC.GetTotalMemory(false);

32 Medición de prestaciones por programa int tiempoinicial = Environment.TickCount; // código a medir int tiempofinal = Environment.TickCount; int tiempotranscurrido = tiempofinal - tiempoinicial;

33 Medición de prestaciones por programa Crear un entorno repetible entre experimentos que no sea afectado por factores externos Compilar en modo Release Ejecutar sobre el dispositivo físico, no en el emulador, no desde Visual Studio No ejecutar otras aplicaciones simultáneamente Cerrar conexiones de red e Internet que no sean estrictamente necesarias

34 Medición de prestaciones por programa Obtener una medida media No medir una única vez Descartar la primera medida para compensar el efecto del compilador JIT No incluir el mecanismo de logging en las medidas Considerar segundos y no milisegundos (efecto impredecible del GC)

35 Consideraciones Lanzar excepciones es costoso Evitarlo si no es necesario Para los desarrollador envisual Basic Evitar usar On Error GoTo/Resume Next Sustituir por try catch finally

36 Consideraciones Mejorar el tiempo de inicio Mantener la interfaz de usuario responsive SuspendLayout/ResumeLayout y BeginUpdate/EndUpdate Cargar datos y realizar tareas costosas en un hilo en background Double-Buffering Cargar un ensamblado con un nombre strong debe verificarse cuanto mayor el ensamblado más tiempo tardará en cargar Eliminar recursos empotrados y cargarlos desde el sistema de ficheros

37 Consideraciones Los strings son objetos inmutables Ver ejemplo 2 Operar con strings implica crear y copiar múltiples objetos string Utilizar System.Text.StringBuilder Ficheros XML Para ficheros mayores de 64 KB, utilizar System.Xml.XmlReader en lugar de System.Xml.XmlDocument Utilizar propiedades como IgnoreWhitespace Mantener los nombres de elementos y atributos cortos System.Data.SqlServerCe SqlCeResultset diseñado para acceso local a bases de datos

38 Consideraciones Matemáticas Utilizar números de 32 bits El compilador JIT utiliza registros de la CPU para almacenar variables de 64 bits Advanced RISC Machines (ARM) no tienen unidad de coma flotante El tipo decimal no tiene traducción directa a un tipo IL

39 Consideraciones Reflexión Utilizar la reflexión es costoso Creación de tipos Utilizar factorías de clases Invocación de miembros de tipos creados utilizar interfaces

40 Consideraciones Colecciones Ver ejemplo 3 Boxing/Unboxing ArrayList List<T> int[] Utilizar bucle for en lugar de foreach, que utiliza reflexión Determinar el tamaño de la colección por medio de un constructor que acepte una capacidad Extender la capacidad indicada implica reservar mayor espacio y copiar todos los elementos

41 Consideraciones Sobreescribir métodos System.Object Ver ejemplo 4 La reflexión es costosa Sobreescribir ToString() implica una llamada a un método virtual, pero su coste es menor que utilizar reflexión Sobreescribir Equals y GetHashCode cuando sea posible son virtuales, utilizan reflexión y boxing

42 Conclusiones Metodología Medir si existen problemas de prestaciones Determinar la causa de la pérdida de prestaciones Aplicar las técnicas oportunas Medir de nuevo las prestaciones Mantener el cambio si provoca una mejora Diversas técnicas son contrarias a los buenos principios de diseño NO aplicar las técnicas explicadas de forma indiscriminada