Design and Evaluation of Tool Extensions for Power Consumption Measurement in Parallel Systems

Abstract

In an effort to reduce the energy consumption of high performance computing centers, a number of new approaches have been developed in the last few years. One of these approaches is to switch hardware to lower power states in promising parallel application phases. A test cluster is designed with high performance computing nodes supporting multiple power saving mechanisms comparable to mobile devices. Each of the nodes is connected to power measurement equipment to investigates the power saving potential under different load scenarios of the specific hardware. However, statically switching the power saving mechanisms usually increases the application runtime. As a consequence, no energy can be saved. Contrary to static switching strategies, dynamic switching strategies consider the hardware usage in the application phases to switch between the different modes without increasing the application runtime. Even if the concepts are already quite clear, tools to identify application phases and to determine impact on performance, power and energy are still rare. This thesis designs and evaluates tool extensions for power consumption measurement in parallel systems with the final goal to characterize and identify energy-efficiency hot spots in scientific applications. Using offline tracing, the metrics are collected in trace files and can be visualized or post-processed after the application run. The timeline-based visualization tools Sunshot and Vampir are used to correlate parallel applications with the energy-related metrics. With these tracing and visualization capabilities, it is possible to evaluate the quality of energy-saving mechanisms, since waiting times in the application can be related to hardware power states. Using the energy-efficiency benchmark eeMark, typical hardware usage pattern are identified to characterize the workload, the impact on the node power consumption and finally the potential for energy saving. To exploit the developed extensions, four scientific applications are analyzed to evaluate the whole approach. Appropriate phases of the parallel applications are manually instrumented to reduce the power consumption with the final goal of saving energy for the whole application run on the test cluster. This thesis provides a software interface for the efficient management of the power saving modes per compute node to be exploited by application programmers. All analyzed applications consist of several, different calculation-intensive compute phases and have a considerable power and energy-saving potential which cannot be exhausted by traditional, utilization-based mechanisms implemented in the operating system. Reducing the processor frequency in communication and I/O phases can also gain remarkable savings for the presented applications.

In den letzten Jahren wurden viele innovative Ansätze verfolgt, um die Leistungsaufnahme und die daraus resultierenden Kosten für Hoch- und Höchstleistungsrechnens zu senken. Einer dieser Lösungsansätze ist - basierend auf Ansätzen in den Gebieten der eingebetteten und batteriebetriebenen Systeme - Komponenten bestimmter Hardwaregruppen einzeln abzuschalten oder in einen Modus mit verringerter Leistungsaufnahme zu versetzen. Zur detaillierten Analyse dieses Ansatz wird ein energiekontrollierbarer Rechencluster aufgebaut, der die Erfassung des Verhaltens des Rechnersystems im Hinblick auf den Energieverbrauch zulässt. Bereits existierende Mechanismen auf der Ebene des Betriebssystems können zwar bereits die Leistungsaufnahme absenken, führen allerdings oft zu verlängerten Applikationslaufzeiten und somit zu einem erhöhten Energieverbrauch. In dieser Arbeit wird eine Werkzeugumgebung entwickelt, die die Identifikation erfolgsversprechender Applikationsphasen zur Energiesenkung ermöglicht. Durch die Korrelation der Applikation mit weiteren, energierelevanten Metriken wird es ermöglicht, die Qualität von Energiesparansätzen in parallelen Rechnerumgebungen zu bewerten. Anhand eines synthetischen Benchmarks und mehreren parallelen Applikationen aus dem Produktsbetrieb werden vielversprechende Applikationsphasen exemplarisch identifiziert. Durch den gezielten Einbau von Steuersequenzen in den Programmcode können so in diese Phasen Energiesparmechanismen ein- und ausgeschaltet werden, eine entsprechende Programmierschnittstelle wird bereitgestellt. Alle untersuchten Applikationen bestehen aus mehreren, unterschiedlich rechenintensiven Phasen in denen die Ausnutzung der Energiesparmechanismen die Leistungsaufnahme absenkt. Abhängig von der Dauer der einzelnen Phasen geschieht dies ohne die Laufzeit signifikant zu verlängern, somit kann effektiv Energie eingespart werden.