Stephan Mertens - Teaching Home | Research | Publications | Teaching | Smorgasbord

Cluster-Computing

Viele Supercomputer, die heute in Industrie und Forschung eingesetzt werden, sind Cluster-Computer. Ein Cluster ist eine Ansammlung miteinander vernetzter PCs, die mittels spezieller Software als ein Parallelrechner betrieben werden. Dabei reicht die Anzahl der Prozessoren von einem Dutzend bis hin zu einigen zehntausend. Cluster berechnen Strömungseigenschaften von Tragflächen, die Kollision schwarzer Löcher, die Evolution von Galaxien und die Sicherheit kryptografischer Verfahren. Wer mit numerischen Simulationen an vorderster Front in der Forschung arbeitet, kommt um die Programmierung und Nutzung von Clustern nicht herum.

Vorlesung
Hörerkreis: Studierende ab 5. Semester Physik/Mathematik/Informatik
Umfang: 2 SWS

Inhalt der Vorlesung

• Grand Challenges, Rechenleistung, Amdahls Gesetz, Granularität, parallele Leistungsmetriken
• Parallelrechner: geteilter vs. verteilter Speicher, Kommunikationsnetze, Cluster, SETI@Home
• Programmierung: Datenparallelität, Threads, MPI
• MPI: Punkt-zu-Punkt Kommunikation, kollektive Operationen, Sendemodi, Deadlocks, Fairness
• Peinlich parallele Probleme: statische und dynamische Lastverteilung, Master-Worker-Schema
• geometrische Parallelisierung: Probleme auf Gittern, Gebietszerlegung, Kommunikationstopologien

Literatur

• Heiko Bauke, Stephan Mertens
  Cluster Computing
  Springer-Verlag, 2005
  Auf diesem Buch baut die Vorlesung auf. Enthält über den Vorlesungsstoff hinaus auch Kapitel, die Aufbau und Betrieb eines Clusters beschreiben.
• Peter S. Pacheco
  Parallel Programming with MPI
  Morgan Kaufmann Publishers, Inc. (1997), 418 Seiten
  
• Michael J. Quinn
  Parallel Programming in C with MPI and OpenMP
  McGraw-Hill (2004), 529 Seiten
  

Computer in der Wissenschaft

• Douglas S. Robertson
  Phase Change. The Computer Revolution in Science and Mathematics
  Oxford University Press (2003), 190 Seiten
  eine Besprechung dieses aussergewöhnlichen Buches gibt es hier.
• William J. Kaufmann, Larry L. Smarr
  Supercomputing and the Transformation of Science
  Scientific American Library (1993), 238 Seiten

Hochleistungsrechnen

• Kevin Dowd, Charles Severance
  High Performance Computing
  O'Reilly (1998), 2nd edition, 446 Seiten

Thread-Programmierung

• Bradford Nichols, Dick Buttlar, Jacqueline Proulx Farell
  Pthreads Programming
  O'Reilly (1996), 283 Seiten
• David R. Butenhof
  Programming with POSIX Threads
  Addison Wesley (1997), 400 Seiten

Materialien und Links

• www.clustercomputing.de: die Webseite zum Buch von Bauke und Mertens bieten sämtliche Beispielprogramme zum download und eine Sammlung nützlicher Links.
• Die MPI Standards: MPI-1 und MPI-2. Mehr Material gibt es auf den Seiten des MPI Forums.
• LAM/MPI Tutorial Home Page: http://www.lam-mpi.org/tutorials/nd
• Eine Übersicht über Projekte des verteilten Rechnens im Internet gibt es auf www.rechenkraft.de, www.aspenleaf.com/distributed und www.distributed.net.
• Open Source MPI-Implementationen: LAM-MPI und MPICH.