58437 - CALCOLO PARALLELO

Anno Accademico 2026/2027

  • Docente: Moreno Marzolla
  • Crediti formativi: 6
  • SSD: INFO-01/A
  • Lingua di insegnamento: Italiano
  • Modalità didattica: Lezioni in presenza (totalmente o parzialmente)
  • Campus: Bologna
  • Corso: Laurea Magistrale in Informatica (cod. 6698)

Conoscenze e abilità da conseguire

Al termine del corso, lo studente conosce le principali architetture dei sistemi di calcolo ad alte prestazioni; è in grado di progettare e analizzare algoritmi paralleli per diversi modelli di calcolo; è in grado di implementare algoritmi paralleli su architetture a memoria condivisa e distribuita utilizzando i linguaggi, gli strumenti e le tecnologie appropriate.

Contenuti

Programma

  • Algoritmi paralleli e modelli di calcolo.
  • Introduzione alle architetture per il calcolo parallelo: tassonomia di Flynn; sistemi a memoria condivisa e distribuita; GPGPU.
  • Pattern per la programmazione parallela (embarassingly parallel; stencil; work farm; scan; reduce).
  • Programmazione parallela su architetture a memoria condivisa con OpenMP.
  • Programmazione parallela su architetture a memoria distribuita con MPI.
  • Programmazione GPGPU.
  • Valutazione delle prestazioni di programmi paralleli.

Prerequisiti

Questo insegnamento assume i prerequisiti seguenti:

  • Programmazione in linguaggio C.
  • Uso dell'ambiente Unix/Linux (shell, Makefile, ecc.).
  • Architetture dei calcolatori.
  • Programmazione concorrente (concetto di deadlock, mutua esclusione, data race, ecc.).
  • Algoritmi e strutture dati (notazioni asintotiche, strutture dati elementari, algoritmi di ordinamento, valutazione della complessità asintotica di algoritmi ricorsivi e iterativi, Master Theorem).
  • Conoscenze base di analisi matematica (calcolo di semlici limiti e sommatorie).

Testi/Bibliografia

Argomenti selezionati dai seguenti volumi:

  • Peter Pacheco and Matthew Malensek, An Introduction to Parallel Programming, Morgan Kauìffman, 2nd edition, 2021, ISBN 9780128046050; va bene anche la prima edizione:
    Peter Pacheco, An Introduction to Parallel Programming, Morgan Kaufmann, 2011, ISBN 978-0123742605.
  • CUDA C++ programming guide (liberamente disponibile sul sito di NVidia).
  • Ananth Grama, Anshul Gupta, George Karypis, Vipin Kumar, Introduction to Parallel Computing, 2nd Edition, Addison-Wesley, 2003, ISBN 978-0201648652.
  • Joseph Jaja, An Introduction to Parallel Algorithms, ‎Addison-Wesley, 1st edition, 1992, ISBN 978-0201548563.
  • Georg Hager, Gerhard Wellein, Introduction to High Performance Computing for Scientists and Engineers, CRC Press; 1 edition (July 2, 2010), ISBN 978-1439811924.
Ulteriore materiale (inclusi i lucidi delle lezioni e il materiale di laboratorio) verrà reso disponibile sul sito del corso e sulla piattaforma "Virtuale".

Metodi didattici

Durante le lezioni vengono introdotti i concetti base della programmazione parallela, e vengono via via descritti i costrutti di programmazione parallela che sono poi oggetto di esercitazioni parzialmente guidate (in modalità BYOD-Bring Your Own Device) con la supervisione del docente. Vengono rese disponibili le soluzioni degli esercizi proposti in laboratorio allo scopo di supportare le attività di studio individuale.

In considerazione della tipologia di attività e dei metodi didattici adottati, la frequenza di questa attività formativa richiede la preventiva partecipazione di tutti gli studenti ai moduli 1 e 2 di formazione sulla sicurezza nei luoghi di studio, in modalità e-learning https://elearning-sicurezza.unibo.it/ .

Modalità di verifica e valutazione dell'apprendimento

Le conoscenze acquisite durante il corso verranno valutate mediante una prova scritta e un progetto di programmazione. Le due prove sono indipendenti e possono essere sostenute in qualsiasi ordine. Tuttavia, le due prove devono essere completate nello stesso anno accademico: infatti, all'inizio di ogni nuova edizione del corso, tutti i voti in sospeso saranno annullati.

Prova scritta

Struttura: la prova scritta si compone di alcune domande a quiz e/o a risposta aperta. Le domande a risposta aperta possono riguardare sia aspetti metodologici/teorici degli argomenti visti a lezione, sia lo svolgimento di semplici esercizi di programmazione parallela o lo svolgimento di semplici calcoli (non è richiesto l'uso della calcolatrice). 

Svolgimento: la prova scritta dura 90 minuti. Per sostenere la prova è necessario presentarsi muniti di un documento di riconoscimento (es., badge universitario) e di una penna. Durante la prova scritta non è consentito consultare libri, appunti o altro materiale. Non è altresì consentito l'uso di dispositivi elettronici di alcun tipo, inclusi computer, tablet, cellulari, smart watches, smart glasses o simili. La violazione comporterà l'immediata esclusione dalla prova con verbalizzazione di "RESPINTO". L'esclusione potrà avvenire anche a prova conclusa, nel caso emergano prove di comportamenti scorretti. 

Valutazione: La prova scritta viene valutata in trentesimi; il punteggio massimo assegnato a ciascuna risposta corretta è indicato nel testo d'esame. Presentarsi ad un appello scritto implica il rifiuto di un precedente voto valido allo scritto (il voto del progetto rimane però valido); questo vale anche se si decide di ritirarsi al nuovo esame scritto o se si ottiene una valutazione inferiore alla precedente.

Progetto di programmazione

Struttura: Il progetto di programmazione consiste nella realizzazione di una applicazione parallela su specifiche fornite dal docente al termine del corso, usando gli strumenti visti a lezione e in laboratorio. È richiesto di fornire il codice sorgente con le istruzioni necessarie alla compilazione. L'applicazione deve essere accompagnata da una relazione scritta che indichi e motivi le scelte progettuali, e analizzi le prestazioni dei programmi realizzati utilizzando le metriche opportune tra quelle illustrate a lezione.

Svolgimento: Il progetto deve essere svolto individualmente, e può essere consegnato in qualunque momento fino alla scadenza indicata nelle specifiche (tipicamente, l'ultimo giorno dell'ultima sessione d'esami precedente l'inizio della nuova edizione del corso). 

Valutazione: Il progetto viene valutato in trentesimi. Nella valutazione del progetto si terrà conto della correttezza dell'implementazione, della chiarezza ed efficienza del codice, nonché della qualità della relazione. Nel caso si rifiuti il voto del progetto, sarà necessario svolgere un nuovo progetto basato su nuove specifiche fornite dal docente.

Valutazione complessiva

L'esame si intende superato se si riporta una valutazione maggiore o uguale a 18/30 su ognuna delle due prove. Il voto finale si ottiene come media pesata del voto della prova scritta (peso 0.6) e del progetto (peso 0.4), arrotondato all'intero più vicino. La lode viene assegnata a discrezione del docente per prove d'esame di qualità particolarmente elevata.

Strumenti a supporto della didattica

Lezioni: proiezione di diapositive e dimostrazioni pratiche di programmazione parallela al calcolatore, integrate con ulteriori spiegazioni alla lavagna. Il materiale viene reso disponibile prima dell'inizio di ogni lezione.

Attività pratiche: le esercitazioni pratiche verranno svolte in ambiente Linux usando principalmente i seguenti strumenti di sviluppo:

  • Compilatore gcc con supporto di OpenMP;
  • Libreria MPI;
  • NVidia CUDA SDK.

Agli studenti verrà fornito accesso ad un server, accessibile anche da remoto. Tutti gli strumenti utilizzati sono liberamente disponibili, allo scopo di favorire l'attività di studio individuale su proprie risorse hardware, se disponibili.

Link ad altre eventuali informazioni

https://www.moreno.marzolla.name/teaching/CP/

Orario di ricevimento

Consulta il sito web di Moreno Marzolla