Υποδομή Τεχνητής Νοημοσύνης

Ιδιωτικό νέφος και υπολογιστές υψηλής απόδοσης του Τμήματος Πληροφορικής και Τηλεματικής του Χαροκοπείου Πανεπιστημίου Αθηνών, για εκπαίδευση, έρευνα και υπηρεσίες.

Cluster υπολογιστών υψηλής απόδοσης (HPC)

7
υπολογιστικοί κόμβοι (hpc01–hpc07)
448
πυρήνες CPU
~4,3 TiB
μνήμη RAM
20+
GPU (8x H200, 4x H100, 5x A100 και άλλες)

Από το 2025 λειτουργεί επίσης κοινόχρηστο cluster υπολογιστών υψηλής απόδοσης (HPC), το οποίο διαχειρίζεται το SLURM. Αποτελείται από 7 υπολογιστικούς κόμβους (hpc01–hpc07) με 448 πυρήνες CPU, ~4,3 TiB μνήμης RAM και πάνω από 20 GPU, μεταξύ των οποίων 8x NVIDIA H200, 4x NVIDIA H100 και 5x A100 για φορτία εργασίας τεχνητής νοημοσύνης. Εξυπηρετεί την έρευνα και τη διδασκαλία στη μηχανική μάθηση, την επιστήμη δεδομένων και τις υπολογιστικές επιστήμες σε όλο το πανεπιστήμιο, μέσω κοινόχρηστων partitions με χρονοδρομολόγηση βάσει προεκχώρησης (preemption).

Κατάσταση των partitions και των κόμβων του HPC cluster μέσω SLURM (εντολή sinfo)
Ικριώματα (racks) με εξοπλισμό του HPC cluster
Καλωδιώσεις δικτύου στο HPC cluster

HERMES LLM

Πέρα από την επεξεργασία παρτίδων (batch), το cluster φιλοξενεί και το HERMES, μια on-premise υπηρεσία LLM ανοικτών βαρών (vLLM + LiteLLM, API συμβατό με OpenAI), που παρέχει στο πανεπιστήμιο άμεση και κυρίαρχη πρόσβαση σε σύγχρονες δυνατότητες τεχνητής νοημοσύνης, στο δικό του υλικό.

Σελίδα κατάστασης της τοπικής υπηρεσίας LLM του HPC cluster
Το HERMES σε λειτουργία από τη γραμμή εντολών

Υποδομή ιδιωτικού νέφους

24
ενεργοί φυσικοί κόμβοι σε 4 clusters Proxmox
1.000+
πυρήνες CPU
~4,6 TB
μνήμη RAM
210+ TB
αποθηκευτικός χώρος

Το Τμήμα Πληροφορικής και Τηλεματικής του Χαροκοπείου Πανεπιστημίου Αθηνών λειτουργεί εκτεταμένη υποδομή ιδιωτικού νέφους (private cloud), βασισμένη στην πλατφόρμα Proxmox Virtual Environment, η οποία υποστηρίζει τη φιλοξενία και τη διαχείριση εικονικών μηχανών και υπηρεσιών για τις εκπαιδευτικές, ερευνητικές και διοικητικές ανάγκες του Τμήματος. Αποτελείται από τέσσερα clusters Proxmox με 24 ενεργούς φυσικούς κόμβους, πάνω από 1.000 πυρήνες CPU, περίπου 4,6 TB μνήμης RAM και πάνω από 210 TB αποθηκευτικού χώρου, και φιλοξενεί δεκάδες ενεργές εικονικές μηχανές που χρησιμοποιούνται για την παροχή υπηρεσιών, την ανάπτυξη και δοκιμή εφαρμογών και την υποστήριξη ερευνητικών έργων και εργαστηριακών δραστηριοτήτων. Η υποδομή παρέχει κεντρική διαχείριση πόρων και ευέλικτη, δυναμική κατανομή CPU, μνήμης και αποθηκευτικού χώρου σε ένα ενιαίο, επεκτάσιμο περιβάλλον νέφους, χωρίς αποκλειστική εξάρτηση από εξωτερικούς παρόχους cloud.

Ικριώματα (racks) με εξοπλισμό του ιδιωτικού νέφους του Τμήματος
Blade servers του ιδιωτικού νέφους του Τμήματος