NVIDIA vGPU Lizensierung

Durch verschiedene Projekte in letzter Zeit, musste ich mich durch das Wirrwarr an Informationen bezüglich der NVIDIA vGPU Lizenzierung durcharbeiten.

Hier nun ein kleiner Abriss dieser Informationen.

NVIDIA vGPU-Architektur

Unter der Kontrolle des im Hypervisor laufenden NVIDIA Virtual GPU Manager können physische NVIDIA-GPUs mehrere virtuelle GPU-Geräte (vGPUs) unterstützen, die Gast-VMs direkt zugewiesen werden können .

Diagram showing the high-level architecture of NVIDIA vGPU

Die Gast-VMs verwenden die virtuellen NVIDIA vGPUs auf dieselbe Weise wie eine physische GPU, die per direktem passed through vom Hypervisor kommen würde. Der in die Gast-VM geladene NVIDIA-Treiber bietet direkten Zugriff auf die GPU und sorgt so für einen hochperformanten Zugriff. Über die Paravirtualisierte Schnittstelle des NVIDIA Virtual GPU Manager werden die nicht performanten Verwaltungsvorgänge vom NVIDIA Treiber durchgeführt.

„NVIDIA vGPU Lizensierung“ weiterlesen

Optimierung von VMs durch NUMA

Einführung CPU & NUMA Architektur

Die Hauptaufgabe einer jeden CPU ist es Daten abzuarbeiten. Hier ist aber der Irrglaube, desto schneller die CPU (oder desto mehr CPUs ich zuordne), desto schneller werden die Daten abgearbeitet. Ganz so einfach ist das leider nicht, denn bevor die CPU die Daten abarbeiten kann, müssen diese vom langsameren System RAM ausgelesen werden und dies kann zu einer Latenz in der CPU führen. Ein erster Schritt der Hersteller um die Wartezeit auf die zu lesenden Daten zu minimieren, ist es einen internen Speicher Cache (lokaler RAM) an die CPU anzubinden, auf den der Zugriff um bis zu 95 % schneller ist.

Optimierung von VMs durch NUMA
„Optimierung von VMs durch NUMA“ weiterlesen