CVE-2026-8461 erhielt einen Schweregrad von 8,8 und betrifft die Verarbeitung von sogenannten Slices im MagicYUV-Decoder. JFrog erklärt, die Schwachstelle beruhe auf einer Inkonsistenz zwischen der Berechnung der Höhen der Chroma-Ebenen durch den Frame-Allokator und durch den Decoder. Dadurch entstehe ein Heap-Pufferüberlauf von einer Zeile bei der Slice-Verarbeitung.
Auslösen lässt sich PixelSmash laut JFrog nicht nur beim Öffnen präparierter AVI-, MKV- oder MOV-Dateien. Auch das Durchsuchen eines Verzeichnisses, in dem sich eine solche Datei befindet, kann reichen, etwa wenn Vorschaubilder erzeugt werden. Dasselbe gilt für automatisierte Workflows zur Aufnahme und Verarbeitung von Mediendateien.
JFrog nennt mehrere populäre Anwendungen, die FFmpeg mit aktiviertem MagicYUV-Decoder einsetzen und damit anfällig sind, darunter Kodi, OBS Studio, PhotoPrism sowie die Thumbnail-Generatoren von GNOME, KDE und XFCE. Auch Slack, Discord, Telegram und WhatsApp könnten laut den Forschern anfällig sein, weil sie FFmpeg zur serverseitigen Erzeugung von Videovorschauen nutzen; getestet wurden diese Dienste jedoch nicht.
JFrog-Chefforscher Yuval Moravchick demonstrierte nach Angaben des Unternehmens eine Remotecodeausführung auf Instanzen von Jellyfin und Nextcloud mit aktivierter Filmvorschau. Für Jellyfin 10.11.9 beschreibt JFrog einen Angriff über die normale Medienbibliotheks-Prüfpipeline: Eine präparierte MagicYUV-AVI-Datei wird in die Medienbibliothek geladen, Jellyfin startet automatisch ffprobe zur Metadatenextraktion, der Schreibfehler wird ausgelöst und AVBuffer.free wird auf system() umgebogen, sodass beliebige Befehle mit den Rechten des Jellyfin-Dienstkontos ausgeführt werden.
Moravchick betonte allerdings, dass dieser RCE-Angriff nur funktioniert, wenn ASLR deaktiviert ist. CVE-2026-8461 allein umgeht diese Speicherschutzfunktion nicht. Theoretisch könne eine separate Informationsleck-Schwachstelle im FlashSV-Decoder von FFmpeg mit PixelSmash verkettet werden, um ASLR zu umgehen.
Ein weiteres von den Forschern beschriebenes Szenario läuft über Torrent-Downloads und kommt ohne Benutzerinteraktion aus. Ein Angreifer könnte demnach ein bösartiges Video gezielt für Jellyfin-Nutzer bereitstellen, die Downloads direkt in den Ordner der Medienbibliothek speichern. Der Echtzeit-Dateisystemmonitor von Jellyfin erkenne die neue Datei und stoße automatisch einen ffprobe-Scan an, während dessen der Exploit ausgelöst werde.
Auch ohne Remotecodeausführung reicht CVE-2026-8461 laut JFrog aus, um auf verwundbaren Zielen zuverlässig einen Denial-of-Service herbeizuführen. Plex ist nach Erkenntnissen der Forscher wirksam abgesichert, weil der Medienserver eine angepasste FFmpeg-Version mit deaktivierten Decodern und einer minimalen Erlaubnisliste nutzt.
Neben FFmpeg 8.1.2 hat auch Jellyfin seine mitgelieferte FFmpeg-Version aktualisiert. PhotoPrism arbeitet daran, eine Sperrliste für Dateiformate zu ergänzen, um eine mögliche Ausnutzung zu verhindern. Das Nextcloud-Team erhielt den Bericht über HackerOne, lehnte eine Behebung jedoch ab, weil der Fehler außerhalb von Nextcloud liege.
JFrog entdeckte PixelSmash und meldete die Schwachstelle am 13. Mai an das FFmpeg-Sicherheitsteam. Der Entwickler behob das Problem in Version 8.1.2, die am 17. Juni veröffentlicht wurde. JFrog spricht von einem Lieferkettenproblem, weil der MagicYUV-Decoder in Hunderten Projekten vorhanden sei, die darauf vertrauten, dass FFmpeg nicht vertrauenswürdige Eingaben sicher verarbeitet.