Normalerweise kann man einer Virtuellen Maschine maximal 128 MB Grafikspeicher zuteilen, mehr lässt die Bedienoberfläche nicht zu.
Das kann man umgehen, indem man die .vbox-Datei der entsprechenden Virtuellen Maschine mit einem Texteditor öffnet und dort den VRAMSize="128" auf einen gewünschten Wert ändert.