VirtualBoxでゲストOSを実行する場合、通常はVirtualBoxに対応したディスプレイドライバをゲストOSにインストールする必要があります。ゲストOSが特殊で標準のディスプレイドライバしか利用できない場合は低解像度しか利用できませんが、もしゲストOSがVMwareのディスプレイドライバを持っている場合、グラフィックスコントローラをVMware仕様に変更することで高解像度を利用できる可能性があります。
最近のVirtualBoxにはVMware仕様のグラフィックスコントローラも組み込まれており、コマンドラインからVM設定を変更することで利用できます。 VBoxManage コマンドのヘルプを見ると、以下のように --graphicscontroller オプションで vmsvga が選択できることが分かります。
% /Applications/VirtualBox.app/Contents/MacOS/VBoxManage modifyvm
Usage:
VBoxManage modifyvm <uuid|vmname>
...(中略)...
[--graphicscontroller none|vboxvga|vmsvga]
グラフィックスコントローラをVMware仕様に変更するには以下を実行します。
/Applications/VirtualBox.app/Contents/MacOS/VBoxManage modifyvm VM名 --graphicscontroller vmsvga
私の環境では問題なく動作しています。高解像度が出てこない場合はビデオメモリを増やしてみてください。
なお、この機能はGUIからは利用できないようになっています。以下のメーリングリストによるとexperimentalなので正式にはサポートされていないようです。
