virtualbox编译记录

参考文档

机器环境及之前已有库

  • windows 10 x64
  • Visual Studio 2015 Community 版本
  • Windows Driver Development Kit (WDK) v7.1
  • Qt5.7.1
  • Python 2.7.8
  • Nsis 3.0b1
  • JDK7 JDK8
  • zlib 在 D:\thridparty\zlib
  • VirtualBox 69891版本

下载工具和库

下载Virtualbox推荐的链接

openssl

其实下Light版本应该就够了

其它库

  • libxml2 virtualbox已含
  • zlib virtualbox已含
  • 其它可选库都不要

check out代码

编译curl

将以下指令保存到curl根目录的批处理文件中，并执行:

build_dll.bat

@echo off
@cd winbuild
@echo 正在使用release模式编译libcurl
1
2
3
4
5
6
7
8
9
    @nmake /f Makefile.vc WITH_DEVEL=D:\VC_INCLUDE\OpenSSL-Win32 WITH_ZLIB=D:\thridparty\zlib mode=dll VC=14 WITH_SSL=dll ENABLE_IDN=no RTLIBCFG=dll DEBUG=no MACHINE=x86
    @REM @echo on
    @cd ..

`build_dll_x64.bat`

    @echo off
    @cd winbuild
    @echo 正在使用release模式编译libcurl


@nmake /f Makefile.vc WITH_DEVEL=D:\VC_INCLUDE\OpenSSL-Win64 WITH_ZLIB=D:\thridparty\zlib mode=dll VC=14 WITH_SSL=dll ENABLE_IDN=no RTLIBCFG=dll DEBUG=no MACHINE=x64
@REM @echo on
@cd ..

编译输出在

  • D:\thridparty\curl\builds\libcurl-vc14-x64-release-dll-ssl-dll-ipv6-sspi
  • D:\thridparty\curl\builds\libcurl-vc14-x86-release-dll-ssl-dll-ipv6-sspi

因为virtualbox查找curl的lib和dll时只在指定目录查找，所以还需要将他们子目录下的bin和lib目录里的文件拷贝到父级目录。

编译Virtulbox

LocalConfig.kmk

代码根目录新建文件LocalConfig.kmk，内容：

VBOX_WITH_ADDITIONS=

VBOX_WITH_ADDITIONS_PACKING=
#Don't build + package the VirtualBox Guest Additions. If only VBOX_WITH_ADDITIONS= is specified then the Guest Additions are not built but the VBoxGuestAdditions.iso file is expected to be present in the 'out\win.ARCH\release\bin\additions' directory.

VBOX_ONLY_ADDITIONS=1
#Build the Guest Additions exclusively.

VBOX_WITH_VALIDATIONKIT=
#Don't build + package the VirtualBox validation kit. The validation kit is not part of the final .msi package anyway.

VBOX_WITH_WEBSERVICES=
#Don't build + package the webservices API server.

VBOX_WITHOUT_HARDENING=1

VBOX_INF2CAT=D:\WinDDK\7600.16385.1\bin\selfsign\Inf2Cat.exe
VBOX_PATH_SIGN_TOOLS=D:\WinDDK\7600.16385.1\bin\amd64\SignTool.exe

# 以下的我不用，只是机器上有，就放上来
VBOX_PATH_NSIS=D:\Program Files\NSIS
VBOX_ZIP=D:\VC_INCLUDE\GetGnuWin32\gnuwin32\bin\zip.exe
VBOX_PATH_WISUMINFO=D:\projects\Microsoft SDKs\Windows\v7.1\Samples\sysmgmt\msi\scripts\WiSumInf.vbs
VBOX_MKISOFS=C:\Program Files (x86)\VMware\VMware Workstation\mkisofs.exe

configure.vbs

configure.vbs中修改代码

if   (InStr(1, g_strShellOutput, "Version 16.") <= 0) _
And (InStr(1, g_strShellOutput, "Version 17.") <= 0) then
    MsgError "The Visual C++ compiler we found ('" & strPathVC & "') isn't 10.0 or 11.0. Check the build requirements."
    exit sub
end if

为

if   (InStr(1, g_strShellOutput, "Version 16.") <= 0) _
    And (InStr(1, g_strShellOutput, "Version 17.") <= 0) _
    And (InStr(1, g_strShellOutput, "Version 18.") <= 0) _
    And (InStr(1, g_strShellOutput, "19.00") <= 0) then
    MsgError "Check Version failed: The Visual C++ compiler we found ('" & strPathVC & "') isn't 10.0 - 14.0. Check the build requirements."
    exit sub
end if

用来支持vs2015

build.bat

根目录新建build_x64.bat:

@echo off
set cur_dir= %~dp0%
call D:\projects\virtualbox\kBuild\envwin.cmd

cscript %cur_dir%configure.vbs --with-vc="C:\Program Files (x86)\Microsoft Visual Studio 14.0" --with-MinGW-w64=D:\projects\virtualbox\mingw64 --with-SDK="C:\Program Files (x86)\Microsoft SDKs\Windows\v7.1A" --with-DDK=D:\VC_INCLUDE\Windows\WinDDK  --with-Qt5=E:\Qt\Qt5.7.1\5.7\msvc2015_64 --with-python=D:\Python27 --with-libcurl32=D:\thridparty\curl\builds\libcurl-vc14-x86-release-dll-ssl-dll-ipv6-sspi --with-libcurl=D:\thridparty\curl\builds\libcurl-vc14-x64-release-dll-ssl-dll-ipv6-sspi --with-openssl32="D:\VC_INCLUDE\OpenSSL-Win32" --with-openssl="D:\VC_INCLUDE\OpenSSL-Win32" --disable-SDL --target-arch=amd64   
pause

执行之，然后再在命令行中分别执行：

env
kmk

问题

kmk: * Invalid number “ev”. Stop.

执行kmk后，出现这个问题，然后我无论是切换virtualbox的版本还是切换kbuild的版本，最后安装了vs2010版本。结果还是报这个错误。
最后挨个文件夹执行kmk，最后发现在virtualbox\trunk\src\recompiler中kmk提示这个错误。
打开这个目录的Makefile.kmk后搜索ev，只搜索到DVBOX_SVN_REV，就想起来既然makefile中使用到了svn版本号，而我用的这个库又是git的，那问题会不会出现在svn版本号生成的地方。后面又在kmk输出的out\revision.kmk里发现了export VBOX_SVN_REV=ev这样一来问题就很明显了。我只需要在生成svn版本号的地方改一下代码即可，但是手改config.kmk中的svn版本号分析实在是太烦了，所以就直接在LocalConfig.kmk中添加一行VBOX_SVN_REV=69807即可解决。

找不到

在D:\projects\virtualbox\trunk\src\VBox\Runtime\common\ldr\ldrkStuff.cpp中有#include <k/kLdr.h>，但是代码库里没有。在老版本的文件列表里倒是能找到。
最后没办法，先屏蔽掉它吧。在LocalConfig.kmk中添加一行IPRT_WITH_KSTUFF=这样D:\projects\virtualbox\trunk\src\VBox\Runtime\Makefile.kmk中就不会包含kdrkStuff.cpp了。

ifdef IPRT_WITH_KSTUFF
RuntimeR3_SOURCES += \
    common/ldr/ldrkStuff.cpp
endif

后面发现，可以从http://www.virtualbox.org/svn/kstuff-mirror下载kstuff的源码，所以这个又能编译的过

spu_dispatch_table.h

D:\projects\virtualbox\trunk\src\VBox\GuestHost\OpenGL\include\cr_spu.h(16) : fatal error C1083: 无法打开包括文件:“spu_dispatch_table.h”: No such file or directory

查看MakeFile发现D:\projects\virtualbox\trunk\src\VBox\Additions\common\crOpenGL\Makefile.kmk中用到D:\projects\virtualbox\trunk\src\VBox\GuestHost\OpenGL\Makefile.kmk中生成的spu_dispatch_table.h。而OpenGL\Makefile.kmk还没有执行。

并且在https://www.virtualbox.org/wiki/Windows%20build%20instructions中有提到：
This step will fail for a 64-bit (amd64) target if the Guest Additions are part of the build process (which is the default, disable by adding VBOX_WITH_ADDITIONS= and VBOX_WITH_ADDITIONS_PACKING= to LocalConfig.kmk, see below). It will complain about a dependency to VBoxOGL* libraries in out\win.x86\release\bin\additions. In that case, create the 32-bit Guest Additions by executing。

所以，先在LocalConfig.kmk中加入 VBOX_WITH_ADDITIONS= and VBOX_WITH_ADDITIONS_PACKING= 跳过addtions的编译

无法解析的外部符号 isprint

用2015编译过程中，大量的link错误，报错都是：

1
2
3
bin2c.obj : error LNK2019: 无法解析的外部符号 isprint，该符号在函数 main 中被引用
bin2c.obj : error LNK2019: 无法解析的外部符号 __acrt_iob_func，该符号在函数 main 中被引用
bin2c.obj : error LNK2019: 无法解析的外部符号 fclose，该符号在函数 main 中被引用

报错的程序太多，构建脚本又太复杂，经过摸索使用bin2c这个cpp来突破,bin2c不依赖于其它virtualbox或三方库代码，单独使用命令行cl即可编译生成出exe。

经研究，virtualbox在编译命令行中加入了-Zl,于是用cl -Zl bin2c.c 编译，果然直接失败，但输出obj后在link时添加c运行时库能成功。

// -Zl https://msdn.microsoft.com/zh-cn/library/f1tbxcxh.aspx。 ps：-Zl这是小写L，不是数字1.
// 可以使用 /Zl 来编译打算放入库中的 .obj 文件。 虽然省略库名只为单个 .obj 文件节省了少量空间，但在包含许多对象模块的库中节省的总空间是很多的。
cl.exe  -Zl -Fobin2c.obj bin2c.c
然后使用 link.exe bin2c.obj libcmt.lib 可以链接通过。

但从Config.kmk中看到，编译时还是带上了libcmt.lib的，比如：

VBoxRT_LIBS.win.x86 = \
    $(PATH_TOOL_$(VBOX_VCC_TOOL_STEM)X86_LIB)/oldnames.lib \
    $(PATH_TOOL_$(VBOX_VCC_TOOL_STEM)X86_LIB)/libcmt.lib \
    $(PATH_TOOL_$(VBOX_VCC_TOOL_STEM)X86_LIB)/libcpmt.lib

但还是链接，从日志文件中提取出来最后的line命令行，并且精简如下：link.exe /NOD bin2c.obj libcmt.lib,其中去掉这个/NOD就会链接成功。msdn上并没有该选项，仅有一个/NODEFAULTLIB 在解析外部引用时忽略所有（或指定的）默认库。,通过实验它们两是效果相等的。

但同样是添加了/NOD选项，用vs2010编译就不会失败，而用2015就失败。只好先去掉/NOD这个选项。

kmk_builtin_kDepObj 删除sanity-c相关文件失败

kmk: *** [D:/projects/virtualbox/trunk/out/obj/RuntimeBldProg/common/misc/sanity-c.obj] Error 512 (0x200)
The failing command:
@kmk_builtin_kDepObj -f -s -q -o D:/projects/virtualbox/trunk/out/obj/RuntimeBldProg/common/misc/sanity-c.obj.dep -t D:/projects/virtualbox/trunk/out/obj/RuntimeBldProg/common/misc/sanity-c.obj D:/projects/virtualbox/trunk/out/obj/RuntimeBldProg/common/misc/sanity-c.obj
kmk: *** Deleting file `D:/projects/virtualbox/trunk/out/obj/RuntimeBldProg/common/misc/sanity-c.obj'
kmk: *** Waiting for unfinished jobs....
kmk: *** Exiting with status 2

vs2015下才有此bug，原因未知，先换用2010继续编译

资源编译失败

D:/projects/virtualbox/mingw32/bin/windres: unknown format type `D:/projects/virtualbox/trunk/include'
D:/projects/virtualbox/mingw32/bin/windres: supported formats: rc res coff

原始命令行：

D:/projects/virtualbox/mingw32/bin/windres    -ID:/projects/virtualbox/trunk/include -ID:/projects/virtualbox/trunk/out_vs2010 -IC:/PROGRA~2/MICROS~1/Windows/v7.1A/Include -IC:/PROGRA~2/MICROS~4.0/VC/include     -DVBOX_SVN_REV=69891     -DVBOX_SVN_REV_MOD_5K=19891     D:/projects/virtualbox/trunk/src/recompiler/VBoxREM.rc D:/projects/virtualbox/trunk/out_vs2010/obj/VBoxREMImp/VBoxREMRes.o

查看windres的帮助，发现下载的virtualbox推荐mingw32里的windres是GNU windres (GNU Binutils) 2.25，-I参数不是输入文件，而是指格式。

Usage: D:\projects\virtualbox\mingw32\bin\windres.exe [option(s)] [input-file] [output-file]
 The options are:
  -i --input=<file>            Name input file
  -o --output=<file>           Name output file
  -I --input-format=<format>   Specify input format
  -O --output-format=<format>  Specify output format

再查看其它几个windres发现是-I --input-format=<format> Specify input format，于是就从其它地方找了windres替换掉这个。

dllwrap.exe 报错 undefined reference to `__dyn_tls_init_callback’ 1

/mingw/lib/dllcrt2.o(.text+0xd1): undefined reference to `__dyn_tls_init_callback` 1

# 命令行是
D:/projects/virtualbox/mingw32/bin/dllwrap.exe  -s                         --dllname=D:/projects/virtualbox/trunk/out_vs2010/obj/VBoxRemPrimary/VBoxREM32.dll --output-exp=D:/projects/virtualbox/trunk/out_vs2010/obj/VBoxRemPrimary/VBoxREM32.exp --output-lib=D:/projects/virtualbox/trunk/out_vs2010/obj/VBoxRemPrimary/VBoxREM32.a  --def D:/projects/virtualbox/trunk/out_vs2010/obj/VBoxREMImp/VBoxREMWin.def  D:/projects/virtualbox/trunk/out_vs2010/obj/VBoxRemPrimary/VBoxRecompiler.o D:/projects/virtualbox/trunk/out_vs2010/obj/VBoxRemPrimary/cpu-exec.o D:/projects/virtualbox/trunk/out_vs2010/obj/VBoxRemPrimary/exec.o D:/projects/virtualbox/trunk/out_vs2010/obj/VBoxRemPrimary/translate-all.o D:/projects/virtualbox/trunk/out_vs2010/obj/VBoxRemPrimary/host-utils.o D:/projects/virtualbox/trunk/out_vs2010/obj/VBoxRemPrimary/cutils.o D:/projects/virtualbox/trunk/out_vs2010/obj/VBoxRemPrimary/tcg-runtime.o D:/projects/virtualbox/trunk/out_vs2010/obj/VBoxRemPrimary/tcg/tcg.o D:/projects/virtualbox/trunk/out_vs2010/obj/VBoxRemPrimary/tcg/tcg-dyngen.o D:/projects/virtualbox/trunk/out_vs2010/obj/VBoxRemPrimary/fpu/softfloat-native.o D:/projects/virtualbox/trunk/out_vs2010/obj/VBoxRemPrimary/target-i386/op_helper.o D:/projects/virtualbox/trunk/out_vs2010/obj/VBoxRemPrimary/target-i386/helper.o D:/projects/virtualbox/trunk/out_vs2010/obj/VBoxRemPrimary/target-i386/translate.o D:/projects/virtualbox/trunk/out_vs2010/obj/VBoxREMImp/VBoxREMRes.o  -LD:/projects/virtualbox/mingw32/lib   D:/projects/virtualbox/trunk/out_vs2010/lib/VBoxVMM.lib   D:/projects/virtualbox/trunk/out_vs2010/lib/VBoxRT.lib

神奇的是，去掉-LD:/projects/virtualbox/mingw32/lib或者将目录改成我原来的D:/Mingw/lib就能正常生成dll。所以我觉得是virtualbox推荐的mingwruntime有问题，所以我去下载了mingwrt-3.22.4版本，也能正常编译。

QT“void (__thiscall UISnapshotPane:: )(void)”转换为“const char ”

D:\projects\virtualbox\trunk\src\VBox\Frontends\VirtualBox\src\selector\UISnapshotPane.cpp(1273) : error C2664: “QAction *QToolBar::addAction(const QIcon &,const QString &,const QObject *,const char *)”: 不能将参数 4 从“void (__thiscall UISnapshotPane::* )(void)”转换为“const char *”
        没有使该转换得以执行的上下文

事实证明一开始偷懒下载的Qt5.5.1不支持virtualbox使用的头文件,Qt5.6.x之后有Q_QDOC宏包括起来的几个头文件。于是下载5.6.2版本重新编译。这里不能下载5.7.x版本，因为5.7.x版本的不支持vs2010编译了。

在config.kmk中的第5933行中发现还有对VBOX_WITH_ORACLE_QT宏的判断，这个宏最终编译QT这些DLL的virtualBox版本。但我没有搞懂(也没有时间)怎么才能像官网版本那样编译出来Qt5CoreVBox.dll、Qt5GuiVBox.dll、Qt5OpenGLVBox.dll、Qt5PrintSupportVBox.dll、Qt5WidgetsVBox.dll、Qt5WinExtrasVBox.dll这几个文件。

src/libs/xpcom18a4/python/gen_python_deps.py: No Python development package found!

其实virtualbox已经能运行了，但是在研究VBoxFB时使用了新的宏，编译时提示错误。
kmk.exe VBOX_WITH_VBOXFB=1 VBOX_WITH_XPCOM=1

但看具体代码，似乎VBoxFB在非win系统下使用的。所以这个就跳过了。

安装启动

解决以上bug后，编译都顺利通过，然后我还继续使用vs2010编译了64位的qt。然后编译了64位的virtualbox。

然后将编译中用到的libcurl和openssl相关dll放到bin目录。 libcrypto-1_1-x64.dll、libcurl.dll、libssl-1_1-x64.dll，还有QT相关的6个dll，Qt5Core.dll、Qt5Gui.dll、Qt5OpenGL.dll、Qt5PrintSupport.dll、Qt5Widgets.dll、Qt5WinExtras.dll。然后各种程序启动不报错，但是启动还没有效果。

需要按照官网上build instructions网页上的说法：

  1. 需要先注册com进程，以管理员权限运行：comregister.cmd。
  2. loadall.cmd 安装驱动，但驱动(.sys结尾的7个文件)需要先签名。
  3. 然后就能启动VirtualBox.exe了。

SUPInstall.exe: error: installation failed. rc=VERR_UNRESOLVED_ERROR

在第2步安装驱动时，提示：

+ D:/projects/virtualbox/out_vs2010_x64/bin/SUPInstall.exe
SUPInstall.exe: error: installation failed. rc=VERR_UNRESOLVED_ERROR

将所有驱动文件生成对应的cat文件，并且将cat和sys签名即可。

开源项目
windows, tool, system