深入分析luait反编译之luajit-decomp

背景

Luajit在游戏中应用广泛，在逆向分析游戏过程中免不了与luajit打交道，那网上有非常多关于luajit反编译的资料，汇总起来常用的两种方案：

https://github.com/zzwlpx/ljd

和

https://github.com/bobsayshilol/luajit-decomp,

第一种方案相对来说可读性好但兼容性差经常出现反编译异常崩溃。第二种方案反编译更稳定但可读性稍差。在实践中稳定性是优先考虑的，所以这篇文章将深入分析第二种方案并解决开源代码相关问题。

使用

1.下载

https://github.com/bobsayshilol/luajit-decomp

1. 确定luajit版本（如何确定不是本文重点）， 这里 下载对应版本
2. 编译luajit然后将生成的luajit.exe、lua51.dll和jit文件夹覆盖到lua-decomp
3. 复制要反编译的文件到luajit-decomp
4. 将反编译文件重命名为test.lua
5. 运行decoder_new.exe
6. 最终生成test.asm out.lua out2.lua，out2.lua就是我们要的文件

源码分析

源码Decoder.au3编写采用的是basic语言，具体编译环境安装看

，花了些时间熟悉了basic语法然后分析源码，其流程见下图：

Test.asm->Out.lua->Out2.lua内容变化见下图：

核心代码逻辑见下图：

问题

问题一：decoder.au3编译报错，作者隐藏了_ArrayAdd函数的自定义实现。

解决：将_ArrayAdd替换为__ARRAYADD，__ARRAYADD定义如下：

FUNC __ARRAYADD(BYREF $AVARRAY, $VVALUE)
   IF NOT ISARRAY($AVARRAY) THEN RETURN SETERROR(0x00000001, 0x00000000, -0x00000001)
   IF UBOUND($AVARRAY, 0x00000000) <> 0x00000001 THEN RETURN SETERROR(0x00000002, 0x00000000, -0x00000001)
   LOCAL $IUBOUND = UBOUND($AVARRAY)
   REDIM $AVARRAY [$IUBOUND + 0x00000001 ]
   $AVARRAY [$IUBOUND ]= $VVALUE
   RETURN $IUBOUND
ENDFUNC           

问题二：实际项目反编译会崩溃，因为lua的定义函数个数超过了定义数组的大小

解决：将$filo数组扩容

ElseIf $f = "FNEW" Then
        If $p1 >= UBound($filo) then
           ReDim $filo[UBound($filo)+50]
        EndIf
        $filo[$p1] = "randomFunction" & $randomFunctionNo
        If $c = "" Then
            FileWriteLine($out,"local randomFunction" & $randomFunctionNo & " = function() end -- unknown location")
        Else
            FileWriteLine($out,"local randomFunction" & $randomFunctionNo & " = function() end -- starts at " & $c)
        EndIf
        $randomFunctionNo = $randomFunctionNo + 1           

问题三：可读性差，笔者曾尝试在out2.lua基础上做优化，但发现本质原因是指令翻译这一步本身就有问题，譬如：if repeat until else end 顺序被打乱成 if repeat else until end，Function if end end 残缺为function if end。如果想解决此问题，还是推倒重新实现吧。