/usr/include/md5.h は MD5Init(), MD5Update(), MD5Final()
/usr/include/openssl/md5.h は MD5_Init(), MD5_Update(), MD5_Final()

しかもどちらとも同じ名前で定義してる中身の違う MD5_CTX という構造体を扱うので混ぜるな超危険…
俺の１時間返せ