#include<stdio.h>
#include<stdlib.h>
int main()
{
    int n =1;
    jay(n);
    printf("the num is %d",jay(99));
    getch();
    return 0;
}
 int jay(n)
    {
        if(n==100)
        {
            return 100;
         }
         return n * jay(n++);
    }

jay(1)

两个错。第一，return n*jay(n++);这个语句结果未定义，就算它是对的（事实上这个语句是完全错误的），也不是你想要的结果。改成return n*jay(n+1);
第二，你为什么写了jay(1)以后丢弃了结果？还又写了一遍jay(99)？去掉jay(1)

某些语法错误我就不说了，自己检查吧。