我看到我们公司会计把所有的进货单只用了一张记账凭证填制，会不会太简单了？

是太简单了，没有把进货单进行详细分类，也可能你公司业务不多是个小公司，会计也就不用那样详细分类了。